04 / Het verhaal
Het verhaal
Hoe de opdracht verliep, in meer detail.
De situatie
DHL wilde voorbij reactief logistiek beheer gaan, richting voorspellende operaties in zijn Europese distributienetwerk. Vraagvoorspelling, routeoptimalisatie en anomaliedetectie waren de beoogde toepassingen. De datascienceteams moesten modellen ontwikkelen, in productie brengen en daar monitoren.
We bouwden een machine-learningplatform volledig in Databricks op Azure. De scope besloeg de hele levenscyclus van modellen en niet alleen de training: feature engineering, validatie, deployment, realtime inferentie en monitoring.
Belangrijke keuzes
We gebruikten Databricks Feature Store voor feature engineering op schaal. Zo kwam de voorbereiding van modelinput naast het trainen en uitleveren van modellen te staan. Feature engineering maakte deel uit van het platformontwerp en bleef geen aparte zorg buiten het platform.
We bouwden geautomatiseerde pipelines voor training, validatie en deployment met Azure DevOps en MLflow. De uitrolsnelheid was een concrete beperking: het uitrollen van een model duurde 6 weken. Door dat pad te automatiseren ging het naar 3 dagen, waardoor de datascienceteams een kortere route kregen van modelontwikkeling naar productie.
We implementeerden realtime inferentie-endpoints met auto-scaling. Het platform moest voorspellingen leveren en niet alleen modelontwikkeling ondersteunen. In productie leverden 12 ML-modellen voorspellingen voor 500K+ zendingen per dag.
Ook ontwierpen we monitoring voor modeldrift, met geautomatiseerde triggers voor hertraining. Daarmee ging de operationele scope verder dan deployment, tot en met het gedrag van modellen zodra ze draaiden.
Wat lastig was
De engineeringuitdaging omvatte meerdere samenhangende verantwoordelijkheden. Feature engineering moest op schaal werken; modellevering vroeg om training en validatie; inferentie moest voorspellingen leveren; en monitoring moest drift opsporen. Elk van deze los aanpakken zou niet hebben volstaan voor wat DHL nodig had om modellen te ontwikkelen, uit te rollen en te monitoren.
We pakten die verantwoordelijkheden aan binnen het Databricks-platform, ondersteund door geautomatiseerde leveringspipelines. De resultaten waren onder meer een 23% hogere nauwkeurigheid van vraagvoorspelling, waardoor er minder situaties met te veel of te weinig voorraad ontstonden, en de kortere uitrolcyclus.
Lessen voor vergelijkbare teams
Behandel modellevering als onderdeel van het platform en niet als werk dat pas begint na de training. De verbetering in uitrolsnelheid bij DHL kwam voort uit geautomatiseerde MLOps-pipelines die training, validatie en deployment omvatten.
Plan inferentie en monitoring naast de ontwikkeling. Realtime endpoints, auto-scaling en driftdetectie beantwoorden elk een andere operationele eis.
Maak ten slotte onderscheid tussen modelkwaliteit en leveringsprestaties. Nauwkeurigheid van voorspellingen en uitroltijd meten verschillende dingen. In deze opdracht leverden beide concreet bewijs van wat het platform opleverde.