NLEN
Plan een gesprek

Diensten / ML- en LLM-operations

Modellen en LLM-toepassingen die in productie blijven werken.

We brengen machine learning-modellen en LLM-toepassingen op Databricks van notebook naar productie en houden ze daar: onder versiebeheer, getest, gemonitord en met governance. Een kernteam leidt, en toegewijde engineers sluiten aan waar het werk dat vraagt.

Plan een gesprekAlle diensten

01 / Problemen

Problemen die we oplossen

Dit zijn de situaties waarmee teams bij ML- en LLM-operations uitkomen.

  • Modellen blijven in notebooks hangenEen model werkt voor één data scientist en wordt nooit een dienst, omdat niets het notebook omzet in iets wat een team kan uitrollen, serveren en beheren.
  • Handmatige, trage releasesElke deployment is een overdracht met handmatig gebouwde stappen, dus een wijziging duurt weken en niemand kan zeggen welke versie draait.
  • Drift en kwaliteitsverlies blijven onopgemerktData verandert en modellen verslechteren ongemerkt. Zonder monitoring op invoer en voorspellingen is de eerste melding een klacht uit de business.
  • LLM-toepassingen zonder evaluatie, kostenbeheer of audittrailPrompts en modellen veranderen, en geen testset laat zien of een antwoord beter of slechter werd. Kosten hebben geen plafond en niemand kan aantonen welk model wat antwoordde.

02 / Levenscyclus

Eén pad van data naar productie

Elk model en elke LLM-toepassing volgt dezelfde zes stappen, zodat elke release herhaalbaar is en te reviewen.

  1. Data en featuresPipelines en een feature store
  2. Training en trackingExperimenten vastgelegd in MLflow
  3. EvaluatiepoortEen testset moet slagen
  4. Registry en goedkeuringModellen beheerd in Unity Catalog
  5. Deployment en servingBatch en realtime
  6. Monitoring en feedbackDrift, kwaliteit, hertraining

03 / Wat we bouwen

MLOps en LLMOps

Klassieke modellen en LLM-toepassingen vragen dezelfde discipline en andere controles. We bouwen beide op één platform.

MLOps

  • Experimenttracking en een modelregistry in MLflow, beheerd in Unity Catalog
  • Training- en deploymentpipelines als code, uitgerold via CI/CD
  • Feature-pipelines waarin training en inferentie dezelfde definities gebruiken
  • Batch- en realtime serving op Databricks Model Serving
  • Monitoring van drift en prestaties, met alerts
  • Hertrainingstriggers die uit monitoringresultaten volgen

LLMOps

  • Versiebeheer voor prompts en modellen
  • Evaluatiesets uit je eigen cases, met judges die aan mensen zijn getoetst
  • Een regressiepoort in de pipeline die een release tegenhoudt als de kwaliteit daalt
  • Tracing van elke stap die een toepassing zet
  • Guardrails en beleid op verzoeken en antwoorden
  • Kosten- en tokenbudgetten per use case via Unity AI Gateway
  • Inference tables als audittrail
  • Zelf gehoste open-weightmodellen met vLLM, of API-modellen, zoals je regels bepalen

Kosten- en tokenoptimalisatie voor LLM-toepassingen

04 / Aanpak

Hoe we het bouwen

Vijf stappen, elk met een resultaat dat je kunt reviewen. Alles is code in je repositories en wordt alleen door pipelines uitgerold.

  1. Breng het pad naar productie in kaart

    We volgen hoe een model nu bij gebruikers komt: wie het traint, wie het goedkeurt, hoe het wordt uitgerold en wie merkt dat het verslechtert. Het resultaat is een geprioriteerde lijst met hiaten.

  2. Bouw het platform als code

    Terraform en Asset Bundles leggen workspaces, registry, serving en monitoring vast. Pipelines rollen ze uit via dev, test, acceptatie en productie, en niemand deployt met de hand.

  3. Laat het eerste model of de eerste LLM-toepassing het hele pad lopen

    Eén echte use case gaat van data naar productie, met evaluatiepoort, goedkeuring, serving en monitoring, zodat het pad is bewezen op je eigen werk.

  4. Monitoring en runbooks

    Dashboards en alerts voor drift, kwaliteit, latency en kosten, en een runbook voor wat je doet als er een afgaat.

  5. Overdracht en training van je team

    Je team leert op hetzelfde pad te releasen, te monitoren en te hertrainen. Code, runbooks en besluiten blijven bij jou.

Het pad is een bundle, en elke release loopt erlangs.

  • De evaluatiepoort draait voordat een modelversie wordt geregistreerd
  • Goedkeuring zit tussen de registry en productie
  • Dezelfde bundle wordt naar elke omgeving uitgerold
databricks.ymlIllustratie
# Eén bundle rolt pipeline, model, endpoint uit
bundle:
  name: ml-service
targets:
  dev:
    mode: development
  test:
  acceptance:
  production:
resources:
  jobs:
    train_evaluate:   # trainen, dan de poort
  model_serving_endpoints:
    scoring:          # alleen goedgekeurde versies

05 / Bewijs

Machine learning die in productie draait

Resultaten zijn overgenomen uit onze casestudy's. Jouw resultaat hangt af van je data, je teams en je uitgangspunt.

Bij het RIVM, het Rijksinstituut voor Volksgezondheid en Milieu, bouwden we LLM-operationsframeworks en multi-agent-proofs-of-concept met MLflow, LangChain en Azure AI Foundry. Lees de RIVM-case

We hebben het Databricks Delivery Expert-trainingstraject voor Agent Evaluation afgerond, en we bouwen elke evaluatieset op je eigen taken.

  • Databricks
  • MLflow
  • Unity Catalog
  • Terraform
  • Azure DevOps
  • GitHub
  • Python

Governance voor AI

Eén gateway voor elk model, elke agent en elke tool

Elke aanroep van teams, agents en coding tools loopt via Unity AI Gateway, zodat toegang, kosten en logs dezelfde regels volgen als de rest van je data.

  1. Teams, agents, coding toolsWie een model aanroept
  2. Unity AI GatewayRechten, budgetten, limieten, beleid, logging
  3. Modellen, MCP-servers, toolsOp Databricks gehost en extern
  • ToegangUnity Catalog-rechten bepalen wie wat mag gebruiken.
  • Budgetten en limietenKosten en aantal verzoeken hebben een plafond per use case.
  • BeleidRegels gelden voor verzoeken en antwoorden.
  • LoggingElke aanroep komt voor audit in Delta-tabellen.
  • RouteringVerkeer wordt over modellen verdeeld, met failover.

Zo zetten we het op

  • De gateway en het beleid staan als code in de repository en worden door een pipeline uitgerold, nooit met de hand samengeklikt.
  • Eén service per use case, elk met een eigen budget en een eigenaar die erop aanspreekbaar is.
  • Inference-tabellen met een bewaartermijn en toegangsgroepen, zodat logs bruikbaar zijn en geen risico vormen.
  • Dashboards op system tables voor tokens, kosten en latency per team.
  • Coding agents zoals Claude Code lopen via de gateway, met repositoryregels en reviewpoorten erbovenop.
  • Fallbacks testen we vóór de livegang, door een bestemming bewust uit te zetten.
  • Smart Routing houden we buiten productie zolang het in Beta zit.

Algemeen beschikbaar. Smart Routing zit in Beta. Laatst gecontroleerd: 10 november 2026. Documentatie van Unity AI Gateway

06 / Oplevering

Wat je krijgt en hoe je begint

Elk begint met een gesprek over je scope.

Doorlooptijd: 4 tot 8 weken

MLOps- en LLMOps-fundament

We bouwen het pad naar productie voor je modellen en LLM-toepassingen op Databricks: registry, pipelines, evaluatiepoort, serving en monitoring, met je eerste use case erdoorheen.

Wat je krijgt

  • Beoordeling van je huidige pad naar productie
  • Registry, pipelines en serving als code in je repositories
  • Eerste model of LLM-toepassing via de evaluatiepoort naar productie gebracht
  • Monitoring, alerts en een runbook
  • Overdracht en training voor je team
Vraag een offerte aan

Doorlooptijd: 3 dagen

Databricks health check

We controleren kosten, beveiliging met de Security Analysis Tool, governance met Unity Catalog en oplevering met Asset Bundles en CI/CD. Je krijgt een geprioriteerde lijst met verbeterpunten.

Wat je krijgt

  • Review van kosten en gebruik
  • Bevindingen over beveiliging en governance
  • Review van oplevering en CI/CD
  • Geprioriteerde lijst met verbeterpunten en inspanning
Vraag een offerte aan

Alle samenwerkingsvormen

Gratis check

Doe de check

Een score van 0 tot 100 en een volgende stap, in ongeveer drie minuten.

Alle zes de checks

07 / FAQ

Vragen over ML- en LLM-operations

Werken jullie met onze bestaande modellen?

Ja. We beginnen bij wat je nu draait: modellen, notebooks, scripts en de tools eromheen. We brengen het pad naar productie in kaart en bouwen de ontbrekende onderdelen eromheen. Modellen die al werken gaan naar een registry, een pipeline en monitoring, en ze blijven van jou.

Welke tools gebruiken jullie?

Databricks op Azure: MLflow voor tracking en de registry, Unity Catalog voor governance, Model Serving voor endpoints en Unity AI Gateway voor LLM-toegang en budgetten. Terraform en Asset Bundles leggen het platform vast, en Azure DevOps of GitHub Actions rollen het uit. Past een andere tool beter bij een deel van je pad, dan zeggen we dat.

Kunnen jullie LLM's op onze eigen infrastructuur draaien?

Ja. We serveren open-weightmodellen met vLLM op je eigen servers, op Nebius in Europese regio's of op Azure in een EU-regio, en we zetten dezelfde evaluatie, tracing en budgetten eromheen als rond een API-model. De pagina over soevereine en zelf gehoste AI heeft de details.

Hoe meten jullie de kwaliteit van een LLM?

Met een evaluatieset uit je eigen cases. Judge-modellen beoordelen de antwoorden, en we toetsen de judges aan beoordelingen van je mensen voordat we ze vertrouwen. De set draait bij elke wijziging als regressiepoort, en tracing laat elke stap achter een slecht antwoord zien.

Wat is er aan het eind van jou?

Alles. Pipelines, platformdefinities, evaluatiesets, dashboards en runbooks zijn code en documenten in je repositories en je Databricks-workspace. Je team is getraind op het pad, zodat je zonder ons kunt releasen, monitoren en hertrainen.

Volgende stap

Welk model moet als eerste in productie?

Vertel wat je nu draait en waar releases blijven hangen. We zeggen wat het pad naar productie nodig heeft en wat een eerste traject inhoudt.

Plan een gesprekStuur een berichtof mail info@nexops.nl direct

Open voor projecten in Q4 2026