AI waarbij mensen beslissen
Ontwerp de bevoegdheden vóór de AI-agent
Een AI-agent die maritieme context begrijpt, kan veel waarde toevoegen. Een AI-agent zonder afgebakende bevoegdheden is een governanceprobleem.
Ultimate Maritime Logistics4 min leestijd
Waarom bevoegdheden voorop staan
De meeste gesprekken over AI in de scheepvaart beginnen bij het model: wat het kan lezen, samenvatten of voorspellen. De belangrijkere ontwerpvraag komt eerder. Zodra een agent services kan aanroepen in het systeem waarin boekingen, containers, facturen en journaalposten worden verwerkt, is het geen chattool meer. Hij maakt deel uit van het proces en heeft dezelfde duidelijkheid over verantwoordelijkheid nodig als elke gebruiker.
In Dynamics 365 Finance & Operations werken mensen al zo. Microsoft Entra regelt de identiteit, en beveiligingsrollen opgebouwd uit taken, privileges en rechten bepalen wat elke gebruiker mag zien en doen. Regels voor functiescheiding kunnen combinaties van toegang signaleren of voorkomen die niet bij één persoon thuishoren. Een AI-agent mag dat model niet omzeilen of een onbeperkte superuser worden.
Leg per use case de grens vast
Bepaal per use case welke identiteit handelt, welke informatie gelezen mag worden, welke API's of bedrijfsservices aangeroepen mogen worden, welke regels gelden en welke acties menselijke goedkeuring vereisen.
In plaats van onbeperkte toegang tot het ERP stellen we gedefinieerde bedrijfsservices en informatie beschikbaar via beheerde interfaces. Zo leest een agent alleen wat nodig is en handelt hij alleen waar dat is toegestaan.
In de praktijk komt het neer op vijf vragen. Identificeren: welke gebruiker, applicatie of agent handelt? Autoriseren: welke data en services mag hij gebruiken? Begrenzen: welke regels, guardrails en limieten gelden? Goedkeuren: welke acties vragen om een mens? Vastleggen: wat is gevraagd, besloten en uitgevoerd?
Laat autonomie het risico volgen
Een notificatie met een laag risico kan volledig geautomatiseerd worden. Een commerciële wijziging, een compliancebeslissing of een financiële boeking kan validatie of expliciete goedkeuring vragen. Het niveau van autonomie hoort te passen bij de gevolgen van een fout.
Het helpt om in drie niveaus te denken. Observeren: de agent leest goedgekeurde documenten, gebeurtenissen en bedrijfscontext en wijzigt niets. Adviseren: hij interpreteert de informatie, signaleert een uitzondering en beveelt de volgende actie aan. Handelen binnen grenzen: hij roept goedgekeurde services aan voor toegestane acties, met menselijke goedkeuring waar beleid of risico dat vraagt.
Een agent kan bijvoorbeeld een boeking ophalen en vergelijken met een binnenkomende shipping instruction, terwijl een materiële commerciële of financiële wijziging eerst door een medewerker wordt goedgekeurd voordat Dynamics 365 wordt bijgewerkt. Goedkeuringsdrempels kunnen risico, waarde, betrouwbaarheid, procestype en klantbeleid weerspiegelen.
Zet ook rond het model controles
Guardrails horen zowel rond het model als binnen het bedrijfsproces te zitten. Microsoft Foundry biedt mogelijkheden zoals Prompt Shields om kwaadwillende prompts en documentaanvallen te herkennen, en Azure AI Content Safety kan waar relevant controles op inhoudsrisico's ondersteunen.
AI-governance omvat ook toegang tot data, de keuze van platform en model, beveiliging, wettelijke eisen, kosten, operationele monitoring en verantwoordelijkheden over de hele levenscyclus. Het gaat dus niet alleen om promptontwerp.
Menselijke beoordeling hoort bij hetzelfde ontwerp. Automatisering betekent niet dat elke aanbeveling automatisch wordt uitgevoerd, en de punten waar een mens beslist moeten met de business worden afgesproken in plaats van aan het model te worden overgelaten.
Leg alles vast
Wat is gevraagd, wat is besloten en wat is uitgevoerd? Logging, monitoring en review maken intelligente workflows controleerbaar, voor uw eigen organisatie en voor auditors.
Bij een uitzondering moet een beoordelaar kunnen zien welke identiteit handelde, welke informatie is gebruikt en wie de wijziging heeft goedgekeurd. Die vastlegging maakt van een intelligente workflow iets wat u kunt uitleggen en verdedigen.
Schrijf de bevoegdheid op vóór de bouw
Leg voor elke intelligente use case vast tot welke data hij toegang heeft, welke services hij mag aanroepen, welke beslissingen hij mag aanbevelen of uitvoeren, welke goedkeuringen nodig zijn en welk bewijs wordt bewaard. Doe dat voordat de agent wordt gebouwd, niet nadat hij live is. Meer intelligentie mag niet betekenen dat u minder controle heeft.





