Zum Inhalt springen
Alle Insights

KI mit Menschen als Entscheider

Erst die Befugnisse gestalten, dann den KI-Agenten

Ein KI-Agent, der den maritimen Kontext versteht, kann viel Mehrwert schaffen. Ein KI-Agent ohne klar abgegrenzte Befugnisse ist ein Governance-Problem.

Ultimate Maritime Logistics4 Min. Lesezeit

Warum Befugnisse an erster Stelle stehen

Die meisten Gespräche über KI in der Schifffahrt beginnen beim Modell: was es lesen, zusammenfassen oder vorhersagen kann. Die wichtigere Designfrage kommt früher. Sobald ein Agent Services in dem System aufrufen kann, in dem Buchungen, Container, Rechnungen und Buchungssätze verarbeitet werden, ist er kein Chat-Tool mehr. Er ist Teil des Prozesses und braucht dieselbe Klarheit über Verantwortung wie jeder Benutzer.

In Dynamics 365 Finance & Operations arbeiten Menschen bereits so. Microsoft Entra regelt die Identität, und Sicherheitsrollen, aufgebaut aus Aufgaben, Privilegien und Berechtigungen, bestimmen, was jeder Benutzer sehen und tun darf. Regeln zur Funktionstrennung können Zugriffskombinationen erkennen oder verhindern, die nicht in eine Hand gehören. Ein KI-Agent darf dieses Modell nicht umgehen oder zum uneingeschränkten Superuser werden.

Die Grenze pro Use Case festlegen

Bestimmen Sie pro Use Case, welche Identität handelt, welche Informationen gelesen werden dürfen, welche APIs oder Geschäftsservices aufgerufen werden dürfen, welche Regeln gelten und welche Aktionen eine menschliche Freigabe erfordern.

Statt uneingeschränkten Zugriffs auf das ERP stellen wir definierte Geschäftsservices und Informationen über verwaltete Schnittstellen bereit. So liest ein Agent nur, was nötig ist, und handelt nur dort, wo es erlaubt ist.

In der Praxis läuft es auf fünf Fragen hinaus. Identifizieren: Welcher Benutzer, welche Anwendung oder welcher Agent handelt? Autorisieren: Welche Daten und Services darf er nutzen? Begrenzen: Welche Regeln, Guardrails und Limits gelten? Freigeben: Welche Aktionen erfordern einen Menschen? Protokollieren: Was wurde angefragt, entschieden und ausgeführt?

Autonomie dem Risiko folgen lassen

Eine Benachrichtigung mit geringem Risiko kann vollständig automatisiert werden. Eine kommerzielle Änderung, eine Compliance-Entscheidung oder eine Finanzbuchung kann eine Validierung oder eine ausdrückliche Freigabe erfordern. Der Grad der Autonomie sollte zu den Folgen eines Fehlers passen.

Es hilft, in drei Stufen zu denken. Beobachten: Der Agent liest freigegebene Dokumente, Ereignisse und Geschäftskontext und ändert nichts. Beraten: Er interpretiert die Informationen, erkennt eine Ausnahme und empfiehlt die nächste Aktion. Handeln innerhalb von Grenzen: Er ruft zulässige Services für erlaubte Aktionen auf, mit menschlicher Freigabe, wo Richtlinien oder Risiko es erfordern.

Ein Agent kann beispielsweise eine Buchung abrufen und mit einer eingehenden Shipping Instruction abgleichen, während eine wesentliche kommerzielle oder finanzielle Änderung zunächst von einer Fachperson freigegeben wird, bevor Dynamics 365 aktualisiert wird. Freigabeschwellen können Risiko, Wert, Konfidenz, Prozesstyp und Kundenrichtlinie berücksichtigen.

Auch um das Modell Kontrollen legen

Guardrails gehören sowohl um das Modell als auch in den Geschäftsprozess. Microsoft Foundry bietet Funktionen wie Prompt Shields zur Erkennung manipulativer Prompts und Dokumentenangriffe, und Azure AI Content Safety kann, wo relevant, Kontrollen für Inhaltsrisiken unterstützen.

KI-Governance umfasst außerdem Datenzugriff, Plattform- und Modellauswahl, Sicherheit, regulatorische Anforderungen, Kosten, laufendes Monitoring und Verantwortlichkeiten im Lebenszyklus. Es geht nicht nur um das Prompt-Design.

Auch die menschliche Prüfung gehört zum selben Design. Automatisierung bedeutet nicht, dass jede Empfehlung automatisch ausgeführt werden soll, und die Punkte, an denen ein Mensch entscheidet, sollten mit dem Fachbereich vereinbart und nicht dem Modell überlassen werden.

Alles protokollieren

Was wurde angefragt, was wurde entschieden und was wurde ausgeführt? Protokollierung, Monitoring und Review machen intelligente Workflows prüfbar, für Ihre eigene Organisation und für Prüfer.

Wenn eine Ausnahme auftritt, sollte ein Prüfer nachvollziehen können, welche Identität gehandelt hat, welche Informationen sie genutzt hat und wer die Änderung freigegeben hat. Diese Aufzeichnung macht einen intelligenten Workflow erklärbar und vertretbar.

Die Befugnisse vor dem Bau festhalten

Legen Sie für jeden intelligenten Use Case fest, auf welche Daten er zugreifen darf, welche Services er aufrufen darf, welche Entscheidungen er empfehlen oder ausführen darf, welche Freigaben erforderlich sind und welche Nachweise aufbewahrt werden. Tun Sie das, bevor der Agent gebaut wird, nicht erst nach dem Go-live. Mehr Intelligenz sollte nie weniger Kontrolle bedeuten.

Bringen Sie einen Prozess mit.

Eine Reklamation, ein Rechnungsfluss oder ein Hafenanlauf, den Sie jede Woche abwickeln. Wir zeigen, wie er in Flex läuft und wo er Sie heute Zeit kostet.