Aller au contenu
Tous les articles

IA avec décision humaine

Concevez les habilitations avant l'agent IA

Un agent IA qui comprend le contexte maritime peut apporter beaucoup de valeur. Un agent IA sans habilitations clairement délimitées pose un problème de gouvernance.

Ultimate Maritime Logistics4 min de lecture

Pourquoi les habilitations viennent d'abord

La plupart des discussions sur l'IA dans le transport maritime commencent par le modèle : ce qu'il peut lire, résumer ou prédire. La question de conception la plus importante se pose plus tôt. Dès qu'un agent peut appeler des services dans le système qui gère réservations, conteneurs, factures et écritures comptables, ce n'est plus un simple outil de conversation. Il participe au processus et doit avoir la même clarté de responsabilité que n'importe quel utilisateur.

Dans Dynamics 365 Finance & Operations, les équipes travaillent déjà ainsi. Microsoft Entra gère l'identité, et des rôles de sécurité construits à partir de tâches, de privilèges et d'autorisations déterminent ce que chaque utilisateur peut voir et faire. Les règles de séparation des tâches permettent d'identifier ou d'empêcher des combinaisons d'accès qui ne devraient pas reposer sur une seule personne. Un agent IA ne doit pas contourner ce modèle ni devenir un super-utilisateur sans limites.

Fixez la limite pour chaque cas d'usage

Pour chaque cas d'usage, déterminez quelle identité agit, quelles informations peuvent être lues, quelles API ou quels services métier peuvent être appelés, quelles règles s'appliquent et quelles actions requièrent une approbation humaine.

Plutôt qu'un accès illimité à l'ERP, nous mettons à disposition des services métier et des informations définis via des interfaces maîtrisées. Ainsi, un agent ne lit que ce qui est nécessaire et n'agit que là où il y est autorisé.

En pratique, tout tient en cinq questions. Identifier : quel utilisateur, quelle application ou quel agent agit ? Autoriser : quelles données et quels services peut-il utiliser ? Encadrer : quelles règles, quels garde-fous et quelles limites s'appliquent ? Approuver : quelles actions requièrent une personne ? Consigner : qu'est-ce qui a été demandé, décidé et exécuté ?

Alignez l'autonomie sur le risque

Une notification à faible risque peut être entièrement automatisée. Une modification commerciale, une décision de conformité ou une écriture comptable peut nécessiter une validation ou une approbation explicite. Le niveau d'autonomie doit être proportionné aux conséquences d'une erreur.

Il est utile de raisonner en trois niveaux. Observer : l'agent lit les documents, événements et éléments de contexte métier approuvés et ne modifie rien. Conseiller : il interprète l'information, repère une exception et recommande l'action suivante. Agir dans un cadre défini : il appelle des services autorisés pour des actions permises, avec approbation humaine chaque fois que la politique ou le risque l'exige.

Un agent peut par exemple récupérer une réservation et la comparer à une instruction d'expédition entrante, tandis qu'une modification commerciale ou financière significative est d'abord approuvée par un collaborateur avant la mise à jour de Dynamics 365. Les seuils d'approbation peuvent refléter le risque, la valeur, le niveau de confiance, le type de processus et la politique du client.

Placez aussi des contrôles autour du modèle

Les garde-fous doivent entourer le modèle autant que le processus métier. Microsoft Foundry propose des fonctions telles que Prompt Shields pour détecter les requêtes malveillantes et les attaques via des documents, et Azure AI Content Safety peut appuyer les contrôles des risques liés au contenu lorsque c'est pertinent.

La gouvernance de l'IA couvre aussi l'accès aux données, le choix de la plateforme et du modèle, la sécurité, les exigences réglementaires, les coûts, la supervision opérationnelle et les responsabilités sur tout le cycle de vie. Elle ne se limite pas à la conception des prompts.

La revue humaine fait partie de la même conception. Automatiser ne signifie pas que chaque recommandation doit s'exécuter automatiquement, et les points où une personne décide doivent être convenus avec le métier plutôt que laissés au modèle.

Consignez tout

Qu'est-ce qui a été demandé, décidé et exécuté ? La journalisation, la supervision et la revue rendent les workflows intelligents contrôlables, pour votre propre organisation comme pour les auditeurs.

Lorsqu'une exception survient, un relecteur doit pouvoir voir quelle identité a agi, quelles informations elle a utilisées et qui a approuvé la modification. Cette traçabilité fait d'un workflow intelligent quelque chose que vous pouvez expliquer et défendre.

Formalisez les pouvoirs avant la construction

Pour chaque cas d'usage intelligent, définissez les données auxquelles l'agent peut accéder, les services qu'il peut appeler, les décisions qu'il peut recommander ou exécuter, les approbations requises et les preuves conservées. Faites-le avant de construire l'agent, pas après sa mise en production. Plus d'intelligence ne doit pas signifier moins de contrôle.

Apportez un processus.

Une réclamation, un flux de factures ou une escale que vous traitez chaque semaine. Nous montrons comment il se déroule dans Flex et où il vous coûte du temps aujourd’hui.