Ir al contenido
Todas las perspectivas

IA con personas decidiendo

Diseñe los permisos antes que el agente de IA

Un agente de IA que comprende el contexto marítimo puede aportar mucho valor. Un agente de IA sin permisos delimitados es un problema de gobernanza.

Ultimate Maritime Logistics4 min de lectura

Por qué los permisos van primero

La mayoría de las conversaciones sobre IA en el transporte marítimo empiezan por el modelo: qué puede leer, resumir o predecir. La pregunta de diseño más importante llega antes. En cuanto un agente puede invocar servicios del sistema donde se gestionan reservas, contenedores, facturas y asientos contables, deja de ser una herramienta de chat. Forma parte del proceso y necesita la misma claridad de responsabilidades que cualquier usuario.

En Dynamics 365 Finance & Operations las personas ya trabajan así. Microsoft Entra gestiona la identidad, y los roles de seguridad, construidos a partir de funciones, privilegios y permisos, determinan lo que cada usuario puede ver y hacer. Las reglas de segregación de funciones pueden detectar o impedir combinaciones de acceso que no deberían recaer en una sola persona. Un agente de IA no debe saltarse ese modelo ni convertirse en un superusuario sin restricciones.

Fije el límite en cada caso de uso

Determine para cada caso de uso qué identidad actúa, qué información puede leerse, qué API o servicios de negocio pueden invocarse, qué reglas se aplican y qué acciones requieren aprobación humana.

En lugar de un acceso ilimitado al ERP, ponemos a disposición servicios de negocio e información definidos a través de interfaces gestionadas. Así, un agente solo lee lo necesario y solo actúa donde está permitido.

En la práctica se resume en cinco preguntas. Identificar: ¿qué usuario, aplicación o agente actúa? Autorizar: ¿qué datos y servicios puede utilizar? Delimitar: ¿qué reglas, salvaguardas y límites se aplican? Aprobar: ¿qué acciones requieren a una persona? Registrar: ¿qué se ha solicitado, decidido y ejecutado?

Ajuste la autonomía al riesgo

Una notificación de bajo riesgo puede automatizarse por completo. Un cambio comercial, una decisión de cumplimiento o un asiento contable pueden requerir validación o una aprobación explícita. El nivel de autonomía debe corresponderse con las consecuencias de un error.

Conviene pensar en tres niveles. Observar: el agente lee documentos, eventos y contexto de negocio aprobados y no modifica nada. Asesorar: interpreta la información, identifica una excepción y recomienda la siguiente acción. Actuar dentro de unos límites: invoca servicios aprobados para acciones permitidas, con aprobación humana siempre que la política o el riesgo lo exijan.

Por ejemplo, un agente puede recuperar una reserva y compararla con unas instrucciones de embarque entrantes, mientras que un cambio comercial o financiero sustancial lo aprueba primero un empleado antes de actualizar Dynamics 365. Los umbrales de aprobación pueden reflejar el riesgo, el importe, el nivel de confianza, el tipo de proceso y la política del cliente.

Ponga controles también alrededor del modelo

Las salvaguardas deben estar tanto alrededor del modelo como dentro del proceso de negocio. Microsoft Foundry ofrece funciones como Prompt Shields para detectar instrucciones maliciosas y ataques a través de documentos, y Azure AI Content Safety puede respaldar los controles de riesgo de contenido cuando proceda.

La gobernanza de la IA abarca también el acceso a los datos, la elección de la plataforma y del modelo, la seguridad, los requisitos regulatorios, el coste, la monitorización operativa y las responsabilidades durante todo el ciclo de vida. No se trata solo de diseñar bien los prompts.

La revisión humana forma parte del mismo diseño. Automatizar no significa que toda recomendación deba ejecutarse automáticamente, y los puntos en los que decide una persona deben acordarse con el negocio, no dejarse al modelo.

Regístrelo todo

¿Qué se ha solicitado, qué se ha decidido y qué se ha ejecutado? El registro de actividad, la monitorización y la revisión hacen que los flujos de trabajo inteligentes sean verificables, para su propia organización y para los auditores.

Cuando se produce una excepción, quien revisa debe poder ver qué identidad actuó, qué información utilizó y quién aprobó el cambio. Ese registro es lo que permite explicar y defender un flujo de trabajo inteligente.

Deje por escrito la autoridad antes de construir

Para cada caso de uso inteligente, defina los datos a los que puede acceder, los servicios que puede invocar, las decisiones que puede recomendar o ejecutar, las aprobaciones necesarias y las evidencias que se conservan. Hágalo antes de construir el agente, no cuando ya esté en producción. Más inteligencia no debe significar menos control.

Traiga un proceso.

Una reclamación, un flujo de facturas o una escala que gestiona cada semana. Le mostramos cómo funciona en Flex y dónde le cuesta tiempo hoy.