Los cinco niveles de autonomía en agentes de IA

Uno de los errores más comunes al trabajar con agentes de inteligencia artificial es darles siempre el mismo nivel de control. No todas las tareas piden lo mismo: no es el mismo café con leche para cada situación.

Un paper de la Universidad de Washington propone un marco de cinco niveles de autonomía que va del operador al observador. La idea central es sencilla: el nivel de autonomía que le damos a un agente condiciona directamente el éxito de la tarea. Imagine planear un viaje, desde decidir usted mismo cada detalle hasta delegar por completo el itinerario, y tendrá una intuición de la escala.

• Operador — usted ejecuta la tarea y el agente solo asiste con sugerencias o información. El control es enteramente humano.
• Colaborador — usted y el agente se reparten el trabajo y avanzan a la par, cada uno aportando su parte.
• Consultor — el agente toma la iniciativa y lo consulta a usted en los momentos clave antes de continuar.
• Aprobador — el agente realiza el trabajo de principio a fin, pero cada acción relevante espera su aprobación explícita.
• Observador — el agente opera de forma autónoma dentro de sus límites y usted supervisa el resultado.

Calibrar ese nivel es lo que permite que, en temas de seguridad, de cumplimiento y de objetivos de negocio, el agente esté donde realmente aporta valor, y donde usted, como usuario, puede aportar el conocimiento necesario para que la tarea se realice bien.

No siempre queremos que el agente lo haga todo solo. A veces necesitamos colaborar, a veces solo aprobar y a veces dejarlo volar. Lo importante es saber en qué nivel estamos operando, y por qué.