La IA agéntica (IA basada en agentes) son sistemas inteligentes autónomos, capaces de razonar, planificar y utilizar herramientas para completar tareas complejas y con muchos pasos en representación de las personas que las emplean.
A diferencia de la IA generativa que responde de forma pasiva, esto es, les pedimos información y solo entonces reacciona, en el caso de los agentes de este tipo de IA actúan por su cuenta, aprenden y se adaptan al entorno, colaborando con humanos o unos agentes con otros sin intervención humana. Podemos decir que la IA agentica es un equivalente de “fuerza laboral digital” que en muchos casos se convierte en un sistema distribuido de toma de decisiones, capaz de ejecutar procesos completos.
¿Cómo decidir a nivel estratégico el uso de IA agéntica?
En vez de tomar actitudes conservadoras de no emplear este tipo de tecnología, la capa estratégica de las empresas se debería de cuestionar cómo lograr aumentar o escalar sus operaciones o servicios de forma segura. Emplear IA agéntica no es adaptar “una herramienta” es más bien un cambio completo de la forma de operar de la organización.
Parte de lo que se debe tener entre otros puntos es:
- Claridad en los derechos para tomar decisiones
- Escalamiento de decisiones
- Controles
- Asumir la propiedad total de las acciones, decisiones y resultados, ya sean positivos o negativos
Estos son solo algunos de los aspectos que deben de rediseñarse al adoptar IA agéntica.
Si esto no se hace primero, solo se puede “tener la esperanza” de que el sistema funcione, y la esperanza no es una estrategia. En pocas palabras, la adopción de IA agéntica obliga a rediseñar la arquitectura de decisiones de la organización: qué decisiones siguen siendo humanas, cuáles se delegan a sistemas y cuáles requieren supervisión híbrida.
¿Cómo se convencen clientes e internos de usar IA agéntica?
Nada será más valioso en este aspecto que poder constatar que los sistemas funcionan de la manera en la que se esperaba. Habrá 3 puntos clave a medir en este caso:
- Los resultados de lo empleado: ¿La IA agéntica logró su objetivo sin causar problemas o situaciones colaterales?
- El comportamiento de lo que se implementó: ¿a pesar de tener situaciones que complican una tarea o la presionan, sucedió adecuadamente lo esperado?
- La forma en la que lo que se emplea se puede controlar: ¿se puede reconstruir cada paso de lo que la IA agéntica hizo para lograr su objetivo?
Todo esto debe de iniciar con la premisa de inspirar confianza a los que empleen la IA agéntica, dejando saber a las personas que las decisiones de alto nivel seguirán siendo responsabilidad de las personas.
Solo en el momento en el que este tipo de sistemas se comporta de forma predictiva es cuando se puede usar para escalar (hacer crecer) la operación.
La idea es demostrar cómo esta tecnología puede repararse, como se demuestra que es segura y su actuar es justo. Cuando esto sucede, a los clientes de una empresa no les importará si se trata o no de IA agéntica.
A nivel interno, esta tecnología debe aprender a gobernarse, y esto implica inclusive aprender cómo apagarla, conocido comúnmente como tener un “botón mortal” que, al apretarlo, apaga todo.
¿Cómo iniciar con IA agentica?
La verdadera ventaja competitiva de la IA agéntica no es reducir costos, sino aumentar la velocidad organizacional.
Las empresas que tomen decisiones más rápido que sus competidores tendrán una ventaja estructural.
Por lo anterior, todo inicia con un caso de negocio muy claro que debe resolverse para el cual se hará un piloto no debe exceder en mi opinión a 8 semanas (o menos).
Acto seguido se debería de evaluar el desempeño del piloto, donde inclusive una alternativa es concluir que la tecnología no ha llegado aún al punto de confianza requerido.
Lo que es fundamental para el éxito es que el ambiente debe de propiciar el permitir la experimentación con la menor cantidad de restricciones o impedimentos.
Asimismo, si los agentes interactúan entre sí, toda esa interacción debe de ser humanamente monitoreada y entendida. Debe haber fronteras de lo que pueden o no hacer. No debe permitirse una comunicación totalmente abierta entre agentes.
En esencia un equipo de personas debe de ser responsable de la IA Agéntica que monitoree sus ejecuciones de forma consistente. Esta labor no será parte de las responsabilidades del equipo de tecnologías de la información, son personas de la línea de negocios. Estas personas no necesariamente tienen conocimientos técnicos, pero si deben de ser muy precisos.
A medida que aumenta la autonomía de la IA, aparece una nueva función organizacional: la supervisión algorítmica.
Las empresas deberán crear equipos especializados en monitorear decisiones tomadas por sistemas inteligentes.
Como conclusión, únicamente las decisiones que han sido diseñadas y se sabe anticipadamente cómo funcionan son las tecnologías de IA agéntica que deben de poderse poner en un ambiente de negocios.
En caso de que algo falle, debe haber un plan para deshacer todo lo que sucedió.
Puntos clave de la estrategia para la IA agéntica
Se puede iniciar cuestionando a las líneas de negocios y/o consejos de administración bajo los siguientes puntos:
- ¿Se tiene un inventario completo de los agentes de IA y quienes son su dueños o responsables?
- ¿Se ha evaluado todo posible riesgo derivado de la autonomía que se logrará?
- ¿Los agentes de IA tienen un estricto control de su existencia y capacidades además de tener los más bajos permisos para consultar y obtener información a nivel de operar con lo estrictamente necesario?
- ¿Se pueden reconstruir las decisiones de principio a fin?
- ¿Se tiene un plan de acción en caso de que todo falle?
Si no se pueden responder estas preguntas de forma específica, no se tiene bien medido el riesgo, y por consecuencia, la tecnología agéntica no estará bien controlada.
Conclusión
No hay duda del potencial de la IA agéntica, lo que está en duda es como debe de ser gobernada.
Quien esta al cargo cuando se hacen las decisiones y las operaciones.
- ¿Quién controla los datos?
- ¿Quién controla los modelos?
- ¿Quién controla la infraestructura?
- ¿Quién toma las decisiones?
La IA agéntica no puede delegarse a otras empresas con aplicaciones que no se conocen o entienden bien como operan, porque al final del camino, esta tecnología tomará decisiones por su cuenta.
Quien controla la tecnología agéntica controla los resultados, y para eso alguien debió de establecer las reglas de operación, alguien debe de poder auditar e inspeccionar esto e inclusive quien puede apagar por completo su uso si es necesario.
No se puede gobernar lo que no se controla y no se puede controlar lo que no es soberano
El futuro no debe de ser humanos vs IA. El futuro debe de ser humanos con IA.
La pregunta estratégica no es si una empresa usará IA agéntica.
La pregunta es quién diseñará el sistema de decisiones que la gobierna.
Mpolishuk's Blog 