En los negocios la tecnología automatizó tareas como su objetivo principal, y esto duró decenas de años como la aportación principal de la tecnología. Pero, desde hace unos años, la tecnología ha pasado a automatizar decisiones. Así vemos como diferentes inteligencias artificiales (IA) se comienzan a coordinar unas con otras, accediendo a sistemas, consultando información y tomando decisiones sin intervención humana.
Esto en gran medida está sucediendo gracias a la existencia de MCP del inglés “Model Context Protocol” o Modelo de protocolo contextual.
¿Qué es MCP?
MCP puede verse como un sistema nervioso de la IA que conecta herramientas, contextos, aplicaciones, datos, agentes y finalmente decisiones.
Así vemos que antes la IA respondía preguntas y con MCP puede consultar sistemas, recuperar información, activar procesos, coordinar agentes y ejecutar acciones entre muchas otras funciones, que, en paralelo, cambian el riesgo en las empresas por completo. Esto implica que la IA ha pasado de “ayudar” a “coordinar” y, eventualmente a ejecutar.
¿El humano se vuelve una decoración?
La idea de un humano en la tecnología era en buena medida validar lo que pasaba. Posteriormente pasó a supervisar lo que pasaba. Ahora vemos como el humano se vuelve un simple observador, y, en un futuro cercano, el humano ya ni siquiera entenderá lo que pasa como para llegar a intervenir.
Y es que cuando los agentes de IA pueden tener autonomía para consultar datos, generar por su cuenta análisis, o poder negociar y además aprender de los resultados de todo esto, vemos como la presencia humana se va diluyendo hasta llegar a ser una mera formalidad empresarial.
La eficiencia extrema destruye la trazabilidad
Sin duda toda empresa busca su eficiencia siempre, pero mientras más se automatiza una decisión es más difícil entender quién verdaderamente decidió, pro qué decidió así, con qué información decidió, qué criterios empleó para decidir y, finalmente, quien es la persona responsable de todo esto.
Y es así como podemos decir que la obsesión por reducir los cuellos de botella, las demoras y la ineficiencia en su totalidad también está destruyendo la capacidad de darle visibilidad a las personas de lo que pasa.
Antes se podía decir que se tenía la capacidad de reconstruir el proceso de las decisiones que se habían tomado por las personas.
Ahora se tiene una complejidad por la variedad distribuida de agentes, modelos, herramientas, conectores y automatizaciones, por lo que poder reproducir esto se ha convertido en algo muy complejo.
Dependencia cognitiva empresarial
Este fenómeno que traté en mi podcast tocando el tema de deskilling podemos afirmar que,así como sucedió con otras tecnologías, existe el riesgo de que las organizaciones pierdan gradualmente capacidad operativa y criterio humano al delegar demasiada interpretación y ejecución a sistemas autónomos. Si bien es cierto que la tecnología ha amplificado las capacidades humanas, también ha comenzado a reemplazar la comprensión operativa.
Así, vemos un hambre por automatizarlo todo, sin preguntarse si se seguirá entendiendo la operación después de su automatización.
Ejemplos de escenarios empresariales
De forma simple podemos decir que:
- En finanzas: Agentes pueden estar ajustando el riesgo crediticio dinámicamente.
- En marketing: IA puede estar coordinando campañas, presupuesto y segmentación automáticamente.
- En la cadena de suministro: Los agentes pueden estar renegociando compras y logística.
- En recursos humanos: La IA puede estar filtrando, evaluando y descartando candidatos.
- En salud: Los agentes pueden estar recomendando tratamientos o priorización operativa.
- En ciberseguridad: La IA puede estar tomando decisiones automáticas de bloqueo o aislamiento.
Todo lo anterior sin intervención humana, solo por dar algunos ejemplos.
Debemos de estar en alerta
Mi objetivo NO es tenerle miedo a la IA. Mi objetivo es entender que, mientras más autonomía demos, más importante es garantizar como lograr la trazabilidad, la supervisión real, el ver el contexto humano y tener la capacidad de auditarlo todo.
El tema no es ver qué tanto se puede automatizar la empresa con IA, son más bien qué tanto seguirá entendiendo la empresa de sí misma.
Tal vez el mayor riesgo de la IA agéntica y MCP no sea que pueda pensarse como un humano…sino que el humano deje gradualmente de entender cómo piensa su organización.
Es así como podemos afirmar que la eficiencia extrema es maravillosa, hasta el día en el que nadie pueda explicar por qué o cómo ocurrió algo crítico.
Mpolishuk's Blog 