Dependemos mucho de la inteligencia artificial (IA) y asumimos que las fuentes de información empleadas para responder a nuestras preguntas son todas impecables.
La realidad es que esto no es totalmente cierto.
Un término muy importante hoy en día que es importante tener en cuenta es “AI Collapse”. Este término se refiere a la degradación progresiva de la calidad del conocimiento producido por IA debido a entrenar nuevos modelos con datos generados por otros modelos. Podríamos decir que este fenómeno consiste en una retroalimentación degenerativa donde cada generación aprende de contenido menos humano y más sintético, o creado por inferencias de la misma IA.
¿Cuál es el problema del AI Collapse?
En esencia esta situación de crear contenido sintético termina provocando pérdida de diversidad informativa, distorsión de hechos y decisiones empresariales basadas en datos contaminados.
El riesgo que esto implica para las empresas es que las decisiones dejan de basarse en realidad observable y pasan a depender de síntesis recicladas que la IA asume como verdad, lo cual hace perder precisión en análisis financieros, predicciones, segmentaciones, riesgos y estrategia.
Básicamente los mismos modelos replican sus propios sesgos o inclusive los exageran. Lo peor es que se presenta una falsa sensación de certeza, porque la IA responde “seguro”, pero sobre una base degradada. Y así, los tableros de control que se generan o las respuestas que se obtienen parecen más completas… pero son menos verdaderas.
Lo peor es que éste fenómeno va dándose silenciosamente: no hay una alarma que indique que el conocimiento ya está contaminado en un momento determinado.
Y es que, hoy veo con más frecuencia que las empresas dependen cada vez más y más en contenido generado por IA y varias de ellas que pertenezcan a un mismo giro pueden empizar a “pensar igual”, perdiendo ventaja competitiva.
¿Cómo detectar que ya está sucediendo el colapso de la IA?
Existen “señales tempranas” que prácticamente cualquier nivel ejecutivo puede observar sin grandes conocimientos técnicos entre los cuales están las siguientes siete:
- Respuestas cada vez más genéricas, obvias o redundantes de la IA.
- Falta de fuentes claras o imposibilidad de justificar afirmaciones (“evaporación de la fuente”).
- Proyecciones inconsistentes cuando se varían parámetros del modelo.
- Explicaciones “limpias”, pero simplificadas en exceso (señal de que la IA está entrenada con resúmenes de resúmenes).
- Insights que suenan bien pero no conectan con la realidad operativa.
- Modelos que llegan a conclusiones circulares (“esto es cierto porque otros modelos también lo dijeron”).
- Errores repetidos o alucinaciones muy parecidas entre diferentes herramientas (señal de entrenamiento común contaminado).
¿Qué hacer para evitar información basada en datos sintéticos?
Como recomendaciones prácticas y en especial orientadas a negocios te sugiero:
- Tener un humano en el proceso: validar con criterio humano todo resultado o aspecto crítico otorgado por la IA.
- Exigir proveedores que garanticen porcentajes de datos humanos verificados en sus modelos.
- Crear conjuntos de datos privados, basados en transacciones y operaciones reales de la empresa.
- Entrenar modelos internos con datos propios no contaminados.
- Separar casos de uso: La IA para acelerar, pero el criterio humano para decidir.
- Evitar alimentar la IA empresarial con contenido generado previamente por IA (presentaciones, reportes, resúmenes).
- Mantener un proceso explícito de verificación cruzada con fuentes externas confiables.
Entre los puntos más estratégicos.
Conclusión: a partir de 2026…
Tienes que anticipar que habrá en ciertos sistemas, empresas y procesos un colapso provocado por éste problema. Es importante considerar que dicho colapso no se da por “usar IA”, sino por usar IA sin controles.
Asi pues, el problema no es la generación sintética, sino su acumulación industrial sin depuración.
Desde ahora debes de considerar que existe una degradación gradual, que parece normal hasta que ya es irreversible.
Por lo anterior, las empresas con criterio fuerte mantendrán ventaja porque sabrán distinguir entre señal y ruido.
Y para preparar a la empresa y su dirección a este respecto estos serán los puntos clave:
- Adoptar una política corporativa de anti-contaminación de datos.
- Medir periódicamente cuánta información interna proviene de IA.
- Construir fuentes primarias: métricas directas, datos de clientes, entrevistas, observación, investigación. Todo esto es más válido que nunca y no debe de abandonarse.
- Incorporar roles híbridos: analistas entrenados en detección de sesgos de IA.
- Crear un repositorio de “verdades verificadas” para decisiones estratégicas.
- Finalmente, usar IA como herramienta de productividad, no como fuente primaria de conocimiento.
Mpolishuk's Blog 