Los modelos de inteligencias artificial (IA) generativa inician con una etapa de aprendizaje que típicamente se conoce como entrenamiento, con datos que podríamos llamar “históricos” que son la base para hacer predicciones o tomar decisiones.
Estos modelos funcionan bien en un principio porque los datos que se usaron para entrenarlos reflejan la realidad específica de ese momento, podríamos decir que son “una foto” del momento o “datos frescos”, y con base en ellos se ajustó todo para tener una buena precisión con su empleo.
¿Por qué se desactualizan los datos de la IA?
Como todo lo que sucede en el ambiente de los negocios, y en prácticamente cualquier situación, se dan diferentes cambios en el entorno. Así podemos ver por ejemplo que:
- Los consumidores modifican su comportamiento inesperadamente
- Se dan nuevas tendencias en moda, alimentación, viajes, etcétera
- Suceden externalidades (regulaciones, guerras, crisis económicas, nuevas tecnologías)
Y muchos otros fenómenos en donde el modelo de la IA sigue usando “reglas viejas” en datos no recientes, y esto provoca que se den errores de precisión, porque la realidad ya no es la misma con la que el modelo fue entrenado.
Por lo anterior, cuando los modelos no se ajustan o reentrenan, se da esta “desactualización” que en el medio de tecnología se conoce en inglés como “AI drifting”.
Así, por ejemplo, si se entrenó en un banco a la IA para determinar a quien se le otorga crédito, recién salga ese modelo será óptimo, pero, si en el tiempo hay nuevas regulaciones, o una recesión económica, o cambios en los hábitos financieros podremos ver que se pueden empezar a rechazar a buenos prospectos y empezar a aceptar a malos prospectos, todo por no ajustar a la IA con nuevos parámetros de decisión y nueva información.
¿Cómo se evita la IA desactualizada?
Aquí es donde vemos que, por más genial que sea la IA es altamente dependiente de las personas, y por consecuencia son los especialistas en esto los que deben de reentrenar frecuentemente a los modelos de IA con datos frescos, a monitorear permanentemente el modelo empleando herramientas que alerten cuando la IA pierda precisión, y, en general, a nunca confiar en un 100% de la IA y combinar los resultados con expertos para una toma de decisión objetiva y más precisa.
De hecho, existen ya servicios disponibles que detectan los escenarios de desactualización y su magnitud, comparando los datos de entrenamiento con los datos de producción (que ya se están usando) y las predicciones que arrojarían, para determinar su imprecisión. Asimismo, pueden generar «alertas de desactualización» cuando se ha llegado a un límite de impresición y por último, otros servicios han simplificado como reentrenar al modelo.
¿Qué pasa si no se atiende la IA desactualizada?
El fenómeno será similar al inicio del empleo de la web como el sitio para documentarnos: no todo era ni preciso, ni actualizado, ni necesariamente real.
Las consecuencias de no hacer caso a la desactualización de modelos de IA pueden traer en las empresas pérdidas grandes de ingresos, o clientes insatisfechos, o riesgos operacionales con errores en finanzas, operaciones, logística, manufactura o ventas entre muchas otras áreas y, como consecuencia, lo peor es que, si en un principio se buscaba tener a la IA como una ventaja competitiva, rápidamente puede convertirse en un elemento de desventaja competitiva.
Mpolishuk's Blog 