Mpolishuk's Blog

Tenemos que reconocerlo: IA no es una moda, ahora es una serie de servicios y aplicaciones que bien empleados pueden ahorrarnos tiempo, dinero, esfuerzo, personal y hacer que nuestros clientes experimenten mejores productos y servicios.

Hardware especializado: donde inician los costos elevados

Ejecutar servicios de inteligencia artificial es altamente demandante de distintos servicios de cómputo, en especial los que tienen que ver con:

• Unidades de procesamiento gráfico o GPU en inglés: empleados para procesamiento de gráficos, así como operaciones de punto flotante, es un acelerador que libera a la unidad central de procesamiento o CPU de cálculos que alentarían todo el equipo
• Unidades de procesamiento tensorial o TPU en inglés: son hardware desarrollado y fabricado por Google específicamente para acelerar tareas de procesamiento intensivo en inteligencia artificial y aprendizaje profundo. Las TPUs están diseñadas para optimizar las operaciones matriciales que son fundamentales en muchas operaciones de redes neuronales. Aunque las TPUs son exclusivas de Google en términos de desarrollo y fabricación, otros proveedores de nube y empresas tecnológicas han estado desarrollando hardware similar, como chips especializados en inteligencia artificial, para abordar las demandas de procesamiento de la IA. Estos componentes también pueden ser utilizados por otras empresas en sus propias soluciones de IA y aprendizaje profundo
• ASICs: En español son circuitos integrados para aplicaciones específicas y en esencia son chips que se diseñan para labores específicas los cuales están optimizados para operaciones matriciales que son fundamentales en la IA

Y en esencia hay varios componentes adicionales de configuraciones de equipo y otros dispositivos y componentes que son muy elevados en precio y que solo aplican para labores de IA, por lo que comprar este tipo de tecnología en esta época sigue siendo un costo mucho mayor que la tecnología tradicional de centros de datos convencionales

Energía y enfriamiento

De manera natural los equipos en centros de datos requieren de grandes cantidades de energía eléctrica y por el procesamiento intensivo de los algoritmos de IA se genera calor significativo, lo que implica costos adicionales a los de un centro de datos convencional. Decidir hacer esto por cuenta propia puede representar gastos no contemplados que hacen inviable la ejecución continua de procesos y como consecuencia una total inviabilidad económica.

Almacenamiento

Por su naturaleza, la IA tiene requisitos más allá de los convencionales para labores de tipo empresarial convencional. De inicio, IA emplea grandes conjuntos de datos para propósitos diferentes tales como:

• Almacenamiento de datos de entendimiento: Todo empieza en IA con su entrenamiento y para ello se utilizan grandes conjuntos de datos los cuales pueden ser imágenes, texto, audio, video, datos estructurados y no estructurados entre mucho otros. Todos estos tipos de datos demandan grandes cantidades de espacio en memoria secundaria, idealmente de estado sólido, que tiene un precio importante, y que puede crecer en esta etapa considerablemente.
• Almacenamiento de resultados intermedios: Durante el proceso de entrenamiento, se pueden generar resultados intermedios, como gradientes y matrices de activación. Estos resultados pueden ser útiles para el análisis y la depuración y pueden requerir espacio adicional de almacenamiento
• Almacenamiento de modelos y parámetros: Después de entrenar a un modelo de IA se requieren gran cantidad de memoria principal o RAM para tener rápido acceso a una gran cantidad de parámetros y opciones de modelos, los cuales son por su naturaleza de tamaños muy grandes. La memoria RAM es la memoria más costosa y limitada.
• Almacenamiento de conjuntos de datos de prueba y validaciones: Además de los datos de entrenamiento, los conjuntos de datos de validación y prueba también deben almacenarse para evaluar la precisión y el rendimiento del modelo entrenado, ocupando así almacenamiento que no es común en ningún otro tipo de requerimientos de espacio para datos

Siendo estos solo algunos de los requisitos de almacenamiento, habiendo muchas más necesidades específicas dentro de los desarrollos de IA.

Especialidad técnica

En estos tiempos la demanda por expertos en IA es muy alta y por las ramificaciones y subespecializaciones hay más demanda que oferta de puestos de trabajo, por lo que atraer y retener talento se ha convertido en todo un reto.

Por igual, la investigación y desarrollo de la IA tiene un precio considerable. Los científicos de diversas ramas, ingenieros y diversos expertos en cuestiones relacionadas con el impacto de la IA tienen trabajo continuo para la creación y mejora constante de modelos y algoritmos.

Alta escalabilidad

A medida que la IA gana popularidad y se adopta en nuevas oportunidades y servicios los crecimientos de todo lo anterior crecen sin dar marcha atrás, esto es, aumentan sin tener reducciones de servicio y equipamiento significativos, solo para posteriormente crecer más.

Si una empresa por si sola opta por adquirir todo lo necesario por si misma, puede ser que en un momento sus desarrollos sean económica y físicamente inviables.

En palabras sencillas, hasta ahora los ambientes de IA han demostrado únicamente crecer y nunca achicarse, las cargas de consultas y operaciones solo aumentan, por lo que lo común es apoyarse en empresas especializadas en poder proveer servicios de este tipo para terceros, que difícilmente pueden predecir sus necesidades futuras con precisión.

Este fenómeno ha provocado el surgimiento de empresas especializadas en proporcionar servicios de computo intensivo, aprendizaje de máquina, animación y efectos visuales (conocidos como VFX en inglés), que cuentan con el tipo de procesadores, arquitectura de redes, almacenamiento y demás necesidades comentadas para poder hacer IA. Estas empresas son mucho más especializadas que los proveedores de nube tradicionales, sin querer decir con esto que todos los proveedores internacionales también tienen algún tipo de oferta en este sentido, y solo estudiando a profundidad cada propuesta podríamos pensar en lo que es óptimo para cada caso.

Conclusiones

Los puntos anteriores pueden explicar el porque en gran cantidad de iniciativas de IA es recomendable explorar servicios totalmente basados en la nube para crear los servicios que se desean en vez de crearlos de manera interna con sus propios recursos.

Por igual, se debe de distinguir que hay ciertos desarrollos muy acotados que si pudieran ser viables en ambientes de centros de datos propios, pero esta respuesta solo puede darse después de modelar las necesidades en múltiples temas como los aquí mencionados.

La IA trae en casos bien planteados un diferenciador estratégico clave, pero ese diferenciador debe de ser realista en términos de sus costos de operación y crecimiento.

Como cualquier aspecto en tecnología, el caso de negocio debe de plantearse contemplando todo tipo de variables y aspectos de valor hacia el mercado objetivo. En algunos casos algunas empresas ya van tarde, en otros, puede que deban de esperar a consolidar otros aspectos internos primero, pues si la IA provee nuevos negocios o servicios, la empresa debe de estar preparada para atender adecuadamente ese incremento de demanda, y ya he visto casos en donde por provocar nuevos servicios no se dan abasto, y en negocios cuando menos nunca hay una segunda oportunidad para dar una primera impresión, por lo que todo debe de estar contemplado y balanceado.

Por lo anterior, la nube definitivamente debe de ser contemplada como el primer lugar para implementar servicios de IA, para luego comparar su costo total de operación con llevarlo a cabo en sitio. En algunos casos puede ser que parte deberá estar en la nube y parte en sitio, pero en definitiva cada caso es distinto. Asimismo, no se debe de considerar un solo proveedor de nube para un proyecto, este se debe de consultar con varios proveedores y preocuparse en especial por cómo se cobrará todo en el largo plazo, entendiendo que los conjuntos de datos y su consulta puede llegar a crecer exponencialmente, pero el precio para el mercado no puede crecer en los mismos ritmos.