En palabras simples un algoritmo es un conjunto de pasos ordenados que permiten hacer un cálculo, tener ciertos criterios de decisión y así dar un resultado.
Una gran cantidad de aplicaciones y servicios usa múltiples algoritmos para responder a las necesidades de una gran cantidad de problemas o necesidades.
La idea fundamental es ayudar a las personas a tomar decisiones.
Finalmente, un algoritmo es algo que se programa y esa programación, los criterios que lo definen y los datos que los alimentan, pueden muchas veces no aportar los resultados que se desean desde un punto de vista ético, moral o socialmente aceptados.
Por lo anterior, quiero responder la pregunta de que si un algoritmo, realmente, puede o no hacernos daño.
La respuesta corta es “si”. Aquí el por qué:
Algoritmos de baja calidad
Especialmente cuando se trata de algoritmos que se usan para reconocimiento de biométricos, como por ejemplo el reconocer una cara, cuando no es lo suficientemente preciso, puede cometer errores e identificar a una persona cuando en realidad es otra, en un error conocido comúnmente como un “falso positivo”.
Varios estudios han comprobado que el grupo étnico de ciertas personas (particularmente personas de piel negra o asiáticos) tienen más errores de identificación comúnmente y en especial al compararse resultados con personas de piel clara o de un grupo étnico caucásico.
El error viene cuando se está entrenando al algoritmo, esto es, usar conjuntos de datos más precisos para caucásicos que para otros grupos étnicos, causando así menos parámetros para comparar e identificar y como consecuencia, los algoritmos asumen o promedian características empatando rasgos cuando esto no debería de ser.
Algoritmos con malos criterios de decisión
Es increíble que en ésta ápoca no se conozca lo que en términos de bases de datos es una “llave”, en pocas palabras un campo único y no nulo que permite identificar a otros campos o datos con solo ubicar a ese campo llave.
En más de una ocasión hay algoritmos que toman como “llave” el apellido de una persona. Esto es de lo más ridículo, pues si algo se va a repetir es precisamente en apellido y nombre de las personas.
Cuando esto sucede, esas supuestas “llaves” que no son llaves generan errores y ambigüedades por ejemplo cuando se está evaluando el riesgo de arrendamiento que tendrá una persona. Si resulta llamarse y apellidarse de forma similar o idéntica a una persona con mala fama, el algoritmo erróneamente puede descalificar a un buen inquilino por simplemente ser homónimo de otra persona.
Se debe de estructurar muy bien que hará la selección de una persona con respecto a otra, por ejemplo, mediante su cédula ciudadana o registro de contribuyente en vez de su nombre y apellido.
Algoritmos creados por tecnólogos y no especialistas en la materia
Este no solo es un error en la creación de algoritmos, por igual es un error en el desarrollo de sistemas de información.
Cuando los principales involucrados y especialistas en una materia, por poner un ejemplo “bienes raíces” optan por dejar que la gente de tecnología desarrolle algoritmos para identificar por ejemplo potenciales compradores de productos inmobiliarios, están cometiendo un grave error de adecuación. La disciplina tecnológica no tiene nada que ver con la disciplina de compra venta de bienes raíces.
Como resultado de esto, se harán malos criterios de decisión de quien es o no es un cliente potencial, quien buscará hacer un fraude y quien no.
La conclusión de este caso es que la definición de variables de cualquier algoritmo deberá de ser decididas por un grupo interdisciplinario que manejen no solo la operación de un negocio sino el marco legal bajo el cual opera.
Otra conclusión es un mal criterio para decidir un riesgo. Los algoritmos deben de basarse en aspectos demostrables o que ya han sido probados para poder considerarlos como una razón de decisión. Cuando esto no sucede así, y simplemente la decisión la hizo el o la programador o programadora basados en su “experiencia” el resultado será poco específico.
Conclusión
Los algoritmos en una gran cantidad de casos deben de ser tomados como un parámetro o indicador adicional a otros criterios de decisión, esto es todavía el criterio humano puede ser mucho más preciso y tomar en cuenta muchos otros factores que no son programables.
De esta forma un algoritmo puede simplemente emplearse como una herramienta para reducir lo que está sujeto a analizarse más allá de considerarse como una única verdad o la verdad absoluta.
Mpolishuk's Blog 