En este tercer episodio busco dar alternativas de cómo se podría proceder con respecto a los derechos digitales, aclarando que, si bien no soy un abogado experto o equivalente, mucho de la experiencia del cliente y el sentido común pueden ser una opción objetiva.
La responsabilidad no debería desaparecer porque intervino un tercero
Es casi seguro que en los temas de detección de identidad las empresas de cualquier área de especialidad es casi seguro que van a emplear los servicios de una empresa ajena especializada en lo referente a asegurar que la persona que está interactuando con ellos sea la que dice ser.
Y, precisamente esto de ser un tercero no debe de ser un “pretexto cómodo” para que, de haber un problema, la respuesta de la empresa que presta el servicio o vende el producto se escape de la responsabilidad indicando al consumidor que “nuestro proveedor decidió bloquearte” y con eso implicar que no es “culpa suya”.
Precisamente, la organización que mantiene la relación con el consumidor debería conservar responsabilidad sobre las decisiones que adopta apoyándose en terceros, incluido el bien o mal actuar de esos terceros que forman parte de su promesa de servicio.
En pocas palabras, delegar una decisión a un algoritmo o proveedor no debería significar delegarle la responsabilidad, que sigue siendo de la empresa con la que el consumidor está tratando.
La tecnología debería diseñarse desde el principio para permitir defenderse
Llego a esta conclusión que tiene que ver con el diseño de cualquier servicio. Es cómodo hacer que los sistemas solo sean diseñados para detectar, bloquear y cerrar casos, pero nunca para explicar, recibir evidencia o reabrirlos.
En mi opinión, el mecanismo de reclamación debería diseñarse al mismo tiempo que el mecanismo de bloqueo.
Asimismo, los sistemas deberían conservar trazabilidad suficiente para saber qué provocó una decisión, qué parte fue automatizada y quién puede revisarla.
En pocas palabras, la capacidad de corregir al algoritmo debería formar parte del diseño del algoritmo.
Una invitación a quienes hacen las leyes
Las 3 partes que conforman este episodio no pretenden redactar una ley ni determinar si debe crearse una nueva o modificarse la existente; lo que sí pretendo es documentar un problema que crecerá conforme más decisiones sean automatizadas.
Así, los legisladores en esta materia deberían entender las dos partes: las empresas necesitan escalamiento, velocidad, seguridad y prevención del fraude, pero los consumidores necesitan explicación, proporcionalidad, defensa y reparación.
Una eventual regulación debería evitar ambos extremos: impedir la innovación mediante obligaciones impracticables o permitir que la eficiencia empresarial elimine las garantías básicas.
Podrían estudiarse por ejemplo principios como debido proceso digital, con la obligatoriedad de hacer revisiones humanas para decisiones graves, así como proporcionalidad, continuidad, transparencia, apelación y reparación.
De esta manera, las obligaciones podrían variar conforme al impacto digital del servicio.
En otras palabras, proteger la capacidad de combatir el fraude y proteger al inocente de un falso positivo no son objetivos incompatibles.
Así que, si mis episodios llegan a uno o varios legisladores, reguladores o especialistas en protección al consumidor, ojalá y que, al tomar estas ideas, las cuestionen, las mejoren y, si tienen sentido, se conviertan en derechos exigibles.
Como siempre, la tecnología avanza muchísimo más rápido que las reglas que protegen a quienes la utilizamos, pero eso no es pretexto para no hacerlas.
Por lo anterior, la pregunta no debería ser si una empresa siga utilizando reglas y algoritmos para bloquear cuentas, porque la automatización es inevitable e inclusive necesaria.
La pregunta realmente centrada en el consumidor sería cuando el algoritmo se equivoca, ¿hay posibilidades reales y sencillas para que el consumidor se defienda con proporcionalidad?
Yo considero que una organización demuestra verdaderamente cuánto le importa el cliente cuando su bienestar es tan importante como sus responsabilidades.
La siguiente generación de derechos del consumidor
La batalla por muchos años ha sido como proteger la privacidad, información, transacciones y datos personales; ahora debemos empezar a pensar también en las consecuencias de las decisiones automatizadas.
Conforme más aspectos de nuestra vida dependan de cuentas y plataformas, una expulsión, bloqueo o negación digital puede tener consecuencias cada vez mayores.
Mi punto no es defender unilateralmente el derecho a permanecer indefinidamente en cualquier plataforma a pesar de hacer algo ilegal o que no está de acuerdo con sus políticas. Mi punto es defender el derecho a no desaparecer arbitrariamente de ella.
Conclusión parte 3 de 3
La próxima generación de derechos del consumidor ya no consistirá únicamente en proteger lo que compramos, sino en proteger nuestro derecho a existir digitalmente dentro de las plataformas de las que depende nuestra vida cotidiana.
La pregunta ya no es qué derechos tenemos como consumidores. La pregunta es cuáles de esos derechos estamos dispuestos a perder simplemente porque ahora consumimos detrás de una pantalla.
Mpolishuk's Blog 