Después de que te platico esto, ahora, ¿te imaginas un futuro en el que la Inteligencia Artificial (IA) pueda juzgarte por tu apariencia y etiquetarte como potencial delincuente? Pues bien, el Plan Ángel ha generado preocupación en cuanto a la ética de la IA y el peligro de perpetuar estereotipos basados en la apariencia física.
Según este plan, la IA y el reconocimiento facial se convertirían en los mejores amigos de la seguridad en México. ¡Qué maravilla! Pero, aguanta, no todo es color rosa porque aquí viene el problema: ¿dónde queda esa parte ética de la IA? ¿Cómo evitamos alimentar esos sesgos que predefinimos en las personas por su apariencia?
Tú sólo imagina esto: la tecnología inteligente, que supuestamente debería hacer nuestras vidas más fáciles y seguras, se convierte en una herramienta para señalar y etiquetar a las personas con base en su aspecto. Entonces, si un algoritmo ve a alguien con tatuajes o una apariencia poco convencional, inmediatamente podría marcarlo como sospechoso. ¡Oh, vaya! Ahora resulta que la moda alternativa y los estilos rebeldes son sinónimo de criminalidad. ¿Qué sigue? ¿Arrestar a todos los que usan chanclas con calcetines?
Y no sólo eso, el plan también considera cómo te mueves y tu morfología. La IA, en su afán de detectar posibles delincuentes, puede caer en la trampa de juzgarte por tu forma de caminar. Tal vez tienes un paso rápido y enérgico, o quizás te mueves como un caracol. La IA podría interpretar esto como una señal de que eres sospechoso, sin tener en cuenta que cada persona tiene su propio estilo de caminar y que existe una multitud de factores que influyen en ello.
Aquí es donde entra en juego la ética. No podemos permitir que la IA se convierta en un juez implacable que determine la culpabilidad de alguien en función de su apariencia o morfología. Las personas no deberían ser juzgadas por su ropa, peinado o forma de caminar. ¡Es como si viviéramos en un mundo donde los libros fueran juzgados por sus portadas y no por su contenido!
Y no pienses que estoy exagerando. ¡Para nada! Hay datos que respaldan estas preocupaciones. Una famosa empresa de tecnología implementó un algoritmo de reconocimiento facial que, lamentablemente, mostró sesgos raciales. ¿Imaginas ser detenido sólo porque el algoritmo te confunde con alguien más debido a tu raza? Sería como vivir en una versión distópica de "¿Dónde está Wally?".
Pero no todo termina ahí. Otro estudio demostró que los algoritmos de reconocimiento facial tienen dificultades para identificar a las mujeres con precisión, especialmente a aquellas con tonos de piel más oscuros. ¡No puede ser! Parece que ser mujer y tener un tono de piel más oscuro es como un boleto seguro para un arresto injusto. Y todo esto gracias a nuestro enemigo, el sesgo algorítmico.
Un ejemplo muy bueno de esto es la ley europea sobre IA que afecta a los migrantes. En un intento por regular el uso de algoritmos con sesgos y proteger los derechos de los ciudadanos, la Unión Europea implementó medidas para evitar la discriminación algorítmica. Sin embargo, en la práctica, esta legislación ha generado consecuencias inesperadas para los migrantes, especialmente aquellos provenientes de regiones con tonos de piel más oscuros.
