Publicidad
Revista Digital

Síguenos en nuestras redes sociales:

Publicidad

El desarrollo de IA requiere un eje ético para no abrir una brecha tecnológica

La UNESCO generó la Recomendación sobre la ética de la IA, la cual pone la atención sobre cómo impacta esta tecnología en los derechos humanos y la inclusión.
jue 13 enero 2022 05:00 AM
Ética en la IA
La perspectiva de género es una de las preocupaciones principales en torno a la generación de sistemas de IA.

El desarrollo de la Inteligencia Artificial requiere de hilares éticos para detener las desigualdades que la tecnología podría magnificar, dijo Gabriela Ramos, directora general adjunta de Ciencias Sociales y Humanas de la UNESCO, especialmente en temas de género, etnia y justicia social.

Durante una mesa de diálogo sobre la Recomendación sobre la ética de la IA, aprobada en noviembre por los 193 Estados miembros de la UNESCO, Ramos refirió que el avance de la tecnología debe servir a los derechos humanos, la justicia, la inclusión y el medio ambiente.

“El desarrollo tecnológico no puede ser sólo enfocado a la tecnología y unidimensional. Necesita de una visión humanista (...) si sólo capacitamos a manejar los datos desde una perspectiva mecanicista, caemos al mismo lugar en que nos encontramos”, dijo Ramos, quien resaltó que al mantener esa idea se dañan las democracias.

Incluso destacó el hecho de que la Recomendación no fue realizada únicamente por especialistas en tecnología, sino que también participaron filósofos, antropólogos, historiadores, psicólogos y economistas, lo cual demuestra el enfoque multidisciplinario en que se debe abordar la tecnología.

Publicidad

En este sentido, uno de los puntos medulares de la discusión fue el género, pues la UNESCO ha reportado datos como que el 55% mujeres en el mundo no tiene acceso a internet, lo cual habla de una menor vinculación a la tecnología a nivel mundial, además de que este sector no sufre de discriminación por los sistemas de IA.

De acuerdo con la doctora Salma Jalife, presidenta del Centro México Digital, uno de los principales problemas de la IA actualmente es que no no hay un trabajo en términos de datos para la construcción de los sistemas, lo cual da como consecuencia la discriminación por género o etnia.

Al respecto, la directora general del Centro-i, Elena Estavillo, dijo que la recomendación del organismo internacional puede aportar a que se detecten y corrijan los datos que generan desigualdad, lo cual sería significativo, pues lograr estos cambios implica asumir una modificación del enfoque para aumentar la participación y representación de las mujeres y otros grupos vulnerables.

Por su parte, Wanda Muñoz, consultora internacional especialista en inclusión, señaló que la Recomendación es valiosa, pues toma un enfoque de dos vías, es decir, asume una perspectiva de género, pero también genera un entorno para que se lleven a cabo políticas para que niñas y mujeres participen en las tecnologías.

Publicidad

No obstante, dijo que también se requiere de un enfoque interseccional para el futuro de la IA, lo cual significa que igualmente se debe tener en cuenta a personas con discapacidad, afrodescendientes o que forman parte de la comunidad LGBTQ+, entre otros grupos.

Otro de los asuntos a resolver en torno a las tecnologías, apuntó la senadora Celeste Sánchez, es que si bien hay más mujeres estudiando en el entorno tecnológico, un elemento vital para generar cambios es que se abran más espacios de liderazgo para ellas.

Para generar sistemas de IA más inclusivos en economías emergentes, dijo el profesor de la UNAM, Alejandro Pisanty, los gobiernos y entidades privadas deben desarrollar el conocimiento en matemáticas, estadísticas, pensamiento computacional y crítico desde pequeños.

En el caso de que no se ponga atención a tales esfuerzos de educación en las áreas STEM de la población, los cambios tanto en la tecnología como en su producción, no se van a lograr en el corto plazo, además de que para hacerlo se necesita una agenda mucho más agresiva.

Publicidad

¿Qué más propone la Recomendación ética sobre IA?

Los ejes centrales de la Recomendación son cuatro: el respeto, protección y promoción de la dignidad humana; los derechos humanos y las libertades fundamentales; la protección del medio ambiente y el ecosistema; y la diversidad, inclusión y el derecho a vivir en armonía y paz.

En el documento también se incluyen recomendaciones en torno a políticas de datos. “La gente no puede entregar su información con un solo un clic, se necesita de mayor información sobre cómo se usa la data de los usuarios”, mencionó Ramos.

La guía se generó debido a que si bien la IA está dando resultados en ámbitos como la detección de cáncer o el combate al cambio climático, la UNESCO considera que será omnipresente, hará posibles muchas rutinas diarias y podría generar un aumento de los prejuicios de género y étnicos.

Su propósito es garantizar el respeto a los derechos humanos en las transformaciones digitales, abordando cuestiones sobre transparencia, responsabilidad y rendición de cuentas, privacidad e inclusión, entre otros apartados.

En el punto de la protección de datos, el documento afirma que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos. Incluso aumenta la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir este punto.

Por otra parte, prohíbe explícitamente el uso de sistemas de inteligencia artificial para la calificación social y la vigilancia masiva, pues estas tecnologías son muy invasivas, vulneran los derechos humanos y las libertades fundamentales.

Cabe mencionar que la Recomendación buscará evaluar el impacto de los sistemas de IA en las personas, la sociedad y el medio ambiente, con el fin de ayudar a los Estados a medir su grado de preparación en términos de infraestructura jurídica y técnica.

Para el presidente de la Comisión de Ciencia y Tecnología del Senado, Jorge Ramírez Marín, no asumir los desafíos que supone este sistema, sería “irresponsable”, pues puede agravar la desigualdad social.

Por ello, Rojas dijo que la UNESCO puso a disposición de gobiernos e instituciones este nuevo documento, con el fin de reflexionar las implicaciones éticas en el desarrollo e implementación de la tecnología para determinar si las bases de datos son representativas, tienen múltiples orígenes y quienes trabajan en ellos son grupos multidisciplinarios.

Publicidad
Publicidad