La IA representa un riesgo para las infancias y necesitan protección

Los casos de creación de deepfakes sexuales se convirtieron en un fuerte problema para la vida digital durante este año. En países como España o en México las víctimas sufruieron de la proliferación de imágenes en contextos sexuales, lo cual alimenta el delito de las extorsiones.

Al respecto, Drennan señala que se llegó a un punto donde los peligros en internet se combinan para generar grandes ofensivas mucho más profundas, pues inicia con el grooming (que es crear perfiles falsos para ganar la confianza de menores) y continúa hasta pedir imágenes de los jóvenes que son utilizadas para crear deepfakes sexuales con la finalidad de chantajearlos de alguna manera.

Ante este tipo de dinámicas, las grandes compañías de tecnología, como Meta, Apple o Google, entre otras, han implementado diversas medidas para evitar la propagación de este tipo de contenido, sin embargo, Drennan resalta que no ha sido suficiente y en realidad es necesario un enfoque de mayor claridad por parte de las empresas.

“Lo que necesitamos es transparencia para entender qué están haciendo estas empresas, qué impactos tienen sus esfuerzos y dónde se necesita hacer más”, comenta y resalta que según sus estudios, todavía no existe suficiente información para determinar si las medidas de las empresas están funcionando.

Por otro lado, los esfuerzos de regulación también han sido insuficientes. Durante este año, Australia implementó esfuerzos que obligan a las grandes empresas de tecnología a tomar medidas para garantizar que los productos de inteligencia artificial no puedan usarse para generar imágenes y videos falsos de abuso sexual infantil.

¿Qué se necesita para proteger a los menores de la IA?

Drennan es contudente: “La seguridad de los niños no debe ser negociable”. Por ello, rescata que debe ser visto como un asunto de salud pública y, por lo tanto, se requiere priorizar la prevención e invertir en herramientas para quienes han cometido o corren el riesgo de perpetrar o sufrir abusos. “Si sólo invertimos en responder después de que ha ocurrido el abuso, les estamos fallando a los niños”, menciona.

También destaca la necesidad de tomar en cuenta los derechos y perspectivas de las infancias para eliminar las barreras de identificación del abuso y visibilizar estos problemas, así como implementar legislaciones globales para evitar lagunas en ciertos territorios y adoptar un enfoque de seguridad desde el diseño de la tecnología.

Según el reporte de WeProtect, ha habido un aumento del 87 % en los casos materiales de abuso sexual infantil denunciados desde 2019, con más de 32 millones de informes en todo el mundo.

La primera explicación que aporta el especialista es que durante estos años, los menores estuvieron en línea más que en cualquier otro momento, debido al incremento de la conectividad por la pandemia de Covid-19; sin embargo, resalta que este problema que afecta en mayor medida a las poblaciones margnizalidas.

Con esto se refiere a las personas discapacitadas, aquellas que son parte de la comunidad LGBT+, así como las minorías raciales o étnicas, debido a que de acuerdo con diversos estudios hechos por la alianza, estas personas tienen mayor probabilidad de socializar en línea.

Ejemplifica mencionando a niños sordos, a quienes les resulta más sencillo escribir que hablar porque no tienen que preocuparse por hacerse entender con alguien que no conoce el lenguaje de señas, mientras que la comunidad LGBT+, al estar en un ambiente de exploración de su sexualidad y al no tener apertura sobre su orientación o género, es más probable que encuentre amigos en línea.

De esa manera estas poblaciones tienen mayores relaciones en internet, pero al no existir una alfabetización digital desde temprana edad, destaca que existe un mayor riesgo de no comprender los peligros de la interacción a través de este medio.