La finalidad es ajustar los algoritmos y eliminar deepfakes a través de sistemas creados por las empresas obligadas por esta ley para detectar, eliminar y bloquear contenidos a petición expresa, escrita o grabada por el usuario. Esto significa que los operadores de telecomunicaciones y plataformas tendrían que asumir un costo operativo adicional para su operación en el país.
El diputado busca sustentar su proyecto bajo el argumento de la violencia digital que aqueja a los jóvenes por contenidos generados por inteligencia artificial que vulneran su intimidad. En Zacatecas, según cita la iniciativa de reforma, trascendió el caso de estudiantes de secundaria que denunciaron a compañeros que les tomaron fotografías que posteriormente fueron editadas con IA para parecer de índole sexual.
De acuerdo con la Organización de las Naciones Unidas, la tecnología de deepfakes, impulsada por IA, se está utilizando como arma a gran escala: hasta el 95% de los deepfakes en línea son imágenes pornográficas no consentidas, y 99% de las víctimas son mujeres.
Riesgo de censura
Especialistas señalan que, si bien la iniciativa reconoce un problema real que afecta a la población más joven, su aprobación podría vulnerar la libertad de expresión y el derecho a la información.
El despacho Regulatory Experts: Telecommunications and Broadcasting, explicó que desde la perspectiva de derechos humanos, el proyecto de reforma plantea riesgos de sobrerregulación y censura indirecta. Al exigir filtros automáticos y eliminación inmediata de contenidos, se corre el riesgo de afectar la libertad de expresión y el derecho a la información, especialmente si los mecanismos no son proporcionales ni transparentes.
“El concepto ‘afectar el desarrollo integral’ que está vertido en la iniciativa es amplio y carece de una definición precisa. Esto significa que cada plataforma podría interpretar de qué contenidos son considerados dañinos: desde violencia explícita, pornografía o discursos de odio, hasta temas polémicos de carácter político, cultural o social”, advierte el despacho en un análisis compartido a Expansión.
No es la primera vez que las empresas digitales serían reguladas desde el ámbito de contenidos. En el primer borrador de la nueva Ley de Telecomunicaciones planteaba en el artículo 109 bloquear plataformas por transmitir propaganda política, ideológica y comercial de gobiernos o entidades extranjeras. La propuesta fue desechada luego de generar polémica a nivel nacional por posibles implicaciones de censura.
“Sin criterios objetivos y lineamientos claros emitidos por la autoridad, con la propuesta el riesgo es que las plataformas ejerzan un poder de censura excesivo, eliminando contenidos legítimos bajo el argumento de proteger a menores o al desarrollo integral”, alertó el equipo de Regulatory Experts: Telecommunications and Broadcasting.
Problemas de regulación
Otro problema que asoma la iniciativa de reforma, además, representaría un problema regulatorio para las plataformas digitales, al no ser sujetos directos de la Ley de Telecomunicaciones y Radiodifusión, al no contar con una concesión de prestación de servicios por parte del Estado.
De aprobarse la iniciativa como está planteada, implicaría que la Comisión Reguladora de Telecomunicaciones (CRT) o bien, la Agencia de Transformación Digital y Telecomunicaciones (ATDT) emitan lineamientos para ejecutar los controles parentales en contenidos, internet, y dispositivos digitales y móviles, cuyas autoridades que no cuentan con la facultad de regular a plataformas digitales.
El despacho explicó que la iniciativa abrirá una tensión jurídica. Aunque el Congreso tiene facultades para legislar en telecomunicaciones y radiodifusión, las empresas digitales no son concesionarias ni están sujetas al régimen establecido en la nueva ley del sector de conectividad.
Esto generaría problemas de técnica legislativa y eventuales cuestionamientos de constitucionalidad, al intentar imponer obligaciones a actores que no forman parte del marco concesional previsto en la ley.
“Para imponerles obligaciones específicas (a las plataformas) sería necesario crear un marco normativo diferenciado —por ejemplo, una ley de servicios digitales o una reforma en materia de responsabilidad de intermediarios— que establezca con claridad sus deberes y límites”, precisó el despacho.
El desarrollo y adopción acelerada de las nuevas tecnologías generan desafíos para los gobiernos, en especial para su regulación. En Brasil, por ejemplo, ya existe una legislación similar a la que impulsa el diputado del Partido Verde. Este año, la Cámara de Diputados brasileña aprobó una ley para proteger a los menores en redes sociales.
La disposición- que entra en vigor el próximo año- obliga a las plataformas digitales a endurecer la verificación de la edad de usuarios para evitar el consumo de contenido de explotación y abuso sexual.
Pero su implementación ha sido compleja. Las empresas se han visto obligadas a solicitar un plazo extra para acatar la nueva regulación debido a que la nueva regulación entra en conflicto con otras leyes existentes en el país, principalmente con el Marco Civil de Internet.
Para evitar un escenario similar, el despacho consideró que si el objetivo es garantizar que los dispositivos electrónicos cuenten con configuraciones seguras y mecanismos de control parental, éstas deberían ser incluidas en una ley especializada, y después definir los detalles técnicos a través de una Norma Oficial Mexicana (NOM), que es donde normalmente se precisan estos requisitos.
“Este camino daría mayor claridad y evitaría regulaciones rígidas o que se queden atrás frente a la tecnología. Además, permitiría que los propios fabricantes participen en la creación de la norma, lo que ayudaría a que las obligaciones sean claras, medibles y fáciles de revisar”.
