Ante las preocupaciones por afectaciones a menores por el uso de redes sociales, MetaAI endurece las medidas de seguridad de sus chatbots para adolescentes al incorporar alertas a padres, contacto con más de 75 especialistas en salud mental y, próximamente, hacia servicios de emergencia si detecta señales de autolesiones o suicidios.
De acuerdo con el Centro de Investigación Pew, los asistentes de IA como ChatGPT o Gemini son comunes para más del 60% de los adolescentes quienes la emplean a diario para buscar información, hacer tareas, explorar intereses y cada vez más como compañía o apoyo emocional. Debido a esto, la empresa Meta busca que los jóvenes tengan experiencias con IA de acuerdo a su edad y mantener informados a los padres si se detecta que su hijo podría estar pasando por un momento difícil.
El Informe de Tendencias en Derecho de Datos , de la firma Freshfields, muestra cómo las empresas deben replantearse su enfoque regulatorio hacia la seguridad de los menores en plataformas digitales y herramientas de IA. En los últimos meses, la Unión Europea, Estados Unidos y Reino Unido endurecieron las obligaciones para empresas de tecnología en materia de protección infantil, desde verificaciones de edad y moderación de contenido hasta nuevas reglas para servicios impulsados por IA o accesibles para adolescentes.
