“Dejen de satanizar la IA”: el 90% de los adolescentes ya la usa

Para la activista Oriana McKenzie, la IA tiene el poder de contribuir a los procesos de aprendizaje y, de hecho, ella los usa para organizar su carga de trabajo de forma más eficiente, estudiar y optimizar sus tiempos para aprovecharlo en actividades que disfrutaba, comentó en una conferencia con OpenAI.

Ante ello, en vez de plantear que los menores deben mantenerse alejados de la IA, la empresa señala que el desafío ahora consiste en ofrecer experiencias de acuerdo a su edad, pues el impedir que los adolescentes accedan a estas herramientas podría dejarlos menos preparados para desenvolverse en la vida en general.

Por otra parte, el investigador de la UNAM, Luis Josué Lugo Sánchez apunta que un uso ético de la IA implica cuestionarse las razones detrás de su uso y, a partir de ahí, generar mecanismos de uso responsable.

“Es indispensable dejar de satanizar las herramientas de IA”, puntualiza el experto y agrega que, se quiera o no, son parte del estilo de vida actual. Asimismo, destaca que conocer, utilizar y aprovecharlas a su favor será una habilidad necesaria para su futuro laboral.

En este sentido, los especialistas son contundentes al puntualizar que ejercer un enfoque de prohibición ante la IA produciría cerrar oportunidades de empleabilidad y, además, generaría una amplificación de brechas de desigualdad entre quienes las usan y quienes no.

Nuevas protecciones ante la IA

Como parte de las medidas para modificar la experiencia en el uso de la IA, OpenAI anunció su pretensión de que ChatGPT funcione más como un tutor que como una máquina que da respuestas. Por ello lanzó Study Mode, una modalidad diseñada con docentes, especialistas en pedagogía e investigadores del aprendizaje para que los estudiantes resuelvan problemas paso a paso mediante preguntas guía, explicaciones estructuradas y ejercicios de reflexión, en lugar de simplemente obtener la respuesta final.

También incorporó funciones pensadas para el estudio, como convertir apuntes en guías de aprendizaje, crear tarjetas didácticas, elaborar cuestionarios de práctica y verificar la claridad y veracidad de la información. OpenAI menciona que actualmente existen alrededor de 18 millones de personas que utilizan cada semana las experiencias interactivas de matemáticas y ciencias disponibles en ChatGPT.

El modelo también estará acompañado de restricciones adicionales en las que, cuando los sistemas de OpenAI detectan que una persona es menor de 18 años, ChatGPT aplica en automático protecciones diseñadas para reducir la exposición a contenidos sensibles, como violencia gráfica, autolesiones, retos virales peligrosos o problemas relacionados a la imagen corporal.

La plataforma también comenzó a enviar recordatorios para hacer pausas cuando detecta sesiones prolongadas de uso, con el objetivo de fomentar hábitos digitales más saludables. Por otro lado, la compañía amplió los controles parentales donde los tutores pueden establecer horarios de uso, desactivar el modo de voz, limitar la generación de imágenes y recibir notificaciones cuando el sistema detecta situaciones consideradas de alto riesgo, como posibles señales de autolesión.

El anuncio ocurre mientras algunos países endurecen sus medidas para establecer reglas para el desarrollo y el uso de inteligencia artificial. En Europa, por ejemplo, la Ley de IA obliga a que los sistemas de alto riesgo incorporen medidas de protección para grupos vulnerables como niños y adolescentes. Dicha regulación también exige mayor transparencia sobre cómo funcionan estos modelos y los riesgos que pueden representar.

En México aún no existe una legislación específica sobre la IA pero se han presentado diversas iniciativas relacionadas con el uso responsable de esta tecnología. Ante esto, especialistas han señalado que el país enfrenta el reto de equilibrar la innovación con la protección de derechos como la privacidad, seguridad y protección de menores.

Organismos como la UNESCO también han advertido que la alfabetización en IA será una habilidad indispensable para las nuevas generaciones por lo que recomiendan que su adopción vaya acompañada de supervisión, pensamiento crítico y formación ética para evitar la desinformación.