Tecnología

Las escuelas de Nueva York prohíben ChatGPT por temor a la desinformación

La inexactitud y el no desarrollo de pensamiento crítico que implica el uso de estas herramientas es el principal problema que han detectado las autoridades educativas.

jue 05 enero 2023 10:00 AM

Prohíbe ChatGPT en escuelas — El propio CEO de ChatGPT ha alertado que su uso en cosas más serias no es confiable en este momento. (Chaay_Tee/Getty Images/iStockphoto)

Expansión

@ExpansionMx

La desinformación es uno de los riesgos más importantes que deben resolver sistemas de Inteligencia Artificial como ChatGPT . Eso está claro para las autoridades educativas de Nueva York, las cuales acaban de prohibir el uso de esta herramienta por temor a que perjudique el proceso de los estudiantes.

De acuerdo con una declaración de Jenna Lyle, portavoz del Departamento de Educación de Nueva York, esta decisión se tomó debido a los posibles “impactos negativos en el aprendizaje y preocupaciones respecto a la seguridad y precisiones del contenido”.

Las autoridades resaltaron que si bien la herramienta tiene la capacidad de generar respuestas e incluso ensayos académicos de manera rápida, su uso “no desarrolla habilidades de pensamiento crítico y resolución de problemas, que son esenciales para el éxito académico y de por vida”.

Cabe mencionar que la medida únicamente aplicará para las redes y dispositivos de las escuelas públicas en la ciudad de Nueva York, por lo que los estudiantes podrán seguir usándola en sus casas.

ChatGPT, una herramienta con riesgo de desinformación

Esta plataforma es de libre acceso para cualquier usuario de internet y ha sido tan revolucionaria por su capacidad de responder preguntas y redactar diferentes tipos de narrativas, desde poemas, pasando por guiones o hasta ensayos académicos, con un lenguaje similar al de humanos.

Además, sus textos están basados en toda la información que existe en internet y ese es, precisamente, su problema, pues por una parte tiene el riesgo de repetir o amplificar discursos de odio que hay en la web, como racismo o sexismo a través de sus respuestas.

En el ámbito educativo, los profesores han resaltado que este sistema es propenso a inventar información, como fechas históricas o incluso leyes científicas, por lo que los maestros consideran que con este software se hace imposible evaluar la capacidad de los estudiantes de escribir un ensayo en casa y desarrollar todas las habilidades que esto implica.

Si bien ya existen herramientas para detectar algunas características de los textos generados por IA, estos aún están en desarrollo y, por lo tanto, no se sabe qué tan precisos son o si pueden ser burlados con alteraciones al texto de la Inteligencia.

Esta es una polémica recurrente para ChatGPT desde que fue lanzado en noviembre pasado por la empresa OpenAI. De hecho, su CEO, Sam Altman, ya ha alertado al respecto con un tuit en donde dijo que “es un error confiar en ChatGPT para algo importante en este momento”.

Por ahora, algunos maestros han dado su opinión y resaltan que deberán adaptarse a la aparición de esta tecnología de la misma forma en que hace 20 años se hizo con Google y Wikipedia, además del desarrollo del trabajo con fuentes fidedignas.

La mejor manera de disuadir a los estudiantes de usar esta herramienta, dijo el profesor Adam Stevens al medio local Chalkbeat, es “asignándoles un trabajo que los invite a explorar cosas que vale la pena conocer” con el fin de que se alejen de la escritura basa en fórmulas y desarrollen su creatividad.