Tecnología

Un ejecutivo de Microsoft advierte que la IA “puede causar mucho daño”

El economista en jefe de la empresa, Michael Schwarz, señaló que es necesaria la regulación de esta tecnología para evitar un potencial peligro en la sociedad.

mié 03 mayo 2023 09:00 AM

Peligros de la Inteligencia Artificial — Según Altman, ChatGPT podría ser considerado como un sistema de “alto riesgo”, lo que le obligaría a cumplir con una serie de requisitos de seguridad y transparencia. (Pitiphothivichit/Getty Images/iStockphoto)

Expansión

@ExpansionMx

Microsoft es una de las empresas más involucradas en el desarrollo de la IA generativa y por ello es consciente de los riesgos que representa. “Estoy seguro de que la IA será utilizada por malos actores y sí, causará un daño real. Puede causar mucho daño en manos de los spammers con elecciones y demás”, advirtió el economista en jefe de Microsoft, Michael Schwarz.

Así lo dijo durante un panel del Foro Económico Mundial en Ginebra, Suiza, donde señaló que esta nueva tecnología debe estar regulada antes de que cause un daño para la sociedad.

“Los beneficios de la regulación para nuestra sociedad deberían ser mayores que el costo para nuestra sociedad”, señaló el ejecutivo de Microsoft, una de las empresas que más dinero han invertido en el desarrollo de sistemas de IA, como ChatGPT, desarrollado por OpenAI.

Debido a este papel tan relevante en la construcción de un modelo de IA, Schwarz señaló que Microsoft también está poniendo atención en mitigar el potencial peligro de la de las herramientas de Inteligencia Artificial, pero no dio más detalles al respecto.

Sin embargo, destacó que es necesaria una regulación, especialmente en el aspecto de los conjuntos de datos necesarios para el entrenamiento de la tecnología. “Sería bastante desastroso”, comentó respecto a no poner reglas en ese sentido.

Cabe resaltar que este jueves, la vicepresidenta de los Estados Unidos, Kamala Harris, tendrá una reunión con los directores ejecutivos de diferentes empresas involucradas en el desarrollo de la IA, como Microsoft, OpenAI y Alphabet, con el propósito de discutir formas de reducir el riesgo de daño de estos avances.

Por otra parte, cuando se le preguntó acerca de los riesgos que implica para el trabajo, Schwarz dijo que revolucionará la forma en que operan la mayoría de las empresas, pero tomará tiempo realizar estos cambios.

“Nosotros, como humanidad, deberíamos estar mejor porque podemos producir más cosas con menos trabajo. Me gusta decir que la IA no cambia nada a corto plazo y lo cambia todo a largo plazo”, concluyó.

Estas declaraciones llegan luego de que Geoffrey Hinton, uno de los pioneros de la IA en Google, dejara la empresa para “poder hablar de los peligros de la IA sin tener en cuenta cómo afecta a Google”.

De acuerdo con una entrevista que dio al New York Times, Hinton dijo que le preocupaba la capacidad de la IA para crear imágenes y textos falsos convincentes, creando un mundo en el que la gente "ya no será capaz de saber lo que es verdad. Es difícil ver cómo se puede evitar que los malos actores la utilicen para cosas malas", afirmó.

México busca avanzar en la regulación de la IA

Ante el avance vertiginoso de la tecnología, en México el diputado Ignacio Loyola Vera presentó una iniciativa de ley para la “regulación ética de la IA y la robótica” que entre sus propuestas destaca crear normas para el buen uso de esta tecnología, además de plantear la creación del Consejo Mexicano de Ética para la IA y la Robótica.

Sin embargo, el propio diputado reconoció en entrevista con Expansión que el conocimiento en el tema es apenas básico y es necesario que en la elaboración de este marco regulatorio participen expertos en el área.