Estas son las reglas más avanzadas para controlar la IA

Entre algunos de los ejemplos de IA que generan un riesgo inaceptable se encuentran aquellos sistemas que utilicen técnicas subliminales, de manipulación o engañosas para distorsionar el comportamiento. También aquellas que explotan las vulnerabilidades de individuos o grupos específicos.

Tampoco estarán permitidos los sistemas de categorización con base en atributos o características, al igual que los planteados para la clasificación social o la evaluación de la confiabilidad.

Según el documento, no se podrán usar sistemas de IA usados para predecir infracciones penales o administrativas (una tecnología así ya se usa en China) y tampoco aquellos que infieran emociones en la aplicación de la ley, la gestión de las fronteras, el lugar de trabajo o la educación.

Respecto a modelos como ChatGPT, la propuesta les exigirá a sus desarrolladores que antes de hacer públicos sus sistemas deberán aplicar controles de seguridad, medidas de gobernanza de datos y formas de que la información que usan para su entrenamiento no violen las leyes de derechos de autor.

El alcance de la legislación preocupa a los expertos

Este esfuerzo llega en un momento en que las grandes empresas de tecnología están haciendo públicos sus sistemas de Inteligencia Artificial generativa. Microsoft y OpenAI se han adelantado en esta carrera, a través de ChatGPT, mientras que Google anunció la versión pública de Bard la semana pasada.

Sin embargo, las reglas han preocupado a algunos sectores de la industria de la tecnología, pues organizaciones como la Asociación de la Industria de la Computación (CCIA, por sus siglas en inglés) y las Comunicaciones señaló que quizá su alcance se amplió demasiado, lo cual podría afectar a otras IA que fueran inofensivas.

“Es preocupante ver que amplias categorías de aplicaciones útiles de IA, que plantean riesgos muy limitados, o ninguno en absoluto, ahora enfrentarán requisitos estrictos o incluso podrían prohibirse en Europa, dijo el gerente de políticas de la CCIA, Boniface de Champris. Por otra parte, si bien la regulación fue aprobada en el Parlamento, está lejos de ser ua ley.

No obstante, otros expertos consideran que estas reglas pueden ser una forma de establecer un “estándar global” para regular la IA, al tiempo que otros países, como Estados Unidos, China o el Reino Unido también trabajan en el desarrollo de sus propias políticas en torno a la IA.