Según el documento al cual tuvo acceso el medio estadounidense, el organismo solicitó a la empresa que dé a conocer todos y cada uno de los clientes terceros que tienen acceso a sus modelos de lenguaje, además de que señale quiénes son sus 10 clientes principales.
También pidió que OpenAI detalle minuciosamente cómo obtienen información para entrenar a sus modelos, además de explorar cómo retienen esos datos del consumidor y los diferentes usos que le dan, incluidos los riesgos que implica usar estos sistemas.
Otro de los puntos relevantes del documento es que pide a OpenAI detallar cómo evalúa el riesgo de los modelos de lenguaje automático, además de explicar el tratamiento y supervisión de las declaraciones que pueden ser engañosas o discriminatorias en torno a algún grupo.
Este es uno de los momentos más importantes para la Inteligencia Artificial. Si bien el auge de las capacidades de IA generativa produjeron una adopción masiva de esta tecnología, en realidad se trata de una innovación que ya cuenta con años de investigación y desarrollo, pero hasta ahora las autoridades regulatorias han puesto atención en ella.
Sam Altman, CEO de OpenAI, se ha mostrado abierto a colaborar en en la regulación de la tecnología e incluso ha recibido buenos comentarios por parte de legisladores, quienes elogiaron su apertura para discutir en torno a este asunto.
“Construimos GPT-4 sobre años de investigación y de seguridad y pasamos más de seis meses después de terminar el entrenamiento inicial haciéndolo más seguro y más alineado antes de lanzarlo. Protegemos la privacidad del usuario y diseñamos nuestros sistemas para el mundo, no sobre los particulares”, dijo Altman.
En mayo, el ejecutivo acudió a una audiencia con el senado de los Estados Unidos, donde habló de la urgencia de regular la IA. “Si esta tecnología sale mal, puede salir bastante mal y queremos expresarnos al rector”, comentó.
Durante esa participación, propuso la creación de una agencia que emita licencias para conformar una IA a gran escala, además de normas de seguridad y pruebas que las inteligencias deberían pasar antes de ser lanzadas públicamente.
Sin embargo, expertos en IA criticaron su participaron e instaron al Senado a consultar a voces más diversas al respecto y no sólo aprender de un ejecutivo que es líder en el área y criticaron que se le llegara a preguntar sobre si estaría calificado para administrar las normas de la industria.
