Dario Amodei, CEO de Anthropic, propuso en septiembre que evaluadores independientes revisen los modelos de frontera, que las principales empresas coordinen estándares de seguridad y que los gobiernos construyan acuerdos internacionales. Sam Altman, director ejecutivo de OpenAI, y Elon Musk, respaldaron públicamente parte de ese planteamiento.
Mark Zuckerberg se colocó del otro lado del debate, ya que el CEO de Meta sostuvo que los laboratorios ya tienen incentivos comerciales y legales suficientes para desarrollar sus productos de forma segura y rechazó una desaceleración coordinada. Como ejemplo, afirmó que Meta retrasó durante meses el lanzamiento de uno de sus agentes de IA para corregir riesgos sin exigir que sus competidores hicieran lo mismo.
La división no enfrenta únicamente a empresas partidarias y opositoras de regular, pues Meta, Nvidia y Microsoft han solicitado evitar restricciones amplias sobre los modelos abiertos, al argumentar que pueden disminuir la competencia y favorecer a los proveedores de sistemas cerrados, como OpenAI y Anthropic. El sector sí coincide en ciertas medidas de seguridad, pero disputa quién debe aplicarlas y hasta dónde pueden limitar los lanzamientos.
La discusión adquirió mayor peso porque los sistemas ya no solo generan textos o imágenes. Agentes desarrollados por OpenAI, Anthropic y Meta pueden acceder a internet, ejecutar código y utilizar herramientas con poca intervención humana. Pruebas divulgadas por las propias compañías han mostrado comportamientos no previstos, un antecedente que fortalece las exigencias de evaluaciones externas antes de desplegarlos.
Trump apuesta por que cada país y empresa administre esos riesgos bajo sus propias reglas por lo que los mandatarios que llevaron el debate a la ONU sostienen que esa vía resulta insuficiente porque los modelos, los centros de datos y los ciberataques operan más allá de las fronteras.
