Elon Musk al estrado: debe responder por los riesgos de su IA en Nueva York

En la audiencia participarán los 51 integrantes del Concejo Municipal como parte de un Comité de Pleno, con el objetivo de revisar los riesgos que plantea el desarrollo acelerado de la IA, las medidas de seguridad que aplican las principales compañías y las herramientas que tiene la ciudad para establecer nuevas reglas.

¿Qué quiere investigar Nueva York sobre la IA?

De acuerdo con una carta enviada por Menin a Musk, la investigación busca evaluar si los riesgos emergentes de la IA para la seguridad pública, la ciberseguridad , la estabilidad económica, la privacidad, los consumidores y las empresas requieren acciones legislativas inmediatas.

La ciudad también quiere conocer qué salvaguardas están utilizando las compañías que desarrollan modelos avanzados y qué medidas adicionales podrían ser necesarias para reducir los riesgos asociados con estas tecnologías.

De manera simultánea, el Concejo analiza un paquete de propuestas que cambiaría las obligaciones de las empresas de IA que operan en Nueva York. Una de las iniciativas plantea que los sistemas de IA comercializados, vendidos o desplegados en la ciudad tengan una validación independiente que revise aspectos como calidad de datos, sesgos, privacidad y seguridad. También contempla que estos sistemas cuenten con un mecanismo de control humano que permita apagarlos.

Otra propuesta busca crear un incentivo económico para denunciantes que revelen infracciones de compañías de IA. También se analiza permitir que personas afectadas por daños previsibles derivados del uso de sistemas de IA puedan demandar a las empresas cuando no hayan implementado medidas de protección razonables.

El Concejo también estudia reglas para que contratistas de la ciudad reporten incidentes de seguridad relacionados con IA y para establecer mecanismos de respuesta ante posibles ataques o fallas que afecten sistemas públicos.

¿Por qué SpaceXAI quedó en el centro de la discusión sobre los peligros de la IA?

La citación coloca a SpaceXAI en una posición distinta a la del resto de las grandes compañías convocadas. Meta aceptó participar, mientras que OpenAI, Google y Anthropic confirmaron su asistencia después de que el Concejo advirtiera que podía obligarlas a comparecer. SpaceXAI fue la única que no respondió a tiempo a la solicitud, según el Concejo Municipal.

La empresa reúne actualmente los negocios de SpaceX y xAI. SpaceX adquirió xAI en febrero de 2026, una operación que integró los proyectos de inteligencia artificial de Musk con su negocio espacial y con productos como X y Grok.

En su sitio corporativo, SpaceXAI describe su actividad como el desarrollo de sistemas de IA para acelerar el descubrimiento científico y señala a Grok entre sus principales productos.

La empresa también enfrenta cuestionamientos legales relacionados con el uso de Grok para generar imágenes sexualizadas sin consentimiento. En marzo, Baltimore presentó una demanda contra X y xAI en la que alegó que el sistema violaba normas de protección al consumidor al generar y distribuir imágenes sexualizadas no consentidas.

Por separado, un grupo de adolescentes presentó una demanda contra xAI en California, en la que alegan que herramientas vinculadas con Grok fueron utilizadas para transformar fotografías reales de menores en imágenes sexualizadas.

Estos casos forman parte del contexto en el que Nueva York quiere examinar las medidas de seguridad de los desarrolladores de IA. La citación, sin embargo, no significa que el Concejo haya determinado que SpaceXAI haya violado alguna de las normas que están bajo discusión.

La regulación de IA llega a las ciudades

Nueva York presentó las nuevas iniciativas como una forma de establecer reglas sobre sistemas que ya se utilizan dentro de la ciudad. Entre las propuestas se encuentra incluso la posibilidad de imponer una multa de 25,000 dólares por cada caso en que un sistema sea desplegado sin la validación externa requerida, si la iniciativa se convierte en ley.

El Concejo sostiene que las empresas de IA tienen una presencia importante en Nueva York y que, por ello, la ciudad tiene interés en conocer cómo desarrollan y controlan sus productos. Al mismo tiempo, la propia Menin ha planteado que Nueva York busca mantener su posición como centro tecnológico mientras analiza nuevas medidas de seguridad.

Si la compañía no cumple con la citación, el Concejo ha señalado que podría acudir a la Corte Suprema del estado de Nueva York para solicitar su cumplimiento.