Publicidad
Publicidad

Microsoft, Google y OpenAI se comprometen a desarrollar una IA segura

Siete compañías del sector acudieron a la Casa Blanca a asumir compromisos voluntarios ante el gobierno de los Estados Unidos para vigilar el avance de sus modelos en ciertos aspectos.
vie 21 julio 2023 09:00 AM
tecnológicas se comprometen con la Casa Blanca a desarrollar inteligencia artificial segura
Según Sam Altman, CEO de ChatGPT podría ser considerado como un sistema de “alto riesgo”, lo que le obligaría a cumplir con una serie de requisitos de seguridad y transparencia.

Las siete empresas más importantes de Inteligencia Artificial en Estados Unidos, entre ellas OpenAI, Microsoft y Google, están asumiendo compromisos voluntarios ante la Casa Blanca con el fin de desarrollar una tecnología responsable, lo cual implica inversiones en una serie de verticales.

La lista de compañías que aceptaron las solicitudes del gobierno estadounidense la completan Amazon, Anthropic, Inflection y Meta, las cuales buscarán abordar las preocupaciones con una mayor atención en temas de ciberseguridad, transparencia e investigación sobre los sesgos y discriminación que pueden generar.

Otros de los compromisos que asumieron las compañías son involucrar a expertos independientes para evaluar las soluciones antes de lanzarlas públicamente y compartir información sobre las mejores prácticas de desarrollo.

Publicidad

La cuestión de la seguridad está tomando un papel muy relevante en este sentido, pues también buscará que terceros tengan la posibilidad de reportar vulnerabilidades en sus sistemas, además de generar tecnologías que ayuden a mitigar desafíos sociales, entre ellos el cambio climático y enfermedades.

Con esta serie de compromisos, el gobierno del presidente Joe Biden quiere mostrar sus intenciones de garantizar el desarrollo de la Inteligencia Artificial cumpliendo con ciertas garantías, pero sin obstaculizar la innovación.

La administración Biden también señaló que ya se ha consultado a las autoridades de otras naciones con el fin de que sus compañías asuman compromisos, además de trabajar en conjunto para complementar los esfuerzos de regulación internacionales.

Sin embargo, la iniciativa que están asumiendo las empresas en este momento no las obliga a nada, por lo que no se sabe cuándo iniciaría su implementación, además de que no habría consecuencias reales si no cumplen con sus promesas.

Un vocero de la Casa Blanca, dijo a medios de Estados Unidos que ya están trabajando en una orden ejecutiva para abordar los riesgos de la IA, la cual podría aplicarse en todas las agencias y departamentos federales, pero no dio más detalles al respecto.

Este no es el único esfuerzo del gobierno por tener mayor peso en el desarrollo de la IA. El mes pasado, el líder del Senado, Chuck Schumer, lanzó un plan para que el Congreso regule la tecnología llamado Marco SAFE (Seguridad, Responsabilidad, Fundamentos, Explicación).

Con este plan, aunque no dio soluciones políticas específicas, Schumer solicitó a los legisladores crear reglas para abordar el potencial de la IA para dañar la seguridad nacional y generar la pérdida de empleos.

Asimismo, la Casa Blanca anunció en mayo el financiamiento de 140 millones de dólares para la Fundación Nacional de Ciencias, con el fin de lanzar siete nuevos Institutos Nacionales de Investigación de IA.

Ese mismo mes, una serie de expertos y líderes de la industria tecnológica publicaron una carta abierta donde resaltaron los riesgos de la IA y pidieron que considerara una “prioridad global” atender las preocupaciones alrededor para que no se convirtiera en un elemento de potencial peligro, como las pandemias o la guerra nuclear.

Publicidad

Newsletter

Únete a nuestra comunidad. Te mandaremos una selección de nuestras historias.

Publicidad

Publicidad