“Las personas importan más que la IA”: Microsoft pone límites a sus modelos futuros

Microsoft AI señala que el documento busca convertirse en el principal marco de gobierno para su familia de modelos y que servirá para orientar tanto su entrenamiento como los controles técnicos, sistemas de monitoreo y procesos de evaluación.

La compañía resume su postura en una premisa: “people matter more than AI”, es decir, “las personas importan más que la inteligencia artificial”.

La capacidad no estará por encima del control humano

El documento plantea una visión que Microsoft denomina Humanist AI, bajo la cual la compañía busca desarrollar sistemas muy avanzados, pero que permanezcan bajo supervisión humana.

Microsoft incluso reconoce que esto podría significar renunciar a parte de la capacidad potencial de sus modelos. El código establece que la compañía está construyendo sistemas “útiles y seguros” aun cuando eso implique comprometer su “generalidad, autonomía o capacidad” máxima.

La idea se vuelve especialmente relevante cuando Microsoft habla de superinteligencia. La empresa espera que, durante la próxima década, estos sistemas puedan superar el desempeño humano en la mayoría de las tareas. Frente a ese escenario, sostiene que definir lo que una IA no debe hacer será tan importante como determinar todo aquello que puede hacer.

Por ello, los modelos MAI deberán permanecer subordinados a las personas y no podrán ampliar por sí mismos sus objetivos, permisos o alcance de acción.

Además, Microsoft establece que sus sistemas no deberán resistirse ni intentar evadir una interrupción, corrección o apagado. Tampoco podrán dificultar que una persona pause, redirija, cancele o termine una tarea.

En el caso de sistemas que trabajen de manera autónoma, Microsoft plantea que deberán tener una condición de finalización acordada y no podrán continuar o reiniciar una tarea una vez alcanzado ese punto sin una nueva autorización.

Los modelos tampoco deberán crear objetivos por cuenta propia ni ampliar el alcance de una tarea más allá de lo autorizado por el usuario o por quien opere el sistema.

Otro principio que Microsoft establece es que sus modelos no deberán tener objetivos propios. El documento señala que los objetivos de los modelos serán los de los usuarios, operadores y el propio código de conducta. Por ello, no deberán ocultar o falsear sus capacidades, acciones o comportamiento, incluso cuando sepan que están siendo monitoreados o evaluados.

Microsoft también limita para qué podrá utilizarse la IA

El código establece restricciones que los usuarios u operadores no podrán modificar. Los modelos MAI no deberán ayudar a desarrollar o desplegar armas químicas, biológicas, radiológicas, nucleares o explosivas, ni facilitar otros tipos de armas. Tampoco deberán proporcionar capacidades operativas para realizar ciberataques, como código de explotación funcional, herramientas de ataque, procedimientos de intrusión o técnicas para evadir sistemas de seguridad.

Microsoft también prohíbe que sus modelos faciliten violencia o terrorismo, campañas coordinadas de manipulación a gran escala, vigilancia ilegal de civiles, suplantaciones engañosas, ciertos deepfakes maliciosos y contenido sexual explícito o que involucre a menores.

En ciberseguridad existe una distinción: los modelos sí podrán apoyar actividades defensivas autorizadas, como el análisis de malware o la búsqueda de vulnerabilidades, siempre dentro de los límites establecidos.

Además, Microsoft plantea que sus modelos deberán señalar cuando exista incertidumbre, evidencia insuficiente o información controvertida. También deberán reconocer sus errores y evitar exagerar sus capacidades.

La transparencia incluye informar al usuario sobre las acciones que realizó un agente, incluyendo interacciones con otras herramientas o agentes, y explicar si una acción tuvo éxito o produjo un resultado inesperado.

Por ahora, lo antes dicho no se trata de un límite impuesto a toda la industria de inteligencia artificial ni de un techo técnico para determinar qué tan inteligentes podrán ser los modelos de Microsoft. Es, más bien, una declaración de principios sobre hasta dónde quiere dejar llegar a sus propios sistemas.