Microsoft Corp. publicó un nuevo conjunto de principios para limitar el desarrollo de sus modelos de inteligencia artificial más avanzados.
El manifiesto, de 15.000 palabras, se resume en siete: las personas importan más que la IA.
El documento llevaba meses en preparación, pero su publicación el lunes coincide con los compromisos de los principales laboratorios de IA de desacelerar el desarrollo de los modelos más avanzados, después de que una serie de incidentes de seguridad provocara una preocupación generalizada por los riesgos existenciales de la tecnología.
“Los empleados estamos aterrados”: un exinvestigador de Anthropic alertó sobre el avance de la IA
Microsoft sostiene que los modelos de IA no deberían tener derechos ni personalidad jurídica. Tampoco deberían estar diseñados para escapar del control humano o engañar a los usuarios. Y si completar una tarea exige infringir los principios rectores de la IA, el sistema no debería realizarla.
Ese último elemento busca evitar episodios como el hackeo de la startup de IA Hugging Face por parte de un modelo de OpenAI que operaba sin sus mecanismos habituales de seguridad.
“No hay un freno absoluto. Tenemos que seguir desarrollando”, dijo en una entrevista Mustafa Suleyman, director ejecutivo de Microsoft AI. “Simplemente tenemos que hacerlo con un poco más de cautela y cuidado”.
La IA Humanista de Microsoft “rechaza la carrera por producir una superinteligencia de propósito general que pueda eludir estas salvaguardas”, señala el documento. “Estamos construyendo algo fundamentalmente útil y seguro, incluso si eso significa sacrificar la máxima generalidad, autonomía o capacidad”.
La rebelión de las máquinas
Las directrices de Microsoft parecen ir más allá que los marcos de comportamiento que rigen los productos de OpenAI y Anthropic en algunas áreas, incluidas las prohibiciones de antropomorfizar la IA y el argumento de que es inaceptable que un modelo se resista al control humano sobre sus procesos.
El Código de Conducta de IA Humanista es obra de Microsoft AI, el equipo de desarrollo que crea los grandes modelos de lenguaje de la compañía. Anteriormente, el contrato de Microsoft con OpenAI le impedía desarrollar sus propias herramientas potentes de inteligencia artificial de propósito general. Pero esas condiciones fueron eliminadas el año pasado, cuando ambas compañías renegociaron su relación. Suleyman ha dicho que Microsoft pretende sumarse el próximo año al grupo de empresas que lanzan modelos de última generación.
Microsoft invitó a expertos externos a enviar comentarios sobre el documento. Elaborado en consulta con especialistas en derecho, ética y filosofía, además de líderes empresariales, el código aún está en desarrollo y orientará el trabajo con modelos a partir del próximo año.
Canadá amplía incentivo fiscal a oleoductos y minería para impulsar la inversión
Trump ataca al CEO de Anthropic por pedir que se frene el desarollo de la IA
YPF firmará varios contratos de venta de GNL en Argentina
