Hacia la Superinteligencia Humanista

REDMOND – Durante décadas, la prueba de Turing fue la estrella del norte para los investigadores de IA. Hoy en día, ha sido superada en silencio. Con modelos de razonamiento y capacidades agentivas emergiendo, y con el ritmo de construcción de infraestructura de IA aumentando, hemos cruzado un punto de inflexión en el viaje hacia la superinteligencia: el punto en el que la IA supera el rendimiento a nivel humano en todas las tareas.

De hecho, la pregunta más trascendental de nuestro tiempo no es si la IA nos superará, porque en algunos aspectos ya lo ha hecho (intenta superar a una IA en conocimientos generales), en muchos otros lo hará, y en algunos aspectos siempre seremos únicos. La verdadera pregunta, entonces, es si podemos moldear la IA para avanzar en el florecimiento humano en lugar de socavarlo. Ese es el desafío más importante de nuestro tiempo.

Sin duda, todos están preparados ahora para poner los ojos en blanco ante el hype de la IA. Lo entiendo. Pero las apuestas no podrían ser más altas. La ciencia y la tecnología siempre han sido el mayor motor de progreso de la humanidad. En los últimos 250 años, ese motor ha duplicado la esperanza de vida, ha sacado a miles de millones de personas de la pobreza y nos ha dado antibióticos, electricidad y comunicación global instantánea. La IA es el próximo capítulo en esta historia. Representa nuestra mejor oportunidad para acelerar el descubrimiento científico, el crecimiento económico y el bienestar humano. Siempre que escuches hablar de IA, vale la pena tener en mente este potencial.

Pero aprovechar el potencial de la IA solo funcionará bien si construimos la IA de la manera correcta. Los costos de equivocarnos son inmensos. Nadie tiene aún respuestas tranquilizadoras sobre cómo contener o alinear estos sistemas. Estamos atrapados en un momento extraño, enfrentándonos a las tecnologías más poderosas de la historia y sin saber cómo pueden ser controladas o si permanecerán beneficiosas.

Creo que podemos cortar el ruido y entenderlo así: la IA, como toda tecnología, puede juzgarse por una prueba simple. ¿Mejora la vida humana? ¿Está claramente al servicio de las personas?

Mientras embarcamos en la próxima fase de la IA, la respuesta a estas preguntas radica en lo que llamo Superinteligencia Humanista (HSI, por sus siglas en inglés): IA avanzada diseñada para permanecer controlable, alineada y firmemente al servicio de la humanidad. Este proyecto se trata explícitamente de evitar, a toda costa, una entidad ilimitada con autonomía total.

En cambio, debemos enfocarnos en la superinteligencia específica de dominio. En lugar de simplemente crear un sistema que pueda mejorar indefinidamentey escapar por sí solo hacia cualquier propósito que eventualmente llegue, el propósito central es entregar beneficios prácticos en el mundo real a miles de millones de personas. Debe permanecer para siempre inequívocamente subordinada a la humanidad. Esta es la visión de nuestro Equipo de Superinteligencia en Microsoft, donde nuestra misión principal es mantener a la humanidad segura y firmemente en control.

¿Por qué el humanismo? Porque la historia ha demostrado el poder duradero de la tradición humanista para preservar la dignidad humana. La IA construida en ese espíritu puede desbloquear beneficios extraordinarios mientras evita riesgos catastróficos. Necesitamos una visión de IA que apoye a la humanidad, amplifique la creatividad y proteja nuestro frágil entorno, no una que nos deje de lado.

El premio para la humanidad es enorme: un mundo de avances rápidos en los estándares de vida y la ciencia, y un tiempo de nuevas formas de arte, cultura y crecimiento. Es una misión verdaderamente inspiradora que me ha motivado durante décadas. Deberíamos celebrar y acelerar la tecnología como el mayor motor de progreso que la humanidad haya conocido. Por eso necesitamos mucho, mucho más de ella.

La HSI ofrece un camino más seguro hacia adelante. Permanecer anclados en avances específicos de dominio con un impacto societal profundo es un ejemplo de esto. Imagina compañeros de IA que alivian la carga mental de la vida diaria, mejoran la productividad y transforman la educación a través de un aprendizaje adaptativo e individualizado. Imagina una superinteligencia médica que entregue diagnósticos precisos, asequibles y a nivel experto que podrían revolucionar la atención sanitaria global, capacidades ya anticipadas por nuestro equipo de salud en Microsoft AI. Y considera el potencial de avances impulsados por IA en energía limpia que permitirán una generación, almacenamiento y remoción de carbono abundante y de bajo costo para satisfacer la demanda creciente mientras protegen el planeta.

Con la HSI, estos no son sueños especulativos. Son objetivos alcanzables que pueden beneficiar a personas en todo el mundo, proporcionando mejoras concretas en la vida cotidiana.

Para afirmar lo obvio, los humanos importan más que la tecnología o la IA. La superinteligencia podría ser la mejor invención de la historia, pero solo si se adhiere a este máximo. Eso significa asegurar la responsabilidad y la transparencia, y una disposición a hacer de la seguridad una prioridad principal. Nuestro objetivo no es construir una superinteligencia a cualquier costo, sino seguir un camino cuidadoso hacia una que esté contenida, alineada con valores y siempre enfocada en el bienestar humano.

Todos necesitan preguntarse esto: ¿Qué tipo de IA queremos realmente? La respuesta moldeará el futuro de la civilización. Para mí, esa respuesta es la Superinteligencia Humanista.

(*) Mustafa Suleyman es el CEO de Microsoft AI y el autor de The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma (Crown, 2023). Anteriormente cofundó Inflection AI y DeepMind.

Copyright: Project Syndicate, 2025.