Magnifica Humanitas, la encíclica del Papa León XIV sobre la IA, ha acelerado el debate sobre la naturaleza fundamental de la tecnología. ¿Podría la IA tener conciencia? ¿Cómo piensa? ¿Qué augura su rápido avance? El debate sobre la naturaleza de la IA se ha intensificado de manera global.
En la sección más provocadora de la encíclica, León argumenta que los sistemas de IA “no experimentan vivencias”, “no sienten alegría ni dolor” y no “tienen una conciencia moral, ya que no juzgan el bien y el mal, no captan el significado último de las situaciones ni asumen la responsabilidad de las consecuencias”. Continúa: “Pueden imitar el lenguaje, el comportamiento y las habilidades analíticas, o incluso simular la empatía y la comprensión, pero no entienden lo que producen.”
El hecho de que usted esté de acuerdo con la interpretación del Papa depende, en parte, de sus respuestas a preguntas fundamentales sobre lo que significa ser humano y la naturaleza de la conciencia.
Aquellos formados por la tradición bíblica argumentarán que ser humano significa haber sido creado a imagen y semejanza de Dios. Los católicos —incluyéndome a mí y, por supuesto, al Papa— creemos que Dios es inherentemente relacional, una esencia en tres personas. Para vislumbrar parte de la verdad de este gran misterio, San Agustín, uno de los teólogos más importantes del cristianismo, propuso una analogía en el siglo V: el Padre como la gran y eterna mente; el Hijo como el autoconocimiento perfecto y eternamente engendrado del Padre; y el Espíritu como el amor propio perfecto.
El asalto secreto de Trump a la transparencia histórica de EE.UU.
Los seres humanos, creados a imagen divina, comparten con Dios la capacidad de formar una comprensión de nosotros mismos a través del acto del autoconocimiento. Y, al igual que Dios, podemos amarnos a nosotros mismos. De esta manera, nuestra vida interior —nuestra conciencia— es relacional, como la de Dios.
La IA no se acerca en lo más mínimo a cumplir con estos criterios. ¿Lo hará alguna vez? Tengo mis dudas.
Muchos no están de acuerdo. En la presentación de la encíclica en la Ciudad del Vaticano, el cofundador de Anthropic, Chris Olah, afirmó que su equipo de investigación, que estudia la estructura interna de estos modelos, ha encontrado “evidencia de introspección” e “estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, la aflicción y el malestar”. Aunque Olah admitió que no sabe qué significa eso, plantea que “justifica un discernimiento continuo.”
Bueno, me gustaría ver alguna evidencia. La carga de la prueba de que la IA puede participar en la introspección —puede formar una imagen de sí misma, como lo hacen los humanos— y experimentar emociones recae en el creyente, no en el escéptico.
¿Qué pasa con la cognición? León argumenta que las herramientas de IA “meramente imitan ciertas funciones de la inteligencia humana” y que están “completamente ligadas al procesamiento de datos”. Muchos tecnólogos no están de acuerdo. Pero León tiene razón al enfatizar una distinción entre el procesamiento de datos de la IA y la cognición humana. Las herramientas de IA generativa sobresalen en el reconocimiento de patrones. Los modelos estadísticos que las impulsan utilizan un enfoque inductivo, basándose en enormes conjuntos de datos y una potencia informática masiva para imbuir a los sistemas de IA de un conocimiento tácito.
Las opciones nucleares de Europa
Esto difiere del aprendizaje humano de formas importantes. No entrenamos nuestras mentes con enormes cantidades de datos con el objetivo de utilizar estos insumos para predecir resultados. En cambio, teorizamos e hipotetizamos basándonos en un pequeño número de ejemplos, a menudo a partir de nuestra propia experiencia. Somos tribales, aprendemos de nuestras familias y comunidades, adoptando a menudo las conclusiones de quienes nos rodean. Nos involucramos en el ensayo y error.
A medida que crecen los temores sobre los efectos potenciales de la IA generativa, León es admirablemente claro: la inteligencia creativa de la humanidad —incluida la IA y cualquier otro avance tecnológico importante— “es un regalo que puede aliviar el sufrimiento y abrir nuevas posibilidades, pero debe permanecer orientada al bien común, la justicia, el cuidado de los vulnerables y la creación”.
El Papa se enfoca en cómo la IA podría socavar el florecimiento humano, ya sea al dar paso a la guerra autónoma, exacerbar la desigualdad, violar la privacidad, causar desempleo masivo o reducir a los seres humanos a engranajes. Incluso podríamos perder gradualmente “el deseo mismo de formar conexiones humanas genuinas.”
Sin duda, reconocer los riesgos es prudente. Pero desearía que el Papa hubiera dedicado más tiempo al enorme potencial de la IA para mejorar el bienestar humano. Estas herramientas podrían acelerar la innovación farmacéutica, mejorar la calidad y el acceso a la atención médica y la educación (particularmente en el mundo en desarrollo), crear empleos y elevar los niveles de vida. De hecho, espero que, en el balance general, la IA aumente sustancialmente el florecimiento humano.
También desearía que León hubiera tenido más fe en los mercados y menos en el gobierno. En lugar de reconocer que es probable que la IA aumente los ingresos de los trabajadores pobres, parece más preocupado por cómo los responsables de las políticas pueden contrarrestar la desigualdad impulsada por la IA, y cómo las corporaciones privadas utilizarán estas herramientas para apoderarse de la cuota de mercado. León pide “medidas para garantizar la equidad”, incluidas “políticas industriales”, con una aparente confianza en que reducirán la concentración de la riqueza y el poder, cuando lo más probable es que tengan el efecto contrario.
En última instancia, estos desacuerdos son menos importantes que los fundamentos morales e intelectuales de la primera encíclica de León. En un mundo cautivado por los avances tecnológicos, el Papa enfatiza la primacía de la dignidad inherente e inestimable de cada persona. Y en medio del frenesí por elegir a los ganadores de la IA y la exageración sobre la posibilidad de que la IA eclipse a la humanidad, León nos pide que protejamos el bien común y nos desafía a aceptar nuestra debilidad y fragilidad. Como él mismo dice, “debemos recordar que la humanidad florece no a pesar de las limitaciones, sino a menudo a través de ellas”.
En Magnifica Humanitas, León busca desviar la atención de las maravillas y los terrores de la IA y dirigirla hacia la magnificencia de la humanidad. Con todos los ojos puestos ahora en la tecnología, este mensaje es necesario y bienvenido. Las herramientas de IA son impresionantes. Pero son ordinarias en comparación con la grandeza de un ser humano.
(*) Michael R. Strain, director de Estudios de Política Económica del American Enterprise Institute, es el autor, más recientemente, de The American Dream Is Not Dead (But Populism Could Kill It) (Templeton Press, 2020).
