El apocalipsis como frente de batalla

Aquellos quienes han construido algunas de las máquinas más poderosas de la historia comienzan a advertir que esas mismas máquinas podrían destruirnos.

Ingenieros, investigadores y ejecutivos de las grandes compañías de inteligencia artificial hablan de pérdida de control, sistemas autónomos, superinteligencia, riesgos catastróficos e incluso extinción humana. En los últimos días, investigadores han vuelto a formular alertas particularmente severas.

De un lado, el universo de los grandes laboratorios de Silicon Valley que han convertido el desarrollo de modelos cada vez más generales en el centro de una nueva carrera tecnológica. Del otro, empresas cuyo proyecto no consiste primordialmente en crear una inteligencia artificial universal, sino en insertar la inteligencia artificial dentro de las estructuras concretas donde se toman decisiones: gobiernos, sistemas militares y organismos de seguridad. 

Los laboratorios de frontera compiten por construir modelos capaces de ampliar indefinidamente las capacidades cognitivas. Otros, trabaja para conectar modelos militares con datos, operaciones, agentes y decisiones; convertirla en infraestructura de poder.

La batalla es acerca de quién controla la interfaz entre inteligencia y decisión. Aquí el apocalipsis adquiere una función.

El discurso de los llamados AI doomers (catastrofistas de la inteligencia artificial) considera que el problema sería que una máquina mucho más inteligente que nosotros pudiese desarrollar objetivos propios y buscar recursos y autonomía para realizarlos. 

Pero si el futuro está amenazado por una inteligencia que podría escapar al control humano, entonces aumenta la legitimidad de quienes se presentan como capaces de controlarla. La amenaza del descontrol puede convertirse en una reivindicación de control ya que el apocalipsis produce soberanía.

Y aquí aparece una estructura casi teológica. El guion apocalíptico siempre ha poseído una particular eficacia política; anuncia un acontecimiento extremo y, mediante esa anticipación, reorganiza el presente. No es necesario que llegue el fin del mundo. Basta con que su posibilidad sea suficientemente intensa para justificar nuevas formas de autoridad.

Estamos ante una disputa sobre qué significa ganar la carrera de la IA. Y quizás por eso el texto apocalíptico resulte tan funcional a la disputa. Si el verdadero peligro está en una IA futura, entonces quienes dominan la construcción de esos sistemas adquieren una autoridad especial para hablar sobre su regulación. Si, en cambio, el verdadero peligro está en la utilización actual de la IA —en guerra, vigilancia, seguridad, clasificación de poblaciones—, entonces el centro de gravedad se desplaza hacia quienes controlan la infraestructura operacional.

El apocalipsis puede actuar como una cortina. Entonces, el viejo fantasma vuelve. 

«Un espectro recorre Europa». Marx y Engels encontraron en 1848 una imagen capaz de condensar una amenaza que todavía no tenía cuerpo. El comunismo era entonces una presencia sin territorio, una posibilidad que recorría las capitales europeas antes de ocuparlas. El espectro no era aquello que ya estaba allí, sino aquello que podía llegar a estarlo. Su eficacia política provenía precisamente de esa indeterminación: nadie podía señalarlo del todo, pero todos podían temerlo.

La operatoria era clara: la burguesía europea podía movilizar el miedo al comunismo para reforzar el orden existente. La amenaza que todavía no había ocurrido justificaba medidas que ya estaban ocurriendo. El fantasma era políticamente productivo precisamente porque no necesitaba materializarse completamente.

Con la IA sucede algo inquietantemente semejante. Cuando Derrida abre Espectros de Marx con la frase del Manifiesto Comunista —«un espectro recorre Europa»— no está simplemente retomando una imagen célebre de Marx. Está escuchando en ella una anomalía temporal. El espectro es una visita. Pero una visita extraña; llega sin haber sido invitado y no sabemos exactamente de dónde viene. Está y no está. Es reconocible y, simultáneamente, irreconocible. De allí la importancia derridiana de la “hauntología”.

La palabra juega con “ontology”, ontología, y “haunting”, el estar asediado por un espectro, derivado de “haunt”: embrujar. Frente a la ontología, que pregunta por aquello que es, la hauntología pregunta por aquello que, sin ser plenamente, insiste. No se trata de sustituir el ser por el fantasma, sino de mostrar que el ser mismo está habitado por una ausencia. El espectro introduce una perturbación en la ontología, lleva consigo una exigencia, una promesa que es demanda.

Por eso Derrida vincula la espectralidad con la justicia. La justicia, en su sentido fuerte, no coincide con el derecho positivo ni con el orden institucional. El derecho pertenece al ámbito de lo presente: leyes, tribunales, procedimientos, instituciones. La justicia, en cambio, según el filósofo francés, tiene una dimensión espectral porque siempre excede aquello que una época puede establecer como justo. La justicia viene desde un lugar que todavía no podemos determinar completamente.

La justicia es aquello que todavía no está. Y justamente por eso puede reclamar.

Apocalipsis, en su sentido originario, es revelación: “apokálypsis”, quitar el velo, descubrir aquello que estaba oculto. Antes de significar destrucción del mundo, el apocalipsis significa revelación de lo que vendrá. El apocalíptico es aquel que conoce —o pretende conocer— el secreto del tiempo.

La IA ejecuta sus acciones precisamente sobre esa promesa. No hace falta que el mundo se termine. Basta con anunciar que podría terminar para modificar aquello que hacemos mientras esperamos su final.

El apocalipsis es performativo, permite organizar el mundo antes del fin. Permite establecer quién debe custodiar la tecnología, quién puede acceder a ella, quién debe ser vigilado, qué riesgos son aceptables y qué libertades pueden restringirse en nombre de la seguridad.

La retórica apocalíptica puede cumplir una doble función. Puede ser una advertencia genuina ante un riesgo extraordinario y, simultáneamente, convertirse en una herramienta para ordenar el campo de juego. Quien consigue imponer qué debe considerarse peligroso consigue también influir sobre qué tecnologías deben regularse, cuáles deben desacelerarse y cuáles deben recibir autorización.

La seguridad se transforma entonces en una forma de competencia. El apocalipsis se convierte en un recurso estratégico.

La IA apocalíptica es, en este sentido, un espectro. No porque sea ficticia, sino porque su poder comienza antes de su existencia plena.

Un fantasma recorre Occidente. Retomando la cita del Manifiesto, ¿Acaso todas las potencias de la vieja Europa se aliarán en santa cruzada para acosar a ese fantasma: el Papa y el zar, Metternich y Guizot, los radicales franceses y los policías alemanes?