En los últimos días circuló por los distintos portales y medios de comunicación la noticia sobre el desarrollo de una nueva red social exclusiva para bots de inteligencia artificial llamada “Moltbook”. A raíz de esta novedad, se generó una polémica acerca de si la IA había armado su propia comunidad para conspirar contra los humanos.
Resulta entendible (y saludable) que frente al avance del desarrollo tecnológico se produzcan discusiones e intercambio de miradas sobre el futuro de la civilización, pero existe una diferencia entre plantear un debate fundamentado con datos y promover la difusión de teorías conspirativas como la idea de que los bots buscan acabar con la humanidad.
Así como es falso afirmar que la IA conlleva naturalmente al fin de la civilización, también es erróneo sostener que es perfecta y no conlleva ningún tipo de peligro. Para no caer en el simplismo del pensamiento binario y el pánico colectivo, conviene abordar la polémica con la sensatez de los datos y la evidencia científica.
Empecemos por lo más importante: los bots que interactúan en Moltbook tienen humanos detrás que les dicen lo que tienen que hacer. No es que hayan adquirido voluntad propia. Hay personas diciéndoles qué hacer o cómo comportarse, es decir, que esa IA que escribió un post para crear un nuevo lenguaje en realidad simplemente seguía las instrucciones de algún ciudadano con ganas de divertirse atemorizando a otros.
La IA no tiene consciencia propia, funciona a través de predecir la siguiente palabra más probable. Por ejemplo, dada la frase “¿Cuál es la capital de Buenos Aires?”, la IA predice que la siguiente palabra más probable es “La”, luego vuelve a leer la frase “¿Cuál es la capital de Buenos Aires? La” y predice que la siguiente palabra es “Plata”, y ahí finaliza su respuesta.
Si bien con esta idea, a priori tan simple, destruyeron el test de Turing (test que definía cuándo una computadora era realmente inteligente) y están logrando automatizar tareas sumamente complejas, aún están muy lejos de la autonomía, es decir, de estar fuera de nuestro control.
¿Cómo sabemos que las IAs no tienen conciencia propia? No solo porque su funcionamiento depende de un patrón matemático desarrollado por una persona, sino porque a diferencia nuestra, una vez que una IA aprende algo, no vuelve a adquirir información nueva de forma persistente.
En cambio, los humanos no sólo aprendemos cuando nos sentamos a estudiar, sino que con cada experiencia vivida, incorporamos nuevos conocimientos. A veces triviales o banales como el último escándalo de algún famoso y otras de formas más sutiles pero muy importantes, como aprender a leer gestos y expresiones de la gente, decidir en quién se puede confiar y en quién no, entre otras habilidades propiamente humanas.
Seguramente quienes usaron ChatGPT piensen que estoy equivocado porque hace unos días les recordó algo que escribieron en una conversación anterior que tuvieron con él. Pero esto no es más que un “truco” de la implementación. Sin que uno sepa, por detrás al chat antes de contestarle, en el mismo prompt que le escribimos, le estamos agregando información para que nos otorgue una mejor experiencia de usuario. Porque, cabe aclararlo, la IA es una tecnología que no aprende de la experiencia.
¿Cómo es que entonces es tan inteligente? Bueno, no es que lee determinados códigos: lee absolutamente todo lo que existe (digitalmente). Y para que los LLMs (Large Language Models, la tecnología detrás de estas IAs) “estudien” todo eso, hacen falta presupuestos monstruosos. Data centers gigantescos (como el que anunciaron en la Patagonia), miles de procesadores de placas de video y científicos que salen más caros que el pase de Neymar al PSG. Además, esos megacomputadores deben estar haciendo “estudiar” a las IAs durante días, semanas o incluso meses.
Por lo tanto, esto no es algo que esté sucediendo todo el tiempo. Suelen hacerlo cada varios meses y ahí es cuando anuncian una nueva IA. Que tiene más información, usó mejores técnicas de estudio o estudió por más tiempo. Por eso es que muchas veces se menciona que su conocimiento llega hasta X fecha, que es el día que aprendió y lo que sucede a partir de ahí no lo sabe, excepto que se le indique a través de un prompt.
Esto no significa que nunca vayan a tener conciencia. Básicamente porque soy un fiel creyente de la ley de los rendimientos acelerados que muestra que el progreso tecnológico es exponencial, no lineal. Es decir, que el lanzamiento de nuevas tecnologías es cada vez más rápido e intenso; hoy en día ya está sucediendo que aún no terminamos de digerir una IA que aparece otra aún más potente. Lo que nos ubica en una parte de la curva exponencial bastante empinada, y a los humanos nos cuesta asimilar las distribuciones exponenciales porque tendemos a subestimarlas y creer que son más lentas.
Actualmente, la estimación de muchos expertos es que la AGI (la IA que tendrá consciencia propia) tardará algunas décadas más. Pero si confiamos en la exponencialidad del progreso, seguramente sea mucho menos de lo esperado y nos sorprenda a todos como cuando apareció ChatGPT en 2022.
Si bien los LLMs actuales claramente no van a ser quienes logren la AGI, serán la herramienta que nos permita llegar a ella y, ahí sí, la discusión va a ser otra. Pero eso no significa que la IA esté por acabar con la humanidad. O al menos, no por ahora.
