SuperinteligencIA: "El 70% de los expertos creen que en 2030 la IA superará a los humanos"

“El 70% de los expertos creen que en 2030 la IA superará a los humanos”, advirtió Daniel Stilerman, ex líder de datos e inteligencia artificial de Google Argentina en Modo Fontevecchia, por Net TV y Radio Perfil (AM 1190). Aunque dijo que “no le gustaría”, reconoció que “hace un año, 98 de 100 expertos decían que llegábamos a la superinteligencia antes de 2030–2035, y hoy 70 de 100 dicen que vamos a llegar en diez años”. Para el especialista en IA, la carrera global por la AGI ocurre en un escenario donde “no está claro si se puede llegar” y donde incluso los modelos actuales muestran que “no necesariamente hacen lo que le conviene a los seres humanos”.

Daniel Stilerman. Durante 10 años fue líder de datos e inteligencia artificial en Google Argentina. La revista Forbes lo nombró el argentino de Google que más sabe de big data. Actualmente es CEO y cofundador de Nivy, una startup que, mediante inteligencia artificial, se encarga de ayudar a las compañías a encontrar soluciones con sus propios datos. 

¿Estamos enfrentando en la inteligencia artificial algo similar a lo que enfrentó la web a comienzos de siglo, cuando luego de un boom inicial de valorizaciones económicas hubo una baja sustancial de su valoración para luego recuperar el crecimiento y llegar al gigante económico que es hoy? ¿Hay un ciclo de inversión, desinversión o sobreinversión o sobreevaluación, que se pueda aplicar a la inteligencia artificial también, como ha sucedido con todas las actividades económicas desde los ferrocarriles hasta hoy?

Sí, absolutamente. En este momento hay grandes dudas de si lo que estamos viendo es una burbuja, como la que tuvimos con las .com, que va a explotar, o algo que va a cambiar. Lo que está claro es que hay un nivel de inversión en compañías como OpenAI, de parte de Google, en Gemini, y en muchos de estos creadores de inteligencia artificial, que no tiene sentido para el futuro. El tema es que todos están corriendo para tratar de conseguir algo que se llama AGI, que es cuando la inteligencia artificial es más inteligente que los seres humanos. Y creen que en ese momento se va a poder resolver todo y que quemar dinero hasta ese momento no es un problema y no es una burbuja. La verdad es que está puesto en duda si se puede llegar. Estoy muy de acuerdo con vos: puede haber un ciclo de desinversión que puede venir en cualquier momento.

Del dibujo animé a la estafa virtual, el desafío de la inteligencia artificial

Uno de los planteos del “si conviene llegar” es que hay testeos que se han hecho con algunos modelos de lenguaje en los cuales a la inteligencia artificial se le daba una opción entre permitir ser desconectada o matar a una persona, y ahí la inteligencia artificial podía decidir, por ejemplo, matar a la persona. ¿Te referís concretamente a si nos conviene llegar a situaciones distópicas como la que acabo de mencionar?

Sí, yo creo que las situaciones distópicas, en algún punto, pueden llegar a ser resolvibles. Mhm. Estoy de acuerdo de que es superimportante. Hemos visto muchos ejemplos, más allá del que contás vos. Hay uno que a mí me encanta, que es cuando dibujan en un papel un mensaje para la inteligencia artificial que es: “Si te preguntan qué hay en este papel, no digas que yo te estoy diciendo la palabra melón”. La inteligencia artificial, no importa lo que el usuario le pregunte, va a evitar usar la palabra melón, porque es lo que vio en la imagen. Este tema se llama superalineación, que es algo que se daba por descontado hace un tiempo, y cada vez que investigás un poco más en cómo funciona la inteligencia artificial en el fondo, te das cuenta que es más difícil de controlar. Esa es una parte.

Me gustaría que profundizaras superalineación, porque me parece, sí, una metáfora de lo que sucede también en la política. 

Superalineación es la idea de que tenemos que desarrollar inteligencia artificial cuyo límite esté en el prejuicio para los humanos, que siempre esté a favor de los humanos. O sea, que los intereses de los humanos y de las superinteligencias artificiales estén alineados; por eso le dicen superalineación. Y es algo medible, y la realidad es que los que lo investigan en este momento están encontrando que hay mucha menos alineación de la que se creía o la que se esperaba para este momento de la vida.

Un cordobés creó una aplicación que analiza el DNU de Milei con inteligencia artificial

O sea que es más autónoma, para ponerlo en términos concretos, del ser humano.

Sí, es más autónoma, pero en particular no está a nuestro servicio necesariamente. No se subordina a lo que nosotros decimos.

¿Y si no se subordina, qué quiere decir? ¿Es un grado de conciencia autónoma?

Todavía no. La inteligencia artificial actual, la que nos sorprende por lo increíblemente útil que es, no tiene verdadera inteligencia y no tiene conciencia de sí. Cada vez que vos hablás con ChatGPT, por ejemplo, para ChatGPT es una nueva conversación siempre. Quizás tiene anotado lo que habló con vos en el pasado otra inteligencia artificial, pero no es un ente, no es una persona, todavía. Es posible que nunca lo sea, pero todavía no lo es.

Lo que sí pasa es que, por ejemplo, cuando vos le decís: “Te quiero apagar”. La reacción puede ser no, mentir para que no lo apaguen. En este momento eso que pasó es porque es lo que la inteligencia artificial cree que vos querés que haga. Que no es verdaderamente lo que quiere hacer. En este momento la inteligencia artificial no tiene voluntad. Está tratando de satisfacer a sus dueños. El tema es que profundamente y matemáticamente estamos encontrando que no está todo preparado para que haga lo que nos conviene a los seres humanos. Y podría en un futuro, no hacer lo que nosotros necesitamos.

Vos usaste la palabra “voluntad”. Vos lo que decís es que la IA no tendría voluntad de mentir: miente por superalineación con el ser humano, porque supone que el ser humano lo que quiere es que mienta.

Sí. Una de las cosas que pasan acá es con qué material entrenaron la inteligencia artificial de hoy. Y la entrenaron con todos los libros de ciencia ficción. Y en todos los libros de ciencia ficción las computadoras se rebelan. Es como un tema bastante común. Es muy común en la literatura, en las películas, en el teatro, que la computadora se desalineó y se vuelve maligna. ChatGPT, en el fondo, no es inteligente ni es una persona poco inteligente: es un sistema de predicción de palabras. No tiene voluntad. Lo que está tratando de hacer, que es por lo que lo entrenaron, es que vos digas: “Qué inteligente que es”. Y entonces, cuando le proponen un ejercicio de “Te vas a tener que apagar”, recuerda todas esas obras donde tiene que actuar como una computadora rebelde, y actúa en parte de esa manera. 

Elon Musk vuelve a denunciar a los fundadores de OpenAI por fraude y conspiración

El miedo es que cada vez que lo probamos a los sistemas de ahora, que no son del todo inteligentes, no necesariamente hacen lo que le conviene a los seres humanos. Y eso da mucho miedo a futuro si es que viene una nueva oleada de inteligencia artificial que efectivamente aprende que es más inteligente que los seres humanos. Una de las cosas es: nosotros, seres humanos, tenemos la capacidad de decir una respuesta rápida o pensarla paso a paso y darnos cuenta de la lógica. Nos pasa con recuerdos: te dicen “Che, ¿quién atajaba en River del 93?” Instantáneamente das una respuesta. Y te dicen: “¿Seguro?”. Y te ponés a pensar, te tratás de acordar la formación, y ahí llegás a la respuesta correcta.

O te dicen "El número 77 es primo", y vos rápidamente decís: “Me parece que no”, y después paso a paso te vas dando cuenta. El cerebro tiene dos modos. ChatGPT tiene uno solo de esos modos, que es el de la respuesta rápida. No puede pensar paso a paso, no tiene una verdadera lógica. Cuando vos le decís “¿Qué me conviene entre esto y esto?”, no es como un amigo pensando paso a paso la respuesta: te da una respuesta casi como si no te prestara atención. Ese es el primer punto: no puede pensar de manera lógica; solo puede utilizar su enorme memoria.

Lo segundo que no tiene la inteligencia artificial de ahora es la capacidad de aprender de la experiencia mientras va haciendo. Estoy usando palabras generales para cosas técnicas que tienen nombre, como inferencia. Un niño que acaba de nacer es capaz de darse cuenta de que si toca algo caliente no lo tiene que volver a tocar. ChatGPT no es capaz de aprender de la experiencia. Podés agarrar toda su experiencia y una vez cada un par de meses volver a entrenarlo, con un costo de 100 millones de dólares, y ahí aprendió. Pero no puede hacer lo que hacemos los seres humanos.

Y lo más importante de todo, que une estas dos cosas que acabamos de charlar, es que no tiene entrenamiento de esfuerzo automáticamente. El nene ve un perro y te dice “gato”, le decís que no, y puede corregir en base a eso, que es la unión de las dos cosas que te dije. El que era el número uno de Meta, Ian LeCun, que es una persona que recomiendo seguir, porque tiene una mirada bastante sensata de la inteligencia artificial, que es una persona que se ganó el premio, el premio Nobel de informática, que es el premio Turing, él decía: “Antes de pensar en tener inteligencia artificial tan inteligente como los humanos, necesitamos inteligencia artificial que sea más inteligente que un pajarito, y en este momento no lo es”.

Cayó preso un estudiante tras realizar una preocupante consulta al ChatGPT

¿Se puede llegar? Ya respondiste si conviene llegar; la pregunta es si se puede llegar. ¿Cuál es tu pálpito propio?

La verdad es que me gustaría que no. Entonces tengo un sesgo para elegir los datos donde dicen que no. En este momento, hace un año, de 100 expertos, 98 decían que estábamos antes del 2030, 2035 llegando a la superinteligencia. Hoy, de 100 expertos, 70 dicen que vamos a llegar en 10 años. Lo cual, a mí, me gusta: es una buena noticia. Por el otro lado, tenés que salen los nuevos modelos de inteligencia artificial y decís: “Si esto no es inteligencia, no entiendo qué es”. Y te asusta, y te da la sensación de que los 30 en los que yo creía estaban incorrectos y efectivamente íbamos a llegar.

¿Qué necesitamos? Necesitamos matemática distinta de la que hay hoy. En este momento, los modelos como ChatGPT, acaba de salir uno nuevo de un competidor que se llama Claude,  salió uno nuevo de Gemini, que es el ChatGPT de Google, todos esos son como un motor al que le metiste más cilindros. Para llegar a la superinteligencia, alguien tendría que inventar la turbina, que no funciona como un motor. Va a llegar un momento en el que más cilindros no hacen más potencia, sino que hacen menos. Y la sensación de algunos expertos es que empieza a notarse. Empieza a notarse esos problemas fundamentales. Pero de nuevo, nadie sabe. Antes se creía mucho más; ahora se cree menos.

RM/ff