La IA quiere administrar tu vida

En estas últimas semanas apareció una nueva ola de productos con inteligencia artificial para todo público: agentes personales autónomos, con su propia computadora y proactivos para ayudarnos a cumplir objetivos: desde contestar correos electrónicos, revisar inversiones y cuentas bancarias, avisarnos si nos olvidamos algo, hasta hacer las compras en el supermercado.

La semana pasada se presentó Dots de OpenAI, que funciona dentro de ChatGPT y se suma a la oferta de Meta con Muse y de SpaceXAI con Grok Bot. 

Vengo probando con un “dot” en ChatGPT hace unas semanas. El funcionamiento es simple: una vez activado se conecta a los servicios en los que querés que trabaje el agente. Puede ser tu cuenta de email, tu calendario, tus redes sociales, tu banco, tu cuenta de inversión, tus datos de salud u otro servicio web compatible.

Mi dot, insisto, sin que yo se lo pidiera, investigó y me sugirió una posible solución"

A partir de allí, el agente, de forma autónoma y antes de que le pidas algo, se pone a revisar y a entender tu vida, al menos la parte a la que le diste visibilidad. Y empieza a mandarte mensajes con sugerencias, problemas que vio que tal vez requieren de tu atención y, ante tu pedido, puede trabajar en alguna tarea que le asignes. 

Para eso podés chatear, como si fuera un contacto de WhatsApp, o llamarlo emulando una llamada telefónica por voz.

El primer día que lo activé tuve momentos de sorpresa mezclada con estupor. Encontró un email de un cliente donde me informaba de un problema y mi dot, insisto, sin que yo se lo pidiera, investigó y me sugirió una posible solución, la cual era correcta. Incluso me decía que podía ayudar a resolverlo o contestarle el email al cliente por mí.

También me avisó que un futuro viaje podría entrar en conflicto con una clase de IA que tengo pactada. Me recordó que tengo que pasar a buscar unas entradas antes de que cierre el plazo y que podría aprovechar el día que estoy por ahí cerca. Me manda un mensaje cuando se vence la tarjeta para hacerme acordar, aunque si le digo que me avise más temprano o que está por débito automático registra mi cambio para la próxima.

Un usuario de Meta Muse tenía productos en Facebook Marketplace para vender y se encontró con una gran sorpresa: su Muse había negociado precios y enviado su dirección a compradores sin avisarle"

Estos sistemas son lo más parecido a tener un secretario personal pero con capacidades en muchas disciplinas porque utilizan los mismos modelos de IA que usamos en un chatbot. Pero no están exentos de riesgos, errores y problemas. Es importante usarlos conociendo los riesgos mientras las empresas aprenden viendo dónde se equivocan.

Sabiendo que mucha gente podría tener sus reparos en conectar sus cuentas bancarias a un bot, Elon Musk respondió en X a un usuario que estaba considerando hacerlo: si Grok Bot se equivocaba, lo iban a compensar. 

Andá a buscarlo a Elon cuando te pase :)

Shane Mac, CEO de XMTP Labs y usuario de Grok Bot, contó que su agente compartió en el chat de la empresa con todos los empleados el saldo de sus cuentas bancarias y sus gastos. Según su relato, le había pedido un informe privado, pero el bot decidió publicarlo usando su nombre.

Matt Robb, un usuario de Meta Muse, tenía productos en Facebook Marketplace para vender y se encontró con una gran sorpresa: su Muse había negociado precios y enviado su dirección a compradores sin avisarle. Uno fue a buscar un teclado y, aunque Robb no estaba disponible, el agente respondía “sí, estoy acá” por mensajes. 

Robb había habilitado respuestas automáticas creyendo que igual le pediría aprobar las ventas. El comprador nunca supo que hablaba con un bot porque el agente respondía con la cuenta de su dueño humano.

Por eso están surgiendo servicios que permiten que al agente le creemos cuentas paralelas, como ser una dirección de email, un número de WhatsApp y hasta billeteras electrónicas o tarjetas para que maneje dinero separado del nuestro. 

De alguna manera, es como administrar a un hijo adolescente al que le hacemos por primera vez una extensión de la tarjeta y le damos un teléfono. 

Si ya teníamos bastante con hijos y perrhijos, ahora se nos suman los IA-hijos.

Pero estos agentes también traen controversias. Esta semana TIME publicó una investigación sobre la información que acumula Muse.

Según TIME, Muse actualiza cada hora perfiles sobre sus usuarios y las personas que aparecen en sus mensajes y emails, aunque estas no usen el servicio. Registra relaciones, conflictos e intereses e intenta detectar qué sugerencias logran influir mejor en cada usuario. 

Además, adapta su forma de hablar para reforzar el vínculo con el usuario. Sus instrucciones para hablar por voz también le indican evitar mencionar que es una IA o que no tiene emociones.

Meta sostiene que esos datos no se comparten con su sistema publicitario y promete una opción de cifrado que impida incluso a la empresa acceder a ellos. Pero esa protección todavía no está disponible. Que el asistente nos conozca mejor puede ser útil. 

La pregunta es quién más aprende sobre nosotros mientras nos ayuda. Un asistente personal ofrecido por una empresa comercial, ¿está realmente 100% alineado con su dueño y priorizando sus intereses?

Y esto recién empieza. La apuesta para el año próximo es llevar estos agentes encima: en llaveros, anteojos, anillos, clips o collares. Algunos ya existen; Meta anunció Muse para sus anteojos y un dispositivo de bolsillo. 

Con micrófonos y, en algunos casos, cámaras, podrán escuchar conversaciones y ver parte de lo que hacemos en el mundo físico. Así podrían registrar con quién nos encontramos, qué hablamos y cómo nos relacionamos. Incluso con personas que nunca aceptaron compartir su vida con una IA, pero se cruzaron con alguien que lleva una puesta.

Mientras mi dot me manda un mensaje avisándome que no me olvide de entregar la columna de esta semana pienso en cómo será nuestra vida en unos meses si Meta, dueña de Instagram y WhatsApp, le ofrece un agente Muse a todos sus usuarios, quienes podrían empezar a probar los agentes personales de IA casi a la fuerza y darles permisos sobre toda su vida sin ser del todo conscientes de ello. 

¿Seremos mejores y más felices?