Inteligencia Artificial y una clonación perturbadora
Se abre el debate sobre el peligroso uso de IA que hacen algunas empresas. Al mejor estilo de la serie Black Mirror, una compañía ofreció a una tiktoker la suma de USD 70.000 semanales para clonarla, con finalidad peligrosa.
Inteligencia Artificial y una clonación perturbadora |
Télam
Las nuevas tecnologías en base a Inteligencia Artificial generan admiración y espanto, impulso para el desarrollo y la vez necesidad de control y límites.
La ambigüedad se impone ante una herramienta que claramente superó cualquier expectativa, generando que haya quienes empujan para un crecimiento mayor y otros que sienten terror, miedo y en el mejor de los casos “respeto” por el alcance desmedido que puede tener la IA.
En este sentido, se conoció por propio relato de la influencer afectada cuál fue su preocupante experiencia con una empresa de IA, relató que inquietó a sus seguidores y a la comunidad en las redes sociales.
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
Lo cierto es que los diversos usos que se hacen de la inteligencia artificial parecen cada vez más ilimitados y esta herramienta también comenzó a monetizar los recursos que brinda. En ese contexto, una empresa de IA contactó a una conocida influencer para ofrecerle un interesante acuerdo: pagarle USD 70.000 semanales a cambio de clonar su imagen. Pero la frase dice que cuando la limosna es grande, hasta el Santo desconfía y esta vez fue muy acertada.
Una clonación con fines perturbadores
En concreto, la tiktoker, conocida por su seudónimo como SimplyNessa, contó a sus seguidores que después de recibir la oferta, algo le generaba sospechas por lo que decidió investigar a la compañía. El acuerdo ofrecido era realmente beneficioso desde el punto de vista económico, sin embargo algún sexto instinto le indicó que algo extraño se escondía detrás.
Lo perturbador y que terminó por aterrar a la influencer al punto de desistir la oferta de cobrar una cifra más que tentadora en dólares, tuvo relación con el fin que se le daría al uso de su imagen clonada con IA.
La propuesta original, tal como fue presentada la oferta por parte de la compañía de IA, consistía en permitir el uso de la imagen clonada de la joven tiktoker para compartir relatos y dar consejos útiles a sus seguidores en la plataforma. Hasta ese punto, nada parecía resultar sospechoso ni para alarmarse. Sin embargo, la mujer no terminaba de dar su consentimiento porque algo le indicaba que debía indagar un poco más profundo sobre el origen y actividad de la empresa.
Si bien la promesa de dinero semanal era considerable y tentadora como parte de una gran experiencia positiva, la influencer sospechó que debía investigar antes de firmar el contrato.
“¿Cuál es tu fantasía más oscura? Vamos a recrearla”
Al comenzar la búsqueda de antecedentes de la compañía, la joven descubrió que la empresa había tenido un conflicto con otra influencer a la que representaban. El problema había tenido origen por el uso indebido de la imagen replicada de la mujer. El “clon” de la influencer había sido usado para decir cosas “extremadamente inapropiadas”.
Aun buscando más fuentes que la ayudaran a aceptar o descartar la oferta, la tiktoker decidió interactuar mediante la plataforma de la compañía con una modelo creada por inteligencia artificial, para poner a prueba la experiencia de modo directo. La interacción comenzó como una conversación normal, pero al cabo de unos minutos llegó la sorpresa, una pregunta inquietante: “¿Cuál es tu fantasía más oscura? Vamos a recrearla”.
“Dinero no aceptable”
La perturbadora pregunta, con clara invitación a tomar acciones peligrosas espantó a la tiktoker, quien de inmediato resolvió rechazar la propuesta, manifestando que, en este caso, el dinero no era “aceptable”. Por otra parte, denunció y escrachó a la empresa por comunicar la que supone sería una experiencia positiva para sus seguidores, cuando en realidad la intención oculta es utilizar la imagen clonada para difundir “contenidos repulsivos”.
Un capítulo de Black Mirror
La tiktoker, SimplyNessa, decidió alertar a sus seguidores para que tengan responsabilidad y cuidado al momento de recibir ofertas muy tentadoras y que hace uso en base a IA de la imagen personal. También afirmó que fue una de las cosas más perturbadoras que le pasó en la vida.
Las repercusiones entre sus seguidores fueron diversas: “Sabía que la IA iba a tener un giro oscuro desde la primera vez que escuché sobre ella”, “Esto es literalmente como un capítulo de Black Mirror”, “No puedo creer que estas cosas pasen en la vida real. La inteligencia artificial me da un mal presentimiento”.
También recibió el apoyo por la decisión de rechazar el dinero: “Estoy orgullosa de vos por decir que no. Realmente la gente necesita tener más integridad”. “El dinero no lo vale”, respondió contundente la influencer.
