Aunque sepamos que es una simulación, el impacto emocional de un video falso (deepfake) queda grabado. Usar la Inteligencia Artificial para simular a otros sin consentimiento no es inocente, es peligroso y puede resultar profundamente dañino. Todas las experiencias dejan un efecto en nosotros. Es sabido que nuestro cerebro no distingue claramente entre la realidad y la ficción. Así como ver una película de ciencia ficción nos resulta una experiencia inmersiva que despierta en nosotros emociones, reacciones y nos deja un recuerdo, ver un video adulterado por Inteligencia Artificial tiene el mismo efecto. Así seamos plenamente conscientes de la falsedad del contenido, nuestro subconsciente queda igualmente marcado.
No es inocente el uso indebido de contenido audiovisual para crear artificialmente nuevos contenidos falsos, llamados deepfakes, por más que se aclare la falsedad del contenido. Y el hecho de que no haya una regulación específica no lo hace legal tampoco.
Para empezar, el derecho a la imagen está regulado por nuestro Código Civil y Comercial, que prohíbe la captación, reproducción o publicación de la imagen sin consentimiento, salvo en casos de interés general no manipulados. Si bien no menciona a la IA, la regulación es suficiente.
Por otra parte, cuando se han realizado deepfakes para la realización de contenido falso de carácter sexual, la justicia ha entendido que dicha conducta conforma una agresión sexual y que genera un daño psicológico que encuadra en el delito de lesiones. Otra regulación pertinente y atemporal.
En tercer lugar, y yendo de lleno al plano delictual, la difusión de este tipo de tecnología ha sido utilizada para la comisión de diferentes delitos mediante la falsificación de la voz de las personas, especialmente en casos de estafas o secuestros virtuales. En todos los casos debe primar el sentido común: es obvio que el uso de esta tecnología de manera no consentida afecta el honor, la imagen, los datos personales, la salud psicológica, las relaciones sociales, el patrimonio y la integridad de las personas.
Todos aquellos que podemos dar el ejemplo en nuestros ámbitos de influencia debemos hacerlo y debemos tener una conducta respecto al uso de estas herramientas. Y mientras mayor es el ámbito de influencia, mayor es la responsabilidad. No por el hecho de que estén disponibles es que esté bien usarlas.
La necesaria regulación
Estoy a favor de la regulación del uso de las herramientas de creación de videos falsos para preservar los derechos de las personas en relación a su imagen. Sin embargo, creo que el asunto no es tan novedoso ni tan rebuscado como para que sea legal la manipulación no autorizada y/o ofensiva de la imagen de las personas. Falsificar una imagen ha sido posible al poco tiempo de la invención de la cámara fotográfica. Al día de hoy está en discusión la autenticidad de la primera foto del Nahuelito. Mussolini y Stalin fueron famosos por la adulteración o creación de fotografías de contenido falso.
La única diferencia con la realidad es que está al alcance de cualquier individuo con un smartphone en la mano y que los resultados son muy realistas. No sólo eso, ya que un video transmite mucho más que una foto, porque agrega la voz de la persona y el lenguaje no verbal. Todo esto llega a nuestro sistema nervioso de manera mucho más profunda que la aclaración sobre la falsedad del video.
Zuchovicki en Córdoba: "la incertidumbre de hoy es mejor que la certeza de la explosión"
Estoy a favor del desarrollo tecnológico y estos avances, como cualquier otro, pueden ser utilizados de manera muy beneficiosa. Pensemos, por ejemplo, que una persona que haya perdido la voz pueda expresarse a través de estas tecnologías con su mismo timbre de voz y forma de hablar.
Insisto: es sentido común, la legislación es suficiente y la regulación específica ayudaría, pero no es necesaria para saber qué está bien y qué está mal. No creo que sea algo tan novedoso como para hacer borrosas las líneas de lo que es correcto y lo que no. Utilizar falsamente la imagen de una persona está mal atemporalmente. Como cualquier otro avance tecnológico debemos darle un buen uso y aprovechar de sus beneficios.
En definitiva, la tecnología no es ni buena ni mala, pero amplifica lo que somos. Si la usamos para engañar, degradar o simular sin consentimiento, lo que está en crisis no es el algoritmo: es la ética, una de las definiciones de humanidad.
(*) Socio - Jaskowsky Bistocco Barrios – Abogados
https://jbbabogados.com.ar
