En una publicación anterior abordé con cierto detenimiento el problema de las denominadas fake news. Allí dejé de lado el problema de los deepfakes, pues entendía conveniente continuar reflexionando sobre ese fenómeno antes de hacer extensible las conclusiones a las que se arribaba respecto de las fake news. Dos años después, la intuición inicial adquirió cada vez más fuerza y hoy me atrevo a sostener que todo lo que se sostuvo en 2023 es aplicable por igual a los denominados deepfakes. Por tal motivo, lo que allí se dijo puede ser leído como un complemento de esta nota.
Una de las peores aproximaciones a estos problemas es la utilización despreocupada de una terminología que solapa y confunde, con descuido o en forma deliberada, fenómenos muy relacionados para un análisis técnico, sociológico o político, pero completamente diferentes cuando se trata de abordar desde una perspectiva de su regulación jurídica.
Esto se puede ver de modo muy claro con el uso de la noción de fake news. Este término, acuñado en forma reciente y sobre cuyo significado no hay mayor acuerdo, es usado tanto para referirse a contenidos informativos falsos, así como a información verdadera pero presentada de un modo deliberadamente engañoso (disinformation) o información que confunde sin intención de hacerlo, o que es errónea (misinformation) o simplemente impertinente en el contexto en el que se emite.
Muchos proyectos de ley incluyen dentro del concepto de fake news a otras nociones, como los discursos de odio, el negacionismo, la manipulación informativa, la creación de sesgos por humanos o algoritmos, la creación de narrativas a favor o en contra de determinadas ideas políticas y varios etcéteras más.
En 2022, al resolver en un caso muy resonante sobre el derecho al olvido, la Corte Suprema de Justicia de la Nación indicó que "el creciente uso de herramientas de tecnología informática y, en particular, de sistemas que podrían incluirse dentro de la categoría 'Inteligencia Artificial' (IA), suscita numerosos interrogantes respecto de su campo de aplicación a la luz de los derechos funda-mentales [...] así como respecto de su incidencia en la ordenación del debate público".
Todos esos fenómenos tienen en común el ecosistema en el cual se desarrollan y su incidencia sobre el debate público. Una visión general del problema es de gran utilidad para filósofos sociales y para todo aquel que pretenda analizar abordar en forma seria esta temática. Sin embargo, a la hora de dar respuestas concretas y, en especial, cuando se trata de definir políticas públicas en las que, por ejemplo, se permita utilizar el poder coactivo del Estado, el abordaje conjunto de situaciones disímiles es, quizás, la más peligrosa de las opciones.
No es lo mismo una mentira que una información sesgada. La mentira, como discordancia entre una información y los hechos históricos, es algo que existe con independencia de las ideologías o valoración que realicen los individuos. En cambio, nociones como "sesgo informativo" o "distorsión" no pueden ser entendidas sino después de adoptar una determinada concepción teórica e ideológica y requieren incorporar una valoración del intérprete que no está presente en el caso de la mentira, o lo está en mucho menor medida.
"Lo que fue, eso será, y lo que se hizo, eso se hará" (Eclesiastés 1:9)
Resulta un lugar común denunciar el carácter novedoso que presenta el fenómeno de las fake news o los deepfakes. A lo anterior se suele agregar, además, la necesidad de nuevas regulaciones que, en líneas generales, protejan a la audiencia y al debate público de estas nuevas formas de mentira. Sin mayor solución de continuidad, se llega a la conclusión de que las viejas reglas que garantizan el ejercicio de la libertad de expresión y de prensa no resultarían ahora útiles para abordar estos nuevos fenómenos.
Nadie podría poner en discusión el cambio tecnológico que enfrenta la comunicación humana, pero quizás resulte un error pensar que hay algo de nuevo en la mentira o la desinformación. La historia está plagada de ejemplos. Lo novedoso, si es que acaso hay algo de novedoso, reside en la apariencia de verdad y la velocidad con la que se propagan ciertas mentiras.
A fines del siglo XI se hizo pública una carta que el emperador Alejo I de Bizancio envió a Robert, conde de Flandes, en la que pedía ayuda urgente frente al avance de los turcos, los que, según denunciaba en la carta, "arrasaban los monasterios, mataban cristianos y violaban por igual a vírgenes y monjes".
Con el tiempo, y para tranquilidad de monjes y monjas bizantinos, se descubrió que esas historias fueron una exageración; una fake news del emperador para solicitar ayuda y mercenarios que en Roma se utilizó para justificar la primera cruzada. Bien entrado el siglo XX, distintos autores consideran que la carta de Alejo de Bizancio nunca existió; se habría tratado de una fake news creada en el siglo XII para servir de apoyo a la segunda cruzada.
Esas mentiras, que acompañan al hombre desde lo más profundo de la historia, continuaron a través de los siglos y con cada nuevo cambio tecnológico las alarmas se acrecentaron. Una nueva y alarmante forma de reproducir y difundir desinformación fue la imprenta. En el siglo XVI, algunos sectores de la inquisición española mostraron una especial preocupación por los libros, ya que más allá del daño que produce la transmisión oral, los libros "encierran un peligro latente que perdura mientras puedan ser leídos, de manera que solo su destrucción completa por el fuego purificador garantiza la total desactivación del letal efecto de retardo que la letra impresa siempre lleva consigo".
Las deepfakes llegaron al turismo: destinos, viajes, alojamientos y estafas
Pero el ser humano se acostumbra al medio en el que se desarrolla. Así nos acostumbramos a que los libros pueden contener mentiras. Alguna vez, las fotografías parecían una prueba acabada de la verdad, pero hace mucho tiempo que perdieron su estatus de prueba irrefutable. Ahora se suman los audios y los videos como posibles mentiras. Por si fuese poco, pueden ser realizados con una facilidad y una rapidez que, de algún modo, vinieron a democratizar el uso de la mentira.
Muchos que se habían acostumbrado a la mentira tradicional han hecho sentir su alarma por esta nueva variante que se ha denominado deepfakes. Es decir, videos o audios creados o modificados a través de tecnologías basadas en inteligencia artificial de deep learnig en los cuales se utiliza la voz y las imágenes de una persona para hacerle decir o hacer algo que nunca dijo o hizo.
Quizás el desafío nuevo resulta de la sofisticación de las nuevas tecnologías, mientras que las fake news tradicionales se basan en la difusión de información falsa, los deepfakes hacen exactamente eso, pero con mayor calidad, velocidad y facilidad.
El video en el que un Mauricio Macri fake promovía el voto por un candidato de otro espacio político catapultó al debate público la problemática de las fake news en general y de los deepfakes en especial, así como las respuestas que debería dar el derecho.
El derecho argentino no penaliza a la mentira per se, sino por los daños que causa a otros bienes jurídicamente protegidos. La afectación al honor o a la propiedad pueden dar lugar a delitos como las calumnias, injurias o la estafa. Sin embargo, sin un daño concreto, la mentira, como cualquier otra expresión, no genera más que problemas morales).
¿How deep is the fake?
Las novedades tecnológicas que presentan los deepfakes llevan a muchos autores y legisladores a considerar necesario afrontar legislativamente este fenómeno. Esta posición nos obligaría a distinguir entre deepfakes y contenidos falsos o fake news. Sin embargo, el deslinde entre ambos fenómenos es cualquier cosa menos simple.
Por lo pronto, se trata de conceptos que se solapan. Las fake news o bulos es información falsa -para algunos también aquello que sin ser falso es engañoso- que se presenta como noticias. Ellos se pueden manifestar en textos, imágenes o videos que contienen información falsa. Por lo tanto, los deepfakes serían solo algunas fake news, concretamente, aquellos contenidos multimedia (en especial videos y audios) que han sido manipulados utilizando inteligencia artificial para crear representaciones falsas de personas o eventos. La apariencia realista de estos contenidos los distinguiría de una fake news "tradicional", si es que este adjetivo pudiera utilizarse en este contexto.
A la vez, la utilización de cierta tecnología, como la IA, nos es determinante para ocultar con éxito una falsedad. Una foto retocada en forma manual puede ser mucho más creíble que muchos videos elaborados con IA.
Las fake news suelen tener una intención clara de desinformar o engañar, lo que se traduce en la búsqueda de influir en la percepción pública. Por otro lado, los deepfakes pueden ser creados con diversas intenciones, que van desde el entretenimiento hasta la desinformación. Así, la variable intención complica la evaluación de la veracidad de los contenidos.
Además, la credibilidad del contenido falso dependerá del contexto y de la audiencia. El video de Mauricio Macri invitando a votar por un candidato de otro espacio que se difundió cuando se desarrollaban los últimos comicios porteños, por ejemplo, para algunos resultaba creíble, para otros dudoso, y para muchos notoriamente falso. Esto pone de manifiesto que el mismo fake será considerado como verdad o burda mentira según quién reciba ese mensaje o en qué contexto lo haga. La complejidad aumenta en épocas de viralización, cuando no siempre es fácil entender a quién le estamos hablando. Al menos por el momento, la distinción entre deepfake y fake news resulta muy poco prometedora como criterio jurídico.
Verdad, mentira, autoridad y democracia
Una vez que el intento por distinguir entre fake news (o bulos) y deepfakes naufraga, subiste de todos modos el viejo problema de cómo lidiar con la mentira. Sobre esta temática el derecho en general, y en especial el Derecho Constitucional, han avanzado mucho en una dirección clara que confía más en la disponibilidad de información que en el criterio de censores públicos. No tanto por los problemas técnicos que puede suponer la determinación de la verdad, sino todavía más por los riesgos que representa asignar a una autoridad pública la posibilidad de controlar el debate público.
Cuando ese problema se lleva al ámbito electoral, lo que comienza a estar en juego es quién define la verdad en una sociedad democrática. Una visión simplista o naif quizás destaque lo importante que es la democracia y el voto informado y lo nocivas que son las mentiras en ese contexto. Se trata de una premisa que no discutiríamos; podemos aceptarla casi como una obviedad. Sin embargo, de allí no se sigue que deban existir autoridades estatales que determinen qué puede y qué no puede decirse en un contexto electoral. Por el contrario, la máxima libertad de expresión debe ser concebida en estos contextos.
El interés y la capacidad de la ciudadanía para discernir, verificar y fortalecer un debate público basado en hechos verificables reducirá los incentivos a mentir mucho más que una policía de la verdad. No hay nada de nuevo en ello. Siempre existieron mentiras difundidas a través de los medios más variados, y las herramientas para detectar la mentira eran infinitamente menores.
En cualquier caso, la política y la mentira van naturalmente de la mano. Imaginar una lucha por el poder sin mentira o pensar que en épocas pretéritas ello era distinto no parece tener gran asidero. La diferencia es tecnológica, pero allí quizás sale ganando la verdad. En el siglo XI era imposible desenmascarar a una mentira como la de esa hipotética carta del emperador, hoy, en cambio, hay herramientas tecnológicas que ayudan desenmascarar las mentiras en forma mucho más rápida y efectiva que las que tenían a su alcance los cruzados medievales o nuestros abuelos.
La pregunta, entonces, es cuál es el problema. O, más concretamente, cuál es el problema para la democracia en que existan mentirosos si tenemos las herramientas para desenmascararlos. Pues bien, aquí puedo identificar dos problemas concretos. Uno vinculado con la autoridad, y otro que afecta a la audiencia.
Con referencia al primer problema, se puede advertir que las nociones de fake news y desinformación son utilizadas -de buena o mala fe- como caballos de Troya por los cuales se les ofrenda a autoridades estatales, a veces administrativas, otras veces judiciales, o en ocasiones órganos de carácter mixto-como los tribunales electorales-competencias que les permiten incidir de modo directo e inmediato en el debate público.
Esto ocurre, por ejemplo, cuando se asume que esos funcionarios pueden prohibir la difusión de videos que se consideren falsos o, incluso, engañosos. Un paso siguiente, menos problemático en materia de libertad de expresión, pero no por eso inicuo, es la sanción posterior por la publicación de informes falsos.
Si la mentira no se sanciona en sí, sino por los efectos que genera sobre otros bienes, se podría acusar -y con toda razón a muchas fake news de inducir a error y afectar el debate público y la vida democrática. Esa fue la respuesta que dio el Tribunal Electoral de la Ciudad Autónoma de Buenos Aires cuando, el 18 de mayo de 2025, ordenó el retiro del video difundido en redes sociales que simulaba la voz y la imagen del expresidente Mauricio Macri, en el que anunciaba la renuncia de la candidata de su espacio, Silvia Lospennato.
Casi de inmediato se ordenó la eliminación del video de la red social "X" y se remitieron las actuaciones a la justicia penal para que se investigara la posible comisión del delito de "inducción con engaños" previsto en el art. 140 del Código Electoral, por el cual se sanciona con prisión de dos meses a dos años "al que con engaños indujere a otro a sufragar en determinada forma o a abstenerse de hacerlo".
Algunas semanas después, el 15 de julio de 2025, la Cámara Nacional Electoral confirmó el procesamiento de la empleada de una agencia de medios por haber publicado dos videos en los que, mediante la edición de audios, se hacía aparecer al candidato Mario Negri requiriendo a empleados públicos un porcentaje de sus sueldos como aporte de campaña. La imputación del tribunal electoral considera que se encontrarían prima facie reunidos los elementos típicos del art. 140 del Código Electoral.
De buena fe, muchos confían en la posibilidad de contar con autoridades neutrales, así lo ven en diversos países de Europa, pero, por estas latitudes, confiar en que funcionarios públicos actuarán de modo ecuánime en el debate público resulta demasiado cándido o poco informado de la historia reciente.
Parece demasiado simplista asumir que el Poder Judicial puede ser, en todos los casos, una autoridad imparcial para administrar la intervención estatal en el debate electoral. Desde luego, en muchos casos lo es, pero sería un gran error tomar el caso de la Cámara Nacional Electoral como caso testigo del resto de los tribunales y autoridades electorales de las provincias, en muchos casos integrados por funcionarios judiciales y administrativos, o con autoridades judiciales que, en ocasiones, carecen de la suficiente distancia de los gobiernos provinciales. Una reciente publicación del diario La Nación da cuenta de investigaciones que han advertido que seis de cada diez jueces de las cortes provinciales tuvieron vínculos con el poder político local.
¿Realmente estamos dispuestos a que las autoridades estatales persigan a todos aquellos que "con engaños indujere a otro a sufragar en determinada forma"? ¿No es eso lo que, un poco más o un poco menos, hacen todos los candidatos de cualquier elección desde mucho antes de la utilización de internet?
La mentira en el proceso electoral es un hecho triste que forma parte del paisaje. Permitir que una autoridad elimine del debate público informaciones, imágenes, videos o audios, en un contexto electoral y con el argumento de que inducen al error, es una posibilidad a la cual no estamos acostumbrados y que toca fibras sensibles de la libertad de expresión y el rol del Estado frente a la verdad.
El desinterés de la audiencia por la verdad
El otro problema es más general y quizá más grave. Ese problema no son la mentira, ni las fake news, ni los deepfakes, sino el desinterés y la incapacidad de las audiencias para identificarlas. O, todavía peor, los incentivos para reproducir fake news aun a sabiendas de su falsedad.
No se trata solo de mala fe. Muchas veces, la difusión de información que se sabe o se sospecha falsa es un acto deliberado a través del cual un comunicador desea satisfacer a su audiencia o, en términos individuales, la difusión de fake news puede ser el precio o membresía para pertenecer a un grupo social. Algunos estudios sugieren que los miembros de redes sociales que, al dejar de replicar fake news, no se adecúan al comportamiento de otros miembros del grupo, con el tiempo ven reducida su interacción social.
En ese escenario, atacar a las fake news es poner el acento en el síntoma y no en el problema, pues no se trata simplemente de mentirosos, sino de una audiencia que carece de las habilidades necesarias para participar en el debate público o que directamente reniega o se desinteresa por ese tipo de debate.
Lo que está en juego, entonces, es la democracia, pero no por las fake news, sino por la falta de habilidades y de interés del soberano, es decir, los ciudadanos, para interactuar en un diálogo con todos sus pares. En la era del microtargeting, millones de monólogos sustituyen al diálogo.
Tanto la falta de entrenamiento para ejercer el pensamiento crítico y poner en cuestión las propias ideas como el desinterés en hacerlo, constituyen, quizás, uno de los enemigos más peligrosos que enfrentan hoy las democracias constitucionales.
En una intersección en la que la comodidad y la falta de formación se retroalimentan, los algoritmos intentan ganar la atención de la audiencia presentándole aquella información que ella prefiere ver, y lo que esa audiencia desea ver es aquello que reafirma sus visiones del mundo, sus prejuicios y sus errores. La tecnología puesta al servicio de la comodidad intelectual; filtros de burbuja y burbujas de sentido son el anverso y reverso de la medalla.
Desde esa perspectiva, el diálogo intersubjetivo se diluye, la posibilidad por cuestionar las propias opiniones se reduce. Aumenta la convicción del grupo acerca de la corrección de un sistema de creencias compartido y, al mismo tiempo, también se acrecienta la incomprensión respecto de aquellos que sostienen opiniones contrarias.
Quizás ese mismo escenario fue experimentado por la humanidad durante miles de años, a partir de la falta o escases de contactos entre distintos pueblos o civilizaciones. La gran novedad es que hoy algo similar ocurre respecto de quienes viven en un mismo espacio geográfico, por más reducido que sea.
¿De verdad en este escenario queremos dar herramientas a las autoridades estatales para que hagan callar voces que se consideren falsas?
Durante 2025, miles de personas marcharon por la Ciudad de Buenos Aires al considerar que la expresidenta de la Nación, Cristina Fernández, ha sido injustamente condenada por delitos que jamás pudo haber cometido. Entre quienes participan de esa marcha, la decisión de recha-zar cualquier elemento que ponga en dudas su convicción solo es equiparable a quienes, con igual decisión, sostiene su más absoluta e inapelable culpabilidad. No importan las pruebas o los argumentos. Mucho menos lo que pueda resolver una justicia en la que no se confía cuando absuelve ni cuando condena. ¿Eso acaso lo solucionará una autoridad estatal que prohíba la mentira?
En el escenario descripto, nada peor podría imaginarse que delegar en las autoridades políticas, es decir, en los principales beneficiados o perjudicados por la circulación de información, la competencia para determinar qué noticia es falsa y cuál no lo es.
Democracia, verdad y humildad epistemológica
Ante esos problemas, una primera herramienta es la educación digital. Se trata de una base indispensable, tanto en lo que respecta a capacidades para descubrir y denunciar noticias falsas como para navegar en un universo en el cual los algoritmos y, en términos más generales, los mecanismos de arquitectura de decisiones rodean de forma sutil y constante cada una de las acciones humanas. Pero ni siquiera es suficiente con la educación estatal, si por ella se entienden solo habilidades técnicas.
En medio de la revolución tecnológica, el problema es espiritual. Las repúblicas y las democracias necesitan ciudadanos virtuosos y, en el siglo XXI, esa virtud exige pensamiento crítico y la valentía de cuestionar todas nuestras ideas y prejuicios. Sin ello, las repúblicas y las democracias se resquebrajan en sus cimientos.
Para aquellos que creemos que la verdad existe con independencia de los sujetos, y que la sociedad progresa a medida que se acerca a ella, entregarse a la comodidad algorítmica que entretiene y refuerza prejuicios es el mejor camino volver a la tribu y a las pandillas. Se trata, en cambio, de aceptar el esfuerzo y la responsabilidad de vivir en un mundo donde la crítica sea sinceramente valorada como el camino para el progreso. Sí creemos -con Popper- que la razón y la ciencia se desarrollan a través de la crítica mutua, no basta con asegurar la libertad para debatir. Sin el trabajoso arte de escuchar la crítica o poner a prueba nuestras convicciones, la búsqueda de la verdad sería una impostura, y la regla mayoritaria, pura fuerza sin más legitimidad que la estadística.
