Por Silvana Cataldo - Especialista en formación en lectura
¿Ver para creer? Las certezas que la IA nos arrebató
Inmersos en la cultura de la imagen, la fuerza de una foto o un video como evidencia de lo real fue por años indiscutible. La IA genera imágenes y videos cada vez más realistas, con ávatars que son casi idénticos a personajes reales, al punto que nadie se atreve a afirmar que no esa escena no ha ocurrido. Las primeras imágenes generadas con IA se viralizaron y horrorizaron a todo desprevenido (como la foto del Papa Francisco con un abrigo deportivo). Pero en el caso de los videos, publicidades con protagonistas conocidos, se ven muy, muy reales. Y esto es preocupante. No porque inaugure la mentira —la mentira es mucho más antigua que cualquier tecnología—, sino porque vuelve verosímil recursos que antes eran garantía, eran evidencia. Ya no se trata solo de imágenes editadas (borrar una arruga, cambiar un fondo o recortar un elemento de una escena). Son producciones en las que se fabrican rostros, voces, gestos, discursos, que se transforman en documentos visuales y pueden hackear nuestros recuerdos colectivos con una apariencia casi idéntica a la realidad. Día a día, convivimo con publicidades con personajes famosos, programas televisivos, todas producciones hechas con IA. Los vemos y creemos que son reales. Pero lo que muestran, ¿ocurrió?
Una realidad creíble
Hace pocos días, el Telediario de RTVE, en España, realizó un experimento televisivo tan incómodo como necesario. En una edición especial sobre inteligencia artificial, conducida por la periodista Pepa Bueno, mostró imágenes de un incendio que parecía real: casas rodeadas por llamas, bomberos trabajando, una escena dramática y reconocible. Pero nada de eso había sucedido. No existían las casas, ni el fuego, ni los bomberos. Todo había sido generado con inteligencia artificial.
Después, el experimento fue más lejos: el plató tampoco era real. Durante unos segundos, ni siquiera la imagen de la conductora correspondía a la Pepa Bueno de carne y hueso. La presentadora ingresó en pantalla y quedó al lado de su doble hecho con IA: idénticas. El extrañamiento del espectador es importante: esta vez, ver puede no significar nada. ¿Qué es realidad? ¿Qué es ficción? ¿Pueden estas herramientas usarse para manipular la realidad sin que tengamos estrategias para defendernos?
El momento más inquietante llegó al final del programa: convocaron a un ciudadano común y le pidieron apenas quince segundos de voz y una imagen. Con ese material, la inteligencia artificial generó mensajes que él jamás había dicho. En uno, aparecía insultando a su jefe. En otro, autorizaba al banco a operar en su nombre. Quince segundos. Una imagen. Ese fue todo el insumo necesario para construir una suplantación creíble.
Esta es la preocupación que ponen de manifiesto muchos artistas, por ejemplo. Ya hay discos completos grabados con la voz de un cantante pero que el artista no ha hecho. Es por eso que algunos empiezan a resguardarse de alguna manera. La cantante norteamericana Taylor Swift busca registrar su voz e imagen como marca ante la Oficina de Patentes y Marcas de EE.UU. para frenar el uso no autorizado por inteligencia artificial (IA), y, así, evitar deepfakes e imitaciones digitales.
En Argentina, la Asociación Argentina de Actores y Actrices lanzó una campaña nacional encabezada por figuras como Ricardo Darín, Guillermo Francella y Gustavo Garzón, exigiendo leyes urgentes para frenar el uso no autorizado de rostros, voces y réplicas digitales generadas por IA. En la publicidad, podemos ver a estas reconocidas figuras preguntando: "¿Estás seguro de que soy yo?". Y no. Realmente no podemos estar seguros. Ese es el problema. La pregunta ahora es qué hacemos nosotros con esa nueva realidad.
Algo en qué creer
La inteligencia artificial no hackea solamente imágenes o audios sino algo más profundo: nuestra posibilidad de creer. Nos coloca ante una paradoja peligrosa. Por un lado, podemos creer en cosas falsas porque se presentan con apariencia de verdad. Por otro, podemos dejar de creer en cosas verdaderas porque todo empieza a parecernos sospechoso. Ese segundo efecto es igual o más grave que el primero: cuando todo puede ser falso, también se debilita la confianza en lo verdadero.
Una sociedad no vive solo de datos. Vive de acuerdos básicos de confianza. Confiamos en que una noticia fue chequeada, en que una imagen de archivo remite a un hecho ocurrido, en que la voz de una persona corresponde a esa persona, en que una prueba puede ser evaluada, en que un documento puede ser rastreado. Cuando esos acuerdos se erosionan, no solo cambia la comunicación: cambia la vida pública.
Por eso el experimento de RTVE resulta valioso. Usaron inteligencia artificial para mostrar el procedimiento, advertir al espectador de que es necesario asumir una responsabilidad pública frente al avance de la IA y que hay que fortalecer las estrategias para determinar qué es confiable y qué no lo es. Necesitamos buscar nuevos criterios para creer. Hoy la tecnología es una fábrica de mundos posibles, de escenas falsas y de recuerdos manipulados. Frente a eso, la respuesta no puede ser el miedo ni la resignación. Debe ser una ciudadanía más crítica, una educación más atenta y un compromiso institucional más fuerte con la verdad.