En contraste a todas las ventajas que ofrece el uso de la Inteligencia Artificial (IA) para mejorar niveles de rendimiento en distintas áreas, un estudiante de un instituto secundario que depende de la Universidad Nacional de Córdoba, hizo uso de esta tecnología para perjudicar a sus compañeras de división, al manipular sus fotos y colocar los rostros de cada una de ellas en cuerpos de mujeres que salían en videos pornográficos. Esto ocurrió en el mes de julio del año pasado pero recién ha tomado trascendencia en estos últimos días al acercarse el juicio que se realizará al haber sido denunciado en forma masiva por unas 16 adolescentes, de entre 15 y 16 años, que resultaron afectadas por la maniobra.
Mediante técnicas de “face swapping” el estudiante cordobés -no se ofrece el nombre por cuestiones obvias de su edad- publicó en un sitio web para adultos las imágenes modificadas de sus compañeras de clases, acompañadas por una descripción generada por IA que cosificaban a las víctimas, e incluían enlaces a sus redes sociales, lo que facilitaba de que fueran contactadas por desconocidos.
La situación hizo que las alumnas afectadas sufrieran ‘severos daños psicológicos” incluyendo una baja en el rendimiento escolar y deportivo, cambios en sus rutinas, vergüenza, desgano, temor y otros sentimientos que alteraron completamente su forma de vida.
Otro aspecto grave es que una vez detectada la manipulación de imágenes, se procedió con la eliminación de algunas de ellas de la web, pero quedaron otras que todavía están circulando, asociadas a los nombres reales de las adolescentes, lo que genera un daño permanente que complica aún más la situación.
Se habla de que el acusado podría recibir una pena de entre 20 y 30 años de prisión si es hallado culpable, pero más allá de la condena lo importante es determinar lo grave que puede resultar el uso de la IA si no es supervisada o controlada debidamente. Se advierte que chicos de poca edad pueden acceder a esta tecnología y manejarla a su antojo. En este caso, lo que comenzó como un juego o una travesura se ha convertido en un grave delito, con serias implicancias morales. Las chicas perjudicadas deberán realizar grandes esfuerzos para poder superar el trance y les llevará, seguramente, mucho tiempo alcanzar la normalidad y recobrar la confianza perdida.
Distintas instituciones y organismos oficiales y privados deben prepararse para tareas de control y fiscalización en el uso de la IA. Evitar situaciones como la acontecida en el Instituto Superior de Comercio Manuel Belgrano de la provincia de Córdoba, es de vital importancia para que las nuevas tecnologías no perjudiquen a las personas de los respectivos entornos.