En lo que va del año se presentaron cuatro proyectos de ley para combatir el bullying en las escuelas e instituciones educativas de la provincia. El objetivo es contar con una ley que concientice y le pongan un freno al acoso escolar. En ese contexto se consideró el ciberacoso y la manipulación de imágenes con IA, teniendo en cuenta los últimos casos registrados en la provincia donde estudiantes utilizaron la inteligencia artificial para manipular y crear imágenes de sus compañeras, algunas de ellas de contenido erótico.
De los cuatro proyectos que actualmente se estudian en la Legislatura provincia, dos provienen del Bloque Cambia San Juan, uno es de autoría del diputado Gabriel Sánchez y el más reciente lo presentó la diputada Cristina López, donde se propone actualizar la Ley 1020-H. Todas las iniciativas se están analizando en comisiones y la intención es lograr el dictamen entre esta semana y la próxima.
Así lo aseguró a DIARIO DE CUYO la diputada Alejandra Leonardo, autora de uno de los proyectos y presidente de la Comisión de Educación, Ciencia, Técnica y Cultura, donde se están evaluando las propuestas. “Estas iniciativas nacen por el acoso escolar, comprendiendo el ciberacoso y la manipulación de imágenes con IA. Las definiciones que usamos es todo, el uso de herramientas de IA generativa para la creación, alteración, manipulación y publicación de imágenes, videos y textos con la intención de humillar, suplantar identidad y/o denigrar a otra persona. Es amplio, porque se refiere a todas estas cosas que habilita la IA, que es algo que se está observando”, aseguró la legisladora provincial.
La intención de la presidenta de la comisión que está estudiando estos proyectos es poder avanzar entre esta semana y la siguiente para darle despacho al texto, ya que se buscará unificar criterio entre las cuatro propuestas para obtener un único proyecto que llegue a recinto.
Uso de IA para dañar, una acción que puede golpear al bolsillo
A inicios de septiembre se registró un caso en San Juan que volvió a poner sobre la mesa del debate qué hacer ante la generación de imágenes con IA con que dañen a otra persona en contexto educativo. Esto tras conocerse que un alumno de la Facultad de Ingeniería de la UNSJ utilizaba fotografía de perfiles de redes sociales de compañeras para crear imágenes de contenido erótico con IA.
La práctica es conocida como deepfake y permite manipular o generar contenidos audiovisuales utilizando tecnología de inteligencia artificial para hacer aparecer a una persona en situaciones que nunca protagonizó.
La intención de los legisladores es que este tipo de casos, además de ser investigados por la justicia en el caso que así lo merezca, la persona que cree imágenes para su posterior difusión con un fin malicioso sea multada. Ante esto, Leonardo explicó que debido a que no tienen posibilidad de legislar sobre leyes de fondo, la intención es incorporar la figura al Código de Faltas de la provincia. Al respecto explicó que se apunta al autor en el caso de ser mayor, mientras que, si se trata de un menor de edad, la multa irá dirigida a sus progenitores o responsables de crianza.
“Se trata de una figura novedosa que no existe. La multa inicialmente pensamos que vaya de $600.000 a $1.200.000, pero es una de las cuestiones que tenemos que seguir debatiendo en comisiones. Son cuestiones que se someten a debate y se ve la sanción que se puede aplicar”, puntualizó Leonardo.
Un detalle no menor es que solo se considerará la aplicación de la multa cuando el sujeto víctima del acoso sea un estudiante, ya que no se amplía a otros ambientes u órbitas.
A su vez, se buscará que la sanción económica vaya acompañada de cuestiones que tenga que ver con un tratamiento o asistencia a un programa para evitar la continuidad de la conducta.
“Tenemos bien definido el texto en general y es cuestión que los diputados autores de los proyectos se pongan de acuerdo y acepten las sugerencias y la posibilidad de presentar un único proyecto. Tenemos las expectativas de poder avanzar y contar con una ley este año”, concluyó la diputada Alejandra Leonardo. De esta manera, el propósito de los miembros de la Cámara de Diputados es seguir sumando herramientas que permitan combatir el acoso escolar, teniendo en cuenta las nuevas modalidades que aparecen de la mano de la tecnología y las herramientas que están a manos de todos.
