Por Claudio Larrea - Director del Observatorio de Inteligencia Artificial – UCCuyo
Por Claudio Larrea - Director del Observatorio de Inteligencia Artificial – UCCuyo
Durante años hablamos de la inteligencia artificial como si solo sirviera para producir más: más textos, más imágenes, más eficiencia, más velocidad. Pero esa mirada empieza a quedar corta. Hay otra pregunta, menos espectacular y mucho más urgente: ¿puede la inteligencia artificial ayudarnos a prevenir daños que ya están ocurriendo en los celulares de nuestros chicos y adolescentes?
El grooming —el acercamiento engañoso de adultos a menores a través de internet— no es una amenaza lejana. Sucede en chats, redes sociales y juegos en línea. Y muchas veces no comienza con una amenaza evidente. Se construye lentamente, a través de conversaciones que parecen inocentes, pedidos de confianza, secretos, regalos, halagos o preguntas cada vez más personales. Las familias suelen enterarse tarde. Las escuelas, también. Y cuando aparece la sospecha, no siempre sabemos qué mirar, cómo interpretar una conversación o a quién recurrir.
Frente a ese vacío nació Señal Segura, una aplicación desarrollada por el Observatorio de Inteligencia Artificial de la Universidad Católica de Cuyo, gratuita y pensada para prevenir, detectar señales de alerta y orientar frente a posibles situaciones de grooming.
¿Cómo funciona? Un adolescente, una madre, un padre o un docente puede cargar capturas de pantalla de una conversación o pegar fragmentos de texto. El sistema analiza ese material y devuelve un nivel orientativo de riesgo, identifica posibles señales de alerta y sugiere qué hacer. Un aspecto resulta especialmente importante: el análisis se realiza en el propio dispositivo, buscando preservar la privacidad en un tema donde la confianza y el cuidado de la información son fundamentales.
Pero Señal Segura no pretende convertirse en un detective digital ni reemplazar a las personas. Tampoco determina que alguien sea culpable ni realiza denuncias automáticamente. La inteligencia artificial puede reconocer patrones, ordenar indicios y transformar una sospecha difusa en una advertencia comprensible. La decisión sigue siendo humana.
La aplicación también busca educar. Incluye contenidos diferenciados para chicos, adolescentes y adultos, porque no se previene igual a los ocho años que a los dieciséis. Enseña que las fotos y el cuerpo son propios; que existen secretos que generan miedo o incomodidad y deben contarse; que detrás de un perfil puede no estar quien dice estar; y que también en los juegos en línea pueden aparecer desconocidos que buscan ganar confianza.
Y cuando una situación requiere ayuda, la tecnología debe saber correrse del centro. Por eso la aplicación orienta hacia personas y canales reales: un adulto de confianza, servicios de emergencia, la Línea 137, la Línea 102 y las vías correspondientes de orientación y denuncia.
Ese quizá sea el verdadero desafío de la inteligencia artificial que viene. No construir solamente máquinas capaces de hacer cosas sorprendentes, sino desarrollar tecnologías que resuelvan problemas humanos concretos.
Los riesgos digitales serán cada vez más sofisticados. Deepfakes, identidades falsas, imágenes manipuladas y conversaciones generadas artificialmente convivirán con nuestras infancias. Creer que la respuesta será simplemente prohibir el celular resulta ingenuo. Pensar que un algoritmo podrá reemplazar la presencia de padres, docentes y profesionales sería todavía más peligroso.
Entre ambos extremos existe otro camino: educar, prevenir y utilizar la tecnología para llegar antes.
Señal Segura intenta recorrer ese camino. Es una herramienta desarrollada desde San Juan, desde una universidad, para un problema que atraviesa fronteras. Está disponible gratuitamente en https://señal-segura.com.ar/ y puede instalarse en el teléfono como una aplicación.
Quizás el mejor futuro de la inteligencia artificial no sea aquel en el que haga todo por nosotros. Quizás sea aquel en el que, frente a una señal que nadie había visto, nos ayude a verla a tiempo.