Meta activará alertas automáticas ante mensajes de riesgo, las cuales serán revisadas manualmente antes de llegar a los tutores.
Meta alertará a padres si hijos hablan de suicidio con la IA.
Foto:
En un esfuerzo por reforzar la protección de los menores de edad en las plataformas digitales, Meta anunció la implementación de un nuevo sistema de seguridad en su chatbot de inteligencia artificial (Meta AI). La medida consistirá en notificar directamente a los padres si sus hijos adolescentes discuten o consultan sobre suicidio o autolesiones al interactuar con esta tecnología.
Según el informe difundido por Cadena 3, la iniciativa surge en un contexto de creciente exigencia global hacia las grandes corporaciones tecnológicas para que asuman una mayor responsabilidad en el cuidado de la salud mental de los jóvenes usuarios de internet y redes sociales.
El mecanismo de control de Meta operará bajo un estricto protocolo automatizado y humano para garantizar la efectividad de las advertencias:
Detección por Inteligencia Artificial: El sistema se activará en el momento exacto en que la IA identifique de forma clara un mensaje o conversación que haga referencia a autolesionarse.
Revisión humana obligatoria: Para evitar falsas alarmas, Meta detalló que cada chat señalado por la tecnología pasará por una revisión manual a cargo de un equipo especializado antes de enviar la notificación final a los padres.
Margen de prevención: En los casos donde el sentido del mensaje del adolescente resulte ambiguo o difícil de catalogar, la empresa priorizará la seguridad y enviará de igual modo la alerta a los tutores para prevenir situaciones de peligro.
Las notificaciones de Meta AI estarán vinculadas de manera directa con la herramienta de Supervisión Parental de Instagram. Actualmente, esta función se encuentra disponible en Estados Unidos, el Reino Unido, Canadá y Australia, y según lo previsto por la compañía tecnológica, se espera su desembarco global para fines de este año.
Esta nueva protección se suma a la herramienta ya existente en Instagram que avisa a los padres cuando los menores realizan búsquedas recurrentes sobre temáticas de riesgo. Asimismo, la empresa extenderá a su chatbot de IA la medida de comunicarse directamente con los servicios de emergencias locales si los diálogos de un usuario (sea adulto o menor) indican de manera inequívoca que se encuentra en una situación crítica o de peligro inminente.
Paralelamente, Meta aplicará su configuración de "Contenido Limitado" a las interacciones de Meta AI. Esto dotará a los adultos a cargo de un mayor control sobre los temas a los que acceden los menores, ampliando las salvaguardas actuales que ya impiden al chatbot entablar conversaciones sobre alcohol, sexualidad o temáticas románticas con menores de edad.
