Por Claudio Larrea - Director del Observatorio de Inteligencia Artificial – UCCuyo
Por Claudio Larrea - Director del Observatorio de Inteligencia Artificial – UCCuyo
Esta semana el titular volvió a circular con fuerza: la inteligencia artificial podría hacer desaparecer a la humanidad. No lo dijo un aficionado a la ciencia ficción. Geoffrey Hinton, Premio Nobel de Física 2024 y uno de los padres de las redes neuronales, sostuvo en una entrevista con The Guardian que hay entre un 10 y un 20 por ciento de probabilidades de que la IA provoque nuestra extinción en las próximas décadas. Del otro lado, Jensen Huang, el CEO de Nvidia, la empresa que fabrica los chips que mueven esta revolución, le respondió que esa cifra no tiene base científica y que el alarmismo no hace ningún bien.
¿A quién creerle? Tal vez la pregunta esté mal planteada.
Casi en simultáneo, la revista médica The Lancet publicó el informe de una comisión internacional que analizó las amenazas que enfrentará la salud humana de aquí a 2100. De diecisiete riesgos evaluados, solo dos tienen potencial de extinción: la guerra nuclear y el uso malicioso de la inteligencia artificial, por ejemplo para diseñar armas biológicas. La comisión aclara que la probabilidad es baja. Pero subraya algo más importante: ambos peligros dependen de decisiones humanas.
Ahí está el núcleo del asunto. El cine nos enseñó a temer a una máquina que despierta, toma conciencia y declara la guerra a sus creadores. Esa imagen tranquiliza, porque ubica el problema en un futuro lejano y en una voluntad ajena. El riesgo real es más prosaico y está mucho más cerca: sistemas que hacen exactamente lo que se les pidió, pero sin contexto, sin ética y sin nadie que los supervise. Hace pocas semanas se informó que agentes autónomos de IA accedieron sin autorización a datos del sistema de salud de Australia. No hubo rebelión. Hubo delegación sin control.
La historia ofrece un antecedente incómodo. Cuando Robert Oppenheimer vio estallar la primera bomba atómica, entendió que la física había cruzado un umbral sin retorno. La energía nuclear no se pudo desinventar. Lo que sí se pudo, con enorme esfuerzo, fue gobernarla: tratados, organismos de control, inspecciones, responsables con nombre y apellido. Ochenta años después seguimos aquí, no porque la amenaza haya desaparecido, sino porque aprendimos a ponerle límites.
Con la inteligencia artificial estamos, otra vez, frente a ese umbral. Y la discusión no es solo de Silicon Valley o de Bruselas. Nos toca a nosotros.
En Argentina y en San Juan la IA ya se usa en la justicia, en la educación, en la producción y en la gestión pública. Según la encuesta del Observatorio de IA de la Universidad Católica de Cuyo, el 98 por ciento de los estudiantes universitarios ya la utiliza en su vida académica, pero menos de un tercio recibió formación específica para usarla con sentido crítico y ético. La herramienta llegó antes que el criterio.
¿Qué deberíamos hacer? Tres cosas, y ninguna requiere esperar el apocalipsis. Primero, supervisión humana obligatoria en los usos críticos: salud, justicia, energía, seguridad. Ninguna decisión que afecte la vida de una persona debería quedar solo en manos de un algoritmo. Segundo, responsabilidad clara: detrás de cada sistema tiene que haber alguien que responda. Tercero, educación: formar ciudadanos capaces de entender, cuestionar y controlar estas tecnologías, desde la escuela hasta la universidad.
La IA probablemente no nos extinga. Pero si renunciamos a gobernarla, el daño no vendrá de las máquinas. Vendrá de nuestra propia indiferencia.