Por Claudio Larrea - Director del Observatorio de Inteligencia Artificial – UCCuyo
Por Claudio Larrea - Director del Observatorio de Inteligencia Artificial – UCCuyo
Hace algunos años nos preocupaba quién desarrollaba la inteligencia artificial. Hoy la pregunta es mucho más inquietante: ¿quién decide qué IA podemos usar, qué aplicaciones pueden llegar a nosotros y cuáles desaparecen antes de nacer?
La respuesta tiene un nombre poco conocido fuera del ámbito regulatorio europeo: gatekeepers, o "guardianes de acceso".
No son gobiernos. Tampoco universidades. Son las grandes plataformas tecnológicas que controlan sistemas operativos, buscadores, tiendas de aplicaciones, redes sociales, servicios en la nube y ecosistemas digitales completos. En la práctica, se han convertido en los porteros de la economía digital. Si una empresa quiere llegar a millones de usuarios, muchas veces debe pasar primero por ellos.
Ese enorme poder fue una de las razones por las que la Unión Europea decidió cambiar radicalmente su estrategia regulatoria. En lugar de esperar a que aparezcan abusos para sancionarlos, comenzó a imponer reglas preventivas a quienes controlan el acceso al mercado digital. El Reglamento de Mercados Digitales (DMA) identifica precisamente a estos grandes actores como gatekeepers y les prohíbe prácticas como favorecer sus propios productos, impedir la interoperabilidad o utilizar datos obtenidos en un servicio para beneficiar otro sin consentimiento.
Pero el desafío no termina allí.
Mientras el DMA regula el poder económico de estas plataformas, el Reglamento Europeo de Inteligencia Artificial introduce otra idea que probablemente marcará la próxima década: no toda IA representa el mismo riesgo.
Durante años hablamos de inteligencia artificial como si fuera una única tecnología. Europa decidió clasificarla según el impacto que puede tener sobre las personas. Así nació el enfoque basado en riesgos.
Hay sistemas de riesgo mínimo, como muchos asistentes virtuales; otros de riesgo limitado, que deben informar al usuario que está interactuando con una IA; sistemas de alto riesgo, utilizados por ejemplo en educación, salud, empleo, justicia o acceso a servicios esenciales, sometidos a fuertes exigencias de transparencia, documentación y supervisión humana; y finalmente sistemas de riesgo inaceptable, directamente prohibidos, como ciertas formas de manipulación subliminal o los sistemas de puntuación social al estilo chino.
La diferencia es profunda.
Europa dejó de preguntarse si la IA es buena o mala. Comenzó a preguntarse qué consecuencias puede producir cada aplicación concreta.
Este cambio de enfoque tiene implicancias enormes para América Latina.
Nuestros países siguen concentrando buena parte del debate en cómo incorporar inteligencia artificial a la administración pública, las escuelas o las empresas. Sin embargo, hablamos mucho menos sobre quién controla las plataformas, quién audita los algoritmos, quién verifica la ausencia de sesgos o quién protege efectivamente los derechos de las personas cuando una decisión automatizada les niega un crédito, un empleo o una vacante universitaria.
No alcanza con promover la innovación. Tampoco alcanza con celebrar cada nuevo modelo de IA que aparece casi semanalmente.
La verdadera discusión consiste en construir instituciones capaces de supervisar estas tecnologías antes de que los problemas sean irreversibles.
Los gatekeepers y los sistemas de riesgo son conceptos técnicos, pero describen una realidad muy concreta: el poder ya no reside solamente en quien crea inteligencia artificial, sino también en quien controla las puertas de acceso y en quien decide qué riesgos está dispuesto a aceptar como sociedad.
Ese probablemente sea el mayor desafío de esta década. La discusión ya no será quién tiene la mejor inteligencia artificial.
Será quién tiene las mejores reglas para gobernarla.