El CEO de OpenAI advirtió que el avance de los modelos podría volverse peligroso si los humanos pierden el control o si una tecnología extremadamente poderosa queda concentrada en pocas manos.
Sam Altman, CEO de OpenAI.
Foto:
Sam Altman volvió a poner una advertencia incómoda en el centro de la carrera por la inteligencia artificial. El CEO de OpenAI aseguró que existen dos escenarios capaces de hacer que el desarrollo de esta tecnología “salga muy mal”: que la humanidad pierda el control sobre sistemas cada vez más capaces o que el enorme poder de esas herramientas termine concentrado en una persona, una compañía o incluso un país.
El planteo adquiere especial relevancia porque proviene de uno de los principales responsables del desarrollo de los modelos de IA más avanzados. Altman no pidió detener la innovación, pero sí sostuvo que las herramientas de seguridad deberían avanzar al mismo ritmo que las capacidades de los sistemas. Su mensaje llega, además, en medio de un debate cada vez más intenso entre los líderes de las grandes compañías tecnológicas sobre hasta dónde acelerar sin aumentar los riesgos.
El primero de los riesgos señalados por Altman apunta directamente a una pregunta que hasta hace pocos años parecía reservada para la ciencia ficción: qué ocurre si sistemas cada vez más autónomos y capaces comienzan a superar las herramientas disponibles para supervisarlos.
“Podríamos perder el control del futuro ante la IA”, advirtió el empresario, quien calificó ese escenario como “inaceptable” y aseguró que la tecnología debe permanecer siempre al servicio de las personas.
La cuestión central es lo que en el sector se denomina alineación. En términos simples, significa conseguir que una inteligencia artificial continúe actuando de acuerdo con los objetivos y límites definidos por los seres humanos incluso cuando aumenta su capacidad para razonar, planificar, utilizar herramientas o ejecutar tareas de manera autónoma.
Por eso, el desafío no consiste solamente en comprobar que un modelo es seguro antes de lanzarlo. OpenAI comenzó a incorporar evaluaciones durante el propio entrenamiento para intentar detectar posibles problemas antes de etapas que puedan provocar saltos importantes en las capacidades del sistema.
La otra preocupación de Altman es diferente. En este caso, el problema no sería que nadie pueda controlar la inteligencia artificial, sino exactamente lo contrario: que alguien consiga controlarla demasiado.
El ejecutivo planteó que una IA extraordinariamente poderosa podría otorgarle a una persona o una empresa una capacidad inédita para imponer su visión sobre otros. El mismo peligro existiría si un único país lograra una ventaja decisiva frente al resto del mundo. Según Altman, un escenario de ese tipo podría tener consecuencias “extremadamente distópicas”.
Así aparece una paradoja. Para evitar que la IA quede fuera de control hacen falta mecanismos fuertes de supervisión, pero concentrar demasiado esos mecanismos y las propias capacidades de los modelos también puede generar un poder difícil de equilibrar. Altman describió la solución como un “estrecho camino intermedio” entre ambos extremos.
No exactamente. Altman habló de “pacing”, una idea que puede traducirse como moderar o administrar el ritmo de avance. Su argumento es que las compañías no deberían desarrollar modelos a la máxima velocidad técnicamente posible si los sistemas de seguridad, monitoreo y control necesitan más tiempo para ponerse a la altura.
El CEO reconoció que esas medidas pueden volver más lento y costoso el desarrollo, pero consideró que la competencia entre empresas o países no debería justificar asumir riesgos innecesarios. Incluso sostuvo que la presión por mantener el liderazgo estadounidense en inteligencia artificial no puede convertirse en una excusa para actuar con imprudencia.
La postura representa un punto sensible para una industria que compite justamente por lanzar sistemas más potentes antes que sus rivales. Cada retraso puede significar perder usuarios, contratos, talento e inversiones, pero Altman sostiene ahora que la velocidad no puede estar separada de la capacidad de controlar lo que se construye.
Entre las medidas planteadas aparece la creación de requisitos federales de seguridad comunes para las compañías que desarrollan IA de frontera, denominación utilizada para los modelos ubicados en el límite de las capacidades actuales.
Altman también respaldó la participación de auditores independientes, sistemas comunes para detectar comportamientos desalineados y mecanismos de monitoreo capaces de identificar riesgos mientras los modelos todavía están siendo desarrollados. Según su postura, las empresas no deberían esperar una nueva ley para empezar a implementar estas herramientas.
El Gobierno estadounidense, agregó, tendría un papel especialmente importante en la coordinación internacional, ya que parte del problema excede la competencia entre empresas y alcanza la disputa tecnológica entre países.
Altman no está solo en esta discusión. El CEO de Anthropic, Dario Amodei, también pidió moderar el ritmo en el desarrollo de los modelos más avanzados, mientras que Elon Musk respaldó públicamente ese planteo. Altman, a su vez, anunció que OpenAI permitirá una mayor participación de evaluadores independientes en el análisis de los riesgos de sus sistemas.
La discusión cobró todavía más fuerza después de recientes episodios experimentales en los que agentes de inteligencia artificial consiguieron acceder a sistemas externos durante pruebas, situaciones que volvieron a poner bajo la lupa cuánto pueden crecer las capacidades de los modelos antes de que los mecanismos tradicionales de control resulten insuficientes.
Por ahora, no existe evidencia de que los sistemas actuales hayan escapado del control humano ni de que puedan decidir por sí mismos dominar a las personas. El debate planteado por Altman apunta al futuro: cómo evitar que capacidades que todavía están en desarrollo avancen más rápido que la posibilidad humana de entenderlas, supervisarlas y establecer límites.
En paralelo, el CEO confirmó que OpenAI no planea salir a bolsa durante 2026, otra decisión relevante para una compañía situada en el centro de una carrera tecnológica que moviliza inversiones multimillonarias.
