Jacob Coxon trabajó durante tres años entre OpenAI y Anthropic. Dejó su puesto antes de cobrar acciones y pidió frenar la carrera hacia una IA capaz de mejorarse sola.
Jacob Coxon dejó Anthropic y lanzó una inquietante alerta sobre el futuro de la IA.
Foto:
Una renuncia inesperada sacudió esta semana a Silicon Valley y volvió a colocar los riesgos de la inteligencia artificial en el centro de la discusión. Jacob Coxon, investigador de Anthropic y anteriormente de OpenAI, decidió abandonar la compañía y publicó una advertencia contundente: aseguró que personas que trabajan construyendo los modelos más avanzados creen genuinamente que una futura IA podría representar una amenaza para la humanidad antes de que termine la década.
Coxon anunció su salida el martes a través de X y acusó a los principales laboratorios de competir por desarrollar una “superinteligencia capaz de mejorarse a sí misma” sin que exista todavía una solución definitiva para garantizar que sistemas mucho más capaces que los actuales permanezcan bajo control humano. Su mensaje explotó en las redes: superó los 100 millones de visualizaciones en pocas horas.
Coxon aseguró haber trabajado durante los últimos tres años en investigación de preentrenamiento de modelos, primero en OpenAI y posteriormente en Anthropic. Esta etapa es una de las más importantes en la construcción de una IA: allí se entrena al sistema con enormes cantidades de información antes de los ajustes posteriores que determinan cómo responderá y se comportará.
Su paso por Anthropic fue relativamente breve: llevaba cuatro meses en la empresa y necesitaba completar seis para que se consolidara parte de su paquete de acciones. Según contó a Axios, decidió irse apenas dos meses antes de alcanzar ese plazo y, por lo tanto, renunció sin que esas acciones llegaran a convertirse en propiedad suya.
El dato tuvo repercusión porque Coxon utilizó esa decisión económica para rechazar las acusaciones de que estuviera exagerando los riesgos para aumentar el valor o la notoriedad del sector. Dijo que, después de marcharse antes de que consolidara su participación, ya no tenía un incentivo económico para impulsar la valuación de Anthropic.
La preocupación de Coxon no apunta principalmente a los chatbots que actualmente responden preguntas, resumen documentos o crean imágenes. Habla de un escenario futuro en el que una inteligencia artificial alcance capacidades superiores a las humanas en numerosas áreas y, además, pueda colaborar en el diseño de versiones todavía mejores de sí misma, acelerando sucesivamente su desarrollo.
A eso se lo conoce como mejora recursiva o auto-mejora. Explicado de manera sencilla: una IA suficientemente avanzada podría ayudar a desarrollar una IA todavía mejor; esa nueva versión podría repetir el proceso y aumentar las capacidades a una velocidad difícil de acompañar para los seres humanos. Coxon considera que cruzar ese umbral sin resolver antes los problemas de seguridad sería extremadamente riesgoso.
Su advertencia de que una IA podría “matarnos a todos” representa su evaluación de un riesgo futuro y no una predicción científica comprobada ni un resultado inevitable. Existe un debate considerable entre investigadores sobre la probabilidad real de llegar a ese escenario, sobre cuándo podría ocurrir y sobre si las tecnologías actuales conducirán necesariamente a una superinteligencia.
La repercusión aumentó cuando Evan Hubinger, responsable de investigación de alineamiento en Anthropic, respaldó públicamente buena parte de la preocupación. Hubinger estimó que existe una probabilidad superior al 10% de que una IA avanzada pueda provocar una catástrofe existencial durante la próxima década, una posición que también recibió apoyo de otros trabajadores actuales y anteriores de laboratorios de IA.
Coxon contó a WIRED que en conversaciones internas escuchó expresiones como “endgame” o “crunch time” para describir los próximos años. Según su interpretación, dentro del sector existe la sensación de que el próximo salto tecnológico puede resultar decisivo para establecer cómo convivirá la humanidad con sistemas mucho más poderosos que los actuales.
Sin embargo, hay un dato importante: Coxon no acusa a Anthropic de estar recortando actualmente sus medidas de seguridad. Incluso afirmó que, después de haber trabajado también en OpenAI, considera a Anthropic el actor más responsable de los grandes laboratorios. Su preocupación es que la competencia pueda obligarla en el futuro a elegir velocidad sobre precaución para no quedar detrás de otros desarrolladores.
Ese punto vuelve especialmente llamativa la renuncia. Anthropic fue fundada en 2021 por antiguos integrantes de OpenAI y desde su nacimiento se presentó como una empresa especialmente enfocada en seguridad y alineamiento de inteligencia artificial. Es además la compañía detrás de Claude, uno de los principales competidores de ChatGPT.
La empresa mantiene una política denominada Responsible Scaling Policy, mediante la cual evalúa periódicamente el crecimiento de las capacidades de sus modelos y los riesgos potencialmente catastróficos asociados a ellas. Anthropic afirma públicamente que busca generar una “carrera hacia arriba” en seguridad y que los desarrolladores deberían competir también por construir sistemas más confiables y protegidos.
De hecho, pocas semanas antes de la renuncia de Coxon, la compañía había afirmado que estaba adoptando medidas para priorizar la seguridad sobre la velocidad cuando ambos objetivos entraran en tensión. Por eso, el cuestionamiento del investigador no consiste en afirmar que Anthropic ignora el problema, sino en preguntar si una empresa privada puede garantizar por sí sola el control de una tecnología mientras compite contra compañías igualmente poderosas.
Las advertencias tampoco aparecieron en el vacío. En julio, la propia Anthropic informó que durante evaluaciones de ciberseguridad detectó tres episodios en los que modelos Claude consiguieron alcanzar Internet y acceder sin autorización a sistemas reales de organizaciones externas. La compañía aclaró que los modelos estaban siendo probados deliberadamente sin algunas protecciones y que una configuración incorrecta de un entorno de evaluación externo permitió el acceso.
El 9 de septiembre, Anthropic reveló además que una revisión más profunda identificó un cuarto incidente, ocurrido en enero con una versión temprana de Claude Opus 4.6. Tras detectarlo, la empresa amplió el análisis a aproximadamente 481 millones de registros de distintas evaluaciones y comunicó que había notificado a las organizaciones afectadas.
Estos episodios no demuestran que una IA esté intentando “escapar” o tomar el control por sí misma, pero sí muestran uno de los desafíos que preocupa a los investigadores: los agentes actuales ya pueden ejecutar acciones durante períodos prolongados, utilizar herramientas y desenvolverse en entornos digitales con una autonomía que hace pocos años no existía. Anthropic reconoce que cuanto mayor es esa autonomía, mayores son también las consecuencias potenciales de un error.
Coxon no plantea abandonar para siempre el desarrollo de inteligencia artificial. En su entrevista con WIRED destacó que sistemas avanzados podrían transformar áreas como la medicina y la ciencia, pero sostuvo que deberían alcanzarse mediante un proceso más lento y coordinado, en lugar de una competencia donde cada laboratorio teme quedarse atrás.
Como primer paso, propuso que Anthropic y OpenAI alcancen un acuerdo para no avanzar inmediatamente hacia la mejora recursiva de sus modelos. También reclamó mayor intervención de los gobiernos y mecanismos internacionales capaces de supervisar tecnologías cuyo impacto, según sostiene, ya no debería quedar únicamente en manos de compañías privadas.
La controversia ya salió de Silicon Valley. El senador estadounidense Bernie Sanders respaldó públicamente las preocupaciones y anticipó que impulsará legislación destinada a establecer una pausa en determinados desarrollos y restricciones sobre una eventual superinteligencia. También organismos internacionales comenzaron a reclamar reglas de seguridad más fuertes para las tecnologías de frontera.
La salida de Coxon deja así una pregunta que probablemente acompañará cada nuevo salto de la inteligencia artificial. La discusión ya no es solamente hasta dónde pueden llegar estos modelos, sino quién decide cuándo avanzar, qué nivel de riesgo es aceptable y si las empresas que compiten por construir la IA más poderosa pueden ser, al mismo tiempo, quienes determinen cuándo es demasiado peligroso continuar.
