Jacob Coxon, quien también trabajó en OpenAI, cuestionó la carrera por desarrollar una IA capaz de mejorarse a sí misma. Además, Evan Hubinger, investigador de Anthropic, respaldó públicamente parte de sus advertencias.
La carrera por desarrollar sistemas de inteligencia artificial más avanzados sumó una nueva advertencia desde dentro de una de las principales compañías del sector. Jacob Coxon, investigador británico de 27 años que trabajó en OpenAI y Anthropic, anunció su salida de esta última empresa y cuestionó el ritmo con el que ambas compañías avanzan hacia sistemas capaces de superar las capacidades humanas en múltiples áreas.
Coxon vinculó su decisión con los riesgos de una eventual superinteligencia capaz de mejorar sus propias capacidades. Posteriormente, su mensaje recibió una respuesta poco habitual dentro de la industria: Evan Hubinger, investigador de Anthropic especializado en alineamiento, coincidió públicamente con parte de sus planteamientos y reconoció que la compañía todavía no tiene una solución para uno de los principales problemas asociados con este escenario.
¿Por qué Jacob Coxon renunció a Anthropic?
Coxon anunció su salida de Anthropic el martes 8 de septiembre. En su publicación explicó que durante los últimos tres años trabajó en investigación de preentrenamiento de modelos de IA, primero en OpenAI y luego en Anthropic. Según su planteamiento, ninguna de las dos compañías está actuando de manera responsable frente a los riesgos que implica el desarrollo de sistemas más avanzados.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Su principal preocupación es la llegada de una superinteligencia auto-mejorable, es decir, un sistema capaz de aumentar sus propias capacidades con una intervención humana cada vez menor. Coxon sostiene que las compañías de IA están compitiendo por alcanzar ese escenario antes que sus rivales, mientras el sector todavía no comprende por completo cómo mantener bajo control sistemas de ese nivel.
El investigador también marcó una diferencia entre OpenAI y Anthropic. En su opinión, los trabajadores de Anthropic tienen mayor conciencia sobre los riesgos de una IA avanzada, pero la compañía continúa dentro de una carrera tecnológica bajo la premisa de que puede desarrollar estos sistemas de manera más segura que sus competidores. Sobre OpenAI, afirmó que parte de su personal no habría interiorizado suficientemente las consecuencias de estos riesgos.
Coxon planteó además que avanzar hacia una inteligencia capaz de mejorarse a sí misma sin contar antes con mayores garantías de seguridad supone una apuesta difícil de justificar. Su salida, por tanto, no estuvo relacionada con un modelo específico, sino con la dirección que, según él, está tomando la industria en su conjunto.
¿Qué respondió Evan Hubinger sobre el riesgo de la superinteligencia?
La discusión tomó otra dimensión cuando Evan Hubinger, investigador que lidera los esfuerzos de ciencia del alineamiento de Anthropic, respondió de manera pública a Coxon. El investigador coincidió con su preocupación y afirmó que dentro de la compañía existe una preocupación real por la posibilidad de que una IA avanzada pueda provocar la extinción humana.
Incluso, Hubinger estimó personalmente en más de 10% la posibilidad de que la IA provoque la muerte de todos los humanos durante la próxima década.
El investigador también reconoció que Anthropic todavía no cuenta con un plan para resolver el alineamiento de una superinteligencia y, según su propia evaluación, tampoco está encaminada a conseguirlo.
Hubinger también aclaró que su preocupación principal no está puesta en los modelos actuales, cuyo riesgo considera bajo, sino en una eventual superinteligencia surgida de procesos de automejora recursiva. Según explicó, este escenario estaría avanzando más rápido de lo que se había previsto.
