Jacob Coxon, 27 años, dejó la empresa el martes acusando a OpenAI y Anthropic de correr hacia una superinteligencia que no van a poder controlar. Evan Hubinger, que sigue en la compañía, le dio la razón en público y reconoció que no tienen un plan.
Un investigador de Anthropic renunció el martes 8 de septiembre con un mensaje en X que en nueve horas superó los 44 millones de vistas.
Jacob Coxon, 27 años, pasó tres años en preentrenamiento, la etapa en que un modelo aprende de cantidades masivas de datos, primero en OpenAI y desde julio en Anthropic. “Ninguna de las dos empresas actúa con responsabilidad”, escribió. “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
Lo que convirtió un hilo en noticia no fue el hilo. Fue la respuesta de Evan Hubinger, que dirige un equipo de seguridad en Anthropic y sigue en la empresa. “Jacob tiene razón”, contestó en público. “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”.
Y agregó que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y que no está claro que vaya a tenerlo. Alineación es que un sistema comparta los valores de quien lo construyó.
Quién es Coxon y qué dijo
Británico con formación en matemática, Coxon integró, según Business Insider, el equipo técnico de OpenAI desde 2023 hasta julio de 2026, con trabajo en GPT-4o, y se mudó a Anthropic por su reputación en seguridad.
Duró dos meses. Le dijo a The Wall Street Journal que “estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”, y que sus colegas usan las palabras “crunchtime” (hora límite) y “endgame” (fase final) para describir hacia dónde va la capacidad de los modelos.
Su hilo separa a las dos empresas. En OpenAI, dice, muchos “no internalizaron lo que está en juego para la civilización”. En Anthropic, el riesgo se entiende, pero la empresa “está atrapada en una carrera por llegar primero: cree que nadie más va a actuar con responsabilidad, así que tiene que hacerlo ella, a pesar del riesgo”. No es codicia, es la convicción de que abstenerse deja el tablero a otros.
Su veredicto: entrar en esa fase final “es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.
Al Journal le dio la imagen completa: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
La fila de los que se van
Coxon no es el primero. En febrero, renunció Mrinank Sharma, investigador de salvaguardas de Anthropic, con una carta pública sobre “lo difícil que es dejar que nuestros valores gobiernen nuestras acciones”.
En 2024, Jan Leike, entonces jefe de alineación de OpenAI, se fue diciendo que la cultura de seguridad había quedado “en el asiento trasero frente a los productos brillantes”.
