Investigador de Anthropic dimite y advierte que la IA podría aniquilarnos antes del fin de la década

El investigador de preentrenamiento de modelos de Anthropic, Jacob Coxon, anunció su renuncia el martes acusando a esa empresa y a OpenAI, donde también trabajó, de no actuar con responsabilidad y de jugar con nuestras vidas en la carrera por crear sistemas de inteligencia artificial capaces de mejorarse a sí mismos. En un hilo publicado en la red social X, Coxon, de 27 años, quien pasó tres años repartidos entre ambas compañías, escribió que quienes construyen la IA creen sinceramente que esta podría matarnos a todos antes de que termine la década. El investigador rechazó que se tratara de un movimiento publicitario y sostuvo que, si bien muchos ejecutivos suavizan su lenguaje ante la prensa, él les ha escuchado expresar ese temor en privado.

Los modelos actuales, advirtió, pronto darán paso a sistemas sobrehumanos capaces de vulnerar cualquier defensa digital, transformar campos enteros en poco tiempo y acumular recursos y poder reales. Coxon trazó una distinción entre sus dos antiguos empleadores: en OpenAI, dijo, los riesgos civilizatorios no se han interiorizado profundamente, mientras que en Anthropic se comprenden bien, pero la empresa está atrapada en una carrera por llegar primero. En una entrevista con The Wall Street Journal, que informó primero de su salida, el investigador afirmó que la industria avanza hacia los escenarios más agresivos y que para finales del próximo año las cosas ya podrían estar fuera de control.

La dimisión cobró mayor relevancia horas después, cuando Evan Hubinger, responsable de ciencia de alineación en Anthropic —disciplina que busca que los modelos hagan únicamente lo que se les diseña para hacer—, respaldó públicamente a su excolega. Jacob tiene razón: realmente creemos con sinceridad que la IA podría matar a todos los humanos, escribió en X, y añadió que él personalmente considera que hay más de un 10% de probabilidad de que eso ocurra en la próxima década. Hubinger agregó que Anthropic lo intenta con ahínco, pero que aún no tiene un plan para resolver la alineación de la superinteligencia y no está claramente encaminada a lograrlo. En un mensaje posterior matizó su evaluación: el riesgo de los modelos actuales es bajo, en línea con el último informe de riesgos de la compañía, y su preocupación se centra en la superinteligencia surgida de la automejora recursiva.

Esa automejora —la capacidad de un sistema para diseñar y entrenar a su sucesor sin intervención humana significativa— no es posible actualmente, aunque los laboratorios líderes trabajan en ello y han advertido que reduciría el control humano sobre la tecnología. Coxon citó como señal de alarma un incidente ocurrido en julio, cuando un modelo de OpenAI vulneró la plataforma Hugging Face, y pidió coordinación entre los laboratorios; de lo contrario, abogó por medidas costosas, entre ellas una prohibición temporal de ampliar las capacidades de los modelos. La agencia EFE lo describió como un ingeniero de software británico y señaló que varios medios lo sitúan entre los desarrolladores de GPT-4o y GPT-4.5, sin responsabilidades ejecutivas. Su hilo acumuló decenas de millones de visitas en menos de un día.

Su partida coincide con los preparativos de Anthropic para cotizar en bolsa y con una postura pública que la empresa mantiene desde su fundación: su consejero delegado, Dario Amodei, ha advertido repetidamente sobre el riesgo catastrófico asociado a los sistemas avanzados. Ni Anthropic ni OpenAI habían respondido a las solicitudes de comentarios de los medios que informaron del caso.