Un investigador de Anthropic renuncia y advierte que la IA podría matarnos a todos

Jacob Coxon trabajaba en Anthropic como investigador de modelos de IA. El martes anunció su renuncia. Dijo que la empresa y OpenAI no actúan con responsabilidad. También afirmó que están jugando con nuestras vidas. Coxon tiene 27 años y trabajó tres años en las dos compañías.

En la red social X, Coxon escribió que quienes crean IA creen de verdad que puede matarnos a todos. Esto podría pasar antes de que termine la década. Él rechazó que fuera una acción publicitaria. Dijo que muchos directivos suavizan sus palabras ante la prensa. Pero esas mismas personas expresan ese miedo en privado. Añadió que los modelos actuales darán paso pronto a sistemas superhumanos. Estos podrán romper cualquier defensa digital y acumular poder real. En OpenAI, dijo, no entienden bien el riesgo para la civilización. En Anthropic lo entienden, pero compiten por llegar primero.

En una entrevista con The Wall Street Journal, Coxon dijo que la industria avanza hacia los peores escenarios. "Para finales del próximo año, las cosas podrían estar fuera de control", advirtió. Horas después, Evan Hubinger, líder de alineación en Anthropic, apoyó a su excolega. Escribió en X: "Jacob tiene razón, creemos de verdad que la IA podría matar a todos los humanos". Dijo que él piensa que hay más de un 10% de probabilidad en la próxima década. Hubinger añadió que Anthropic hace lo posible, pero no tiene un plan para la superinteligencia.

La renuncia ocurre mientras Anthropic se prepara para salir a la bolsa. Su director, Dario Amodei, ha advertido varias veces sobre el riesgo catastrófico. Ni Anthropic ni OpenAI respondieron a las preguntas de la prensa.