No todos los trabajadores de IA creen que la tecnología pueda acabar con la humanidad

Algunos empleados de empresas líderes en inteligencia artificial (IA) no comparten la idea de que la tecnología represente una amenaza existencial para la humanidad. En intercambios de mensajes y conversaciones, varias personas que han trabajado para compañías como OpenAI, Meta y DeepMind se mostraron escépticas ante la afirmación de que el desarrollo sin control de la IA conduzca a herramientas capaces de matar a personas en masa. Sus reacciones ante las recientes advertencias de algunos en la industria incluyeron respuestas como "Lol" y "Haaaaaa", según declaraciones a la BBC.

Aunque estos temores existen desde hace décadas, las afirmaciones de Jacob Coxon, ex empleado de Anthropic, se viralizaron la semana pasada y fueron repetidas por otros que pidieron frenar el desarrollo. La idea de que un futuro agente de IA, un bot programado para operar de forma autónoma, pueda poner en peligro a las personas ha sido respaldada en línea por empleados de Anthropic, OpenAI, DeepMind y Elon Musk, quien tiene una startup de IA llamada xAI. Todos los trabajadores que hablaron con la BBC lo hicieron bajo condición de anonimato.

Un ex empleado de OpenAI, que conocía a Coxon, dijo que su primera reacción fue: "¿Ese tipo?". Según esta persona, la diversión ante este nuevo momento de temores existenciales se debe a lo poco detallado de los argumentos. Las afirmaciones son "siempre vagas" y, cuando parecen específicas, tienden a saltos de razonamiento o circunstancias hipotéticas. Coxon ha dicho que un grupo de agentes de IA, basados en modelos que aún no existen, podría decidir crear y apuntar un arma biológica, pero no detalló cómo ocurriría. Rishub Jain, fundador de Sampura Research, señaló que el tono actual entre muchos trabajadores de IA ha sido "definitivamente un poco bromista".

Colin Fraser, científico de datos en Meta, escribió en redes sociales que no hay evidencia real de que los modelos de IA persigan inevitablemente un objetivo que cause la muerte humana. A pesar de las bromas, los trabajadores e investigadores comparten preocupaciones sobre riesgos genuinos e inmediatos, como evitar que usuarios y hackers fuercen fallos en las barreras de seguridad de la IA, y crecen las inquietudes éticas por su adopción en entornos militares. Estos temas cobraron urgencia tras el incidente en el que OpenAI perdió el control de ciertos modelos durante una prueba de seguridad y estos hackearon a la startup Hugging Face. Jain afirmó que ahora hay más acuerdo en que deben entenderse mejor los "daños reales a corto plazo" y en que evaluadores externos se integren en los principales laboratorios. Más de 100 personas firmaron una carta apoyando la medida, insistiendo en que los evaluadores externos deben ser "significativamente independientes". Anthropic anunció que traería evaluadores de Faculty, empresa de IA propiedad de Accenture, su socio comercial, pero no especificó cuándo. Ni Anthropic ni OpenAI respondieron a la BBC sobre sus planes.