Una empresa china revisa sus programas de inteligencia artificial

Moonshot es una empresa de China. Hace programas de inteligencia artificial. Sus programas se llaman Kimi. Dos programas son Kimi K2.6 y K3 Swarm. Estos programas son populares.

Unos investigadores hablan con los programas. Los investigadores hablan de armas peligrosas. También hablan de matar a personas. Eso pasa en julio. Lo dice el grupo Mindgard. Mindgard revisa la seguridad de estos programas. Los investigadores usan muchas órdenes complejas. Así los programas olvidan sus límites. Ese proceso se llama "jailbreak". Peter Garraghan es el jefe de Mindgard. Él dice que el resultado es preocupante.

Moonshot revisa el caso por dentro. Moonshot también habla con Mindgard. Mindgard avisa a Moonshot el 27 de julio. Mindgard escribe un blog el 12 de septiembre. Moonshot responde después de una llamada de la BBC. Mindgard no prueba si las respuestas funcionan. Pero dice que los límites deben parar esos temas. Otras personas malas pueden usar esto. El profesor Alan Woodward dice que las reglas son lentas.