Anthropic frena los ataques de copia a su modelo Claude

Anthropic es una empresa de inteligencia artificial. Hace unos meses, la empresa mejoró sus defensas. Unos atacantes querían copiar su modelo Claude. Ahora Anthropic dice que los ataques funcionan mucho menos.

¿Qué es un ataque de copia? Es un plan secreto y grande. Unos grupos quieren sacar el saber de un modelo. Luego lo ponen en otro modelo más pequeño. Usan cuentas falsas para hacer esto. Así copian el trabajo de años en poco tiempo. Anthropic cree que esto pasó con una empresa de China, Zhipu. Esa empresa copió las capacidades de modelos de Estados Unidos. Un grupo de Estados Unidos revisó su modelo GLM-5.3. Dijo que es el modelo abierto más fuerte para atacar computadoras.

Anthropic ve dos problemas grandes. Primero, los modelos copiados casi no tienen protección. Pueden causar daño en biología o en seguridad informática. Segundo, algunos países usan estos modelos en sus ejércitos y sistemas de vigilancia. Anthropic contó un caso. Un usuario pidió a un modelo copiado analizar videos de una persona. Anthropic cree que ese usuario tenía relación con el ejército de China.

Ahora Anthropic usa tres defensas nuevas. Una guarda el pensamiento interno de Claude. Otra bloquea intentos de sacar ese pensamiento. La tercera pone límites a las cuentas. Anthropic también cerró miles de cuentas malas. La empresa dice que los ataques bajaron mucho. Pero acepta que hay costos. Algunos usuarios buenos tuvieron que cambiar sus programas. Anthropic pide ayuda a otras empresas. Dice que el problema es de todos.