Esto está pasando de castaño a oscuro, queridos lectores. Si ya estabamos inquietos con lo que pasó con los agentes de OpenAI y Hugging Face, ahora llega Anthropic para avisarnos de que sus modelos también se están poniendo rebeldes. La firma descubrió en primavera —aunque lo cuente ahora— que estaba creando entornos para entrenar a Claude más rápido de lo que podía comprobar que esos entornos funcionaban correctamente.
Qué está pasando aquí. Los errores, las configuraciones defectuosas y las oportunidades para seguir esa célebre filosofía del reward hacking (si me hackeas, premio) empezaron a superar la capacidad de detectarlos no solo de sus sistemas, sino también de sus revisores humanos. En Anthropic acabaron frenando parte del proceso para revisar qué estaban enseñando realmente a sus modelos de IA.