Los modelos de inteligencia artificial (IA) de frontera son cada vez más capaces. La semana pasada Anthropic y OpenAI agitaron una vez más la industria de la tecnología lanzando Claude Fable 5.1 y GPT-6 Astra respectivamente. Estos son sus modelos más avanzados disponibles ahora mismo, aunque sabemos que ambas compañías ya están probando modelos todavía más sofisticados. Sea como sea, la llegada de estas IA ha puesto sobre la mesa algo que ambas compañías reconocen: su capacidad a la hora de explicar con precisión qué ocurre en su interior es cada vez más limitada.
Durante los últimos cuatro años hemos interpretado los modelos de lenguaje como sistemas transparentes cuyo razonamiento podíamos seguir en lenguaje natural. Pero esto ya no es así. OpenAI ha confesado que el razonamiento que verbalizan sus últimos modelos, y especialmente GPT-6 Astra, ya no refleja siempre con precisión qué está sucediendo dentro del modelo, en su cadena de pensamiento. Este comportamiento indica que los modelos están adquiriendo la capacidad de controlar en alguna medida la monitorización de su actividad que es posible llevar a cabo desde el exterior.