«Confiar en los modelos lo menos posible». Satya Nadella ha hablado en Twitter y ha apostado por atar a la inteligencia artificial en corto: separar el suministro de inteligencia de la autoridad sobre ella. O lo que es lo mismo, rodear a los modelos de reglas, permisos y vigilancia independiente. La idea de base es simple: con el software tradicional podíamos rastrear un comportamiento hasta una línea de código, pero con los modelos actuales no.
Mucho poder y poca explicación. Las empresas están poniendo agentes de IA a trabajar en sistemas importantes, con acceso a datos sensibles y confidenciales pese a que no sabemos explicar por qué un modelo de IA avanzado hace lo que hace. Es más, incluso a actuar en nuestro nombre. Por eso Nadella es tajante: “No podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre”. Y añade que las garantías del proveedor del modelo no nos eximen de esa responsabilidad.