Podemos construir una inteligencia artificial cada vez más capaz y, al mismo tiempo, decidir que hay cosas que nunca debería poder hacer por su cuenta. Ese es uno de los puntos hacia los que se está desplazando el debate sobre seguridad: no solo cómo conseguir que un modelo siga nuestras instrucciones, sino qué límites ponemos a su capacidad para actuar con independencia. Microsoft AI está tomando posición en esa discusión. Su CEO, Mustafa Suleyman, defiende que estos sistemas deben seguir bajo control humano y considera que algunas decisiones sobre cómo entrenarlos pueden dificultar precisamente ese objetivo.
La posición de Microsoft AI ha quedado plasmada esta semana en su nuevo Humanist AI Code of Conduct, un documento que Suleyman presentó como la guía que debe orientar cómo desarrolla y evalúa sus modelos. En una larga entrevista con The Verge el ejecutivo explicó que la seguridad necesita algo más que alineamiento: hacen falta mecanismos de contención capaces de limitar lo que un sistema puede hacer incluso cuando sigue correctamente las instrucciones que recibe. Es desde esa lógica desde donde plantea su objeción al enfoque de Anthropic sobre el posible estatus moral de Claude.