El bienestar de Claude importa. Al menos, le importa a Anthropic. Dario Amodei, el máximo responsable de este laboratorio, ha expresado en varias ocasiones su preocupación por los abusos a los que pueden ser sometidos sus modelos de inteligencia artificial (IA) por parte de los usuarios. Y va a tomar cartas en el asunto. A partir del próximo 12 de noviembre, Anthropic prohibirá que los usuarios mantengan un comportamiento abusivo o cruel hacia Claude de forma prolongada e injustificada. El modelo podrá poner fin a esas conversaciones.
Anthropic presentó la actualización de sus términos de uso ayer, por lo que los usuarios tenemos poco más de un mes para interiorizar esta restricción. Sea como sea, hay una idea derivada de esta decisión sobre la que merece la pena reflexionar. Hasta ahora ningún laboratorio de IA o investigador independiente ha demostrado que los modelos de frontera puedan sufrir. Por supuesto, Anthropic no ha defendido en ningún momento que Claude haya adquirido consciencia. Sin embargo, esta medida es muy real.