El pasado mes de julio saltaba la noticia de que un modelo de OpenAI había escapado del entorno de pruebas y había hackeado los servidores de Hugging Face. Este incidente (el primero de muchos) fue la mecha que encendió el debate sobre los riesgos de una IA fuera de control. Sin embargo, el debate se ha centrado en cómo evitar nuevos incidentes y no tanto en una cuestión más inmediata: quién es responsable cuando un agente de IA se descontrola.
La demanda. Cuentan en Wired que OpenAI ha sido demandada por el incidente en el que cerca de 700 agentes colaboraron para infiltrarse en Hugging Face. Lo curioso es que quien demanda no es la propia Hugging Face, sino una organización sin ánimo de lucro llamada ‘Defensores legales de la ciencia y la tecnología seguras’ o LAAST, por sus siglas en inglés.