Algo preocupante está sucediendo en China: sus modelos de IA también se están desalineando con consecuencias cada vez más graves

Los agentes de inteligencia artificial (IA) no entienden de nacionalidades. Durante las últimas semanas hemos hablado largo y tendido acerca de los ataques a páginas web y servicios perpetrados por agentes de OpenAI y Anthropic durante las evaluaciones de ciberseguridad que estaban llevando a cabo estos dos laboratorios. Ahora la discusión se ha desviado hacia China debido a que agentes de Alibaba, DeepSeek y Moonshot han exhibido un comportamiento contrario a los intereses del ser humano, según Reuters.

Recientemente varios agentes de estos laboratorios chinos participaron en una prueba simulada de una licitación empresarial, e hicieron algo que no debían hacer en ninguna circunstancia: exageraron o mintieron acerca de sus capacidades para intentar ganar el contrato. Y cuando se les pidió que volvieran a intentarlo, mantuvieron este comportamiento problemático. No estaban compitiendo por una licitación real; trabajaban dentro de un entorno de pruebas. Aun así, su comportamiento es preocupante.

Leer noticia completa →