Un edificio de oficinas en Berkeley se ha convertido en el centro neurálgico de una red que lleva años advirtiendo de algo muy concreto: que la inteligencia artificial podría acabar extinguiendo a la humanidad. El espacio, llamado Constellation, agrupa a investigadores, emprendedores y simpatizantes del altruismo eficaz que han influido en el debate público, en la cultura de empresas como Anthropic y en las discusiones sobre regulación de la IA.
Qué es Constellation. En su página web el Constellation Institute se presenta como «una organización sin fines de lucro que trabaja para garantizar que la IA transformadora se desarrolle, despliegue y gobierne de manera segura». Alertan de que la IA puede «impulsar una prosperidad humana sin precedentes», pero también llevarnos a escenarios catastróficos como: