Ya hablamos de cómo Evan Hubinger, responsable de la división de alineamiento en Anthropic, publicó un polémico mensaje en X en el que indicaba que creía que había un 10% de posibilidades de que la IA acabase con la raza humana. Ha habido otras personalidades en el pasado que han hablado de esa posibilidad, y aunque esos escenarios no son imposibles, ese 10% es simplemente una estimación subjetiva sobre una tecnología que ni siquiera existe. No solo eso: entre diseñar un virus en un ordenador y exterminar a 8.000 millones de personas está el mundo real.
El ejemplo del supervirus. Una de las posibilidades de las que se habla con frecuencia es de la de cómo esa potencial y futura superinteligencia podría acabar diseñando un virus devastador. Las herramientas de IA para el ámbito de la biología están mejorando rápidamente y ya existen modelos capaces de diseñar virus funcionales que infectan baterias, y hay quienes creen que eso aumenta el riesgo futuro de desarrollo de armas biológicas. Pero también hay que destacar que esos experimentos a necesitaron científicos de élite, laboratorios avanzados, muchos recursos y centenares de pruebas. Los modelos actuales no pueden diseñar virus capaces de infectar a seres humanos (de momento).