La IA no necesita "superinteligencia" ni malas intenciones para iniciar una guerra nuclear
Tiempo de lectura 5 minutos 40 segundos
Cuando el investigador de IA Jacob Coxon anunció su renuncia a Anthropic, advirtió que las personas en las empresas que compiten por lograr una superinteligencia con capacidad de autoaprendizaje "creen firmemente que podría acabar con todos nosotros para finales de la década".
Los sistemas de IA actuales podrían desencadenar una guerra nuclear al amplificar los puntos ciegos cognitivos humanos, acelerar las espirales de escalada y abrumar a los responsables de la toma de decisiones con información durante crisis de alto riesgo (Ilustración de François Diaz-Maurin; imágenes de origen de la Casa Blanca).
Estas advertencias generan temores de que la IA pueda escapar al control humano e iniciar una guerra nuclear sin autorización humana.
Aunque la superinteligencia no está definida con precisión, los desarrolladores de IA coinciden en que aún no es una realidad. Sin embargo, los sistemas de IA actuales pueden provocar una guerra nuclear incluso si, en teoría, las personas siguen al mando. La IA no necesita lanzar un arma, recomendar un ataque ni tener la intención de causar daño.
La falibilidad humana común, amplificada por las máquinas, puede ser suficiente para desencadenar una catástrofe.
La IA puede moldear la información que llega a los líderes, cuyas mentes ya luchan por comprender las consecuencias de una guerra nuclear. La IA puede explotar las vulnerabilidades conocidas del juicio humano, agravadas por resultados de máquinas falsos, engañosos o fuera de contexto y amplificadas por la velocidad, la escala y el volumen de la información que genera. Incluso la información precisa puede interpretarse de forma incorrecta o imprudente cuando se presenta sin el contexto adecuado; los errores y las ambigüedades introducidos por la IA pueden empeorar aún más la situación.
No se requiere una inteligencia artificial extraordinaria ni intenciones maliciosas para que se produzca una catástrofe. Para evitar una guerra nuclear, deben establecerse salvaguardias institucionales que protejan a los líderes de sus peores impulsos, incluso cuando la IA los presione para actuar.
Una vulnerabilidad importante, el entumecimiento psíquico, surge de depender de las emociones para reconocer y responder al riesgo. Los sentimientos humanos no logran seguir el ritmo del número de personas que sufren. A veces, la preocupación incluso disminuye a medida que aumentan las cifras. Los seres humanos pueden reconocer un millón de muertes con indiferencia, como una simple cifra, sin comprender la realidad de las vidas perdidas que representa. El dicho «la muerte de un hombre es una tragedia, mientras que la muerte de millones es una estadística» ilustra el problema fundamental del entumecimiento psíquico.
La atención humana también se ve gravemente limitada. Salvar tropas, detener un ataque o poner fin a una guerra pueden convertirse en prioridades abrumadoras para quienes toman las decisiones. Si bien estos son objetivos legítimos, no son los únicos importantes; evitar una catástrofe global es, sin duda, mucho más importante.
Aunque los beneficios inmediatos se imaginan fácilmente y tienen un gran impacto emocional, las consecuencias a largo plazo de una guerra nuclear, cambios climáticos, agricultura devastada, desplazamiento masivo de población y hambruna, y el colapso total de la atención médica y otros servicios en todo el mundo, a menudo resultan demasiado vagas y distantes emocionalmente como para comprenderlas adecuadamente. Estas amenazas a largo plazo podrían fácilmente quedar eclipsadas por consideraciones más inmediatas durante una crisis.
En un experimento reciente realizado mediante encuesta a casi 3.000 adultos estadounidenses, los investigadores describieron una guerra terrestre hipotética y ganable contra Irán, en la que un ataque nuclear contra una ciudad importante ofrecía un final más rápido y no causaría más muertes de soldados estadounidenses.
El experimento puso a prueba dos escenarios distintos del uso de armas nucleares para poner fin a la guerra: un ataque que mataría a 100 000 civiles iraníes o uno que se esperaba que matara a 2 millones de civiles. Los participantes solo vieron una de estas dos opciones nucleares. El apoyo de los encuestados a la opción nuclear frente a la continuación de la guerra terrestre fue prácticamente idéntico: 31,6 % para la opción de 100 000 muertos frente a 27,6 % para la opción de 2 millones de muertos, a pesar de una diferencia de 20 veces en el número de muertos. Esto demuestra el entumecimiento psicológico: a partir de cierta escala, las cifras de muertos más elevadas dejan de percibirse como mayores. (Fuente: Paul Slovic y Herbert Lin - Boletín de los Científicos Atómicos)
