Algorithms of Armageddon: The Impact of Artificial Intelligence on Future Wars de George Galdorisi y Sam J. Tangredi presenta un análisis exhaustivo sobre el impacto de la inteligencia artificial en la guerra moderna, abordando uno de los temas de seguridad más apremiantes de nuestra época. Publicado el 12 de marzo de 2024 por Naval Institute Press, este libro de 256 páginas emerge en un momento crítico donde la guerra algorítmica ya no es una posibilidad futura, sino una realidad presente.
Contexto y relevancia actual
La obra cobra especial relevancia en el contexto geopolítico actual, donde Estados Unidos se encuentra inmerso en una carrera de inteligencia artificial con potencias autoritarias sin que los responsables políticos y líderes militares estadounidenses comprendan completamente la magnitud de esta competencia. Los autores, George Galdorisi y Sam J. Tangredi, son profesionales de seguridad nacional que trabajan con IA diariamente en sus labores tanto técnicas como de política, lo que otorga a la obra una perspectiva práctica y fundamentada en la experiencia directa.
El libro surge en respuesta a una realidad alarmante: China y Rusia han dejado claras sus intenciones de realizar inversiones masivas en IA e integrar esta tecnología en sus sistemas militares, sensores y armas con el objetivo específico de obtener una ventaja asimétrica sobre el ejército estadounidense. Esta situación plantea implicaciones complejas y múltiples para la seguridad nacional estadounidense.
Enfoque analítico y metodológico
A diferencia de otras obras sobre el tema, «Algorithms of Armageddon» no es una protesta contra la IA, ni un trabajo especulativo sobre cómo la IA podría reemplazar a los humanos. En cambio, proporciona una comprensión crítica oportuna de por qué la IA está siendo implementada a través de la militarización estatal, las realidades para el equilibrio de poder global y, más importante, la seguridad nacional estadounidense.
La obra se distingue por su análisis integral que abarca desde los fundamentos técnicos del big data, machine learning e inteligencia artificial, hasta las implicaciones estratégicas más amplias. Los autores investigan la convergencia de la IA con otras tecnologías y cómo estos sistemas interactuarán con los humanos, proporcionando una base sólida para comprender las transformaciones que están ocurriendo en el ámbito militar.
Urgencia estratégica
El libro adquiere particular urgencia al señalar que el desarrollo de IA en algunos adversarios es más rápido y efectivo que en Occidente, debido a que otras naciones están menos restringidas por complejidades legales o consenso moral. Esta ventaja competitiva de los adversarios estadounidenses plantea serias preocupaciones sobre el futuro del equilibrio de poder global.
Los autores argumentan que solo cuando la verdadera escala de la guerra algorítmica se vuelva obvia en un conflicto entre pares, la desventaja de seguridad nacional de tales controles se volverá evidente, cuando sea demasiado tarde para abordarla con éxito. Esta perspectiva subraya la necesidad inmediata de abordar estos desafíos antes de que sea demasiado tarde.
Contribución al debate nacional
«Algorithms of Armageddon» no solo diagnostica los problemas, sino que también propone un diálogo nacional que se enfoque en la necesidad de que el ejército estadounidense tenga acceso a la tecnología más avanzada habilitada por IA para proporcionar seguridad y prosperidad al pueblo estadounidense. La obra examina el potencial ofensivo de la IA en aplicaciones militares, argumentando que la IA puede mejorar la eficiencia operacional procesando vastas cantidades de datos, mejorando la toma de decisiones y optimizando el trabajo en equipo persona-máquina.
Al mismo tiempo, aborda las preocupaciones éticas importantes planteadas por las armas autónomas, subrayando la necesidad de supervisión humana para evitar cálculos erróneos catastróficos. Esta perspectiva equilibrada de la IA como tanto una herramienta de empoderamiento como una fuente de riesgo potencial proporciona matices que a menudo faltan y añade peso al llamado de los autores para que Estados Unidos actúe rápidamente en la adopción de IA.
Premisa central y contexto geopolítico
Estados Unidos ya está inmerso en una carrera de IA con potencias autoritarias sin que los responsables políticos y líderes militares estadounidenses comprendan completamente la magnitud de esta competencia. China y Rusia han dejado claras sus intenciones de realizar inversiones masivas en IA e integrar esta tecnología en sus sistemas militares, sensores y armas con el objetivo específico de obtener una ventaja asimétrica sobre el ejército estadounidense.
Los adversarios pares de Estados Unidos están desarrollando IA de manera más rápida y efectiva que Occidente debido a que están menos restringidos por complejidades legales o consenso moral. Estas restricciones legales y morales, aunque necesarias para controlar los aspectos negativos civiles del control algorítmico, están imponiendo barreras artificiales en el desarrollo de armamento del lado occidental.
Fundamentos tecnológicos y conceptuales
Los capítulos iniciales establecen una comprensión fundamental de big data, machine learning e inteligencia artificial. Los autores explican que el big data es el combustible de la IA, especialmente los datos «limpios» (información digital de mayor calidad, auditada y correctamente etiquetada).
La obra distingue claramente entre machine learning (la capacidad de las computadoras para modificar su toma de decisiones cuando se exponen a cantidades crecientes de datos) y inteligencia artificial (autoaprendizaje mediante la comparación de resultados predichos y reales, refinado mediante la autoincorporación de líneas de código de programa a través de prueba y error).
Convergencia tecnológica e interacción humano-máquina
Los autores investigan profundamente la convergencia de la IA con otras tecnologías y cómo estos sistemas interactuarán con los humanos. Esta convergencia es crítica para entender cómo la IA está siendo desarrollada y utilizada específicamente por Rusia y China en sus aplicaciones militares.
La obra examina detalladamente los equipos hombre-máquina como una forma fundamental de militarización de la IA, explorando cómo la interacción entre operadores humanos y sistemas automatizados está redefiniendo el campo de batalla moderno. La integración de humanos y IA representará un cambio fundamental en cómo las batallas son planeadas y conducidas.
Militarización de la inteligencia artificial
Los capítulos centrales abordan específicamente la militarización de la IA a través de la interacción con otras tecnologías. Esta sección analiza cómo la IA se está integrando en sistemas de armas para crear capacidades militares completamente nuevas.
La obra dedica considerable atención a los sistemas de armas autónomos, examinando tanto sus capacidades técnicas como las implicaciones éticas y estratégicas de su despliegue en conflictos futuros.
Debates críticos sobre control y escalada
Los autores cubren en profundidad los debates que rodean la controversia del «genio fuera de la botella» de la IA. Esta metáfora se refiere a la preocupación de que una vez que la IA militar avanzada sea desplegada, puede ser imposible controlar o limitar sus aplicaciones.
La obra analiza exhaustivamente las carreras armamentísticas de IA y su impacto resultante en las políticas y las leyes de guerra. Los autores exploran cómo estas carreras están alterando fundamentalmente el equilibrio de poder global y las normas internacionales de conflicto.
Escenarios de conflicto global y riesgos sistémicos
Dado que las potencias globales están liderando el desarrollo de IA a gran escala, es probable que el uso de esta tecnología sea de alcance global. Los autores plantean preguntas críticas: ¿Los sistemas de armas militares habilitados por IA conducirán a una guerra global a gran escala? ¿Puede evitarse tal conflicto?
Los capítulos posteriores exploran estas cuestiones fundamentales, señalando la posibilidad de que los humanos fallen en controlar las aplicaciones militares de IA y concluyendo que los peligros para Estados Unidos son reales y tangibles.
Desafíos del campo de batalla moderno
Un aspecto crucial que aborda la obra es el volumen puro de información que los sistemas de sensores modernos generan y la creciente incapacidad de los comandantes y sus estados mayores para integrar, sintetizar y tomar decisiones en un campo de batalla moderno. La IA, a través de su capacidad para ingerir y procesar cantidades masivas de datos, se convertirá en una herramienta invaluable para ayudar a gestionar el espacio de batalla moderno.
Análisis del equilibrio de poder global
La obra proporciona una comprensión crítica y oportuna de por qué la IA está siendo implementada a través de la militarización estatal. Los autores examinan las realidades del equilibrio de poder global en el contexto de esta nueva era tecnológica.
Los autores afirman que Estados Unidos está perdiendo la carrera armamentística de IA y debe hacer un esfuerzo extraordinario para recuperar su ventaja competitiva. Esta evaluación se basa en su análisis comparativo del desarrollo de IA entre Estados Unidos y sus adversarios.
Propuestas y recomendaciones estratégicas
Galdorisi y Tangredi proponen un diálogo nacional que se enfoque en la necesidad de que el ejército estadounidense tenga acceso a la tecnología más avanzada habilitada por IA. Esta propuesta busca garantizar la seguridad y prosperidad del pueblo estadounidense en el contexto de la competencia tecnológica global.
La obra concluye que solo cuando la verdadera escala de la guerra algorítmica se vuelva obvia en un conflicto entre pares, la desventaja de seguridad nacional de tales controles se volverá evidente, cuando sea demasiado tarde para abordarla con éxito.
Enfoque metodológico y perspectiva analítica
Los autores enfatizan que su obra no es una protesta contra la IA, ni un trabajo especulativo sobre cómo la IA podría reemplazar a los humanos. En cambio, proporciona un examen de este tema de seguridad más apremiante con una entrega clara y perspicaz por parte de dos expertos que son profesionales de seguridad nacional que trabajan con IA diariamente en sus labores tanto técnicas como de política.
La obra ofrece una comprensión crítica oportuna de por qué la IA está siendo implementada a través de la militarización estatal, las realidades para el equilibrio de poder global y, más importante, la seguridad nacional estadounidense. Como secuela bastante buena del trabajo anterior de los autores «AI at War», este libro proporciona una visión occidental detallada del estado actual de la guerra algorítmica.