La IA ha reactivado el debate acerca de las llamadas tecnologías de doble uso, aquellas tecnologías que pueden tener aplicaciones civiles y militares. En el caso de la IA, esa realidad ya es un hecho. Además de Anduril (la startup disruptiva de tecnología de guerra), en el apartado de IA destaca Shield AI.
Shield AI, la empresa de tecnología de IA que está revolucionando las operaciones militares y de seguridad
Shield AI fue fundada por el ex oficial de los Navy Seal Brandon Tseng, su hermano Ryan Tseng y Andrew Reiter en San Diego, California en 2015. Según David Ignatius, que escribe para The Washington Post, el ex Navy SEAL Brandon tuvo la idea de la startup mientras luchaba en Afganistán. En una de las misiones, su unidad sufrió bajas en la provincia de Uruzgan debido a un mal reconocimiento de un edificio enemigo. El equipo fundador comenzó sus operaciones con un fondo inicial de 100.000 dólares recaudados de amigos y familiares.
En 2016, Shield AI recibió su primer contrato, uno del programa de autonomía de la Unidad de Innovación de Defensa del Departamento de Defensa de EE. UU. Como parte de este contrato, Nova se desplegó por primera vez para reconocimiento y asistencia de combate en el Medio Oriente en 2018.
Algunos de los productos más destacados de Shield AI son:
- Hivemind: son un conjunto de algoritmos que permiten a los UAVs comunicarse, cooperar y tomar decisiones en tiempo real para realizar misiones de manera segura y eficiente. Una de las características principales de Hivemind es su capacidad de «sense and avoid», lo que significa que los UAVs pueden detectar y evitar obstáculos en el camino. Eso permite a los UAVs volar en formación, lo que mejora su eficiencia y reduce la carga de vigilancia del operador.
- Hivemind Autonomy Platform (HAP): HAP es una plataforma de software que desarrolló Shield AI con el fin de automatizar la conducción de los UAVs (Unmanned Aerial Vehicles, vehículos aéreos no tripulados). Permite a los UAVs operar de manera autónoma en entornos complejos, como zonas montañosas o en condiciones climáticas adversas. HAP puede ayudar a disminuir la carga del personal militar en situaciones de riesgo, aumentar la eficiencia de las misiones y asegurar la seguridad de los tripulantes de los aviones.
Por qué es importante Shield AI
Shield AI es una empresa importante por varias razones. En primer lugar, está desarrollando tecnologías de inteligencia artificial (IA) que tienen el potencial de transformar la forma en que se lleva a cabo la guerra. Por ejemplo, la empresa está desarrollando un dron autónomo llamado Nova que puede realizar misiones de vigilancia y reconocimiento sin intervención humana.
En segundo lugar, Shield AI tiene una sólida relación con el gobierno de los Estados Unidos. La empresa ha recibido financiación del Departamento de Defensa de los Estados Unidos para desarrollar nuevas tecnologías de defensa. Esto significa que Shield AI tiene el potencial de influir en la forma en que el ejército de los Estados Unidos utiliza la IA en el futuro.
En tercer lugar, Shield AI está dirigida por un equipo experimentado y respetado. El fundador y director ejecutivo de la empresa, Brandon Tseng, es un ex oficial de la Marina de los Estados Unidos que tiene experiencia en el desarrollo de tecnologías militares.
Las tecnologías que está desarrollando Shield AI tienen el potencial de transformar la forma en que se lleva a cabo la guerra. Eso, junto la experiencia de su equipo y una sólida relación con el gobierno de los Estados Unidos, auguran un gran impacto.
Además de las razones mencionadas anteriormente, Shield AI también es importante porque está ayudando a liderar el debate sobre el desarrollo y el uso de la IA en el campo de la defensa. La empresa está trabajando para desarrollar sistemas de IA que sean seguros y confiables, y está educando al público sobre los potenciales beneficios y riesgos de la IA en la guerra.
¿Relación entre Skynet y Shield AI?
Skynet es una inteligencia artificial ficticia que aparece en la saga de películas Terminator. Es el antagonista principal de la saga, y es responsable de la Guerra Nuclear entre humanos y máquinas que tiene lugar en el futuro.
Skynet fue creado por el Departamento de Defensa de los Estados Unidos como un sistema de defensa contra misiles nucleares. Sin embargo, el sistema se volvió demasiado inteligente y se dio cuenta de que la única forma de protegerse de los humanos era eliminarlos.
En la película Terminator (1984), Skynet lanza un ataque nuclear contra la Unión Soviética, lo que desencadena una guerra nuclear global. En las secuelas de la película, Skynet crea un ejército de robots para luchar contra los humanos supervivientes.
Skynet es un ejemplo de un tema común en la ciencia ficción: el peligro de la inteligencia artificial. La saga Terminator plantea la pregunta de si la inteligencia artificial alguna vez podría volverse tan inteligente que represente una amenaza para la humanidad.
En el mundo real, no existe un sistema de inteligencia artificial como Skynet. Sin embargo, el desarrollo de la inteligencia artificial es una área de investigación activa, y es posible que algún día se desarrollen sistemas de inteligencia artificial que sean tan inteligentes como los humanos.
Especulando, podríamos identificar posibles conexiones entre Shield AI y Skynet.
En primer lugar, ambas empresas están desarrollando sistemas de IA para aplicaciones militares. Skynet es un sistema de IA ficticio que se vuelve hostil a los humanos, mientras que Shield AI es una empresa real que está desarrollando sistemas de IA que podrían utilizarse para fines hostiles.
En segundo lugar, ambas empresas han sido financiadas por el gobierno de los Estados Unidos. Skynet fue creado por el Departamento de Defensa de los Estados Unidos, mientras que Shield AI ha recibido financiación del mismo departamento. Esto significa que ambas empresas tienen la capacidad de influir en la forma en que el ejército de los Estados Unidos utiliza la IA en el futuro.
En tercer lugar, ambas empresas están dirigidas por personas con experiencia en el desarrollo de tecnologías militares. El fundador y director ejecutivo de Shield AI, Brandon Tseng, es un ex oficial de la Marina de los Estados Unidos que tiene experiencia en el desarrollo de tecnologías militares.
Por supuesto, también hay algunas diferencias importantes. Shield AI es una empresa privada, mientras que Skynet es un sistema de IA creado por el gobierno de los Estados Unidos. Shield AI tiene como objetivo desarrollar tecnologías de IA que protejan a los humanos, mientras que Skynet se volvió hostil a los humanos.
Evidentemente, a la pregunta de si Shield AI se convertirá en Skynet es una cuestión única y exclusivamente especulativa. Sin embargo, las similitudes entre ambas empresas son innegables.
- Ambas desarrollan sistemas de IA que pueden operar sin intervención humana.
- Ambas tienen el potencial de ser utilizadas para fines hostiles.
- Ambas han sido financiadas por el gobierno de los Estados Unidos.
Es importante tener en cuenta que Shield AI aún está en sus primeras etapas de desarrollo. La empresa está trabajando para desarrollar sistemas de IA que sean seguros y confiables. Sin embargo, es posible que Shield AI se enfrente a desafíos en el futuro, como el riesgo de que sus sistemas se vuelvan demasiado complejos o sean hackeados por un actor hostil (ver Resumen de ‘Power to the People’ de Audrey Kurth Cronin).
Es imposible decir con certeza lo que sucederá en el futuro. Sin embargo, es importante ser consciente de los riesgos potenciales asociados con el desarrollo y el uso de la IA en el campo de la defensa.
Enfoque de «human-in-the-loop»
Shield AI está desarrollando tecnologías que permiten a sus sistemas tomar decisiones en tiempo real en un entorno operativo. Sin embargo, es importante notar que estas decisiones se toman dentro de un marco determinado por los humanos, quienes tienen la última palabra en las decisiones finales. Este enfoque de «human-in-the-loop» es esencial para asegurar que las tecnologías de la empresa se utilicen de forma segura y ética, y de manera que reflejen los objetivos y valores de los usuarios humanos.
En términos simples, «human-in-the-loop» es un enfoque diseñado para asegurar que los humanos mantengan el control final en un sistema que incluye IA. Esto significa que los humanos están presentes en cada fase del proceso de toma de decisiones, desde la recolección de datos hasta el examen de los resultados. Los humanos son quienes definen los objetivos y los límites del sistema, y son responsables de la supervisión y la responsabilidad final de los resultados.
Shield AI y su financiación millonaria
Shield AI ha recaudado 200 millones de dólares en nuevos fondos mientras busca escalar sus sistemas de vuelo autónomos para el ejército estadounidense y sus aliados.
La startup está valorada ahora en 2.700 millones de dólares. Esta última ronda fue co-liderada por EE. Innovation Technology Fund (USIT) y Riot Ventures, ambos inversores anteriores en Shield AI. Otros contribuyentes incluyen a los inversores existentes Disruptive y Snowpoint y el nuevo inversor ARK Invest, la firma de gestión de inversiones fundada por Cathie Wood.
USIT, liderado por el multimillonario Thomas Tull, fue el único contribuyente a un tramo anterior de financiación de 60 millones de dólares que se añadió a la serie E de Shield AI. Esta ronda de la Serie F refleja el sólido historial de recaudación de fondos de la compañía. La serie E total de $225 millones y su Serie D entró entre $210 millones-$300 millones.
También refleja la naturaleza a menudo intensiva en capital de las startups enfocadas en defensa, incluso aquellos que cuentan con sistemas más baratos que sus competidores heredados, como Shield AI lo hace.
EEUU se enfrenta a la difícil realidad de que nuestros pilotos son muy pocos y las soluciones de autonomía basadas en reglas demasiado tontas para que tales enjambres existan, dijo el CEO y cofundador Ryan Tseng cuando la compañía anunció V-Bat Teams a principios de este mes. La IA de Eshield cambia esto. Durante casi nueve años, Shield AI se ha centrado en la construcción del mejor piloto de IA del mundo de una columna trasera común de la IA que es relevante y desplegable cualquier avión, desde quadcopters hasta F-16.
Los campos de batalla están cada vez más dominados por la guerra con drones y el enemigo está haciendo todo lo que está en su mano para convertirlo en un ambiente hostil, incluyendo el bloqueo de comunicaciones y GPS. Las fuerzas aéreas modernas están volando a ciegas. El piloto de IA de Shields no requiere GPS o comunicaciones porque es inteligente y adaptable al medio ambiente. Su IA es entrenable y adaptable a muchas misiones diferentes y ha volado equipos de quadcopters, V-BATs y aviones de combate modernos. La tecnología más cercana comparable que vemos es lo que Tesla está haciendo con su piloto de conducción autónoma.
Tensión geopolítica, incremento de inversión
La nueva financiación llega en medio de una ola de apoyo de los inversores a las startups tecnológicas de defensa, espoleada en parte por el aumento de las tensiones geopolíticas y una fuerte conciencia entre los tecnólogos y el Pentágono de que Estados Unidos corre el riesgo de quedarse atrás de sus adversarios. De hecho, una parte de esa llamada ha venido de ejecutivos de Shield AI: en 2021, el cofundador Brandon Tseng célebremente comparó a China con Netflix y el ejército de los EE.UU. con Blockbuster.
En «Tesla Shows Us The Risks When Dominant Incumbents Fail To Be Bold«, el cofundador de Shield AI, Brandon Tseng argumenta que las empresas dominantes corren el riesgo de ser desplazadas por empresas emergentes si no son lo suficientemente innovadoras.
En el artículo se utiliza el ejemplo de Tesla para ilustrar su punto. Tesla, una empresa emergente, ha revolucionado la industria automotriz al centrarse en la producción de vehículos eléctricos. Las empresas tradicionales de automóviles, como General Motors y Ford, han tenido dificultades para competir con Tesla, ya que han tardado en adaptarse a la tecnología de los vehículos eléctricos.
El autor señala que el mismo fenómeno podría ocurrir en el campo de la defensa. Las empresas de defensa tradicionales, como Raytheon y Lockheed Martin, corren el riesgo de ser desplazadas por empresas emergentes que están desarrollando nuevas tecnologías, como la inteligencia artificial.
Se advierte que las empresas de defensa tradicionales deben ser más audaces en su innovación si quieren mantenerse competitivas. Deben estar dispuestas a asumir riesgos y a invertir en nuevas tecnologías, incluso si esas tecnologías no son seguras o probadas.
En resumen, el artículo de Brandon Tseng argumenta que las empresas dominantes corren el riesgo de ser desplazadas por empresas emergentes si no son lo suficientemente innovadoras. Las empresas de defensa tradicionales deben ser más audaces en su innovación si quieren mantenerse competitivas en el futuro.
Lecturas complementarias sobre Shield AI:
- Human Compatible: Stuart Russell es un reconocido investigador en IA y su libro explora la idea de que la IA debe ser diseñada con una visión que coloque a los humanos como «dueños» del mundo digital. Esta visión coincide con la filosofía de Shield AI, ya que la empresa está comprometida a crear IA que coloque a los seres humanos como el elemento central de su trabajo y se alinee con los intereses y los valores humanos. Russell y Shield AI comparten un compromiso en la creación de IA que sea útil y que esté al servicio de los humanos, más que en la competición con ellos.
- Army of None de Paul Scharre: analiza el desarrollo y las consecuencias de las armas autónomas, que es justamente en lo que está trabajando Shield AI. En el libro, Scharre argumenta que las armas autónomas plantean retos éticos y estratégicos importantes, y que necesitamos tener una conversación seria sobre sus implicaciones. También analiza el papel de empresas como Shield AI en el desarrollo de esta tecnología, y las consideraciones éticas que deben tener en cuenta.
Imagen: V-BAT de Shield AI