El campo de batalla de antaño era un lienzo de barro, sangre y acero, pero se está transformando en un escenario espectral. Las sombras de la muerte traída por la inteligencia artificial (IA) se alargan sobre la tierra, prometiendo una nueva era de precisión, eficiencia y, desde luego, nuevas formas de horror. Ya no solo los humanos danzan la macabra danza de la guerra; ahora, hay fantasmas en las máquinas, bailarines mortales sin alma que se unieron a la coreografía letal.

Por donde se lo vea, el espectro de la tecnología en manos equivocadas es una pesadilla que se cierne sobre el mundo y, tristemente, todo apunta a que matar será mucho más fácil. Como dato al respecto, los analistas prevén que en 2028 el volumen del mercado asociado a la IA en el ámbito militar superará los 13.700 millones de dólares.

Historia de las Armas Inteligentes

El coqueteo entre la guerra y la tecnología no es nuevo, mucho menos el deseo de crear asesinos mecánicos. Hasta hace poco, hacerlos además inteligentes, pero sin moral y menos corazón o remordimientos, era pura fantasía. Desde las catapultas hasta los misiles balísticos, la búsqueda de una ventaja letal ha impulsado la innovación y muchas veces el mismo progreso humano. Sin embargo, la IA introduce un cambio fundamental. Ya no se trata solo de herramientas, no hay gatillo, ni botón, ni siquiera un temporizador, sino de actores con un grado de autonomía escalofriante.

Según las Naciones Unidas, el primer caso registrado de un sistema autónomo que mató a una persona, sin la participación de un operador humano, ocurrió en la primavera de 2020 en Libia. Entonces, las tropas del Gobierno de Fayez al Sarraj, también conocido como Gobierno Acuerdo Nacional (GAN) utilizaron drones autónomos de fabricación turca contra soldados que apoyaban al mariscal Jalifa Haftar. Esta tragedia marcó el comienzo de una nueva era, donde la línea entre el operador y la máquina se desdibuja diluyendo la responsabilidad humana sobre víctimas fatales. Hoy en día, la IA ha penetrado casi cada aspecto de la guerra, como veremos a continuación.

El Arsenal del Espectro

¿Con qué armas y habilidades cuentan estos fantasmas mortíferos? La IA se infiltra en cada rincón del campo de batalla bajo la promesa de mantener más seguros a los soldados y reducir los costos de la guerra. Es así como en la actualidad podemos citar algunos desarrollos que ya se han probado en batalla tejiendo una red de capacidades que redefine la forma en que se libran las guerras y se arrebata vidas humanas; a saber:

• Drones autónomos: Ya no son meros vehículos aéreos no tripulados, sino cazadores silenciosos e implacables. Equipados con sistemas de visión artificial y algoritmos de aprendizaje automático, además de capacidades de enjambre, estos drones pueden identificar, rastrear y atacar objetivos con una precisión escalofriante y sin la necesidad de intervención humana directa. Imaginen un cielo plagado de estas aves de presa robóticas, capaces, quizás, de distinguir entre un combatiente y un civil, pero sin la capacidad de mostrar misericordia, compasión o remordimiento.
• Sistemas de reconocimiento: La mirada omnipresente de la IA se extiende sobre el campo de batalla, capturando y analizando cada detalle. Los sistemas de reconocimiento facial pueden identificar a individuos específicos en una multitud, mientras que los algoritmos de reconocimiento de objetos pueden clasificar y rastrear vehículos, armas y otros equipos. Esta información se utiliza para crear un mapa dinámico del campo de batalla, donde cada soldado, cada tanque y cada edificio se convierte en una pieza dentro de un tablero de estrategia letal, un videojuego en el que los “personajes” respiran, tienen sangre y familias que los esperan en casa.
• Análisis predictivo: La IA se convierte en un oráculo de la guerra, utilizando datos históricos y en tiempo real para predecir los movimientos del enemigo y sugerir las estrategias más efectivas. Los algoritmos pueden analizar patrones de comportamiento, identificar debilidades y calcular las probabilidades de éxito de diferentes cursos de acción. El campo de batalla se transforma en un tablero de ajedrez complejo, donde la IA juega con la vida de los soldados, buscando el jaque mate de la victoria a cualquier costo.
• Logística y mantenimiento: La eficiencia es el mantra de la IA en la guerra. Los algoritmos optimizan las rutas de suministro, gestionan los inventarios y predicen las necesidades de mantenimiento, asegurando que la máquina de guerra funcione sin interrupciones. Los robots se encargan de tareas peligrosas o repetitivas, liberando a los soldados humanos para concentrarse en la lucha. Esta eficiencia fría e impersonal elimina la fricción de la guerra, convirtiéndola en una empresa más eficiente y, por lo tanto, aún más letal.

Sistemas como Lavender y The Gospel, utilizados por el ejército israelí, son la encarnación de esta pesadilla.

Los Tres Círculos del Infierno

Vincent Boulanin, investigador del Instituto Internacional de Estudios para la Paz de Estocolmo (SIPRI) describe tres niveles de riesgo en este descenso al infierno tecnológico al que, probablemente, nos conduzca esta peligrosa idea de llevar la IA al campo de batalla:

• El nivel tecnológico: Esta es la «caja negra» de la IA, donde las decisiones se toman en la oscuridad de algoritmos complejos. En este escenario, la falta de transparencia y la posibilidad de errores impredecibles acechan como demonios invisibles, haciendo que los “daños colaterales” sean más numerosos que nunca y deslicen los parámetros de proporción entre masacre y daño colateral.
• El nivel estratégico: La deshumanización de la guerra. La distancia emocional que crea la IA puede hacer que los líderes sean más propensos a tomar decisiones letales, desencadenando conflictos con consecuencias impredecibles ya que la cadena de responsabilidades podría diluirse en una maraña de algoritmos y decisiones autónomas. Es probable que echarle la culpa a la IA termine siendo una forma contemporánea de “blanquear” catástrofes y crímenes de guerra.
• El nivel de proliferación: La IA trabaja como un virus muy eficiente al nivel de la guerra informativa, propagándose con facilidad a actores no estatales y grupos criminales, difundiendo tantos peta bytes de desinformación, que si fueran agua podrían inundar el planeta varias veces por día y, ni qué decir de las falsificaciones o “deep fakes”, tan elaboradas, que ya son casi imposibles de distinguirlas de la realidad.

Por donde se lo vea, el espectro de la tecnología en manos equivocadas es una pesadilla que se cierne sobre el mundo y, tristemente, todo apunta a que matar será mucho más fácil. Como dato al respecto, los analistas prevén que en 2028 el volumen del mercado asociado a la IA en el ámbito militar superará los 13.700 millones de dólares.

¿Podemos evitar este descenso al infierno tecnológico? ¿O estamos condenados a bailar con la muerte en un futuro distópico? La respuesta está en nuestras manos. Debemos confrontar los fantasmas en la máquina, desafiar las promesas vacías de eficiencia y cuestionar la ética de delegar la vida y la muerte a algoritmos sin alma.

Los Robots y la Distopía Terminator

El escenario de una guerra librada por robots autónomos vendría a ser el clímax de esta tragedia tecnológica, aunque aún podría esperarse la posibilidad de que las máquinas asesinas se nos salgan de las manos y terminemos luchando contra ellas por nuestra sobrevivencia. Pero, tristemente, existen en este mundo mentes y poderes suficientemente crueles como para soñar y financiar este ballet de metal y fuego donde la empatía y la moral quedarán ausentes y la vida humana pasará a valer menos que un algoritmo. La distopía que una vez imaginamos en la ficción se acerca.

Aunque aún podamos aferrarnos a la esperanza de que las máquinas asesinas no se rebelen contra sus creadores, la posibilidad de una guerra sin límites, sin empatía y sin moral, es una amenaza escalofriante. ¿Estamos realmente dispuestos a entregar las riendas de nuestro destino a máquinas sin alma y financistas sin moral?

La IA y la Impunidad Letal

Sistemas como Lavender y The Gospel, utilizados por el ejército israelí, son la encarnación de esta pesadilla. Estos programas, alimentados por algoritmos complejos y datos de vigilancia, generan listas de objetivos para ataques aéreos, convirtiendo la guerra en un juego macabro de eliminación sin rostro. La distancia emocional que crea la IA, junto con la opacidad de sus procesos de toma de decisiones, difumina la responsabilidad individual y colectiva. Los líderes militares pueden alegar que simplemente están siguiendo las recomendaciones de la IA, mientras que los desarrolladores de algoritmos pueden esconderse detrás de la complejidad técnica de sus creaciones.

Esta falta de transparencia y responsabilidad crea un ambiente propicio para la impunidad. Las víctimas de ataques erróneos o injustificados se enfrentan a un muro de silencio y de negación, sin poder identificar a los responsables o exigir justicia. La guerra se convierte en un videojuego letal, donde la muerte se inflige a distancia, sin consecuencias aparentes para quienes la ordenan.

La proliferación de estos sistemas plantea una amenaza grave para el derecho internacional humanitario y los principios fundamentales de la justicia. Si permitimos que la IA se convierta en un instrumento de impunidad, estaremos abriendo la puerta a una nueva era de barbarie, donde la vida humana pierde su valor y la guerra se libra sin límites ni escrúpulos.

Reflexiones sobre el Futuro

¿Podemos evitar este descenso al infierno tecnológico? ¿O estamos condenados a bailar con la muerte en un futuro distópico? La respuesta está en nuestras manos. Debemos confrontar los fantasmas en la máquina, desafiar las promesas vacías de eficiencia y cuestionar la ética de delegar la vida y la muerte a algoritmos sin alma.

La comunidad internacional debe actuar, estableciendo regulaciones y límites al desarrollo y uso de la IA en la guerra. Debemos recordar que la tecnología es una herramienta que debemos mantener bajo nuestro dominio. La verdadera fuerza de la humanidad reside en nuestra capacidad de empatía, compasión y razón. Si olvidamos estas virtudes, el escenario de la guerra estará dominado no solo por el espectro de la IA, sino también por quienes tengan el mando de este videojuego macabro.

La guerra siempre ha sido una tragedia, mas ahora, la IA amenaza con convertirla en un horror inimaginable que amenaza nuestra propia existencia como especie, tal vez tanto como lo hacen las armas nucleares. Por eso es que debemos actuar, antes de que esta fascinación por las entidades digitales se convierta en nuestro último vals.

La Urgencia de una Acción

La proliferación de la IA en la guerra no es una profecía distante, sino una realidad presente. La tecnología avanza a un ritmo vertiginoso y la ventana de oportunidad para establecer límites éticos y legales se cierra rápidamente a la vez que, varias regiones en el mundo, parecen estar entrando en estado de apremio bélico. Por eso, debemos actuar con urgencia, antes de que sea demasiado tarde.

La proliferación de la IA en la guerra presenta un desafío similar al que enfrentó la humanidad con la llegada de las armas nucleares. Durante la Guerra Fría, el mundo estuvo al borde de la aniquilación nuclear en varias ocasiones. La amenaza de una destrucción mutua asegurada (MAD) actuó como un elemento disuasorio, pero también creó una atmósfera de miedo e incertidumbre constante. Eventualmente, la comunidad internacional reconoció la necesidad de controlar la proliferación nuclear y establecer límites a su uso.

Hoy, nos encontramos en una encrucijada similar con la IA. La tecnología avanza rápidamente, y el riesgo de una carrera armamentista descontrolada es real. Debemos aprender de las lecciones del pasado y actuar con urgencia para establecer un marco ético y legal que rija el desarrollo y el uso de la IA en la guerra.

Aquí hay algunas acciones concretas que expertos sugieren y que  la comunidad internacional puede/debería tomar:

• Establecer una moratoria internacional sobre el desarrollo y despliegue de sistemas de armas autónomas letales. Esto permitirá un tiempo valioso para discutir las implicaciones éticas y legales de la IA en la guerra, y para desarrollar marcos regulatorios que protejan la vida humana.
• Promover la transparencia y la responsabilidad en el desarrollo y uso de la IA militar. Los gobiernos deben ser transparentes sobre sus programas de IA y garantizar que existan mecanismos de supervisión y rendición de cuentas.
• Fortalecer el derecho internacional humanitario para abordar los desafíos que plantea la IA. Es necesario actualizar las leyes de la guerra para tener en cuenta la naturaleza cambiante del conflicto armado y garantizar que la IA se use de manera compatible con los principios humanitarios.
• Fomentar la educación y el diálogo público sobre la IA y la guerra. La sociedad civil debe participar en un debate informado sobre las implicaciones éticas y sociales de la IA, para garantizar que esta tecnología se desarrolle y use de manera responsable.
• Invertir en investigación y desarrollo de tecnologías de IA que promuevan la paz y la seguridad. La IA tiene el potencial de ser una fuerza para el bien, y debemos explorar formas de utilizarla para prevenir conflictos, proteger a los civiles y promover el desarrollo sostenible y la estabilidad mundial.

Una Elección entre la Esperanza y el Horror

Estamos en una encrucijada. Podemos elegir abrazar la promesa de la IA como una herramienta para la paz y el progreso, o podemos sucumbir al horror de una guerra deshumanizada e impulsada por algoritmos y financistas tan desalmados como sus máquinas. La elección es nuestra.

Somos nosotros como seres humanos quienes damos forma al futuro. Si elegimos la compasión sobre la crueldad, la cooperación sobre el conflicto y la razón sobre la destrucción, es posible que podremos asegurar que la IA se convierta en un instrumento de esperanza; de lo contrario, no es más que el horror lo que nos espera.

El fantasma en la máquina viene a desafiarnos, ora para confrontar nuestros propios demonios, ora para reafirmar nuestra humanidad y dar un salto impensable en nuestro camino como especie. El futuro de la guerra y el futuro de nuestra especie han estado siempre entrelazados, por eso, en nuestra respuesta a los desafíos encontraremos el camino a la prosperidad o la extinción.

FUENTES

• El Pentágono se acerca al lado oscuro de la IA (Al Mayadeen Español, Responsible Statecraft)
• La Inteligencia Artificial en la guerra (Roberto García Moritán)
• La inteligencia artificial cambiará para siempre la guerra (Blanca Castro, Euronews)
• Los peligros de la Inteligencia Artificial como arma de guerra (Euronews)
• La Inteligencia Artificial en la práctica (Jeremy Wagstaff)
• What you need to know about artificial intelligence in armed conflict (International Committee of the Red Cross)

‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza (972mag.com)

Alejandro Canedo Vélez es consultor en estrategia digital e inteligencia artificial.