La inteligencia artificial ha dejado de ser una tecnología de futuro para convertirse progresivamente en un elemento del presente militar. Su incorporación a los sistemas de defensa puede modificar profundamente la manera de observar el campo de batalla, identificar amenazas, asignar prioridades y, finalmente, tomar decisiones.
Un carro de combate moderno ya no puede entenderse únicamente como una plataforma dotada de blindaje, movilidad y potencia de fuego. Es también un nodo conectado a sensores, cámaras térmicas, sistemas electroópticos, comunicaciones y redes de mando y control. Lo mismo sucede con una aeronave de combate, un dron, un buque o un puesto avanzado de reconocimiento.
La inteligencia artificial añade una nueva dimensión a ese ecosistema: la capacidad de analizar enormes cantidades de información en un tiempo que ningún operador humano podría igualar.
Y ahí comienza tanto su extraordinario potencial como uno de sus mayores peligros.
El soldado que mira a través de una máquina
Imaginemos una situación perfectamente posible.
Una unidad acorazada se encuentra desplegada en una zona de operaciones. Los sensores del vehículo detectan a varios kilómetros una forma parcialmente oculta. El operador dispone únicamente de unos segundos para decidir.
Un sistema basado en inteligencia artificial procesa imágenes térmicas y ópticas, compara la silueta detectada con miles o millones de registros, analiza movimientos y otros datos disponibles y presenta al operador una conclusión:
Vehículo enemigo. Alta probabilidad de amenaza.
El militar confía en el sistema. Dispara.
Pero el objetivo no era enemigo.
¿Qué ha ocurrido?
Quizá el algoritmo confundió un vehículo civil con uno militar. Tal vez interpretó incorrectamente una imagen degradada por humo, polvo, lluvia o interferencias. Puede que sus datos de entrenamiento fueran insuficientes. También podría existir un fallo de sensores, un problema de integración entre sistemas o incluso una manipulación deliberada de la información por parte del adversario.
La pregunta verdaderamente incómoda aparece después: ¿quién es responsable?
¿El operador que accionó el arma? ¿El comandante que autorizó el empleo del sistema? ¿Los responsables que certificaron su utilización operacional? ¿El fabricante? ¿Los desarrolladores del algoritmo? ¿La organización militar que decidió desplegarlo?
La respuesta no puede ser simplemente: «la inteligencia artificial se equivocó».
Una máquina no comparece ante un tribunal, no responde disciplinariamente y no puede asumir responsabilidad moral por sus actos. Precisamente por eso, cuanto mayor sea la influencia de la inteligencia artificial sobre una decisión militar, más importante resulta determinar previamente dónde comienza y dónde termina la responsabilidad humana.
De informar al militar a condicionar su decisión
Existe además una diferencia fundamental entre utilizar inteligencia artificial para proporcionar información y utilizarla para orientar una decisión sobre el empleo de la fuerza.
No es lo mismo que un algoritmo advierta de una posible avería en el motor de un carro de combate que que clasifique a una persona o un vehículo como una amenaza.
Tampoco es equivalente utilizar IA para analizar imágenes obtenidas por satélite que incorporarla a una cadena de decisión capaz de terminar en el lanzamiento de un misil.
Cuanto más se aproxima el algoritmo a la decisión de emplear fuerza letal, mayores deben ser las exigencias de fiabilidad, trazabilidad, supervisión y control.
La OTAN ha establecido para el empleo responsable de inteligencia artificial en defensa principios como legalidad, responsabilidad y rendición de cuentas, explicabilidad y trazabilidad, fiabilidad, gobernabilidad y mitigación de sesgos. El propio debate internacional sobre sistemas autónomos insiste cada vez más en la necesidad de conservar un grado adecuado de control y juicio humanos.
La cuestión, sin embargo, no consiste únicamente en mantener físicamente a una persona delante de una pantalla.
Tener un ser humano en el circuito no garantiza por sí solo que exista un verdadero control humano.
El peligro de creer demasiado a la máquina
Uno de los problemas menos visibles de la inteligencia artificial militar puede ser precisamente la confianza que genere.
Si durante cientos de misiones el sistema identifica correctamente vehículos, posiciones o amenazas, el operador aprenderá inevitablemente a confiar en él.
La pantalla deja entonces de decir «el sistema estima que existe un 92 % de probabilidad de que sea un objetivo militar» y, psicológicamente, comienza a decir simplemente: «Es un objetivo militar».
Ahí aparece un fenómeno conocido en el ámbito de la interacción entre personas y sistemas automatizados: el sesgo de automatización. Cuando una herramienta demuestra ser habitualmente fiable, el ser humano puede acabar concediendo a sus recomendaciones una autoridad superior a la que realmente tienen.
En condiciones de combate el riesgo aumenta.
Un operador puede estar sometido a cansancio, ruido, miedo, saturación informativa y una enorme presión temporal. Si dispone de cinco segundos para reaccionar y un sistema que considera avanzado y fiable señala un objetivo como hostil, ¿hasta qué punto existe realmente una decisión humana independiente?
El militar puede conservar formalmente la capacidad de pulsar o no pulsar el botón. Pero si carece del tiempo, la información o los medios necesarios para cuestionar a la máquina, su intervención corre el riesgo de convertirse en una mera confirmación.
Y eso obliga a replantearse qué significa verdaderamente mantener al ser humano al mando.
La IA también puede ser engañada
Existe otro factor especialmente relevante para la defensa.
La inteligencia artificial no opera en un laboratorio. Opera frente a un adversario.
Y el adversario sabe que existe.
Por tanto, intentará engañarla.
Camuflaje, señuelos, emisiones electrónicas falsas, manipulación de firmas térmicas, guerra electrónica, datos deliberadamente contaminados o técnicas diseñadas específicamente para confundir sistemas de reconocimiento pueden convertir el algoritmo en un nuevo objetivo militar.
El problema ya no sería únicamente que la IA pudiera cometer un error, sino que el enemigo pudiera provocar ese error deliberadamente.
Un ejército que confíe excesivamente en sistemas automatizados podría descubrir que una de sus principales ventajas tecnológicas se transforma también en una vulnerabilidad.
Por ello, la inteligencia artificial militar debe diseñarse partiendo de una premisa incómoda pero imprescindible: el adversario estudiará el sistema, buscará sus límites y tratará de explotar sus debilidades.
¿Quién responde cuando el algoritmo falla?
Desde el punto de vista jurídico, la incorporación de inteligencia artificial no elimina las obligaciones existentes durante un conflicto armado.
Los principios y normas del Derecho Internacional Humanitario continúan siendo aplicables. La distinción entre objetivos militares y población o bienes civiles, las exigencias de proporcionalidad y las precauciones en el ataque no desaparecen porque entre el sensor y el combatiente exista un algoritmo.
Por ello, hablar de «culpa de la inteligencia artificial» puede resultar tecnológicamente comprensible, pero jurídicamente es insuficiente.
La responsabilidad deberá analizarse atendiendo a las circunstancias concretas.
No sería razonable atribuir automáticamente toda consecuencia al operador que se encontraba en el último eslabón de la cadena. Si el militar recibió una información presentada como altamente fiable por un sistema oficialmente certificado y no tenía motivos razonables ni medios suficientes para detectar el error, habrá que examinar también las decisiones adoptadas anteriormente: diseño, entrenamiento, validación, reglas de empleo, supervisión, mantenimiento, cadena de mando y autorización operacional.
Del mismo modo, un operador no debería poder ampararse siempre en la frase «lo dijo la inteligencia artificial». Si existían indicios evidentes de que la información era incorrecta o contraria a las reglas aplicables y aun así decidió actuar, la presencia de un algoritmo no debería convertirse en una vía automática para eludir responsabilidades.
Por tanto, la responsabilidad asociada a la inteligencia artificial militar probablemente tendrá que entenderse cada vez más como una cadena de responsabilidad humana, y no únicamente como la responsabilidad del último hombre que pulsa un botón.
La trazabilidad será tan importante como la precisión
Para poder determinar qué ocurrió después de un incidente será imprescindible saber qué información recibió el sistema, qué sensores estaban activos, qué grado de confianza asignó el algoritmo, qué recomendación presentó, qué información vio el operador y qué decisiones se adoptaron posteriormente.
En otras palabras, será necesario disponer de algo semejante a una caja negra de la decisión algorítmica.
No necesariamente para revelar todos los secretos técnicos de un sistema militar, sino para que exista una trazabilidad suficiente que permita reconstruir una decisión crítica.
Si un sistema recomienda atacar un objetivo y posteriormente se descubre que la identificación era errónea, no basta con saber que «la IA falló».
Hay que poder determinar por qué falló.
¿Recibió información incorrecta? ¿Interpretó correctamente los datos disponibles? ¿Estaba operando fuera de las condiciones para las que había sido validado? ¿Se informó al operador de la incertidumbre existente? ¿El sistema había detectado datos contradictorios? ¿Existió una interferencia o manipulación enemiga? ¿El operador tenía posibilidad real de revisar la recomendación?
Sin respuestas a estas preguntas será extraordinariamente difícil establecer responsabilidades y, algo igualmente importante desde el punto de vista militar, aprender del error para evitar que vuelva a producirse.
Una revolución que también afectará al mando
La inteligencia artificial promete una ventaja extraordinaria: reducir el tiempo existente entre detectar una amenaza, comprenderla y reaccionar.
Pero esa velocidad genera una paradoja.
Cuanto más rápido sea el sistema, menos tiempo tendrá el ser humano para reflexionar.
Y cuanto menos tiempo tenga para reflexionar, mayor será la tentación de delegar de facto la decisión en la máquina.
El desafío militar de las próximas décadas no consistirá, por tanto, únicamente en desarrollar algoritmos capaces de detectar objetivos con mayor precisión que el adversario. Consistirá también en construir organizaciones capaces de utilizar esa velocidad sin renunciar al juicio humano.
Eso exigirá doctrina, formación, procedimientos de validación, auditoría, simulación de errores, entrenamiento frente a recomendaciones falsas y reglas claras sobre cuándo una decisión automatizada puede ser aceptada y cuándo debe ser cuestionada.
El militar del futuro tendrá que aprender algo nuevo: no solamente a utilizar la inteligencia artificial, sino también a desconfiar de ella cuando sea necesario.
La decisión final
La inteligencia artificial puede convertirse en uno de los mayores multiplicadores de capacidad militar de nuestro tiempo.
Puede ayudar a detectar amenazas antes, procesar información más rápidamente, mejorar el reconocimiento, reducir la carga cognitiva de las tripulaciones y proporcionar a los mandos una comprensión del campo de batalla hasta ahora imposible.
También puede contribuir a evitar errores humanos.
Pero sería peligroso confundir capacidad de cálculo con capacidad de juicio.
Un algoritmo puede establecer probabilidades. Puede comparar millones de datos. Puede encontrar patrones invisibles para una persona y hacerlo en milésimas de segundo.
Pero una decisión militar, especialmente cuando implica el empleo de fuerza letal, no es únicamente un problema matemático.
Tiene consecuencias humanas, jurídicas, estratégicas y morales.
Por eso, quizá la gran pregunta de la inteligencia artificial aplicada a la defensa no sea hasta dónde podremos permitir que llegue la tecnología.
La verdadera pregunta será hasta dónde estaremos dispuestos a delegar en ella.
Porque llegará un momento en que una pantalla indique que delante hay un enemigo. Un algoritmo habrá analizado miles de variables y ofrecerá una probabilidad extraordinariamente elevada de que el objetivo sea legítimo.
Y alguien tendrá que decidir si dispara.
Ese instante, que puede durar apenas unos segundos, resume todo el desafío de la inteligencia artificial militar.
La máquina podrá recomendar. La máquina podrá identificar. La máquina podrá equivocarse. Pero mientras las consecuencias de una decisión sigan afectando a seres humanos, la responsabilidad última no debería desaparecer detrás de un algoritmo.