La decisión más importante en una guerra no siempre consiste en disparar. A veces consiste en no hacerlo. Entre ambas posibilidades hay una valoración de las circunstancias, una responsabilidad y un límite. Preservar ese espacio de juicio humano debería ser el propósito de cualquier negociación sobre las armas autónomas.
El 5 de septiembre, los Estados de la Convención sobre Ciertas Armas Convencionales alcanzaron en Ginebra un consenso sobre un documento que puede facilitar futuras negociaciones internacionales. No es un tratado ni establece nuevas obligaciones vinculantes. Después de más de una década de conversaciones, constituye un avance, aunque organizaciones como Stop Killer Robots consideran que el texto quedó debilitado durante las últimas horas.
Conviene evitar tanto la celebración prematura como el desprecio automático hacia la lentitud diplomática. Lo que está sobre la mesa no es un detalle técnico: es la capacidad de los Estados para establecer límites antes de que determinadas formas de ejercer la violencia se normalicen.
No toda autonomía es la misma
Para entender la discusión hay que despejar una confusión. Un arma autónoma no es simplemente un dron sin piloto a bordo. Según la caracterización utilizada por el Comité Internacional de la Cruz Roja y SIPRI, es un sistema que, una vez activado, puede seleccionar y atacar objetivos sin intervención humana en esas funciones. Tampoco debe confundirse con una herramienta de inteligencia artificial que ofrece información o recomendaciones a un mando. Ambas tecnologías plantean problemas, pero no ocupan el mismo lugar en la decisión de emplear la fuerza.
Pensemos en dos situaciones: un sistema encargado de interceptar proyectiles dentro de un perímetro delimitado y otro autorizado a identificar y atacar personas en una zona poblada. Agruparlos bajo una misma etiqueta no elimina sus diferencias. El entorno, los objetivos y las consecuencias previsibles importan tanto como las prestaciones técnicas. Precisamente por eso, UNIDIR, el instituto de investigación de Naciones Unidas sobre desarme, ha desarrollado escenarios concretos para trasladar el debate desde los principios abstractos hasta las condiciones reales de una operación.
La pregunta útil no es si una máquina resulta «más inteligente» que un soldado. Es qué funciones se le confían, en qué circunstancias y con qué garantías.
Tampoco estamos ante un vacío jurídico. El derecho internacional humanitario sigue siendo aplicable: la distinción entre objetivos militares y población civil, la proporcionalidad y las precauciones en el ataque no desaparecen porque intervenga un algoritmo. Los propios Estados lo han reconocido en este proceso. La controversia consiste en determinar si esas obligaciones generales bastan o necesitan prohibiciones y restricciones específicas que hagan posible su cumplimiento.
Acertar con precisión en un objetivo no resuelve, por sí solo, si era legítimo atacarlo.
Cuando los adversarios coinciden
La negociación ofrece una coincidencia reveladora. Estados Unidos y Rusia han defendido enfoques más próximos a directrices nacionales que a nuevas obligaciones internacionales vinculantes. Brasil, Irlanda y varios países africanos, en cambio, apoyan un instrumento jurídico con garantías específicas de control humano. La división no reproduce exactamente las alianzas habituales.
Una lectura estratégica de esa coincidencia resulta comprensible: dos potencias pueden enfrentarse en numerosos escenarios y, aun así, compartir el interés por conservar libertad de desarrollo militar. Para quien considera que una tecnología puede proporcionar ventaja, aceptar restricciones implica preguntarse qué hará el adversario y cómo podrá verificarse su cumplimiento.
Sería injusto convertir toda resistencia a un tratado en indiferencia hacia la responsabilidad. La directiva estadounidense sobre autonomía en los sistemas de armas, actualizada en 2023, ya exigía niveles adecuados de juicio humano, pruebas rigurosas y cumplimiento del derecho de la guerra. La existencia de controles nacionales y la conveniencia de obligaciones internacionales son cuestiones relacionadas, pero distintas.
La objeción contraria es igualmente seria: si cada Estado interpreta por separado cuánto control considera suficiente, ¿qué confianza pueden depositar los demás en esos límites?
El 25 de agosto, Naciones Unidas y el Comité Internacional de la Cruz Roja renovaron su llamamiento a negociar reglas vinculantes. Su advertencia se centraba en la reducción del control humano y en el riesgo de aproximarse a una frontera moral especialmente delicada: que las máquinas seleccionen personas para atacarlas de manera autónoma.
Ahí reside el dilema diplomático. Un acuerdo ambicioso sin participación suficiente puede tener escaso alcance; uno universal pero impreciso puede ofrecer menos protección de la que promete. Conseguir consenso es necesario para avanzar en este foro. Lo decisivo es qué permite hacer ese consenso.
El control no es un botón
La expresión «control humano» resulta tranquilizadora, pero necesita contenido. Que alguien autorice la activación de un sistema no demuestra que comprenda suficientemente sus límites. Que exista una opción de interrupción tampoco garantiza que pueda utilizarse a tiempo.
El control debe construirse, no simplemente declararse. Una investigación conjunta de SIPRI y el CICR identifica tres ámbitos fundamentales: las características y los objetivos permitidos del arma, las condiciones del entorno en que se utiliza y la supervisión humana. No se trata únicamente del último segundo antes de un disparo, sino de decisiones adoptadas desde el diseño hasta el empleo operativo.
Por eso, la propuesta del CICR no consiste en prohibir indiscriminadamente toda autonomía militar. Plantea excluir los sistemas impredecibles y aquellos destinados a atacar directamente a personas, y restringir los demás mediante límites sobre sus objetivos, duración, ámbito geográfico y circunstancias de uso. Es una posición que distingue aplicaciones, en lugar de tratar toda innovación como una amenaza equivalente.
También debe preservarse una responsabilidad identificable. El derecho impone obligaciones a Estados, partes en conflicto y personas, no a máquinas. Incorporar autonomía no traslada esas obligaciones al software. La dificultad está en reconstruir las decisiones y atribuir responsabilidades cuando intervienen sistemas complejos, múltiples actores y resultados difíciles de anticipar. Esa dificultad justifica reforzar las garantías, no aceptar la irresponsabilidad.
Para España y Europa, una contribución valiosa sería combinar capacidad tecnológica, exigencia jurídica y propuestas verificables. Defender límites no debería significar renunciar a una defensa eficaz, sino exigir pruebas, formación, trazabilidad y condiciones de empleo que permitan confiar en ella. La protección de civiles y la capacidad de los mandos para controlar sus propias operaciones no tendrían por qué presentarse como intereses contrapuestos.
La conferencia de revisión de la Convención, prevista para noviembre, ofrecerá otra oportunidad para decidir si el trabajo acumulado se convierte en una negociación jurídica. El CICR reclama que se aproveche para avanzar hacia un nuevo protocolo. Todavía queda distancia entre disponer de un documento y establecer límites efectivos.
Ginebra no ha resuelto el problema. Ha mantenido abierta una vía para abordarlo.
La medida del progreso no debería ser únicamente cuánto puede hacer un arma sin ayuda. También debe ser cuánto conservamos nosotros la capacidad de comprender, limitar y responder por su empleo. El último veto humano empieza mucho antes del disparo: cuando decidimos qué estamos dispuestos a delegar y qué responsabilidad no puede delegarse nunca.