I Will Not Look Away

IWILLNOTLOOKAWAY.ORG

ACTUALIDAD

Armas autónomas, la semana de Ginebra: los Estados deciden si las máquinas que eligen a quién atacar tendrán reglas

12 de noviembre de 2026 — Ginebra, Suiza

Serie «Inteligencia artificial» · 6 de 7

En síntesis

Un arma autónoma es un sistema que, una vez activado, elige y ataca un objetivo sin que una persona apruebe ese ataque concreto. No es ciencia ficción: sistemas con funciones autónomas ya se emplean en Ucrania (Stop Killer Robots, agosto de 2026), y sistemas de inteligencia artificial sugieren objetivos a los ejércitos, como reconstruimos en el caso de la escuela de Minab. La pregunta que se hacen los Estados en Ginebra es fácil de formular y difícil de resolver: qué parte de la decisión de matar se puede dejar a una máquina, y quién responde cuando se equivoca.

Los hechos

La Conferencia. La Convención sobre ciertas armas convencionales es el tratado de la ONU que prohíbe o limita armas consideradas demasiado crueles o indiscriminadas: los fragmentos no localizables por rayos X, las armas incendiarias, los láseres cegadores. Lo hace mediante protocolos adicionales, uno para cada tipo de arma. Del 16 al 20 de noviembre los Estados partes se reúnen en Ginebra para la séptima Conferencia de Examen (representación italiana ante la Conferencia de Desarme). Allí pueden decidir negociar un nuevo protocolo sobre las armas autónomas.

El texto de septiembre. Desde 2023 un grupo de expertos gubernamentales tenía una tarea precisa: redactar, por consenso, los «elementos de un instrumento, sin prejuzgar su naturaleza». Es decir, lo que debería contener una futura norma, sin decir si será un tratado vinculante o un conjunto de recomendaciones. El 4 de septiembre el grupo aprobó su informe final (UNODA, CCW/GGE.1/2026/3). El texto reafirma que a estas armas se aplica el derecho internacional humanitario, pide examinar la legalidad de cada nuevo sistema antes de adoptarlo y evaluar sus riesgos. En materia de responsabilidad es más débil que los borradores anteriores: donde se hablaba de obligaciones, hoy los Estados «deberían promover» la responsabilidad humana y «se les alienta» a investigar los incidentes (Opinio Juris).

Qué se eliminó. Según The Washington Post, en unas quince horas del último día los diplomáticos estadounidenses y rusos hicieron eliminar tres cosas: la obligación de que una persona verifique el objetivo indicado por un sistema antes del ataque, el requisito de que los sistemas funcionen de forma previsible y fiable, y la referencia a las consideraciones éticas. El periódico cita a tres personas presentes en las negociaciones, que pidieron el anonimato, y afirma haber visto los documentos (The Washington Post, recogido por IBTimes). Los dos gobiernos no han hecho comentarios públicos.

Quién pide el tratado. El 25 de agosto el secretario general de la ONU y la presidenta del Comité Internacional de la Cruz Roja señalaron la Conferencia de noviembre como el camino más claro para decidir una negociación sobre un instrumento vinculante (ONU Ginebra). Al término de los trabajos de septiembre, 76 Estados se habían declarado dispuestos a negociar (The Washington Post, misma fuente). El 12 de octubre el Consejo de la Unión Europea pidió a la Conferencia un «mandato negociador ambicioso» y reafirmó el enfoque de dos niveles: prohibir las armas autónomas que no pueden usarse respetando el derecho humanitario, regular las demás (Consejo de la UE, apartados 11 y 13). Las conclusiones de la UE, sin embargo, no dicen que el instrumento deba ser vinculante.

La sociedad civil. Quien pide sobre todo un tratado es la campaña internacional Stop Killer Robots, que reúne a 270 organizaciones en más de 70 países. En Italia participa en ella el Istituto di ricerche internazionali Archivio Disarmo, que junto con la Rete Italiana Pace e Disarmo llevó el tema al Senado en enero (Archivio Disarmo, comunicado del 15/1/2026). Su presidente, el sociólogo Fabrizio Battistelli, explicó en julio la cuestión que la campaña considera decisiva: un algoritmo lleva a término la tarea que se le ha encomendado incluso allí donde un ser humano se detendría, y con la inteligencia artificial la responsabilidad se desliza de los operadores al sistema. Por eso, sostiene Battistelli retomando la posición del Comité Internacional de la Cruz Roja, es indispensable un «control humano significativo» sobre todo uso de la fuerza asistido por la inteligencia artificial (entrevista en Il Sole 24 Ore, 12/7/2026, publicada por Archivio Disarmo). Archivio Disarmo forma parte de la campaña: es una voz comprometida, y la citamos como tal.

Quién frena. Según Amnistía Internacional, Estados Unidos, Rusia, China e India prefieren directrices nacionales o el derecho internacional ya vigente a un nuevo tratado (Reuters, vía Dawn, 2025). Washington también ha recordado varias veces las posibles ventajas de estos sistemas, empezando por la precisión (Reuters, 2021). Pekín dice apoyar un tratado solo «cuando las condiciones estén maduras», y una prohibición solo para los sistemas más extremos (Lieber Institute). Mientras tanto, el Pentágono está reescribiendo su propia directiva sobre las armas autónomas, como pedía un memorando presidencial de junio; a finales de septiembre el nuevo texto no era público (IBTimes, misma fuente).

Italia. En 2025 la representación italiana en Ginebra señalaba como núcleo de la posición italiana el pleno respeto del derecho humanitario y el desarrollo de normas «hacia un protocolo adicional» (representación italiana). El 7 de septiembre, en el comité preparatorio, acogió con satisfacción el texto de septiembre y dijo querer acordar «pasos ulteriores» en la Conferencia, sin decir cuáles (intervención italiana).

Qué pide Archivio Disarmo a Italia. Consultado por nosotros, Battistelli señala tres condiciones para que Italia pese más en la regulación de la inteligencia artificial militar (nota enviada a iwillnotlookaway.org el 11/11/2026). La primera es un mandato más explícito del Parlamento, con proyectos de ley, preguntas y mociones, acompañado por la presión moral de instituciones como la Presidencia de la República y la Iglesia. La segunda son iniciativas del Gobierno, también en el ámbito europeo, siguiendo el modelo de las adoptadas por otros países: la cumbre REAIM sobre el uso responsable de la inteligencia artificial en el ámbito militar, nacida a propuesta de los Países Bajos y Corea del Sur, y NURIST, una plataforma que simula cómo las nuevas tecnologías pueden alterar los flujos de información y comprimir los plazos de las decisiones nucleares, desarrollada por el European Leadership Network con el apoyo del Ministerio de Asuntos Exteriores alemán (ELN). Iniciativas nacionales, observa Battistelli, que podrían implicar a toda la Unión, «el único sujeto político que hasta hoy ha llevado a cabo una regulación de la IA» con la AI Act (Reglamento UE 2024/1689), aunque recuerda que esta excluye de su ámbito las aplicaciones militares (artículo 2, apartado 3). La tercera es que la sociedad civil y la opinión pública tomen la palabra.

Cómo se llegó aquí

Los Estados de la Convención hablan de armas autónomas desde 2014. En 2019 adoptaron por consenso once principios rectores, entre ellos uno que cuenta más que los demás: la responsabilidad humana por las decisiones sobre el uso de las armas no puede transferirse a las máquinas. Eran principios no vinculantes. Escribimos sobre ellos, junto con los demás instrumentos en discusión para la inteligencia artificial, en «Cómo se gobierna una máquina». Desde 2023 la Asamblea General de la ONU vota cada año una resolución que pide abordar el problema con urgencia (Stop Killer Robots). Mientras tanto, las armas han llegado antes que las reglas.

La otra vía. La Convención decide por consenso: basta un país para bloquear. Pero su artículo 8 permite también a un grupo de Estados proponer por escrito un nuevo protocolo. El secretario general de la ONU, depositario del tratado, consulta entonces a todos: si la mayoría, es decir, al menos 65 Estados, está de acuerdo, convoca una conferencia negociadora, abierta también a quienes no son parte de la Convención (Stop Killer Robots, agosto de 2026). No sería la primera vez que los Estados eligen sortear un bloqueo. En 1996 la Convención no logró prohibir las minas antipersonal; al año siguiente un grupo de países negoció fuera de ella el Tratado de Ottawa. Lo mismo ocurrió en 2008 con las municiones en racimo.

Comentario jurídico

Las reglas que ya rigen. Nadie sostiene que las armas autónomas estén fuera del derecho. El derecho internacional humanitario, empezando por los Convenios de Ginebra y sus protocolos, obliga a quien ataca a distinguir entre combatientes y civiles, a no causar a los civiles daños desproporcionados respecto a la ventaja militar y a tomar todas las precauciones posibles. El artículo 36 del primer Protocolo adicional obliga a los Estados que se han adherido a él a verificar, antes de adoptar una nueva arma, que su uso es lícito. Valen para un dron autónomo como para un fusil.

Donde el derecho no basta. El problema es quién aplica estas reglas. Distinguir, valorar la proporcionalidad, renunciar a un ataque cuando la situación cambia son juicios. El derecho se los pide a personas, y castiga a personas cuando los violan. Si una máquina elige el objetivo, las posibles responsabilidades se reparten entre el comandante que la activó, quien la programó y quien proporcionó los datos. Cuando cada uno puede decir que la decisión no era suya, nadie responde. Por eso el principio de 2019 dice que la responsabilidad no se transfiere a la máquina, y por eso la verificación humana eliminada del texto de septiembre no era un detalle.

Qué cambiaría un tratado. Un protocolo vinculante convertiría en obligaciones precisas lo que hoy es interpretación: qué sistemas están prohibidos, qué control humano se exige, cómo se investigan los incidentes. Sin embargo, solo obligaría a quien lo ratifique. El Tratado de Ottawa nunca ha sido firmado por Estados Unidos, Rusia y China, y aun así durante casi treinta años ha convertido las minas antipersonal en un arma que casi nadie admitía usar. También muestra el límite: desde 2025 varios países fronterizos con Rusia han anunciado que lo abandonarán.

Prueba de simetría

Quién frena. Las armas autónomas las desarrollan muchos. Además de Estados Unidos y Rusia, Human Rights Watch señala entre quienes más invierten a China, India, Irán, Israel y Turquía (HRW). El frente que frena el tratado no coincide con un bloque político: une a Washington y Moscú, adversarios en casi todo lo demás. Hay que usar la misma vara de medir para todos: quien produce estas armas tiene interés en no atarse las manos, sea quien sea.

Quién empuja. La Unión Europea pide un mandato ambicioso, pero no escribe que el instrumento deba ser vinculante. Italia, que Archivio Disarmo querría ver entre los promotores, no dijo públicamente en septiembre qué mandato apoyará. Apoyar las reglas cuesta poco cuando no se dice cuáles.

El argumento contrario. Quien se opone no sostiene que matar sin reglas sea lícito. Sostiene que el derecho actual basta y que una máquina bien diseñada puede equivocarse menos que un soldado cansado o asustado. Es un argumento serio, pero presupone lo que hay que demostrar: que el sistema sea previsible y que alguien pueda controlarlo. Son exactamente los dos requisitos eliminados del texto.

Nuestra valoración

Esta sección expresa la posición del sitio. Está separada de los hechos expuestos arriba.

El texto de septiembre es lo máximo que han producido diez años de consenso, y para llegar a él, según The Washington Post, se eliminó la frase más importante: que antes de atacar a alguien, un ser humano mire. Si en Ginebra la regla del consenso bloquea también la negociación, los Estados que piden un tratado tienen un instrumento previsto por la propia Convención para seguir adelante. Usarlo no sería forzar las cosas: ante bloqueos similares, para las minas y para las municiones en racimo, los Estados ya encontraron otros caminos. Esperar a que todos estén de acuerdo, mientras estas armas ya están sobre el terreno, significa dejar que las reglas las escriban los hechos.

Actualización, 22 de noviembre de 2026. La Conferencia se cerró al amanecer del sábado 21 de noviembre, hacia las 4.45, tras una noche de negociaciones (AFP, vía New Straits Times). No hay mandato para negociar un tratado vinculante. Los Estados se comprometieron a continuar el trabajo durante dos años: un grupo de expertos gubernamentales elaborará un instrumento sobre las armas autónomas y recomendará si debe ser vinculante (Reuters, vía The News; Anadolu, vía A News). Las decisiones, como siempre en la Convención, requieren el consenso de los 128 Estados (Reuters, misma fuente). Para la alta representante de la ONU para Asuntos de Desarme, Izumi Nakamitsu, el camino hacia un tratado vinculante «sigue abierto». El presidente de la Conferencia, el suizo Julien Thöni, habló de un «logro significativo». El Comité Internacional de la Cruz Roja habló de una oportunidad perdida (Anadolu, misma fuente). Para Stop Killer Robots, aplazar un instrumento vinculante «pone en riesgo a los civiles y a la humanidad» (Reuters, misma fuente).

Quién frenó. El primer día Rusia bloqueó el orden del día: pedía que los observadores hablaran solo al final de los trabajos (DPA, vía IBTimes). Sus objeciones al reglamento hicieron anular algunas sesiones formales (Reuters, misma fuente), y la Conferencia no pudo hacer el examen de la Convención para el que había sido convocada (Anadolu, misma fuente). También Estados Unidos e Israel se oponían a normas vinculantes (Reuters). Washington había propuesto cinco años más de trabajo hacia directrices no vinculantes (Computer Weekly). Obtuvo menos tiempo del que pedía, pero la forma no vinculante no está descartada.

Las cifras. Más arriba recogemos que en septiembre 76 Estados estaban dispuestos a negociar (The Washington Post). En Ginebra, unos 100 Estados apoyaban normas vinculantes, según Reuters. En octubre, en la Primera Comisión de la Asamblea General, 163 Estados habían pedido negociar un instrumento, recuerda la Cruz Roja (Anadolu, misma fuente). Son medidas distintas: quienes se declararon dispuestos a negociar, quienes se pronunciaron a favor en la sala, quienes votaron en Nueva York. En una Conferencia que decide por consenso, ninguna de estas mayorías bastaba.

Italia. No hemos encontrado una declaración nacional italiana en la Conferencia. Según NPR, en la apertura Italia estaba entre al menos 50 países, con Irlanda, Brasil, México, Francia y Alemania, que pedían un calendario estricto para llegar a normas vinculantes (NPR, vía OPB).

El artículo 8. Al cierre de la Conferencia no hemos encontrado noticia de una propuesta escrita de un grupo de Estados por la vía descrita más arriba.

Qué seguir

Fuentes: Stop Killer Robots, agosto de 2026 · representación italiana ante la Conferencia de Desarme · UNODA, CCW/GGE.1/2026/3 · Opinio Juris · The Washington Post, recogido por IBTimes · ONU Ginebra · Consejo de la UE, apartados 11 y 13 · Archivio Disarmo, comunicado del 15/1/2026 · entrevista en Il Sole 24 Ore, 12/7/2026, publicada por Archivio Disarmo · Reuters, vía Dawn, 2025 · Reuters, 2021 · Lieber Institute · representación italiana · intervención italiana · ELN · Reglamento UE 2024/1689 · Stop Killer Robots · HRW · AFP, vía New Straits Times · Reuters, vía The News · Anadolu, vía A News · DPA, vía IBTimes · Computer Weekly · NPR, vía OPB

Inteligencia artificialDerecho internacionalONURearmeGobernanza internacionalEstados UnidosRusiaUnión Europea

← Todas las noticias y manifiestos