I Will Not Look Away

IWILLNOTLOOKAWAY.ORG

AKTUELLES

Autonome Waffen, die Genfer Woche: Die Staaten entscheiden, ob Maschinen, die wählen, wen sie treffen, Regeln bekommen

12. November 2026 — Genf, Schweiz

Serie „Künstliche Intelligenz“ · 6 von 7

Kurz gefasst

Eine autonome Waffe ist ein System, das nach seiner Aktivierung ein Ziel auswählt und angreift, ohne dass ein Mensch diesen einzelnen Angriff genehmigt. Das ist keine Science-Fiction: Systeme mit autonomen Funktionen werden in der Ukraine bereits eingesetzt (Stop Killer Robots, August 2026), und Systeme künstlicher Intelligenz schlagen Armeen Ziele vor, wie wir am Fall der Schule von Minab rekonstruiert haben. Die Frage, die sich die Staaten in Genf stellen, ist leicht zu formulieren und schwer zu lösen: Wie viel von der Entscheidung zu töten kann man einer Maschine überlassen, und wer haftet, wenn sie sich irrt?

Die Fakten

Die Konferenz. Das Übereinkommen über bestimmte konventionelle Waffen ist der UN-Vertrag, der Waffen verbietet oder beschränkt, die als zu grausam oder unterschiedslos wirkend gelten: mit Röntgenstrahlen nicht auffindbare Splitter, Brandwaffen, blendende Laser. Er tut dies über Zusatzprotokolle, eines für jede Waffenart. Vom 16. bis 20. November treffen sich die Vertragsstaaten in Genf zur siebten Überprüfungskonferenz (italienische Vertretung bei der Abrüstungskonferenz). Dort können sie beschließen, ein neues Protokoll über autonome Waffen auszuhandeln.

Der Text vom September. Seit 2023 hatte eine Gruppe von Regierungsexperten einen genauen Auftrag: im Konsens die „Elemente eines Instruments, ohne dessen Natur vorwegzunehmen“, auszuarbeiten. Also was eine künftige Regel enthalten sollte, ohne zu sagen, ob sie ein verbindlicher Vertrag oder eine Sammlung von Empfehlungen sein wird. Am 4. September nahm die Gruppe ihren Abschlussbericht an (UNODA, CCW/GGE.1/2026/3). Der Text bekräftigt, dass das humanitäre Völkerrecht auf diese Waffen anwendbar ist, und verlangt, die Rechtmäßigkeit jedes neuen Systems vor seiner Einführung zu prüfen und seine Risiken zu bewerten. Bei der Verantwortung ist er schwächer als frühere Entwürfe: Wo von Pflichten die Rede war, „sollten“ die Staaten heute die menschliche Verantwortung „fördern“ und „werden ermutigt“, Vorfälle zu untersuchen (Opinio Juris).

Was gestrichen wurde. Laut der Washington Post ließen amerikanische und russische Diplomaten in etwa fünfzehn Stunden am letzten Tag drei Dinge streichen: die Pflicht, dass ein Mensch das von einem System angezeigte Ziel vor dem Angriff überprüft, die Anforderung, dass die Systeme vorhersehbar und zuverlässig funktionieren, und den Verweis auf ethische Erwägungen. Die Zeitung beruft sich auf drei bei den Verhandlungen anwesende Personen, die um Anonymität baten, und gibt an, die Dokumente gesehen zu haben (Washington Post, aufgegriffen von IBTimes). Die beiden Regierungen haben sich öffentlich nicht geäußert.

Wer den Vertrag fordert. Am 25. August bezeichneten der UN-Generalsekretär und die Präsidentin des Internationalen Komitees vom Roten Kreuz die Konferenz im November als den klarsten Weg, Verhandlungen über ein verbindliches Instrument zu beschließen (UN Genf). Am Ende der Sitzung im September hatten sich 76 Staaten verhandlungsbereit erklärt (Washington Post, gleiche Quelle). Am 12. Oktober forderte der Rat der Europäischen Union von der Konferenz ein „ehrgeiziges Verhandlungsmandat“ und bekräftigte den zweistufigen Ansatz: autonome Waffen verbieten, die nicht im Einklang mit dem humanitären Völkerrecht eingesetzt werden können, die übrigen regeln (Rat der EU, Absätze 11 und 13). Die Schlussfolgerungen der EU sagen allerdings nicht, dass das Instrument verbindlich sein muss.

Die Zivilgesellschaft. Einen Vertrag fordert vor allem die internationale Kampagne Stop Killer Robots, die 270 Organisationen in mehr als 70 Ländern vereint. In Italien gehört ihr das Istituto di ricerche internazionali Archivio Disarmo an, das gemeinsam mit der Rete Italiana Pace e Disarmo das Thema im Januar in den Senat gebracht hat (Archivio Disarmo, Pressemitteilung vom 15.1.2026). Sein Präsident, der Soziologe Fabrizio Battistelli, erklärte im Juli die Frage, die die Kampagne für entscheidend hält: Ein Algorithmus führt die ihm gestellte Aufgabe auch dort zu Ende, wo ein Mensch innehalten würde, und mit künstlicher Intelligenz rutscht die Verantwortung von den Bedienern auf das System. Deshalb, so Battistelli unter Berufung auf die Position des Internationalen Komitees vom Roten Kreuz, ist eine „bedeutsame menschliche Kontrolle“ über jeden durch künstliche Intelligenz unterstützten Einsatz von Gewalt unverzichtbar (Interview mit Il Sole 24 Ore, 12.7.2026, veröffentlicht von Archivio Disarmo). Archivio Disarmo ist Teil der Kampagne: eine parteiische Stimme, und wir zitieren sie als solche.

Wer bremst. Laut Amnesty International ziehen die USA, Russland, China und Indien nationale Leitlinien oder das bereits geltende Völkerrecht einem neuen Vertrag vor (Reuters, über Dawn, 2025). Washington hat zudem mehrfach auf mögliche Vorteile dieser Systeme hingewiesen, angefangen bei der Präzision (Reuters, 2021). Peking erklärt, einen Vertrag nur zu unterstützen, „wenn die Bedingungen reif sind“, und ein Verbot nur für die extremsten Systeme (Lieber Institute). Unterdessen schreibt das Pentagon seine eigene Richtlinie zu autonomen Waffen neu, wie es ein Präsidentenmemorandum vom Juni verlangt; Ende September war der neue Text nicht öffentlich (IBTimes, gleiche Quelle).

Italien. 2025 bezeichnete die italienische Vertretung in Genf die volle Achtung des humanitären Völkerrechts und die Entwicklung von Normen „hin zu einem Zusatzprotokoll“ als Kern der italienischen Position (italienische Vertretung). Am 7. September begrüßte sie im Vorbereitungsausschuss den Text vom September und erklärte, auf der Konferenz „weitere Schritte“ vereinbaren zu wollen, ohne zu sagen, welche (italienische Erklärung).

Was Archivio Disarmo von Italien verlangt. Von uns befragt, nennt Battistelli drei Bedingungen, damit Italien bei der Regulierung militärischer künstlicher Intelligenz mehr Gewicht bekommt (Notiz an iwillnotlookaway.org vom 11.11.2026). Die erste ist ein deutlicheres Mandat des Parlaments, mit Gesetzentwürfen, Anfragen und Anträgen, begleitet vom moralischen Druck von Institutionen wie dem Amt des Staatspräsidenten und der Kirche. Die zweite sind Initiativen der Regierung, auch auf europäischer Ebene, nach dem Vorbild anderer Länder: der REAIM-Gipfel zum verantwortungsvollen Einsatz künstlicher Intelligenz im militärischen Bereich, entstanden auf Vorschlag der Niederlande und Südkoreas, und NURIST, eine Plattform, die simuliert, wie neue Technologien Informationsflüsse verändern und die Zeit für nukleare Entscheidungen verkürzen können, entwickelt vom European Leadership Network mit Unterstützung des deutschen Auswärtigen Amts (ELN). Nationale Initiativen, so Battistelli, die die ganze Union einbeziehen könnten, „das einzige politische Gebilde, das bis heute eine Regulierung der KI vorgenommen hat“, mit dem AI Act (EU-Verordnung 2024/1689), wobei er daran erinnert, dass dieser militärische Anwendungen von seinem Geltungsbereich ausnimmt (Artikel 2 Absatz 3). Die dritte ist, dass Zivilgesellschaft und Öffentlichkeit ihre Stimme erheben.

Wie es dazu kam

Die Staaten des Übereinkommens sprechen seit 2014 über autonome Waffen. 2019 nahmen sie im Konsens elf Leitprinzipien an, darunter eines, das mehr zählt als die anderen: Die menschliche Verantwortung für Entscheidungen über den Einsatz von Waffen kann nicht auf Maschinen übertragen werden. Es waren unverbindliche Prinzipien. Wir haben darüber, zusammen mit den anderen für die künstliche Intelligenz diskutierten Instrumenten, in „Wie man eine Maschine regiert“ geschrieben. Seit 2023 stimmt die UN-Generalversammlung jedes Jahr über eine Resolution ab, die verlangt, das Problem dringend anzugehen (Stop Killer Robots). In der Zwischenzeit sind die Waffen vor den Regeln angekommen.

Der andere Weg. Das Übereinkommen entscheidet im Konsens: Ein Land genügt, um zu blockieren. Sein Artikel 8 erlaubt es aber auch einer Gruppe von Staaten, schriftlich ein neues Protokoll vorzuschlagen. Der UN-Generalsekretär als Verwahrer des Vertrags holt dann die Meinung aller ein: Stimmt die Mehrheit, also mindestens 65 Staaten, zu, beruft er eine Verhandlungskonferenz ein, die auch Staaten offensteht, die dem Übereinkommen nicht angehören (Stop Killer Robots, August 2026). Es wäre nicht das erste Mal, dass Staaten eine Blockade umgehen. 1996 gelang es dem Übereinkommen nicht, Antipersonenminen zu verbieten; im Jahr darauf handelte eine Gruppe von Ländern außerhalb davon den Ottawa-Vertrag aus. Dasselbe geschah 2008 mit der Streumunition.

Rechtlicher Kommentar

Die Regeln, die schon gelten. Niemand behauptet, autonome Waffen stünden außerhalb des Rechts. Das humanitäre Völkerrecht, angefangen bei den Genfer Konventionen und ihren Protokollen, verpflichtet den Angreifer, zwischen Kombattanten und Zivilisten zu unterscheiden, Zivilisten keinen im Verhältnis zum militärischen Vorteil unverhältnismäßigen Schaden zuzufügen und alle möglichen Vorsichtsmaßnahmen zu treffen. Artikel 36 des ersten Zusatzprotokolls verpflichtet die Staaten, die ihm beigetreten sind, vor der Einführung einer neuen Waffe zu prüfen, ob ihr Einsatz rechtmäßig ist. Das gilt für eine autonome Drohne wie für ein Gewehr.

Wo das Recht nicht genügt. Das Problem ist, wer diese Regeln anwendet. Unterscheiden, die Verhältnismäßigkeit abwägen, auf einen Angriff verzichten, wenn sich die Lage ändert: Das sind Urteile. Das Recht verlangt sie von Menschen und bestraft Menschen, wenn sie dagegen verstoßen. Wählt eine Maschine das Ziel, verteilen sich die möglichen Verantwortlichkeiten auf den Kommandeur, der sie aktiviert hat, auf die, die sie programmiert haben, und auf die, die die Daten geliefert haben. Wenn jeder sagen kann, die Entscheidung sei nicht seine gewesen, haftet niemand. Deshalb sagt das Prinzip von 2019, dass die Verantwortung nicht auf die Maschine übergeht, und deshalb war die aus dem Text vom September gestrichene menschliche Überprüfung kein Detail.

Was ein Vertrag ändern würde. Ein verbindliches Protokoll würde das, was heute Auslegung ist, in genaue Pflichten verwandeln: welche Systeme verboten sind, welche menschliche Kontrolle verlangt wird, wie Vorfälle untersucht werden. Es würde allerdings nur diejenigen binden, die es ratifizieren. Der Ottawa-Vertrag wurde nie von den USA, Russland und China unterzeichnet, und doch hat er fast dreißig Jahre lang Antipersonenminen zu einer Waffe gemacht, deren Einsatz fast niemand zugab. Er zeigt auch die Grenze: Seit 2025 haben mehrere an Russland grenzende Länder angekündigt, aus ihm auszutreten.

Symmetrietest

Wer bremst. Autonome Waffen entwickeln viele. Neben den USA und Russland nennt Human Rights Watch China, Indien, Iran, Israel und die Türkei unter denen, die am meisten investieren (HRW). Die Front, die den Vertrag bremst, fällt mit keinem politischen Block zusammen: Sie vereint Washington und Moskau, die in fast allem anderen Gegner sind. Für alle muss derselbe Maßstab gelten: Wer diese Waffen herstellt, hat ein Interesse daran, sich nicht die Hände zu binden, wer auch immer es ist.

Wer drängt. Die Europäische Union verlangt ein ehrgeiziges Mandat, schreibt aber nicht, dass das Instrument verbindlich sein muss. Italien, das Archivio Disarmo gern unter den Initiatoren sähe, hat im September nicht öffentlich gesagt, welches Mandat es unterstützen wird. Regeln zu unterstützen kostet wenig, wenn man nicht sagt, welche.

Das Gegenargument. Wer dagegen ist, behauptet nicht, dass Töten ohne Regeln rechtmäßig sei. Er behauptet, das geltende Recht genüge und eine gut konstruierte Maschine könne weniger Fehler machen als ein müder oder verängstigter Soldat. Das ist ein ernsthaftes Argument, aber es setzt voraus, was erst zu beweisen ist: dass das System vorhersehbar ist und dass jemand es kontrollieren kann. Genau das sind die beiden Anforderungen, die aus dem Text gestrichen wurden.

Unser Urteil

Dieser Abschnitt gibt die Position der Seite wieder. Er ist von den oben dargestellten Fakten getrennt.

Der Text vom September ist das Höchste, was zehn Jahre Konsens hervorgebracht haben, und um dorthin zu gelangen, wurde laut der Washington Post der wichtigste Satz gestrichen: dass ein Mensch hinschaut, bevor jemand getroffen wird. Wenn in Genf die Konsensregel auch die Verhandlung blockiert, haben die Staaten, die einen Vertrag fordern, ein im Übereinkommen selbst vorgesehenes Instrument, um voranzukommen. Es zu nutzen wäre keine Brechstange: Bei ähnlichen Blockaden, für Minen und für Streumunition, haben Staaten schon andere Wege gefunden. Zu warten, bis alle einverstanden sind, während diese Waffen bereits im Einsatz sind, heißt, die Regeln von den Tatsachen schreiben zu lassen.

Aktualisierung, 22. November 2026. Die Konferenz endete im Morgengrauen des Samstags, 21. November, gegen 4.45 Uhr, nach einer Nacht der Verhandlungen (AFP, via New Straits Times). Ein Mandat zur Aushandlung eines verbindlichen Vertrags gibt es nicht. Die Staaten haben sich verpflichtet, die Arbeit zwei Jahre lang fortzusetzen: Eine Gruppe von Regierungsexperten wird ein Instrument zu autonomen Waffen ausarbeiten und empfehlen, ob es verbindlich sein soll (Reuters, via The News; Anadolu, via A News). Entscheidungen erfordern, wie immer im Übereinkommen, den Konsens aller 128 Staaten (Reuters, gleiche Quelle). Für die UN-Hohe Beauftragte für Abrüstungsfragen, Izumi Nakamitsu, ist der Weg zu einem verbindlichen Vertrag „weiterhin offen“. Der Präsident der Konferenz, der Schweizer Julien Thöni, sprach von einem „bedeutenden Erfolg“. Das Internationale Komitee vom Roten Kreuz sprach von einer verpassten Chance (Anadolu, gleiche Quelle). Für Stop Killer Robots „gefährdet“ der Aufschub eines verbindlichen Instruments „Zivilisten und die Menschheit“ (Reuters, gleiche Quelle).

Wer gebremst hat. Am ersten Tag blockierte Russland die Tagesordnung: Es verlangte, dass Beobachter erst am Ende der Sitzung sprechen (dpa, via IBTimes). Seine Einwände gegen die Geschäftsordnung führten dazu, dass einige förmliche Sitzungen abgesagt wurden (Reuters, gleiche Quelle), und die Konferenz konnte die Überprüfung des Übereinkommens, für die sie einberufen worden war, nicht vornehmen (Anadolu, gleiche Quelle). Auch die Vereinigten Staaten und Israel lehnten verbindliche Regeln ab (Reuters). Washington hatte fünf weitere Jahre Arbeit an unverbindlichen Leitlinien vorgeschlagen (Computer Weekly). Es bekam weniger Zeit, als es verlangt hatte, aber eine unverbindliche Form ist nicht ausgeschlossen.

Die Zahlen. Oben berichten wir, dass im September 76 Staaten verhandlungsbereit waren (Washington Post). In Genf unterstützten laut Reuters rund 100 Staaten verbindliche Regeln. Im Oktober hatten im Ersten Ausschuss der Generalversammlung 163 Staaten Verhandlungen über ein Instrument gefordert, erinnert das Rote Kreuz (Anadolu, gleiche Quelle). Das sind unterschiedliche Maße: wer sich verhandlungsbereit erklärte, wer sich im Saal dafür aussprach, wer in New York abstimmte. In einer Konferenz, die im Konsens entscheidet, reichte keine dieser Mehrheiten.

Italien. Wir haben keine nationale Erklärung Italiens auf der Konferenz gefunden. Laut NPR gehörte Italien zu Beginn zu mindestens 50 Ländern, darunter Irland, Brasilien, Mexiko, Frankreich und Deutschland, die einen straffen Zeitplan für verbindliche Regeln forderten (NPR, via OPB).

Artikel 8. Bei Abschluss der Konferenz haben wir keine Meldung über einen schriftlichen Vorschlag einer Gruppe von Staaten für den oben beschriebenen Weg gefunden.

Was zu beobachten ist

Quellen: Stop Killer Robots, August 2026 · italienische Vertretung bei der Abrüstungskonferenz · UNODA, CCW/GGE.1/2026/3 · Opinio Juris · Washington Post, aufgegriffen von IBTimes · UN Genf · Rat der EU, Absätze 11 und 13 · Archivio Disarmo, Pressemitteilung vom 15.1.2026 · Interview mit Il Sole 24 Ore, 12.7.2026, veröffentlicht von Archivio Disarmo · Reuters, über Dawn, 2025 · Reuters, 2021 · Lieber Institute · italienische Vertretung · italienische Erklärung · ELN · EU-Verordnung 2024/1689 · Stop Killer Robots · HRW · AFP, via New Straits Times · Reuters, via The News · Anadolu, via A News · dpa, via IBTimes · Computer Weekly · NPR, via OPB

Künstliche IntelligenzVölkerrechtUNOWiederaufrüstungInternationale GovernanceUSARusslandEuropäische Union

← Alle Nachrichten und Manifeste