I Will Not Look Away

IWILLNOTLOOKAWAY.ORG

אקטואליה

נשק אוטונומי, השבוע של ז'נבה: המדינות מחליטות אם למכונות שבוחרות את מי לתקוף יהיו כללים

12 בנובמבר 2026 — ז'נבה, שווייץ

סדרה: בינה מלאכותית · 6 מתוך 7

בקצרה

נשק אוטונומי הוא מערכת שלאחר הפעלתה בוחרת מטרה ותוקפת אותה בלי שאדם מאשר את התקיפה הספציפית הזאת. זה אינו מדע בדיוני: מערכות בעלות תפקודים אוטונומיים כבר מופעלות באוקראינה (Stop Killer Robots, אוגוסט 2026), ומערכות בינה מלאכותית מציעות מטרות לצבאות, כפי ששחזרנו במקרה של בית הספר במינאב. השאלה שהמדינות שואלות בז'נבה קלה לניסוח וקשה לפתרון: כמה מן ההחלטה להרוג אפשר להשאיר למכונה, ומי נושא באחריות כשהיא טועה.

העובדות

הוועידה. האמנה בדבר נשק קונבנציונלי מסוים היא אמנת האו"ם האוסרת או מגבילה כלי נשק הנחשבים אכזריים מדי או חסרי הבחנה: רסיסים שאינם ניתנים לגילוי בקרני רנטגן, נשק מבעיר, לייזרים מסנוורים. היא עושה זאת באמצעות פרוטוקולים נוספים, אחד לכל סוג נשק. בין 16 ל-20 בנובמבר מתכנסות המדינות החברות בז'נבה לוועידת הסקירה השביעית (הנציגות האיטלקית לוועידה לפירוק נשק). שם הן יכולות להחליט לנהל משא ומתן על פרוטוקול חדש בדבר נשק אוטונומי.

הטקסט של ספטמבר. מאז 2023 הייתה לקבוצת מומחים ממשלתיים משימה מוגדרת: לנסח בהסכמה את "רכיבי המכשיר, בלי לקבוע מראש את אופיו". כלומר מה כלל עתידי צריך להכיל, בלי לומר אם יהיה אמנה מחייבת או מערכת המלצות. ב-4 בספטמבר אימצה הקבוצה את הדוח הסופי (UNODA, CCW/GGE.1/2026/3). הטקסט חוזר וקובע שהמשפט ההומניטרי הבינלאומי חל על כלי נשק אלה, ודורש לבדוק את חוקיותה של כל מערכת חדשה לפני אימוצה ולהעריך את סיכוניה. בנושא האחריות הוא חלש מן הטיוטות הקודמות: היכן שדובר על חובות, כיום המדינות "צריכות לקדם" אחריות אנושית ו"מעודדות" לחקור תקריות (Opinio Juris).

מה הוצא. לפי הוושינגטון פוסט, בכחמש-עשרה שעות ביום האחרון גרמו דיפלומטים אמריקנים ורוסים להוצאת שלושה דברים: החובה שאדם יאמת את המטרה שמערכת מצביעה עליה לפני התקיפה, הדרישה שהמערכות יפעלו באופן צפוי ואמין, וההפניה לשיקולים אתיים. העיתון מסתמך על שלושה אנשים שנכחו במשא ומתן וביקשו לשמור על עילום שם, ואומר שראה את המסמכים (וושינגטון פוסט, בציטוט IBTimes). שתי הממשלות לא הגיבו בפומבי.

מי מבקש את האמנה. ב-25 באוגוסט הצביעו מזכ"ל האו"ם ונשיאת הוועד הבינלאומי של הצלב האדום על ועידת נובמבר כעל הדרך הברורה ביותר להחליט על משא ומתן למכשיר מחייב (האו"ם בז'נבה). בסוף מושב ספטמבר הודיעו 76 מדינות שהן מוכנות לנהל משא ומתן (וושינגטון פוסט, אותו מקור). ב-12 באוקטובר ביקשה מועצת האיחוד האירופי מן הוועידה "מנדט שאפתני למשא ומתן" וחזרה על הגישה הדו-שלבית: לאסור נשק אוטונומי שאי אפשר להשתמש בו תוך כיבוד המשפט ההומניטרי, ולהסדיר את השאר (מועצת האיחוד האירופי, סעיפים 11 ו-13). עם זאת, מסקנות האיחוד אינן אומרות שהמכשיר חייב להיות מחייב.

החברה האזרחית. מי שקורא בעיקר לאמנה הוא הקמפיין הבינלאומי Stop Killer Robots, המאגד 270 ארגונים ביותר מ-70 מדינות. באיטליה משתתף בו המכון למחקרים בינלאומיים Archivio Disarmo (Istituto di ricerche internazionali Archivio Disarmo), שיחד עם הרשת האיטלקית לשלום ולפירוק נשק (Rete Italiana Pace e Disarmo) הביא את הנושא לסנאט בינואר (Archivio Disarmo, הודעה לעיתונות מ-15/1/2026). נשיאו, הסוציולוג פבריציו בטיסטלי, הסביר ביולי את השאלה שהקמפיין רואה בה מכרעת: אלגוריתם משלים את המשימה שניתנה לו גם היכן שאדם היה עוצר, ועם הבינה המלאכותית האחריות מחליקה מן המפעילים אל המערכת. לכן, טוען בטיסטלי בעקבות עמדת הוועד הבינלאומי של הצלב האדום, חיונית "שליטה אנושית משמעותית" על כל שימוש בכוח הנעזר בבינה מלאכותית (ראיון ל-Il Sole 24 Ore, 12/7/2026, שפורסם על ידי Archivio Disarmo). Archivio Disarmo הוא חלק מן הקמפיין: זהו קול בעל עמדה, ואנו מצטטים אותו ככזה.

מי בולם. לפי אמנסטי אינטרנשיונל, ארצות הברית, רוסיה, סין והודו מעדיפות הנחיות לאומיות או את המשפט הבינלאומי הקיים על פני אמנה חדשה (רויטרס, דרך Dawn, 2025). וושינגטון גם הזכירה פעמים רבות את היתרונות האפשריים של מערכות אלה, ובראשם הדיוק (רויטרס, 2021). בייג'ינג אומרת שהיא תומכת באמנה רק "כשהתנאים יבשילו", ובאיסור רק על המערכות הקיצוניות ביותר (Lieber Institute). בינתיים הפנטגון כותב מחדש את ההנחיה שלו בדבר נשק אוטונומי, כפי שדרש תזכיר נשיאותי מיוני; בסוף ספטמבר הטקסט החדש לא היה פומבי (IBTimes, אותו מקור).

איטליה. ב-2025 הציגה הנציגות האיטלקית בז'נבה כליבת העמדה האיטלקית את הכיבוד המלא של המשפט ההומניטרי ואת פיתוח הנורמות "לקראת פרוטוקול נוסף" (הנציגות האיטלקית). ב-7 בספטמבר, בוועדה המכינה, היא בירכה על הטקסט של ספטמבר ואמרה שהיא רוצה להסכים בוועידה על "צעדים נוספים", בלי לומר אילו (ההודעה האיטלקית).

מה Archivio Disarmo מבקש מאיטליה. בתשובה לשאלותינו, בטיסטלי מונה שלושה תנאים כדי שלאיטליה יהיה משקל רב יותר בהסדרת הבינה המלאכותית הצבאית (הערה שנשלחה ל-iwillnotlookaway.org ב-11/11/2026). הראשון הוא מנדט מפורש יותר מן הפרלמנט, באמצעות הצעות חוק, שאילתות והצעות לסדר, ולצדו לחץ מוסרי של מוסדות כמו נשיאות הרפובליקה והכנסייה. השני הוא יוזמות של הממשלה, גם במישור האירופי, על פי הדגם של מדינות אחרות: פסגת REAIM על שימוש אחראי בבינה מלאכותית בתחום הצבאי, שנולדה ביוזמת הולנד ודרום קוריאה, ו-NURIST, פלטפורמה המדמה כיצד טכנולוגיות חדשות עלולות לשבש זרימות מידע ולקצר את הזמן העומד לרשות החלטות גרעיניות, שפותחה על ידי European Leadership Network בתמיכת משרד החוץ הגרמני (ELN). יוזמות לאומיות, מציין בטיסטלי, שיכולות לערב את האיחוד כולו, "הגורם הפוליטי היחיד שעד היום ביצע הסדרה של הבינה המלאכותית" באמצעות ה-AI Act (תקנת האיחוד האירופי 2024/1689), תוך שהוא מזכיר שהתקנה מוציאה מתחולתה את היישומים הצבאיים (סעיף 2, סעיף קטן 3). השלישי הוא שהחברה האזרחית ודעת הקהל ישמיעו את קולן.

איך הגענו לכאן

המדינות החברות באמנה דנות בנשק אוטונומי מאז 2014. ב-2019 אימצו בהסכמה אחד-עשר עקרונות מנחים, ובהם אחד החשוב מכולם: האחריות האנושית להחלטות על שימוש בנשק אינה ניתנת להעברה למכונות. היו אלה עקרונות לא מחייבים. כתבנו עליהם, יחד עם הכלים האחרים הנדונים לגבי בינה מלאכותית, ב-"איך מנהלים מכונה". מאז 2023 מצביעה העצרת הכללית של האו"ם מדי שנה על החלטה הקוראת לטפל בבעיה בדחיפות (Stop Killer Robots). בינתיים הנשק הגיע לפני הכללים.

הדרך האחרת. האמנה מחליטה בהסכמה: מדינה אחת מספיקה כדי לחסום. אבל סעיף 8 שלה מאפשר גם לקבוצת מדינות להציע בכתב פרוטוקול חדש. מזכ"ל האו"ם, כנאמן האמנה, מבקש אז את דעת כולן: אם הרוב, כלומר לפחות 65 מדינות, מסכים, הוא מכנס ועידת משא ומתן, הפתוחה גם למי שאינן צד לאמנה (Stop Killer Robots, אוגוסט 2026). לא תהיה זו הפעם הראשונה שמדינות בוחרות לעקוף מבוי סתום. ב-1996 לא הצליחה האמנה לאסור מוקשים נגד אדם; בשנה שלאחר מכן ניהלה קבוצת מדינות מחוץ לה משא ומתן על אמנת אוטווה. אותו דבר קרה ב-2008 עם תחמושת מצרר.

פרשנות משפטית

הכללים שכבר חלים. איש אינו טוען שנשק אוטונומי נמצא מחוץ למשפט. המשפט ההומניטרי הבינלאומי, החל ב-אמנות ז'נבה והפרוטוקולים שלהן, מחייב את התוקף להבחין בין לוחמים לאזרחים, לא לגרום לאזרחים נזק בלתי מידתי ביחס ליתרון הצבאי ולנקוט כל אמצעי זהירות אפשרי. סעיף 36 של הפרוטוקול הנוסף הראשון מחייב את המדינות שהצטרפו אליו לבדוק, לפני אימוץ נשק חדש, שהשימוש בו חוקי. הכללים חלים על רחפן אוטונומי כמו על רובה.

היכן המשפט אינו מספיק. הבעיה היא מי מיישם את הכללים האלה. להבחין, להעריך מידתיות, לוותר על תקיפה כשהמצב משתנה, אלה שיפוטים. המשפט דורש אותם מבני אדם, ומעניש בני אדם כשהם מפרים אותם. אם מכונה בוחרת את המטרה, האחריות האפשרית מתחלקת בין המפקד שהפעיל אותה, מי שתכנת אותה ומי שסיפק את הנתונים. כשכל אחד יכול לומר שהבחירה לא הייתה שלו, איש אינו נושא באחריות. לכן העיקרון מ-2019 קובע שהאחריות אינה עוברת למכונה, ולכן האימות האנושי שהוצא מן הטקסט של ספטמבר לא היה פרט שולי.

מה הייתה משנה אמנה. פרוטוקול מחייב היה הופך את מה שהיום הוא פרשנות לחובות מדויקות: אילו מערכות אסורות, איזו שליטה אנושית נדרשת, כיצד חוקרים תקריות. אבל הוא היה מחייב רק את מי שמאשררות אותו. אמנת אוטווה מעולם לא נחתמה על ידי ארצות הברית, רוסיה וסין, ובכל זאת במשך כמעט שלושים שנה היא הפכה את המוקשים נגד אדם לנשק שכמעט איש לא הודה שהוא משתמש בו. היא גם מראה את הגבול: מאז 2025 הודיעו כמה מדינות הגובלות ברוסיה שהן ייצאו ממנה.

מבחן הסימטריה

מי בולם. רבים מפתחים נשק אוטונומי. מלבד ארצות הברית ורוסיה, Human Rights Watch מונה בין המשקיעות הגדולות את סין, הודו, איראן, ישראל וטורקיה (HRW). החזית הבולמת את האמנה אינה חופפת לגוש פוליטי: היא מאחדת את וושינגטון ומוסקבה, שהן יריבות כמעט בכל דבר אחר. אותה אמת מידה צריכה לחול על כולם: מי שמייצר את כלי הנשק האלה יש לו אינטרס לא לכבול את ידיו, יהא אשר יהא.

מי דוחף. האיחוד האירופי מבקש מנדט שאפתני, אך אינו כותב שהמכשיר חייב להיות מחייב. איטליה, ש-Archivio Disarmo היה רוצה לראות בין היוזמות, לא אמרה בפומבי בספטמבר באיזה מנדט תתמוך. לתמוך בכללים עולה מעט כשלא אומרים באילו.

הטיעון הנגדי. המתנגדים אינם טוענים שהריגה ללא כללים היא חוקית. הם טוענים שהמשפט הנוכחי מספיק, ושמכונה מתוכננת היטב עשויה לטעות פחות מחייל עייף או מפוחד. זה טיעון רציני, אבל הוא מניח את מה שצריך להוכיח: שהמערכת צפויה ושמישהו יכול לשלוט בה. אלה בדיוק שתי הדרישות שהוצאו מן הטקסט.

עמדתנו

סעיף זה מבטא את עמדת האתר. הוא נפרד מהעובדות שהוצגו לעיל.

הטקסט של ספטמבר הוא המרב שעשר שנים של הסכמה הניבו, וכדי להגיע אליו, לפי הוושינגטון פוסט, הוצא המשפט החשוב ביותר: שלפני שתוקפים מישהו, אדם יסתכל. אם בז'נבה כלל ההסכמה יחסום גם את המשא ומתן, למדינות הקוראות לאמנה יש כלי שהאמנה עצמה קובעת כדי להתקדם. השימוש בו לא יהיה כפייה: מול מבויים סתומים דומים, במוקשים ובתחמושת מצרר, כבר מצאו המדינות דרכים אחרות. לחכות שכולם יסכימו, כשכלי הנשק האלה כבר בשטח, פירושו לתת לעובדות לכתוב את הכללים.

עדכון, 22 בנובמבר 2026. הוועידה ננעלה עם שחר ביום שבת, 21 בנובמבר, בסביבות 4:45, אחרי לילה של משא ומתן (AFP, דרך New Straits Times). אין מנדט לנהל משא ומתן על אמנה מחייבת. המדינות התחייבו להמשיך בעבודה במשך שנתיים: קבוצת מומחים ממשלתיים תכין מכשיר בנושא נשק אוטונומי ותמליץ אם עליו להיות מחייב (רויטרס, דרך The News; אנדולו, דרך A News). ההחלטות, כמו תמיד באמנה, מחייבות הסכמה של כל 128 המדינות (רויטרס, אותו מקור). לדברי הנציגה העליונה של האו"ם לענייני פירוק נשק, איזומי נקמיצו, הדרך לאמנה מחייבת "עדיין פתוחה". נשיא הוועידה, השווייצרי ז'וליאן טני (Julien Thöni), דיבר על "הישג משמעותי". הוועד הבינלאומי של הצלב האדום דיבר על הזדמנות שהוחמצה (אנדולו, אותו מקור). לדברי Stop Killer Robots, דחיית מכשיר מחייב "מסכנת אזרחים ואת האנושות" (רויטרס, אותו מקור).

מי בלם. ביום הראשון חסמה רוסיה את סדר היום: היא דרשה שהמשקיפים ידברו רק בסוף הדיונים (DPA, דרך IBTimes). התנגדויותיה לתקנון גרמו לביטול חלק מהישיבות הרשמיות (רויטרס, אותו מקור), והוועידה לא יכלה לערוך את בחינת האמנה שלשמה כונסה (אנדולו, אותו מקור). גם ארצות הברית וישראל התנגדו לכללים מחייבים (רויטרס). וושינגטון הציעה עוד חמש שנות עבודה לקראת הנחיות לא מחייבות (Computer Weekly). היא קיבלה פחות זמן ממה שביקשה, אבל הצורה הלא מחייבת לא נשללה.

המספרים. למעלה אנו מציינים שבספטמבר היו 76 מדינות מוכנות לנהל משא ומתן (וושינגטון פוסט). בז'נבה תמכו בכללים מחייבים כ-100 מדינות, לפי רויטרס. באוקטובר, בוועדה הראשונה של העצרת הכללית, ביקשו 163 מדינות לנהל משא ומתן על מכשיר, מזכיר הצלב האדום (אנדולו, אותו מקור). אלה מדדים שונים: מי שהצהירו שהם מוכנים לנהל משא ומתן, מי שדיברו בעד באולם, מי שהצביעו בניו יורק. בוועידה שמחליטה בהסכמה, אף אחד מהרובים האלה לא הספיק.

איטליה. לא מצאנו הצהרה לאומית של איטליה בוועידה. לפי NPR, בפתיחה הייתה איטליה בין 50 מדינות לפחות, עם אירלנד, ברזיל, מקסיקו, צרפת וגרמניה, שדרשו לוח זמנים הדוק כדי להגיע לכללים מחייבים (NPR, דרך OPB).

סעיף 8. עם נעילת הוועידה לא מצאנו ידיעה על הצעה בכתב של קבוצת מדינות בדרך שתוארה למעלה.

מה לעקוב אחריו

מקורות: Stop Killer Robots, אוגוסט 2026 · הנציגות האיטלקית לוועידה לפירוק נשק · UNODA, CCW/GGE.1/2026/3 · Opinio Juris · וושינגטון פוסט, בציטוט IBTimes · האו"ם בז'נבה · מועצת האיחוד האירופי, סעיפים 11 ו-13 · Archivio Disarmo, הודעה לעיתונות מ-15/1/2026 · ראיון ל-Il Sole 24 Ore, 12/7/2026, שפורסם על ידי Archivio Disarmo · רויטרס, דרך Dawn, 2025 · רויטרס, 2021 · Lieber Institute · הנציגות האיטלקית · ההודעה האיטלקית · ELN · תקנת האיחוד האירופי 2024/1689 · Stop Killer Robots · HRW · AFP, דרך New Straits Times · רויטרס, דרך The News · אנדולו, דרך A News · DPA, דרך IBTimes · Computer Weekly · NPR, דרך OPB

בינה מלאכותיתמשפט בינלאומיהאו״םהתחמשות מחדשממשל בינלאומיארצות הבריתרוסיההאיחוד האירופי

כל החדשות והמניפסטים →