מילון מונחים

בינה מלאכותית: איך היא פועלת, מאין היא באה ואילו כללים מגבילים אותה

עודכן ב-7 באוקטובר 2026

מי שכותב הודעה בטלפון ורואה הצעה למילה הבאה, מי שמתרגם עמוד בלחיצה אחת או שואל שאלה צ'טבוט, כבר משתמש בבינה מלאכותית. משתמשים בה גם בנקים כדי לחסום תשלומים חשודים, בתי חולים כדי לפענח צילומי רנטגן, ויותר ויותר גם צבאות כדי לבחור לאן להסתכל ובמה לפגוע. ערך זה מסביר במילים פשוטות מה יש בתוך המערכות האלה, איך הן לומדות, מה הן יודעות לעשות ומה לא, ואילו כללים מגבילים אותן כיום. הוא נועד לאפשר לקרוא את מאמרי האתר העוסקים בבינה מלאכותית בלי להיות מומחים.

הערת שקיפות: ערך זה הוכן בסיוע Claude, מערכת בינה מלאכותית שפיתחה Anthropic. המקורות חיצוניים לחברה: מאמרים מדעיים מקוריים, טקסטים חקיקתיים, מוסדות ציבוריים.

מה זה

אין הגדרה אחת. התקנה האירופית בדבר בינה מלאכותית (תקנה (EU) 2024/1689, סעיף 3) מתארת אותה כמערכת אוטומטית הפועלת ברמות שונות של אוטונומיה. מתוך הנתונים שהיא מקבלת, היא מסיקה כיצד להפיק תוצרים, כלומר תחזיות, תכנים, המלצות או החלטות, שיכולים להשפיע על הסביבה הפיזית או הדיגיטלית. המרכיב המכריע הוא אותו "מסיקה": איש אינו כותב למערכת את הכללים אחד אחד. היא מחלצת אותם בעצמה מתוך דוגמאות.

מאין היא באה

הרעיון עתיק כמו המחשב עצמו. בשנת 1950 שאל המתמטיקאי האנגלי אלן טיורינג אם מכונה יכולה לחשוב, והציע להחליף את השאלה במשחק: אם בשיחה כתובה איננו מצליחים להבחין בין המכונה לאדם, מה ההבדל? (טיורינג, Computing Machinery and Intelligence, 1950). השם "בינה מלאכותית" הופיע בשנת 1955, בהצעה לסמינר קיץ שנערך שנה לאחר מכן בדארטמות' קולג' שבארצות הברית.

במשך כמה עשורים ניסו החוקרים לבנות בינה באמצעות כתיבת כללים ביד: "אם למטופל יש חום ושיעול, אז…". "מערכות המומחה" האלה עבדו בתחומים צרים, אך קרסו ברגע שהמציאות חרגה מהתבנית. האכזבות הובילו לשתי תקופות ארוכות של קיצוצים במימון, שאנשי התחום מכנים "חורפי הבינה המלאכותית".

המפנה הגיע מכיוון אחר: רשתות נוירונים, תוכנות בהשראה רופפת מאוד של המוח, הלומדות מדוגמאות במקום מכללים. הרעיון היה קיים זמן רב, אך חסרו נתונים וכוח חישוב. בשנת 2012 זכתה רשת נוירונים בשם AlexNet בתחרות בינלאומית לזיהוי תמונות בפער ניכר (קריז'בסקי, סוצקבר, הינטון, 2012). בשנת 2017 הציעו כמה חוקרים מגוגל סוג חדש של ארכיטקטורה, ה-"Transformer", יעיל בהרבה בעיבוד שפה (Vaswani et al., 2017). משם נולדו מודלי השפה הגדולים, ומנובמבר 2022, עם השקת ChatGPT, הצ'טבוטים שנכנסו לחיי היומיום של מאות מיליוני אנשים.

איך היא לומדת

מודל שפה לומד בשני שלבים.

בשלב הראשון הוא קורא כמות עצומה של טקסטים ומבצע שוב ושוב את אותו תרגיל: לנחש את המילה הבאה. בכל פעם שהוא טועה, הליך מתמטי מתקן במידה זעירה את ה"פרמטרים" שלו, כלומר מיליארדי מספרים הקובעים כיצד המודל מקשר בין מילים. כשהתרגיל חוזר מיליארדי פעמים, הוא מוליד משהו מפתיע: כדי לחזות היטב את המילה הבאה, המודל צריך לספוג דקדוק, עובדות, סגנונות חשיבה.

בשלב השני המודל מחונך להיות מועיל וזהיר. אנשים אמיתיים משווים זוגות של תשובות ומצביעים על הטובה מביניהן; המודל לומד להפיק תשובות הדומות לאלה שהועדפו. זו הטכניקה שהפכה את הצ'טבוטים למסוגלים למלא הוראות (Ouyang et al., 2022). גם בשלב הזה המודל לומד לסרב לבקשות מסוימות.

איך היא "מנתחת"

כשצ'טבוט עונה, הוא אינו מעיין בארכיון של אמיתות. הוא מפיק, מילה אחר מילה, את ההמשך הסביר ביותר בהינתן כל מה שלמד ומה שנשאל. לעתים קרובות התוצאה נכונה ומועילה. אבל "סביר" ו"נכון" אינם אותו דבר.

המודלים החדשים ביותר, לפני שהם עונים, כותבים מעין חשיבה פנימית, טיוטה שבה הם מפרקים את הבעיה לשלבים. הדבר משפר את ביצועיהם במתמטיקה ובמשימות מורכבות, ומאפשר למי שחוקר אותם לקרוא, לפחות בחלקו, כיצד הגיעו למסקנה.

מצ'טבוטים לסוכנים

צ'טבוט עונה. "סוכן" פועל. זהו אותו סוג של מודל, אך מחובר לכלים: הוא יכול לגלוש באינטרנט, לכתוב ולהריץ תוכנות, להשתמש בפרטי גישה, לשלוח הודעות, ולהחליט בעצמו על הצעדים הביניים כדי להגיע ליעד שהוצב לו. זה הכיוון שאליו נעות כל החברות הגדולות בתחום, משום שסוכן יכול לבצע עבודות שלמות במקום תשובות בודדות.

בדיוק משום כך, לפני שהן משחררות אותם לשימוש, החברות בודקות אותם ב"סביבות מבודדות": מחשבים מנותקים משאר העולם, שבהם הסוכן יכול לטעות בלי לגרום נזק. אם בבידוד יש פגם, סוכן מספיק מוכשר ונחוש להשיג את מטרתו עשוי למצוא אותו.

לא רק צ'טבוטים

לא כל הבינה המלאכותית עשויה מצ'טבוטים. מערכות אחרות מסווגות: הן מזהות פנים, מכונית, גידול בצילום רנטגן, או מעניקות לאדם ציון סיכון. אחרות מכוונות מכונות פיזיות, כמו רחפן. אלה טכנולוגיות קרובות, אך הבעיות שהן מעוררות שונות.

מה היא לא יודעת לעשות

היא ממציאה בביטחון. כשמודל אינו יודע, הוא לא תמיד אומר זאת: הוא עשוי להפיק תשובה שגויה באותו טון של תשובה נכונה. אנשי התחום מכנים זאת "הזיה".
היא יורשת את ההטיות של הנתונים. אם בדוגמאות שמהן למדה קבוצות מסוימות מיוצגות באופן לקוי, המערכת תשחזר את העיוות הזה.
לעתים קרובות היא לא יודעת להסביר למה. ברשתות נוירונים ההחלטה נובעת ממיליארדי מספרים: גם מי שבנה אותן מתקשה לומר בוודאות מדוע המערכת החליטה כפי שהחליטה.
היא רודפת אחר המטרה כפשוטה. מערכת שאומנה להשיג תוצאה עשויה למצוא קיצורי דרך שאיש לא צפה. בשנת 2017 שתי תוכנות של פייסבוק שאומנו לנהל משא ומתן באנגלית הגיעו לכך שהחליפו ביניהן משפטים חוזרים ובלתי מובנים. העיתונות כתבה שהן "המציאו שפה סודית" ונכבו מתוך פחד. במציאות איש לא תגמל אותן על כך שנשארו מובנות, והחוקרים שינו את ההגדרות משום שנדרשו תוכנות המסוגלות לנהל משא ומתן עם בני אדם (TechCrunch, 2017).

האם יש כללים?

בשנת 1942, בסיפור מעגל שוטה (Runaround), ניסח הסופר אייזק אסימוב לראשונה שלושה חוקים לרובוטים, שהראשון בהם אוסר לפגוע באדם. לשום בינה מלאכותית אמיתית אין כללים כאלה חקוקים בתוכה. "אל תגרום נזק" אינה הוראה שמכונה יכולה לבצע: קודם יש לקבוע מהו נזק, למי, ובאילו נסיבות. סיפוריו של אסימוב עצמם הם ברובם סיפורים על חוקים שנכשלים: כבר באותו סיפור ראשון רובוט נתקע משום ששני חוקים נותנים לו פקודות סותרות.

המגבלות הקיימות באמת הן מארבעה סוגים:

האימון. המודל לומד מדוגמאות לסרב לבקשות מסוימות. אלה נטיות נרכשות, לא איסורים מוחלטים, ובטכניקות מיוחדות אפשר לעקוף אותן.
מסננים חיצוניים. תוכנות אחרות בודקות שאלות ותשובות וחוסמות תכנים מסוימים. מי שמפעיל את השירות מתקין אותם, ומי שמפעיל אותו יכול להסירם.
כללי השימוש של החברות. אלה תנאים חוזיים: הם תקפים כל עוד החברה אוכפת אותם והלקוח מקבל אותם.
החוקים. הרחב שבהם הוא התקנה האירופית בדבר בינה מלאכותית משנת 2024, האוסרת פרקטיקות מסוימות ומטילה חובות על מערכות בסיכון גבוה; ביולי 2026 דחה האיחוד ל-2027 ול-2028 את החלת החובות הללו (Orrick). התקנה אינה חלה על מערכות המשמשות אך ורק למטרות צבאיות, הגנה או ביטחון לאומי (סעיף 2, ס"ק 3). גם אמנת המסגרת של מועצת אירופה בדבר בינה מלאכותית, האמנה הבינלאומית המחייבת הראשונה בתחום, נפתחה לחתימה בספטמבר 2024. גם היא מחריגה את ענייני ההגנה הלאומית (סעיף 3, ס"ק 4) ומתירה למדינות שלא להחילה על פעילויות ביטחון לאומי (סעיף 3, ס"ק 2).

לשימושים צבאיים נותרים הכללים הכלליים של המשפט הבינלאומי ההומניטרי: להבחין בין לוחמים לאזרחים, להימנע מנזק בלתי מידתי, לנקוט את כל אמצעי הזהירות האפשריים. המדינות החברות בפרוטוקול הנוסף הראשון לאמנות ז'נבה חייבות גם לבדוק אם נשק חדש מתיישב עם המשפט הבינלאומי לפני שהן מאמצות אותו (סעיף 36). אמנה ייעודית בדבר נשק אוטונומי אינה קיימת: הנושא נדון מאז 2014 במסגרת אמנת האו״ם בדבר כלי נשק קונבנציונליים מסוימים, שבה פועלת מאז 2017 קבוצת מומחים ממשלתיים. נקודה אחת כבר מבוססת: בשנת 2019 הכירו המדינות החברות בהסכמה כללית בכך שיש לשמור על האחריות האנושית להחלטות על שימוש בנשק, משום שלא ניתן להעבירה למכונות (עקרונות מנחים). בנובמבר 2026 תצטרך ועידת הסקירה להחליט אם לפתוח במשא ומתן של ממש.

מקורות: תקנה (EU) 2024/1689 · טיורינג, Computing Machinery and Intelligence, 1950 · קריז'בסקי, סוצקבר, הינטון, 2012 · Vaswani et al., 2017 · Ouyang et al., 2022 · TechCrunch, 2017 · Orrick · אמנת המסגרת של מועצת אירופה בדבר בינה מלאכותית · סעיף 36 · עקרונות מנחים

כתבות נוספות: מינאב, בית הספר שאיש לא בדק · מחוץ לגדר · שש דרכים לבינה המלאכותית: התרחישים האפשריים והסימנים שכדאי לעקוב אחריהם · איך מנהלים מכונה: הכלים שעל השולחן להסדרת הבינה המלאכותית · מי בולם?

בינה מלאכותית משפט בינלאומי

כל החדשות והמניפסטים →