כשה-AI מתגייס לצבא

Summary

אחד ביום – כשה-AI מתגייס לצבא

פודקאסט מבית N12 | מנחה: אלעד שמחיוף | תאריך: 19.3.2026

---

סקירה כללית

הפרק בוחן את השפעת הבינה המלאכותית (AI) על שדה הקרב – מהפוטנציאל לשינוי אופן ניהול המלחמה, דרך האתגרים הטכנולוגיים, המוסריים והאתיים, ועד לעימותים הפוליטיים בין מדינות וחברות טכנולוגיה. בהדרכת עדס לורבר, ראש המכון למחקר איסומי בבינה מלאכותית אחראית, הפרק שוזר סיפורי עבר (כמו זה של סטניסלב פטרוב במלחמה הקרה) עם המציאות המתהווה של מלחמת ה-AI הראשונה במזרח התיכון ומציע דיון מעמיק על הדילמות סביב קבלת החלטות, אחריות מוסרית והצורך בשיקול דעת אנושי.

---

נקודות עיקריות ודיון

הקדמה: הטעות שמנעה מלחמה – והלקח ל-AI (03:05)

• הסיפור של סטניסלב פטרוב (1983): מערכת התרעה סובייטית זיהתה בטעות טילים אמריקאיים מתקרבים. פטרוב, קצין המשמרת, החליט לא לדווח לממונים מתוך שיקול דעת – ובדיעבד הציל את העולם ממלחמה גרעינית (00:36-02:20).

  • ציטוט: “הקטע בסיפור... הוא שפטרוב הפעיל שיקול דעת. הוא חשב לעצמו שאם באמת הגיעה הרגע והמלחמה הקרה הפכה לחמה, למה שהן ישגרו טיל אחד, ואז עוד ארבעה? למה לא לשגר בבת אחת מאות טילים?” (01:35)

• חיבור להיום: מה יהיה כשתפקיד כזה יוחזק בידי בינה מלאכותית ולא ביד אדם? (02:31)

---

על OODA LOOP: מהירות ועומק ההחלטות בשדה הקרב (03:27)

• עקרון ה-OODA Loop (Observe, Orient, Decide, Act): פותח ע”י ג'ון בויד, טייס אמריקאי – מי שמצליח “לסגור לופה” מהר יותר מגיב ומשפיע ראשון.
  • AI כמכפיל כוח: “האלגוריתמים בעצם יודע לאסוף את המידע, לנתח, לחבר מהמקורות מאוד מהר... ומציע פעולות. אז זמן ההחלטה מתקצר משעות לדקות ואפילו שניות.” (04:25)

---

שדה הקרב החדש: איסוף וניתוח מידע מבוסס AI (05:51)

• יתרון בינה מלאכותית בצבא – Israel & US:

  • בינה מלאכותית כתחליף לצוותי ענק: מסוגלת לסרוק, לנתח ולקטלג מודיעין ממאות ואלפי מקורות בזמן אמת.
  • מערכות ישראליות: “לבנדר”, “בשורה” – יודעות לזהות דפוסים, לבנות בנק מטרות ולתזמן תקיפות, למשל זיהוי מצבי נוכחות יעד בבתים.
    • “הרבה פעמים אתה נתקל במחסור במטרות … ופה יש לך באמת כלי שעוזר לך.” (06:26)
    • “גם לפי מה שאני שומעת … כולם קובעים בצורה מאוד מאוד חד משמעית שההחלטות בסוף מתקבלות על ידי תמיד המפקד או המפקדת, והאדם בסוף.” (07:17)
  • ה-AI מצמצם פגיעה בחפים מפשע ואף מעלה את רמת הדיוק – לפחות לטענת קצינים בכירים (07:17).

• המבצע באיראן – מלחמת ה-AI הראשונה:

  • “הטיימס הבריטי קרא למלחמה באיראן מלחמת ה-AI הראשונה.” (08:00)
  • “הופצצו ביממה הראשונה אלף מטרות … כלי בינה מלאכותית ייצרו 42 מטרות מומלצות בכל שעה” (08:00-08:33)

• צבאות מצטמצמים: “יחידות מסוימות בצבא האמריקני צומצמו מאלפיים חיילים לעשרים בזכות הכניסה של בינה מלאכותית.” (08:33)

---

הפנטגון, תאגיד אנתרופיק והקונפליקט על גבולות השימוש (10:02)

• AI First: דוקטרינת “AI First” של הפנטגון – הכנסת AI לכל מערכי הצבא (09:33-10:00).
• הסכם עם Anthropic (אנטרופיק):
  • הפנטגון הכניס לראשונה מודלים של Anthropic לרשתות המסווגות.
  • Anthropic הזהירה את הפנטגון: מתאים ל–Observation/Orientation, לא ל–Decide/Act (11:13).
    • ציטוט: “הטכנולוגיה עדיין לא מתקדמת … אפשר להשתמש בה למטרות ארגון וניתוח מידע, אבל בזהירות ותחת פיקוח. על D ועל A … בכלל לא היה על מה לדבר.” (11:13)

---

הסיפור בבנצואלה והפיצוץ עם Anthropic (12:17-16:00)

• מבצע אמריקאי בוונצואלה: שימוש בכלי Anthropic, בניגוד לנהלים של החברה.
• Anthropic מתנגדת לשימוש בשני תחומים:
  1. פיקוח המוני על אזרחים.
  2. נשק אוטומטי (elimination של human in the loop).
     • ציטוט: “אנחנו לא מעוניינים שבשני תחומים יעשה שימוש במודלים שלנו … לא מספיק אמין. האיי-סיסטומים של היום לא מסוימים במיוחד לבנות ארוכים חולי-אוטונומיים.” (13:30)
• Anthropic אוסרת על הפנטגון להשתמש בטכנולוגיה שלה לשני השימושים; הפנטגון בתגובה מבטל מיידית את ההסכם ומכריז עליה כעל גורם מסוכן לשרשראות ההספקה הביטחונית (15:09-15:54).

---

פיצול בעולם הטכנולוגי: גבולות מוסריים ופרגמטיות (15:54)

• כניסת מתחרים: גוגל, OpenAI נכנסות במקומה של Anthropic, מצהירות על עקרונות אחריות אך מציעות גישה “פרגמטית” יותר (15:54-17:13).
• פער ערכים: עד כמה חברות יהיו מוכנות למתוח קו אדום? האם יחס הומני קודם לפרקטיקה בשדה הקרב?
  • “בפעם הראשונה אנחנו רואים חברות, שמציבות גבולות של Responsible AI ולא מוכנות לעבוד עם המדינה … לעומת חברות שבאות ואומרות אנחנו כן נהיה מוכנות.” (16:35)

---

הדילמה: האם ניתן לסמוך על AI בהחלטות הרות גורל? (17:13)

• בעיית האמון והדיוק:

  • המערכות לא חסינות משגיאות חמורות (“AI ממציא טעויות”).
  • דוגמה: המערכת Lavender “סימנה 37 אלף פלסטינים כיעד להפצצה … בין המטרות חברי משפחות, חפים מפשע” (17:47).

• הפטור מאחריות האנושית:

  • “אם AI המליץ על המטרה, ללא human in the loop … את מי אתה תובע?” (19:57)
  • חשיבות שמירת שיקול הדעת של בן אדם (“human in the loop”) – נדמה שמדינות רבות אוחזות בעמדה זו.
    • הקבלה לרפואה: “גם ברפואה … הכלי מאוד מתקדם, אבל את ההחלטה תמיד צריך לקבל הרופא” (18:09-19:57)

• שאלות פילוסופיות עמוקות: טעויות של AI ההורגות חפים מפשע – האם הן שונות מטעויות בני אדם?

---

אחריות מוסרית, אתית וציבורית (20:16)

• השיח האתי סביב חברות הטכנולוגיה שהופכות לשותפות בלחימה – במקרה של Anthropic, הציבור גיבה אותה (עלייה של מיליון משתמשים ביום והערכת שווי חדשה) (20:36).
  • ציטוט: “המשבר הזה … בנה עבורה אמון ציבורי.” (20:36)

---

איך תיראה המלחמה הבאה, ומה סף האחריות? (22:07)

• AI בשדה הקרב – עתיד נטול אדם:
  • “זה עולם שבו סטניסלב פטרוב לא היה יכול להפעיל שיקול דעת. ... העולם שבו המערכת לבד תנתח ותגיב לפי שיקול דעתה, גם אם תתברר כטעות.” (22:07)
• “חשוב לשמר את החשיבה הביקורתית של בני אדם בתוך כל הדבר הזה.” (22:38)
  • ציטוט מרכזי:
    • “הם לא יצטרכו לחשוב איך להשיג את הידע, אבל מה שהם כן יצטרכו, זה את החשיבה הביקורתית על ה-AI, ולשמר את הדרך שבה אנחנו מסתכלים, שהוא כלי עזר ולא מחליף אותנו. ... צריך לזכור שצריך להשאיר את החשיבה הביקורתית, ואת ה-human in the loop, ואת האדם במרכז.” (22:50)

---

ציטוטים נבחרים עם טיימסטמפים

• “למה שהן ישגרו טיל אחד, ואז עוד ארבעה?... זה לא הסתדר לו בהיגיון.” – אלעד שמחיוף, 01:35
• “האלגוריתמים יודעים לאסוף את המידע, לנתח… ולתת מענה מהיר… זה מה שהופך היום את ה-AI למכפיל כוח אדיר בלחימה.” – עדס לורבר, 04:25
• “גם לפי מה שאני שומעת… כולם קובעים בצורה חד משמעית שההחלטות הסופיות מתקבלות תמיד על ידי האדם.” – עדס לורבר, 07:17
• “הטכנולוגיה עדיין לא מתקדמת… אפשר להשתמש בה למטרות O-O, אבל בזהירות ותחת פיקוח. על D ועל A, בכלל לא היה על מה לדבר.” – (בפרפרזה על מנכ”ל Anthropic), 11:13
• “Human in the loop – זה חשוב, כי אי אפשר לסמוך במאה אחוז על הכלים האלה ועדיין צריך זמן רב… יש כאלה שאומרים, אסור לעולם לתת להם להחליט לבד.” – עדס לורבר, 18:09
• “אם ה-AI המליץ על המטרה, ללא human in the loop, מי בעצם נושא באחריות?” – אלעד שמחיוף, 19:57
• “חשוב לשמר את החשיבה הביקורתית … צריך להשאיר את האדם במרכז.” – עדס לורבר, 22:50

---

קטעים מרכזיים עם טיימסטמפים

• סיפור פטרוב ומשמעות השיקול האנושי – 00:36-02:20
• הסבר OODA Loop – 03:27-05:51
• בינה מלאכותית בצה"ל – לוקאלי ואמריקני – 06:26-10:02
• Anthropic והמשבר מול הפנטגון – 10:02-15:54
• פיצול בענקיות הטכנולוגיה – 15:54-17:13
• סכנת הטעויות ואחריות מוסרית – 17:13-20:16
• השפעת המשבר על Anthropic והציבור – 20:16-22:07
• המבט אל העתיד – אדם מול מכונה – 22:07-23:33

---

סיכום

הפרק מתאר את חדירת הבינה המלאכותית לשדה הקרב – את ההבטחה, האיומים והתהומות המוסריים. הוא ממחיש כי כל החלטה אוטונומית בשדה הקרב מעלה שאלות אתיות ופוליטיות לא פתורות, ומחדד: הגבול בין שימוש מסייע למכונה לבין מתן הסמכות הבלעדית להחליט על חיים ומוות טרם נחצה, וצריך להישמר. החובה לפתח טכנולוגיה לא חוסכת מהחברה את ההכרח בעיצוב מנגנונים של בקרה, שקיפות וחשיבה ביקורתית – ולשמור את האדם "בתוך הלולאה".

Transcript

[A]

בחסות, אולי יש לכם ביטוח בריאות לתינוקי חדש בעראל? יש לנו, נכון בובו? אבא עשה. אבל אין לכם קופת גמל להשקעה בשבילו בעראל? אבא יעשה, אבא יעשה.

אין באמור לעבוד ייעוץ או שיווק פנסיוני המתחשב בצרכים ובנתונים של כל אדם. היום יום חמישי, תשע עשר במרץ, ואנחנו אחד ביום. מבית אין שתים עשרה.

אני אלעד סבחאיופה, אנחנו כאן כדי להבין טוב יותר מה קורה סביבנו, סיפור אחד ביום, בכל יום.

יש סיפור מוכר מהמלחמה הקרה, ספטמבר 1983, תקופה שהייתה מתוחה במיוחד גם בסטנדרטים של המלחמה ההיא, הצבים היו רופפים. סטניסלב פטרוב, הוא היה קצין במערך ההגנה האווירית של ברית המועצות, ובלילה אחד הוא היה במשמרת. קצין טורנט בבונקר, לא מאוד רחוק ממוסקבה. פטרוב היה אמור לפקח על מערכת ההתראה מפני תקיפת טילים, והיה אמור להודיע מיד לממונים עליו, במקרה שעל אביינים יזהו מתקפה אמריקנית בדרך. בשלב מסוים, המערכת זייתה.

טיל בודד, שעשה את הדרך מארצות הברית לרוסיה, טיל אחד. אחר כך, המערכת זייתה פתאום עוד ארבעה טילים. פטרוב היה אמור לצלצל בכל הפעמונים, להזעיק את כולם. הפרוטוקול קבע שבמקרה כזה, ברית המועצות אמורה לשגר מיד מתקפה משלה.

הקטע בסיפור, שנחשף רק שנים אחר כך, הוא שפטרוב הפעיל שיקול דעת. הוא חשב לעצמו שאם באמת הגיעה הרגע והמלחמה הקרה הפכה לחמה, אם באמת ארצות הברית תוקפת את ברית המועצות, למה שהן ישגרו טיל אחד, ואז עוד ארבעה? למה לא לשגר בבת אחת מאות טילים? זה פשוט לא הסתדר לו בהיגיון. המערכת הסובייטית כבר עשתה כמה פשלות בעבר, ופטרוב קיבל החלטה.

לפי הסיפור, הוא לא אמר דבר. בדיעבד, התברר שבאמת הייתה התקלה במערכת. היא זייתה השתקפות של השמש בעננים, וחשבה שאלו טילים. פטרוב הפך לגיבור, ומוגדר כאיש שמנע אידרדרות שהייתה, אולי, עלולה להוביל למלחמה גרעינית. עכשיו, אתם בטח שואלים את עצמכם, מה אני רוצה?

מה לאחד ביום של מרץ 2026, וסיפור מה-80's? או, לא הרבה. אבל בכל זאת, יש כאן משהו.

במלחמה באיראן עולה לכותרות סוגיה שהופכת לרלוונטית ולמורכבת יותר מאי פעם. הכניסה של הבינה המלאכותית, ה-AI, לשדה הקרב. ישראל, כך לפי דיווחים, כבר נעזרת ב-AI במלחמות שלה. ארצות הברית, היא רוצה להרחיב את השימוש עוד עד כדי כך שהיא הסתכסכה עם אחת מחברות ה-AI הגדולות והמתקדמות בעולם. מעל לכל זה עולה השאלה והיא מעניינת, ועליה נדבר עם עדס לורבר, ראש המכון למחקר איסומי בבינה מלאכותית אחראית במכון הטכנולוגי חולון, וראש פרויקט שותפויות טכנולוגיות במכון למחקר הביטחון הלאומי INSS.

האם מתקרב היום שבו AI ינהל את המלחמות שלנו בעצמו? ומה זה אומר על הרגעים הרגישים המסוכנים האלה שבהם בכל זאת כדאי להפעיל שיקול דעת של בן אדם?

עוד לפני שניכנס ל-AI בשדה הקרב, שווה שנתחיל קודם בלי AI, רק בשדה הקרב. לא בעולמות הטכנולוגיים בכלל, אלא יותר בעולמות התורה הצבאית. אז יש מונח צבאי שפותח, ואם אנחנו אוהבי היסטוריה, אז הוא פותח בתחילת שנות ה-70 על ידי ג'ון בויד, שהיה טייס קרב אמריקאי, מומחה לאסטרטגיה צבאית, שנקרא OODA לופ. זה אומר, בעצם ג'ון בויד בא ואמר, אני רוצה לבחון קרבות אוויר, הוא היה טייס, ורצה להבין מה נותן יתרון לטייסים, והוא גיבש מודל, אותו ה-OODA, כדי להסביר למה טייסים מסוימים מנצחים, ולמה אחרים פחות, והוא בא וראה שזה לא בזכות כלי הנשק שיש להם, אלא בזכות המהירות, התפיסה, קבלת ההחלטות והתגובה. לכל זה הוא קרא מעגל הבסיסי, אותו הלופ, אותה עלולאה, שפה כל יחידה מפקד נוקט במצב של אימות ותחרות.

הצירוף הזה שמתמצאת את הליך קבלת ההחלטות והפעולות במלחמה הלופ של OODA הוא מאוד יעזור לנו להתפקס בדיון על בינה מלאכותית במלחמה ה-O הראשונה Observe לאסוף מידע מהסביבה מודיעין ה-O השנייה Orient לנתח את המידע כדי להבין את הסיטואציה D עבור Decide קבלת החלטה תכנון תוכנית פעולה על בסיס המידע שנאסף ובסוף A, Act, לפעול לפי התוכנית. מה פה העיקרון המעניין, זה שמי שמסיים את הלולה כמה שיותר מהר, בקבלת ההחלטה, הוא בעצם מצליח להשפיע על האויב. איפה ה-AI נכנס לנו בתוך הדבר הזה, הוא פשוט מקצר את כל התהליך הזה, במקום שאנחנו ננתח לבד את המידע, ונאסוף ונקבל את ההחלטה, האיי-איי נכנס ומקצר. האלגוריתמים בעצם יודע לאסוף את המידע, לנתח, הוא יודע לחבר את המקורות מאוד מהר ביחד, להביא המון ידע, המון מקורות, ולהציע פעולות, ואז זמן, ההחלטה בעצם מתקצר מממש משעות של החלטה, לדקות ואפילו לשניות, וזה נותן יתרון עצום בלחימה. מי שמסיים יכול לפעול ראשון, ובעצם זה מה שהופך היום את ה-AI לבעצם מכפיל כוח אדיר, במה שאנחנו רואים בלחימה באיראן.

יפה, אז נתמקד בשלב הראשון, ב-OO, התצפית וניתוח המידע. הבינה המלאכותית הרי יכולה לעשות את זה באופן הרבה יותר יעיל, הרבה יותר מהיר, הרבה יותר מדויק מבני אדם. אנחנו מכירים את זה בשימוש האישי שלנו בכלים של AI. אם יש כמויות גדולות של מידע, כזה שלבן אדם ממוצע ייקח שעות לעבור עליו, לסכם אותו, לתמצת אותו, הצ'אט יכול לעשות את כל זה בשניות. אז אותו הדבר קורה גם בעולמות המודיעין, בדיוק המקומות שבהם צריך לעבור על כמויות אדירות של מידע, ולזקק ממנו תובנות.

אנחנו כן הדגמנו את פוטנציאל האיי של מדינת ישראל בשטח, ורואים למשל שורה של שימושים, למשל מערכות ליצירת מטרות, דיברו על לבנדר, בשורה, שזה מערכות שיודעות, רגע, לקחת דאטה ממקורות שונים, מאוד רחבים, לזהות דפוסים ולהציע. מטרות לתקיפה. כישת מודיעין אני יכולה להגיד לשעבר, שהרבה פעמים אתה נתקל במחסור במטרות, אם לא הכנת בנק מטרות מאוד מסודר קודם, ופה יש לך באמת כלי שעוזר לך. תזמון תקיפות, שהמערכת יודעת גם לבוא ולהגיד מתי, למשל זיהוי מתי היד נמצא או לא נמצא בבית, וזה באמת נכנס כבר לעומק המבצעי. בנושא של חטופים ומנהרות גם ראינו שימושים, למשל שילוב של מקורות שונים כדי להבין תפוסים ותנועות.

אבל צריך להגיד שגם לפי מה שאני שומעת, וככה ראיינתי אנשי צבא וגם אנשים בתעשייה הביטחונית בישראל, כולם קובעים בצורה מאוד מאוד חד משמעית שההחלטות בסוף התקבלו על ידי תמיד המפקד או המפקדת והאדם בסוף, וה-AI לא יבצע את קבלת ההחלטות, זה נכון לצה״ל, זה נכון לצבאות אחרים, לא רק שהשימוש בעיה היא מצמצם פגיעה בחפים מפשע, הוא מאפשר דיוק גבוה יותר, זה על פי מה שככה באמת קצינים וקצינות בכירים אומרים.

זהו, בעולמות ה-OO, לעבור על מידע, להגן אותו, לנתח אותו, שם ה-AI מאפשר לעשות את מה שאי אפשר אפילו היה לחלום עליו בעבר. הטיימס הבריטי למשל, הוא קרא למלחמה באיראן מלחמת ה-AI הראשונה. לפי הדיווח שם, הופצצו באיראן ביממה הראשונה אלף מטרות. כלי בינה מלאכותית, כך נכתב, הצליחו לייצר 42 מטרות מומלצות בכל שעה. המודלים ידעו לנתח מודיעין בזמן אמת, באופן שהיה מצריך לפני כן, צוות ענק של אנשים.

יש דיווחים, עוד מלפני המלחמה, שיחידות מסוימות בצבא האמריקני צומצמו מאלפיים חיילים לעשרים בזכות הכניסה של בינה מלאכותית. מה שאנחנו יודעים, שסנטקום למשל, מיישם פה במלחמה הזאת את הפרויקט של מייבן, שהוא הוכרז לפני כמה שנים, אבל ממש זו פעם ראשונה שהוא בא לידי ביטוי, הוא מטמיע שימוש במודלים גדולים של קלוד, קלוד של אנטרופיק באמת, כדי לסכם מודיעין גולמי, ממאות ואלפי מקורות בבת אחת, לסרוק הרבה מאוד תצלומי קרקע ותצלומי אוויר ורחפנים ומלאטים לזהות עצמים, מכוניות אנשים סוגי נשק באמת בטראבייטים של נתונים שזה המון ולסמן לאותם מפעילי המודיעין באמת את היעדים שהם רלוונטיים כמטרות. השילוב של AI בעבודה של הצבא האמריקני זה לא דבר שקרה במקרה זו תוכנית או אסטרטגיה ממשל טראמפ קבע ששילוב של כלי בינה מלאכותית בצבא זה פרויקט לאומי אסטרטגי. הלחימה שאנחנו רואים בשבועות האחרונים, מבוססת גם על דוקטרינה שאמריקאים פרסמו, שהפנטגון פרסם בינואר השנה, שהוא קרא לו AI first. והוא בא ואומר, אני מורה להאיץ את הכניסה של ה-AI לכל מערכי הצבא, ולהפוך את ה-AI לכוח בכל התחומים, מהחזית ואחורה, והוא רוצה להטמיע את זה בכל מיני מקומות.

הרציונל הוא בין היתר להקדים את השאר בעיקר להקדים את סין אם דיברנו על הלופ של או די איי אז בעזרת האיי אפשר להשלים כמה לופים בזמן שהיריב שלך עוד תקוע באור הראשונה וכדי להגשים את חזון האיי פרסט שלו טראמפ היה צריך לשתף פעולה עם חברות האיי הגדולות בעולם. ואחת מהחברות המרכזיות האלה היא אנטרופיק והפנטגון באמת ניסו להגיע להסכם שיאפשר להם להשתמש במערכות של אנטרופיק. בשלב הראשון היה מדובר בפיתוח או בשיתוף פעולה של באמת ניסוי ופיתוח כלים שהם מיועדים לשימושים הצבאיים שהוגדרו, תחת ההבנה כי באמת הכללים מקובלים על הממשל, אנטרופיק חברה לפלנטיר וחתמה עם הפנטגון על חוזה בשווי של 200 מיליון דולר, קלוד היה באמת הראשון המודל הראשון שצבא ארצות הברית הכניס לרשתות המסובגות שלו. אנטרופיק החברה שמאחורי קלוד אנחנו דיברנו עליה שלושה ימים לפני שהתחילה המלחמה בפרק שעשינו על קלוד קוד. אז אנטרופיק חתמה על חוזה עם הפנטגון בשווי 200 מיליון דולר הפכה לחברת ה-AI הראשונה שרשאית להיכנס לשרתים החשאיים של הפנטגון.

והכלים שלה הפכו לחלק מובנה בעבודה של משרד המלחמה האמריקני. אלא שאנטרופיק גם הזהירה את הפנטגון. היא אמרה, הטכנולוגיה עדיין לא מתקדמת, היא עדיין לא אמינה מספיק. אפשר להשתמש בה למטרות או-או, ארגון וניתוח מידע, אבל בזהירות ותחת פיקוח. על D ועל A, קבלת החלטות ופעולה אוטונומית, על זה בכלל לא היה על מה לדבר.

ושם התחיל המתח בעצם, והיה פיצוץ.

חסות אחת וממש מיד חוזרים.

הדיון על השימוש של צבא ארצות הברית בכלי בינה מלאכותית במלחמה באיראן התחיל בכלל עוד לפני המלחמה באיראן. ועוד לפני המלחמה הדיון הזה גם הגיע לפיצוץ. הלילה האחרונה והמאה האחרונה היום, במיוחד שלי, המדינת הארה״ב פרסמת ארה״ב פרסמת ארה״ב פרסמת ארה״ב פרסמת בינואר השנה שלוחמי יחידה מיוחדת פשטו על ארמון הנשיאות בבנצואלה ושלפו את הנשיא מדורו למשפט בארצות הברית סביב האירוע הזה כך דובר בדיעבד התחיל ויכוח בין אנטרופיק לבין הפנטגון אנטרופיק הבינה שנעשה שימוש בכלים שלה במבצע בבנצואלה ועובדים בחברה שמציגה את עצמה כאבירה של AI בטוח כזה שפועל לפי הכללים כזה שאין לו מה להסתיר עובדים שם לא מאוד אהבו את העובדה שהטכנולוגיה שהם פיתחו משמשת גם לפעילות חשאית וספק חוקית. אבל היה בכל זאת משהו יותר מורכב משרד המלחמה האמריקני ביקש מאנתרופיק להסיר מגבלות וחסמים בטכנולוגיה ולאפשר שימוש רחב יותר במסגרת החוק בבינה המלאכותית בחברה. לא הסכימו.

המנכ״ל בא ואומר בצורה מאוד מאוד ברורה אנחנו לא מעוניינים שבשני תחומים יעשה שימוש במודלים שלנו, האחד זה פיקוח המוני על אזרחים והשני זה שימוש בנשק אוטומטי כי הוא אומר שבעצם המודל מבחינתו הוא לא מספיק אמין זה לא שהוא יוצא נגד בעצם ההחלטה כן או לא ויוצא נגד הממשל כזה או אחר בחלטה שהתקבלה הוא פשוט בא ואומר היום מערכות האיי לא אמינות מספיק ‫האיי-סיסטומים של היום ‫לא מסוימים במיוחד ‫לבנות ארוכים חולי-אוטונומיים. ‫אחרון שעובד עם מודלים איי-איי, ‫מבין שיש להם איזושהי חליטה ‫שבמקום טכנולוגי בלתי חליטה. ‫ויש שאלה של מבחינה גם. אם יש לך ארמיה גדולה או רובוטים שיכולים להופעת בלי מבחינת אנשים, אם לא יש ארמין אנשים לתת החלטות על מי להצליח, מי להצליח להצליח, זה מייחס לבחינות. ואנחנו צריכים לדבר על איך זה נמצא, ואנחנו לא נפגשנו על הדבר הזה עדיין.

ואז אנחנו מרגישים בצורה גדולה שאלות השתתפות האלה לא צריכות. והגם שאני מבין את החשיבות של התמאות AI ושימוש ב-AI להגנה על ארצות הברית ועל דמוקרטיות אחרות, בעצם למול האויבים של אותן המדינות, אנחנו בעצם עדיין, המערכות האלה לא מספיק אמינות, ולכן אני חושש שהן יופעלו.

אנטרופיק בניסיון לשמור על התדמית שלה ועל האמינות שלה כחברה של לא רק משתתף את פעולה עם הפנטגון אלא גם משרתת את הציבור הרחב אסרה על הפנטגון להשתמש בכלים שלה למעקב אחרי אזרחים או כנשק אוטונומי. הממשל האמריקני, שר המלחמה, הנשיא טראמפ השתוללו. יצא הוראה חדשה לא לשתף יותר פעולה עם אנטרופיק. יותר מזה, החברה הוגדרה כסיכון לשרשר את ההספקה הביטחונית. אסור יותר לאף גוף שעובד עם הפנטגון להשתמש בכלים שאנטרופיק פיתחה.

זה צעד שהוא כל כך חריף, כל כך אגרסיבי, שהוא שמור בדרך כלל לחברות ממדינות יריבות. חברות טכנולוגיה ובינה מלאכותית עמדו באופן טבעי לצידה של אנתרופיק, לפחות פומבית. אבל ברגע שההחוזה עם הפנטגון הפך ללא רלוונטי, היו גם את מי שניסו לתפוס את מקומה. אז גוגל מנהלת עכשיו מסע ומתן עם הפנטגון אופן AI המתחרה, נכנסה לתמונה ואמרה שהיא תנקוט בקו שהוא יותר פרגמטי ותהיה מוכנה כן לשלב את AI בדוקטרינת ה-AI first של הפנטגון, ובעצם זה יוצר פיצול בתעשייה, שזה בעצם בפעם הראשונה אנחנו רואים חברות, שמציבות גבולות של Responsible AI ולא מוכנות לעבוד עם המדינה, ספציפית עם ארצות הברית, לבין חברות שבאות ואומרות אנחנו כן נהיה מוכנות. כמובן שגם החברות האלה, שגם האופן AI באה ואומרת אנחנו נשמור על הבטיחות ועל הResponsible, אבל כמובן שזה כנראה לא באותו הרף שאנתרופיק מציבה.

השאלה שעלתה, החשה שעלה, הסיבה שיש עכשיו דיון ער על בינה מלאכותית ומלחמה היא כי יש את מי שמעריך שארצות הברית רוצה לשלב AI לא רק בשלבי ה-OO, ניתוח ואיסוף המידע, אלא גם ב-D וב-A. גם היום יש שאלות גדולות לגבי האמינות והדיוק של בינה מלאכותית בעיסוק וניתוח מידע. גם את זה אנחנו מכירים, אפילו מהשימוש האישי שלנו, אירועים ש-AI פשוט ממציא טעויות שהוא עושה. לפי דיווח של ה-New York Times מאפריל 2025, מעריכת הבינה המלאכותית Lavender, שצהל עושה בשימוש, סימנה 37 אלף פלסטינים בעזה כיעד להפצצה. היו ביניהם פעילים זותרים בחמאס ובג'יהאד האיסלאמי, אבל מקורות אנונימים שדיברו אז עם העיתון אמרו שהתבקשו להסתמך על המטרות שהמערכת הנפיקה, למרות שידעו שהיא עושה לא מהטעויות, למרות שידעו שבין האנשים שסומנו, גם כאלה שאין להם קשר לחמאס בכלל.

ונכון, לא רק ה-AI, גם בני אדם עושים טעויות, אבל הטענה היא שהטכנולוגיה עדיין לא מתקדמת מספיק, כדי שבזמן מלחמה, בשדה הקרב, ייתנו לה סמכות לקבל החלטות ולהוציא לפועל מתקפות באופן אוטונומי, בלי שבן אדם מעורב בתהליך. מרבית הממשלות באות ואומרות, צריך בסוף, קבלת החלטה צריכה להיות בידי האדם. זה קורה גם ברפואה, למשל יש היום באמת כלי רפואה מאוד משמעותיים, שנכנסו בעולמות ה-AI לרופאים, אבל בסוף זה הרופא שצריך לקבל את ההחלטה, אם הוא שולח את את הפציאנט לניתוח או משחרר מחר בבוקר הביתה, ה... זה מאוד חשוב שיש שם עדיין human in the loop, כדרך אגב גם מנכלי חיבות טכנולוגיה הגדולות אומרות שעדיין מאוד מאוד חשוב, כי אי אפשר לסמוך עדיין במאה אחוז על הכלים האלה ועוד נצטרך לקחת הרבה מאוד זמן בעצם, שהם יקבלו את ההחלטה ויש כאלה שגם אומרים, אסור להם לקבל את ההחלטה, לעולם צריך שיהיה שם את ה-human in the loop, מתוך החשש המאוד גדול שהדבר הזה הוא כוח מאוד מאוד משמעותי בידי כלי טכנולוגי בסוף, שהוא לא נבחר ציבור, והוא לא בעצם זה שנתנו בידיו את המשימה כמו הרופא והניתוח וכולי. זה באמת דיון מעניין שנוצר כי הוא לא רק דיון על בינה מלאכותית ועל מלחמה יש כאן שאלות הרבה יותר גדולות אפילו פילוסופיות האם טעות שעושה AI ועולה בחיים של חפים מפשע האם היא שונה מטעות אנוש שגובה מחיר דומה איך יראו בכלל המלחמות בעידן שבו AI ינהל אותן לבד בעצמו מה זה אומר לנהל מלחמות של בני אדם בלי שבני האדם בוחרים את המטרות, בלי שאנחנו בני האדם יודעים להסביר תמיד, למה הותקף מי או מה שהותקף.

נכון. וזה מעורר שאלות דילמות, סביב שאלת האחריות, מאוד משמעותיות. כי אם AI בעצם המליץ על המטרה, ללא human in the loop, ללא אדם שככה קיבל את ההחלטה, מי בעצם נושא באחריות? את מי אתה תובע? את החברה שמפתחת את המערכת?

אותו הגוגל או האנתרופיק או אחרות הצבא שמפעיל את המטרה או המפקד בשטח שבעצם כבר לא קיבל את ההחלטה כי מישהו אחר או אותו המערכת קיבלה את ההחלטה ועל זה בדיוק מנכ״ל אנטרופיק מדבר ממש בהקשר הזה שיש צורך במנגנוני הגנה הוא בא ואומר צריך לשמור על הגבולות המוסריים שלנו וחברות פרטיות צריכות להיות חלק מהשיח הזה כי בסוף האקאונטביליטי או הנסיעה באחריות היא מאוד משמעותית וחברות הטכנולוגיה עד כמה עבורם זו דילמה עד כמה הם משתפות פעולה בלחימה זה פותח שיח אתי מאוד מאוד משמעותי וכדרך אגב בתוך השיח האתי הזה הציבור מצביע ברגליים הוא מצביע לטובת אנטרופיק כי ראינו באותו שבוע שהגם שאנטרופיק הסתכנה עסקית בעצם קרה, התוצאה הייתה הפוכה, הייתה קפיצה מאוד חדה במספר המשתמשים שלה באותו שבוע, קלוד הוסיפה לפי דיווחים עוד מיליון משתמשים ביום, האפליקציה הרשמה זינוק מאוד משמעותי בהורדות, מספר המנויים בתשלום גדל משמעותי, וגם הערכות השווי של החברה זינקו למאות מיליארדי דולרים בגיוסים שלה, זאת אומרת, המשבר הזה שהיה יכול להפוך לאירוע ש... הוא בעצם יכול היה להעמית את אנטרופיק לגמרי עם החשיפה המאוד משמעותית, הוא בנה עבורה אמון ציבורי. בינתיים לפחות, לפי דיווחים, במלחמה באיראן יש לבינה המלאכותית חלק גדול או משמעותי יותר מאשר כל מלחמה לפניה. בגלל זה מכנים אותה מלחמת ה-AI הראשונה. האם זה אומר שכלים כאלה עושים עכשיו באיראן גם את שלבי ה-D וה-A?

לפחות באופן רשמי, לא. ואם זה באמת המצב בכל מקרה נדמה שלשם הולך שדה הקרב של העתיד העתיד הקרוב זה עולם שבו סטניסלב פטרוב לא היה יכול להפעיל שיקול דעת כשהרדאר הראה כאילו טילים אמריקנים עושים את הדרך לרוסיה זה עולם שבו המערכת לבד תזהה את האיום תנתח אותו ותגיב לפי שיקול דעתה בעצמה גם אם בדיעבד התברר שהמערכת טועה. חשוב לשמר את החשיבה הביקורתית של בני אדם בתוך כל הדבר הזה. אני חושבת שאתה יודע, אני מרצה בקורסים ברייכמן על רגולציה ו-AI, ואני אומרת לתלמידים שבעצם המידע יהיה להם זמין כנראה, את השאלות הם כבר מקבלו עליהם תשובות אוטומטיות, הידע יהיה קיים ויהיה נפוץ וככה, הם לא יצטרכו יותר לחשוב איך להשיג את הידע, אבל מה שהם כן יצטרכו, זה את החשיבה הביקורתית על ה-AI, ולשמר באמת את הדרך שבה אנחנו מסתכלים, שהוא כלי עזר ולא מחליף אותנו. אני חושבת שגם פה, בהיבטים הצבאיים, מאוד חשוב לשלב את ה-AI, במערכות הצבאיות, כי זה מה שייתן לנו גם למדינת ישראל יתרון, וזה חשוב מבחינת הביטחון הלאומי שלנו, אבל צריך לזכור שצריך להשאיר את החשיבה הביקורתית, ואת ה-human in the loop, ואת האדם במרכז.

עדה סלורבר, תודה. תודה רבה עליו, תודה שהערכת אותי.

וזה היה אחד ביום של אין 12. אנחנו מחכים לכם בקבוצה שלנו בפייסבוק, חפשו אחד ביום הפודקאסט היומי. האורך שלנו הוא רום עתיק, תכיר והפקה עדי חצרון, נעילה פז, מתן זמיר, דניאל שחר ושירה עראל. על הסאונד יאיר בשן שגם ייצר את מוזיקת הפתיחה שלנו, אני אהלת שמחה היופ, ואנחנו נהיה כאן גם בשבוע הבא.

בחסות, אולי יש לכם ביטוח בריאות לתינוקי חדש ב-RL? יש לנו! נכון בובו? אבא עשה! אבל אין לכם קופת גמל להשקעה בשבילו ב-RL?

אבא יעשה! אבא יעשה! אין באמור להבות ייעוץ או שיווק פנסיוני המתחשב בצרכים ובנתונים של כל אדם.