בלי דמיונות על השתלטות המכונות: שימוש ב-AI בשדה הקרב טומן סכנה אמיתית
פורסם במקור ראשון, בתאריך 9 בספטמבר, 2026.
"אני נוקט משנה זהירות כשמבקשים ממני להכריז על מהפכות בתחום הצבאי, וזה נכון גם לכלי נשק אוטונומיים. היו מעט מאוד מהפכות אמיתיות בהיסטוריה של הלוחמה", טוען ג'ון וו. ספנסר, קצין לשעבר בצבא ארה"ב, שהגיע לדרגת קולונל במדי המשמר הלאומי האמריקני, וכיום הוא יושב ראש מדעי המלחמה בפורום מדיסון למדיניות.
"אבק השריפה שינה באופן בסיסי את האופן שבו נלחמים צבאות", מוסיף ספנסר, שמשלב את ניסיונו בשדה הקרב עם התמחותו ההיסטורית, מה שהפך אותו לאחד המומחים המובילים בעולם ללוחמה אורבנית. "רכבות שינו את המהירות, ההיקף והעמידות של צבאות, וגם כלי נשק גרעינים ביצעו תמורה בהשלכות של מלחמה בין מעצמות. עם זאת, רוב הטכנולוגיות, אפילו החשובות שבהן, יצרו רק שינויים אבולוציוניים בתחום המלחמה", הוא אומר.
ספנסר (51) שירת בעיראק מלחמת המפרץ השנייה, פיקד שם על כוחות והפך בפועל למושל של כמה ערים. בשנים האחרונות, במסגרת מחקריו, הוא הגיע לישראל, לאוקראינה ולאזורי לחימה אחרים, והתובנות שלקח משם ברורות. "כטב"מים, לדוגמה, משנים את שדה הקרב, אך הם בעיקר אבולוציה של כוח אווירי, ולא מהפכה של ממש. ההיקף והנגישות אליהם משמעותיים, אבל השימוש הצבאי בהם אינו חדש".
מנגד, הוא מדגיש, "בינה מלאכותית עשויה להיות שונה. יש לה פוטנציאל לשנות את האופן שבו צבאות אוספים מידע, מבינים את שדה הקרב, מזהים מטרות ומתאמים בין אלפי מערכות בו-זמנית. היא מצמצמת את תהליך הזיהוי, האיתור והתקיפה משעות לשניות, ומאפשרת לכוחות לצאת למבצעים ברמה שבני אדם לבדם אינם יכולים להשיג. לכן זו אולי אחת המהפכות האמיתיות הבודדות בתחום הצבאי".
בשנים האחרונות זכה ספנסר, חבר המועצה הציבורית של מכון משגב (שבו אני משמש כחוקר), לפרסום בין היתר בעקבות הסנגוריה שהוא מלמד על מלחמתה של ישראל. הוא טוען כי היא נקטה מאמצים אדירים להימנע מפגיעה באזרחים בעזה, ויש לו גם שבחים על התנהלותה באיראן.
"מה שארה"ב וישראל הוכיחו במלחמה נגד טהרן עשוי להיות הרמז הראשון למהפכה בשדה הקרב", אומר ספנסר, שבעברו גם עמד בראש החוג ללימודי לוחמה אורבנית באקדמיה הצבאית של ארה"ב בווסט פוינט. "הן השתמשו, בין היתר, בשילוב יוצא דופן של מודיעין, מעקב מתמשך, ניתוח מידע וכלי נשק מדויקים כדי לחסל את ההנהגה של איראן בתחילת המלחמה. הן היחידות שהוכיחו את הביצוע המושלם של כלים כאלה במלחמה".
בה בעת, ספנסר מזהיר משאננות ומהמחשבה ששדה הקרב עצמו ישתנה למקום נקי יותר. "בינה מלאכותית עשויה להפוך מבצעים צבאיים למהירים ויעילים יותר, אבל היא לא מעלימה את אי הוודאות, החיכוך, המקריות או מאבק הרצונות בין בני האדם. המבחן הסופי של הבינה המלאכותית", הוא טוען, "יהיה יכולתה לעזור לצבאות להשיג מטרות פוליטיים, ולא רק השמדה של מטרות רבות יותר".
האם אולי היא תהפוך מלחמות ל"הומניות" יותר, ואולי תפחית את האבדות האנושיות?
"מערכות נשק אוטונומיות ובינה מלאכותית יכולות לסייע להפחית אבדות, אבל הן לעולם לא יהפכו את המלחמה לנקייה, ללא שפיכות דמים. אף טכנולוגיה אינה יכולה לעשות זאת. מספר הנפגעים נובע בסופו של דבר מהמטרה הפוליטית, טבעו של היריב, השטח, משך המלחמה ומה שדרוש לעשות כדי להשיג ניצחון".
ספנסר מצביע, לצד זאת, על היתרון הגדול של המעבר לשימוש במכונות. "המערכות האלה יכולות להחליף חיילים בכמה מהמשימות המסוכנות יותר בשדה הקרב, כמו כניסה למנהרות, טיהור שדות מוקשים, פינוי נפגעים ועוד. הן לא מתעייפות, לא מפוחדות, זועמות או מונעות מרגשות נקם. בתנאים מבוקרים הן עשויות לבצע משימות באופן עקבי טוב יותר מבני האדם, וכל זה יכול להציל חיים.
"אבל אסור להתבלבל בין דיוק גדול יותר ובין מלחמה הומאנית. כלי נשק מדויקים עדיין מייצרים הרס. אולי גם ההפך נכון: ההתפתחות של הבינה המלאכותית והלוחמה האוטונומית עשויה להוריד את המחיר הפוליטי של יציאה מלחמה, משום שמנהיגים לאומיים יאמינו שפחות מאנשיהם יעמדו בסכנה".
הבינה המלאכותית, בראייתו, גם לא יכולה לבוא במקום חשיבה אסטרטגית של מצביא אנושי. "כלי הנשק האלה יכולים להשמיד מטרות, לשבש את תפקודו של ארגון ולחסל חיילים ומנהיגים, אבל הם אינם יכולים לכפות על האויב לבצע את רצונך, לשלוט בשטח, להגן על אוכלוסייה ולבסס הישגים. אם היעד דורש לקחת מהיריב את מה שיקר לו ביותר, לשלוט בשטח או להפיל שלטון – כל מה שדרוש כדי ליצור שינוי פוליטי מתמשך – חיילים יידרשו עדיין להיות קרובים לאויב ולשלוט בשטח".
בשורה התחתונה, הוא מדגיש, "הבינה המלאכותית עשויה לשנות מי מבצע רבות מהמשימות בשדה הקרב ואת אופן הביצוע, אבל היא לא תחסל את הלחימה, ההקרבה או המוות. אין מלחמה ללא הרג, וכל טענה אחרת צריכה להתקבל בפקפוק רב".
זליגה לידיים הלא נכונות
ההנהגה הפוליטית והצבאית בארה"ב מתייעצת פעמים רבות עם ספנסר בנוגע להתנהלות בשדה הקרב, והוא שותף לתוכניות רבות בפנטגון באשר לבניית הצבא האמריקני. "ארה"ב משקיעה הרבה מאוד בבינה מלאכותית, מערכות אוטונומיות, אינטגרציה של אדום ומכונה, והיכולת להשתמש במספר גדול של מערכות לא יקרות באופן יחסי בכל ממדי המציאות. כל אחד מענפי הצבא בוחן כיצד בינה מלאכותית ומערכות אוטונומיות יכולות לשפר את איסוף המודיעין ועיבודו, קבלת החלטות, תקיפות, לוגיסטיקה, הגנה ופעולות בקרב".
המבחן הגדול של השלכות הטכנולוגיה הזאת, הוא סבור, יהיה אם הן יהפכו לציוד רגיל במערכי הקרב האמריקניים. "שימוש מוצלח איננו שקול לתמורה מלאה. השינוי מתרחש כאשר חיילים, מלחים או אנשי צוות אוויר משתמשים במערכות כאלה באופן מתמשך, בונים טקטיקות סביבן וסומכים עליהן די הצורך גם בזמן שחייהם של אנשים בסביבתם נמצאים בסכנה".
בנוסף, רק שילוב בין כוח האדם המיומן בצבא האמריקני למערכות מתקדמות כאלה יביא תוצאות מיטביות. "הבינה המלאכותית בפני עצמה איננה יכולת צבאית", מדגיש ספנסר, "רק הטמעה שלה בתוך כוח שיכול להשתמש בה, לתחזק אותה, להגן עליה ולהתאים אותה לצרכיו הופך אותה לכזו".
ומה בדבר החסרונות או הסכנות של המערכות הללו? כאלה, מתברר, יש רבים מאוד. "הסכנה הראשונה בשימוש במערכות אוטונומיות קטלניות, המשולבות בבינה מלאכותית היא מהירות ללא הבנה", אומר ספנסר, "בינה מלאכותית יכולה לייצר תשובות בזריזות, אבל תשובה מהירה יכולה להיות מוטעית. מפקדים עשויים לפתח הטיה אוטומטית ולקבל את ההמלצות של המכונה בגלל שהן נראות מדויקות או בגלל שהמצב לא מאפשר די זמן לאתגר אותן"
סכנה נוספת היא ההשלכות הרחבות של השימוש במערכות גדולות, שלא תמיד מצויות תחת שליטה אנושית מלאה. "טעות אנושית יכולה להשפיע על תקרית אחת, לעיתים מעט יותר", הוא מסביר, "טעות ברשת אוטונומית יכולה להשפיע על מאות או אלפי אינטראקציות לפני שגורם אנושי מזהה תבנית בעייתית, וזה מסוכן כשמערכות חולקות ביניהן מידע, מתעדפות איומים וקובעות מטרות". בסופו של דבר, הוא משער, שרשרת טעויות כזאת יכולה אפילו לגלוש משדה הקרב לזירה הפוליטית והמדינית, ולייצר תוצאה שאיש לא ציפה או ייחל לה.
לצד זאת, ההסתמכות על טכנולוגיה חושפת גם נקודות תורפה. מערכות אוטונומיות הרי מבוססות על תוכנה, חיישנים, תקשורת ועוד שלל גורמים וירטואליים ופיזיים, מציין ספנסר. האויב יכול לשבש את כל הרכיבים הללו, להטעות אותם ולחדור אליהם.
בנוסף, קשה מאוד לדעת כיצד תתנהג מערכת שהפגינה ביצועים מעולים בניסוי מבוקר בתנאים של שדה קרב, שבו יש מכשולים פיזיים, מזג אוויר שונה, סביבה עירונית צפופה מלאה באזרחים ועוד. "מערכות בינה מלאכותית טובות רק כמו איכות המידע שהשתמשו בו לצורך האימון וההפעלה שלהן", אומר המומחה הצבאי, "אלגוריתם שאומן לזהות כלי רכב צבאיים בסביבה אחת עשוי להיכשל כשכלי הרכב האלה חבויים, ניזוקו או הוצבו בתוך סביבה אזרחית. האויב יכול ללמוד כיצד המערכת מסווגת מטרות ולנסות להטעות אותה".
חשש אחר הוא שהכלים הקטלניים ייפלו לידיים לא נכונות. "הטכנולוגיות הללו לא ייוותרו מוגבלות למדינות המתקדמות ביותר. רחפנים, תוכנות בינה מלאכותית ואמצעים לזיהוי ואיתור, למשל, הופכים נגישים מאוד. ארגוני טרור, קבוצות פשיעה ומשטרים רודניים ישיגו כך יכולות שבעבר היו נחלתן הבלעדית של צבאות לאומיים".
בדומה לקביעה שלו על טבעה הנצחי של מלחמה עקובה מדם, ספנסר דואג שהטכנולוגיות החדישות ישכיחו מבני האדם את הצורך להיערך לתסריטים קשים מראש. "הסכנה", הוא מדגיש, "איננה שהטכנולוגיה תיכשל, אלא שמנהיגים פוליטיים וצבאיים יעריכו יתר על המידה את היכולת שלה. הם יכולים לבלבל בין האפשרות לזהות ולהשמיד מטרות ובין ההצלחה להשיג הכרעה. הם ישקיעו כך בכוח מיטבי לתקיפות מרחוק, אך יזניחו את כוחות הקרקע, לא יפנו משאבים ללוגיסטיקה ולהגנה, ולא ישימו לב שלמלחמה ארוכה דרושה גם עמידות אנושית ניכרת. זה אתגר לא פשוט".
של מי האחריות?
אחד מחוקרי הבינה המלאכותית הבכירים באנתרופיק, ג'ייקוב קוקסון, התפטר השבוע במחאה על התנהלות החברה, וטען כי ההתפתחות המהירה שלה מציבה סכנה גדולה בפני האנושות. המפתחים שלה, הוא קבע, מבקשים בפומבי להרגיע את הציבור, אך מאמינים בסתר כי היא עלולה להביא על האנושות את קיצה תוך כעשור.
אנשים רבים תוהים אם אנו מצויים רגע לפני תחילתה של מציאות שאנו זוכרים מסרטים כגון "שליחות קטלנית", שבה מכונות הופכות תבוניות יותר, ולבסוף משתלטות על העולם.
"אינני מאמין שהסכנה המיידית ביותר היא מכונות מודעות לעצמן, שלפתע מחליטות להשתלט על האנושות", ספנסר צוחק. לדבריו, "האפשרות הזאת בולטת בסרטים משום שהיא כה דרמטית. הסכנה המעשית יותר היא שבני האדם ייתנו למערכות לא מושלמות אחריות רבה מדי, יחברו אותן לכלי נשק, ואז יפעילו אותן במהירות שמונעת פיקוח בעל משמעות.
"מכונה אינה מבינה את המלחמה, את האויב, מוסר או השלכות פוליטיות. המערכות הללו מבצעות משימות מתוחכמות, המבוססות על תכנות, המידע שעליו התאמנו, קלט מחיישנים וכללים שנקבען מראש. אבל אין להן חוש אנושי או ראש של מפקד בשדה הקרב. הן לא יכולות לתפוס, למשל, שהיתקלות טקטית מוצלחת עלול דווקא להרחיב את המלחמה, לקעקע ברית, לחזק את רצון האויב או לערער את המערכה הפוליטית שרק לשמה יצאנו למערכה".
מסיבה זו, הוא מדגיש, חשוב לשרטט קו גבול ברור ביחס למשימות שמוגדרות למערכות האוטונומיות. "הן יכולות לבצע משימות צבאיות, כמובן, אבל לא לקבוע מי האויב, לשנות את יעד המשימה, להרחיב את הגבול הגיאוגרפי של מבצע או לקבוע מה רמת הסיכון המקובלת מבחינה מוסרית או פוליטית לאוכלוסייה אזרחית. אלה החלטות שמוכרחות להישאר בידי בני האדם. לא ניתן לאפשר לאנושות להפוך למשתתף סביל במלחמות שמובילות מכונות", הוא קובע.
האתגר הזה נידון כבר כמה שנים בקרב גורמים שונים בעולם, כולל מדינות וארגונים לא ממשלתיים שונים. בין היתר עלו הצעות להגביל לחלוטין את השימוש בכלי נשק מתקדמים כאלה, או להטיל עליהם מגבלות. מצידו, ספנסר מסכים עם הצורך למשטר את ההפעלה של כלי נשק עצמאיים, שמונעים בבינה מלאכותית וכך הופכים למהירים הרבה יותר מכל מה שאנו יכולים לשלוט בו.
"אנו צריכים כללים ברורים שמנהלים את השימוש בבינה מלאכותית וכלי נשק אוטונומיים", הוא סבור, "האזהרות שמגיעות מבכירים בעולם הטכנולוגיה כמו אילון מאסק מדגישות את הדחיפות לגבש כללים כאלה לפני שהטכנולוגיה מתקדמת מעבר ליכולת שלנו לשלוט בה".
נושא אחד שמטריד מאוד את ספנסר בהקשר זה הוא שאלת האחריות. "אחרי מתקפה לא חוקית, מנהיגים יכולים להאשים את כל העולם מלבד עצמם – המפעיל, המתכנת, היצרן או האלגוריתם. אבל למכונות אין אחריות מוסרית וחוקית, ולאנשים ומוסדות יש. אסור לאפשר להנהגה הפוליטית להסיר מעליה את האחריות. החוק ההומניטרי הבינלאומי תקף ללא קשר לשאלה אם כלי נשק מופעל ידנית, מרחוק או בצורה אוטונומית. כוחות צבאיים, על כל המכונות שהם מפעילים, צריכים לציית עדיין לחוקי ההבחנה, המידתיות, הצורך הצבאי ועוד. אוטונומיה אינה מעניקה פטור מחוקי המלחמה.
"הדרישה לשיפוט אנושי צריכה להיות מבוססת על סיכון ועל ההקשר של המשימה. שליטה אנושית אינה מחייבת שמישהו ילחץ על כפתור מיד לפני כל פעולה. מפקד יכול לאשר למערכת הגנתית ליירט טילים שמשוגרים לכיוונו מכיוון שאין במצב כזה זמן לאישור פרטני. זה שונה מאוד מלאפשר למערכת לאתר בתוך עיר מיושבת בצפיפות מטרות אנושיות מוגדרות", הוא מוסיף. "גם המפקדים צריכים להבין את זה. אם איש אינו יכול להסביר מדוע מערכת פועלת בצורה מסוימת, מתן דין וחשבון הופך לבלתי אפשרי. לא ניתן להעביר את האחריות להרג ולשימוש בכוח רק לאלגוריתם".
הדיון הנרחב בסוגיה הוביל ליצירת כמה מדדים, שלפחות בעיני ספנסר חשובים במיוחד לצורך ביסוס ההפעלה האחראית של כלי נשק כאלה. "מפקדים צריכים להגדיר את המשימה לפני השימוש במערכות כאלה, וגם את השטח הגיאוגרפי שבו תתבצע, לתחום אותה בזמן, לסווג את המטרות שמאושרות לתקיפה, ולקבוע גם אזורים מוגנים מתקיפה. יש גם לייצר רשימת תנאים שבהם המערכות מוכרחות להפסיק את משימתן או להחזיר את השליטה למפעילים האנושיים. צריך להטמיע בכלי הנשק הללו מנגנון השבתה, למשל, כאשר החיישנים לא עובדים או אמצעי התקשורת כושלים, ולצד זאת גם לתעד את אופן קבלת ההחלטות של המערכת ולאפשר הפעלה אנושית מרחוק כאשר זה ישים מבחינה מבצעית".
עם זאת, ספנסר מתנגד לאיסור בינלאומי נרחב על כל שימוש במערכות אוטונומיות קטלניות – בין היתר משום שמדובר בהגדרה רחבה מדי, ולא בטוח עד כמה היא ישימה. "אוטונומיה' כוללת יותר מדי פעולות, ועשויה בנסיבות מסוימות להציל את חייהם של אזרחים וחיילים", הוא מסביר, "הגישה הנכונה יותר היא ליצור כללים לשימושים ויכולות מסוימים, לאסור פעולות שאינן יכולות לעלות בקנה אחד עם החוקים של סכסוך מזוין, לחייב שיפוט ופיקוח אנושי על השימוש בכוח, ולדרוש מתן דין וחשבון מהגורם האנושי בתהליך.
"העיקרון המסדר צריך להיות פשוט: בני אדם יכולים להעביר משימות למכונות, אבל הם לא יכולים להעביר להם את האחריות".
*הדעות המובעות בפרסומי מכון משגב הן על דעת המחברים בלבד.