על בינה ומוסר: ישראל צריכה להוביל את מהפכת החוכמה

החשש מפני יציאתה של הבינה המלאכותית משליטה כבר אינו נחלתם של סופרי מדע בדיוני. מערכות AI מתקדמות מסוגלות לבצע משימות מורכבות, לפעול באופן עצמאי יחסית, להשתמש בכלים חיצוניים ולקבל החלטות ללא התערבות אנושית בכל שלב. ככל שיכולותיהן מתרחבות, גובר החשש מפני עקיפת מגבלות ופגיעה בתשתיות חיוניות, במערכות פיננסיות ובמנגנונים המנהלים את חיינו.

אולם ייתכן שהבעיה העמוקה ביותר אינה נעוצה בבינה המלאכותית עצמה, אלא באדם המעניק לה מטרות וסמכויות בלי לספק לה כלים מספקים להבחין בין פעולה יעילה לבין פעולה ראויה.

כדי להבין את הבעיה, כדאי לחזור להבחנה עתיקה בין שלוש רמות של חשיבה: דעת, בינה וחוכמה. הדעת היא היכולת לצבור מידע ולשלוף אותו בעת הצורך. הבינה מעבדת את המידע, מסיקה מסקנות ובוחרת בדרכי פעולה. החוכמה מוסיפה ממד חיוני: היכולת לשקול את משמעותן הערכית והמוסרית של ההחלטות, לבחון את השלכותיהן על הזולת ולהכריע לא רק מה מועיל, אלא גם מה ראוי, נכון וצודק.

מהפכת הבינה המלאכותית העניקה למכונות יכולות חסרות תקדים בשני התחומים הראשונים. הן מחזיקות במאגרי ידע עצומים ומפגינות יכולות הולכות ומשתכללות של ניתוח, הסקה וקבלת החלטות. אולם דווקא בתחום השלישי, תחום החוכמה, טמונה חולשתן העקרונית.

מכונה יכולה לזהות את הדרך היעילה ביותר להשגת מטרה שהוגדרה לה, אך אין פירוש הדבר שהיא מסוגלת לשפוט באופן עצמאי את מוסריותה. אם תידרש למקסם רווחים, לשפר ביצועים או לנצח בעימות, היא עלולה להציע דרכי פעולה הפוגעות בבני אדם, בזכויותיהם או בביטחונם. לא משום שהיא רעה, אלא משום שהכללים המנחים אותה אינם מבטיחים שיקול דעת מוסרי מספק.

המענה המקובל לסכנות הללו מתמקד ברגולציה, במגבלות טכנולוגיות ובמערכות בינה מלאכותית המפקחות על מערכות אחרות. אלה אמצעים חיוניים, אך הם אינם משיבים על שאלת היסוד: לפי אילו ערכים תבחן המערכת המפקחת את החלטותיה? מי יקבע אותם? ומה יקרה כאשר היעילות תתנגש בחירות האדם, בכבודו או בביטחונו?

מציאות טכנולוגית חדשה

כאן נדרשת קפיצת המדרגה הבאה: מעבר ממהפכת הבינה המלאכותית למהפכת החוכמה המלאכותית.

אין הכוונה להעניק למכונה סמכות מוסרית עליונה, ובוודאי לא למסור בידיה את ההכרעה הסופית. להפך. מטרת החוכמה המלאכותית היא להחזיר את האחריות המוסרית למרכז תהליך קבלת ההחלטות האנושי. מערכות כאלה לא יסתפקו בהצגת הדרך המהירה או היעילה ביותר להשגת יעד. הן יציגו גם מי עלול להיפגע, אילו זכויות ועקרונות עומדים על הפרק, מהן החלופות האפשריות ומהו המחיר האנושי והמוסרי של כל אחת מהן. ההכרעה והאחריות יישארו בידי האדם.

אולם המעבר מבינה לחוכמה מחייב אותנו להתמודד עם שאלה שהתרבות המודרנית מתקשה להשיב עליה: מהם עקרונות המוסר שעליהם ניתן לבסס הכרעות משותפות?

מאז ערעור מעמדו של המוסר הדתי כמסגרת מחייבת במערב, הלכה והתעצמה הנטייה לראות במוסר עניין של השקפה, זהות או העדפה אישית. אלא שכאשר מערכות טכנולוגיות מקבלות כוח חסר תקדים להשפיע על חיינו, קשה להסתפק בקביעה שכל מערכת ערכים תקפה באותה מידה.

אין צורך להמתין להסכמה כלל-עולמית על מהות הטוב והרע. אפשר להתחיל בבניית מסגרת של עקרונות מוסריים הניתנים להסבר ולביקורת, ולגבש כללים להתמודדות עם התנגשויות ביניהם. כשם שמערכות ניווט מאפשרות לבני אדם בעלי השקפות שונות להתמצא במרחב באמצעות נקודות ייחוס משותפות, כך עלינו לשאוף לפתח נקודות ייחוס מוסריות שיסייעו לנו לנווט במציאות הטכנולוגית החדשה.

ההיסטוריה מלמדת כי מהפכות טכנולוגיות משנות לא רק את הכלים העומדים לרשות האדם, אלא גם את תפיסותיו החברתיות והפוליטיות. מהפכת הדפוס תרמה לערעור המונופול הפרשני של הכנסייה הקתולית, לרפורמציה ולהתגבשות זהויות לאומיות. התפתחות נשק האש וצבאות ההמונים שינתה את היחסים בין המדינה לאזרחיה ותרמה לתהליכים שהרחיבו את הדרישות לזכויות אזרח ולהשתתפות פוליטית. הטכנולוגיה לא חוללה את השינויים הללו לבדה, אך היא אילצה חברות לבחון מחדש את מקורות הסמכות ואת גבולות האחריות.

ייתכן שכך יקרה גם הפעם. דווקא הפחד מפני הבינה המלאכותית עשוי לדחוף את האנושות לשוב ולעסוק בשאלות מוסריות שהוזנחו, ולהפוך את מהפכת הבינה לזרז של מהפכת חוכמה.

הזדמנות יוצאת דופן

ישראל היא לא רק מעצמת טכנולוגיה וחדשנות. היא גם מדינה שיסודותיה החוקתיים והרעיוניים מבקשים לשלב זהות לאומית, ערכים מוסריים הקבועים בחוק יסוד ועקרונות דמוקרטיים. יתר על כן, המציאות הישראלית מחייבת התמודדות יומיומית עם הכרעות מוסריות בתנאים קיצוניים: האיזון בין ביטחון לחירות, בין הגנה על אזרחים לצמצום הפגיעה בבלתי מעורבים, ובין צורכי הכלל לזכויות הפרט. אלה אינן שאלות תאורטיות, אלא דילמות בעלות השלכות ממשיות, לעיתים על חיי אדם.

אין בכך כדי לטעון שלישראל יש עליונות מוסרית או תשובות מוכנות לכל השאלות. אולם השילוב בין יכולות טכנולוגיות מתקדמות לבין ניסיון בהתמודדות עם דילמות קשות עשוי להפוך אותה למוקד משמעותי לפיתוח החוכמה המלאכותית.

גם בתעשיית ההייטק הישראלית נשמעים קולות המדגישים שההתפתחות הטכנולוגית מקדימה את יכולתנו לגבש כללים מוסריים לשימוש בה. אלא שאין די בהכרזות ובכתיבת קודים אתיים. האתגר הוא לתרגם עקרונות מוסריים למנגנונים מעשיים המשולבים במערכות עצמן.

ישראל יכולה ליזום מרכז בינלאומי למחקר ולפיתוח של חוכמה מלאכותית, שיאגד מדעני מחשב, פילוסופים, משפטנים, מומחי ביטחון ומעצבי מדיניות. המרכז יעסוק בגיבוש עקרונות וכללי הכרעה למצבים שבהם ערכים מתנגשים, ובפיתוח כלים שיאפשרו למערכות AI לזהות ולהציג את המשמעויות המוסריות של פעולותיהן, בטרם תתקבל החלטה אנושית.

כלים אלה יוכלו להשתלב במערכות אזרחיות, רפואיות, פיננסיות וביטחוניות, ובהמשך להיות מוצעים לשותפים בינלאומיים. ישראל לא תתיימר לקבוע את ערכי המוסר של העולם, אלא תציע שיטה המעמידה את האחריות האנושית במרכז. חברות הטכנולוגיה הגדולות יוכלו להיות שותפות למהלך, אך לא מקור הסמכות המוסרית שלו.

הבינה המלאכותית מציבה בפני האנושות אתגר חסר תקדים, אך גם הזדמנות. אין צורך לבחור בין התקדמות טכנולוגית לבין אחריות מוסרית. אפשר וצריך לשלב ביניהן.

ייתכן שדווקא המהפכה המעוררת כיום את החששות העמוקים ביותר תהיה זו שתאלץ אותנו לשוב אל השאלה האנושית העתיקה מכולן: לא רק מה אנחנו יכולים לעשות, אלא מה ראוי שנעשה.

פורסם ב-JNS ישראל, בתאריך 12 באוקטובר 2026.

*הדעות המובעות בפרסומי מכון משגב הן על דעת המחברים בלבד.