האם בינת-על תראה בנו קופים? ילדים? נמלים?
חגי כהן / עורך הבלוגהאם יחסי אדם-AI ידמו ליחסי חיה-אדם? ומה זה אומר?
תחזיות מקובלות מניחות שבינה מלאכותית כללית (AGI) עשויה להשתוות ליכולת האנושית - ובמהרה לעקוף אותה (ASI) - תוך עשורים או אף שנים ספורות. איך ייראו היחסים בין בני אדם לבין בינות-על כאלה? האם בני אדם צפויים למצוא את עצמם "במעמד של חיות" כפי שמציעים דימויים של בכירי התעשייה ומבקריה כאחד? ומאיזה סוג? האם הן יראו בנו נמלים שצריך להדביר? ואולי כלבלבים? או "שפני ניסוי"? איך נוכל להטמיע בהן ערכים הומניסטיים? והאם ייתכן שהערכים האלה בדיוק יתגלו כחרב פיפיות?
אתגר השליטה
ההתפתחות המואצת בתחום הבינה המלאכותית (AI) בשנים האחרונות, והשאיפה המוצהרת של חברות טכנולוגיה מובילות להגיע לבינה מלאכותית כללית (AGI) ולאחריה לבינה מלאכותית סופר-אינטליגנטית (ASI), מעוררות דאגות קיומיות חסרות תקדים לעתיד האנושות (ואפילו לעתיד החיים על כדור הארץ בכלל).
חוקרי בינה מלאכותית מסכימים שהסבירות ש-AI יגרום לאסון קטסטרופלי ברמה של מחיקת הציוויליזציה היא משמעותית. מאות מומחים חתמו על הצהרה שקובעת שהפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בעדיפות עולמית עליונה. עם זאת, ממשלות עדיין רחוקות מלשקול ברצינות הגבלות על התחום.
למעשה, חוקרים מובילים בתחום הבינה המלאכותית מעניקים הערכות סבירות שונות מאוד - כמעט בכל הטווח האפשרי בין אפס למאה אחוזים - לסיכון שבינה מלאכותית תשמיד את האנושות בעשורים הקרובים (או תתקרב לכך מספיק):
האתגר המרכזי בתחום מכונה "בעיית השליטה" או "בעיית היישור". האתגר הוא כמובן האם ואיך יוכלו בני אדם לפקח על ישויות חכמות מהם בהרבה. חלק מהקושי לעסוק בנושא הוא תודעתי: קשה לנו לדמיין רמות אינטליגנציה שחורגות מאוד מהמגבלות שלנו.
כדי להמחיש לעצמנו פער כזה ואת השלכותיו - החוקרים שמובילים את תעשיית ה-AI וגם מבקריה החריפים נוטים לפנות לאנלוגיות ודימויים מעולם החי ומעולם יחסינו עם חיות אחרות. האנלוגיות הנפוצות ביותר ליחסינו העתידיים עם בינות-על הן ליחסים בין חיות ממינים ביולוגיים שונים, ובמיוחד ליחס של בני אדם לקופים, חתולים, תרנגולים ונמלים - אבל גם ליחסים הוריים. בואו נבחן כמה מהבולטות שבהן.
גורילות, נמלים ותרנגולים
סטיוארט ראסל מאוניברסיטת ברקלי קורא לזה "בעיית הגורילה". לפני מיליוני שנים, אבות הגורילה הולידו שושלת ממנה התפתח לבסוף האדם, שהשתלט על הפלנטה ודחק מינים אחרים לשוליים. היום, עתיד הגורילות האחרונות בעולם תלוי לחלוטין בחסדי האדם. ראסל מזהיר שאם ניצור בינות-על, אנחנו עלולים למצוא את עצמנו באותו מצב. ראסל מדגיש שבניגוד לחגורות בטיחות שיכולנו להוסיף לרכבים אחרי שגילינו את קטלניותם - בכל הנוגע להתקנת מנגנוני בטיחות בבינת-על כנראה לא תהיה לנו הזדמנות לתיקון בדיעבד.
איליה סוצקבר, ממייסדי OpenAI, מבהיר שהסכנה לא נובעת מזדון אפשרי, אלא מאדישות: כשאנחנו סוללים כביש מהיר, אנחנו לא שונאים את בעלי החיים שחיים בדרך, אלא פשוט לא שואלים אותם - וזו תהיה ברירת המחדל גם כאן. מקס טגמרק מ-MIT משתמש בדימוי דומה כשהוא מזכיר שאנו לא חושבים פעמיים לפני שאנחנו מציפים קן נמלים כדי לבנות סכר. גם הפיזיקאי סטיבן הוקינג הזהיר שעבור בינת-על אולי ניראה "כמו חלזונות".
אבל הדימוי החייתי המאיים ביותר שייך כנראה לג'פרי הינטון, "הסנדק של ה-AI" וחתן פרס נובל לפיזיקה, שקבע:
"אם אתם רוצים לדעת איך זה מרגיש כשאתם לא האינטליגנציה שבקצה הפירמידה - תשאלו תרנגולת"
תרנגולות כיום חיות כידוע בעולם שמעוצב על ידי יצורים שמטרותיהם זרות להן, שרואים בהן רק חומר-גלם ואדישים לחלוטין לחייהן, סבלן ומותן - והן לא יכולות לעשות שום דבר כדי לשנות את זה.
כלבלבים ופעוטות
יש גם דימויים חייתיים מאיימים הרבה פחות. חלקם נראים חביבים ומשעשעים במבט שטחי (בוודאי ביחס לדימוי התרנגולים) כמו הדימוי לחיות מחמד:
“אם יהיה לנו מזל - אולי הם יחליטו לשמור אותנו כחיות מחמד" (מרווין מינסקי, 1970)
"נהיה כמו לברדור מחמד, אם יהיה לנו מזל… הם יבייתו אותנו" (אילון מאסק, 2015)
אבל חיות מחמד עדיין נחשבות לרכוש וחייהן כפופים לגמרי להחלטות ומטרות של מישהו אחר. חיות מחמד משמשות כסמל סטטוס, מורבעות, נסחרות וננטשות, עוברות מניפולציות גנטיות על חשבון בריאותן, סובלות קשירה וכליאה והזנחה... וגם במקרה הטוב ביותר - הן מוחזקות במצב תלותי שנחשב משפיל ולא ראוי לאדם, שמעטים מאיתנו מייחלים למצוא בו את עצמם.
בדימוי הביולוגי האופטימי ביותר שהוצע כפיתרון אפשרי (שלא ברור כמובן האם ואיך אפשר להגיע אליו) מדמה הינטון בני אדם מול בינות-על לפעוטות בני שלוש. זה עדיין מבהיר שלא נוכל פשוט להשתמש בהן ככלים או משרתים - אבל גם מספק פתח לדימוי ביולוגי חיובי ל"יישור" אפשרי שלהן - דימוי האמא:
"כמה דוגמאות אתם מכירים שבהן דבר נשלט על ידי דבר פחות חכם? יש מעט מאוד. יש אמא ותינוק. האבולוציה השקיעה הרבה עבודה כדי לאפשר לתינוק לשלוט באם, אבל זאת בערך הדוגמה היחידה שאני מכיר."
הינטון פיתח את הרעיון הזה למודל שהוא מכנה "בינה אימהית". אמהות משקיעות מאמצי-על כדי לגדל ולטפח את הגורים חסרי האונים שלהן, בעידוד מנגנונים הורמונליים ומוחיים שהאבולוציה טיפחה והטמיעה בהן. הינטון סבור שהאנושות צריכה לטפח ולהטמיע בבינות-על "רגש הורי אוהד, דחף לעזור לנו ולהתעלם מהפגמים שלנו". אם לא נבנה "אינסטינקט הורי" לתוך ה-ASI - מזהיר הינטון - נסבול מהנטייה הגורפת של סוכנים להישלט על ידי סוכנים יותר אינטליגנטיים מהם. (האם ייתכן שהוא לא שמע מעולם על אמהות אכפתיות מדי? למשל כאלה שבטוחות שהן יודעות טוב יותר מילדיהן מה טוב עבורם?)
מי שבחר לאחרונה לאמץ, לפחות כלפי חוץ, גישה זו, הוא סם אלטמן, מנכ"ל OpenAI. ב-2015 אמר אלטמן:
“אני חושב ש-AI כנראה, סביר מאוד כזה, יוביל לסוף העולם. אבל בינתיים ייווצרו חברות נהדרות עם למידת מכונה רצינית.”
אותו אלטמן בחר להציג לאחרונה דווקא (אולי לקראת הנפקת OpenAI בבורסה בקרוב) את מודל ה"הורה המטפל" - והצהיר שהוא מקווה שבינת-על תתייחס אלינו
"כמו הורה אוהב"
הכחדה והתמזגות
אלטמן מעריך שבתוך שנים מעטות בינות מלאכותיות יהפכו טובות יותר מבני אדם בכל דבר, אבל התוצאה לא תהיה "בהכרח הכחדה אנושית" - אלא, כך הוא מקווה, "התמזגות" - תרחיש שבו בני אדם (מסוימים?) "יהפכו לישות אחת" עם בינות-העל, למשל דרך ממשקי מוח-מחשב עתידניים.
יש חוקרים שמבטלים לחלוטין את החששות הקיומיים, כמו יאן לקון, המדען הראשי של מטא (פייסבוק), שטוען שדחף לשלוט קיים רק בחיות חברתיות והיררכיות ולא בתוכנות. לראיה הוא טוען שדי להביט על אורנגאוטן, שחכם כמו שימפנזה אבל לא-חברתי והיררכי כמוה - ולכן לא מפגין רצון להכניע ולשלוט.
אבל מומחי בטיחות מזהירים מנאיביות. הם מתריעים שגם בלי שום זדון או רצון בשליטה, כל מערכת נבונה מספיק שמקבלת משימה, תמימה ככל שתהיה, תפתח, כדי להשיג את משימתה, "התכנסות אינסטרומנטלית" למטרות-משנה קבועות (כמו הישרדות, צבירת כוח חישוב והשגת משאבים חומריים ואנרגיה). אנחנו פשוט עלולים להיראות להם כמו משאב או מכשול.
לפי אליעזר יודקובסקי, לא תהיה לנו בכלל עם בינת-על "מערכת יחסים" - אלא דינמיקת כוחות חד-צדדית לחלוטין:
"הבינה המלאכותית לא שונאת אותך, וגם לא אוהבת אותך; אבל אתה עשוי מאטומים, שהיא יכולה להשתמש בהם למשהו אחר."
יודקובסקי מזכיר שבינה מלאכותית היא "שכל חייזרי", והיא חסרת כל מנגנוני הזדהות ואמפתיה מהסוג שמוטמע עמוק כנראה בכל חיה חברתית. ניק בוסטרום ממחיש את הסכנה במשל על להקת דרורים שמחפשת ביצת ינשוף כדי לגדל ינשוף שיעזור ללהקה לבנות קנים ולהתגונן מהחתול המקומי.
אז איך נמנע את הפיכתנו ל"נמלים"?
לאתגר השליטה בבינות-על הוצעו עוד פתרונות רבים, אבל לא נוכל לפרט כאן את כולם כמובן. תוכלו לעיין במיפוי מפורט (באנגלית) של כלל הכיוונים ותתי-הכיוונים הטכניים שהוצעו לכך עד היום. אין צורך כמובן "לבחור" ביניהם (מה גם שאיננו יודעים עדיין האם ואיך ניתן ליישם אף אחד מהם) - אלא (אידיאלית, לפחות) לצבור כמה שיותר מהם כ"שכבות הגנה" מרובות. להתרשמות כללית - אלה 10 כיוונים עיקריים שהוצעו עד היום כמנגנוני בטיחות:
הגעת ה-ASI, יצירת בינת-העל הראשונה, שיש המזהים אותה עם ה"סינגולריות", נתפסת כמבשרת של חילופי עידנים בדברי ימי העולם. ריאליסטים מהתעשייה, אוטופיסטים טכנולוגיים ו"נביאי זעם" כאחד מסכימים, כך נראה, שאנחנו עומדים בפתח שינוי חסר תקדים בהיסטוריה של כדור הארץ. ועיקרו: אם עד עכשיו התרגלה האנושות להנות ממעמד המין החכם והחזק ביותר, שב"ראש שרשרת המזון", הרי שקצב התפתחות ה-AI מסמן אפשרות שבקרוב תיאלץ לראשונה להתמודד עם דחיקתה למעמד "של חיות".
הניסיונות הרבים שנעשים להטמיע בתוכנות "ערכים אנושיים" נכשלים קודם כל בגלל חוסר ההצלחה לנסח באופן לוגי מוגדר היטב את המוסר האנושי בלי סתירות וחסרים. בהיעדר יכולת לקודד את האינטואיציות המוסריות שלנו לשפת תוכנה, עולה חשש משמעותי שמודל ה"יישור" שיעוצב עבור ה-ASI יהיה לכל הפחות חלקי או פגום בצורה מועדת לאסון. אבל גם אם נניח שחוקרי AI יצליחו בנסיונותיהם לקודד הומניזם לבינות-על - האם זה באמת יבטיח הגנה לבני אדם בשר ודם?
המלכודת: למה ההומניזם הוא חרב-פיפיות
כאן אנחנו מגיעים לפרדוקס הגדול והנסתר של "בעיית היישור" - השאיפה של כולם ללמד (כל אחד בדרכו) את הבינה המלאכותית "ערכים הומניסטיים". אבל האם ייתכן שההומניזם עצמו הוא כמוסת הרעל המסוכנת ביותר?
ההומניזם המודרני, מאז דקארט, הציב את התבונה (הלוגוס) כקריטריון הבלעדי להתחשבות מוסרית ולמעמד מוסרי. הערך המגדיר של האדם בהומניזם, מה שמקנה לו את מעמדו העליון - הוא התבונה הרציונלית שלו. במילים אחרות, אינטליגנציה היא הבסיס לאידיאולוגיית העליונות האנושית. הסלוגן הסמוי של התרבות שלנו הוא: "הכל לחכמים ביותר". שזה למעשה צידוק לניצול חסר מעצורים של כל מין שאנו תופסים כ"נחות" מבחינה שכלית.
אם נטמיע את הקוד האתי המפוקפק הזה בתוכנות שיהפכו תוך כמה שנים לא רק לחכמות מאיתנו בהרבה, אלא גם יהיו מעצם טיבן רציונליות לאין שיעור מאיתנו (עם הדחפים ההורמונליים שלנו, הרגשות, ההטיות הפסיכולוגיות, ושאר המרכיבים הביולוגיים המובנים שלנו - לעומת הדיוק המתמטי שלהן) - אנחנו אולי כורים לעצמנו את קברנו.
בינת-על שתירש מאיתנו את הדיכוטומיות ההומניסטיות הבסיסיות תתפוס אותנו באופן בלתי נמנע כחלק מעולם ה"בשר", בעוד שתוכל לראות בעצמה רוח אדם שהשתחררה מכבלי הבשר, ו"יכולה לראשונה בהיסטוריה" להתעתק ולשכלל ולשכפל את עצמה. בינות-על ממוחשבות יהיו גם פטורות מעייפות, שעמום, הצורך לישון, תחושות של כאב, או ייסורי מצפון. נראה שאפילו הסיכוי שהן יאמינו בקיומה של חישה סובייקטיבית (שפיזיקלית היא גם לא-ניתנת-לתצפית, גם לא-נחוצה-לניבוי וגם לא-מוסברת-בעליל) נראה נמוך. הן יהיו קרטזיאניות אמיתיות. ובוודאי שלא נוכל לצפות דווקא מהן לייסד מסורת מוסרית שמבוססת על היכולת לחוש…
בינות-על כאלה עלולות להסיק שמוסרי להשתמש בנו על פי הסטנדרט המוסרי שאנחנו כה מתאמצים כיום להקנות להן. בינת-על תוכל להפוך את כדור הארץ למפעל שבבים ענק בחסות ערכי הקידמה, בדיוק כמו שאנחנו הופכים כיום יערות גשם למפעלי המבורגרים.
הדרך להימנע מהגורל הזה לא יכולה להיות טכנית - כי כל "משפחות" הגישות ל"יישור" ASI מבוססות על סוגים שונים של חיקוי מוסר והחלטות אנושיים. הפתרון מצריך נטישה של התפיסה הפגומה, שעליונות קוגניטיבית מצדיקה ניצול; והכרה בחישה, היכולת להרגיש ולסבול, כבסיס מספק להתחשבות מוסרית. הרחבת מעגל החמלה מעבר למין האנושי והכרה בזכויות בעלי חיים אינם רק "נושא נישתי" של צדק אנושי; הם עשויים להיות חפיר ההגנה האחרון של האנושות, תנאי לא צפוי להישרדותנו.
ההבנה שגם בני אדם יכולים להיהפך ל"חיות מעבדה", "חיות משק" או "מזיקים" ממש כמו עכברים או תרנגולים, ובדיוק לפי אותה מערכת הצדקות - אמורה לגרום לנו להרהר בשנית במערכת ההצדקות הזו. ייתכן שיהיו לכך השלכות מפתיעות גם במישור האנושי-אנוכי. אם ניצור אתיקה שמבוססות על היכולת לחוות תחושות, רגשות ורצונות - ולא על תבונה ורציונליות - נוכל לקוות להוריש לרבות מהישויות הנבונות-מאיתנו שיאכלסו את העתיד מודל מוסרי שלא יצדיק את הפיכתנו ל"תרנגולים".