חוקי הרובוטיקה החדשים/יורם אורעד

ציור: הלל שלפין

לפני שנים רבות ניסח  אייזק אסימוב חוקי רובוטיקה שמטרתם לאפשר את פעולתם התקינה של רובוטים ומערכות אינטליגנציה מלאכותית ולהגן עלינו מסכנות אפשריות מהם. לאחרונה הוצעו ארבעה חוקים חדשים כדי לעשות התאמה לתקופתנו. האם הדבר יפטור אותנו מהסכנות האפשריות של הרובוטים והאינטליגנציה המלאכותית? ומה כדאי לעשות בהמשך?

 

רובוטים ומערכות אינטליגנציה מלאכותית (AI) הם חלק מהמציאות ומשמשים בתעשייה, ברפואה, במערכות בינה מלאכותית (כגון סירי), להפגת בדידותם של אנשים ועוד. כדי לאפשר את פעולתם התקינה ולהגן עלינו מפעולות לא רצויות או מסוכנות שהם עלולים לבצע ניסח בשנת 1942 אייזק אסימוב שלושה חוקים ומאוחר יותר הוסיף להם את חוק האפס. 

אלה הם שלושת חוקי הרובוטיקה המקוריים:

1. לא יפגע רובוט לרעה בבן אדם, ולא יניח, בהמנעות מפעולה, שאדם ייפגע.
2. רובוט חייב לציית לפקודותיו של אדם, כל עוד אינן סותרות את החוק הראשון.
3. רובוט ידאג לשמור על קיומו ושלמותו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני.

 

חוק האפס אומר: לא יפגע רובוט לרעה באנושות ולא יניח, בהמנעות מפעולה, שהאנושות תיפגע. החוק קודם לכל החוקים 1-3 גם יחד. ארבעת החוקים מבטיחים את שלום האנושות כולה, מעבר לשלומו של הפרט הבודד.

החוקים בנויים בצורה הדרגתית כך שאסור שחוק אחד יסתור את הקודם לו, שהוא תמיד חשוב יותר.

 

עקרונות רובוטיקה חדשים

פרופסור פרנק פסקוואלֵה (Frank Pasquale), מומחה לבינה מלאכותית, טוען שעקרונותיו של אסימוב, דורשים התאמה לימינו, בין היתר משום שלא תמיד חידושים והמצאות בתחום הרובוטיקה מועילים לאנושות. בחוקי הרובוטיקה של אסימוב החוקים מוטמעים ברובוטים עצמם. לעומת זאת, החוקים שמציע פסקוואלֵה מכוונים למתכנני ובוני הרובוטים ולמתווי מדיניות, ולא לרובוטים עצמם. אלה הם ארבעת החוקים החדשים שמציע פסקוואלֵה:

1. חוק ראשון חדש: אינטליגנציה מלאכותית (AI) צריכה להשלים את המומחים ולא להחליפם. השימוש באוטומציה בתחומים שונים אמנם גובר במהירות אבל עבודות שכרוכה בהן בחירה צריכות להישאר בידי בני אדם. למשל, בהוראה ורפואה יש צורך להסביר ללקוחות את האפשרויות השונות ולא לתת להם תוצאה אחת ואחידה שתוחלט כטובה ביותר, על ידי ישות אוטומאטית.
2. חוק שני חדש: מערכות רובוטיות ואינטליגנציה מלאכותית לא יזייפו אנושיוּת. סייעים אנושיים (כגון סירי) עלולים לשמש להונאת אנשים ולתמרוּן רגשות. אסור שמערכות כאלה יזייפו רגשות אנושיים. צריך להגדיר באופן קשיח עד כמה האינטראקציות האנושיות עם רובוטים יהיו בלתי מורגשות, חלקות, ללא תפרים (seamless) ועד כמה יהיה צורך לשמור על הבדל בין רובוטים לבין אנשים.
3. חוק שלישי חדש: אסור שמערכות רובוטיות ואינטליגנציה מלאכותית, יגבירו את מירוץ החימוש. ההתפתחות הבלתי מבוקרת של מערכות נשק רובוטיות עלולה לצאת מכלל שליטה וסביר להניח שיתפתח מירוץ חימוש של מערכות אינטליגציה מלאכותית.
4. חוק רביעי חדש: מערכות רובוטיות ואינטליגנציה מלאכותיות חייבות תמיד לציין את זהות יוצריהם, מפעיליהן ובעליהן. אלה חשובים להגברת האַחְרָיוּתִיּוּת (הנכונות לנטילת אחריות) ולהרתיע פעילות בלתי הולמת בשימוש ברובוטיקה ובאינטליגציה מלאכותית.

 

אז מה כדאי לעשות?

למרות שרובוטים ואינטליגנציה מלאכותית תורמים לחיינו המון, סכנותיהם עצומות. הם יצירי כפיהם של בני אדם ובני אדם הם המחליטים מה הם יעשו, לטוב או לרע. התאמות בדמות החוקים שהציע פרופסור פסקוואלֵה, והתאמות אחרות, עשויות למנוע נזקים ואף קטסטרופות בלי לוותר על היתרונות העצומים של הרובוטים והאינטליגנציה המלאכותית. כנראה שהתאמות שונות ותוספות שונות יתפתחו במרוצת הזמן וישתכללו בהתמדה כדי למנוע נזק אפשרי על ידיהם וכדי לנצלם טוב יותר. מן הסתם, ההתאמות האלה גם יתעדכנו בהתאם לצרכי החברה של התקופות המשתנות אך אין לדעת לאן יתפתחו ישויות טכנולוגיות שכאלה. יש הטוענים שבבוא הזמן הן ירכשו לעצמן תודעה,רצונות ואישיות משלהן. אם זה יקרה, הסכנה תהיה גדולה לאין ערוך מזו של רובוטים ומערכות אינטליגנציה מלאכותית שאין להם את אלה. לכן, ההתמודדות הנכונה ביותר לדעתי היא שילוב היכולות הטכנולוגיות שלהן בתוך האדם שמשמעותו מיזוג האדם עם המחשב. המיזוג הזה, בניגוד להפרדה בין האדם לישויות הטכנולוגיות, ייצור ישות אחת, שהאדם הוא בסיסה. כך תימנע התנגשות בין שני סוגי הישויות ותתאפשר התפתחות מיטיבה ומתמשכת של חברה המורכבת מישויות ממוזגות אלו, תוך שדרוג עצום של האדם, שיהיה בעצם אדם - מכונה.

 

שנת 2019 בעיני אסימוב וקורצווייל/יורם אורעד

מימין אייזק אסימוב (1920-1992), משמאל ריי קורצווייל (נולד ב-1948)

איך נראתה שנת 2019 לפני שנים רבות בעיני רוחם של שניים מהעתידנים הגדולים ביותר במהלך ההיסטוריה, אייזק אסימוב וריי קורצווייל?

בראיון לעיתון "The star" בדצמבר 1983, אמר אסימוב שאם לא תתחולל מלחמה גרעינית (דבר שכלל לא היה בטוח בעיניו אז), הרי שהוא צופה את ההתרחשויות הבאות:

1.  המחשוב ימשיך לדהור קדימה. המחשבים יכנסו לתעשייה וכן לבתים.

התחזית הזו התגשמה כבר מזמן. בשנת 2019 לא זו בלבד שהמחשבים מהווים חלק מהתעשייה אלא אי אפשר כלל לתאר אותה ללא מחשבים. הדבר נכון גם לגבי בתים, המשופעים כיום במחשבים, בין היתר מחשבים ניידים, מחשבים נייחים, מחשבי לוח (טבלטים), סמרטפונים, טלוויזיות חכמות, מכשירי שמע משוכללים וממוחשבים וכמובן הבית החכם.

2.     רובוטים ייכנסו לתעשייה ואף יעשו את דרכם להשתלבות בתוך הבתים.

רובוטים מצויים כבר שנים רבות בתעשייה. בשנים הקרובות נתחיל לראותם באופן רווח גם בבתים ולמעשה כבר עכשיו הם נוכחים בבתים, למרות שהם מוגבלים למשימות ספציפיות, כגון ניקוי הבית.

3.     כניסתם המסיבית של המחשבים לחיינו תשנה לחלוטין את הרגלי עבודתנו.

התחזית התגשמה במלואה. לדוגמה, איך היינו כותבים מכתב בעבר? - באמצעות עט (או עפרון) ונייר ובמקרה הטוב באמצעות מכונת כתיבה. את המכתב היינו שולחים בדואר (והנמען היה מקבל אותו כעבור כמה ימים) או במקרה הטוב בפקס. כיום אנחנו משתמשים באימייל והמכתב מגיע ליעדו מייד. לעתים קרובות מאד (ואולי אף כמעט בכל המקרים) המסמכים שאנחנו כותבים ושולחים מופיעים מלכתחילה רק בצורה דיגיטלית, דבר שספק אם היה מישהו שהעלה זאת בדמיונו לפני שלושים שנה. בעבר, ישיבות התקיימו רק פנים מול פנים וכיום קיימות אפשרויות ממוחשבות וירטואליות יעילות וטובות בהרבה לקיום ישיבות, המגשרות על פני פערי המרחק. זאת, למרות שלפגישות פנים מול פנים יש עדיין יתרונות מסוימים בהשוואה אליהן.

4.     חזרה לירח והקמת בסיס על פניו. אסימוב צפה שבשנת 2019 נוכחות אנושית בירח תהיה

 עובדה קיימת. הנוכחות תהיה לא רק אמריקנית אלא גם אחרת ותתקיים בו פעולת כרייה 

של מחצבים.

התחזית הזו לא התקיימה עדיין אבל מסתמן שהיא תתקיים בקרוב - ארצות הברית מתכוונת לחזור בעשור הבא לירח ולהקים בו בסיס מאויש, וראו בעניין זה את הפוסט בבלוג זה חוזרים לירח … ולתמיד.

5.     העבודות שיעלמו מן העולם עקב המיחשוב המסיבי יהיו העבודות הפקידותיות החוזרות 

על עצמן ועבודות של פועלים בפס ייצור.

מצד אחד, התחזית התחילה להתגשם כבר מזמן והיא נמצאת עדיין בתהליך הגשמה. מצד שני, אסימוב לא חזה את מלוא עוצמתה. המחשבים והרובוטים עתידים ככל הנראה להחליף גם עבודות שאינן שגרתיות במהותן אלא כאלה שדורשות מיומנויות חשיבה מסדר גבוה. הם יעשו זאת באמצעות האינטליגנציה המלאכותית (Artificial intelligence) שנמצאת בפיתוח מתמיד ומתקדמת כל העת. למשל, עיתונאות היא אחת העבודות שכנראה מחשבים יוכלו לבצע בעתיד הקרוב. מחשבים יאספו מידע ויכתבו בעצמם כתבות חדשותיות. מחשבים ורובוטים יסייעו (וכבר מסייעים) באבחונים רפואיים ובניתוחים רפואיים. מחשבים ינהגו במכוניות ובעצם כבר עושים זאת (המכונית האוטונומית). לכן, במובן מסויים הצפי לצמצום העבודות הזמינות עגום יותר ממה שמסתבר מתחזיתו של אסימוב. ייתכן שבעוד עשרים או שלושים שנה, לרוב בני האדם לא יהיו כלל עבודות משום שאת רובן יבצעו המחשבים והרובוטים. ייתכן שהמדינה תחלק כסף לאזרחיה כדי שיוכלו לחיות באופן ראוי. לא תהיה זאת המצאת יש מאין משום שאת המוצרים והשירותים שיצרכו האזרחים מקבלי הכסף ייצרו המחשבים והרובוטים.

ריי קורצווייל (Raymond Kurzweil; נולד ב-12 בפברואר 1948) חזה בספרו עידן המכונות החושבות (The age of spiritual machines) שיצא לאור ב-1999 את ההתרחשויות הבאות לשנת 2019 (ועוד רבות נוספות):

1.  לאנשים יהיו באופן רווח יותר ממחשב אישי ספציפי אחד .

זו תחזית שהתגשמה לחלוטין. לרוב בני האדם יש כיום מחשב נייד, סמרטפון, ולעתים גם טבלט, שעון חכם, שגם הם מחשבים, ועוד.

2.     רוב הלמידה מבוצעת על ידי ישויות וירטואליות, מין מורים מדומים המבוססים על תוכנה.

התחזית לא התגשמה. לדעתי היא גם רחוקה עדיין מלהתגשם. למורים אנושיים יש כנראה איכויות אחרות שאין למחשבים וביניהן יכולות רגשיות, חברתיות ואחרות. המגע האנושי כנראה נדרש וקריטי לכל למידה.

3.     באמצעות טכנולוגיית התקשורת אפשר לעשות כל דבר עם כל אחד, ללא קשר למיקום הפיזי.

התחזית התגשמה ברובה אבל עדיין קיימים דברים רבים שאי אפשר לעשות באמצעות הטכנולוגיה. למשל, אי אפשר להעביר בצורה יעילה ריח ומישוש, אי אפשר לחבק, לחוש בחום הגוף. אני מניח שעם הזמן טכנולוגיית התקשורת תאפשר לעשות יותר ויותר דברים.

4.     תוחלת החיים תעלה ליותר מ-100 שנים.

התחזית לא התגשמה אבל למרות זאת תוחלת החיים עלתה משמעותית בעשורים האחרונים. היא מגיעה כיום ליותר משמונים שנה וממשיכה לעלות. לאור ההתפתחויות הטכנולוגיות שאנו עדים להם, אני מתאר לעצמי שלא מן הנמנע שעד שנות הארבעים של המאה הזאת יושג היעד - תוחלת חיים ממוצעת של 100 שנים.

5.     מערכות של נהיגה אוטומטית מותקנות ברוב הכבישים.

תחזית הנהיגה האוטומטית התגשמה, באמצעות מכוניות אוטונומיות שכבר נמצאות בדרכים (אמנם עדיין באופן התחלתי וניסיוני). מעניין שדווקא קורצווייל לא חשב בעניין זה על המכונית האוטונומית אלא על מערכות אוטומטיות שיותקנו בכבישים עצמם. יכול להיות שאפילו עבורו, תחזית של מכונית אוטונומית, מכונית הנוהגת ומנווטת את עצמה בעצמה, נראתה אז דמיונית מדי.

***

התחזיות המתוארות מעידות על כך שבסך הכל כיוונן היה נכון. עם זאת, בחלק ניכר מהמקרים התגשמות התחזית, גם אם קרתה, לא קרמה עור וגידים בדיוק כפי שנחזתה. לדוגמה הנהיגה האוטומטית עתידה הייתה, לפי קורצווייל, להתבצע באמצעות מערכות אוטומטיות שיותקנו בכבישים עצמם ולא כמכונית אוטונומית.

וכן, בחלק מהמקרים התחזית כלל לא התגשמה, כגון התחזית לקיום נוכחות אנושית בירח.

גם אם התחזיות העתידניות אינן מתגשמות בדיוק כפי שנחזו, או אף אינן מתגשמות כלל, נראה שהן נותנות תמונה כללית לא רעה על העתיד וגם מהוות כלי להיערכות לקראתו.