רובוט באמונתו יחיה

m 4 robot

הבעיה בשלב הזה של האנושות היא שכאשר מדברים על כך שרובוטים עומדים להחליף בני אדם, זה מתחיל להיות לגמרי רציני * וכשהטכנולוגיה כבר כמעט ערוכה מתחילות לצוף השאלות המהותיות ועד לאן זה ייקח אותנו, מה יישאר לנו כבני אדם וכמובן שאלות הלכתיות ואמוניות על בחירה חופשית ואתיקה * מה מותר האדם מן האנדרואיד?

אדם פז

נעים מאד, הכירו את "סמואל" – סמואל הוא מכונה אלקטרו-מכנית המונחית על ידי תכנית מחשב, ומסוגלת לבצע משימות באופן עצמאי. יש לו יכולת תנועה, יכולת חישה, יכולת הפעלה של זרועות מכניות ויכולת בקרה. סמואל הוא קצה קצהו של תחום המתפתח בקצב מהיר בעידן המודרני, ואולי אפילו תחילתו של עידן חדש: הרובוטיקה. הרי רובוטים משמשים כבר היום בחדרי ניתוח, בפסי ייצור, ואפילו מחליפים חיילים בתפקידים שונים בצבאות מודרניים.

למשל, מיקרוגל חדשני שיודע לזהות את טמפרטורת האוכל - הוא רובוט. מאוורר שמווסת את טמפרטורת החדר - רובוט. הדבר העגול הזה שמסתובב בבית ומטאטא ומקרצף? איי-רובוט. וזה מגיע גם למקומות גדולים מאלו; בית חכם הפועל לפי פקודות קוליות ומחוות יד הוא בית רובוטי לכל דבר ועניין. אם הייתם שואלים אנשים לפני חמישים שנה, הם היו אומרים לכם שכל הדברים שהזכרנו למעלה הם דברי שטות והבל, ומקסימום הם חלום רחוק ("דברים שלא השיגם כלל, ואי אפשר להשיגם, כמו שידמה האדם ספינת ברזל רצה באוויר", שמונה פרקים לרמב"ם, פרק א'). אבל בחיים כמו בחיים, לפעמים הדמיון עולה על כל מציאות.

ברוכים הבאים לעולם החדש

לפני כשבועיים נערך כנס רובוטיקה רחב ומקיף להפליא מטעם ארגון 'התעשייה', תחת הכותרת: "הדיגיטל סאפיינס והרובוט". בכנס הרצו מיטב המומחים בתחום הדיגיטל והמדיה, ועסקו בשאלות רבות כמו מקומה של הבינה המלאכותית והאדם, מוות בעידן הדיגיטלי, רובוטים כהאקרים וטוקבקיסטים ועוד. הכנס, כהרגלם בקודש של כנסי 'תעשייה ללא גבולות', היה מרשים ביותר ובהחלט אִפשר לכולנו לפתוח מחדש את החשיבה שלנו במגוון תחומים. הוא עסק בהיבטיה השונים של האנושיות הדיגיטלית שלנו, אך נראה שהשאלה שהעסיקה את רוב באי הכנס היא דווקא שאלת האתיקה. לקראת איזה עולם אנחנו מתקדמים?

בין הדוברים והדוברות בכנס תפסה אותי במיוחד גלי מאירי - המייסדת של אתר 'תעשיה.קום' ומהבעלים שלו ועורכת סדרת כנסי 'תעשיה ללא גבולות', שהרצתה בנושא האנושיות הדיגיטלית. שום דבר לא הכין אותי להרצאה המרתקת של מאירי, כאשר היא הפנתה את תשומת הלב, שהייתה עד כה מופנית לשאלה "איך הרובוטים יחליפו את כולנו", אל האמירה המטלטלת שלה:

"אנחנו כבר החלפנו את עצמנו. אנחנו שייכים יותר לסלולרי שלנו מאשר לעצמנו. פחות מרוכזים, פחות קשובים ופחות תקשורתיים עם האנשים שמסביבנו. עם החברים שלנו, עם הילדים שלנו. עם המשפחה. אז אולי כדאי שנעצור ונתבונן לרגע על האנושות שהותרנו מאחורה ונגביר קצת את המודעות לשאלה 'לאן אנחנו הולכים, ומה הולך להיות פה?'"

במבט ראשוני זו גישה שנשמעת פסימית ומדכאת מאוד. האם באמת כולנו הפכנו ליצור הזה? רוב באי הכנס כינו אותו 'דיגיטל-סאפיינס' (כמחווה להומו-סאפיינס, "האדם החושב" בלטינית), ורמזו שכמו שהאדם הנבון החליף את האדם הקדמון שהילך פה לפניו, כך גם ,האדם הדיגיטלי" עתיד להחליף את האדם הנבון, ששייך לדור הקודם. אך בהסתכלות נוספת, האמירה הזו יכולה להיות גם פתח לעולם חדש: עולם שבו האדם והמכונה עובדים יחד. אמנם, מציאות כזו גם פותחת פתח להמון שאלות אתיות, ובפרט כלפינו במגזר הדתי. שאלות שיכולות להיות רלוונטיות יותר מאי פעם, וכדאי להתחיל להתמודד אתן.

מסע בזמן לרובוט הראשון

כדי לקבל מושג מחדש על מיהו הדיגיטל-סאפיינס, נצטרך לחזור אחורה בזמן ל-1936 - השנה שבה המציא אלן טיורינג (מתמטיקאי בריטי, ממניחי היסודות למדעי המחשב) את המודל המפורסם שלו 'מכונת טיורינג', והציע שבעתיד מכונות יוכלו לחשוב כמו בני אדם. אמנם מחשבתו עוד לא התממשה לחלוטין, אך מאז שנות ה-30 ועד היום חלה התקדמות ענק בתכנות ה-AI, להלן 'בינה מלאכותית'. בשנות ה-60 קבע פרופ' נועם חומסקי, בלשן ופילוסוף יהודי אמריקאי, כי לכל השפות האנושיות הטבעיות (כלומר, אלו שהתפתחו עם הזמן ולא שהומצאו על ידי אדם בודד) יש דבר או שניים במשותף, קודים אוניברסליים שעוזרים לנו להתפתח ולהבין טוב יותר את השפה ואת ההקשר שלה.

כך למשל עובדת 'סירי', התכנה שמדמה קול אנושי באייפונים שלנו. סירי מקבלת פקודות קוליות וממירה אותם לשורות קוד כפי שהוזנו אצלה מלכתחילה. אך למרות הקפיצה המדהימה ביכולות של רובוטים לאורך השנים, הם עדיין מתקשים להבין מילים כמו "אולי", "צריך", זמנים ומשפטי תנאי. למשל, אם נאמר לסירי 'שימי לי שעון מעורר לשעה שבע', היא תבין את זה מצוין, כי מבנה המשפט ברור לה, אבל נגיד לה 'בין 22:00 ל-7:00 אל תעבירי לי שיחות, אלא אם כן זו שיחה מאמא שלי או מהבן שלי', זה כבר קשה לה, אף שלכאורה מחשב מסוגל להבין פקודה כזאת. המחשב עדיין מוצלח בעיקר במיפוי של משפט אחד לפקודה אחת.

 

הרב ד"ר מיכאל אברהם: "קיומו של ארגז כלים של בינה מלאכותית אינו אינטליגנציה. היכולת לעשות בו שימוש מושכל תוך שימוש בשיקול דעת היא אינטליגנציה. המסקנה היא שטעות לומר שלמים, לסלעים או לציפורים, יש אינטליגנציה נמוכה. אין להם אינטליגנציה בכלל. כך הדבר גם ביחס למחשבים"

 

אבל אל דאגה, אנחנו כבר בחצי הדרך לשם - מפתחים עובדים היום על טכנולוגיה הנקראת Grounding, שהיא בעצם כלי ללימוד המחשב להבין שפה מעבר למבנה המשפט, ולאחזור תשובה ממאגר מידע. מעין מודל מסוים שמייחס את מה שנאמר לעולם האמתי, או במילים אחרות: הֶקשר, קונטקסט. דבר שעד כה לא היה שייך לעולם הרובוטיקה, והוא-הוא מה שהבדיל, לפי אנשי המחשבים, את שפת האדם משפת המכונות. למשל, אם אומר לרובוט את המילה 'את' הוא לא יוכל בשלב הנוכחי לדעת מרצף הצלילים לבדו אם התכוונתי למילת קישור, לאת חפירה, לעט לכתיבה, לעת במובן של זמן או שמדובר בשם חיבה לבחורה בשם אתי. בני אדם מבינים זאת מההקשר של הדברים. בלי ההקשר, ניכשל אפילו בפענוח המילה הבודדת. לזאת יש להוסיף את הרגשות המציפים אותנו כשאנחנו מדברים. האינטונציה וההקשר משייכים את הנאמר לדרך פענוח ייחודית, דבר שהרובוטים עדיין מתקשים לעשות.

אבל מה יקרה אם וכאשר האלגוריתם ייכתב, והקיר הטכני בינינו לבין עולם הרובוטים יישבר? צרפו את הנאמר לעיל עם הפיתוח החדש של חוקרים מאוניברסיטת MIT, המציגים קונספט שלו הם קוראים C-LEARN, ובו רובוטים מלמדים רובוטים אחרים לשפר מיומנויות שונות דרך התבוננות בלבד. כלומר, ישנו רובוט-אב שלומד התנהגות מבני אדם, ואחר כך יוכלו גם רובוטים אחרים ללמוד את ההתנהגות הזו ממנו. עם הזמן, לטענת מתכנתים רבים, כבר לא יהיה צורך בבני אדם לאיוש עמדות במשק העבודה, בתחום הבריאות ואכיפת החוק, ואולי אפילו בתחום ההוראה הכללית.

גלי מאיר, 'תעשייה.קום': "אנחנו כבר החלפנו את עצמנו. אנחנו שייכים יותר לסלולרי שלנו מאשר לעצמנו. פחות מרוכזים, פחות קשובים ופחות תקשורתיים עם האנשים שמסביבנו. עם החברים שלנו, עם הילדים שלנו. עם המשפחה. אז אולי כדאי שנעצור ונתבונן לרגע על האנושות שהותרנו מאחורה ונגביר קצת את המודעות לשאלה 'לאן אנחנו הולכים, ומה הולך להיות פה?'"

ניקח לדוגמה את הדילמות העולות כיום בתחום הרכב האוטונומי: כלי רכב המופעל כולו על ידי 'סנסורים' (רובוטים עוזרים אישיים, המסוגלים לפעולה מורכבת אחת או יותר, ומאיישים עמדה לגמרי בעצמם). סביר להניח שכלי הרכב הללו כבר היום בטוחים יותר מכלי רכב הנהוגים על ידינו - אבל הם בהחלט לא יהיו מושלמים. כלומר, יהיו מצבים שבהם רובוט יצטרך לקבל החלטות ששמות חיי אדם על הכף. ולמערכת השיקולים הזו נצטרך קוד אתי וערכי שידע להתמודד עם שאלות כאלו. וקוד אתי כזה, כידוע, שמור לנו בני האדם.

כבוד הרבוט שלום

מעבר לאווירה העתידנית משהו בכנס נראה שצצו יותר ויותר עיסוקים בשאלות המוסריות הגדולות: האם תהיה אי פעם בחירה חופשית אצל רובוטים? מה יהיו יחסי העבודה אם יוחלפו כל הפועלים במשק ברובוטים? מה טיבו של חינוך על ידי מכונה שלמדה ממכונה שלמדה ממכונה? או האם ראוי להפקיד את הבריאות שלנו בידי מנתחים רובוטיים? לאנשים מאמינים יש עוד כמה התעסקויות שכדאי לתת עליהן את הדעת. האם ניתן להסיק שבעתיד רובוטים יוכלו להיות חלק מעולם הלכתי ענף, בהסתמך על האפשרות (שעדיין קיימת) שמתכנתים אכן יצליחו ליצור בינה מלאכותית שתדמה אנשים בצורה מדויקת יותר? לשיטתו של הרב ד"ר מיכאל אברהם הדבר אכן ייתכן, ואין לדעת בבירור:
"מה שוודאי הוא שאף שרובוטים מסוגלים להיות תוצרים של חשיבה ושיקול דעת אנושיים, הם לעולם לא יהפכו להיות בני אדם בעלי תודעה ורצונות", הוא אומר לנו. "דבר זה משליך גם על הרבה
התעסקויות הלכתיות, מהסוגים שמוכרים לנו היום ומהסוגים שעדיין אין לנו. כמו למשל לשון הרע: אין שום איסור לספר לשון הרע לרובוט ודבר זה אכן יכול להיות בגדר 'דאגה בלב איש ישיחנה', אך צריך להיזהר כאשר מתחילים לדבר בנושאים כאלו, ויש לדון על כך בעיון".

נראה שכל העיסוק בהשלכות המוסריות של תודעה רובוטית נובע מאיום עלינו, כציוויליזציה. נכון?

"יש בזה עניין מדעי וטכנולוגי מובן מאליו. איני רואה ערך בחיפוש מניעים נסתרים מאחורי מחקר ותגליות מדעיות וטכנולוגיות. אם אתה חותר לזה, ברור שיש כאלה שיש להם מוטיבציה להראות שאין 'מותר האדם' ואין רוח ואין בחירה, אבל יש גם הרבה אחרים שלא".

בהגדרה של ויקיפדיה למושג 'אינטליגנציה',נאמר שיש אינטליגנציה גם לבעלי חיים, וכפי שראינו יש טענות דומות לגבי מחשבים. הרב ד"ר אברהם התייחס גם לכך:

"ציפורים יודעות לנווט בצורה מרשימה מאוד, ולכן מייחסים להן אינטליגנציה מסוג מסוים. אבל לפי ההיגיון הזה גם למים יש אינטליגנציה, וגם לסלעים. המים נעים בצורה שהתיאור המתמטי שלה הוא מורכב להפליא (משוואות נאוויה-סטוקס). פיזיקאים לא יודעים לפתור את המשוואות הללו בשום מקרה מעבר לטריוויאלי, וראה זה פלא - המים עושים זאת יום יום ושעה שעה. הם מוצאים את המסלול שמתוות המשוואות הללו בכל מצב ותנאי בלי שום בעיה. המסקנה היא שלפי המדדים המקובלים בתחום הבינה המלאכותית למים יש אינטליגנציית-על, הרבה מעבר לפיזיקאי המוכשר ביותר. גם בתוך הסלע מתרחשים תהליכים שמתוארים במשוואות שבני אדם לא יודעים לפתור. מתורת הקוונטים ברמת החלקיקים המיקרוסקופיים שבתוכו, והמשך בתהליכי ריקבון והתגבשות שאין לנו יכולת לחשב אותם בצורה מפורטת ומדויקת. אבל הסלע עצמו עושה זאת ללא שום בעיה. המסקנה המתבקשת היא שגם לו יש אינטליגנציית-על".

אז מה היחס שלנו לתודעה מפותחת? בראנו בן אדם?

"למיטב שיפוטי ההיתלות במוּדעוּת היא טעות. הנקודה אינה מודעות אלא שיקול דעת. יצור שפועל באופן מכני שנגזר מהמבנה שלו, אינו יצור אינטליגנטי. ההבדל בין מים לאדם אינו המודעות וגם לא מגוון הבעיות שכל אחד מהם יודע לפתור אלא ההחלטה ובחירת טכניקת הפעולה והחשיבה (בחירה חופשית, א"פ). אדם מחליט איזו דרך לנקוט כדי לפתור בעיה כזו או אחרת. אחרי ההחלטה יש לו גם כישורים לבצע אותה, אבל זה יש גם לציפור, למים ולסלע. מה שחסר לכל אלו (כולל הציפור) הוא שיקול הדעת או ההחלטה. הם פועלים כפי שהם פועלים בגלל מבנה מולד שבתוכם שלא הם החליטו עליו. זוהי פעולה מכנית שלא נובעת משיקול דעת והכרעה, ולכן אין להכניס אותה תחת הכותרת אינטליגנציה. רק יצור שבוחר בדרך פעולה לפתרון הבעיה שלפניו הוא יצור בעל אינטליגנציה (נמוכה או גבוהה, תלוי במידת ההצלחה שלו).

"גם בהתייחס לבינה מלאכותית: קיומו של ארגז כלים אינו אינטליגנציה. היכולת לעשות בו שימוש מושכל תוך שימוש בשיקול דעת היא אינטליגנציה. המסקנה היא שטעות לומר שלמים, לסלעים או לציפורים, יש אינטליגנציה נמוכה. אין להם אינטליגנציה בכלל.

"כך הדבר גם ביחס למחשבים. גם אם לא מקבלים החלטות, וגם אם מתבצע בתוכם תהליך של קבלת החלטה, הוא מתבצע באופן מכני ומוכתב לה בכפייה בדיוק כמו למים או לסלע. יצור דטרמיניסטי לא יכול להיחשב בעל אינטליגנציה".

ומה יהיה ביום שבו האנושות תוכל לדמות שיקול דעת אנושי? וביום שבו שיקול הדעת של המכונה באמת יהיה תלוש ממחשבה אנושית, ויתבסס אך ורק על בינה מלאכותית? שאלות כאלו ורבות אחרות הדומות לה בהחלט צריך להישאל, ויש לשים עליהן דגש רציני בעיקר בתקופה הדיגיטלית שלנו.

אך ישנה שאלה גדולה מזו, והיא שאלת השאלות: מהי הסיבה שהאנושות בכלל שואפת ליצור רובוט מושלם שידמה אדם אנושי? ומהי שאיפת-העל של האדם המודרני? נראה שהעיסוק האינטנסיבי של האנושות בדור הזה אינו אלא בירור של שאלות הזהות היסודיות. במה טוב יותר האדם מהרובוט? וכשנגיע לשורשם של השכל והתודעה, איפה יתגלה לנו האינסוף?

אולי ביום מן הימים יגור זאב עם כבש, נמר עם גדי, ובני אדם עם רובוטים משוכללים. עד אז כדאי שנודה על הבחירה שיש לנו כבני אדם, להתמודד עם שאלות כאלה מדי יום.

LEAD

גלי מאיר, 'תעשייה.קום': "אנחנו כבר החלפנו את עצמנו. אנחנו שייכים יותר לסלולרי שלנו מאשר לעצמנו. פחות מרוכזים, פחות קשובים ופחות תקשורתיים עם האנשים שמסביבנו. עם החברים שלנו, עם הילדים שלנו. עם המשפחה. אז אולי כדאי שנעצור ונתבונן לרגע על האנושות שהותרנו מאחורה ונגביר קצת את המודעות לשאלה 'לאן אנחנו הולכים, ומה הולך להיות פה?'"

סביר להניח שכלי רכב אוטונומיים יהיו בטוחים יותר מאלה הנהוגים בידי אדם, אולם יהיו מצבים שבהם רובוט יצטרך לקבל החלטות ששמות חיי אדם על הכף. ולמערכת השיקולים הזו נצטרך קוד אתי וערכי שידע להתמודד עם שאלות כאלו. וקוד אתי כזה, כידוע, שמור לנו בני האדם

הרב ד"ר מיכאל אברהם: "קיומו של ארגז כלים של בינה מלאכותית אינו אינטליגנציה. היכולת לעשות בו שימוש מושכל תוך שימוש בשיקול דעת היא אינטליגנציה. המסקנה היא שטעות לומר שלמים, לסלעים או לציפורים, יש אינטליגנציה נמוכה. אין להם אינטליגנציה בכלל. כך הדבר גם ביחס למחשבים"

atarMbaolam

 

 

 

 

אולי יעניין אותך גם

כתבות אחרונות

Prev Next
מי שנותן, מאושר יותר

  אבינועם הרש לפרשת נח  

לחשוב מחוץ לתיבה

  הרב לונדין על אינטגרציה...

הפרסום בעולם קטן עובד

האתר החדש של עולם קטן

לפרסום באתר או בשבועון

This email address is being protected from spambots. You need JavaScript enabled to view it.

052-5471494 נדיה 

מקום בעולם - מגזין הנוער מבית עולם קטן

לאתר מקום בעולם

שירות לקוחות מגזין - ok@okm.co.il 077-6621680

הירשמו לניוזלייטר

וקבלו את גיליון "עולם קטן" במייל הרבה לפני כולם