בתשובה לירדן ניר-בוכבינדר, 05/11/15 16:55
הלכה למעשה 667121
מבחינת הקושי המוסרי של המתכנת - מה ההבדל בין זה לבין האחריות המוסרית של מהנדס הרכב שעיצב את הפגוש וקובע מה יקרה להולך רגל בתאונה?

ומה אם המשתמש האנושי בנהג האוטומטי בוחר את רמת האלטרואיזם שהוא מעדיף בין 1 ל 10?

האם מבחינתך הקושי המוסרי נובע מהבחירה שמתבצעת ע"י המתכנת או עצם העיסוק בנושא?

אם מתכנתים יותר רגישים להחלטות מוסריות ממהנדסי מכונות זה מעלה כמה שאלות מעניינות. אולי זה בגלל התחושה שהמתכנת מייצר משהו דמוי סוכן שעושה בדיוק מה שהמתכנת הגדיר לו לעשות, ואילו המהנדס מייצר אובייקט שכל אחד יכול לעשות בו מה שהוא רוצה.
הלכה למעשה 667139
לומר שמעצב הפגוש "קובע מה יקרה להולך רגל בתאונה" זה דמגוגי (אני יודע שלא בכוונה). אין מחירון חיי אדם מוחלט שמוצמד להחלטות עיצוביות של הפגוש. יש בכלל בעיצוב פגושים טרייד-אוף של בטיחות מול משהו? לא מנסים פשוט לעשות אותם הכי בטוחים שאפשר, במסגרת גבולות גזרה [הא!] כלליים של עיצוב ומחיר? אולי לגבולות הגזרה האלה משמעות בטיחותית כלשהי, אבל גם אם כן זה לא משהו שמעצב הפגוש מתמודד איתו חזיתית [הא!] בזמן שהוא עובד.

מה אם המשתמש בוחר בין 1 ל-‏10? אני כופר בדיוק בזה שאנחנו קרובים בכלל ליכולת טכנולוגית, שלא לדבר על צורך טכנולוגי, לתכנת שליטה כזו. אולי נגיע לשם יום אחד רחוק, אולי לא.

אני חושב שהעניין הקריטי כאן הוא שאנחנו - ואני מניח שגם מהנדסי המכוניות האוטומטיות היום - לא יכולים באמת לשלוט באיזושהי רמה של סבירות בתוצאות של אלגוריתמי היגוי שונים במצב של תאונה מתקרבת תוך שלוש שניות ואובדן בלמים. עכשיו אתם אומרים לי "כן, אבל בוא רגע בשביל הצחוקים וההחכמה האינטלקטואלית נניח שכן יש שליטה ודאית." אז לא: חוסר הידיעה הזה הוא קריטי לכל המחשבה המוסרית שלנו. אני לא יודע אם שמים על זה מספיק דגש בפילוסופיה של המוסר. אולי צריך לתת לזה שם: "עיקרון אי הודאות". זאת אולי הבעיה בדילמות קרונית: אומרים לאנשים לקבל החלטה מוסרית בסיטואציה שזרה למחשבה המוסרית שלהם. היא זרה להם, ואולי הם לא מודעים לזה, לא בזה שפתאום יש להם שליטה על מה יקרה לאחרים, אלא בזה שאנחנו זורקים עליהם ודאות (או אי-ודאות שמנוסחת בהסתברויות מספריות מדויקות) שבתוצאות ההחלטות שלהם.

אני לא אומר שאי ודאות זה טוב. יותר ידע זה יותר טוב. אולי יום אחד נגיע ליכולת ואפילו לצורך לתכנת מכונות להתנהגות בדילמות קרונית. אם וכאשר ילדינו יהיו שם, "החוש המוסרי" שלהם יהיה שונה משלנו עכשיו. אני חושב שהדבר הנכון הוא... לחכות ולראות מה יראה להם נכון באותו מצב. אנחנו יכולים לנחש, אבל אני בספק אם אנחנו יכולים לשפוט אותם. ההיסטוריה הטכנולוגית כבר חידדה את חושינו המוסריים כשהמצאנו את הרובה, את פצצת המצרר, את פצצת האטום, וגומר.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים