בתשובה לאייל מולד(ר), 04/06/04 10:48
רק אם הם ממש רעבים :-) 223480
מאיר יגר • בתשובה לאייל מולד(ר) יום ו', 4/6/2004, 15:08
תודה על הברכות.

ראשית, אינני סבור, שבתרבות המד"ב זה מובן מאליו שניתן ליצור מכונות אינטלגינטיות אך בהכרח לא אמפטיות. נהפוך הוא: יצירות העוסקות בתבונה מלאכותית, מעמידות לא אחת במרכז הדיון את היחס בין רגשות (ובכללן אמפטיה) לבין תבונה. למשל, השאלה, האם רובוט יכול לאהוב, היא אחת המרכזיות בסרט AI. דוגמאות מוקדמות יותר תמצא גם בסיפורי אסימוב (איש יובל המאתיים, סיפורי סוזן קלווין ועוד). פעמים רבות הסברה היא, שככל שהמכונה תבונית יותר, כך חייבות להתעורר סוגיות רגשיות (דוגמא אופיינית: דאטה מ"מסע בין כוכבים"), ואז השאלה הקרדינלית היא: היכן עובר הקו המבדיל בין אדם למכונה, או בלשון אחר: מתי מכונה מפסיקה להיות "מכונה" והופכת להיות "אדם"?

אלא שבמקרה של פיליפ ק. דיק, אני סבור שמה שבאמת הטריד אותו היא דווקא השאלה: מתי אדם מפסיק להיות "אדם" והופך להיות "מכונה"? השאלה התעוררה במלוא חריפותה בעת שערך תחקירים מעמיקים על הנאציזם (כהכנה לספרו "האיש במצודה הרמה"). במהלכם הוא קרא יומנים של אנשי אס.אס. והזדעזע. מיצירותיו של דיק עולה, שגם אם אמפטיה היא נטיה פשוטה להבנה, ובהחלט אינה יכולת מיסטית, הרי שהיא בדיוק הדבר שאינו ניתן לחיקוי.

חשוב לציין, שאת דיק לא ממש מעסיקה השאלה, האם ניתן ליצור מכונה בעלת יכולת אמפטית. אצלו האנדרואיד אינו מטרה, אלא אמצעי: כשהוא שואל "מהו האדם", ורוצה למתוח את הקו המבחין בין אדם לבין "לא אדם", אז הוא משתמש באנדרואיד כמייצג של אותו "לא אדם".

אחרון חביב: האמירה ש"הם [הממשלה]יעשו זאת גם לכולנו בקרוב" איננה מסקנה אלא מייצגת חשש אמיתי של דיק ומבטאת את יחסו לממסד, במיוחד בתקופה בה נאמרה.
רק אם הם ממש רעבים :-) 223555
אייל מולד(ר) • בתשובה למאיר יגר יום ו', 4/6/2004, 18:41
נראה לי שיש פה בעית מינוח מסויימת לגבי המילים "מכונה" ו"תכנות".

אדם הוא יצור מכני לא פחות מאשר שעון כיס. הוא פועל עפ"י סט כללים מוגדר היטב שאנחנו מבינים לא רע (כימיה, פיסיקה קוואנטית במקרה הגרוע). מה שאנחנו לא מבינים זה איך הכללים הללו מתורגמים להתנהגות האנושית המופלאה לה אנחנו עדים, אבל זה לא רלבנטי.
המונח "תכנות" במשמעותה המקובלת (לפחות זו שמשמשת מתכנתים) פירושו קביעת הכללים המכניים לפיהם פועלת מכונה כלשהיא. לפיכך אין שום מניעה תאורטית לתכנת מכונה שמחקה בן-אדם ב-‏100%, כולל אמפטיה (שלגביה הקשיים הפרקטיים הם אפילו פחותים).

המשמעות האחרת שבה השתמשת במילים "לתכנת" ו"מכונה" לא ברורה לי לגמרי. מההקשר, אני יכול להבין שאתה מתייחס ל"תכנות" כהתנייה שמבוצעת על בני אדם, לפעול עפ"י סט כללים חיצוניים תוך הדחקת שיקול דעת ורגש עצמאיים (שכזכור גם הם מכניים לגמרי). זהו תהליך ברמת ארגון אחרת לגמרי ויש לו מינוחים הולמים יותר (נניח, "קונפורמיות", אפשר למצוא עוד).

בקיצור, כשאתה כותב "אמפטיה לא ניתנת לחיקוי", למה בדיוק אתה מתכוון?
אני חושב אחרת 223628
מאיר יגר • בתשובה לאייל מולד(ר) יום ו', 4/6/2004, 22:13
אישית, אינני סבור שהאדם הוא *רק* יצור מכני, לא פחות מאשר שעון כיס. אולי במובן הפיסיולוגי ניתן להתייחס אל הגוף כאל מכונה, אבל כפי שכבר ציינתי בגוף המאמר, השאלה שמעניינת את דיק היא, האם לאנדרואידים יש נשמות? אדם הוא לא רק גוף - הוא גם נשמה, או נפש. בהערת הסוגריים שלך אתה מציין שרגש ושיקול דעת גם הם מכנים לגמרי. אני חושב אחרת. גם אינני חושב שנפש האדם פועלת ע"פ אוסף כללים מוגדר היטב, ובטח שעדיין איננו מבינים אותה היטב.

אתה אומר שתכנות "פירושו קביעת הכללים המכניים לפיהם פועלת מכונה כלשהיא. לפיכך אין שום מניעה תאורטית לתכנת מכונה שמחקה בן-אדם ב-‏100%, כולל אמפטיה". כיוון שמעבר לצרכים הפיסיולוגיים המיידיים, נפש האדם, רצונותיו, רגשותיו ונשמתו הם אלו שמדריכים את פעולותיו, וכיוון שהללו אינם מבנים מכאניים, הרי שיש מניעה לתכנת מכונה שמחקה התנהגות אנושית, ולא רק מניעה תיאורטית.

במשמעות האחרת שציינת השתמשתי כדי לציין את ביקורתו של דיק כלפי הממסד, השלטונות ובעלי השררה למיניהם. אני נוטה להסכים דווקא איתו. קח לדוגמא את המדינה הנאצית של פעם או הקומוניסטית של היום: האם באמת אתה חושב ש"חינוך לקונפורמיות" הוא המונח שמתאר היטב את מה שקורה שם? אני חושב, למשל, שבצפון קוריאה, או בסין של מאו, או במקרים נוספים אחרים, הממסד בהחלט מנסה לתכנת את האזרחים ולא לעודדם לקונפורמיות. (בהקשר הזה אני ממליץ לקרוא את סיפורו הקצר של דיק, "אמונת אבותינו", שמופיע באנתולוגיה "חזיונות מסוכנים" בעריכת הארלאן אליסון).

בקיצור, כשאני כותב "אמפטיה לא ניתנת לחיקוי", אני בסה"כ מגיב על דבריך ש"אמפטיה נראית לי נטיה די פשוטה להבנה - ובהחלט לא יכולת מיסטית בלתי ניתנת לחיקוי". אני מתכוון, שדיק רואה באמפטיה כקו המבחין בין אדם למכונה. אם ניתן היה ליצור מכונה שתדע לחקות התנהגות אמפטית, הרי שע"פ דיק לא ניתן היה יותר להבחין בין אדם לבין מכונה. הדרך היחידה לעשות זאת בספר (ובסרט) היא דרך אותו מבחן, וויגט-קמפף.
אני חושב אחרת 223650
אייל מולד(ר) • בתשובה למאיר יגר שבת, 5/6/2004, 3:01
במאה ה-‏20 ותחילת ה-‏21, לטעון שנשמה זה משהוא שלא פועל עפ"י אוסף כללים מוגדר היטב זה פשוט אמונה תפלה. עובדה אמפירית בדוקה, היא שכל התנהגות מנטלית שהיא נובעת מתהליך פיסי במוח. חוקי הפיסיקה (שמפעילים את החלקיקים במוח) הם בהחלט אוסף כללים מוגדר היטב. השאלה אם אנחנו מבינים היטב איך תהליך פיסי X מתרגם לפעילות מנטלית Y (או אפילו אם אנחנו נוכל אי פעם לדעת זאת) היא מחוץ לענין.

יתר על כן, הערתי המקורית היא אורתוגונלית לשאלה האם ליצור "ישות מנטלית" מלאכותית זה מסובך עקרונית (כמו שאתה חושב) או רק מסובך פרקטית. ברור שהאמפטיה היא מבין התופעות המנטליות הפשוטות, ואילו התבונה היא התופעה המנטלית המופלאה והמורכבת ביותר (וכנראה התופעה המורכבת ביותר הידועה לאנושות). ניתן אם כן לחשוד שמי שמספיק מתוחכם ליצור מכונה נבונה באמת, יוכל בקלות לעשות אותה אמפטית. למה דיק סבור שלא יהיה כך?

--------
נדמה לי שהתשובה קשורה איכשהוא לבילבול המושגים לגבי "תכנות", ששוב חזרת עליו‏1. הרי "תכנות" במובן השני של שליטה על הניסיון החושי, מכתיב את רוב ההתנהגויות שלנו, אבל לא את הנטיות מולדות כגון רגשות ובפרט אמפטיה. וכך יוצא שהאחרונים הם משהוא מיסטי שלא ניתן להכתבה, בפרט למכונות. אלא שלכך אין שום קשר לתכנות מכונות.
אני אנסח את ההבדל בין 2 המשמעויות בצורה יותר חריפה: המשמעות הנכונה של "תכנות" היא בניית מכונה. כאשר אתה בונה מכונה, אתה מגדיר את כל רכיביה היסודיים ואת הקשרים בינהם, וכך אתה קובע חד-ערכית את התנהגותה כפונקציה של הקלט. ולהבדיל, המובן השני (והשגוי) הוא למעשה מניפולציה של נתוני חושים כדי להכתיב את התנהגות המוח. יש דימיון מסויים לתכנות - כמובן שרוב ההתנהגויות והדעות שלנו תלויות באופן קריטי בניסיון החושים. אלא שזה בהחלט לא התלות הישירה והבלתי אמצעית של מכונה במבנה שלה (קרי בתכנות שלה). לכן חשוב להבין שהשימוש במונח "תכנות" הוא בסה"כ אנלוגיה, ותאורים נכונים יותר הם "שטיפת מוח", "התניה", "אילוף". כדי להשלים את התמונה, כל הרגשות והכשרונות המולדים שלנו נובעים באופן חד-ערכי מהמטען הגנטי (ומהתנאים ברחם, בקטנה). בקיצור, הרבה יותר נכון להגיד שדוקא הם מתוכנתים מראש.

‏1 משום מה התמקדת בשם הסתמי והלא מוצלח "קונפורמיות" ולא בהסבר עצמו.
אני חושב אחרת 223693
מאיר יגר • בתשובה לאייל מולד(ר) שבת, 5/6/2004, 13:36
שוב ושוב אתה חוזר לשאלה "שמי שמספיק מתוחכם ליצור מכונה נבונה באמת, יוכל בקלות לעשות אותה אמפטית. למה דיק סבור שלא יהיה כך?", בעוד שהדגשתי כמה פעמים שזו *לא* הנקודה אצל דיק. הוא לא מתעניין בגבולות הטכנולוגיה (האם ניתן ליצור מכונה תבונית ואמפטית‏1) אלא בגבולות האדם (מותר האדם מן המכונה - מהו?).

לכן אני מציע שוב: האנדרואיד של דיק הוא אמצעי ולא מטרה, דווקא בכך שדיק מקנה לו התנהגות דמוית-אנוש בכל דבר, מלבד היכולת האמפטית. זו דרכו לומר, שמותר האדם מן המכונה הוא ביכולת האמפטית שלו. אפשר להתווכח על כך, אבל זו דעתו של דיק.

ב"האם אנדרואידים" הוא כותב (עמ' 30): "מסתבר שאמפטיה יכולה להתקיים רק בקהילה אנושית, בעוד שבינה כזו או אחרת יכולה להימצא בכל מערכה ומחלקה של עולם החי, אפילו בין העכבישאים. סגולת האמפטיה מחייבת מן הסתם אינסטינקט קבוצתי מושלם; אורגניזם בדיד, כגון העכביש, אינו זקוק לה; למעשה, הסגולה הזאת אפילו עלולה לחבל ביכולת השרידה של העכביש...
כי ביסודו של דבר, סגולת האמפטיה מטשטשת את התחומים בין הצייד לבין הקורבן, בין המצליח לבין המובס. כמו במיזוג עם מרסר, כולם מטפסים ביחד - או נופלים ביחד, כשהמחזור מגיע לסיומו, אל מכתש עולם הקבר...
מסתבר שהרובוט דמוי-האדם הוא טורף בודד."

כאמור, השאלה התעוררה אצלו, בין היתר, כשהוא ניסה להבין את תופעה הנאציזם ומחנות ההשמדה. בהמשך לאותו קטע, הוא כותב: "בעיני ריק דקארד, רובוט דמוי אדם נמלט, שהרג את אדוניו, שצויד בבינה עדיפה על בינתם של בני אדם רבים, שאין לו יחס לבעלי חיים, שאין לו שום יכולת לחוש שמחה אמפטית על הצלחתה של צורת חיים אחרת, ושום יגון על מפלתה - בעיניו, זו היתה התגלמות ה*רוצחים*".

*זו*, בעיני, הנקודה של דיק, ולא האם ניתן או לא ניתן ליצור מכונות כאלו. גם אם לדבריך, "ברור שהאמפטיה היא מבין התופעות המנטליות הפשוטות, ואילו התבונה היא התופעה המנטלית המופלאה והמורכבת ביותר", עדיין האמפטיה היא הקו המגדיר, לדעתו, את מותר האדם.

‏1 וכדי להדגיש שזו לא הנקודה שלו, שואלת רייצ'ל את דקארד, מדוע לדעתו נדרשה להצטרף אליו, ודקארד עונה לה (עמ' 161): "לצפות, לקלוט בפרטי פרטים את מה שעושה נקסוס-‏6, החושף אותו במבדק וויגט-קמפף."
ורייצ'ל מאשרת: "במבדק, ובכל דרך אחרת. כל מה שמעניק לו צביון שונה. ואז אני אדווח והתאגיד יכניס שינויים בדנ"א שבאמבט הזיגוטות שלו. ואז נבנה את נקסוס-‏7, וכשיעלו עליו נשנה גם אותו, ובסופו של דבר יהיה לתאגיד טיפוס שאי-אפשר לזהותו".
אני חושב אחרת 223834
אייל מולד(ר) • בתשובה למאיר יגר יום א', 6/6/2004, 10:07
נראה לי שהבנתי: הטענה היא שאמפטיה היא תמצית ויחוד האנושיות. קרי מה שמאפשר לנו להצמיד לאדם או להתנהגות את התואר "אנושי".
אם זה כך, ואכן לא מתעניינים בגבולות הטכנולוגיה, הרי שלכאורה הניסוחים שלך מבלבלים מאוד: מותר האדם מן ה"מכונה", לא ניתן "לתכנת" אמפטיה, וכו'.
אני חושב אחרת 223886
מאיר יגר • בתשובה לאייל מולד(ר) יום א', 6/6/2004, 12:15
אם כך, ואכן הניסוחים בלבלו - אני מתנצל.

אכן, הטענה שאמפטיה היא תמצית האנושיות ויחודה, היא אחת הטענות שדיק טוען ביצירותיו.

בניסוח "לתכנת" אמפטיה לא השתמשתי במקור, והוא השתרבב לדיון לראשונה בתגובה 223495. עם זאת, דיק כן מתייחס לעניין הזה באותו דיאלוג של דקארד ורייצ'ל שהזכרתי קודם.

מדוע הניסוח "מותר האדם מן המכונה" מבלבל? זוהי שאלה לגיטימית שעלתה, בין היתר, עם התפתחות הקיברנטיקה. (למשל: ב"2001", האם כאשר דייב באומן מנתק את האל 9000 הוא בעצם מבצע רצח? האם כאשר האל רוצח את האסטרונאוטים האחרים הוא בעצם פועל מתוך הגנה עצמית?)
אני חושב אחרת 223930
אייל מולד(ר) • בתשובה למאיר יגר יום א', 6/6/2004, 15:13
נראה לי שהדוגמא שלך הבהירה לי לגמרי את כוונתך. הניסוח "מותר האדם מן המכונה" בעצם שואל מהי רמת המורכבות של עצם מלאכותי שבה הוא חדל להחשב *מבחינה אתית* לסתם גולם דומם והופך להיות יצור שניתן לייחס לו אנושיות, זכויות, אחריות, וכו'. וכך גם לגבי בן-אדם - מתי מבחינה *אתית* הוא נחשב למכונה (למשל, כאשר הוא פועל אך ורק עפ"י הוראות מבחוץ וללא כל שיקול דעת עצמאי).
הסיבה שהתבלבלתי היא שהתייחסתי למובן היותר פורמלי וצר של מכונה, ולא למובן האתי של המילה - ואז ברור שגם אדם הוא מכונה.

ולעניין עצמו (אחרי שסוף כל סוף הבנתי אותו). לדעתי תבוניות היא תנאי הכרחי לייחס "אנושיות", "אחריות מוסרית" וכיוב' לכל ישות שהיא. וודאי שזהו תנאי קודם לכל סיפור האמפטיה (לא ניתן ליחס אנושיות ליצור חסר בינה, אמפטי ככל שיהיה). כמו כן, אישית יהיה לי קשה מאוד להתייחס לאנדרואידים מספרו של דיק כאל גלמים לא אנושיים.
אני חושב אחרת 223844
אלון עמית • בתשובה למאיר יגר יום א', 6/6/2004, 10:43
אז בוא נתווכח, בשביל זה משלמים לנו. "מותר האדם מן המכונה הוא ביכולת האמפטית שלו"?
אני חושב אחרת 223887
מאיר יגר • בתשובה לאלון עמית יום א', 6/6/2004, 12:20
לדעתו של דיק - כן. ניסיתי להסביר כיצד זה משתקף בספרו.

כדי שנוכל להתווכח כהלכה, אשמח אם תסביר לי מדוע אתה חושב ש*דיק* סבור אחרת.
אני חושב אחרת 224089
אלון עמית • בתשובה למאיר יגר יום ב', 7/6/2004, 8:36
אה, סליחה. חשבתי שכשכתבת ''אפשר להתווכח על זה'', התכוונת ''אפשר להתווכח אם דיק צודק''. אין לי יכולת לדון בשאלה אם זו דעתו של פק''ד, והאמת זו גם נראית לי מטא-שאלה פחות מעניינת מהשאלה עצמה.
האמפתיה לא ייחודית לאדם 224871
צלופח חלקלק • בתשובה למאיר יגר יום ד', 9/6/2004, 13:33
בתחום חקר האינטיליגנציה בבעלי החיים (לא כולל אדם) מקובל שהאמפתיה היא תכונה ייחודית לאדם, המחייבת מוח מפותח, בדומה לעוד מספר תכונות כמו יכולת לפתור בעיה חדשה (בניגוד לשינון פיתרון מוכר).
בשנים האחרונות מחקרים הראו שהאמפתיה כנראה קיימת גם אצל עורבים ,תוכים ודולפינים(למרות שהמבחן למדידת אמפתיה נתון לויכוח).
כל בעלי החיים הנ''ל נחשבים תבוניים (פחות או יותר - התוכי והצלופח לא משהו..)
רק אם הם ממש רעבים :-) 223804
ראובן • בתשובה למאיר יגר יום א', 6/6/2004, 9:33
טוב שכתבו מאמר על פ.ק.ד., מחכה בכיליון עניים לחלק ב.
הבעיה עם "אנדרואידים" כמו על כל הספרים שלו שקראתי, זה שבאיזשהו שלב, לקראת השליש האחרון של הספר, הוא מאבד מיקוד ומתחיל להכניס כל מיני אירועים הזויים. יש כאלה שיגידו שזה חלק מהיופי, לי זה סתם מציק.

בכל אופן, אם כבר AI הועלה כאן, עם כל הקיטשיות של הסרט, היתה לו נקודה מעניינת אחת - תמיד חושבים שמכונות יעלו עלינו ביכולות טכניות, אבל בAI , עיקר הסרט מדגיש איך מכונות יוכלו להיות "טובות" מאיתנו במישור ה*ריגשי* - לאהוב יותר חזק ויותר בנאמנות מהאנשים. כמה סרטים ראינו על האדם הנקשר נפשית למכונה שלו ( מכונית, רובוט או אקדח). הנה דוגמא של מכונה שעושה הכל כדי לזכות באהבת אם, למרות שליבה נשבר שוב ושוב, בעוד האם אדישה יחסית, ומחליטה בגחמה של רגע <ספויילר> להצית אצל דיוויד "אהבת אמת", ובכך להרוס את "חייו".
חזרה לעמוד הראשי המאמר המלא
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים
האייל הקורא RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש © כל הזכויות שמורות