בתשובה לדורפל, 30/10/07 19:26
לרבע את הלולאה. 461603
אז מה אם אתה ישות לא מונוליטית? זה לא סותר את עיקרי הדברים של השייח בפתיל הזה.

אני בהחלט מאמין שה"אני" וידיעותיו וחוויותיו הוא תוצאה של מערכת מורכבת, מבוזרת ומבולגנת - אבל שמועיל ותקף לראות את המערכת הזו ברמת ההפשטה שבה היא כן ישות אחת - אני. ואני מסכים בהחלט עם השייח (בעקבות דקארט וקאנט וכאלה) שהחוויות שלנו בגוף ראשון הן נתון ודאי, ששום ידיעה על התת-מערכות לא יכולה להפריך. למעשה, הודאות הזו היא תנאי בסיסי בכל הסקה תצפיתית ובכל הסקה לוגית (איך אתה יודע שהמחוג של האמפרמטר הראה 8? כי ראית זאת. איך אתה יודע שראית זאת? אתה פשוט יודע. מה שנחשב למדעי הוא רק מה שפומבי, אבל כל מי שרוצה לעשות שימוש כלשהו בידע הפומבי הזה (למשל, לדעת אותו) צריך להשתמש במנגנוני הגוף-ראשון הלא פומביים שלו.
לרבע את הלולאה. 461633
"אז מה אם אתה ישות לא מונוליטית?" - אז מה? אז אני רומז למה שאני כן - אוסף של אטומים חסרי בינה, שמרכיבים רקמות בודדות במוח שלי, שגם הן חסרות בינה, וכל העסק הזה, למרות שהוא מכניסטי לגמרי, מרכיב משהו שחושב, מרגיש ומודע לעצמו - לפחות לדעתו של שייח ספיר. ואם החלבונים הבלתי-מודעים של המוח שלי מסוגלים להקים דבר שכזה, למה שדבר דומה לא יוכל לקרות גם עם רכיבים וירטואליים? ואני לא מתכוון רק לסימולציה של מוח אנושי על מחשב, אלא גם לתוכנות מקוריות וחדשות שיפיקו התנהגות שנראית לנו מודעת לעצמה. כשספיר מסתכל על מחשב, הוא מתעקש להשתמש רק בזום הגבוה ביותר שעומד לרשותו, ולהצהיר "לא יכול להיות שסט חוקים של העברת אפסים ואחדים מימין לשמאל ייצר 'מודעות'!" אבל כשהוא מסתכל עליי ועל עצמו, הוא פתאום מוכן להביט בתמונה הגדולה, לראות רק את התוצאה המורכבת שמופקת, את הרגשת העצמיות הסובייקטיבית שלו (שלא ברור לי עדיין למה מחשב לא מסוגל לה), והוא מסרב לבחון "את הברזלים", ולראות שאני והוא לא שונים מהותית ממחשב, מהבחינה שיש לנו מודעות שמורכבת מאוסף (מצטער על החזרה) של דברים לא-מודעים.

"אבל שמועיל ותקף לראות את המערכת הזו ברמת ההפשטה שבה היא כן ישות אחת - אני" - גם אני חושב ככה, ולכן אני בכלל מדבר על "אני".
לרבע את הלולאה. 461666
אבל השייח כתב "אני יודע ב_ד_י_ו_ק מה טבע ההרגשות שלי, מעצם העובדה שאני חווה אותם", ואתה כתבת שאתה חולק על כך. למה?

לעיקר הדברים, השאלה שבמחלוקת היא "נניח שהתודעה האנושית היא תוצאה של תהליכים פיזיקליים פשוטים ברמה הנמוכה (נדמה לי שגם השייח מסכים להנחה הזו), האם ייתכן שניתן להפיק תודעה כתוצאה של תהליכים *חישוביים* פשוטים?" ונניח ששמים בצד את טיעון פנרוז ודומיו, ומבקשים להישאר בתחום הטיעונים המטאפיזיים.

אז נראה לי שיש ביניכם מחלוקת סמויה, שכדאי להציף אותה, על מי נטל ההוכחה. מצד אחד, אנחנו יודעים איך אפשר להפיק כתוצאה מתהליכים חישוביים אפקטים של הנפש כמו זכרון, הסקת מסקנות וכו'. מצד שני, אין לנו עדיין מושג ירוק איך להפיק תודעה. מכיוון אחר, אין לנו עדיין מושג ירוק איך להסביר את התודעה על-סמך מה שאנחנו יודעים על פעילות הנוירונים ומרכיבי המוח - אילו היינו יודעים, היינו יכולים אולי להרכיב את הרכיבים החישוביים המתאימים בסדר הנכון, ולדעת שנקבל תודעה. אבל אנחנו לא.

אתה ואחרים כאן שוב ושוב דורשים מבחנים התנהגותיים לתודעה. אבל זו נראית לי מלכתחילה דרישה לא הוגנת: אנחנו יודעים מה זה בכלל תודעה על סמך החוויות בגוף ראשון. לכן קשה מאוד לשכנע שמבחנים התנהגותיים כלשהם יעידו על תודעה - שוב, נשאלת השאלה על מי חובת ההוכחה.

אני דווקא משתעשע במחשבה שאפשר לבחון האם למכונה מלאכותית תבונית-מבחינה-התנהגותית יש קוואליה‏1, כך: נשאל אותה "האם יש לך קוואליה?". אפשר, כמובן, לתכנת אותה כך שהיא בכל מקרה תענה "כן". אבל אני לא מעוניין כאן במכונה שתעבור את מבחן טיורינג. עם קצת מזל, אני מקווה שאם אפשר לתכנת מכונה תבונית-מבחינה-התנהגותית, אז אפשר לתכנת אותה שתהיה *כנה* - שמתוך הבנת הקוד שלה אנחנו יודעים שהיא לא משקרת‏2. אם אין לה קוואליה, בהכרח או שהיא תאמר "לא", או שהיא תאמר "אני לא מבינה מה זה קוואליה", ולא נצליח להסביר לה. במילים אחרות, הסיבה הכי משכנעת שגורמת לי להאמין שלרוב האנשים יש קוואליה היא שדי קל להסביר לרובם מה זה קוואליה.

1 בפתיל אחר התווכחתי עם השייח, וטענתי שלטעמי קוואליה היא לא תנאי קריטי לתבוניות, ושמה שתבוני מבחינה התנהגותית הוא מבחינתי תבוני-נקודה, גם אם אין לו חוויה של הבנה. הסיוג כאן "מבחינה התנהגותית" הוא כדי להישאר במונחים שיותר בקונצנזוס.
2 יכול להיות ששקר הוא תוצר לוואי הכרחי של תבונה, ויכול להיות שהוא תוצר-לוואי שאינו הכרחי אבל שברמת מורכבות התוכנה של תבונה-התנהגותית כבר לא נדע האם היא עשויה לשקר או לא. אבל שתי האפשרויות האלה נראות לי אינטואיטיבית קצת פחות סבירות מהאפשרות שאני מניח - כאמור, עם קצת מזל.
לרבע את הלולאה. 461672
כתבתי שאני מסכים שהדוגמה עם השכן לא הייתה טובה. העניין שהשכן מדבר על משהו חיצוני לו, בזמן שהוא מדבר על משהו פנימי לו, היה חלק מהסיבה שהדוגמה עם השכן לא טובה.

לדעתי חובת ההוכחה על מי שטוענים שיש בתודעה משהו שהוא מעבר למשהו מכניסטי, שההרגשת העצמי היא משהו מיוחד שיש טעם להתייחס אליו, ולא רק להתנהגויות שנובעות ממנו. זה שאנחנו לא מבינים *עד הסוף* איך הגוף האנושי מפיק את התודעה והתנהגויותיה, לא אומר שהפקת אותן ההתנהגויות בדרכים אחרת היא פחותה או שונה מהותית. למה? כי אין לנו שום ראיה שזה לא ככה. כי הראיות היחידות שיש לנו לשם השוואה הן ההתנהגויות המופקות, וטרם הוצגה סיבה להאמין שזה לא מספיק, שיש בכלל משהו מעבר לזה.
לרבע את הלולאה. 461684
"חובת ההוכחה על מי שטוענים שיש בתודעה משהו שהוא מעבר למשהו מכניסטי" - אם "מכניסטי" = פיזיקלי, אני מסכים, ואני חושב שגם השייח. אם "מכניסטי" = חישובי, לא התשכנעתי על מי חובת ההוכחה.

בעצם, אני צריך שתזכיר לי את עמדתך בנוגע לקוואליה. נניח שמחשב מתנהג כמו בעל-תודעה. האם, לשיטתך
(א) יש לו תודעה, ויש לו קוואליה
(ב) יש לו תודעה, אבל אתה לא יודע האם יש לו קוואליה או לא
(ג) אין דבר כזה קוואליה
(ד) אחר (פרט)
seek, and ye shall find 461728
לשמחתי הרבה, יש בויקיפדיה ציטוט בנושא של מי שכתביו בנושאים הנ"ל תמיד גורמים לי להרגיש שהוא הוציא לי את המילים מהפה (ושיפץ אותן משמעותית) - מארווין מינסקי. שוב אני מצליף בעצמי על שלא מצאתי את הזמן להמשיך לקרוא את ספרו The Society of Mind.

"Now, a philosophical dualist might then complain: "You've described how hurting affects your mind — but you still can't express how hurting feels." This, I maintain, is a huge mistake — that attempt to reify 'feeling' as an independent entity, with an essence that's indescribable. As I see it, feelings are not strange alien things. It is precisely those cognitive changes themselves that constitute what 'hurting' is — and this also includes all those clumsy attempts to represent and summarize those changes. The big mistake comes from looking for some single, simple, 'essence' of hurting, rather than recognizing that this is the word we use for complex rearrangement of our disposition of resources".

דרך אגב, מה זה "*יש* לך קוואליה"? חשבתי שהמשמעות של "קוואליה" הוא "טבעה של התחושה", או "איך זה מרגיש לחוש [את איקס]". מבלי לקרוא את כל הערך, נראה שויקיפדיה מסכימה איתי.
seek, and ye shall find 461801
בדיון הזה עלתה האפשרות, שלרוב האנשים נראית אפשרית לוגית (ולחלקם נראית גם אקטואלית), שתחושת האדום שלך שונה מתחושת האדום שלי - לצורך העניין (בעקבות ניסוי המחשבה הפילוסופי הסטנדרטי לעניין הזה) נניח שאני חווה אדום כפי שאתה חווה ירוק, וההפך. קל לראות שלא ניתן יהיה להסיק הבדל כזה מהתנהגותנו. האם לך זה נראה אפשרי לוגית?

(קוואליה היא "איך זה מרגיש לחוש", בדגש על החווייה. לרבים, וגם לי, נראה אפשרי לוגית שמשהו יתנהג, לפחות מרוב הבחינות, כמוני, אבל ללא חוויית תחושה. תחת הנחה זו יש משמעות לשאלה "האם יש לו קוואליה", ששאלתי דווקא בגוף שלישי ולא שני.)
seek, and ye shall find 461804
אז אולי תוכל להבהיל לי מה קשורה קוואליה לעניין הבינה מלאכותית?

קוואליה בצד ונוירולוגיה בצד, האפשרות שיש משהו *בהתנהגות* האנושית שאינו ניתן לתיאור אלגוריתמי נשמע לי מיסטי. זה אולי קצת מסובך, אבל בלתי אפשרי באופן עקרוני? אני לא מצליח להבין למה.

הנה ניסוי מחשבתי: מצליחים לבנות מכונה שמתנהגת בדיוק כמו אדם, ומסוגלת לנהל שיחות ומערכות יחסים בסביבה אנושית כמוני וכמוך. אבל בזכות פריצת דרך מדעית-פילוסופית, אפשר להוכיח שהיא לא חווה דבר (על סמך האופן בו בנו אותה, לא על סמך באופן בו היא מתנהגת).

זו הצלחה או כישלון, לתומכים בתזה החישובית?
seek, and ye shall find 461862
לדעתי היא לא קשורה. לעניין הניסוי שלך - אני מנחש שמחנה התומכים בתזה החישובית יתחלק לכאלה שיראו בזה הצלחה, כאלו שיראו בזה כישלון, ורוב שיחשבו שזה לא משנה. אבל שאלה יפה בהחלט.
seek, and ye shall find 461808
אפשרי, אבל לא משנה דבר. מאותה הסיבה שזה לא מדיד - לא משנה דבר - זה גם לא מעניין (''לא מעניין'' מהבחינה של ''חשוב''. לשבת ולתת למחשבות להתרוצץ על זה דווקא שורף את הזמן יופי).
seek, and ye shall find 461834
אז בוא נתחיל מזה שאתה קצת חולק על מינסקי: כאב הוא לא זהה לסט מסוים של נטיות ההתנגותיות, לכל היותר ההבדל ביניהם לא מעניין.

חוץ מזה, ההבדל הזה הוא עיקרו של מה שמתכוונים אליו לרוב כשמדברים על תודעה. יכול להיות שלרוב הצרכים תודעה היא באמת לא כל כך מעניינת כמו שעושים ממנה: כפי שאמרתי כבר בדיון, אני בהחלט אשמח לקרוא למחשב "נבון" גם אם אין לו שמץ של *חוויית* הבנה.
seek, and ye shall find 461846
הסבר בבקשה שוב באיזו צורה אני חולק על מינסקי.
seek, and ye shall find 461864
מהציטוט שהבאת ממינסקי קשה לי לשים את האצבע בדיוק מה דעתו בסוגיה, אבל רוח הדברים שאני מבין היא שהכאב, וכמוהו תחושת הירוק, אינן אלא סך ההתנהגויות (יחסי הקלט-פלט), והקשרים למצבי נפש אחרים, שקשורים בראיית ירוק (בז'רגון, התזה הפונקציונליסטית, אחותה הצעירה והמוצלחת של התזה הביהייביוריסטית). בניסוי המחשבה שבו אנו הפוכים רק בתחושת הירוק הסובייקטיבית שלנו, אין בינינו הבדלים בהתנהגויות ובקשרים, ומכאן שאין הבדל בתחושת הירוק.
seek, and ye shall find 461901
ואני חולק עליו?
seek, and ye shall find 461965
אתה הסכמת שיש הבדל (אמנם לא מעניין) בתחושת הירוק.
seek, and ye shall find 461998
לא אמרתי שיש הבדל, אמרתי ש"אפשרי" שיש הבדל. אני לא חושב שמינסקי יתווכח עם זה. יש הבדל בין מערכת שזוכרת את מספר העיניים שלי כ-int או כ-uint? יש הבדל. משפיע על משהו? לא ממש. ואם אי-פעם יהיו לי מספיק עיניים בכדי ש-uint לא יספיק, אז יהיה לנו כבר הבדל מדיד בין שתי התפיסות של המספר - או, אם נחזור למקור, להבדל בין מי שתופס ירוק כאדום.
לרבע את הלולאה. 461680
והנה, תוך זמן קצר דורפל בא והזכיר לך שלפעמים קשה מאד להסביר לאנשים מה זה קוואליה.

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים