בתשובה לאח של אייל, 16/06/05 23:44
ציפור קטנה לחשה לי - חלק ב 309334
אתה מתעלם מנתון מאד חשוב על הרובוט הכל-יכול שלך: פרט לזה שאנחנו יודעים שהוא עובר כל מבחן-קוואליה שנמצא בספרים, אנחנו יודעים עליו עוד דבר אחד קטן: שבנו אותו כדי שיעבור כל מבחן-קוואליה שנמצא בספרים.

בהנתן הפרט הנוסף הזה, אני לא רואה שום סיבה להניח שיש לו קוואליה (הוכחה: ההסתברות א-פריורי לקוואליה היא נמוכה; ההסתברות עולה עם הדגמת המעבר של מבחני-קוואליה, משום שבדרך כלל קוואליה היא ההסבר הסביר ביותר להתנהגות כזו. אבל הרובוט-תוכנן-לשם-מעבר-מבחני-קוואליה הוא - בפני עצמו - הסבר מוצלח באותה מידה, וכשצריך לבחור בין שניהם, השני סביר יותר).
ציפור קטנה לחשה לי - חלק ב 309341
יש לך כשל לוגי.

המבחן לא בודק מהן הסיבות שיש לאובייקט קוואליה. הוא בודק האם יש לו קוואליה. המבחן אינו הסיבה שיש לאדם קוואליה, והוא אינו הסיבה שיש לרובוט קוואליה. המבחן רק בא לבדוק האם.

הבעיה שלך היא שאתה עושה כאן הנחה א-פריורית: אם יש לך קוואליה, אבל זה התפתח באבולוציה - אז זה קוואליה לגיטימית. אם יש לך קוואליה, אבל זה תוכנן ע"י מהנדס - קוואליה לא לגיטימית. אבל אין בקוואליה שום דרישה כזו. קוואליה היא: "קיום תחושה סובייקטיבית".

אז הכל חוזר לזה קשה מאד להשתחרר מההנחה הא-פריורית (וחסרת כל הוכחה אמפירית) "קוואליה יש רק לאנשים". איך אומרת הפרסומת? תשתחרר, גבר.
ציפור קטנה לחשה לי - חלק ב 309351
לא, המבחן לא בודק אם לרובוט יש קואליה, אלא רק אם הוא יכול לעבור מבחן לבדיקת קוואליה.
ציפור קטנה לחשה לי - חלק ב 309390
אני אוסף כאלה.

אתה עדיין מתעלם מאותה תכונה מהותית של הרובוט - הוא נכשל במבחן ''האם תכנתו אותך לעבור מבחני קוואליה''.

דווקא בגלל שקוואליה היא קיום התחושה הסובייקטיבית, אנחנו צריכים לבחון את הסבירות שלה כנגד כל ההשערות הרלוונטיות. כשהרובוט עומד במבחני קוואליה, זה יכול להיות בגלל שיש לו כזו, או בגלל שבנו אותו לחקות קוואליה. נכונותה של ההשערה השניה מורידה מאד את הסבירות של הראשונה.
ציפור קטנה לחשה לי - חלק ב 309438
ראה תגובה 309347. התייחסתי לאותה תכונה, ולמבחן הזה שהרובוט נכשל בו כביכול.
ציפור קטנה לחשה לי - חלק ב 309440
אבל אתה מתעלם מזה שבחינה בקואליה איננה דומה לבחינה בריצה, שהיא תמיד אותו דבר - אלא לבחינה במקצועות עיוניים, או למען הדיוק - לבחינה פסיכומטרית כמו שנועדה להיות במקור (כלומר, בלי התכוננות). לכן, כל בחינה בקואליה שתיתן למחשב חדש צריכה להינתן לו לפני שהיא ניתנת לבני אדם - או בפעם הראשונה שהיא ניתנת להם. אחרת זה נחשב העתקה, שהבחינה נפסלת.
ציפור קטנה לחשה לי - חלק ב 309347
התשובה הראשונה שלי לא היתה מובנת כ"כ. וזו בלשון המעטה. אני אתחיל מחדש.

אתה אומר שיש שתי סיבות אפשריות שונות לכך שאובייקט יעבור מבחן קוואליה:
1. יש לו באמת קוואליה.
2. יש לו משהו שהוא אינו ממש קוואליה, אבל מחזיר את אותן תשובות על המבחן ‏1.

אני אומר דבר פשוט: אי אפשר להבין בין 2 הסיבות האלו. אם יש דרך להבחין בין 2 הסיבות האלו, אז היא כמובן צריכה להיות חלק ממבחן הקוואליה.

הטענה "לרובוטים יש משהו אחר מקוואליה, אבל אין דרך חיצונית לראות את זה" היא מיותרת לחלוטין. יש לוותר על זה בגלל התער של אוקאם ‏2.
---

1 שים לב שהדרך שבה בנו את הרובוט, או הסיבה, היא בכלל לא רלוונטית. אתה מקבל את הרובוט בתום הבנייה, כשם שאתה מקבל את האדם אחרי דורות של אבולוציה + שנים של אימון בתור תינוק.
2 זה כמו שאני אגיד שבניגוד לחיות, הבנאדם נוצר בצלם אלוהים ולא התפתח באבולוציה. אבל אין לי שום הוכחה אמפירית. בגלל זה אמרתי - עניין של אמונה. תשתחרר, גבר.
ציפור קטנה לחשה לי - חלק ב 309358
לדעתך החדר הסיני באמת מבין סינית?
ציפור קטנה לחשה לי - חלק ב 309435
תלוי איך אתה מגדיר "באמת מבין סינית". (השימוש במילה "באמת" הוא מעניין מאד..) יש כמה הגדרות אפשרויות:
1. הבנה היא תכונה אנושית. אי אפשר להגיד על חדר שהוא מבין, כפי שאי אפשר להגיד על החדר שהוא אם חד הורית.
2. הבנה היא תכונה מסתורית כמו קוואליה (קוואליה לשיטתו של יהונתן). אי אפשר לבדוק אותה באופן אמפירי. במקרה הזה, המשפט החדר "מבין" סינית, הוא השערה השקולה להשערה "החדר יגיע לגן עדן לחדרים (אם הוא יהיה חדר טוב)".
3. הבנה נבדקת ע"י מבחן בסינית. במקרה הזה, החדר אכן מבין סינית.

מה שמזכיר לי איזשהו שיעור (שבאופן בלתי צפוי נלמד גם באוניברסיטה וגם בצבא) בנושא הוראה - יעדים של שיעור (או קורס) חייבים להיות יעדים מדידים. לכן כשאנחנו אומרים שמטרת השיעור היא "החייל יבין את נהלי הפתיחה באש", אנחנו מתכוונים לזה בצורה מדידה ביותר. אנחנו לא מתכוונים לבדוק האם הוא "באמת באמת בפנוכו מבין" (הגדרה 2).
ציפור קטנה לחשה לי - חלק ב 309451
הבעיה היא שכשאני אומר "מבין באמת" יש לי כוונה מאד מסויימת, גם אם אינני יודע להגדיר אותה שלא באמצעות מבחן. אני חושב שאתה *מבין באמת* למה אני מתכוון כשאני אומר את זה, וענין החדר הסיני באל להמחיש בדיוק את הקושי הזה, שבין עמידה בכל מבחן שתעלה על הדעת לבין אותו מושג חמקמק שאנחנו מדברים עליו.

באסוציאציה פרועה זה קצת מזכיר לי את חילופי הדברים בין גדי לאלון שהתחילו ב תגובה 296339 .
ציפור קטנה לחשה לי - חלק ב 309478
לדעתי, כשאנחנו אומרים "מבין באמת" ביום יום אנחנו מתכוונים להגדרה 2. אני לא מכיר דבר אחד שאני מבין באמת, ואותו דבר אני יכול להגיד על כל אדם אחר.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים