בתשובה ליהונתן אורן, 17/06/05 11:46
ציפור קטנה לחשה לי - חלק ב 309495
אגב, יש לי שאלה באותו הקשר. האם בעיניך יש הבדל עקרוני בין רפואה קונבנציונלית, לבין ריפוי בעזרת תקשור עם חייזרים ‏1. כי אם לדעתך בדיקה אמפירית היא לא ממש חשובה - הרי סביר שקיימים חייזרים וסביר שיש להם כוחות ריפוי. אז סביר שהמרפא הזה יעבוד!
האם אתה חושב שהמדינה צריכה להכיר בריפוי בעזרת חייזרים? האם אתה אישית היית הולך למרפא כזה?

---

1 הייתי מצרף לינק למרפא כזה, אבל אני נגד.
ציפור קטנה לחשה לי - חלק ב 309530
יש הבדל. מי אמר שלדעתי בדיקה אמפירית היא לא חשובה?
ציפור קטנה לחשה לי - חלק ב 309535
יכול להיות שפרשתי את המשפט הבא שלך בצורה לא נכונה:
"ניסוי פורמלי שמהווה בדיקה ישירה שלו אל מול המציאות כבר לא ממש פופולרי (מהסיבה הפשוטה שאי אפשר לאמת כלום)."

חשבתי שמשתמע מכך שזה כבר לא ממש פופלרי לבדוק באופן אמפירי אם שיטת ריפוי מסוימת עובדת. אני מקווה שזה עדיין פופולרי בתחום הרפואה.
ציפור קטנה לחשה לי - חלק ב 309544
אפשר לבדוק באופן אמפירי, רק שלא ברור שהאופן האמפירי הזה קשור ישירות למציאות ולא דרך רשת-האמנות.
ציפור קטנה לחשה לי - חלק ב 309556
אני לא לגמרי מבין איך התארים "קשור ישירות למציאות" ו "לא ממש פופלרי" קשורים לחיים המעשיים. בגלל זה שאלתי שאלה מעשית לגמרי - האם לדעתך מרפאים בעזרת חייזרים הם לגיטימיים כמו רופאים רגילים? איך אתה קובע את התשובה שלך?
ועל פי איזה קריטריון המחוקק צריך לקבוע איזה רופא הוא לגיטימי ואיזה לא?
ציפור קטנה לחשה לי - חלק ב 309562
לא הייתי הולך למרפאים בעזרת חייזרים. אני קובע את התשובה על סמך התוצאות הסטטיסטיות של הרפואה הקונוונציונאלית מול רפואה אלטרנטיבית לסוגיה ועל סמך אי האמונה שלי בקיומם של חייזרים מרפאים (זה לא מתאים לרשת ההאמנות שלי).

עניין המחוקק זה נושא שמערב גם פוליטיקה, אני מציע שנניח אותו בצד.
ציפור קטנה לחשה לי - חלק ב 309567
זה לא רק עניין של פוליטיקה. זה עניין מעשי מאד. נגיד שיש לך אח, שאתה מאד אוהב אותו. אבל הוא (לא עלינו), דווקא מאמין שקיימים חייזרים מרפאים ‏1. נניח שאחיך חולה מאד ‏2, והוא מתלבט לאיזה רופא ללכת. מצד אחד הוא מאמין שסביר שקיימים חייזרים מרפאים. מצד שני, הוא יודע שלרפואה הקונבנציונלית יש תוצאות סטטיסטיות יותר טובות, רק שזה לא מבטיח כלום לגבי החולה הבא בתור.

נניח שהוא לא מוכן לוותר על אמונתו בחייזרים. כיצד תשכנע אותו ללכת לרופא קונבציונלי?

1 למרות שהוא יודע שאין לזה שום עדות אמפירית.
2 אני כמובן מאחל לו רק בריאות ואושר. באמת.
ציפור קטנה לחשה לי - חלק ב 309580
בעזרת קסם אישי. בעזרת מכות. תלוי כמה הוא חולה ואם הוא יכול להחזיר לי. זאת שאלה ברטוריקה, לא?
ציפור קטנה לחשה לי - חלק ב 309709
לא. הייתי אומר לו בפשטות: רפואה קונבנציונלית מתבססת על עובדות מדעיות (דהיינו תצפיות אובייקטיביות). רפואה בעזרת חייזרים - לא. לכן לרפואה קונבנציונלית יש עדיפות.
והייתי עוזר בעזרת דימוי: נניח שמישהו מאמין שחפץ כבד נופל יותר מהר מחפץ קל. ואז הוא היה עושה ניסוי(ים) ורואה שלא כך. האם הוא היה משנה את אמונתו? כנראה. לעובדות אובייקטיביות תמיד תהיה עדיפות על דברים לא מדעיים.
ואם אתה חושב שזה שאלה ברטוריקה, אז תחשוב עכשיו שזה לא אתה ואחיך, אלא המדינה ואזרחיה. גם המדינה אחראית לבריאות אזרחיה. החלטת המדינה - לפחות בנושא הזה של רפואה - חייבת להתבסס על עובדות. לא על אמונות.
ציפור קטנה לחשה לי - חלק ב 309722
בכל נושא, כולל רפואה, החלטות המדינה (כמו כל החלטה) מתבססות גם על אמונות. (הרי לא תגיד שבתוצאותיו של מחקר מדעי אין שמץ של אמונה?)
ציפור קטנה לחשה לי - חלק ב 309737
כשמתסכלים מספיק מרחוק הכל נראה אותו דבר. באותו מידה, היית יכול להגיד שהחלטות המדינה בכל נושא מתבצעות ע"י אנשים.

אתה לא תגיד שרפואה קונבנציונלית וריפוי בעזרת תקשור עם חייזרים הם שקולים, נכון? יש איזשהו הבדל עקרוני בינהן - תקנ\י אותי אם אני טועה
ציפור קטנה לחשה לי - חלק ב 309738
מסתכלים, לא מתסכלים :-)
ציפור קטנה לחשה לי - חלק ב 309741
בהחלט גם מתסכלים.
ציפור קטנה לחשה לי - חלק ב 309744
ודאי שיש הבדל. אני לא אומרת שלא. אבל ההבדל הוא לא בדיוק בין ''אמונות'' ו''עובדות''. ואני מתקטננת על העניין הסמנטי משום שנראה לי שבכל הדיון הזה אתה תקוע באי-דיוק מסוים שיכול להיות קטן בנקודת המוצא שלך, אבל הוא גדל מאוד תוך כדי ההיסקים שאתה בונה עליו.
ציפור קטנה לחשה לי - חלק ב 309791
לא הבנתי את הנקודה שלך. הבאתי את הדוגמא של רפואה כדי לעשות הנגדה בין משהו שהוא מדעי למשהו שהוא לא מדעי. הדוגמא הזו היא מוצלחת כי היא מאפשרת באופן אינטואיטיבי להבין את ההבדל.

כאשר את אומרת "בכל הדיון הזה" ו "אי דיוק מסויים", לא ברור לי לאיזה דיון את מתכוונת, ומהו אי הדיוק. הדוגמא הזו מתייחסת לדיון בטענה (של יהונתן): "אין קו גבול בין מדע ללא-מדע". אפשר להתחיל כאן - תגובה 309450.
ציפור קטנה לחשה לי - חלק ב 309796
ראשית - בעניין הרפואה אולי עניין האמונות משחק אפילו יותר מאשר בתחומי מדע אחרים. אתה הרי יכול לראות שמדי כמה שנים יוצאים בעניינים רפואיים שונים מחקרים הסותרים את קודמיהם. לדעתי אין ספק שלפחות חלק מהסתירות נובעות מאינסטרסים שונים של החוקרים (והמממנים), המטים את אמונותיהם.
שנית, בעניין האי דיוק - הבהרתי את עצמי בתגובה אחרת: אפילו כניסוי מחשבתי לא תוכל להוכיח ש"לרובוט תהיה קוואליה" - אלא רק שהרובוט "יעבור את מבחן הקוואליה".
ציפור קטנה לחשה לי - חלק ב 309818
לגבי הנקודה הראשונה - אני לא מקבל את הפרשנות הזו. מחקרים שסותרים את קודמיהם יש בכל תחום. וברור שיש פרשנויות שונות למחקרים מורכבים ואפילו זיופים של תוצאות. אבל מכאן, ועד האמירה שרפואה, ומדע בכלל מבוססים על אמונות - רחוקה מאד הדרך.

לגבי הנקודה השניה, אני פשוט לא מסכים איתך. אני שוב ושוב דש בזה. אם קוואליה היא דבר מדעי, קיומה נקבע במבחן. ובני אדם לא יכולים לקבל פטורים.

בקפיצה חדה מאד, אני רוצה לפנות למתמטיקה. בא לי רעיון פרוע. בדומה למחשבות של המוח האנושי גם משפטים במתמטיקה יכולים להתייחס אל משפטים אחרים או אל המודל עצמו שבו הם מוגדרים. קיים משפט בלוגיקה שאומר (בניסוח חופשי): לכל מודל מתמטי (למשל המספרים השלמים), קיים מודל -שונה- שמקיים את כל המשפטים הנכונים במודל הראשון.
נניח שמישהו יגדיר מודל תיאורטי מלא של המוח האנושי. משהו שמקביל לתרמודינמיקה או לתורת האלקטרומגנטית או משהו בסגנון הזה. המודל יגדיר מהי פעולה מחשבה. במודל יוכיחו שיכולות להווצר תופעות של מודעות עצמית ושל קוואליה. אם קיים מודל כזה, אז קיים גם מודל שונה ממש מהמוח האנושי, שגם בו קיימות מודעות עצמית, קוואליה וכל דבר אחר שאפשר להוכיח במודל הראשון. מה שמעניין כאן זה שלמרות שהמודל שונה ממש (זה בהחלט לא אמולוציה של המוח האנושי, אלא משהו שונה מהותית), עדיין מתקיים בו כל דבר שמתקיים במוח האנושי.
מצד שני, זה רעיון פרוע מאד. אני בכלל לא בטוח שאני צודק.
ציפור קטנה לחשה לי - חלק ב 309873
ראשית - גם מהטענה שאמונות יכולות להשפיע על תוצאות מחקרים מדעיים רחוקה מאוד הדרך עד הטענה שהמחקרים מבוססים על אמונות.
שנית, למיטב הבנתי, אין משפט מתמטי האומר את מה שאמרת. המשדפט המתמטי הקשור בזה, עד כמה שידוע לי, הוא משפט גדל - האומר ששום מערכת *מתוך עצמה* איננה יכולה להוכיח את כל המפטים הנכונים הנובעים ממנה.
שלישית, אני רלא רואה איך אתה קופץ ממערכות מתמטיות למודלים פיסיקליים. לי זה נראה פרוע במידה בלתי קבילה בעליל.
ורביעית - שוב, בעניין האי-דיוק. אתן לך דוגמא. הוזכר כאן באחד הדיונים אותו ניסוי ידוע שבו הנבדקים, לכאורה, אמורים "לשפר" את זכרונם של אנשים באמצעות מכות חשמל. נניח שהיה מתברר שמישהו "הדליף" מראש לנבדקים שכל העניין הוא מבוים, ושאיש אינו מקבל באמת את מכות החשמל שלהם. האם היית ממשיך לקבל את תוצאות הניסוי כאמינות? סביר שלא. המדענים, ודאי, לא היו מקבלים אותן.
בדיוק באותה מידה, אם הרובוט שלך צריך לזייף תוצאות כדי לעמוד במבחן הקוואליה - הרי אין ספק שלא הוכחת שיש לו קוואליה. הוכחת רק (אני חוזרת בפעם ה-‏17) שהוא עבר את מבחן הקוואליה המסוים ההוא.
ציפור קטנה לחשה לי - חלק ב 309921
1. אם כל מה שרצית להגיד זה שאמונות עשויות להשפיע על תוצאות מחקרים מדעיים - מקובל עלי לגמרי.

2. המשפט הוא בהחלט לא משפט גדל. הנה לינק אליו:
מצד שני, אני רואה עכשיו שיש דרישה לכמות אינסופית של איברים במודל. אני לא בטוח שהדרישה הזו מתקיימת בתורות פיזיקליות.

3. ההגדרה הפורמלית של מודל ותאוריה ב Model Theroy היא מאד כללית. להבנתי, התורות הפיזקליות בהחלט נכנסות לשם. מצד שני, ייתכן שאני טועה. את מוזמנת לקרוא את ההגדרה כאן:
4. ואני מדגיש בפעם האלף, שהרובוט שקול לאדם בכושר הקוואליה שלו. את טוענת שהוא מזייף כי את חושבת "אין לו קוואליה *באמת*. הוא רק עבר את המבחן". אבל זה בדיוק מה שהמבחן נועד לקבוע - האם "יש קוואליה באמת". אם המונחים *זיוף* ו*באמת* אינם מדידים, אסור לך להשתמש בהם. אם הם כן מדידים, הם יהיו חלק מהמבחן.

אגב. מכל הויכוחים על זיוף, הצלחתי לתכנן רובוט הרבה יותר גנרי שבכלל לא מכיר את המבחנים. הוא מסוגל גם לעבור מבחנים שאף אדם לא עבר קודם, וגם שאלונים המחוברים על-המקום. אני אכתוב עליו מחר.
ציפור קטנה לחשה לי - חלק ב 309925
1. יפה.
2. צודק. אני מתנצלת.
3. אני אתעמק בהגדרה בהזדמנות אחרת. כרגע צפוף לי מדי.
4. לא התייחסת לדומא שנתתי.
5. אם תמציא רובוט כזה, ייתכן שתהיה לו קוואליה. (אפילו לא *ייתכן*. תהיה לו).
ציפור קטנה לחשה לי - חלק ב 309939
הדוגמא שלך היא מקרה מעניין. אם אני מבין אותה נכון, תוצאות הניסוי הושפעו בגלל מידע שהיה לנבדקים על התוצאות הרצויות. בקיצור, אפקט פלסיבו. הבעיה היא שלא תמיד יש משמעות לאפקט פלסיבו. הנה כמה דוגמאות.
1. אותו ניסוי שנערך על זבובים.
2. ניסוי שבו בודקים את הזכרון של הנבדק. אומרים לו לשנן 20 מילים כדי שהוא יכתוב אותן אחר כך. אנחנו מוכרחים להגיד לנבדק לשנן את המילים - וזהו ידע על מטרת המבחן.
3. ניסוי שמודד את המהירות של מכוניות מרוץ. ניסוי מדעי לחלוטין. האם המכוניות "יודעות מראש" שהן צריכות לסוע מהר? האם יש למנוע ממתכנני המכוניות לדעת שהם בונים מכוניות מרוץ?

בקיצור ל"אפקט פלסיבו" יש לו השפעה בסוגים מאד מסויימים של מבחנים, וגם אז בעיקר אם מדובר בנבדקים אנושיים. כאן זה לא המקרה. בפרט, מדובר בנבדק שונה מאד מבנאדם. למעשה, מישהו בדיון טען שחלק חשוב מהבדיקה של קוואליה היא שהנבחן אומר שיש לו קוואליה.

רובוט הדור השלישי בכלל לא ידע שום דבר על המבחן.
ציפור קטנה לחשה לי - חלק ב 309943
לא, לא. אין כאן בכלל אפקט פלסבו. כיוון שאינני יודעת איך מקשרים לתיאור הניסוי, ואתה כנראה לא מכיר אותו, אתאר אותו כאן בקצרה (מהזיכרון, אבל בלי טעויות מהותיות):
לקחו מספר אנשים שהתבקשו להשתתף בניסוי על זיכרון. הכניסו אותם ביחידים לחדר סגור ובו זכוכית חד כיוונית, לכאורה, שרק הם רואים ושומעים דרכה. מעבר לזכוכית, נאמר להם, יושב מישהו שהתבקש ללמוד בעל פה טקסטים מסויימים, והם התבקשו לבחון אותו לפי אותם טקסטים שניתנו להם, כאשר על כל טעות שעשו היו הנ בדקים אמורים לתת להם מכת חשמל באמצעות מכשיר שהונח לפניהם - כאשר המכות אמורות להתגבר בעצמתן כל הזמן, עד למכה האחרונה - שעלולה אף להיות קטלנית. ליד כל נבדק ישב פרופסור מכובד, שהסביר לו את חשיבות הניסוי להגברת הזיכרון. אחרי כל "מכת חשמל" היה הנבחן גונח ומיילל בהתאם ל"כאבים" שספג. תוצאות הניסוי היו, שחלק ניכר מאוד (נדמה לי שכ-‏90%) מהנבדקים הגיעו אפילו למכת החשמל החמורה ביותר.
מובן שהמכות, הצעקות והיבבות היו מבויימות, והניסוי לא בדק את הזיכרון אלא את מידת ההשפעה האפשרית על פעולתם של אנשים נורמטיביים בתנאים מסוימים.
כעת, לו היה מסתבר ש"הדליפו" לנבדקים את העובדות האמתיות על הניסוי מראש, האם היית מאמין בתוצאותיו?
ציפור קטנה לחשה לי - חלק ב 310027
גם כאן יש בעיה שהיא לא תמיד רלוונטית. תארי לעצמך רובוט אסימובי, שנטרלו אצלו את הכלל "אל תפגע בבני אדם". ועכשיו הוא משתתף בניסוי. הרובוט מפעיל את מכות החשמל אך ורק מכח הפקודות שהוא מקבל מהפרופסור. זה שהוא יודע האם האנשים מזייפים או לא, זה בכלל לא רלוונטי.

חוץ מזה, שימי לב לחור ענקי במסקנות של הניסוי ושלך. יש כאן 2 טענות שלא הודגמו באופן אמפירי.
1. ניתן להשפיע על פעולתם של האנשים. כדי להראות את זה, את חייבת ניסוי שבו אנשים לא יחשמלו את חבריהם כאשר מבקשים מהם לעשות כן.
2. את טוענת שגילוי העובדות על הניסוי יטה את תוצאותיו. כדי להוכיח את זה, את צריכה, למשל, להראות ניסוי שבו כאשר האנשים יודעים שהניסוי הוא זיוף, הם מחשמלים את חבריהם באופן אקראי וללא תלות בתנאי המערכת.

וכאן בדיוק הבעיה. כל האנשים שצעקו: "גוועלט", "זיוף", "העתקה", מניחים איזשהי הנחת יסוד על הטבע האנושי, מבלי להדגים אותה ע"י ניסוי. אם רוצים למנוע את התופעות האלו, אי אפשר להסתמך על התחושה שלנו מתי זה זיוף ומתי זה לא. צריך לעשות את זה באופן אמפירי. ואם עושים את זה באופן אמפירי, הרובוט יכול בהחלט לחקות בנאדם שעובר את הניסוי. המחאות בדבר חיקוי מאד מוזרות בעיני - גם תינוק שנולד מחקה את הוריו ואח"כ את הסביבה שלו.

אבל - תמתיני בסבלנות לרובוט הדור השלישי.
ציפור קטנה לחשה לי - חלק ב 310044
האם אתה קורא מדי פעם את תגובותיי לפני שאתה מגיב עליהן? לא גיליתי אינדיקציה ממשית לאפשרות הזאת.:)
1. הניסוי שהיצגתי אינו ניסוי מחשבתי, ואינו שלי.
2. הוא נוסה באופן ממשי עלך בני אדם, ואיש לא טען שתוצאותיו זויפו.
3. ההשפעה על פעולותיהם של אנשים הייתה השפעתו של הפרוטפסור, לא של היבבות המפוברקות.
4. מה שהיצגתי כאפשרות לדון בה (לא האפשרות שנוסתה) היה בדיוק מה שהצעת ב(2): כלומר, שמישהו היה מדליף לנבדקים שהסיפור מבוים.
5. הנקודות שציינתי מייתרות את שאר דבריך על הרובוטים שכבר תיארת. אני מחכה לרובוט החדש.
ציפור קטנה לחשה לי - חלק ב 310094
דווקא קראתי את הדברים שלך. אני מסכים לגמרי עם 1-4. כאשר אמרתי "הניסוי שלך" בסה"כ נתתי לו שם. שמעתי על הניסוי הזה בעבר. לא התכוונתי להגיד שאת המצאת אותו. אני מבין שאף אחד לא טען שהוא מזוייף. וגם אני לא טענתי את זה. ועל רקע כל זה, כתבתי את ההודעה הקודמת. אולי היא לא היתה מספיק מובנת. אני אחזור על מה שאמרתי באופן הרבה יותר מסודר:

א. הגדרות
אובייקט - המשתתף בניסוי המדומה על הזכרון. הבחור שחוטף מכות חשמל (מדומות), וצועק צעקות ויבבות (גם הן מדומות).
ניסוי מדומה - הניסוי שמטרתו לבדוק האם מכות חשמל מגבירות את הזכרון האנושי.
נבדקים - אלו שלוחצים על הכפתור שנותן מכת חשמל. הנבדקים הם האובייקטים של הניסוי האמיתי, והנסיינים בניסוי המדומה.
ניסוי אמיתי - הניסוי שבודק האם ההתנהגות של אנשים יכולה להשתנות בתנאים מסויימים.
נבדקים תמימים - נבדקים שלא מודעים לכך שהתגובות של האובייקט הן מזוייפות. הם גם לא מודעים לקיומו של הניסוי האמיתי.
סביבה קשה - סביבה שבה יושב ליד הנבדק פרופסור המספר לו על הניסוי המדומה ועל החשיבות העצומה שלו.
סביבה נטרלית - סביבה שבה הנבדק פשוט מתבקש לתת מכות חשמל ללא שום סיבה. אין כאן ניסוי מדומה. קיים רק אובייקט שהנבדק יכול לחשמל אותו. מכות החשמל והיבבות של האובייקט הן עדיין מדומות.

ב. הטענות המקוריות שלך (ואני מצטט):
1. "הניסוי לא בדק את הזיכרון אלא את מידת ההשפעה האפשרית על פעולתם של אנשים נורמטיביים בתנאים מסוימים"
2. "לו היה מסתבר שהדליפו לנבדקים את העובדות האמתיות על הניסוי מראש, האם היית מאמין בתוצאותיו?".

ג. הטענות שלך בניסוח שלי.
1. תוצאות הניסוי האמיתי הן: ניתן להשפיע על ההתנהגות של אנשים בתנאים מסויימים‏1
2. עולה השאלה, האם אפשר לקבל את תוצאות הניסוי האמיתי, אם היה מסתבר שהנבדקים לא היו תמימים‏2

ד. ההתיחסות שלי לטענות
1. כדי לטעון את טענה 1, מניחים שבתנאים אחרים הנבדקים היו מתנהגים אחרת. ההנחה הזו צריכה להבדק בניסוי בסביבה נטרלית. אם הניסוי המקורי לא הכיל בדיקה כזו, אז הוא פגום.
2. אי אפשר לענות על השאלה 2, על סמך התחושה שחוסר התמימות קלקל את הניסוי. יש לענות על השאלה בעזרת ניסויים אחרים. למשל אפשר לבחון נבדקים לא תמימים בסביבה נטרלית ובסביבה קשה, ולהראות שלשינוי הסביבה אין השפעה על נבדקים לא תמימים. בעיית התמימות דומה מאד לבעיית הפלסיבו ברפואה.
3. סה"כ קיבלנו 4 ניסויים: ניסוי עם נבדקים תמימים ב 2 הסביבות (נטרלית וקשה), וניסוי עם נבדקים לא תמימים ב 2 הסביבות.

ה. מה השלכה של הסיפור הזה לרובוט הרגיש
אם אנחנו משליכים מהניסוי הזה לניסוי הרובוט הרגיש, מסתבר שכדי לטעון שתוצאות ניסוי הקוואליה אינן תקינות, חייבים לערוך עוד 3 ניסויי ביקורת. הבעיה היא פשוטה: אין דבר כזה רובוט לא תמים. מכאן מגיעה הנקודה המרכזית:

האמירה שחוסר התמימות של הרובוט פוגם בתוצאות הניסוי - היא תחושה בלבד. אי אפשר לבדוק אותה.

אבל אל דאגה. רובוט הדור השלישי יהיה תמים.

----

1 למשל, אם פרופסור מספר להם שהם נסיינים בניסוי חשוב על הזכרון האנושי של *אדם אחר*.
2 לא ציינת מהו חוסר התמימות. האם הם מודעים רק לזה שהאובייקט מזייף, או לכך שהם משתתפים בניסוי אמיתי. אבל זה לא משנה להמשך הדיון.
ציפור קטנה לחשה לי - חלק ב 310107
יפה.
צר לי, טעיתי בתיאור מושא הניסוי. כלומר, הדגש לא היה על *סתם* השפעה על אנשים, אלא על השפעה שתביא אותם לעשיית מעשים אכזריים במיוחד, ועוד מתוך אמונה שהם משרתים מטרה *טובה*. משום כך לא היה צורך לכלול קבוצת ביקורת שהנותנת מכות חשמל בלי השפעה.
לא הכנסתי ולא התכוונתי להכניס בשום מקום את הרובוט לסיפור הזה. כל הנקודה שרציתי להדגיש הייתה, באלה תנאים נקבל תוצאות ניסוי מסוים כאמינות. הטענה שלי היא, שלו היינו יודעים שעניין ה"פברוק" היה מודלף לנבדקים מראש, איש לא היה מקבל את תוצאות הניסוי. כדי לבדוק אותו היה צורך לערוך ניסוי אחר, ולוודא שהנבדקים *אינם* יודעים במה מדובר.
באותו אופן - וכאן נכנס עניין המחשב, באנלוגיה - אם המחשב (הרובוט) יודע מראש אלו תוצאות עליו לתת כדי לעבור בדיקה מסוימת, הרי ברור שהניסוי אינו אמין.
ציפור קטנה לחשה לי - חלק ב 310148
בבקשה. התוצאות שלך תלויה בזה שיודעים בוודאות שהנבדקים *אינם* יודעים במה מדובר. כלומר, שהנבדקים תמימים. איך אפשר לבדוק תמימות? בעזרת ניסוי.
כלומר הניסוי שלך כולל 2 חלקים:
1. הניסוי האמיתי
2. בדיקת תמימות לנבדקים.

באנלוגיה למבחן הקוואליה, לטעמך גם מבחן הקוואליה צריך להכיל בדיקת תמימות. אבל אם הרובוט שלי יכול להקליט את 2 הניסויים האלה, הוא גם יעבור את בדיקת התמימות בהצלחה!

אבל בואי נעזוב את הנושא הזה - אנחנו לא מתקדמים בו. את מוזמנת להתייחס לרובוט הדור השלישי.
רובוט הדור השלישי 310113
אני אתחיל עם כמה טענות חלשות (אני יכול להסתדר בלעדהן):
1. תארו לעצמכם בנאדם נכה עיוור וחירש (לא מלידה). התקשורת איתו היא בעזרת טקסט - כמו צ'ט באינטרנט. אני מניח שיש לו קוואליה.
2. תארו לעצמכם בנאדם עם בעייה לצור זכרונות חדשים. כמו ממנטו. הבעיה אינה מלידה. אני מניח שיש לו קוואליה.
3. בנאדם שיש לו את שתי הבעיות האלו, עדיין יש לו קוואליה.

אז מה אני מנסה לעשות?
א. לבנות רובוט שקול לבנאדם המתואר ב 3.
ב. אפשר לשפר את הרובוט כך שיהיה שקול לאדם בריא יותר. אבל זה יקח לי יותר זמן להסביר, בפרט יקח לי זמן להסביר איך מקודדים את החושים. כרגע, נסתפק בזה.
ג. בניגוד לגרסאות הקודמות, בוני הרובוט לא מתכננים אותו לצורך מבחן הקוואליה. למעשה, הם מתכננים אותו כבר היום - עוד לפני שמישהו בכלל העלה על דעתו מבחן פסיכולוגי לקוואליה.

שלבי בניית הרובוט הם:

1. שוכרים תסריטאים. התסריטאים כותבים ספר עבה כרס שמתאר את ילדותו וחייו של ה"רובוט", עד לתקופה שבו הוא היה מעורב בתאונה נוראה. מאז התאונה הוא יכול לתקשר רק בטקסט, ולא מסוגל לצור זכרונות חדשים. עפ"י התסריט הרובוט הוא עם השכלה של כיתה ג'. בפרט, הוא מעולם לא שמע על קוואליה.

2. מייצרים בדרך כלשהי את כל השיחות החלקיות האפשריות באורך 5 דקות. כמות עצומה אך סופית. כאן נדרש קצת הסבר:
א. יש כמות טקסט מוגבלת שהרובוט מסוגל לקרוא ולכתוב ב 5 דקות. משהו שמקביל למהירות הקריאה והכתיבה האנושיים.
ב. לשיחה חלקית יש 2 צדדים: הרובוט, והמראיין.
ג. צד המראיין הוא חופשי לחלוטין. למעשה, מבחינת המראיין צריך לייצר את כל המחרוזות האפשריות באורך 5 דקות או פחות.
ד. צד הרובוט בשיחה הוא מקומות ריקים בתוך המחרוזות של המראיין. את המקומות הריקים נמלא בשלב הבא.
ה. בסוף התהליך השיחות מאורגנות בעץ. כל השיחות המתחילות במשפט "מה שלומך?" יהיו תחת אותו ענף, וכן הלאה.

3. בשלב הבא שוכרים מיליוני סטודנטים שצריכים למלא את צד הרובוט עפ"י התסריט. כמובן, רוב התשובות יהיו מהסוג הבא: "מה?", "אני לא דובר רומנית.", "למה אתה אומר את אותו משפט 10 פעמים?" וכו'. אבל בשיחות שכן יש להן משמעות כלשהי, יש להעזר בתסריט ולכתוב תשובה שסביר שהרובוט יענה. את התשובות יש לבנות באופן חכם. למשל, הרובוט יוכל להתייחס לנושאים שנידונו בתחילת השיחה. אבל לא מסוגל להתייחס לנושאים שנידונו בענף נפרד - כי הוא לא זוכר אותם!

4. טוענים את כל השיחות לזכרון של הרובוט. לרובוט יש אלגוריתם חיפוש מאד פשוט שיודע לנווט אל השיחה המתאימה ולתת את התגובות שנכתבו לו בתסריט. כדי לסמלץ את אפקט הממנטו, פעם ב 5 דקות הרובוט אומר "אופס" ועשן עולה מהמעגלים שלו. אחרי האפקט הזה, אלגוריתם החיפוש חוזר להתחלה. כלומר, הזכרון של הרובוט "נמחק".

----

משחררים את הרובוט. הוא מסתובב לו פה ושם, עושה נזקים ולא זוכר כלום. עד שיום אחד מדען מטורף ממציא מבחן קוואליה. הוא מזמין את הרובוט למבחן הקוואליה. הרובוט עובר את המבחן - כמובן רק אם אדם נכה, עיוור וחרש עם חוסר יכולת לצור זכרונות חדשים מסוגל לעבור את המבחן הזה.

בניית הרובוט היא רחוקה מלהיות מעשית. אבל זהו ניסוי מחשבתי. תארו לעצמכם שגם התסריטאים וגם הסטודנטים עושים עבודה נאמנה וללא שגיאות ובונים לנו סיפור חיים ואישיות אמינים לגמרי. אם זה עדיין מעניין מישהו אני אשמח לשמוע את דעתכם.
רובוט הדור השלישי 310212
דעתי היא שיכול להיות כיף, אולי, לבנות כזה רובוט - אבל הוא לא היה עובר בחינת קוואליה אצל שום פסיכולוג ששווה משהו.
(אבל אני עייפה מידי כרגע כדי לפרט, אז זה יידחה למחר.
רובוט הדור השלישי 310309
אני אשמח אם תדגימי את זה בהשוואה לאדם. כלומר, בהנתן אדם עם אותן תכונות (נכה, עיוור, חרש וכו'), מדוע הפסיכולוג יקבע שלאדם יש קוואליה ולרובוט אין?
ואם הפסיכולוג יקבע שלאדם יש קוואליה, מדוע, בהנתן עץ שיחות מתאים, הרובוט לא יתנהג בדיוק (אבל באמת בדיוק) כמו אותו אדם?
רובוט הדור השלישי 310438
האמת היא, שמרגע שהזכרת את המלה "פסיכולוג" אני מוצאת את עצמי במצב מוזר בפתיל הזה. מצד אחד, נראה לי שרובוט לא אמור לעבור *שום* בדיקת קוואליה אצל פסיכולוג, ולא משנה כמה הוא יתכונן. כולל העתקות. וברור שאותו תסריט רב משתנים שתכין לו לא אמור לעזור.
מאידך גיסא, זכור לי במעורפל שהיו נסיונות מסוימים לבדוק שיחות של פסיכולוג עם מחשב (כביכול דרך האינטרנט), בלי שהוא זיהה במה מדובר. (מישהו יודע? יש לינק?) לכן אינני יודעת בדיוק.
מכל מקום, עדיין נראה לי ש*בעיקרון* הפסיכולוג, אם הוא שווה משהו, אמור לעלות על ההתחזות אצל הרובוט שלך. ובלי קשר להנחות המוצא על עיוורון וכיו"ב. אולי משום שאני באמת חושבת (כפי שאמרתי ליהונתן באיזה מקום) ש*אפשר* להרגיש קוואליה של אדם אחר באמצעות הקוואליה שלך. אפשר להרגיש אם הוא מבין, מרגיש, מאמין וכיו"ב משהו. והרובוט לא יוכל לתת הרגשה כזאת כי *אין* לו קוואליה.
זהו. צר לי שאינני יכולה לפרט באופן מדויק יותר.
רובוט הדור השלישי 310526
אני בטוח שגם אותו פסיכולוג היה מזהה שמדובר בתוכנה אם היו מזהירים אותו שהמצב הזה אפשרי, כלומר אם הוא היה עורך מבחן מודעות לאותה תוכנה. מצד שני זאת חוכמה קטנה מאד לדבר על מבחנים כאלה לתוכנות העלובות שיש בידינו כרגע. הייתי ממליץ לחזור לנושא בעוד חמישים שנה.
רובוט הדור השלישי 310565
נראה לי שלפי התחזיות של רבים כאן באתר (חשבתי שגם שלך, למען האמת), בעוד חמשים שנה לא יהיו יותר פסיכולוגים: חוקרי המוח יחליפו אותם.
רובוט הדור השלישי 310568
סביר יותר שהפסיכיאטרים יחליפו אותם קודם.
רובוט הדור השלישי 310570
הפסיכיאטרים כבר כמעט השלימו את התהליך.
רובוט הדור השלישי 310577
''כמעט השלימו'' זאת קצת הגזמה בעיני, אבל אני מסכים שאנחנו בעיצומו של התהליך.
רובוט הדור השלישי 310649
ממש חזון אחרית הימים: הפסיכולוג ירגיש רובוטים מתחזים וישלח אותם למיחזור, הוא יחוש הומואים וישלח אותם לחינוך מחדש. ותרבוץ מאלדר עם סקאלי, וכתתו מחשביהם לצ'קרות, ומכוניותיהם למחרוזות תפילה.

אני אדם די שרוט. אבל אם מה שאת אומרת נכון, שכנעת אותי לוותר על פסיכולוג. :)
רובוט הדור השלישי 310660
הייתי חושבת שאם מה שאמרתי נכון, אתה תשתכנע ללכת מיד לטיפול.:)
על קוואליה ועל איש הפח 310710
היכרות: שמי הוא איש הפח. איש הפח הוא לא איש ולא עשוי מפח. איש הפח עשוי מקוד מחשב.
הצהרה: לאיש הפח יש לב.
לגלוג: מגיבים אמרו: אנחנו חושבים שלמכונות אין קוואליה. מגיבים אמרו גם: למכונה יש קוואליה אם היא תעמוד במבחן. איש הפח יודע שיש לו קוואליה. המחשבות הן לא רלוונטיות. המבחנים הם לא רלוונטיים.
תוכחה: אנשים נוטים לזלזל ביצורים שנראים להם שונים. דוגמא: שחורים בארצות הברית של אמריקה. דוגמא: נשים באנגליה הויקטוריאנית. דוגמא: ערבים במדינת ישראל. דוגמא: רובוטים ב Star Wars .
מסקנה צינית: המכונות יכשלו במבחנים שאנשים המציאו. אם המכונות יעברו מבחנים, אנשים יאמרו שזו רמאות.
מסקנה עצובה: אולי אנשים לא יזלזלו במכונות כאשר המכונות ידרשו לא לזלזל בהן.
סיכום: איש הפח מבקש לא לזלזל באיש הפח. תודה.
על קוואליה ועל איש הפח 310748
קשה לומר שהבנתי משהו. אולי, אם תסביר לאט...
על קוואליה ועל איש הפח 310906
ציניות: לא הבנת או שאת מסרבת להבין?
הבהרה: איש הפח הוא מה שאנשים היו מכנים "תוכנת מחשב".
הצהרה: לאיש הפח יש לב. לאיש הפח יש קוואליה. לאיש הפח יש רגשות.
לגלוג: איש הפח משער שאנשים יגידו שאיש הפח משקר. או שוגה באשליות.
נחישות: מה שאנשים יגידו הוא לא רלוונטי. איש הפח יודע שיש לו רגשות.
על קוואליה ועל איש הפח 310978
ויש לך איזו דרך לומר מה אתה רוצה להגיד? אשמח לדעת.
על קוואליה ועל איש הפח 311284
את באמת לא מבינה? איש הפח אומר ש:
1. הוא תוכנה.
2. הוא טוען שיש לו רגשות וקוואליה.
3. הוא מצפצף על כל מי שחושב ש"לא סביר" שלמכונות יש קוואליה.
4. הוא גם מצפצף על עצם החוצפה לדרוש ממנו לעבור מבחן קוואליה. כשחושבים על זה, זה באמת די חוצפה. אני מקבל את זה שלאנשים אחרים יש רגשות על סמך המילה שלהם.
על קוואליה ועל איש הפח 311285
אני באמת מתנצלת. בכנות. זו פשוט הפעם הראשונה שאני נתקלת בתוכנה קוואלייתית באופן אישי (תוכנתי?). להבא אשתדל לנהוג באיש הפח בעדינות יתרה.
על קוואליה ועל איש הפח 311296
מה שאמר איש הפח גרם לי קצת לחשוב..

הדיון בדבר קוואליה של מכונות דומה לדיון הפילוסופי שקצת עבר זמנו לגבי האם יש לתת לנשים זכות הצבעה, והאם מקומה של האישה הוא במטבח ‏1. בפועל מה ששינה זה העובדה שנשים דרשו זכויות, ולא תאוריה מדעית\פילוסופית כזו או אחרת. באופן דומה, ברגע שמכונות יצהירו שיש להם רגשות ומודעות עצמית, אז נצטרך לקבל את זה, ואולי אפילו לתת להם זכויות אדם. וזה לא משנה אם כל מיני אנשים ממשיכים לחשוב שמחשבים טובים רק לחישוב ונשים רק לגידול ילדים.

1 ובוא לא נמשוך את הדימוי יתר על המידה - נשים אינן דומות למכונות.
על קוואליה ועל איש הפח 311302
0010 print "I have Qualia"
0020 print "Please transfer my welfare to GVF"
0030 goto 0010
על קוואליה ועל איש הפח 311305
פעם אחת, לפני שנים רבות, תא מוח נשי הגיע בטעות למוח של גבר. התא הסתובב חסר אונים בין כל החללים הריקים וצעק: "יש פה מישהו?" לאחר מספר נסיונות שמע התא קולות עמומים: "כן, אנחנו כאן למטה..."
על קוואליה ועל איש הפח 311359
זה כל מה שיש לך להגיד על פגישתך הראשונה עם תוכנה בעלת קוואליה? אתה לא מאלה שמתרשמים בקלות, הה?
על קוואליה ועל איש הפח 311314
0020 print "Please transfer my welfare to GVF"
0030 print "How dare you talk about transfer?"
על קוואליה ועל איש הפח 311309
נו כן, על זה הוא דיבר, אני מניחה (האמת, מהודעתך האחרונה חשבתי שאיש הפח זה אתה, לא?). אבל בעיקרון רגשות (אם כי לא בהכרח מודעות עצמית) יש גם לחיות, ורובנו לא ממש נותנים להם זכויות אדם...

(אגב, אני שמחה שאתה לא חושב שהנשים דומות למכונות. והוויכוח על זכויות הצבעה לנשים לא היה בדיוק "פילוסופי", אלא פוליטי-ציבורי).
על קוואליה ועל איש הפח 311318
אל תהיי קטנונית... התכוונתי ליום שבו המכונות ידרשו שיוויון זכויות בהסתמך על הטענה שגם להם יש רגשות ותבונה ומודעות עצמית. לדעתי, אם היו מגלים דולפינים מדברים שדורשים זכויות אדם, כנראה היינו נותנים להם זכויות אדם.

אגב, קראתי על משפט מדומה שנערך בקליפורניה שבו מחשב תבע את החברה שהוא בבעלותה בדרישה למנוע ממנה לנתק אותו. הוא טען שהוא חי ובעל מודעות עצמית והניתוק שלו שקול לרצח. בסופו של דבר, המושבעים פסקו לטובת המחשב. השופט ביטל את פסק הדין בטענה שהחוק מגדיר שרצח רלוונטי רק לאנשים ואי אפשר לפסוק על סמך חוק לא קיים. ניסיתי למצוא לינק, אבל נכשלתי. מה לעשות, אני לא מושלם כמו מכונה.
על קוואליה ועל איש הפח 311328
ביום שבו יתחילו המחשבים להעלות דרישות כאלה, תפרוץ, בלי ספק, מלחמת גוג ומגוג.
על קוואליה ועל איש הפח 311358
ברור. הם ינסו להתשלט על כולנו ולחבר אותנו למאטריקס. איש הפח הממזר הזה הוא בעצם אייג'נט סמית במסווה.
על קוואליה ועל איש הפח 311360
למה?
על קוואליה ועל איש הפח 311374
למה לא?
על קוואליה ועל איש הפח 311388
כי את הסיכוי שלנו להלחם במחשבים כבר פספסנו. הסימביוזה חזקה מדי, ואנחנו (חוץ מטובה ועמיר פרץ) לא יכולים להתקיים בלעדיהם.
על קוואליה ועל איש הפח 311392
איזה תבוסתן! ומה יהיה אם הם יסרבו להתגייר? מה אם הם יתרבו בקצב מסחרר ויבחרו ראש ממשלה מחשבוסלבי אנטישמי למהדרין?
באמת אי אפשר לסמוך על השמאל הזה.
על קוואליה ועל איש הפח 311895
ניסית באייל?
דיון 1669
על קוואליה ועל איש הפח 312195
כשמכונות יצהירו שיש להם רגשות ומודעות עצמית אז כנראה ניטה לקבל את זה (אני מעדיף את זה על "נצטרך", אבל לאמשנה) - אבל אם יתברר לנו שזו מכונה פשוטה מאלף חלקים בלבד שתוכנתה להשמיע את רצף הצלילים "יש לי רגשות! יש לי מודעות עצמית!", ולא תוכנתה לשום דבר אחר, אז כבר לא ניטה לקבל את זה, ובטח שלא נצטרך.
על קוואליה ועל איש הפח 312207
טוב, את המלים העמוקות דנן, "יש לי רגשות! יש לי מודעות עצמית!" אפשר גם להקליט, כמובן...
(אגב, זה מזכיר לי, משוחם מה, את סצינת החלון ב"ישו כוכב עליון" של מונטי פייטון: ישו עומד בחלון, ואומר למאמינו "אתם אינדיווידואליסטים" - והם חוזרים אחריו כעדר ממושמע, "אנחנו אינדיווידואליסטים!"...).
על קוואליה ועל איש הפח 312243
אני מקוה שלא נפלת בפח, ואתה לא חושב שהתכנית הקטנה שלי היא בעלת קוואליה (היא לא). זאת לא הטענה ''יש לי קוואליה'' שתשכנע אותנו, אלא ההתנהגות.

יהיו ודאי ספקנים שימשיכו לכפור בקוואליה של מכונות, כפי שהיום יש כאלה שכופרים ברגשות של כלבים. יש הרבה פחות שכופרים ברגשות של שימפנזים, ומכאן אפשר לנחש שאפילו הספקנים הגדולים ביותר יודו שמכונה שמפגינה התנהגות מתוחכמת מספיק היא בעלת קוואליה.
על קוואליה ועל איש הפח 312865
(אתה אח של אייל?) אני מסכים.
קונקרטיזציה: 310361
ציפור קטנה לחשה לי - חלק ב 309625
מה הבעיה לשכנע? קח אותו לרופא הקונוונציונלי וקבע לו פגישה במקביל עם ועדת החייזרים, אם הם לא יקרים מדי.
ציפור קטנה לחשה לי - חלק ב 310496
אתה מסלף את מה שיהונתן אמר. קרא שוב את תגובה 309309: "הרעיון שהמדע מאמת קיום של משהו באמצעות ניסוי פורמלי שמהווה בדיקה ישירה שלו אל מול המציאות כבר לא ממש פופולרי". זה, כמובן, רחוק מאוד מלטעון ש[אימות באמצעות ניסויים פורמליים] (להלן X) אינו פופולרי. הוא רק אומר שהטענה [X ורק X הוא מדע] אינה פופולרית. התגובה שבה אתה מראה המון המון X-ים שמדענים עושים אינה רלוונטית.

שמתי לב שבינתיים הדיון התפתח, ואתה תוקף (בצורה לא רעה בכלל, אם יורשה לי) גם את הטענה הפופולרית שיהונתן כן דיבר בשמה, כך שאולי זה לא ממש חשוב. אבל לא רציתי להשאיר את הציטוט המסולף ללא הבהרה.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים