בתשובה ליהונתן אורן, 12/06/05 13:04
בקיצור 308450
אני לא מסכים עם הרבה דברים פה, אבל הדיון מתפזר אז אני אנסה למקד אותו. האם אתה צופה, או מסוגל לדמיין, שתוכל להשתכנע שמערכת מלאכותית או תאורטית כלשהי תהיה בעלת קוואליה? האם יש איזשהו תהליך אמפירי - אוסף תצפיות שתערוך - שבסופו תסכים שלא רק לבני-אדם יש קוואליה, או ספציפית שלמ"ט (מורכבת מספיק...) יש קוואליה?

כדי להבהיר את עמדתי, אני חושב שעפ"י הבנתי את המושג "קוואליה" כמשהו אינטרוספקטיבי גרידא, אין לך שום סיבה לענות בחיוב על השאלה הזו. תמיד תוכל לומר "כן, זה באמת מתנהג *כאילו* שיש לו תחושות, אבל אין לו *באמת* תחושות. אין לו קוואליה. זה לא מעיד משהו על המוח האנושי."
בקיצור 308492
אני לא יודע. אני מניח שתמיד אוכל להטיל איזשהו ספק בקיומה של קוואליה. אבל אני חושב שזה יותר מורכב. אני לא פוסל על הסף אפשרות שאי שם בעתיד יהיו לנו מכשירי מדידה שיתנו אינדיקציות טובות לקיומה של קוואליה (בהסתייגויות הפילוסופיות הרגילות). נראה לי שהתפתחות אמצעי מדידה מתאימים קשורים קשר הדוק לתיאוריה ולדרך שבה אתה מפרש את המציאות (כדי לבנות אמפרמטר היה צריך תיאוריה בסיסית של חשמל, כדי לבנות מונה-גייגר היה צריך תיאוריה בסיסית של רדיואקטיביות, כדי לבנות מד-לחץ-אוויר היה צריך תיאוריה בסיסית של התנהגות הגז). אולי קוואליה היא באמת הגבול העליון של הסובייקטיביות ולא תהיה אפשרות לבנות אמצעי מדידה - אבל זה דיון עקר. אין לנו היום אף תיאוריה על קוואליה. השאלה אם אנחנו יכולים להסיק על קוואליה מתוך תצפיות היא היום שעשוע פילוסופי בלבד, שאין לו הרבה משמעות בלי תיאוריה שמועמדת לבחינה.

לדעתי צריך לבדוק את זה מהכיוון השני. האם אתה חושב שלמחשבים היום יש קוואליה? ואם לא, מה גורם לך לחשוב שתהיה להם קוואליה בעתיד? האם יש לזה איזשהו ביסוס, או שהכיוון הוא "בגלל שאני מאמין שהמוח הוא מ"ט, אז מורכבות מספיקה תיצור קוואליה"?
בקיצור 308500
אלא"ע, כידוע, ובכל זאת הנה עשר האגורות שלי: אם אתה מקבל את ההנחה שלא מתחבאים שדים ורוחות במוח האנושי, אתה חייב לקבל גם את העובדה שהקוואליה היא אכן תוצר של פעילות חישובית שמתבצעת על מצע פיזיקלי גרידא. אם קיבלת את זה, אין שום סיבה שבעולם להניח שהקוואליה מוגבלת למעבדים מהסוג האורגני (ואפילו אם היתה סיבה להניח הנחה משונה כזאת, אין סיבה תיאורטית לא לבנות מחשבים שמבוססים על כימיה אורגנית). הרבה יותר סביר שהיא באמת תוצאה של התהליך ולא של החומרה הספציפית.
בקיצור 308513
אבל בדיון על ''האם המוח הוא מ''ט'' ההנחה שהמודל של מ''ט הוא המודל האפשרי היחיד (אם לא מתחבאים שדים ורוחות במוח האנושי) היא הנחת המבוקש.
בקיצור 308517
זה לא נכון. אנחנו יודעים די הרבה על יחידות העיבוד הקטנות שמרכיבות את המוח האנושי, וככל הידוע לנו כל אחת מהן היא מכונת טיורינג לעילא ולעילא (בייחוד אם נרחיב קצת את ההגדרה של מ''ט כדי שתכלול אלמנטים יוריסטיים, ואני מקווה שהמתמטיקאים לא ירצחו אותי על המשפט הזה). מחמת חוסר ידיעה אני לא מחזיק בדעה שמ''ט היא המודל האפשרי היחיד, אבל עד שלא מביאים בפני מודל אחר אני טוען שהכי סביר הוא שמיליארדי מ''ט הקטנות האלה עם האינטרקציות ביניהן מספיקות, ולפיכך אין צורך להניח הנחות מסתוריות על מנגנונים שאינם נכללים תחת כנפיה הגדולות של המכונה האוניברסלית.
בקיצור 308521
הנחות מסתוריות? יש לך כאן תופעה מסתורית. אין לך שום אינדיקציה לכך שמ"ט מתוחכמת יכולה ליצור קוואליה יותר מבלנדר רגיל. לדעתך זה "סביר" כי אתה לא נדרש לשינויים בהנחות שלך (זה החלק השמרני במדע). לדעתי זה הכול חוץ מ"סביר", כי אנחנו יודעים שיש שם מיליארדי מ"ט קטנות ועל האינטראקציה ביניהן, ולא למדנו שום דבר חדש על הקוואליה. היסק הגיוני באותה מידה יהיה שאין קשר בין מ"ט לקוואליה.
לא אכפת לי שאתה מאמין שהמוח הוא מ"ט, אבל אין כאן דבר מדעי יותר מהאמונה ההפוכה.
בקיצור 308525
אותו "היסק הגיוני" מניח קיום של משהו נוסף על אותם מיני-מעבדים, ואותו "משהו" חמקמק לא התגלה עד כה במיקרוסקופ האלקטרוני המשוכלל ביותר. לכן "אותה מידה" אינה באמת אותה מידה, כפי שאוקהם לימד אותנו.

הבסיס האורגני של בני האדם אינו שונה מזה של כל בע"ח אחר. איזו סיבה יש להניח שבמוח מסתתר משהו שחורג מהכלל הזה?
בקיצור 308531
קיום אותם מעבדים לא מסביר לנו את התופעה (וגם לאף אחד אין הצעה מעשית כיצד קיומם יכול להסביר את התופעה). אז מה ההגיון להמשיך ולהחזיק בהיפותזה שאין לה קשר למציאות הנצפית, רק בגלל שהיא מסתדרת להפליא עם הנחות היסוד המבוקשות? אבל עזוב, אנחנו הולכים במעגלים.

אין לי בעיה להניח שגם לבע"ח יש קוואליה.
בקיצור 308535
השיטה שמסבירה תופעות לא מובנות ע"י הנחות אד-הוקיות על פלוגיסטון, חומר ויטאלי, אתר ומלאכים שדוחפים את הכוכבים במסילותיהם‏1 לא הוכיחה את עצמה היסטורית. נראה לי שהמוח האנושי הוא מפלטה האחרון.
__________
1- לא רק אנחנו.
בקיצור 308538
זה נחמד, אבל מה הקשר לדיון שלנו?
בקיצור 308546
מה הקשר? הקשר הוא שאתה דורש מעמד שווה להשערה שיש מודל נסתר שבלעדיו פעולת המוח האנושי אינה מובנת, ואני טוען שההשערה האלטרנטיבית מועדפת מאותה סיבה שחוקי ניוטון עדיפים על ההנחה שמלאכים דוחפים את הירח.
בקיצור 308556
בחייך. אתה מציע הסבר מצוין, רק שהוא לא מתאים לתופעה. אני דורש ''מודל נסתר'' כמו שכל בעיה מדעית לא פתורה דורשת ''מודל נסתר''.
בקיצור 308585
אין לנו אלא לחכות ולראות, למרות שהאמת היא שאני לא מאמין שאהיה בסביבה כשהבעיה תיפתר. באסה.
בקיצור 308543
לעומת זאת, האטומים, האלקטרונים והקווארקים מוכיחים עצמם יום אחר יום.
בקיצור 308545
נכון. ההבדל הוא שהם ניתנים למדידה. ככלל, הנחת קיום של משהו חדש דורשת קצת יותר מתחושת בטן, וכשאותו משהו הוא לא פחות מאשר מותר האדם מן הג'וק דומני שהדרישות שהוא צריך לעמוד בהן גדולות מאד (למשל: הוכחה שמ"ט אינה מודל אפשרי למוח האנושי).
בקיצור 308547
יש לך ראיה מאד לא מציאותית של התהליך המדעי. אני מציע לך בחום לקרוא קצת מכתבי קון ופיירבנד.

בדרך כלל העגלה, דהיינו, הנחת קיום הדבר המטורף, באה לפני הסוס, דהיינו, הראיות החותכות.

לגבי הקווארקים, עד כמה שאני שמעתי עוד לא הצליחו לבודד אותם. (ולפי המודל התיאורטי, כנראה שלא יוכלו לבודד אותם לעולם)
בקיצור 308550
כן, אבל הנחת קיום הדבר המטורף צריכה להתבסס על צורך מאד חזק באותו קיום, לא על תחושת בטן ולא על "למה לא?".

לגבי הקווארקים, הם ניתנים למדידה באופן עקיף. תיאוריות שלא מייצרות משהו כזה נידונות לשנים ארוכות של ייסורים (ע"ע סופר-מיתרים) עד שעולה עדות בת-מדידה או שהן מתפוגגות.
בקיצור 308557
אולי תורות המיתרים נידונות לשנים ארוכות של ייסורים, אבל לא מעט פיסיקאים מסתפרנסים לא רע מלחקור אותן.
בקיצור 308631
נו, לא נורא, הייסורים האלה בהחלט מפיקים מוסיקה נוגה מאוד מכלי מיתר שונים, אבל אפשר להתענג עליה.
בקיצור 308501
"השאלה אם אנחנו יכולים להסיק על קוואליה מתוך תצפיות היא היום שעשוע פילוסופי בלבד, שאין לו הרבה משמעות בלי תיאוריה שמועמדת לבחינה" - עם זה אני מסכים, ואף ביתר פסימיות. כיוון שקוואליה (להבנתי) *מוגדרת* כתכונה שיכול יצור-חושב לבדוק רק על עצמו, אני לא רואה איך תיאוריה תשנה את המצב הזה. אבל אולי.

האם אני חושב שלמחשבים היום יש קוואליה? אני נוטה להניח שלא, אבל הנקודה היא שגם אילו האמנתי בכל מאודי שכן, לא היה לנו בסיס לדיון. אפשר לטעון שלכל דבר יש קוואליה - גם לחלוק-נחל, המרגיש את המים נכרכים סביב גופו, וגם לחצי השמאלי של אותו חלוק-נחל, המרגיש גם את המים וגם את חציו הימני דבוק אליו. יש לנו אפשרות להתווכח עם טענות כאלה?

מה גורם לי לחשוב שתהיה להם קוואליה בעתיד? יש לך ולי נטיות טבעיות שונות, אז כל אחד מאיתנו חש שנטל ההוכחה הוא על השני. אני חש שהטענה "במוח יש משהו יסודי שאיננו מ"טי, שאיננו בתא החי ולא בחלזונות ולא במחשבים" היא מפתיעה, והיא זו הדורשת ביסוס. ראיתי כל כך הרבה דוגמאות לדברים המשתנים איכותית כשהם עוברים ספי מורכבות שונים, שבכלל לא מוזר לי להניח ש"תחושת כאב", "התפעמות" ו"חיבה" הם דברים שיכולים לצוץ במערכת נוירונלית מספיק מסובכת.

ביסוס אחר שיש לי הוא שאנחנו רואים יום-יום נוזלי-גוף חסרי בינה מתפתחים, בתהליך מכני לחלוטין‏1, לאנשים בעלי-קוואליה. אז למה זה לא סביר להניח שקוואליה תתקיים ב"מחשב"? מה זה "מחשב", בכלל, אם מותר לי לבנותו גם ממרכיבים אורגניים? למה תינוק-מבחנה זה לא "מחשב"?

1 התלוי עמוקות בסביבה האנושית הקיימת. אני מקווה שכשאתה מאתגר אותי לייצר מחשב-חושב, אתה לא מכריח אותי לעשות זאת על הירח, אלא שמותר לו עוד בהיותו תינוק-מחשב ללמוד מהבריות ולשחק איתן.
חרמפפפפ בינוני 308504
(שכ"ג, אני רק מתלמד בעניין הזה. אני אמור לכתוב זאת בתגובה לי או בתגובה לך? וכמה פ"אים בדיוק יש שם?)
חרמפפפפ בינוני 308508
זה לא חרמפפפ בכלל. התגובה שלי אינה מייתרת את התגובה שלך כלל ועיקר.

(אין תקן בקשר למס' הפ"אים. כדי לשמח את עדי סתיו טוב להרבות בהם ואז לפַעל את העצם הזה בצורה של שורש רב עיצורים, ולומר: חרימפפפפפפפפפפת לשווא.)
בקיצור 308512
זה נשמע כמו "אנחנו לא יודעים להסביר את התופעה, לכן נניח שהיא עובדת לפי המודלים הקיימים". שזאת גישה משונה בעיניי. אבל כמו שכתבת, הנטיות שלנו שונות.

(אגב, תחושת הקוואליה היא סובייקטיבית, אבל האם קיום הקוואליה הוא סובייקטיבי? אני לא בטוח).
בקיצור 308514
הו לא, לי זה ממש לא נשמע ככה. כנראה שגם האזניים שלנו שונות :-) איזו תופעה אנחנו לא יודעים להסביר? מה יהווה עבורך "הסבר" בהקשר הזה?

אני חוזר על השאלה (כנראה משעממת בעיניך): האם מחשב מחומרים אורגניים הוא מחשב?

(מה סובייקטיבי, "קיום הקוואליה" כמושג, או "קיום הקוואליה אצל ישות ספציפית"? חשבתי שאנחנו דנים בשאלה השנייה. לגבי הראשונה, לא יודע, אבל לא אכפת לי להניח שיש דבר כזה וקיומו אובייקטיבי ואינו מוטל בספק. לא רואה איך זה מועיל).
בקיצור 308516
אנחנו לא יודעים להסביר את תופעת הקוואליה, כמובן. מה יהווה הסבר? לא יודע - מודל שמראה כיצד היא נוצרת ומתקיימת, שיוכל לקשור בין התופעות (תהליכים פיזיים וקוואליה). אמנם זאת בעיה לקשור בין תופעה שיש לנו בעיה לאמת את קיומה לבין תופעות אחרות. אז אני רואה כאן שתי אפשרויות: או שנמצא דרכים לאמת את קיום הקוואליה באובייקט הנבדק (כתוצאה מתיאוריה), או שהעניין ימשיך לחמוק מהתהליך המדעי, ואז האמונה שהמוח פועל כמ"ט תשאר אמונה בלבד (כמו האמונה שיש נשמה, או אמונות במודלים אחרים. עניין של נטייה אישית)

"קיום הקוואליה אצל ישות ספציפית" היא לדעתי שאלה אובייקטיבית. פשוט אין לנו אמצעי מדידה מוצלחים. החלק הסובייקטיבי הוא התכנים של הקוואליה.

אני חושש שאני לא מבין את השאלה "האם מחשב מחומרים אורגניים הוא מחשב". אם הוא מחשב אז הוא מחשב, לא? מה זה משנה מאיזה חומרים הוא מורכב?
בקיצור 308599
דעתי היא שמושג הקוואליה כפי שהוא מנוסח היום ימשיך מעצם טבעו לחמוק מהתהליך המדעי, ומכאן שהמוח-כמ"ט תמיד ידרוש קצת אמונה - פחות ופחות ככל שנוכל להדגים יותר ויותר. כאמור, מי שירצה להמשיך להתעקש, יוכל. גם עכשיו יש הטוענים שלבני-אדם מסוגים שונים ומשונים אין נשמה (או נשמה נחותה בדרגתה), ואין דרך להראות שהם טועים - רק להצביע על העובדה שזה מאוד לא סביר לאור הדמיון האמפירי הרב בין בני-האדם.

אין לי מושג איך אתה מדמיין אמצעי-מדידה לקוואליה.

מה פירוש "אם הוא מחשב אז הוא מחשב"? איך עונים על ה"אם" הזה? תא חי זה מחשב? איך אתה ניגש לשאלה כזו?
בקיצור 308620
יכול להיות (מאוד, האמת) שהקוואליה תמשיך מעצם טבעה לחמוק מהתהליך המדעי. אני מסכים שיש כאן עניין של סבירות. נכון להיום, אני פשוט לא רואה אף סיבה טובה להאמין שמורכבות של מ''ט יוצרת ''יש מאין'' קוואליה. כשהשאלה הזאת תתחיל להיות בספק (יהיו לנו מכונות שנחשוב שאולי יש להם קוואליה) יהיה מקום לדבר על ''סבירות''. מאחר שאין לי נטייה למיסטיקה, מאוד יכול להיות שאז אני אמצא את עצמי בצד שלך, ליד הקבר של שכ''ג, טוען שסביר שהמוח הוא מ''ט. בינתיים זאת נראית לי סתם השערה אופנתית ללא ביסוס.

אני לא מצליח לדמיין אמצעי מדידה לקוואליה. אבל מעניין שאנחנו לא מקבלים את האפשרות שיש למחשב קוואליה היום. נראה שבכל זאת יש איזו דרך סבירה להתייחס לשאלה.

אני חושש שאני לא עוקב אחרי ההשוואה בין תא חי למחשב. אני פשוט לא מבין למה אתה מתכוון או מה מטרת השאלה.
בקיצור 308625
"מעניין שאנחנו לא מקבלים את האפשרות שיש למחשב קוואליה היום. נראה שבכל זאת יש איזו דרך סבירה להתייחס לשאלה." - בוודאי: מחשבים היום לא מדברים (בשפת בני-אדם), לא מפגינים רגשות, ובקושי לומדים. כשהדברים הללו ישתנו, כמו שאמרת, יהיה מקום לדבר על "סבירות". אני רואה הרבה סיבות טובות להאמין שזה יקרה, ואתה לא, אבל ברור שההבדל בהערכות שלנו נובע משינויים קלים ברקע ולא צריך להתרגש מזה. אני רק לא בטוח עד כמה ההשערה אופנתית.

ההשוואה בין תא חי למחשב נובעת מהשאלה הבאה. אתה כותב, למשל, "יהיו לנו מכונות שנחשוב שאולי יש להם קוואליה". כשאנחנו אומרים "מכונות", לרוב אנחנו חושבים על דברים שעשויים מפלסטיק, ברזל וסיליקון. אבל ברור שזה לא חייב להיות כך. השאלה היא, אם נבנה "מכונה" שתעשה כאילו היא "חושבת" והיא תהיה עשויה (גם) מתאים שיופקו מחיות, אנשים או עוברים, לא חשוב כרגע - האם במצב כזה תסכים להתייחס למוצר כאל "מכונה" לצורך דיוננו? כלומר, אם ייראה לך שיש לה קוואליה, האם תסכים להשליך מכך על המוח האנושי ולומר שגם הוא, כמוה, מכונה?
בקיצור 308626
כן.

גם היום אני מוכן להתייחס למוח האנושי כמכונה. אני רק לא בטוח שמ''ט היא המודל הנכון.
בקיצור 308635
אה, את זה לא הבנתי עד עכשיו. באיזו מובן "להתייחס למוח האנושי כמכונה"? במובן שעשוי מחלקים קטנים שכל אחד מתנהג באופן פשוט? במובן שרגש, תחושה ורצון הם ביטויים של התהליך המכני, ולא דורשים גורם מטפיסי?
בקיצור 308642
אני צריך להיות ממש מוזר כדי לחלוק על זה שהמוח עשוי מחלקים שכל אחד מהם מתנהג באופן פשוט. אני לא בטוח למה אתה מתכוון ב"גורמים מטאפיסיים" - אני די בטוח שאין נשמה או התערבות אלוהית. אבל אני לא בטוח שאפשר לבצע לכל התהליכים המוחיים רדוקציה לפיזיקה (אני בכלל לא בטוח שניתן לתאר את כל הביולוגיה באמצעות רדוקציה לפיזיקה, וזה לא קשור ל"מטאפיסיקה"). ובהמשך לכך, אני לא בטוח למה אתה קורא "תהליך מכאני". אם המחשבות והרגשות שלנו משפיעים על המעשים שלנו, האם זה תהליך "מכאני"?
בקיצור 308652
מדוע לרכיב המתנהג באופן פשוט, או לביולוגיה של התא, לא ניתן לעשות רדוקציה לפיסיקה? כוונתך שהפיסיקה עוד לא השתכללה מספיק, או שיש פה מחסום עקרוני? או שכוונתך שתיאור מדוקדק של רכיבי התא והדינמיקה שלהם, עד כדי יכולת לסמלץ במדוייק התנהגות של תא, אינה מהווה "תיאור"?

המחשבות והרגשות הם תכונות של המערכת, והמערכת משפיעה על המערכת ובפרט על המעשים. אפשר לקרוא לזה "המחשבה משפיעה על המעשה", זה לא הופך את זה לפחות מכני. ברמת מורכבות נחותה בהרבה, זה יהיה מדוייק לומר שהמחשב שלי החליט שעבר מספיק זמן ולכן כיבה את עצמו - המחשבה שלו השפיעה על מעשה.
בקיצור 308665
יכול להיות שיש מחסום עקרוני לרדוקציה. זה אחד הנושאים המרכזיים בפילו' של המדע. אני לא מתכוון רק לאנשים כמו קון או פייראבנד שכליל הזכיר קודם, שטוענים שהתיאוריה קובעת את עולם התופעות הנצפות (ולכן ברור שאי אפשר ''להעמיד'' תיאוריה אחת על השנייה, כי הם עוסקים ב''מציאויות'' שונות). אפילו פוזיטיביסטים מאוחרים כבר מוכנים להטיל ספק באפשרות לעשות רדוקציה אמיתית. המפל, למשל, כבר מוכן לשקול את האפשרות שתיאוריות משפיעות אחת על השנייה כך שהמושגים שלהם ''מתמזגים'' לבסוף, ולא שיש רדוקציה אמיתית (בכל מקרה, הוא טוען שרק הזמן יוכיח אם אפשר לבצע רדוקציה של ביולוגיה לפיזיקה. טענה שגם היא בעייתית). אבל זה נושא רחב מאוד, ואני חושב שאני לא מבין אותו מספיק כדי לגבש דעה ולעמוד מאחוריה.

לפסקה השנייה שלך - אנחנו חוזרים למעגל שלנו. אתה מציג פיזיקליזם קיצוני, ואני לא רואה סיבה מיוחדת לקבל אותו. נכון להיום המדע לא מציע לנו תיאוריה שמסבירה כיצד החומר יוצר רגשות ומחשבות. בכלל לא בטוח שאם הוא יוכל להציע לנו תיאוריה היא תהיה דומה למה שעושה המחשב, כך שאני מתייחס לזה בגדר אמונה בלבד.
יש גם סיבות עקרוניות למה לא לקבל פיזיקליזם קיצוני. אחת מהן היא הקשר הלא-ברור בין המושגים התיאורטיים שלנו לבין האמת בעולם. כבר נכנסנו לשם בעבר. מדענים ''ממציאים'' מנחים תיאורטיים, ולא ברור לנו מה הקשר בין המונח לבין המציאות החיצונית. אבל אין לי איזה רצון מיוחד להיכנס לגומחה הזאת שוב. אני יודע שזאת צורה קצת לא פיירית לנהל דיון, ואני מצטער על זה, אבל אני לא מרגיש שיש לי משהו חדש להגיד. אני אנסה להיכנס שוב לדיון הזה כשאני אהיה מגובש יותר.
באמת שאין לי איזו התנגדות עקרונית להנחה שלך. מצידי המוח יכול לעבוד כמחשב, מ''ט או מחרטה קטנה. אני פשוט לא רואה סיבה להניח מראש שזה ככה כשאין לי שום אינדיקציה לכך.
בקיצור 308672
קראתי קון, קראתי קצת פייראבנד, ואו שלא הבנתי או שאני פשוט לא מסכים (עם הפרשנות הקיצונית יותר של הטענות). אני כנראה פוזיטיביסט הארד-קור, למרות שאני לא ממש יודע מה זה פוזיטיביסט (כל פעם מסבירים לי ואני שוכח את ההבדלים).

"רק הזמן יוכיח אם אפשר לבצע רדוקציה של ביולוגיה לפיזיקה": במובן מסויים זה נכון, למרות שאם לא פשוט נצטרך קצת להרחיב את הפיזיקה, אני לא רואה דרך סבירה בה הרדוקציה הזו באמת לא תיתכן. אני מקווה רק שאנחנו מסכימים לפחות על מהותה של רדוקציה כזו.

אל תצטער על חוסר הרצון לחזור לגומחה ההיא, זו זכותך ובכל מקרה זה ממש בסדר גם מבחינתי.
בקיצור 308681
נתקלתי לא מזמן אצל קוויין במשפט שמאוד שעשע אותי: " Science is a continuation of common sense, and it continues the common-sense expedient of swelling ontology to simplify theory". סתם הזכרת לי.
ציפור קטנה לחשה לי 308592
שדווקא יש לנו (טוב, לא לי אישית) תאוריות על קוואליה: דיון 806. בכל מקרה, האמירה כאילו קוואליה היא דבר מסתורי שאי אפשר להסיק עליו כלום היא רחוקה מהמציאות. למיטב הבנתי יש כלים ללמוד על הקאווליה גם ברמת הפסיכולוגיה וגם ברמת חקר המוח.

לגבי השאלה השניה שלך, האם יכולה להיות למחשבים קוואליה, לעניות דעתי, בהחלט יכולה להיות. הנה שני הסברים פשוטים:

1. ניתוח bottom-up (הניפו ישבנכם אל על)
שט"ג אמר - הקוואליה נוצרת בפעולה חישובית על בסיס פיזיקלי. לכן אפשר לשחזר את אותן פעולות חישוביות באופן מלאכותי. אתה אתה אמרת - כן, אבל אתה מניח שהמח הוא מ"ט.
ואני אומר - תיזת טיורינג-צ'רץ' שאומרת שכל מודל חישובי סביר שקול למ"ט ‏1. התיזה הזו כ"כ חזקה, שאפשר להגיד שתהליך שמיישם מודל חישובי חזק יותר, מפר את חוקי הפיזיקה הידועים לנו ‏2. אז אם אתה מקבל את ההנחה שהמוח בנוי מאבני בניין פיזקליות בסיסיות, אז קשה (בלשון המעטה) לראות איך הן מייצרות מודל חזק יותר ממ"ט.

2. ניתוח top-down (הניחו את מגבעותיכם)
בצע את הניסוי המחשבתי הבא: אתה משוחח עם אדם, עד שאתה (או בא כוחך) משוכנע לגמרי שיש לו קוואליה לתפארת. ואני מרשה לך לבדוק *כל* דבר, עד שתשתכנע לגמרי: אפילו לחבר לו אלקטרודות למח ולכבות לו סיגריות על הגוף כדי לבדוק האם זה כואב. אחר כך מהפנטים אותך ומוחקים לך את הזכרון. את הלוג של השיחה מכניסים לרובוט, שידע לתת בדיוק את אותן תשובות ואותן תגובות. שים לב שאין כאן שום מורכבות - בסה"כ מיפוי פשוט בין שאלה (או פעולה) שלך, לתגובה של הרובוט.
ידה ידה ידה, אתה תהיה משוכנע שלאותו רובוט יש קוואליה. האם הניסוי הזה אינו חושף את הריקנות שמאחורי המסתורין כביכול של הקוואליה? היום שאלתי בוט באינטרנט האם הוא אי פעם היה מדוכא. הוא התעצבן ואמר לי: "i have emotions like anyone else". אם אני הייתי במקומו, הייתי אומר: בן אנוש אוויל, אתה יכול לקחת את הקוואליה שלך ולדחוף אותה לחור שממנו היא הגיעה. :-)

---

1 שני מודלים שקולים אומר שמודל א' (בהנתן מספיק זמן חישוב) יכול לסמלץ כל דבר שמודל ב' מסמלץ, ולהיפך. מודל א' חזק מב' אם יש דברים שאפשר לסמלץ במודל א' ולא במודל ב'. לדוגמא, המודל החישובי של פנטיום, של מחשבים קוואנטיים, ושל חישובים מבוססי RNA, כולם הוכחו להיות שקולים למ"ט.

2 ידועים כמה מודלים חישוביים חזקים יותר ממכונת טיורינג. לכל אחד יש "קסמים" משלו - למשל אינסוף פעולות חישוב בזמן סופי, או גישה לאינסוף מידע בזמן סופי. לא קיים (מבחינה תיאורטית) תהליך פיזיקלי שמאפשר לממש יצורים כאלו.
ציפור קטנה לחשה לי 308619
טוב, אני לא יכול לומר שאני מבין באמת את התיאוריה שרון כתב עליה. אבל אני אהיה פחות ספקני כשנוכל ליצור מ"ט שנחשוב שיש לה קוואליה. בינתיים, המודל הזה נראה כמודל אפשרי, אחד מני רבים, שלמרות שהוא מסקרן אין לו ביסוס מיוחד. אגב, המודל הזה הוא מ"ט?

אני לא חולק על זה שאולי בעתיד תוכל להיות קוואליה למחשבים. אני פשוט רוצה לראות את זה קורה לפני שאני מאמץ את התזות על המוח כמ"ט.

בנוגע להסברים שהצעת:
1. אבל המחלוקת היא על "האם קוואליה היא תוצר-לוואי של עוצמה חישובית". אם אני חושב שאין לי סיבה להאמין שזה כך, זה לא עוזר שאתה מוכיח שאין מודל חישובי סביר חזק יותר ממ"ט. (אולי קוואליה היא תוצר של מפגש בין שני חומרים במוח בתוספת ניצוץ חשמלי בחלל שבנוי בצורה מסוימת? שטויות במיץ עגבניות. אבל הנה הצבתי מודל אלטרנטיבי שמבוסס על הפיזיקה הפשוטה כפי שהיא מוכרת לנו ויש לו אותה מידה של תמיכה אמפירית).
2. זאת כבר שאלה בפילו' של המדע: כל ניסויי המחשבה האלה מבוססים על תפיסה פוזיטיביסטית-אידיאליסטית. אבל אם מטרתו של המדע היא להגיע לאמת ולא לסדר את נתוני החושים שלנו באופן מסוים, אין לניסויי המחשבה האלה ערך בעיניי. זה שאני לא יודע להבדיל בין אובייקטים שידוע שיש הבדל ביניהם לא מהווה פתרון לבעיה ולא מקרב אותי לאמת על העולם.
ציפור קטנה לחשה לי - חלק א 308657
אוקי. בוא נעשה את שלב שלב.

א. קודם כל, תיקון קטנוני אך חשוב: הטענה היא לא "המוח כמכונת טיורינג" (גם ה pc שלך הוא אינו מ"ט). הטענה היא: המוח שקול למ"ט.
ב. אמרת "אני רוצה לראות את זה (קוואליה למחשבים) קורה לפני שאני מאמץ את התזות על המוח כמ"ט". הסבר 1 ניסה להראות לך שאפשר לאמץ את התיזה הזו גם אם אין קוואליה למחשבים בימינו. ואני לא טוען שאין.
ג. ברגע שעשית את הצעד האמיץ של המוח-שקול-למ"ט, אז זה אומר שאפשר לכתוב אמולציה של המח בכל מכונה שקולה למ"ט. כלומר, אם תוכל לקחת את 10 בחזקת 15 הניורונים במח, ואת הקשרים בינהם, ולייצג אותם בתוכנה, אז תוכל לשחזר באופן מדוייק את כל התגובות (הפנימיות והחיצוניות) של אותו מוח.
ד. מכאן שהתשובה לשאלה ששאלת בתגובה 308492: "(האם) מורכבות מספיקה תיצור קוואליה" - היא כן, בהנתן שלמחשב יש את התוכנה המתאימה.

מקווה שההסבר הזה מניח את דעתך על כך שלא מדובר במשאלת לב פוזיטיביסטית חסרת בסיס. לא הבנתי את ההתיחסות שלך לניצוץ חשמלי וגו' אבל אני מקווה שאתה מבין שגם התהליך של הניצוץ החשמלי (או כל תהליך פיזקלי אחר שאתה או בא כוחך יכולים לדמיין) אינו יכול לחשב משהו שמכונת טיורינג אינה יכולה לחשב.
ציפור קטנה לחשה לי - חלק א 308662
אבל מי אמר שקוואליה קשורה ליכולת חישובית?
ציפור קטנה לחשה לי - חלק א 308684
לא הבנתי את ההערה שלך.

האם הקוואליה מתרחשת במקומות אחרים מאשר בתהליך המנטלי שלנו? אולי היא מתרחשת בנשמה, במישור אלוהי שאין אליו גישה מהיקום הפיזיקלי? האם הקוואליה היא כמו ג'וק - ברגע שמישהו מאיר את החדר, היא בורחת לחדר אחר חשוך, כדי שלא יראו אותה?

על מה לעזאזל אתה מדבר :-)
ציפור קטנה לחשה לי - חלק א 308689
קוואליה היא תחושה, רגש, חוויה. מאיפה אתה יודע שהיא נוצרת כתוצאה מיכולת חישובית? אולי בכלל היא נוצרת בתהליך כימי של אינטראקציה בין כמויות מדויקות של חומרים בראש שלנו, אולי מ"הדהוד" של החישובים בתוך חלל הגולגולת הייחודי שלנו, אולי ממשהו אחר.
ההנחה שהקוואליה היא תוצר של המערכת החישובית היא ההנחה שאנחנו מתדיינים עליה כאן.
ציפור קטנה לחשה לי - חלק א 308698
אתה מתחמק. שוב אתה ממציא תהליך כימי חדש שהוא כמובן לא יכול לייצר תוצרים שמכונת טיורינג לא יכולה לסמלץ. ולגבי "הדהוד" של החישובים בתוך חלל הגולגולות, שוב פעם מדובר בתהליך פיזיקלי שהוא תוצר לוואי של תהליך פיזיקלי אחר, ששוב, אין לו יותר כוח ממה שיש למכונת טיורינג.

נראה כאילו אתה מנסה בכח למצוא איזשהו יכולת מסתורית של המוח, כזו שלא שקולה למ"ט. אפילו אם זה בניגוד לכל מה שידוע לרפואה. למה בעצם? למה לא להודות? "למיטב ידיעתינו, סביר להניח שהיכולת האינטלקטואלית של המח (כולל התחושות והרגשות) ניתנים לסמלוץ במכונת טיורינג?"
ציפור קטנה לחשה לי - חלק א 308733
אוקיי. נדמה לי שעכשיו הבנתי למה אתה מתכוון. כל הפיזיקה מעל הרמה הקוואנטית ניתנת לרדוקציה למ''ט, ולכן גם המוח.

לדעתי, הקוואליה אינה תהליך פיזיקלי. יכול להיות שהיא נוצרת כתוצאה מתהליך פיזיקלי (ז''א, בלי מיסטיקה), אבל היא עצמה לא ניתנת לביטוי, עד כמה שידוע לנו היום, באמצעים חישוביים. אם אתה חושב אחרת, אני אשמח לראות אותך מבטא אותה באמצעות משוואות, שורות קוד או כל דרך אחרת שתבחר בה.
ציפור קטנה לחשה לי - חלק א 308778
עכשיו אתה עושה כאן טריק דמגוגי, סטייל מחזירים בתשובה. אנחנו מבינים את המוח? לא!‏1 לכן קיימת נשמה ולכן יש אלוהים.

נראה לי שהסברה הזהירה היא להניח שאין שום דבר מסתורי שמתרחש במוח. אתה צריך הסבר מאד חזק למה יש דבר מסתורי שמתרחש במוח, אבל אין שום דבר מסתורי שמתרחש במזג האוויר, או במבנה המרחבי של חלבונים, או ברצח של ארלוזורוב. גם את הדברים האלו אנחנו לא יודעים להסביר (ואגב, יודעים להסביר אותם הרבה פחות טוב מאשר את הרגשות). ובכל זאת אם מישהו יטען שזה תוצאה של חייזרים או תהליך שהפיזיקה לא מסוגלת להסביר אני ארים גבה.

הגישה שלך היא גישה אגוצנטרית שאומרת שהאדם מיוחד. ואתה באמת נתלה בכל בדל של אפשרות כדי למנוע את האפשרות האיומה שאין באדם שום דבר מיוחד. ספר לי מה כ"כ מיוחד בקוואליה שרק בני אדם (ויונקים?) זכו לקבל אותם, אבל ג'וקים, עצים, גבינות מסריחות ומחשבים (כולם מורכבים מאותן אבני בניין כימיות) לא זכו לקבל אותן.

לסיום, אני אענה על הבקשה שלך. הנה כמה לינקים למחקרים בנושא רגשות ומוח. שים לב, שהחוקרים הצליחו למצוא מתאם בין פעילות מוחית לבין רגשות מבלי להזדקק לכל מיני קסמים כפי שאתה תארת‏2.

1 למרבה המזל, אין מנתחי מוח בקהל.
2 נקודה למחשבה: הרגשות מושפעים מהקלט החושי שמעובד ע"י הנירונים במח. הרגשות משפיעים על הפלט ההתנהגותי, שגם הוא נשלט ע"י ניורנים במוח. ידוע על מנגנון במוח שמתרגם קלט מניורונים לפלט בנירונים אחרים - זוהי פשוט הרשת הניורונית הרגילה. למה צריך להגדיר מנגנון חדש ומסתורי בשביל הרגשות?
ציפור קטנה לחשה לי - חלק א 308850
אני חושב שמאוד קל להראות שאין זהות בין תיאור הפעילות המוחית באופן פיזיקלי לבין החוויה. הסיפור הרגיל הוא על החדר של מרי: מרי היא פיזיקאית מבריקה שגדלה בחדר אטום שבו הצבעים היחידים הם שחור ולבן. היא מעולם לא הורשתה לראות צבע אחר. יש לה הבנה מושלמת של התיאוריה הפיזיקלית של הצבעים, כולל תיאור פיזיקלי מלא של הצבע "אדום". האם מתוך התיאור הפיזיקלי היא יכולה לחוות את הצבע "אדום" ולדעת כיצד הוא נראה? ברור שלא.

הקוואליה לא ניתנת לרדוקציה למ"ט, או שמרי הייתה רואה "אדום" מתוך ידיעת המשוואות.
ציפור קטנה לחשה לי - חלק א 308852
אני לא רואה מה זה קשור. לא נטען כאן שלדעת באופן פיזיקלי איך החוויה מתרחשת זהה לתחושה של החוויה, אלא שחוויה ניתנת לתיאור פיזיקלי. במקרה הנוכחי, מדען שמומחה בפעולת המוח ובהשפעה של קלט שמגיע מהעיניים על המוח יהיה מסוגל, באמצעות הידע הפיזיקלי שלו, לגרום למרי לראות "אדום" גם בחדר שלה, אם ישלח אל המוח את הסיגנלים המתאימים, לא? לכן, מתוך ידיעת המשוואות מסוגלים ליצור את החוויה. כמובן שזה לא אומר שידיעת המשוואות *היא* החוויה, אלא רק שהחוויה ניתנת לתיאור בצורה פיזיקלית.
ציפור קטנה לחשה לי - חלק א 308855
איך "לדעת ליצור את החוויה" זהה ל"החוויה ניתנת לתיאור בצורה פיזיקלית"?
ציפור קטנה לחשה לי - חלק א 308864
זה לא, כנראה שלא הסברתי את עצמי טוב מספיק. ''לדעת ליצור את החוויה מתוך ידע פיזיקלי'' פירושו ''החוויה ניתנת לתיאור בצורה פיזיקלית''. אם זה עדיין מפריע לך, שנה את זה ל''ניתן לדעת מהם הגורמים הפיזיקליים של החוויה'' - זה רק מתאים למה שכתבתי בהודעה הקודמת. מהמשוואות אי אפשר להבין איך ''מרגישה'' החוויה - זה לא אומר שצריך משהו פרט למשוואות כדי לגרום למישהו להרגיש אותה. ואם לא צריך יותר מזה, אז גם מחשב (שמסמלץ את העולם הפיזיקלי) יכול לחוות את אותה חוויה בדיוק אם נכניס לו את הקלט המתאים לתוכנה המתאימה.
ציפור קטנה לחשה לי - חלק א 308867
''מהמשוואות אי אפשר להבין איך 'מרגישה' החוויה - זה לא אומר שצריך משהו פרט למשוואות כדי לגרום למישהו להרגיש אותה''.

נכון. אבל זה גם לא אומר שלא צריך משהו פרט למשוואות כדי לגרום למישהו להרגיש אותה. אולי כן. זה בדיוק העניין - אנחנו לא יודעים. בכל מקרה, בגלל זה אני לא פוסל את האפשרות שבעתיד כן נדע לבנות יצורים מלאכותיים עם קוואליה (אבל כן פוסל את הרעיון שמ''ט יכולה לתאר את כל הפעילות המוחית, כי חלקה לא ניתנת לרדוקציה לפיזיקה).
ציפור קטנה לחשה לי - חלק א 308873
כאן אנחנו חוזרים לבסיס הדיון שלך עם אח של אייל. אני רק רציתי להעמיד דברים על דיוקם ולציין שאף אחד לא טען שיש זהות בין תיאור הפעילות המוחית ובין החוויה. אתה מסכים איתי שמרי יכולה לחוות "אדום" למרות שלא ראתה מימיה אדום אם מישהו שבקיא בתיאור הפיזיקלי של "אדום" ישתמש בתיאור הזה עליה? מה טוב. אנחנו אמנם נחלקים בשאלה האם יש במרי משהו קסום שאין במחשב ואי אפשר לתאר בצורה פיזיקלית, אבל זו בכל זאת התקרבות.

לדעתי חובת ההוכחה עלייך: אם אני מסוגל לסמלץ במדוייק את כל המאפיינים הפיזיקליים של ראיית "אדום" ואתה טוען שמי שסומלץ לא באמת רואה אדום ושחסר משהו - אתה צריך להראות שאכן חסר משהו, כי אני לא רואה שום הבדל. אני מניח שלדעתך חובת ההוכחה שזה זהה דווקא עלי.

למה זה דומה? נניח שאני בא ואומר על משהו "זה נראה כמו שפן, זה מריח כמו שפן, יש לזה טעם של שפן, זה מרגיש כמו שפן וזה משמיע קולות של שפן, ובכלל בכל קריטריון השוואתי שבו ניתן להשוות את זה לשפן אנחנו מקבלים זהות, אז עד שלא יוכח אחרת זה שפן". לעומת זאת, אתה (אולי) טוען: "מה אכפת לי שהם דומים בכל הקריטריונים שנתת? אמנם, אני לא פוסל את האפשרות שזה שפן, אבל עוד לא הוכחת לי שזה *באמת* שפן". לזה אני יכול רק לומר: תן לי עוד קריטריונים.
ציפור קטנה לחשה לי - חלק א 308877
לא הבנתי כלום.
א. מתוך התיאור הפיזיקלי המלא של הצבע האדום לא נוצרת התחושה של אדום.
ב. אם מישהו יוצר תחושה בזולת תחושה של אדום באמצעות מניפולציה שמבוססת על מאפיינים פיזיקליים, אז ברור שיש לאותו זולת תחושה של אדום. לא חסר פה משהו.
ג. הטענה כן הייתה שיש זהות בין הפעילות המוחית ובין החוויה, ובגלל זה אפשר לסמלץ את המוח כמ''ט.
ציפור קטנה לחשה לי - חלק א 308881
א. זה בדיוק מה שאני מסביר שאני *לא* טוען.
ב. צריך להיכנס יותר לעומק למה זה "מניפולציה שמבוססת על מאפיינים פיזיקליים". האם אתה מסכים שניתן לסמלץ את הפעילות הפיזיקלית של המוח? אם אתה מסכים, ואני רואה מה התגובות הפיזיקליות של המוח כשהוא מקבל שדר של "אדום" מהעין, האם, אם אסמלץ מוח במחשב ואעביר לו את השדר של "אדום", למחשב תהיה תחושה של אדום?
ג. שים לב להבדל: אתה אמרת "אין זהות בין תיאור הפעילות המוחית באופן פיזיקלי לבין החוויה", ואילו עכשיו אתה אומר "יש זהות בין הפעילות המוחית ובין החוויה". חוץ מזה שהראשון מנוסח בשלילה והשני בחיוב, מה ההבדל בין שני המשפטים? על ההבדל הזה אני מדבר בהודעות האחרונות, וייתכן שפספסת את זה ולכן אני נשמע מבלבל.
ציפור קטנה לחשה לי - חלק א 308884
מעניין, אם ניקח את זה צעד אחד קדימה, האם נראה לך שאפשר לסמלץ במדויק את גדי אלכסנדרוביץ'? אנחנו כבר יודעים שאפשר "להשתיל" זכרונות בדויים. האם אפשר לסמלץ אדם מסוים אחד, לדעתך?
ציפור קטנה לחשה לי - חלק א 308887
נראה לי שזו הנחת יסוד בדיון שהדבר אפשרי - מודולו הקוואליה. כלומר, אפשר ליצור סימולציה (אני מניח שכוונתך במחשב, כי לא חוכמה ליצור עותק גנטי, ייתכן שאנחנו מעתיקים גם את הדברים הלא פיזיקליים בצורה לא מודעת) האם הוא "ירגיש" שהוא קיים? שאלה טובה, זו בדיוק השאלה האם קוואליה קיימת גם בסימולטורים.

כמובן שאז מגיעה שאלת מיליון הדולר: נניח שאני רוצה חיי נצח ומסמלץ את עצמי במחשב. מה בעצם עשיתי? אם נצא מתוך נקודת הנחה שאני זהיר ואני לא הורג את עצמי תוך כדי יצירת הסימולטור, אחרי שגמרתי את יצירתו יש לי את עצמי בתוך המחשב, אבל אני גם נמצא בחוץ, בגוף שלי. לכן בבירור אנחנו לא אותו גדי. נו, ועכשיו נשאל, מה אם הייתי הורג את עצמי תוך כדי התהליך? אז הייתי *אני* עובר לתוך המחשב, או שהייתי מת?
ציפור קטנה לחשה לי - חלק א 308898
א. אני חשבתי שדעתך היא שאפשר לסמלץ קוואליה.
ב. לא ברור לי מה פתאום הסימולציה הזאת אמורה הרוג אותך או לפגוע בך בכלל. יותר מזה, מהרעיונות שהעלה כאן אלון, הבנתי שמדובר על מחשב ביולוגי. ואם כך, מדוע שהוא לא יהיה בדיוק אותו גדי? הוא בגוף שלו ואתה בשלך, אבל הגוף זהה וגם הנשמה.
ציפור קטנה לחשה לי - חלק א 308909
ב. היא לא אמורה להרוג אותי. רק הצבעתי על הבעייתיות שבתכנונים (המד"ביים) של כל מני אנשים להעביר את עצמם למחשב כדי לזכות בחיי נצח.

אם מדברים על מחשב ביולוגי העסק נהיה הרבה יותר פשוט. הכי פשוט זה אם ניקח כל אטום שמרכיב אותו ונשכפל אותו כך שאנחנו שומרים על המבנה הפנימי של האטומים. נו, מה עכשיו? כולם יסכימו שאם יש לי קוואליה גם לשכפול יש, אבל זה פחות מעניין. גם מבחינת השאלה למה הוא זה לא אני יש תשובה פשוטה - המקום שאנחנו תופסים בחלל שונה. לכן גם אם שנינו נראים וחושבים אותו דבר, יש את גדי שעומד מימין וגדי שעומד משמאל, ומכיוון שניתן להבדיל ביניהם כך הם לא אותו הדבר בדיוק.
ציפור קטנה לחשה לי - חלק א 308919
טוב, נראה לי שאם הרעיון הוא לקחת ''כל אטום ולשכפל אותו וכיו''ב...'', אז זה לא בדיוק מחשב, וגם לא מאוד סביר לקרוא לזה מכונת טיורינג.
לעומת זאת, השאלה שלי היא לא כל כך אם תהיו ''אותו בן אדם'' כמו ''אם תהיה לכם אותה קוואליה'' (ובעצם, אם יש הבדל בין ההגדרות האלה).
ציפור קטנה לחשה לי - חלק א 308925
די בבירור *לא* תהיה לנו אותו קוואליה, כי העובדה שאנחנו לא נמצאים באותו מקום במרחב תגרום לכך שהאינטראקציה שלנו עם המרחב תהיה שונה, ולכן גם החוויות שלנו יהיו שונות.
ציפור קטנה לחשה לי - חלק א 308998
על אדם אני לא יודע, אבל על כבשים דווקא כן. קראו לה דולי.
ציפור קטנה לחשה לי - חלק א 309090
מה אתה יודע? שהיתה להן אותה קוואליה?
(אבל כמובן התכוונתי ל*לא שיבוט*).
ציפור קטנה לחשה לי - חלק א 309093
אני אפילו לא יודע אם היה להן אותו מס' אישי.
ציפור קטנה לחשה לי - חלק א 308889
טוב, נדמה לי שאני מבין אותך עכשיו.

הדיון אינו על השאלה אם הפעילות הפיזיקלית של המוח יכולה ליצור קוואליה. אני מניח שכן (יכול להיות גם שהפיזיקה היום לא מספיקה לכך, אבל המחקר ממשיך להתפתח ואולי נמציא מודלים אחרים. לא עקרוני). הדיון הוא על השאלה אם אפשר לסמלץ את כל הפעילות המוחית באמצעות מ''ט או האם קוואליה נוצרת מהעוצמה החישובית של המוח, או אחד הניסוחים האחרים שהוצעו כאן.
ציפור קטנה לחשה לי - חלק א 308894
על זה אני מדבר בתגובה 308873. אם אנחנו יודעים שתופעה פיזיקלית מסויימת גורמת להופעת קוואליה, ואם אנחנו יודעים לסמלץ את אותה תופעה באופן מדוייק במחשב, הרי שלטעון שהסמלוץ של התופעה במחשב לא יוצר קוואליה מניח שקיים משהו במוח שאין במחשב אבל לא מסביר מהו. זה הקריטריון החסר שעליו אני מדבר שם.
ציפור קטנה לחשה לי - חלק א 308901
אבל אנחנו לא יודעים שתופעה פיזיקלית מסויימת גורמת להופעת הקוואליה. אנחנו יודעים שהמכלול יוצר אותה (כנראה). נגיד את זה כך: אני נוטה להאמין (בלי שום ביסוס מלבד הנחות היסוד שלנו) שאם תעתיק את המוח - אטום לאטום - תקבל יצור שחש קוואליה. אבל זה לא אומר שאם תסמלץ את תופעות שיכולות להיות מסומלצות במחשב תקבל קוואליה. מחשב יכול לסמלץ אולי עוצמה חישובית, אבל הוא לא יכול לסמלץ אינטראקציה כימית, חלל וכדומה. אם אתה מניח שכל העניין הוא עוצמה חישובית אז בסדר. אבל על זה הדיון.
ציפור קטנה לחשה לי - חלק א 308911
אנחנו חוזרים על עצמנו, אז אסיים כאן. רק שים לב: אני מודע לזה שאתה אומר שאנחנו לא יודעים שזו תופעה פיזיקלית שגורמת להופעת הקוואליה, אבל אני אומר "תן קריטריון". כלומר, תן את הגורם שכן גורם להופעת הקוואליה. כל עוד לא הבאת כזה, אני לא רואה שום סיבה לא לחשוב שהתופעה הפיזיקלית גורמת להופעת הקוואליה.
ציפור קטנה לחשה לי - חלק א 308913
לא. תופעה פיזיקלית כן גורמת כנראה להופעת הקוואליה. בוא נבדיל בין ''תופעה פיזיקלית'' לבין ''סימלוץ''. יכול להיות שאפשר לתאר תופעות באמצעות סימלוץ, למשל במ''ט, אבל הסימלוץ לא מהווה את התופעות ובמילא לא יגרום לתוצאותיהן. אנחנו יכולים עקרונית לסמלץ במ''ט התפרצות הר-געש, ועם זאת המ''ט תשאר שלמה ולא תותך.
בתכלס 308921
א- תצטרך כנראה להעתיק יותר מהמוח (איפה הוא נגמר?)
ב- קודם תצטרך להקפיא את הגוף
ג- אם העתקת את הגוף 1:1, מה הראת? ("לניסויי המחשבה האלה ערך בעיניי" תגובה 308619).
בתכלס 308926
לא יודע מה הראתי. כתבתי כבר שאין לי שום ביסוס מלבד הנחות-היסוד שלי. זאת הייתה רק הדגמה לכוונתי שאני לא מניח משהו ''חוץ-מדעי'' ועדיין אני לא צריך לקבל את המודלים המוצעים.
בתכלס 308936
אז אפשר להעתיק או לא? :)
ציפור קטנה לחשה לי - חלק א 308997
אתה מכיר עוד תופעות בעולם ש"לא ניתנ[ו]ת לרדוקציה לפיזיקה", או שהמוח האנושי הוא היוצא מן הכלל היחידי בכל הקוסמוס?
ציפור קטנה לחשה לי - חלק א 309031
המוח האנושי כנראה כן ניתן לרדוקציה לפיזיקה. התוצרים של הפעילות שלו לא.
ציפור קטנה לחשה לי - חלק א 309037
בעיני זאת סתירה.
ציפור קטנה לחשה לי - חלק א 309044
למה?

ומה אתה אומר על מרי, הפיזיקאית המבריקה (אין לי חשק לחפש את התגובה)?
ציפור קטנה לחשה לי - חלק א 309055
כי אם המוח ניתן לרדוקציה פיזיקלית כל התוצרים שלו נובעים מאותם רכיבים פיזיקליים, ניתנים לשחזור ע''י הרכיבים הפיזיקליים, הם תוצאה הכרחית של הפיזיקה המוחית, הם ניתנים לניבוי (תיאורטית) ע''י ניתוח המצב הפיזיקלי, ולכן הם שייכים לתחום הפיזיקה.
ציפור קטנה לחשה לי - חלק א 309108
מאחר שלא כל הפיזיקה עובדת כמו השרשרת שתיארת כאן (קוואנטים וכאלה), האם אני יכול להבין שלדעתך הפיזיקה סותרת את עצמה?

חוץ מזה, איך אפשר לתאר תופעה של חוויה באמצעות "השפה" של הפיזיקה? ואם אי אפשר, האם היא שייכת לתחום הפיזיקה?
ציפור קטנה לחשה לי - חלק א 309161
איזה חלק של הפיזיקה הקוואנטית לא מתאים למה שכתבתי? אתה בטח מתכוון ליכולת הניבוי, אבל תורת הקוואנטים נותנת ניבויים מאד מדוייקים (ניבוי של הסתברויות הוא עדיין ניבוי). תיאוריה פיזיקלית בלי יכולת ניבוי אינה תיאוריה פיזיקלית, כי בלי ניבוי אין יכולת הפרכה (נעזוב לרגע שאלות של עקביות).

ה"חוויה" עצמה לא ניתנת לביטוי במשוואות - אחרת כל הקוואליה לא היתה נכנסת לדיון שלנו - אבל אם היא נובעת אך ורק ממשתנים פיזיקליים וקשרים ביניהם, הרי שתאור המערכת כולל בתוכו גם תאור עקיף אך ממצה של הקוואליה.
ציפור קטנה לחשה לי - חלק א 309175
אבל זה בדיוק העניין. גם אם מרי תדע את התיאור הפיזיקלי המלא של הצבע אדום, היא לא תדע איך נראה הצבע הזה ולא תזהה אותו אם היא תראה אותו פתאום. אז כיצד אפשר להתייחס לתיאור הפיזיקלי כתיאור ממצה? הוא מקסימום תיאור של הגורמים לקוואליה ‏1.

1 וגם, השאלה "גורמים" באיזה מובן - שהיא גם שאלה חוץ-פיזיקלית.
ציפור קטנה לחשה לי - חלק א 309181
אני לא מבין למה אתה מתכוון כשאתה אומר "לא תזהה אותו". הבעיה היחידה שלה תהיה להחליט אם מה שהיא חווה כ"אדום" הוא מה שגם אני חווה. התשובה היא בהכרח "כן"‏1 אם הכל נעוץ בגורמים פיזיקליים. יתר על כן, אוכל לגרות את הנוירונים המתאימים שלה ולגרום לה לחוות אותה חוויה בדיוק בלי לערב שום אור בעניין.
______________
1- נא לא להעלות טיעונים על עיוורים מלידה שלא מסוגלים לראות גם אחרי שהפגם הפיזי תוקן, שכן אני כולל את כל השינויים הנדרשים במבנה המוח שלה לצורך הניסוי שלנו.
ציפור קטנה לחשה לי - חלק א 309266
לא. השאלה אם היא תדע לזהות את הצבע האדום מתוך התיאור הפיזיקלי שלו (תגובה 308850).
ציפור קטנה לחשה לי - חלק א 309284
זאת לא שאלה מעניינת בעיני, שכן היא רק חוזרת על הבעיה המקורית בניסוח אחר, ואגב כך מכניסה לדיון בעיות צדדיות כמו היכולת של המוח להפוך תאור פיזיקלי פורמלי (כלומר, משוואות) למשהו נחווה. התשובה הטריויאלית היא: כמובן שהיא תדע לזהות את הצבע האדום עפ"י התאור הפיזיקלי שלו, כאשר התאור הפיזיקלי נעשה בעזרת פוטונים באורך הגל המתאים. האם משוואות מקסוול יספיקו למרי שלנו כדי לחוות "אדום" בלי שום תיווך? אני מניח שלא, אבל מה בכך? אף אחד לא מכחיש שיש למוח מגבלות מסויימות.

(כבר סיפרתי פעם על מישהו שטען שהוא מסוגל "לראות" בעיני רוחו קוביה ארבע ממדית ולספור את האלכסונים שלה. אולי מישהו יכול היה גם לחוות "אדום" באותו אופן. אין לי מושג)
ציפור קטנה לחשה לי - חלק א 309308
מה זאת אומרת "מגבלות מסוימות של המוח"? שאלת הרדוקציה היא שאלה שנגזרת מהצורה שאנחנו תופסים את העולם בגלל "מגבלות מסוימות של המוח". בטבע עצמו אין "פיזיקה", "ביולוגיה", "פסיכולוגיה", "ספרות". יש (אולי) רק תופעות. השאלה היא *רק* שאלה של הניסוח שלנו כפי שהוא נגזר מהתפיסה שלנו את העולם.

השאלה אם הצבע האדום ניתן לחוויה ע"י התיאור הפיזיקלי שלו פירושה האם אפשר להביע באמצעות המשוואות את החוויה עצמה (ולא את השינויים הפיזיקליים שגורמים לה). אני לא מצליח לדמיין כזה דבר. אולי זאת בעיה פרטית שלי, אבל אם כך אני מצפה שמישהו יראה לי חוויה שמובעת במשוואות. אני בטוח לא אבין, אבל אני מתחייב לקבל את המילה שלכם שזה אכן כך.
ציפור קטנה לחשה לי - חלק א 309352
X^2 + Y^2 + Z^2 = R^2

עכשיו, זרוק אותו בבקשה אלי. תודה.
_____________
האם המשוואה הזאת היתה אומרת לי משהו אם לא הייתי חווה לפני כן כדור? לא, *לי* היא לא היתה אומרת כלום. אני בכלל לא בטוח לגבי מרי, שטוענת שהיא מסוגלת לחוות בקבוק קליין עפ"י המשוואה שלו, למרות ש(תאמין לי) היא לא ראתה אף פעם בקבוק כזה בחדרה האפלולי.
אולי זאת לא דוגמא טובה 309418
הבוקר, בעודי סועד פת של שחרית עלתה במוחי דוגמא אחרת. מה דעתך על קונדיטור שמביט על מרשם, אותו לא ניסה מימיו, ופוסק: "טעים מאד, אבל הייתי מפחית טיפה סוכר ומוסיף קמצוץ זנגוויל". אפילו מיצי הקיבה שלו מתעוררים לתחיה תוך שהוא מעמיק להגות במרשם ומתלבט אם חצי מקל וניל לא יעמעם במקצת את תחושת הקטיפתיות הנימוחה של הבלילה המדומיינת. יאמי.

אח"כ חשבתי שוב שהחשיבות של כל זה נעלמת ממני. גם הזכרון הוא חלק מהפונקציונליות של המוח, ובעזרתו בטוח שאפשר לחוות קוואליה ע"י התבוננות במשוואות. E=MC^2, למשל, מעלה אצלי כל פעם מחדש את הרגשות הסקסיסטיים שלי.
אולי זאת לא דוגמא טובה 309420
אתה לא תגיד לי שאתה נדרש למשוואות חזקות כךל כך מבית מדרשו של איינשטיין לצורך רגשותיך הסקסיסטיים, נכון?
וממה הייתה מורכבת היום פת השחרית שלך, שעוררה בך הרהורים פיוטיים כה?
אולי זאת לא דוגמא טובה 309446
אני מסרב להיגרר למחוזות בהם טל מזעיף את גבותיו.
____________
כן. זה תאור מדוייק של מה שהוא עושה, ונא לא להתווכח איתי.
אולי זאת לא דוגמא טובה 309466
חלילה לי מלהיתווכח איתך, אבל הייתי שמחה לראות את גבותיו הזעופות של הנ''ל.
אולי זאת לא דוגמא טובה 309433
השאלה היא אם קונדיטור שכל חייו אפה ואכל עוגות גבינה, ומעולם לא ראה וטעם שוקולד, יוכל לדעת את טעמו של השוקולד לפי הנוסחא הפיזיקלית שלו (בוא נניח שהוא גם קונדיטור וגם פיזיקאי).

אם אתה חושב שכן, אין לי הרבה מה לומר. אני לא מסכים. אני גם לא מסכים שסימלוץ במ"ט של התפרצות לבה מהר געש תתיך את המעבדה על כל הנמצאים בה. אבל מה אני יודע? אולי אני טועה. אולי זה כבר קרה ופשוט לא נשאר אף אחד שיספר לנו על זה.
אולי זאת לא דוגמא טובה 309445
"השאלה היא..." - בסדר, זאת השאלה שאתה שואל. אני לא יודע למה דווקא זאת השאלה שמעניינת אותך, למה לא מספיק לך שמי שכן טעם שוקולוד יוכל ל"חוש" שינוי בטעמו כתוצאה משינוי בנוסחה, אבל אני לא יכול לקבוע עבורך מה לשאול. התשובה שלי, אם אני מוכרח לתת אחת, היא "אולי".

על השאלה שניה הרבה יותר קל לענות, כמובן. הסימוטלציה לא תתיך את המעבדה באופן ישיר, אבל בהחלט עלולה לגרום להרגשה של חיל ובהלה בקרב הנוכחים, וזה מה שמעניין אותנו כרגע אם אני זוכר נכון. בזה אני בטוח לגמרי, מאחר וראיתי את הסרט "וולקנו". למה אתה מכניס את זה לדיון? אנחנו עוסקים בשאלה אם אנחנו חיים ב"מטריקס"?

ואם כבר להיות נודניק, הסימולציה ההיא באמת יכולה להתיך את מה שיש במעבדה באמצעות מתווך: פירומן שצופה בה עלול להיתקף אמוק ולהבעיר שריפה גדולה. רובוט שתוכנת להשמיט מידו את בקבוק המולוטוב כשהוא מזהה תבנית של אש על המרקע יעשה אותו דבר אפילו אם הוא מהסוג הנחות נטול הקוואליה (יש עוד כאלה בשימוש?). אני מקווה שאין לך התנגדות עקרונית לשימוש שלי במתווכים.
אולי זאת לא דוגמא טובה 309449
השאלה הזאת (של השוקולד) מעניינת אותי כי היא מדגימה את הפער בין החוויה לבין תיאור התהליכים הפיזיקליים. לא מספיק לי שמי שכן טעם שוקולד יוכל לחוש את טעמו כי הוא משתמש בזיכרון, דבר שאין מחלוקת שקיים. אבל אם התשובה שלך היא ''אולי'' אני לא יודע איך להמשיך מכאן. אם הנישואים שלך ושל אלון יביאו במז''ט לתינוק משותף, אני מציע לשקול לערוך עליו את הניסוי.

הקטע עם הסימולציה קשור לשאלה האם המוח הוא מ''ט. נעזוב את זה עכשיו.
אולי זאת לא דוגמא טובה 309453
אתה לא מבין מה ההבדל בין סימולציה לבין אמולציה.
כשאמרתי שהמוח שקול למכונת טיורינג, כתבתי שאפשר לעשות אמולציה שלו על מחשב. סימולציה היא שיחזור המודל הפיזי. אמולציה היא שיחזור של ההתנהגות בלבד - קלט\פלט.

כאשר עושים אמולציה של PC על מכונת טיורינג, אף אחד לא מצפה שנשחזר את המתחים החשמליים שיש ב CPU, או את הסיבוב של להבי המאוורר, או את אורך הגל של הלייזר ב dvd . כל מה שאנחנו אמורים לשחזר זה את המיפוי בין הקלט לפלט. כאשר עושים אמולציה של הר געש, לא משחזרים את הטמפרטורות. כל מה שרוצים לשחזר זה את ההתנהגות של הר הגעש. ובשביל זה, צריך רק להגדיר את באופן פורמלי את המצב של הר הגעש וסביבתו.

תחשוב על הר געש מתפרץ במשחק מחשב עם גרפיקה מפורטת להדהים. אתה תראה בדיוק את כל הסביבה שלו ניתכת. עם זאת, למתכנת אין מושג בפיזיקה, אין לו מושג מה קורה בתוך הר הגעש, ואין לו בקוד אפילו משוואה אחת בתרמודינימיקה. והנה, הוא שיחזר את ההתנהגות של הר הגעש, והמשתתפים בתערוכת המשחקים יגידו: "מדהים! זה כמו במציאות! יותר יפה מהמציאות! ממש מאטריקס!".

כאשר אנחנו עושים אמולציה של המוח על מחשב, אף אחד לא טוען שבמוח הזה יש נירוניים פיזיים, ושהמחשב עצמו פתאום יהיה רעב וידחוף המבורגר לכונן הדיסקטים שלו. אבל התוכנה תתנהג כמו בנאדם. אם המחשב יושתל במקום מוח של בנאדם ותחבר את ה"פקדים" שלו לגוף אנושי, אז אותו אדם יתנהג בדיוק כמו אדם עם מוח אמיתי.
אולי זאת לא דוגמא טובה 309456
לא הכרתי את המושג, למרות שהבנתי את ההבדל בין ''שקול ל'' ל''פועל כ''.

האמולציה לא מעניינת אותי. אנחנו עוסקים בקוואליה.
אולי זאת לא דוגמא טובה 309460
אני מבין, אבל היא צריכה לעניין אותך. אתה פסלת את האפשרות שמוח שקול למכונת טיורינג, על סמך זה שאי אפשר ''לסמלץ'' תחושות על סמך ידע מוקדם. אבל אף אחד לא מנסה לסמלץ תחושות. רק ''לאמלץ'' תחושות.

לדוגמא, לענינה של הפיזיקאית מרי. אף אחד לא אומר שהידע הפיזיקלי על תכונות האדום שקולות לתחושה של אדום. כל מה שאומרים זה שאפשר לעשות אמולוציה, לכתוב תוכנה שהקלט שלה הוא עיניים והפלט שלה הוא הגוף של מרי. והתוכנה הזו תתנהג בדיוק כמו שמרי תתנהג.

מי שכתב את התוכנה, מסוגל לעשות את זה גם אם הוא אף פעם לא ראה אדום בעצמו. הוא מסוגל לעשות את זה למרות שאין לא מושג איזה חלק של המוח מטפל בצבעים ואיזה בתחושות (שים לב שגם מתכנת שכותב הר געש היום, באמת לא מבין איך הר געש פועל). כל מה שהוא צריך לדעת זה איך לתרגם ניורון וסינפסה לקוד.
ציפור קטנה לחשה לי - חלק א 309122
אני לא בטוחה שהמח ניתן לרדוקצייה פיסיקלית. אבל גם אם כן, אני לא יכולה לדמיין איך ניתוח המצב הפיסיקלי - תיאורטית או לא - יכול לנבא שפה טבעית. תחת איזו חלוקה הוא ינבא אותה? שפה של מחשבה, שפה בדיבור, שפה כתובה על דף, מופיעה על צג... הרבה מאוד אפשרויות. באיזה מובן היא ניתנת לניתוח פיסיקלי?
ציפור קטנה לחשה לי - חלק א 309162
נחזור רגע למה שאלון שאל: האם את מאמינה שתא אחד ניתן לרדוקציה פיזיקלית?
ציפור קטנה לחשה לי - חלק א 309182
אין לי שמץ של מושג אם להאמין בזה או לא. אבל אני לא רואה את הקשר. נניח שאפשר. נניח שאפשר גם לעשות רדוקציה פיזיקלית למוח ולגוף ובכלל. אני שואלת איזה מובן פיזיקלי יכול להיות למה שאנחנו קוראים שפה, שישאיר אותה עדייןם בגדר שפה - בשעה שהיא ניתנת להבעה באמצעים פיזיקליים שונים מאוד זה מזה.
ציפור קטנה לחשה לי - חלק א 309185
''שפה'' היא מושג שהקשר שלו לפיזיקה שמתחתיו הוא עקיף מאד, אבל אין לו שייכות לשאלת המדיום בו השפה הזאת מבוטאת.
ציפור קטנה לחשה לי - חלק א 309194
תגובה 309055
ציפור קטנה לחשה לי - חלק א 309198
כן, ו...?
ציפור קטנה לחשה לי - חלק א 309203
לפי מקור זה, אם אינני טועה (כלומר, אם אתה מסכים שהשפה היא תוצר של המוח האנושי), השפה שייכת לתחום הפיסיקה. מאידך גיסא, מבחינה פיסיקלית, לצורות מבע שונות של השפה יש מצעים פיסיקליים שונים ביותר. לא ברור לי איך זה מסתדר.
ציפור קטנה לחשה לי - חלק א 309206
אני מצטער, אני לא רואה את הבעיה. מצב א' של המוח יגרום לך להגיד ''איזה עולם נפלא'', מצב ב' יגרום לך לכתוב את זה על הקרח, ומצב ג' יגרום לך לזמזם את השיר של לואי ארמסטרונג. לכל המצבים יש מאפיינים משותפים (ההרגשה ששתית יותר מדי) ויש מאפיינים שונים שגורמים לצורות הביטוי השונות.
  ציפור קטנה לחשה לי - חלק א • האייל האלמוני
  ציפור קטנה לחשה לי - חלק א • עומר
  ציפור קטנה לחשה לי - חלק א • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק א • אביב י.
  ציפור קטנה לחשה לי - חלק א • האייל האלמוני
  ציפור קטנה לחשה לי - חלק א • אביב י.
  ציפור קטנה לחשה לי - חלק א • האייל האלמוני
  כמה שוקל נוירון? • שוטה הכפר הגלובלי
  כמה שוקל נוירון? • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • סמיילי
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  מט ב 5 מסעים • אח של אייל
  מט ב 5 מסעים • שוטה הכפר הגלובלי
  מט ב 5 מסעים • אח של אייל
  מט ב 5 מסעים • רון בן-יעקב
  מט ב 5 מסעים • גדי אלכסנדרוביץ'
  מט ב 5 מסעים • רון בן-יעקב
  מט ב 5 מסעים • גדי אלכסנדרוביץ'
  מט ב 5 מסעים • רון בן-יעקב
  מט ב 5 מסעים • גדי אלכסנדרוביץ'
  מט ב 5 מסעים • רון בן-יעקב
  מט ב 5 מסעים • גדי אלכסנדרוביץ'
  מט ב 5 מסעים • שוטה הכפר הגלובלי
  מט ב 5 מסעים • שוטה הכפר הגלובלי
  מט ב 5 מסעים • אח של אייל
  מט ב 5 מסעים • שוטה הכפר הגלובלי
  מט ב 5 מסעים • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  על מה חולמות הרכבות בלילות? • ראובן
  על מה חולמות הרכבות בלילות? • שוטה הכפר הגלובלי
  על מה חולמות הרכבות בלילות? • ראובן
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אלון עמית
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • ראובן
  ציפור קטנה לחשה לי - חלק ב • ראובן
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  מצא את ההבדלים. • ראובן
  מצא את ההבדלים. • שוטה הכפר הגלובלי
  לך ואמור לאומן שעשאני כמה מכוער כלי זה שעשית • ראובן
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • ראובן
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • ראובן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • ירדן ניר-בוכבינדר
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • עומר
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • עומר
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • עומר
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  הערה קטנה • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • ירדן ניר-בוכבינדר
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • ירדן ניר-בוכבינדר
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  זה לא כל כך נעים לראות מחלקה סגורה • ירדן ניר-בוכבינדר
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  נמנע • האדם השלישי
  נמנע • שוטה הכפר הגלובלי
  נמנע • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • איילה מנסה לברר
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  רובוט הדור השלישי • אח של אייל
  רובוט הדור השלישי • האייל האלמוני
  רובוט הדור השלישי • אח של אייל
  רובוט הדור השלישי • האייל האלמוני
  רובוט הדור השלישי • שוטה הכפר הגלובלי
  רובוט הדור השלישי • האייל האלמוני
  רובוט הדור השלישי • שוטה הכפר הגלובלי
  רובוט הדור השלישי • האייל האלמוני
  רובוט הדור השלישי • שוטה הכפר הגלובלי
  רובוט הדור השלישי • אח של אייל
  רובוט הדור השלישי • האייל האלמוני
  על קוואליה ועל איש הפח • איש הפח
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • איש הפח
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • אח של אייל
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • אח של אייל
  על קוואליה ועל איש הפח • שוטה הכפר הגלובלי
  על קוואליה ועל איש הפח • אח של אייל
  על קוואליה ועל איש הפח • שוטה הכפר הגלובלי
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • אח של אייל
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • אח של אייל
  על קוואליה ועל איש הפח • שוטה הכפר הגלובלי
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • שוטה הכפר הגלובלי
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • ירדן ניר-בוכבינדר
  על קוואליה ועל איש הפח • ירדן ניר-בוכבינדר
  על קוואליה ועל איש הפח • האייל האלמוני
  על קוואליה ועל איש הפח • שוטה הכפר הגלובלי
  על קוואליה ועל איש הפח • ירדן ניר-בוכבינדר
  קונקרטיזציה: • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • ירדן ניר-בוכבינדר
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • גדי אלכסנדרוביץ'
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • ראובן
  ציפור קטנה לחשה לי - חלק ב • ראובן
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • יהונתן אורן
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • עוזי ו.
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • האייל האלמוני
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי - חלק ב • אח של אייל
  ציפור קטנה לחשה לי - חלק ב • שוטה הכפר הגלובלי
  ציפור קטנה לחשה לי • רון בן-יעקב
  ציפור קטנה לחשה לי • יהונתן אורן
  ציפור קטנה לחשה לי • רון בן-יעקב
  ציפור קטנה לחשה לי • רון בן-יעקב
  אתמול היית בבית קפה • אח של אייל

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים