בתשובה לאלון עמית, 28/06/05 23:25
בקיצור 312511
אני יכול לקחת תוכנה בגודל מסויים שמפיקה את כל המספרים הראשוניים בין 1 לגוגל על סמך קובץ ה-zip שלך, לא? אז האינפורמציה נמצאת שם, המספרים נגזרים מהאקסיומות. לעומת זאת, אני לא יכול להפיק משם את כל כתבי שייקספיר, מכיוון שהם לא נגזרים מהאקסיומות האלה.
כל אלגוריתם שתתכנת נגזר ממך, הוא לא יכול להכיל אינפורמציה שלא נמצאת בך. לכן גם כל הפלטים שלו, מקורם בך, גם אם הם לא יצאו מן הכוח אל הפועל אצלך (כמו המספר הראשוני הראשון שגדול מגוגל, שגם הוא קיים באקסיומות של פאנו אבל לא הופק ע"י התוכנה).
בקיצור 312513
אני לא מבין לאיזה מובן של "אינפורמציה" אתה מתכוון. אני יכול לתכנת הרבה אלגוריתמים שאין לי שום מושג לאילו מסקנות הם יגיעו; אתה רוצה לטעון שכל האינפורמציה כבר נמצאת בי - בסדר, לא משנה. מה הלאה?
בקיצור 312672
היחס הזה הוא לא סימטרי. כל המשפטים של תיאוריה מסוימת נמצאים בה, אבל היא לא נמצאת באף אחד מהם (היא נמצאת בכולם ביחד).
כל הפעולות והמבעים של בן-אדם שקולים למשפטים של מערכת (הם פלטים של אלגוריתם). כלומר, הם חלקיים לו. כל אלגוריתם שהאדם יחשוב עליו יכיל פחות אינפורמציה במובן הזה מאשר מכיל האדם עצמו.
בקיצור 312683
כאמור, אני לא ממש מבין את הטענות הללו (באיזה מובן "חלקיים"), אבל שאלתי העיקרית היא - ו...? איך כל זה נוגע לשאלת האדם=מחשב כן או לא?
בקיצור 312704
אם האדם הוא מ"ט, אזי קיים אלגוריתם מרכזי שפלטיו הם התנהגות האדם על היבטיה השונים. כל פלט בנפרד מכיל פחות אינפורמציה (או פחות "משהו", לא משנה מה) מהאלגוריתם המרכזי. אם המ"ט-אדם הזה הוא אלגוריתמאי, אזי האלגוריתמים שהוא ממציא הם פלטים של האלגוריתם המרכזי שלו, ולכן מכילים פחות מהמשהו הזה. אם אחד האלגוריתמים האלה הוא מ"ט-אדם בעצמו, הוא בהכרח פחות מסובך(?) מהמ"ט-אדם שהוא יוצרו. והמ"ט-אנשים שהמ"ט-אדם השני הזה יתכנת יהיו עוד פחות מורכבים. יש לך התנגדות לתמונה הזאת?
בקיצור 312713
בוודאי: היא שגויה מן היסוד.

שמע. נניח שהייתי נולד לתוך חדר חשוך ואפל, ומבלה את שלושים ושש השנים הראשונות לחיי בבידוד מוחלט - ללא תקשורת, גירויים ולמידה, רק מוחזק בחיים באיזה אופן. האם הייתי עכשיו יצור פחות מורכב אינטלקטואלית מההורים שלי? סביר מאוד שכן; קשה להניח שהייתי יודע לדבר, לקרוא או לכתוב באייל הקורא. אלא מאי, שזה לא היה כך בדיוק, נכון? באותו אופן, מ"ט אחת יכולה לתכנת מ"ט אחרת אשר, אחרי שתשכיל ותלמד, תעלה על אימה-הורתה בכל מובן. למה לא? אתה בטוח שתלמידים אנושיים העולים על רבותיהם עושים זאת בדרך מסתורית, אנטי-אלגוריתמית? אולי הם רק קצת יותר מהירים מהם?

הבה נתרכז שנייה בעניין הזה של מהירות. אמרת קודם שכל המשפטים בתורת-המספרים גלומים כבר באקסיומות-פאנו, ולכן הם לא יותר מורכבים ממנה. נניח שזה כך (להשקפתי זה לא, אבל ניחא). אם שופטים מערכות לפי הפוטנציאל שלהן, ללא תלות בזמן, אולי באמת כל בני-האדם החיים כיום זהים לחלוטין מבחינת "מורכבותם" - תן להן מיליון שנה, וכולם יגלו לבד את ההוכחה של משפט-פרמה. אלא שיש (כך מסתבר) הבדלים מאוד משמעותיים בזריזות שבה אנשים שונים מסוגלים לטפל בבעיות שונות; חלקנו מספיקים להמציא את תורת היחסות, חלקנו מסתפקים בלגדל חסה. אתה *בטוח* שלא ייתכן שאני אייצר מ"ט שתהיה לכל הפחות יותר מהירה ממני, ועל כן תספיק לגלות בשלושים השנים הקרובות דברים שלי יש את ה*פוטנציאל* לגלותם תוך שניים-שלושה מיליארדי שנים?

הלאה. רוב בני-האדם יודעים לכתוב, ולכן לכולם (בהגדרה) יש את הפוטנציאל הטכני לכתוב את "ארץ הישימון" ואת "געגועי לקיסינג'ר". אם אתה בוחן אלגוריתם על-סמך כל הפלטים הפוטנציאליים שלו (וכולם, לדעתך, פחות "מורכבים" ממנו), איך אתה מתמודד עם העובדה שיש אלגוריתם דבילי לחלוטין שיוציא (כעבור זמן) את כל הטקסטים הנשגבים בני פחות מאלף עמודים? העניין הוא לא מה האלגוריתם *יכול* לפלוט, העניין הוא מה הוא *בוחר* לפלוט קודם, ומה אחר-כך, ובאיזה קצב. אלו אינן שאלות של חישוביות (מה ניתן לחשב), אלא של סיבוכיות (באיזו מהירות אפשר לחשב), ואתה רחוק מלשכנע אותי שמכונה איטית לא יכולה לייצר מכונה מהירה יותר - ובעקבות זאת, מכונה שתהיה יותר יצירתית ומתוחכמת ממנה בכל זמן נתון.

בקיצור, אני לא רואה כל סיבה להאמין שיש הבדל בין המורכבות של בני-אדם ומחשבים כשהיא נמדדת עפ"י כוח-החישוב שלה; כולנו זהים, לא מורכבים יותר ממה שאנחנו יודעים ליצור, אבל גם לא בהכרח פחות. אדם יכול ליצור מחשב עם היכולת לגלות את אותם דברים כמוהו (כולל את משפט גדל), מחשב יכול גם הוא ליצור מחשב כזה, אין שום הבדל ואין שום סיבה התוצרים יכילו "פחות מהמשהו הזה", כדבריך. לעומת זאת, אני רואה הרבה מקום לשיפור מדור לדור בסיבוכיות ובמהירות, ולכן במורכבות-למעשה - הן אצל בני-אדם ה"יוצרים" בני-אדם, הן אצל בני-אדם היוצרים מחשבים, והן אצל מחשבים היוצרים מחשבים.

מה ההתנגדות שלך לתמונה הזו?
בקיצור 312716
(צ''ל ''כולנו זהים, לא מורכבים פחות ממה שאנחנו יודעים ליצור, אבל גם לא בהכרח יותר''.)
בקיצור 312730
התמונה שלך יפה, אבל היא לא סותרת את מה שאני מנסה להגיד. בכוונה כיניתי את יתרונו של האלגוריתם על פלטיו בשם "משהו" ולא התעקשתי על "מורכבות" או "סיבוכיות" במובן שאתה מדבר עליו (מונחים שאני לא שולט בהם, כפי שראית). יתרה מזאת, אני לא אתפלא אם ה"משהו" הזה הוא תכונה שאינה ניתנת לחישוב.

האם אתה מסכים איתי שכל מה שיכול האלגוריתם-בן לפלוט, יכול גם האלגוריתם-אב? הרי מערכת יכולה להשתמש בכל אחד ממשפטיה כבסיס להוכחת משפטים אחרים. כמו כן, לאלגוריתם האב יש בהכרח מעין "הבנה" של האלגוריתם הבן שמאפשרת לו לעשות כל מה שיכול לעשות הבן (אולי במהירות נמוכה יותר). וההיפך לא נכון.
בקיצור 312732
למה ההיפך לא נכון?

"האם אתה מסכים איתי שכל מה שיכול האלגוריתם-בן לפלוט, יכול גם האלגוריתם-אב?" - אני לא רואה סיבה לדחות את ההנחה הזו, רק לא מבין מה ניתן ללמוד ממנה. כאמור, אחד האלגוריתמים הטפשיים בתבל יכול לפלוט את כל מה שאפשר בכלל לפלוט, אז מה?

לא ברור לי מה זה "מעין הבנה", ולמה לבן אין אותה. יש לך ילדים? יש לך מעין הבנה שאין להם?

יש לי שאלה לגבי הדיון. נבחין בין שתי טענות:

1. האדם אינו מחשב.

2. טענה 1 נובעת לוגית ממשפטיהם של גדל, צ'ייטין ואחרים.

אני מניח שאה עדיין מחזיק בטענה 1. האם אתה עדיין מחזיק גם בטענה 2?
בקיצור 312745
לגבי ההיפך: האם אתה יכול להוכיח את סיגמה-פי מתוך אחד המשפטים שלה?

לגבי ילדיי (שאין לי בינתיים, אבל עוד יהיו, בע"ה): היחס בין האלגוריתם-אב לבין בנו אינו שקול ליחס בין אב לבנו. אני לא אהגה את ילדיי, אני אוליד אותם (בע"ה ;)

לגבי הדיון:
אלגוריתם הבן הוא *לא שלם* ביחס לאביו.
ניתן להסתכל על אלגוריתם האב כעל *מטא-מערכת* של בנו.
הבן מכיל כנראה פחות אינפורמציה (במובן הרלוונטי) מאביו, ולכן לא יכול להוכיחו.(צ'ייטין)
האב יכול להוכיח את משפט גדל על הבן, אך לא להיפך.(גדל)

אם הייתי יודע לגזור בצורה פורמאלית את המסקנה מהמשפטים האלה, הייתי עושה זאת מזמן. אני רואה שהיא נובעת מהם אבל אין לי הידע הטכני להראות את זה פורמאלית.
בקיצור 312825
מה זה סיגמה-פי? ולמה צריך "להוכיח מערכת" (מה זה?) מתוך אחד המשפטים שלה כדי לסתור את הטענה שמ"ט א' לא יכולה לתכנת מ"ט ב' שהיא חזקה בדיוק כמוה? מה יש, כל כך קשה להשתכפל?

תראה, מצד אחד אתה מסכים שאתה לא מתמצא במושגים, ומצד שני אתה שב ומתעקש לחזור על אותן טענות שגויות. אני לא מבין את זה.

האב *לא מכיל פחות אינפורמציה* מבנו. קודם ויתרת על אינפורמציה והחלפת אותה ב"משהו", עכשיו חזרת? *משפט* *צ'ייטין* *לא* *אומר* *כלום* על האינפורמטיוויות של מערכת ועל יכולתה להוכיח כל דבר חוץ מסוג מסויים ופצפון של משפטים. אני באמת לא מצליח להבין למה אתה מתעקש לחזור על הטעויות הללו.

משפט גדל לא אומר כלום על אבות ובנים. למה אתה סבור שאב יכול להוכיח את משפט גדל על בנו? למה אתה סבור שההיפך לא נכון? למה?

למה אתה מתעקש שה"ידע" של מ"ט הוא אוסף המשפטים שהיא יודעת להוכיח? לצורך העניין, המחשב שאני מנסה לשכנע אותך כל הזמן לחשוב עליו - זה שמביט בעולם ועונה על שאלות - לא מתוכנת לעצור לעולם. על-כן, כוחו החישובי במובן של מ"ט הוא אפס מאופס, כלום. הוא לא יודע לבצע אף "חישוב". איך למען השם אנחנו אמורים להסיק מסקנות על יכולותיו תוך שימוש במשפטים של גדל וצ'ייטין?

דמיין מחשב היודע לשחק שח ברמה נמוכה. הוא יודע גם ללמוד, והוא בנוי כך שפעם בשנה הוא מסכם את כל הידע שצבר, כותב תכנית C חדשה על-סמך הידע הזה, מעתיק אותה לדיסק נקי ומצדי משמיד את עצמו. הנה, הוא יצר מ"ט חדשה. הנה, היא יותר חכמה ממנו בעולם השחמט. במובן החישובי הם שקולים לגמרי. במובן השחמטי - לא. אותו דבר עם אנשים ומ"ט. זה סותר איזה משפט של צ'ייטין? של גדל?

הנה סיכום של כמה עובדות החוזרות על עצמן.

1. אף מערכת פורמלית (סופית, נאותה, עקבית וכו') לא יכולה להוכיח את כל הטענות על מספרים טבעיים. גם בני-אדם לא.

2. אף מערכת פורמלית עקבית לא מוכיחה את העקביות של עצמה. גם בני-אדם לא.

3. אף מ"ט לא יכולה לפתור את בעיית העצירה הכללית. גם בני-אדם לא.

4. ככל הידוע לנו - גם אחרי גדל, טרסקי, צ'ייטין, טיורינג וממשיכיהם - הכוח החישובי של בני-אדם אינו גדול במאומה מזה של מחשבים. בכלום. אפס. שום דבר.

5. אין כל מדד למורכבות או אינפורמציה לפיו אנשים או מכונות או מערכות פורמליות מוגבלים לייצר רק דברים פחות (ממש פחות, לא פחות-או-שווה) מתוחכמים מהם.

6. יש הרבה סיבות להאמין שאנשים או מכונות יכולים לייצר או לתכנת או ללדת אנשים ומכונות יותר מהירים ומוכשרים ועתירי-ידע ויצירתיות מהם.

אם אתה מאמין שאדם אינו מ"ט ויהי מה, זכותך - הסברתי כבר שזו עמדה שאי-אפשר להפריך. אבל אתה בטוח שאפשר *להוכיח* את זה ממשפטים מסויימים בלוגיקה מתמטית ותורת החישוביות, ואתה מתעקש להתעלם מהעובדות היבשות. דווקא זו, בעיני, דוגמאטיות.
בקיצור 312887
עוד קצת שמן למדורה שלכם, מסלשדוט: http://www.news.cornell.edu/stories/June05/new.mind....

בקורנל הגיעו למסקנה שהמודל החישובי של המוח שונה מהמודל החישובי של המחשב (ומ"ט לצורך זה). לא כמכונת מצבים משוכללת (אתם יודעים למה אני מתכוון) אלא בעיבוד רציף, כמו מערכות ביולוגיות אחרות.
בקיצור 312891
לא הבנתי איך הניסוי שלו רומז למידול "רציף" של המוח. כל המשפטים המדברים שם על שני מצבים 0 או 1, נשמעים לי כמו הגזמה מוזרה. הרי גם בעזרת מ"ט אפשר לסמלץ המון "מצבים אפורים" ביניהם המכונה תטייל לה (בדיוק כמו שעשו הנבדקים), עד שהיא תגיע להכרעה.

הרץ אלגוריתם פשוט כמו A*, שמשתמש ביוריסטיקה, ותראה איך המחשב "מהסס" המון זמן לאיזה כיוון כדאי לפנות (באופן דומה לאיך שהיססו הנבדקים האנושיים), לפני שרואים שהוא בוחר את הכיוון המועדף.

מה יש בניסוי הזה שרומז לרציפות של משהו?
בקיצור 312903
מצטרף למה שאביב אמר. ערן, המחקר כלל לא עוסק בהשוואה בין המודל החישובי של המוח למודל החישובי של מחשב. המסקנה שלו מתייחסת לעיבוד שפה, ואומרת שיש להחליף את המודל הישן של עיבוד שפה במודל חדש.
- המודל הקיים הוא מכונת מצבים דטרמינסטית; או בניסוח עיתונאי: "works like a computer"
- המודל החדש הוא מסלול במרחב רב מימדי.

שני המודלים האלו ניתנים לאמולציה במחשב.
בקיצור 312942
מצד שני, שים לב שבכתבה לא באמת נטענת הטענה שהמודל הדיסקרטי איננו נכון, אלא שישנו מודל *שימושי* יותר לתאור פעולות קוגנטיביות.

"More recently, however, a growing number of studies, such as ours, support dynamical-systems approaches to the mind. In this model, perception and cognition are mathematically described as a continuous trajectory through a high-dimensional mental space; the neural activation patterns flow back and forth to produce nonlinear, self-organized, emergent properties – like a biological organism."

גם אם אפשר לרדקץ את המודל שלהם לכדי מ"ט (בדרך זו או אחרת), באמת יכול להיות שאין סיבה *מעניינת* לעשות זאת. מדע איננו רק עיסוק ב"איך הדברים הם ממש ממש באמת באמת ברמת ה-LOW LEVEL" אלא גם העיסוק בלנסות להבין תהליכים מורכבים באמצעות הפשטתם ומידולם. לכן, אולי, יותר משחשוב מהו המודל ה"נכון", אולי יותר חשוב מהו המודל המעניין או מהו המודל שמספק לנו יותר אינפורמציה לגבי אופן פעולת המוח.
בקיצור 312943
הללויה!
בקיצור 312944
תודה תודה. אבל מה פשר פרץ שמחה זה?
בקיצור 312946
התגובה שלי הופנתה לערן. השמחה פרצה בעוז על הטענה שהמח איננו מ''ט אלא עובד באופן רציף. כמתנגדת נוקשה למידול המח כמ''ט, רציתי להודיע על תחושת הקלה.
בקיצור 312949
חשבתי שמה שחשוב זה חקר המציאות. אני לא מתנגד ולא תומך במידול המוח כמ''ט ולא אחוש הקלה או מועקה אם יתברר שהמוח הוא מ''ט או שהוא לא מ''ט.
בקיצור 312960
תנוח דעתך, זה ברור לי. דיברתי על רגשותיי שלי בלבד.:)
בקיצור 312981
המחקר במאמר רומז על אפשרות של מידול האופן הרציף שבו עובד המוח. זה דווקא מהווה עדות לאפשרות של מידול המוח כמ"ט.

למה את מתנגדת למידול המוח כמ"ט?
בקיצור 312999
ראשית, אינני קוראת את המאמר כמוך. אני דווקא קיבלתי את הרושם שמודל המ''ט המקובל (התאי) בהחלט מתערער שם.
ולמודל התאי הזה אני מתנגדת משום שהוא נראה לי פשטני להחריד, ומשאיר הרבה יותר מדי דברים לא מוסברים (ראה הדיון על הקוואליה).
בקיצור 313009
האם את חושבת שהמודל "התאי" (למה את מתכוונת?) *הוא* זה שלא יכול להסביר את נפש האדם (על זה אנחנו מדברים, נכון?)? או שמא את מאמינה (כמוני, ראי את דיוני עם אלון) ששום מודל חישובי לא יוכל להסבירה?
בקיצור 313014
ב"מודל התאי" אני מתכוונת, כמובן, לתיאור המקובל של המ"ט, והוא בוודאי - לדעתי - אינו יכול לתאר את פעולת המח.
לגבי מודלים חישוביים באופן כללי אינני יודעת. אני משוכנעת בדבר אחד: שום מודל שאינו לוקח את הקוואליה כבעלת השפעה בעולם הוא מופרך מיסודו. לכן, או שהקוואליה ניתנת לתיאור פיסיקלי - או ש*יש* דברים לא פיסיקליים בעלי השפעה על העולם הפיסיקלי.
בקיצור 313016
בהנחה שהקוואליה ניתנת לתיאור פיזי, למה את חושבת שהמודל של מכונת טיורינג מתעלם ממנה?
בקיצור 313027
השאלה לא מובנת לי.
בקיצור 313036
את אמרת ''מודל שאינו לוקח את הקוואליה כבעלת השפעה בעולם הוא מופרך מיסודו'' והתכוונת למכונת טיורינג. השאלה שלי היא למה את חושבת שמכונת טיורינג לא לוקח את הקוואליה כבעלת השפעה בעולם, אם הקוואליה ניתנת לתיאור פיזיקלי (אם היא לא, ממילא כל מודל שמתאר רק את המציאות הפיזיקלית לא שווה כלום ואז צריך את השדים והרוחות של שכ''ג).
בקיצור 313052
כיוון שאינני מומחית גדולה למכונות טיורינג, הסתמכתי בזה על טענותיהם של אלון והשכ''ג - שניהם אומרים שלקוואליה אין כל השפעה על העולם הפיסיקלי.
בקיצור 313060
ואת מאמינה להם? אז מה הבעיה במודל שאינו לוקח את הקוואליה כבעלת השפעה בעולם, ובפרט למה הוא "מופרך מיסודו"? הרי דליבא אלון ושכ"ג, הקוואליה לא משפיעה על העולם, אז מודל שבא לתאר את העולם לא צריך להתחשב בה.
בקיצור 313074
כן, טוב, ידעתי שלא "סגרתי" היטב את תגובתי הקודמת, ובאתי על עונשי. אני *אינני* מאמינה לאלון ולשכ"ג שלקוואליה אין השפעה על העולם הפיסיקלי, אלא רק לזה שתיאורה כבעלת השפעה כזו איננו נכלל במכונת טיורינג.
כיוון שלי ברור לחלוטין שלקוואליה *יש* השפעה על העולם הפיסיקלי, נראה לי שמודל שאיננו מתיישב עם אפשרות זאת הוא בהכרח מופרך מיסודו. וכפי שאמרתי לאלון באחת התגובות כאן, מודל כזה, לדעתי, הוא זה שנזקק לשדים ורוחות.
בקיצור 313078
למה זה כל כך ברור לך? לדעתי זה בכלל לא ברור, גם אם מכירים בקיומה של קוואליה ובכך שלא ניתן לתאר אותה בצורה פיזיקלית. כמו שכתבתי ליהונתן, די בעייתי לחשוב על משהו שלא ניתן לתיאור פיזיקלי אבל משפיע על העולם הפיזיקלי (אבל אני חושש שכאן אני מגיע למבוי סתום ולא יודע איך להמשיך, אז עדיף לתת לגדולים ממני).
בקיצור 313085
קודם כל, *אני* לא אומרת מראש שהקוואליה לא ניתנת לתיאור פיסיקלי. ייתכן שכן. לא לגמרי ברור לי מהם גבולות הפיסיקה היום, לאור העובדה שנכנסו אליה כבר יצורים מתמטיים בתכלית (כמו מתרי-על, למשל). הדבר היחידי שאינני נסוגה ממנו בשום אופן, זו הטענה שהקוואליה משפיעה על העולם הפיסיקלי - אם היא ניתנת לתיאור כזה ואם לאו. הסיבה שאינני נסוגה ממנה היא שתיאור של טיפול פסיכולוגי, למשל, כמה שעובד באמצעות גלי הקול - נראה לי בלתי סביר בעליל, והוא זה שמצריך לדעתי הכנסת שדים ורוחות לתמונה. (וכמובן יש עוד דברים רבים כאלה, אבל דוגמה זו מספיקה לדעתי).
בקיצור 313135
ברור שאם בסופו של דבר הקוואליה תיכנס לתחום הפיזיקה, כל הבעיה נעלמת כלא היתה. הבעיה היא שקשה לראות איך זה קורה, שכן בהגדרתה מדובר חוויה סובייקטיבית שאינה ניתנת למדידה.

אולי כאן המכשלה: אני מסכים לחלוטין שיש מקום לדבר על חוויות כעל מניעים פסיכולוגיים. מי שרואה "אדום", וחווה "אדום", יעצור את הרכב שלו קרוב לודאי. עד רמה מסוימת נוכל באמת למדוד תופעות פיזיקליות של מה האדום הזה עושה לו במרכז הראיה, איך חלק מהפולסים מטיילים למרכז(י) הזכרון, אילו נוירונים מתעוררים באזורים אחרים של המוח ואיזו תרומה הם תורמים לחגיגה האלקטרומגנטית, שבסיומה נשלח זרם קל לכיוון השריר של הרגל הימנית.

מה שלא נכנס בתאור הזה היא אותה תחושה סובייקטיבית שלך שרק את יודעת מהי, אותה חשת כשהצבע ההוא הגיע לתודעה שלך. אולי זאת התחושה שאני חש כשאני רואה ירוק דווקא. כאמור, קשה לי לראות איך התחושה האישית הזאת תוכל להמדד אי פעם, אבל אולי אני פשוט קצר רואי.
בקיצור 313143
אם פירושו של דבר שהפיסיקה, להגדרתך, היא "רק מה שמדיד"? או "כל מה שמדיד"?
בקיצור 313081
אם ברור לך שלקוואליה יש השפעה על העולם הפיסיקלי, אז מה שאת קוראת לו "קוואליה" אינו מה שאני מתכוון עליו, ולא מה שמתכוונים אליו אחרים עפ"י התיאור פה (למשל):

http://en.wikipedia.org/wiki/Qualia

"These properties are, by definition, epistemically unknowable in the absence of direct experience of them"

אם את מנסה לומר שלרגשותינו, מחשבותינו ורצונותינו יש השפעה על העולם הפיסיקלי (נניח, על מה שאנחנו עושים) - אני לא אומר שזה לא נכון, אלא שזה נכון כ*תיאור*, לא כתהליך היסודי של מה-משפיע-על-מה. גם הרצון שלנו להזיז את היד וגם הזזת היד הם ביטויים של תהליכים מיקרוסקופיים המכתיבים אותם, זה הכל.

נדמה לי שאת מוצאת את ההנחה שהמוח-הוא-מ"ט "מדכאת" כי את חושבת שהיא אומרת משהו שלילי על חשיבותם או עמקותם של רגשות, נניח. היא לא.
בקיצור 313099
אני מתקשה בהבנת המשפט. מה זה "epistemically unknowable"? ולמה הכוונה כאן ב"experience"?
בקיצור 313113
אני גם מתקשה (בהבנת המושג הזה בכלל). בכל אופן, נראה שיש הסכמה על כך שקוואליה היא החוויה הפנימית, לא ייצוגים חיצוניים שלה.
בקיצור 313118
אם אני מצליח להבין את המשפט מויקי, אז הוא מנוסח בצורה בעייתית ומטעה (איזו הפתעה). בכל אופן, ברור גם לי שקוואליה היא החוויה הפנימית, אבל לא ברור לי כיצד אפשר לטעון שאין לה השפעה על העולם הפיזיקלי, גם לשיטתך. הטיעון של האלמונית נראה לי משכנע.
(אולי פיזיקליסט יכול לטעון שהיא לא קיימת בנפרד מהרגשות והמחשבות האחרות שלנו, ולכן שמוטעה להתייחס אליה כאל דבר שיש לו הוראה).
בקיצור 313122
איזה טיעון של האלמונית?

אני חושב שיש בינינו נתק בפירוש המושג "השפעה". ברור שמצב הרוח שלי משפיע על מה שאני עושה. הטענה היא אחרת: יש מתחת לכל המושגים ה"גבוהים" הללו, מערכת מכנית המכתיבה אותם. מצב-הרוח שלי הוא נגזרת של מה שקראתי "מצב-המכונה", ומצב-המכונה הוא זה ש*באמת* משפיע על מצב מכונה ברגע הבא (מה שאני עושה). אנחנו חווים ישירות את המושגים העליים - תחושות, רגשות - ולא את רמת הסרוטונין בכל סינפסה, ולכן אנחנו אומרים "הייתי עצוב אז הלכתי לשכב".

האלמונית סבורה שזה תמוה לטעון שגלי-הקול "הם אלו" המשפיעים על המוח. אבל ברמה המכנית, ברור שאלה גלי-הקול המשפיעים על המוח (אם לא הם, מה כן?). המשמעות היא תאור ברמה גבוהה של גלי-הקול - תיאור חשוב, מורכב, וקשה מאוד לניתוח מדוייק; זה לא משנה את העובדה שהתהליך המכני הוא גלי-קול משפיעים על נוירונים. כל מה שאנחנו אומרים הוא שמשמעות ורגש (וקוואליה, משל"י) נגזרים חד-ערכית מהאלמנטים המכניים הללו; שוב, זה לא אומר שהמושגים האלה הם חסרי-משמעות או לא מעניינים.
בקיצור 313131
אני מאמין שאני מבין את ההשקפה שלך. היא השקפה מפתה (גם עבורי), אבל אני חושב שאם מנסים לחשוב עליה יותר, היא מתגלה כבעייתית. השאלה היא מה פירוש הדבר שהמשמעות והרגש "נגזרים חד-ערכית מהאלמנטים המכניים הללו". איך אתה גוזר אותם? זה לא מספיק לומר שהם ניתנים לגזירה בלי להראות כיצד אפשר לבצע את הגזירה הזאת.
המדע מסביר משהו באמצעות קישור בין תופעות שנגישות לו. זה מה שמאפיין אותו ומפריד אותו מצורות ידע אחרות. והקוואליה אינה נגישה למדע. יש כאן בעיה עקרונית. אז אפשר לנסות להפעיל את התער על שאלות מטאפיסיות וכאלה, אבל לדעתי זה לא מביא לתוצאות המקוות.

טיעון הנגד הוא ש*אם* הקוואליה משפיעה על העולם הפיזיקלי, והקוואליה עצמה אינה ניתנת לרדוקציה לפיזיקה, אזי דבר לא-פיזיקלי משפיע על העולם הפיזיקלי, ולכן הפיזיקה אינה מספקת תיאור מלא של התהליכים במוחנו. לצורך העניין אין זה משנה אם הקוואליה אכן נוצרת באופן סיבתי מגורמים פיזיקליים. מספיק שמרגע קיומה לא תוכל לבצע רדוקציה לה עצמה, כי הפיזיקה מטבעה לא בנויה לטפל בה.

האלמונית טענה שלא תוכל להסביר את השינויים שמחולל טיפול פסיכולוגי (כדוגמא) ללא קיום קוואליה. הטיעון לא מכחיש את חלקם של גלי הקול או של שינויים ביוכימיים. הוא רק טוען שבנוסף, כדי שנוכל להסביר את המשמעות, צריכה להיות קוואליה. ואם קוואליה היא תנאי הכרחי להסבר דברים שקורים במציאות, אזי יש לה השפעה על העולם הפיזיקלי, וחזרנו לפסקה השנייה כאן.
בקיצור 313140
אני סבור שהעמדות ברורות. אני לא רואה שום סיבה שהפיזיקה לא תוכל לתת תיאור מלא של התהליכים במוחנו, ואני בטח לא רואה מדוע אם יש תיאור כזה אז זו סיבה לדיכאון.
בקיצור 313159
אל תוטרד מזה יותר מדי. גם אם חלילה מישהו יכנס לדיכאון בגלל דברים שהוא קורא באייל, המערכת תוכל לטפל בעניין in-house.
מגרש השדים 313132
העסק מאד פשוט: אם "החוויה הפנימית" לא ניתנת למדידה *באופן עקרוני*, כלומר לעולם לא נוכל לדעת באמת אם כשאתה רואה "אדום" אתה חש אותה חוויה אדמומית שעוברת עלי, ולא, נניח, את מה שאני חווה כניחוח קל של אבטיחים צהובים - אם המצב הוא כזה, הרי *עפ"י הגדרה* הקוואליה המזורגגת הזאת לא יכולה להשפיע על העולם.

מה פירוש "כיצד אפשר לטעון שאין לה השפעה על העולם הפיזיקלי"? כיצד ניתן לטעון משהו אחר? הרי אנחנו יודעים להסביר את הפעולה של בעל הקוואליה בעולם הפיזיקלי עד הרמה של "הפעילות הנוירולוגית במרכז המוטורי שלחה פולס לשריר היד הימנית וכו' וכו"'. אם כך מה שנשאר פתוח זאת השאלה אם נוירון, שהוא מערכת ביולוגית לא נורא מסובכת שמורכבת ממולקולות ואטומים פיזיקליים לגמרי, מתנהג לא כמו שמצפים מכל מערכת פיזיקלית אחרת בעולם, אלא מחליט אם לירות את הפולס שלו או לנמנם בפינה על-סמך איזו "קוואליה" לא פיזיקלית בהגדרתה. קח אותו נוירון בדיוק, עם אותם תנאים פיזיקליים סביבתיים, שנה את הקוואליה (מבחינה פיזיקלית לא עשית כלום) ושינית את התנהגות הנוירון. כדי לחסוך כאן מלל מיותר על תורת הקוואנטים אוסיף שגם אם אפקטים אלה משפיעים על פעולת המוח (אני לא חושב שזה כך, אבל מי יודע) שינית את התפלגות התוצאות ע"י כך שלא עשית כלום! שינית את פונקציית הגל יש מאין.

אם אלו אינם סיפורי שדים, אינני יודע סיפורי שדים מהם.
מגרש השדים 313139
"העסק מאד פשוט: אם "החוויה הפנימית" לא ניתנת למדידה *באופן עקרוני*... הרי *עפ"י הגדרה* הקוואליה המזורגגת הזאת לא יכולה להשפיע על העולם."
כלומר? איך אתה מגדיר מה כדי לחלץ את הטיעון הזה "עפ"י הגדרה"?
"הרי אנחנו יודעים להסביר את הפעולה של בעל הקוואליה בעולם הפיזיקלי עד הרמה של "הפעילות הנוירולוגית במרכז המוטורי שלחה פולס לשריר היד הימנית..."
מה "אנחנו יודעים להסביר"? אנחנו יודעים להסביר *למה* נשלח דווקא הפולס המסוים הזה לשריר המסוים הזה ברגע המסוים הזה וכיו"ב? איך בדיוק?
מגרש השדים 313147
קצת מעייף אותי לחזור פעם אחר פעם על אותם דברים. מה שלא ניתן למדידה לא יכול להשפיע על העולם, אחרת ההשפעה הזאת היתה נותנת את כלי המדידה הנחוץ.

למה? אני מקוה שהתכוונת לשאול "מדוע", כלומר לדבר על סיבות ולא על תכלית, שכן תכלית אינה אלא פיקציה נוחה. כן, יודעים להסביר מתי נוירון יורה פולס. אם את שואלת אם יודעים להסביר בדיוק את כל מליוני הקשרים בין הנוירונים, ההשפעות של שנוירו-טרנסמיטורים והורמונים שונים ומשונים, ואיך בסופו של דבר התזמורת כולה מנגנת את המנגינה "עצור, טמבל" - התשובה היא כמובן לא. אבל אף אחד גם לא יודע לתאר מה בדיוק עובר על כל אחד מזיליוני האטומים בשמש ומה בדיוק השדה המגנטי בכל נקודה שם בשניה שלפני תחילתה של סופת שמש עצומה. משום מה אף אחד לא טוען שהגורם לה היא שהשמש קמה בבוקר על צד שמאל כי הירח נחר כל הלילה.
מגרש השדים 313150
אבל *יש* כלי מדידה לא מעטים להשפעתה של הקוואליה, הם רק לא כלים פיסיקליים.
מגרש השדים 313151
לא, אין. יש כלי מדידה להשפעת המצב הנפשי ה*אובייקטיבי* של האדם (כזה שניתן לראות במכשירים במעבדה לפחות באופן עקרוני). לפי איך שאני מבין את המושג קוואליה אין שום אפשרות למדוד אותו, להשוות אותו, ולדעת עליו שום דבר חוץ ממה שכל אחד מאיתנו מרגיש לגבי הקוואליה הפרטית שלו. איזה כלי מדידה יכול להיות משופע מהדרך הפנימית שלי לחוות "חמוץ"? כל אדם יראה את ההבעה על הפנים שלי, ויידע שהם נראים כמו הפנים שלו בשעה שהוא חש "חמוץ", אבל אין לו דרך לדעת אם אני לא חווה משהו אחר לגמרי, למשל החויה שלו כשדוקרים אותו בסיכה.

(אגב, אני חושב שכולנו חשים אותו דבר, אבל אין לי דרך להוכיח את זה, וזה העניין). תרגיל: נסי להוכיח שכלבים חשים כאב.
מגרש השדים 313160
"מה שלא ניתן למדידה לא יכול להשפיע על העולם, אחרת ההשפעה הזאת היתה נותנת את כלי המדידה הנחוץ" -

בוודאי שהיא נותנת. אפשר לראות את השפעת הקוואליה בכל רומן ואפילו בסיפורים קצרים, למשל. מה שאי אפשר זה להפוך את כלי המדידה למדעי. זאת נקודה שאני חושב שאתה מחמיץ: כשאומרים שהקוואליה אינה ניתנת לרדוקציה לפיזיקה הכוונה אינה דווקא שישנם לשדים ורוחות. הכוונה היא למגבלות הפיזיקה כדיציפלינה אנושית.
מגרש השדים 313188
עכשיו אני מבולבל. אפשר לראות את השפעת הקוואליה בכל רומן ואפילו בסיפורים קצרים? איך? השפעה על מי ועל מה?
מגרש השדים 313217
השפעה של הקוואליה על תוכן הרומן. רוצה דוגמא?

"כשאני חושב על מצבי בגיל חמישים וחמש כשקניתי את הכרטיס, הכל רק עוגמת נפש. העובדות מתחילות להציף אותי ועד מהרה אני מרגיש לחץ בחזה. ואז נפתחת הסתערות מהירה - הורי, נשי, חברותי, ילדי, החווה שלי, החיות שלי, ההרגלים שלי, הכסף שלי, שיעורי הנגינה שלי, השתיינות שלי, הדעות הקדומות שלי, אכזריותי, שיני, פני, נשמתי! ואני נאלץ לצעוק 'לא, לא, תסתלקו, ארורים, הניחו לי!' אבל איך הם יכולים להניח לי, להשאיר אותי לנפשי? הם שייכים לי. הם שלי. והם נערמים לתוכי מכל העברים. זה נהפך לתוהו ובוהו".
מגרש השדים 313228
אם מה שהסופר מכנה ''עגמת נפש'' הוא התחושה שאתה חש כשאתה רעב, אין לך דרך לדעת זאת. מסיבה זאת צריך להזהר בטענה שהקוואליה שיחקה תפקיד בכתיבת הסיפור הזה, למרות שללא ספק היא ליוותה אותו. מה רע בטענה שלפעילות החשמלית במוחו של המחבר היו כמה תוצרים שאחד מהם הוא סיפור ושני הוא הקוואליה (אולי היו עוד, כמובן).
מגרש השדים 313238
אני חושב שהפסקה הזאת מתארת חוויה "קוואליאלית". אתה יכול לעלות בדעתך שאדם שאין לו קוואליה יכתוב כזה סיפור? (בלי התחכמויות כרגע על זה שאפשר לתכנת מחשב להוציא משפטים באופן אקראי. ברור לשנינו שלא זה מה שנעשה כאן).

אתה יכול לטעון שהקוואליה והסיפור הן תוצר של הפעילות החשמלית. אני לא טוען שהם לא (רק שהקוואליה לא ניתנת לרדוקציה. וסיבה של דבר היא עדיין לא הדבר עצמו).
מגרש השדים 313247
רגע, אם המחשב של אלון יכתוב סיפור יפה כזה אתה תאמין שיש לו קוואליה? לא. אתה תגיד שהוא *מחקה* קיום של קוואליה (ואם לא אתה, הרבה אחרים).

לא יודע מה פירוש "הקוואליה לא ניתנת לרדוקציה". מסכים איתך בקשר לדברים ולסיבות.
מגרש השדים 313266
יהונתן אורן חזר ואמר שכאשר המחשבים שלך ושל אלון יתחילו לכתוב סיפורים יפים כאלה (בהם תאורים מקוריים על חוויות ''קוואליאליות''), אז באמת יתחיל להיות מעניין ואז אולי יהיה על מה להתפלסף ולדבר. בינתיים אין מחשבים כאלה ולא ממש בטוח שיהיו כאלה בעתיד (אופטימיות יתר שהתבדתה, לגבי ב''מ, ראינו גם בעבר). בסופו של יום, אתה ואלון מבססים את ההנחות שלכם על תרגילים מחשבתיים מעולם המד''ב והפנטזיה, לא על עובדות מדעיות או על הסברים מדעיים.
מגרש השדים 313272
יש מחשבים שכותבים שירה, ומציירים ציורים וכותבים מאמרים מדעיים פוסט-מודרניים. לא ידוע לי על מישהו שחושב ברצינות שיש להם קוואליה (אולי חוץ מהאח של אייל).
מגרש השדים 313297
שופכים את דמי, מכפישים את שמי.. :)

לדעתי קוואליה היא תופעה פסיכולוגית. בתור תופעה כזו, אני לא רואה שום צורך בקסמים, תופעות לא פיזיקליות וכו' וכו' בשביל להסביר אותה. היא מתרחשת לא רק אצלי, אלא גם אצל בני אדם אחרים ואצל יונקים.
הרבה אנשים חושבים "רגע - אבל אנחנו חשים תחושות, זה בהכרח אומר שהן קיימות". אבל יש גם אנשים ששומעים רוחות רפאים. וכמעט כולם חשים שהזמן זז לאט או מהר בהתאם לנסיבות. זה לא אומר שהמוח האנושי שולט בזרימת הזמן ביקום, או שבאמת קיימות רוחות רפאים. יש הסברים פיזיולוגיים ופסיכולוגיים. נראה לי שגם קוואליה אפשר להסביר מבלי להזדקק לאיזשהו מיכל מסתורי שמכיל דברים קסומים שנקראים תחושות.

אם מסכימים שהתופעה היא לא תופעה קסומה, אין שום מניעה עקרונית שתוכנה תפגין מתישהו את אותה תופעה. כמובן, זה לא יהיה איזשהו אלגוריתם טריוויאלי שמחולל שיחות, שירים או תגובות באייל. זה היה רק תרגיל מחשבתי.
חושו, אחים, חושו 313974
צריך לחדד כאן משהו: כשיש לי תחושה שיש איזו רוח רפאים בבית, אז אני יודע שכנראה אין באמת רוח רפאים בבית. אבל בהחלט ודאי מבחינתי שיש לי תחושה כזו. כשיש לי תחושה של אדום, אז מבחינתי בהכרח יש לי תחושה של אדום; אין מקום לספק כאן, ולא משנה כמה אני מדען ספקן וזהיר. המדע יוכל אולי להסביר את התחושה, אבל אני לא צריך אותו כדי לקבל הוכחה לקיומה של התחושה, ואני לא רואה שהמדע יוכל לשכנע אותי שאין לי באמת תחושה כזו.

למעשה, התחושה הזו היא נקודת היסוד של כל תצפית מדעית. עשיתי ניסוי, ויצא לי 8.5 קילופיגי. אבל רגע, איך אני יודע שזה מה שיצא? כי זה מה שהצג של מכשיר המדידה הראה, ו(מסיבות מדעיות שונות) יש לי יסוד להניח שהמכשיר צודק. אבל רגע, איך אני יודע שזה מה שהמכשיר הראה? כי ראיתי על המסך את הצורות "8.5", ו(מסיבות מדעיות שונות) יש לי יסוד להניח שמה שראיתי הוא מה שהמכשיר באמת הראה. אבל רגע, איך אני יודע שזה באמת מה שראיתי? בום, תחושה. הגענו לתחתית, וכאן אין למדע מה לומר.
חושו, אחים, חושו 314278
לגבי הפסקה הראשונה שלך, כמעט עלית על הנקודה. הרי תחושות קיימות גם במנותק לחלוטין ממה שקורה במציאות. לפעמים אנשים מרגישים שהם רואים אדום כשהם לא רואים אדום. או מרגישים עייפות שהם מקבלים סם מסויים, או סתם כתוצאה מהתניה פבלובית. או מרגישים שהזמן זז לאט. אז אם להשתמש בלשון חופשית, לדעתי המדע כן יוכל לשכנע אותך שאין דבר כזה "תחושה של אדום" למרות שחווית "תחושה של אדום", בדיוק כמו שאין דבר כזה "רוח רפאים" למרות שחווית "רוח רפאים".

לגבי תחושת כנקודת יסוד של תצפית מדעית - לא כל תחושה היא תצפית מדעית לגיטימית. אחרת, היינו עדיין חושבים שהשמש מקיפה את כדוה"א. הרי אנחנו חשים את זה! הפילוסופיה של המדע בדיוק מסבירה איזה תחושות הן תצפית מדעית ואיזה לא. זה בדיוק הויכוח שהיה לי עם יהונתן.

לדוגמא, התצפית שלך ברוחות רפאים איננה תצפית מדעית מכיוון שהיא איננה ניתנת לשחזור ע"י אדם אחר, או בדרך אחרת. עוד קריטריון לתאוריה מדעית הוא יכולת הפרכה בעזרת ניסוי (אזהרה: יהונתן חושב אחרת). אם אתה מצהיר שהמדע אינו יכול לשכנע אותך **בשום דרך** שאין לך קוואליה - הרי זה משהו לא מדעי בהגדרה. אם רוצים לדון על קוואליה למחשבים או משהו כזה, אז חייבים הגדרה של קוואליה שהיא כן מדעית - שכן יש דרך שהמדע יכול לשכנע אותך אם לך או לגורם אחר יש או אין קוואליה.

ברמה האישית, אפשר לשכנע אותי ע"י ניסוי לא רק שאין לי קוואליה, אלא שאפילו אני לא קיים ואני סתם תוכנה באיזשהו מחשב על. בכלל, אני אדם נוח לשכנוע :-).
חושו, אחים, חושו 314292
מבדיקות שערכתי עולה שאתה תוצר של מחשב פרטי רגיל, ושייך למשפחת מרבי המלים המופסקים.
חושו, אחים, חושו 314338
אם כך, אז אתה בוודאי יודע מה הסיסמא הסודית שלנו.
חושו, אחים, חושו 314343
''שכחתי''.
חושו, אחים, חושו 314385
אבל אני לא "חוויתי רוח רפאים". רוח רפאים היא לא חוויה. אני חוויתי ראייה של רוח רפאים, או שמיעה או מישוש שלה (או צירוף של אלה). מהחוויה הזו אי אפשר להסיק על קיומה של רוח רפאים, אבל זה לא שולל את החוויה עצמה.

אתה אומר שבאותו אופן, אסור לי להסיק מ"חוויתי שהיתה לי תחושת אדום" ש"היתה לי תחושת אדום". אבל אני לא עושה היסק כזה! "חוויתי שהיתה לי תחושת אדום", אם בכלל יש לו משמעות, קורס מיד ל"היתה לי תחושת אדום" (אני לא יכול לראות הבדל במשמעות המשפטים) - ואת הנכונות של "היתה לי תחשות אדום" אני פשוט יודע, באופן ראשוני. כמובן שייתכן שלא באמת היה משהו אדום שהסתכלתי עליו. וייתכן שאני אהיה מאוד בטוח שכן יש משהו אדום, ואז המדע יוכיח לי שאני טועה. אבל אתה מטיל ספק בעצם הטענה שהיתה לי תחושה. אני לא מבין על סמך מה, וכאמור אני לא רואה איך המדע יכול לאשר או להפריך.

הדוגמאות שלך לתצפית מדעית לעומת תצפית לא-מדעית סובלות מאותו בלבול: יש הבדל בין התצפיות מבחינת היכולת להסיק מהן על *מושא* התצפית, אבל מבחינת קצם קיום התצפית, כולן קיימות באותה המידה.

(ושוב, אתה מסלף את יהונתן: תגובה 310496.)
חושו, אחים, חושו 314442
הטיעון שלך הוא גישה סולופיסטית שאומרת שהדבר היחידי שאינו ניתן לערעור הוא קיום הנפש. אני מוכן לקבל את הטיעון הזה אבל כטיעון פילוסופי אישי בלבד. אתה לא יכול להכיל אותו על אנשים אחרים, מכיוון שאינך יכול לחוות את החוויות שלהם. אם אתה מדען ספקן וזהיר, אתה צריך להגיד: אני לא יכול להטיל ספק בכך שלי היתה תחושה - אבל אני בהחלט מטיל ספק שלכל אדם אחר היתה תחושה‏1. זה אחד הדברים שאני לא אוהב בגישה הזו - היא אגואיסטית. היא סותמת את הגולל על אפשרות לחקור קוואליה כתופעה פסיכולוגית אצל אנשים אחרים - רק בגלל תחושה סובייקטיבית של החוקר.

לגבי הטענה השניה, לא הבנת למה כיוונתי. אמרת: "התחושה הזו היא נקודת הבסיס של כל תצפית מדעית". המשפט הזה הוא הכללה שיוצרת תמונה מעוותת. היא יוצרת את הרושם שתצפיות מדעיות מבוססות *בעיקר* על תחושות. אבל זה רושם שגוי. כדי לתקן אותך, נתתי הגדרה יותר הדוקה לתצפית מדעית. האמירה הזו עוד יותר בעייתית מכיוון, שבדומה ליהונתן, אתה מביא אותה בהקשר של "האם התחושות קיימות". בכך אתה יוצר את הרושם שקריטריון הקיום המדעי דומה באיזשהי צורה לקריטריון הקיום שהשתמשת בו. לכן חשוב לי להדגיש מהו היסק מדעי, להבדיל מההיסק שאתה השתמשת בו.

לגבי יהונתן, אני לא רואה היכן סילפתי אותו.
1. כאשר אמרתי "זה הויכוח שהיה לי עם יהונתן", התכוונתי לזה שיהונתן עשה הכללה מאד דומה ב תגובה 308928. ועניתי לו כאן: תגובה 308963.
2. כאשר אמרתי "יהונתן חושב אחרת" התכוונתי שהוא אינו מסכים שיכולת ההפרכה הוא עקרון למדעיות. יהונתן אמר (ואני מצטט): "עיקרון ההפרכה של פופר אינו מקובל כמבחן למדעיות, בגלל בעיית ההיפותזות החיצוניות". תגובה 309267.

ואני אסיים באותו טיעון שסיימתי איתו קודם, אבל הפעם בצורת שאלה: אם המדע אינו יכול לשכנע אותך שאין לך תחושות, איך אפשר יהיה לשכנע אותך שלמחשבים יש תחושות?

1 אם להשתמש במינוח פסיכולוגי: הפציינט חושב שהוא קיפוד, אבל משה, אתה לא קיפוד.
חושו, אחים, חושו 315384
כן, אני חושב (בערך כמו דקארט) שהקוואליה יותר ודאית מהמדע, אבל סוליפסיסט אני לא; אני לא עושה דיכוטומיה של העולם ל"ודאי" ו"לא קיים" או "אי אפשר לומר עליו כלום". מכיוון שמעניין אותי בכל זאת מה יש מחוץ לאני ולקוואליה, אני קונה גם את המדע.

האם אני טוען שתצפית מדעית מבוססת "בעיקר" על תחושה סובייקטיבית? לא יודע מה זה כאן "בעיקר". טענתי שתחושה סובייקטיבית היא מרכיב קריטי וראשוני בכל תצפית (בפרט, מדעית). במובן אחר, זה בוודאי לא משהו חשוב במיוחד במדע - במובן זה שאין לשיח המדעי סיבה מיוחדת להתייחס לעובדה הדי טריוויאלית הזו. היא נראית לי בכל זאת ראויה לציון כשדנים בוודאות המדע לעומת ודאות התחושה. בצד, הייתי שמח אם היית מסביר לי באיזה היסק בכלל השתמשתי.

ולשאלתך: "אם המדע אינו יכול לשכנע אותך שאין לך תחושות, איך אפשר יהיה לשכנע אותך שלמחשבים יש תחושות?", התשובה היא בדיוק במילה שחסרה באופן בולט בשאלה. כנראה שהמדע *לבדו* לא יוכל. אבל אני מוכן להשתכנע, לא בהכרח באותה מידת ודאות, גם מנימוקים שאינם מדע. במקרה הזה, נסיבות היפותטיות שהוזכרו כאן על-ידי רבים אחרים: צירוף כלשהו של תגובות דומות לשלנו, עם ידע מסוים על איך-זה-עובד שיעשה רושם דומה מספיק למה שאני יודע על איך אני עובד.
חושו, אחים, חושו 315548
השיטה שבה אתה (ודקארט) קבעתם שיש קוואליה היא שונה לחלוטין מהשיטה שבה המדע קובע אם משהו קיים - וזה מבלי להכנס לניתוח של תהליך ההיסק או לויכוח על מה זה מדע. מספיק להגיד שהטיעון של דקארט הוא אינו טיעון מדעי, ושטיעון מדעי נגד הקוואליה לא ישכנע את דקראט.

כאשר אתה אומר "הקוואליה יותר ודאית מהמדע" ומדבר על "וודאות המדע לעומת ודאות התחושה", אלו הן אמירות סובייקטיביות מאד. איך אתה מגדיר את הוודאות הזו? קשה מאד להגיד. גם אתה אמרת שאתה מוכן להשתכנע "לא בהכרח באותה מידת ודאות" מנימוקים שאינם מדע. אז לפעמים תחושות הן פחות וודאיות ממדע‏1. בעיני הוודאות של המדע והוודאות של התחושה כלל אינן ברות השוואה. אבל אני כן שמח שאתה מסכים על כך שחקר העולם שנמצא מחוץ ל"אני" צריך להתבצע באופן מדעי‏1. זוהי כבר נקודה חשובה מאד, אם כי טריוויאלית אם נזכור שהטיעונים של דקארט לא חוצים את גבולות האני.

לגבי קיומה של קוואליה אצל אובייקטים אחרים. לדעתי, אדם זהיר חייב להטיל ספק באותן נסיבות היפותטיות שהזכרת. זוהי תופעה קלאסית של האנשה - ייחוס תכונות אנושיות למי שנראה לנו דומה. אין שום צידוק לוגי לעשות את זה - ובוודאי זה חורג מאד מהאקסיומות והלוגיקה שהשתמשת בהן כדי להגיד שקוואליה קיימת.

לסיום, יש לי הצעה מעניינת. הבה נגדיר קוואליה באופן שאתה הגדרת. תכונה וודאית של ה"אני" שאינה ניתנת לערעור או הפרכה באמצעים חיצוניים. ואז, נגדיר "קוואנטיה" בתור אחותה החורגת של הקוואליה: תופעה פסיכולוגית שבה הפציינט מאמין שיש לו קוואליה ומתנהג בהתאם. המדע יכול לחקור את הקוואנטיה ולהגיד למי יש קוואנטיה ולמי אין, מהן הסיבות הפיזיולוגיות לקוואנטיה, מהן הסיבות האבולוציוניות לקוואנטיה וכו'. החלק הזה של הדיון האינסופי בעניין קוואליה מתייחס למעשה לקוואנטיה. מצד שני, ברמת ההגדרה המדע לא יכול לחקור את הקוואליה. אני גם לא רואה שום אמצעי אחר לקבוע האם למישהו (מחוץ לאני) יש קוואליה.

מה דעתך?

----

1 אני מתנצל אם התכוונת למשהו אחר. אבל הדוגמא ברורה.
חושו, אחים, חושו 315572
מה אתה רוצה להסיק מה"קוואנטיה" שלך?

(אין "ברות", "ברת" "ברי" וכיו"ב - רק "בנות", "בת" ו"בני" בהתאמה. "בר" קיים רק בזכר יחיד).
חושו, אחים, חושו 315595
אני רוצה ללמוד על העולם. למשל, לענות על שאלות שמענינות הרבה מגיבים בדיון הזה: "ממה נובעת קוואליה?" או "האם למחשבים יכולה להיות קוואליה?".

הבעיה היא שקוואליה הוא מונח טעון מאד. יש אנשים שחושבים שברמת ההגדרה אי אפשר לעסוק בה באופן מדעי, היא מנותקת מכל תופעה פיזיקלית ביקום, וכו' וכו'. לכן אני מציע להשתמש בהגדרה "קוואנטיה". ההגדרה הזו היא נוחה למחקר מדעי ומאפשרת ללמוד הרבה מאד על העולם. בפרט, אפשר לחקור כיצד התופעה נוצרת במוח האנושי והאם אפשר לאמלץ אותה במחשב. מצד שני, הגדרת ה"קוואנטיה" היא מספיק חלבית בשביל ליישב את דעתו של מי שמאמין ב"קוואליה" על-טבעית (במובן שהיא מחוץ לטבע).

אם להשתמש בדימוי רלוונטי, גם מי שמאמין שאלוהים אינו משחק בקוביות, ירצה לדעת האם היקום הוא דטרמינסטי או לא. לשם כך, הוא יזדקק להגדרה יותר שימושית ליקום דטרמינסטי מאשר "האם אלוהים משחק בקוביות". הגדרה שמאפשרת איזשהי בדיקה מדעית. הפלא ופלא, יש הגדרות כאלו, ואפילו נערכו ניסויים שבודקים האם הן נכונות.
חושו, אחים, חושו 315979
לפסקה הראשונה - כמובן.

"כאשר אתה אומר "הקוואליה יותר ודאית מהמדע"... איך אתה מגדיר את הוודאות הזו?"
איך אתה מגדיר את הודאות של המדע? לא מבין את השאלה.

"אז לפעמים תחושות הן פחות וודאיות ממדע". אתה שוב עושה כאן את אותו עיוות של הטענה שלי, שחוזר לאורך כל הפתיל. תחושות הן *תמיד* פחות ודאיות מהמדע, אם רוצים להסיק מהם על *מושא* התחושות. הן יותר ודאיות מהמדע בנוגע ל*עצם קיומן*.

"לגבי קיומה של קוואליה אצל אובייקטים אחרים. לדעתי, אדם זהיר חייב להטיל ספק באותן נסיבות היפותטיות שהזכרת." אני בהחלט אטיל ספק. כשם שגם היום אני מטיל ספק מסוים בקיומה של קוואליה אצל אנשים אחרים - אם כי אני מודה שזה יותר ספק פילוסופי מאשר אפשרות שבאמת מעסיקה אותי‏1. הטלת ספק לא סותרת שכנוע; יש בערך אינסוף דרגות של ודאות. מניתי תנאים לכך שאחשוב שלמחשב יש קוואליה; אבל אלו לא תנאים של הכל או כלום, אלא יותר מטריקה (שגם היא, כמובן, מוגדרת בצורה עמומה למדי). ככל שהמחשב יענה בצורה יותר טובה על התנאים, כך אייחס לו קוואליה יותר בודאות. מן הסתם זה חסום על-ידי רמת הודאות שאני מייחס לקוואליה אצל אנשים אחרים.

בנוגע לקוואנטיה - נחמד, אבל איך אתה יודע אם הפציינט מאמין שיש לו קוואליה? כדי שתוכל לטפל בה בצורה יותר מדויקת על-ידי המדע, תצטרך להגדיר אותה יותר בזהירות באמצעות דברים שניתנים לבדיקה חיצונית, למשל לשנות את ההגדרה ל"הפציינט מדווח ש[הוא מאמין ש]יש לו קוואליה". את זה אתה יכול לחקור היטב בעזרת המדע, אבל מה יהיה הקשר בין זה לבין קוואליה? חזור ל"דרך צלחה"...

1 אגב, הספק שאני מטיל בקיומה של קוואליה אצל אחרים הוא כנראה קטן יותר מהספק שאני מטיל בתורת היחסות הכללית, שלא לדבר על המודל הסטנדרטי של החלקיקים התת-אטומיים. נימוק למה אני מטיל ספק בשתי התורות הפיזיקליות יינתן לפי דרישה‏2. אין לי נימוק מיוחד להעדפת הקוואליה על שתיהן (איני יכול לחשוב על קריטריון מנומק להשוואה), אבל אני לא רואה סיבה גם להעדפה הפוכה.

2 האמת היא שזה די מובן מעצמו, לאור ההסמכה של הראשונה לשנייה.
חושו, אחים, חושו 316328
הדיון איתך סובב סביב אותה מחלוקת יסודית. אתה מתייחס לקוואליה כאל מושג על-טבעי שאינו ניתן לבדיקה מדעית. אני מתייחס אל קוואליה כאל מושג מדעי.

הבה נלבש לשנייה את הכובע של המדענים. יש קריטריון ברור מאד למושג מדעי. אם קוואליה מוגדרת בצורה שלך, היא פשוט אינה מושג מדעי. זה טיפה לא מדוייק להגיד שהיא לא קיימת - היא פשוט לא ניתנת להגדרה בתוך כללי המשחק. והמדע מאפשר לנו לחקור רק מושגים מדעיים.

ועכשיו, נלבש את הכובע של הפילוסופים. כאן כללי המשחק הרבה יותר גמישים. אנחנו יכולים לאמץ מושגים מדעיים ולהשתמש בהם כרצוננו. אנחנו יכולים להתפלסף על הוודאות של תורת היחסות לעומת הוודאות של קוואליה. ואפילו לנסות להשוות בין שתיהן. אנחנו יכולים "לחשב" דרגות של וודאות לקוואליה בלי לקום מהכסא ‏1. אנחנו יכולים גם לתהות למה לעזאזל צריך תורה פיזיקלית אחת עבור אובייקטים גדולים, ותורה שונה לגמרי עבור אובייקטים קטנים. הכובע של הפילוסופים הוא כ"כ טבעי שגם מדענים לובשים אותו לעיתים קרובות.

נשאלת השאלה באיזה מגרש משחקים יש לטפל בקוואליה? לכאורה, התשובה ברורה: מגרש המשחקים הפילוסופי. המגרש הזה יכול להכיל גם מושגים מדעיים, וגם את הקוואליה כמו שאנחנו אוהבים להגדיר אותה. מצד שני, המדע הוא פשוט שימושי יותר לצורך חקר העולם. אבל יפה שאלת - איך לעזאזל ילמד אותנו חקר הקוואנטיה על הקוואליה?

לדעתי זה די ברור. אבל אני אענה על זה בעזרת סיפור על המושג הבעייתי "זמן". קאנט טען שהזמן הוא מושג א-פריורי שמאפשר לנו להבין את החושים שלנו. ללא זמן (ומרחב) אין חוויות. זמן הוא מושג יותר יסודי מתחושה. פילוסופים אחרים טענו שהזמן הוא אשליה. המדע מגדיר זמן בצורה הרבה יותר משעממת: תכונה שנמדדת ע"י שעון. הגדרה מרגיזה מאד, שמתחמקת מכל השאלות של "הפילוסופיה של הזמן". אבל ההגדרה הזו אפשרה לפתח את תורת היחסות הפרטית והכללית. ולבדוק אותן. ולגלות שהן מתאימות למציאות. התורות האלו מלמדות אותנו דברים מרתקים על הזמן. כמובן, הפילוסופים מיהרו לאמץ את התורות האלו, כל אחד עם הפרשנות שלו (וכדי לסבך, גם למדענים יש את הפרשנות הפילוסופית שלהם). לכן אני אומר: תנו לי קוואנטיה, ותעזבו אותי במנוחה. ויפה שעה אחת קודם.

1 ואגב אתה צריך לשאול גם את עצמך את אותה שאלה - מה הקשר בין דרגות הודאות שאתה מגדיר לבין האם "באמת" יש למחשב קוואליה? "דרך צלחה" גם לך..
חושו, אחים, חושו 316618
תיקון קטן: אני מתייחס לקוואליה כאל מושג *טבעי* שאינו ניתן לבדיקה מדעית.

עניין הזמן הוא אכן דוגמה מצויינת לעניינך. אני חושב שלא ניסחת את הדרמה מספיק בחדות: תורת היחסות הפריכה, חד וחלק‏1, את מה שקאנט טען על הזמן, ושנחשב לאמת חזקה ובלתי-מעורערת. אבל מה? בשביל לעשות דבר כזה היה צריך את תורת היחסות... זו היתה מהפכה בפיזיקה, והיא לא רק שינתה את הדרך שהפילוסופיה תופסת את הזמן - גם את התפיסה של הזמן בפיזיקה עצמה. קשה לי להאמין שלפני פיתוח התורה מישהו היה יכול לתאר לעצמו ברצינות מהלך כזה.

האם המדע יוכל לעשות דבר כזה לקוואליה? בהחלט ייתכן (מגיבים אחרים, שדעתם דומה לשלי, כבר אמרו את זה פעם בדיון הזה, ואני מקווה שגם אני...). אבל כדי שנגיע לשם צריך עוד איזה מהפכה-שתיים במדע, שאולי תשננה גם את הדרך שבה אנו תופסים את הקוואליה. התמונה המדעית היום פשוט לא בנויה לטפל בקוואליה.

1אפשר בוודאי לחלוק על כך, אבל זו דעתי.
חושו, אחים, חושו 316997
התעלמת מהנקודה העיקרית שלי. השלב הראשוני בחקר הזמן היה <דגש>להגדיר את המונח הזה באופן מדעי - ניתן למדידה</דגש>. אותה הגדרה טריוויאלית‏1 היא היסוד של המהפכה מדעית. יתרה מכך, אותה מהפכה מדעית קשורה גם לאישוש של התאוריה באופן ניסויי. למשל, הניסוי‏2 שמראה ששעון שהקיף את העולם פיגר אחרי שעון שהיה במנוחה. למעשה, מי שטוען שהזמן אינו ניתן לבדיקה מדעית, בוודאי אינו מתייחס ברצינות לתאוריה המדברת על שעונים שמאיטים או מאיצים - ואפילו לא לניסויים שמדגימים את זה. הרי זה לא קשור לזמן ה"אמיתי".

וזה *בדיוק* מה שצריך בשביל שהמדע יטפל בקוואליה. לפני שתהיה מהפכה מדעית, צריך הגדרה מדעית. וזה לא קשה ליצר הגדרה כזו. מספיק שתאמין שלקוואליה יש השפעה כלשהי על היקום‏3 ואז אפשר לרתום את אותה השפעה לצורך המחקר. מה דעתך? האם הקוואליה (קרי, התחושות שלך) מושפעות ממה שקורה בעולם, ומשפיעות על ההתנהגות שלך? ואם כן, למה שלא נגדיר קוואליה בעזרת אותן תופעות‏4?

האם אתה חושב, כמו שכ"ג, שהקוואליה איננה משפיעה על העולם הפיזיקלי אלא מקבילה לו? אולי אתה סבור (כמו יהונתן, אאל"ט) שיש דברים שמחוללים בדיוק אותם תופעות כמו קוואליה, אבל אין דרך מדעית להבדיל בינהם לבין קוואליה? במקרים האלו צריך לעשות חלוקה: הצדדים של הקוואליה שמשפיעים על היקום יקראו "קוואנטיה". בהם אפשר לדון במסגרת הפיזיקה. בחלקים האחרים (למשל, האם הקוואנטיה נגרמת מקוואליה או ממשהו אחר), אפשר לדון במסגרת פילוסופית. אגב, זאת עמדה לגיטימית לגמרי - גם לתורת הקוואנטים יש כמה פרשנויות (של פיזיקאים). אין דרך להבדיל בין הפרשנויות ע"י מדידה. הן מדברות על דברים מנותקים מהיקום שלנו - כמו יקומים מקבילים. ואכן, הפרשנויות האלה הן לא חלק מהפיזיקה‏5.
---
1 תכונה שנמדדת ע"י שעון.
2 הניסוי הזה הוא ממש טריוויאלי. מפתה לחשוב כמה אנחנו יכולים ללמוד על קוואליה מניסויים טריוויאלים (ואני יכול בקלות לחשוב על כמה ניסויים שכבר נעשו..). מעניין גם לדעת שמעט מהתופעות של היחסות הפרטית התגלו באופן ניסויי עוד לפני שאיינשטיין פיתח אותה.
3 לכל הפחות היא מחוללת ויכוחים באייל הקורא..
4 בדיוק כשם שאנחנו מגדירים את התופעה המסתורית של הזמן, בעזרת ההשפעה שלה על מחוגי השעון.
5כשנכחתי לאחרונה בהרצאה על תורת הקוואנטים, המרצה הסביר מהי הפרשנות המועדפת עליו. ומיד אח"כ הדגיש שזו לא תורה מדעית.
חושו, אחים, חושו 317013
כמה הערות על הזמן. מה יוצא מהן אני לא בטוח - ממילא תיכף אטען שכל הדיון הזה הוא בכיוון לא כל כך נכון.

1. כפי שאתה מציג זאת, נראה כאילו מישהו הציע להגדיר את הזמן בהגדרה מדעית; קיבלו זאת, חקרו חקרו חקרו, וכעבור עשר שנים יצא איינשטיין עם תורת היחסות. כמה טוב שהגדרנו את הזמן מחדש עשר שנים קודם. אבל זה לא כך: ההגדרה החדשה של הזמן היא חלק בלתי-נפרד מתורת היחסות. לא היה בה טעם קודם לכן.

2. שים לב שההגדרה של הזמן כ"מה שמודד שעון" היא לא הגדרה אמפירית טהורה: הרי לא מדובר על איזשהו שעון פיזי מסוים, אלא על אבסטרקציה - על מושג תיאורטי של שעון.

3. גם לפני תורת היחסות פיזיקאים מדדו זמן, ועשו זאת בעזרת שעון; איש לא טען שאי אפשר למדוד זמן.

4. לא מדובר רק על הגדרה מחדש של הזמן, אלא על שינוי ההבנה שלנו אותו.

אבל אני חושב שבעצם יש משהו קצת מוזר בדיון הזה. איך בא לעולם מושג ה"קוואליה"? הוא לא ליווה את האנושות משחר ימיה. הוא נוצר דווקא לנוכח מציאות שבה מדע הפסיכולוגיה מתקדם יפה ומגלה תובנות על נפש האדם, ועל אספקטים רבים של התודעה. ואז הבחין מי שהבחין שיש היבט מסוים של הנפש שנראה שחומק באופן מהותי מיכולת הטיפול של המדע, וקרא לו "קוואליה". עכשיו אתה אומר, על זה אין טעם לדבר - בואו נדבר על משהו טיפ-טיפה אחר, שהמדע כן יכול לטפל בו. עכשיו נוכל להתקדם ולהבין יותר. אבל מה הועלת? הפסיכולוגיה כבר מתקדמת היטב עם כל מה שהיא כן יכולה לטפל בו. אם יש לך הצעה למושג מדעי חדש שיפתח אופקים נוספים לפני הפסיכולוגיה, תפדל. אבל להגדיר מחדש קוואליה במונחים של מה שהפסיכולוגיה כבר ממילא מטפלת בו, אני לא רואה במה זה מועיל.

האם יש לקוואליה השפעה על העולם הפיזיקלי? שאלה מצוינת. במחשבה ראשונה, לא ברור לי האם יש לקוואליה השפעה בכלל, כלומר אילו שהן תוצאות (חוץ מקוואליה אחרת, ואולי גם זה לא). אבל במחשבה שניה, די ברור שהקוואליה לפחות נצפית על-ידי המערכת הפיזיקלית במוח שלי - אחרת לא הייתי יכול לדווח בכנות "יש לי קוואליה"‏1. אני כבר יכול לראות איך אפשר להתקדם מכאן למה שאתה מדבר עליו (אבל כדי להתמודד עם בעיית מכונות ההקלטה שפולטות "יש לי קוואליה", נצטרך להגדיר מדעית את ה"בכנות". זו עלולה להיות בעיה יותר נבזית ממה שנדמה; הרבה תיאוריות בפילוסופיה של הנפש כבר נפלו על זה). עדיין נראה לי מוקדם מדי, ויומרני מאוד, לחשוב שהפיסכולוגיה רחוקה מכך מרחק הגדרה בלבד. הנח לפסיכולוגיה להתקדם; אם וכאשר היא תגיע לקוואליה, אז נדע, ואז נדע אם יש לנו מבחן טוב לקוואליה של מחשבים.

1 הפלא ופלא, נדמה לי שגם דואליסטים של הנפש יסיכמו לטיעון הזה!
חושו, אחים, חושו 317468
אם אני מסכם את מה שאמרת‏1:

1. עיסוק מדעי בקוואנטיה לא יקדם אותנו הרבה - מלכתחילה קוואליה נועדה להגדיר דבר שחומק מהותית מיכולת הטיפול המדעית.
2. קיבלת בצורה מסוייגת את העובדה שהגדרה בת מדידה של קוואליה (אם קיימת כזו) היא חלק מתאוריה מדעית שתעסוק בקוואליה‏2.

אני מרוצה מנקודה מספר 2, ועדיין חולק עליך לגבי נקודה מספר 1 (אם כי, אני לא מכחיש את ההגדרה המקורית של קוואליה ומה שעומד מאחוריה). אם להשתמש בדימוי הרבה יותר רלוונטי מאשר היחסות הפרטית: חקר החלומות (גם מבחינה פסיכולוגית וגם מבחינה ניורולוגית) תרם הרבה לתפיסה הפילוסופית של החלומות - למרות שבדומה לקוואליה חלומות הם דבר מאד סובייקטיבי. עם זאת, ברור לי שיש הרבה הבדלים בין קוואליה לבין חלומות.

לגבי ההשפעה הנצפית שחשבת עליה - היא בעייתית מאד. הפילוסוף דניאל דנט למשל משוכנע בשיא הכנות שאין דבר כזה קוואליה. בפרט, הוא ידווח שאין לו קוואליה. אנחנו מאמינים שיש קוואליה גם למי שבכלל לא מודע למושג - כמו ילדים, או כלבים. בקיצור, נשמע יותר כמו "השפעה של אמונה בקיום קוואליה" ולא "השפעה של קוואליה".

בכל מקרה, אני חייב לפרוש זמנית מהדיון המעניין הזה - מטעמי מצוקת זמן. המשך דיון נעים!

---

1 מתוך נסיון להבין אותך ולהתקדם בדיון. אם סילפתי אותך, זה לא באופן מכוון.
2 באופן דומה, קיבלת באופן מסתייג את הדימוי בעניין הזמן. מבחינתי לגיטימי שתגיד שהגדרה בת מדידה היא "חלק" מתורת היחסות. "חלק" או "בסיס" - זה רק סמנטיקה. לגבי יתר ההערות בנושא זה, גם אני לא כל כך מבין מה יוצא מהן :-).
חושו, אחים, חושו 318234
1. רק סילוף קליל (ונסלח, כמובן): הקוואליה לא נועדה לגדיר דבר שחורג *מהותית* מיכולת הטיפול המדעית - זו הנחת המבוקש נגדך. היא נועדה להגדיר דבר ש*על פניו* נראה כחורג מיכולת כזו - ולדעתי הוא אכן חורג ממנה - אבל זה לא נובע בצורה מיידית מההגדרה, אפשר להתווכח על כך, וייתכן שזה ישתנה פעם.

בפסקה שלך על דנט, כלבים וילדים אתה מפרש את מה שאמרתי על נצפות הקוואליה בדיוק באופן שלא רציתי שהוא יתפרש: כקריטריון אובייקטיבי אם-ורק-אם לקיום קוואליה; הרי העמדה שלי בדיון היא שאין כזה, ועדיין לא נסוגתי ממנה... הפסקה ההיא נועדה להראות שלפחות בחלק מהמקרים בהכרח יש לקוואליה השפעה על הפיזיקה‏1. ודאי במקרה שלי (שבו אני *יודע* שיש לי קוואליה, ו*יודע* שהדיווח שלי על כך הוא כן), ואני אהיה מוכן לקבל אותו כודאי למדי גם במקרה של אנשים אחרים שמדווחים על קיומה של קוואליה אצלם. אם נצליח להוציא מכאן יום אחד תיאוריה מדעית של הקוואליה (ואין לי מושג איך, וברור לי שאנחנו לא קרובים), אפשר יהיה לנסות לבדוק אותה על ילדים וכלבים, ואולי להסיק על קוואליה אצלם למרות שהם לא יודעים לדווח על כך, ולבסוף גם על דנט - אם הוא עדיין יהיה עמנו - ואולי להסיק שהוא טועה.

1כמובן, תחת ההנחה שלפחות חוץ מהקוואליה הנפש היא פיזיקלית.
מגרש השדים 313318
כשיהיה מחשב שיכתוב ספר קוהרנטי עם חוויות קוואליאליות, יוכל להתייחס אליו באופן אינטליגנטי, ואפילו טל יגיד לי ''אני לא יודע איך זה קורה. זה לא נובע מהאלגוריתם שבניתי. עיבוד מקבילי או משהו'', אולי סביר יהיה לחשוב שיש לו קוואליה. ולא, אני לא אכנס לדיכאון. ההיפך. אולי סוף סוף אני אמצא לי חבר לחיים (בתנאי שלא נחבר למחשב רגליים).
מגרש השדים 313343
שוב אתה מעלה דרישה מוזרה (בעיני) שקוואליה זה משהו שלא באמת יודעים איך הוא קורה. זה משהו בלתי ניתן למידול. אם זה לא מסתורי, אז זה לא קוואליה. על זה אני רק יכול להגיד שזה שאנחנו יודעים (בגדול) איך הריון עובד, זה לא הופך את התהליך לפחות יפה ומופלא.

זה מזכיר לי מערכון נפלא של החמישיה שגם עוסק בדברים מסתוריים. מרים הבתולה (קרן מור): "אז אמרתי לו - ריבונו של עולם, אתה שבראת אותנו עם אחד, לא יודע איפה זה הדגדגן? אז הוא אמר לי - אני לא בראתי אתכן עם זה. אתן גידלתן את זה לבד".

וכדי לסיים בנימה אופטימית, אם אתה מחפש חבר לחיים, תשיג חתול או כלב. הם אמנם לא כותבים ספרים, אבל בהחלט יש להם תחושות, והם מחזירים לך אהבה.
מגרש השדים 313345
אין לי דרישה שקוואליה ''זה משהו שלא באמת יודעים איך הוא קורה''. אני חושב שאם אנחנו יודעים שמדובר על אלגוריתמים רגילים כמו היום, אין לנו סיבה סבירה לייחס להם קוואליה.
מגרש השדים 313352
לא נראה לי שאתה תייחס קוואליה לאף אלגוריתם, אף פעם, ולו מהסיבה הפשוטה שאלגוריתם הוא משהו מופשט וקשה לייחס לו קוואליה, אבל הנה דוגמה יותר קונקרטית:

שמעתי פעם על משהו שנקרא "הספר של איינשטיין". זה ספר מבריק שכתובה בו התשובה לכל שאלה שאי פעם תוכל לשאול את איינשטיין, כפי שאיינשטיין היה עונה לך לו היה חי. אתה פותח את הספר ומדפדף בו, אפילו מנהל איתו דיאלוג. האם ולו לרגע תחשוב שאתה מדבר עם משהו שיש לו קוואליה? כמובן שלא.

עכשיו, יתקנו אותי המבינים אם אני טועה, אבל כל אלגוריתם הוא בעצם וריאציה על "הספר של איינשטיין". תן קלט ותקבל פלט. לכן מה שחשוב בכל שאלת הקוואליה הוא לא המורכבות של האלגוריתם, אלא על איזו מכונה הוא רץ.
מגרש השדים 313358
אתה צודק. אבל אני לא יודע איזו מכונה יוצרת קוואליה. לעומת זאת, מקובל על (כמעט) כולם שלמחשבים היום אין קוואליה. אז מה פתאום שאלגוריתמים מורכבים יותר ייצרו קוואליה יש מאין?
מגרש השדים 313361
אבל זה מה שאמרתי: השאלה היא לא כמה האלגוריתם מורכב, אלא על איזו מכונה הוא רץ. אני מוכן להתערב שאלגוריתמים פשוטים (יחסית! יחסית!) כשהם רצים על ג'וק ייראו לך כאילו יש לג'וק קוואליה, ואילו כשירוצו על פנטיום 8 ייראו לך כאילו קוואליה לא הייתה ולא תהיה לעולם.
מגרש השדים 313372
גם כאן אתה כנראה צודק. ניפגש כשתוכל להריץ אלגוריתמים על ג'וק?
מגרש השדים 313391
למה אץה צריך שגדי יריץ אותם? הג'וק מריץ אותם בהצלחה בלי עזרה כבר כמה מאות מליוני שנים.
מגרש השדים 313407
ששש..זה חשוב לאתגר צעירים עם פוטנציאל.
מגרש השדים 313459
רק כדי שהצעירים יכירו את האופציות: הכסף הגדול (50,000$ בתוכנית רגילה, מליון דולר בתוכניות ספיישל) הוא באכילת ג'וקים ולא בנסיון להריץ עליהם אלגוריתמים.
מגרש השדים 313366
אתה טועה.

למעשה הטיעון שלך אחרי המשפט "יתקנו אותי המבינים" נשמע בערך כמו הטיעון הלוגי שמסביר למה אשה ששוקלת כמו ברווז היא מכשפה. אז קצת קשה להתחיל להסביר איפה אתה טועה..

אבל נסתפק בזה שלפי הגדרה סבירה של "מכונה" ו"אלגוריתם", גם המוח הוא מכונת חישוב (שיש כאלו שאומרים שהוא לא שקול למכונת טיורינג), והאישיות שלך היא אלגוריתם.
מגרש השדים 313371
לא ברור לי באיזה מובן מה שכתבת בשורה האחרונה נוגד את מה שאני אמרתי.
מגרש השדים 313383
הוא כנראה לא נוגד. בוא נסביר את זה אחרת.

הגעת על סמך הדוגמא של "הספר של איינשטיין" למסקנה שקיום קוואליה תלוי במכונה, לא באלגוריתם. וזה על סמך זה שלאלגוריתם לבד (אפילו שהוא מאד מאד מתוחכם) אין קוואליה.

אני יכול להשתמש באותו טיעון הפוך - תקח את הגופה של איינשטיין. אף אחד לא יטען שלגופה יש קוואליה. מה שחסר כאן זה האישיות של איינשטיין. מסקנה - מה שמשנה זה לא המחשב אלא האלגוריתם. אם היה אלגוריתם השקול לאישיות של איינשטיין היה לו קוואליה.

כמובן שגם הטיעון שלי הוא שטויות במיץ עגבניות.

הבה נחזור לשנות ה 50. מחשב שקורא באופן אוטומטי את לוחית הרישוי של מכונית נוסעת הוא מדע בדיוני. לא רק שלא קיים אלגוריתם לזיהוי טקסט (OCR), לא קיימת שום דרך לקחת מחשב ולשים אותו בכביש, או לשדר בזמן אמת תמונות למחשב המרכזי. אז גם אף אחד לא מעלה על דעתו לנסות. ואז יכול לבוא אדם שקוראים לו (נגיד) יהונתן ולאמר: אם מחשב לא יכול לעשות את זה היום, אין שום סיבה להניח שמחשב יותר חכם, או אלגוריתם יותר טוב יעשה את זה.
ומאז זרמו הרבה מכוניות בכביש. ואל תדמיינו לשניה ששיטת הגבייה של כביש חוצה ישראל עובדת אך ורק כי המחשבים יותר מהירים, או רק כי מישהו קודד לו את כל הצילומים האפשריים של לוחות זיהוי.
מגרש השדים 313406
שם יפה יש לאדם ההיפותטי שלך.

יש הבדל בין בעיות טכניות לבעיות עקרוניות.
מגרש השדים 313408
אני חושב שהבנת את הטיעון שלי הפוך מכפי שהתכוונתי. לא ניסיתי לטעון שאלגוריתם אינו הכרחי לקיום קוואליה (הוא הכרחי, אם כי אני עדיין לא חושב שהוא מה שמייצר את הקוואליה), אלא שיהונתן לא ישתכנע בקיום קוואליה גם של דברים שמריצים אלגוריתמים מתוחכמים במיוחד, כי כל עוד הוא יראה שמה שמריץ אותם הוא מכונה עם צ'יפים וטרנזיסטורים ולא ג'וק זה לא ייראה לו כמשהו עם קוואליה (ועם יהונתן הסליחה, כי אני כנראה עושה לו עוול).
מגרש השדים 313413
זה בסדר. אתה כנראה צודק ברמה הפסיכולוגית האישית שלי, אבל זאת סתם מוגבלות פרטית. זה לא רלוונטי לבעיה העקרונית (עוזי הציג בצורה טובה את ההבדלים בסבירויות. אין לי כוח לחפש את התגובה).
מגרש השדים 313417
עד כמה שזכור לי עוזי דיבר על מצב של ''רמאי'' - כלומר מחשב שפשוט זוכר את התשובות שאתה מצפה ממנו לדעת, לא באמת מפעיל תהליכי חשיבה כלשהם.

בכל מקרה, לדעתי דווקא מאוד רלוונטי לבעיה העקרונית עד כמה כל אחד מאיתנו מוכן למתוח את ההגדרות שלו ולקבל קיום קוואליה אצל דברים שלא נראים לו כמו דבר חי.
מגרש השדים 313420
ברמה מסויימת כולנו עושים את זה, וחובב משחקי מחשב כמוך ודאי יודע על מה אני מדבר.
מגרש השדים 313426
המממ? עד היום לא נתקלתי במשחקי מחשב בשום דבר שהייתי מייחס לו שמץ של קוואליה. אפילו פחות משאני מייחס קוואליה לדמויות בספר.
מגרש השדים 313424
אנסה לדייק: אני חושב ש"המכונה שעליה רץ האלגוריתם" היא אחד מתוך מכלול של מרכיבים שקיומם יגרום לנו להאמין שסביר שליצור שלפנינו יש קוואליה. אני מניח שכל אחד נותן משקל שונה למרכיבים שונים. מאחר שאני לא משוכנע שהסיבוכיות היא זאת שגורמת להיווצרות קוואליה, אני נותן משקל רב יותר לדמיון הפיזי (או כאן זה כבר פיזיולוגי) של המכונה למוח האדם.
מגרש השדים 313428
לדעתי, העובדה שאתה נותן משקל רב יותר לדמיון הפיזי למוח האדם נובעת מכך שאין לך מושג איך מוח האדם עובד ועד כמה טוב מכונה יכולה לעבוד כמוהו.

(שום דבר אישי - אני בטוח שגם מדעני המוח הגדולים ביותר לא יודעים איך המוח ממש עובד).
מגרש השדים 313432
כל זמן ש''עד כמה טוב מכונה יכולה לעבוד כמוהו'' פירושו ''האם יכולה להיות לה קוואליה'' - כמובן.
מגרש השדים 313435
אני חשבתי דווקא בכיוון של לעשות אמיולציה לפעולת הניורונים, שעל המורכבות שלהם עוזי דיבר ב<דמיין קישור כאן>.
מגרש השדים 313441
לא הבנתי.
מגרש השדים 313462
הכוונה הייתה ''כמה טוב מכונה יכולה לחקות את התהליכים הפיזיקליים שמתרחשים במוח''.
מגרש השדים 313354
...ואלון משוכנע שזה יכול לקרות, ונימוקיו (זה לאביב) אינם מתחום הפנטזיה אלא פשוט מפני שזה הרבה יותר סביר מהאלטרנטיבה - בייחוד על סמך מה שאני (חושב שאני) יודע על אלגוריתמים, ביולוגיה ופיסיקה. הוכחה ''מדעית'' אין לי ולא תהיה לי עד שלא אבנה מחשב כזה. חכו חכו.
  מגרש השדים • יהונתן אורן
  מגרש השדים • אלון עמית
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • אביב י.
  מגרש השדים • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אביב י.
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אביב י.
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • יהונתן אורן
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • האייל האלמוני
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • אורי גוראל-גורביץ'
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אריק
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אח של אייל
  בקיצור • אריק
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • עוזי ו.
  בקיצור • האייל האלמוני
  בקיצור • עוזי ו.
  בקיצור • האייל האלמוני
  בקיצור • עוזי ו.
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • ראובן
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • שוקי שמאל
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • ראובן
  כמה הערות • סמיילי
  עכבר הוא חרק! • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • האייל האלמוני
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • יובל נוב
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • עוזי ו.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • דורון הגלילי
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • עוזי ו.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • שוטה הכפר הגלובלי
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • ירדן ניר-בוכבינדר
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • אלון עמית
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • אלון עמית
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • שוקי שמאל
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בעיה בהחלטות רציונליות • שוטה הכפר הגלובלי
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • ערן בילינסקי
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • אביב י.
  מערכת שמדפיסה את המשפטים הנכונים • עוזי ו.
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • עוזי ו.
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ערן בילינסקי
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  כמה עולה חליפה ליתום • ערן בילינסקי
  כמה עולה חליפה ליתום • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • האייל האלמוני
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • האלמוני ממנג
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  תודה. • האייל האלמוני
  תודה. • עוזי ו.
  תודה. • האייל האלמוני
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • אלון עמית

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים