בתשובה לעוזי ו., 12/06/05 1:51
בקיצור 308104
איך אתה מחליט מה יותר מרשים: "המח הוא מכונת טיורינג" או "המח איננו מכונת טיורינג"? מדוע השני זקוק לראיות חזקות ולראשון מספיקה הנחה?

(למען הסר ספק, למרות שכבר אמרתי את זה: אני לא באמת מאמין או יודע ש"המח הוא לא מכונת טיורינג", אני פשוט תוהה מתי החלטנו ועל בסיס מה שהוא דווקא כן)
בקיצור 308157
א. אם היה לי אלגוריתם כללי שמחליט מה משתי אפשרויות יותר מרשים, הייתי מן הסתם יכול לפתור את הבעיה הכללית ולהראות שהמח הוא מכונת טיורינג.

ב. יש כמה נימוקים לטובת מכונות טיורינג:
1. אנחנו אומרים מכונות טיורינג שהן מכונות די פשוטות, אבל כידוע אפשר באותה מידה להחליף למודל חישובי אחר. למשל רשת נוירונים.
2. אפילו תוכנה דטרמיניסטית לחלוטין ופשוטה יחסית יכולה להציג התנהגות קפריזית, לא צפויה, ואפילו 'אינטליגנטית'.
3. מה-שלא-יהיה המח, הוא כולל המון רכיבים, הרבה יותר מבכל תוכנה קיימת. לכן קשה להסיק על המבנה שלו מהשוואה לתוכנות שאנחנו מכירים.
4. המוח של חתול הוא כן מכונת טיורינג? ושל מקק?
5. אם לא מכונת טיורינג, אז מה כן?

ג. הנימוק החזק ביותר נגד:
1. מה עשו חוקרי הבינה המלאכותית בחמשים השנים האחרונות?
בקיצור 308647
תסלחו לי שאני מעלה את זה שוב, אבל הפעם זה באמת נראה לי רלוונטי. האם הטיעונים בעד המוח כמכונת טיורינג פתרו את בעיית משפט גדל? הרי כפי שאני מבין, גדל הוכיח שתמיד יהיה משפט שמכונת טיורינג לא תוכל להוכיח שהוא אמיתי, ואילו אדם יוכל בקלות להוכיח שהוא אמיתי, לא כן?
בקיצור 308653
לא.
בקיצור 308905
לעיונך:
בקצרה:
המאמר מראה איך ניתן לבטא מכונת טיורינג ע"י מערכת פורמאלית סופית. (אני משער שאתה יודע לעשות את זה). החוקים הם כללי ההיסק, הקלט הראשוני הוא סט האכסיומות. הפעולות שמכונה כזאת יכולה לבצע שקולות למשפטים שניתן להוכיח מתוך המערכת השקולה לה. תמיד יהיה משפט שאותו המערכת לא יכולה להוכיח, כלומר נוסחה אליה המכונה לא יכולה להגיע. בן אדם יכול להגיע לנוסחה הזאת בקלות (יחסית), וניתן למצוא נוסחה כזו עבור כל מכונת טיורינג. כלומר, עבור כל מכונת טיורינג שהיא, יש לפחות משפט אחד שהאדם יכול להגיע אליו והיא לא.

סביר להניח שאין זו הוכחה ניצחת לאי-היותו של האדם מכונת טיורינג. אבל מה הטיעון שכנגד?
בקיצור 308917
מה זה "להגיע למשפט"? "להגיע לנוסחה"?

סליחה שאני לקוני, אבל כמו שכתבתי קודם הדיונים איתך קצת מייאשים.
בקיצור 308939
מתוך המאמר:
"We now construct a Gödelian formula in this formal system. This formula cannot be proved-in-the- system. Therefore the machine cannot produce the corresponding formula as being true. But we can see that the Gödelian formula is true: any rational being could follow Gödel's argument, and convince himself that the Gödelian formula, although unprovable-in-the-system, was nonetheless----in fact, for that very reason---true."

(נראה לי שהבעיה היא שהמכונה מוגבלת לממש שפה מסדר ראשון).
בקיצור 308950
זו לא כל הבעייה.

ראשית יש כאן (כרגיל) בלבול בין מובנים שונים של המילה "הוכחה". גרוע יותר, לוקאס שוכח דבר קטן: כדי שהטענה "הנוסחה של גדל אינה יכיחה במערכת" תהיה נכונה, המערכת צריכה להיות עקבית, ואת זה לא האדם ולא המכונה יודעים. גדל גם מציין זאת במאמרו, ומסיק (בדיוק) את מה שאפשר להסיק: את המשפט השני שלו, שאומר "מערכת (מהסוג המדובר) אינה יכולה להוכיח-פורמלית את עקביותה-שלה".

אגב, הטיעון הזה של לוקס הופרך (ע"י פטנם, ואחרים) כמעט מיד, מה שלא מפריע לו לשוב ולצוץ בכל מיני אתרים עד היום.

לסיום, הנה פטנט נחמד שמצאתי פעם ברשת. במקום להראות שמ"ט הן יותר טיפשות מבני-אדם, הבה נוכיח פורמלית שאני יותר טיפש מד.ק. וממך כאחד. נעיין בטענה א', האומרת

א': "אלון עמית לא יכול להוכיח את טענה א"'.

אתה וד.ק. יכולים להוכיח שאני לא יכול להוכיח את טענה א', כי אילו עשיתי זאת הייתי מוכיח סתירה (בזזזט!). כיוון שזה בדיוק מה שטענה א' אומרת, הרי שטענה א' נכונה, ואתה וד.ק. אף יכולים להוכיח אותה; אני, לעומת זאת, לא.

בדיחה? ממש לא. טענה א' תפורה עבורי בדיוק כמו שגדל תופר נוסחה עבור מערכת פורמלית נתונה, ומה שהיא אומרת עלי הוא בדיוק מה שמשפט גדל אומר על ההבדל בין כישוריהן של מערכות פורמליות או מ"ט לכישוריהם של בני-אדם (למען הסר ספק: שום כלום).
בקיצור 309804
אני חושב שאתה לא מקדיש לטיעונים שכנגד מספיק תשומת לב. אתה מניח שהם מטופשים רק בגלל שהם מסתכלים על דברים טיפה אחרת.

אתה כנראה לא קראת את המאמר, אחרת היית יודע שהוא משיב לשתי ההתנגדויות שלך. דבר ראשון הוא לא אומר שמ"ט טפשות יותר מבני אדם, רק שהן שונות במהותן, ושלא ניתן לעשות לבינת האדם רדוקציה למ"ט.
דבר שני, הוא מתייחס בהרחבה לעניין העקביות. יש, אמנם, חוסר עקביות מסוים בדרכו של האדם, אבל אין זה חוסר עקביות מוחלט (אילו היה, כל טענותיך היו נופלות). הוא מתאר דרכים שונות לבניית מערכות ברמות שונות של עקביות ומראה איך כל אחת מהן חשופה למשפט גדל.

אלון, אם לא נעים לך להתדיין אתה לא חייב. חבל רק להיות דוגמאטי כ"ך. גם אם פטנם ואחרים הפריכו את הטיעון הזה, זה לא אומר שהטענה שגויה (או אפילו שההפרכה תקפה).
אני אשמח לקרוא את הפרכתו של פטנם. אתה יודע את שם המאמר?
בקיצור 309837
1. אמרתי שהטיעון מטופש?

2. על מה ואיך הם מסתכלים טיפה אחרת?

3. מה זה "רמות שונות של עקביות", מה זה "חוסר עקביות מוחלט" לעומת סתם חוסר-עקביות, ואיך "כל הטענות שלי נופלות" בזכות זה?

4. אני דוגמאטי? שיהיה. לא טענתי שהטענה שגויה *בגלל* שפטנם הפריך אותה, רק ציינתי שהפריך אותה (לצערי איני יודע איפה). אתה מוזמן להתעלם.

5. הסיבה שלא נעים לי להתדיין איתך היא פשוטה: שלחתי לך לפחות חמש תגובות ארוכות אשר, למרות שהן לא נראות ככה, השקעתי בהן זמן ומחשבה. על חלקן לא הגבת, ועל אחרות הגבת ללא כל התייחסות לתוכנן. לכן, לא ברור לי עד עכשיו אם הטיעונים שלי הובנו, נידחו, התקבלו, האירו עיניים או החשיכו אזניים - אתה פשוט משייט הלאה. אני מתנצל, אבל אותי זה מייאש קצת.

לענייננו. מכונות טיורינג "שונות במהותן" מבני-אדם - בטח, למשל בני-אדם אוכלים גזר והן לא. אני מניח שלא לזה הכוונה. אז למה הכוונה? על איזו "רדוקציה" מדובר? האם טענה א' שהזכרתי מראה שאי-אפשר לעשות למוחו של אדם א' רדוקציה למוחו של אדם ב'? כלומר, כל איש "שונה במהותו" מכל איש אחר?
בקיצור 309844
2. אתה מגביל את המסקנות שניתן להסיק ממערכות פורמאליות למערכות פורמאליות. אני חושב שמערכות פורמאליות מבטאות דברים שתקפים לגבי החשיבה וההכרה של האדם באופן כללי, אם כי אני מודה שקשה לשים את האצבע על מה ואיך בדיוק. זה לא אומר שאי אפשר לחפש.

3. לוקאס מתייחס לזה במאמרו. חוסר עקביות מוחלט הוא כזה שכל טענה ושלילתה מוכחות. ייתכן שיש מערכות שבהן קורה שטענה ושלילתה מוכחות אך לא תמיד.

4. אז פטנם הפריך אותה. אוט ער געזוגט. פילוסופים עסוקים בלהפריך איש את רעהו משחר הפילוסופיה. אני גם לא אומר שהמאמר של לוקאס שכנע אותי וזהו. פשוט, בדיון שניהלתם על "האם האדם הוא מכונת טיורינג", זה נראה לי טיעון רלבנטי.

5. כאן הייתה אי-הבנה. אני לא זוכר אם היו חמש, אבל בהחלט קיבלתי ממך תגובות ארוכות ומושקעות, הערכתי אותן מאוד וציינתי את הערכתי בתגובות שכתבתי לך, שגם הן היו ארוכות ומושקעות, איפשהו בסביבות תגובה 306628.
כל תגובה שלך נתקבלה בברכה על ידי, יותר מאשר תגובות אחרות, מכיוון שהן באמת היו בהירות וענייניות והצביעו על כשלים אצלי בצורה מאוד ברורה. אבל רוב הכשלים שהצבעת עליהם נבעו מניסוח שגוי וחוסר שליטה בפרטים טכניים, וכתגובה השתדלתי לנסח את דבריי בצורה כללית יותר שעדיין תמכה בטיעון. מתישהו פשוט פרשת, והוצר לי על כך מאוד.

**

הטענה אינה שמ"ט שונות במהותן מבני-אדם, אלא מתודעת האדם. אתם התווכחתם על אם אפשר "לטרנג", כדבריך, את מוח האדם. עוזי ו., בתגובה 308157 העלה טיעונים בעד ונגד. אני הוספתי טיעון נגד, שנראה לי מבטל את רוב טיעוני הבעד. לא סתם שלא נמצא מודל של מ"ט ששקול למוח האדם, לא *יכול* להימצא כזה מודל.
בקיצור 309979
2. אתה מוזמן לחפש; אני לא מגביל כלום, רק מזהיר אותך (שוב) מבזבוז זמן בנסיון עקר. הסברתי קודם, ואנסה שוב: האם אתה מבין את חשיבותו של מושג האינסוף במשפט גדל? (לא אינסוף-לא-בן-מנייה, אגב. סתם אינסוף רגיל). מושג זה מעניין למדי בחשיבה האנושית בכלל, אבל חשיבותו אפסית בתחומים הנוגעים לכלכלה ופוליטיקה, למשל. אם אתה לא סבור כך, אנא הסבר מדוע.

3. אילו מין מערכות יש שבהן משהו ושלילתו מוכח אבל לא תמיד? ודאי שלא המערכות הלוגיות עליהן מדבר משפט גדל... אם אלו מערכות אחרות, סבבה, אבל אז מה למשפט גדל ולהן?

5. "פרטים טכניים" הם לפעמים שוליים ולפעמים הם לב העניין. פה הם לב העניין. "מתישהו פשוט פרשת" - פה הדהמת אותי. הייתכן שפשוט לא ראית את תגובה 307887? ויש גם תגובה 302742, כזכור. אם ראית אותן, זה ממש משונה לטעון ש*אני* פרשתי מהדיון, לא? אתה מנסה להדגים לי חוסר עקביות אנושי?

--

טיעון הנגד שלך, כאמור, לא מבטל את טיעוני הבעד של עוזי, כי הוא פשוט לא נכון. אתה מוכן לנסות שוב ולהסביר *מהו* הדבר הזה שהתודעה האנושית יכולה לו ומ"ט לא *יכול* להיות שתשיג אותו? כדי לקצר, אנחש כמה מועמדים:

1. אין מ"ט היודעת לחשב האם מ"ט אחרת תעצור או לא תעצור עבור קלט נתון. משפט זה שקול, במובן יסודי מאוד, למשפט גדל. הבעייה: גם אין (ולא יהיה) אדם המסוגל לעשות זאת.

2. מערכת פורמלית אינה יכולה להוכיח את המשפט-הגדלי המתאים לה. הבעייה: גם כל אדם אינו יכול להוכיח את המשפט-הגדלי המתאים לו. אז מה רבותא?

אולי משהו אחר? אי היכולת לפתור כל משוואה דיופנטית? (גם אנחנו לא יכולים). אי היכולת להוכיח את עקביות עצמית? (גם אנחנו לא יכולים). אז מה הדבר הזה?
מדענים גילו אדם שפתר את בעית העצירה! 310021
סתם.

אלון הזכיר את בעית העצירה. זאת בעייה מאד משמחת. אפשר להדגים אותה ע"י דוגמא פשוטה - וכך לסתום את הגולל על הטענה שהאדם חסין מאותו "פגם גדלי" אצל מכונות טיורינג.
א. בעית העצירה: לבדוק האם תוכנית מחשב תעצור.
ב. התוכנית: תוכנית שסורקת את כל המספרים הזוגיים ובודקת עבור כ"א מהם את השערת גולדבך‏1. ברגע שהיא מוצאת מספר שלא מקיים את ההשערה, היא עוצרת.

הדרך היחידה שאדם יכול להראות האם התוכנית תעצור היא להוכיח או להפריך את השערת גולדבך. זה לא נעשה (ודווקא רבים וטובים ניסו). אם זה לא מספק אתכם, אפשר לבחור משפט אחר מעל הטבעיים שהוא *אינו ניתן להוכחה או הפרכה* ‏2.

1 האם מספר זוגי גדול מ 2 ניתן להצגה ע"י סכום של שני ראשוניים.
2 יש אינסוף משפטים שאינם ניתנים להוכחה או הפרכה. נכון - אפשר לצרף אותם (או את השלילה שלהם) לאקסיומות של תורת המספרים. אבל זה כמובן לא פותר את בעיית העצירה... באסה.
מדענים גילו אדם שפתר את בעית העצירה! 310461
אינני מוצאת את האזכור הראשון של בעית העצירה. מוכן לספר לי מה זה?
מדענים גילו אדם שפתר את בעית העצירה! 310504
ויקי העברית מאכזבת, אז האנגלית:
הבעיה, בשתי מילים, היא זו: אנחנו רוצים תוכנה שמסוגלת לקבל את הקוד של תוכנה אחרת ואת הקלט שהיא מקבלת, ולומר האם התוכנה תיגמר אי פעם או שהיא תיכנס ללופ אינסופי ותרוץ לנצח. למרבה הצער, מתברר שתוכנה כזו לא רק שאינה קיימת, אלא גם אינה מסוגלת להיות קיימת, מסיבות עקרוניות ולא רק טכניות. ההוכחה (היפה) שזה כך ניתנה על ידי אלן טיורינג עוד ב-‏1936.

(התיאור המדוייק לא צריך להיות עם "תוכנה" אלא עם "אלגוריתם", אבל העקרון ברור).
מדענים גילו אדם שפתר את בעית העצירה! 310520
חסר לך איזה "כל" בתאור, לא? כלומר, אם התוכמה הנבדקת מכילה רק פקודה אחת ("end" בדיאלקט שהיא מכירה) אני חושב שדי קל לכתוב תוכנה אחרת שפותרת את בעיית העצירה של התוכנה הזאת.
מדענים גילו אדם שפתר את בעית העצירה! 310523
אה, שגיאת ההקלדה שלי יכולה להיות מילה טובה לאינטליגנציה מלאכותית.
מדענים גילו אדם שפתר את בעית העצירה! 310580
למרבה הצער, בזמן כתיבת ההודעה חשבתי את אותו הדבר בדיוק, ולכן לא ברור לי למה ה"כל" הושמט. צ"ל "אנחנו רוצים תוכנה שמסוגלת לקבל את הקוד של *כל* תוכנה אחרת..."
מדענים גילו אדם שפתר את בעית העצירה! 310589
אכן, אאז''נ ההוכחה מתבססת על כך שאתה מזין אותה תוכנה עצמה כקלט לתוכנת הבדיקה.
מדענים גילו אדם שפתר את בעית העצירה! 310593
תודה.:)
עכשיו מה שנבצר עדיין מהבנתי היא השאלה מדוע נאמר כאן שגם אדם לא מסוגל "לעצור"?
מדענים גילו אדם שפתר את בעית העצירה! 310610
כי זה כנראה נכון.
מדענים גילו אדם שפתר את בעית העצירה! 310612
אתה באמת עוד לא מזהה שאני קשת תפיסה? אנא הסבר.
מדענים גילו אדם שפתר את בעית העצירה! 310630
כנראה גם אני מאותגר, כי אני לא בטוח מה את שואלת. האם את רוצה הסבר למה גם האדם נתון לאותה מגבלה של מכונת טיורינג?
מדענים גילו אדם שפתר את בעית העצירה! 310631
בדיוק.
מדענים גילו אדם שפתר את בעית העצירה! 310696
כלומר, זה בדיוק ההסבר שאני מחפשת.
מדענים גילו אדם שפתר את בעית העצירה! 310842
ראשית, ברשותך, אני רוצה לעשות טיפה סדר. אנחנו מתעניינים בשאלה אם המוח הוא מכונת טיורינג, ומוצג בפנינו הטיעון הבא:

1. מכונת טיורינג לא מסוגלת לפתור את בעיית העצירה.
2. המוח כן מסוגל.

מסקנה: המוח אינו מכונת טיורינג.

זאת באמת הוכחה אלגנטית וקצרה, ורק בעיה אחת קטנה יש בה: מי אומר שהנחה 2 לעיל נכונה? מאחר והיא עומדת בלב הטיעון, מן הדין היה שהטוען יוכיח אותה אן לפחות יצדיק אותה באיזה אופן. כאשר היא נזרקת לחלל העולם כעובדה, הדרך הטבעית ביותר להתייחס אליה היא לענות באותה רמת נחרצות:

2. גם המוח לא.

ולחכות לראות מה תהיה התגובה.

ועכשיו לעניין: למה, באמת, מניח מישהו שהמוח מסוגל לפתור בעיות שמכונת טיורינג אינה מסוגלת? מאחר ומכונת טיורינג מסוגלת לבצע כל אלגוריתם "נורמלי" (כלומר למעשה כל אלגוריתם חישובי), ההנחה שלמוח יש "עוד משהו" מעבר לה אינה יותר מהמיסטיציזם המקובל אצל אנשי "רוח האדם אינה ניתנת לרדוקציה", שהוא עניין חביב לכלשעצמו אבל מעביר את נטל ההוכחה אליהם.

אני לא רואה שום סיבה להניח שהאדם אינו מוגבל בבעיית העצירה. יש הרבה אוטומטים תאיים שאם נשאל שאלות לגבי ההתנהגות העתידית שלהם חוששני שלא נדע את התשובה (למרות שאולי אני טועה), ולכן תוכנה שעוצרת כשהאוטומט אותו היא בוחנת מגיע למצב מסויים תישאר במצב בו אדם לא יידע להכריע אם היא תעצור או לא. אני לא בטוח שהפסקה הזאת ברורה, ואהיה מוכן להסביר יותר אם יש צורך (לצורך זה יועיל לדעת אם את מכירה אוטומטים כאלה כמו המשחק "LIFE" או ה"תוכניות הפשוטות" של וולפרם).

הערה צדדית: נתקלתי פעם ב"הוכחה" שהמוח אינו מכונת טיורינג בגלל העובדה המפתיעה שהוא לעולם לא נכנס ללולאות אינסופיות, בניגוד למנהגן המגונה של תוכנות מסויימות. האם הכשל בטענה הזאת ברור לעין?
מדענים גילו אדם שפתר את בעית העצירה! 310845
נו, עכשיו קראתי עוד קצת בפתיל ואני מציע פשוט להקשיב למה שאלון אומר במקום לקרוא את הקרטועים שלי.
מדענים גילו אדם שפתר את בעית העצירה! 310954
א. "...ההנחה שלמוח יש "עוד משהו" מעבר לה אינה יותר מהמיסטיציזם המקובל אצל אנשי "רוח האדם אינה ניתנת לרדוקציה", שהוא עניין חביב לכלשעצמו אבל *מעביר את נטל ההוכחה אליהם*."
מדוע? מדוע ההנחה שהמוח הוא מ"ט עדיפה עקרונית על זו שלמוח יש "עוד משהו"?
ב. נניח שהמוח הוא, אכן, מ"ט (חוץ ממוח של צדיקים, שהוא ל"ו). לאיזה עניין הוא מ"ט? כלומר, *כל* פעולותיו אפשריות גם במ"ט? *כל* החלטה בחיים, למשל? כל דיאלוג עם אנשים? כל מה?ג. חשבתי, משום מה, שאתה מסכים שלמ"ט אין קוואליה. אם לא, אשמח אם תסביר, אם כן, האם נראה לך שהקוואליה היא *רק* תוצר לוואי של, נאמר ה"מצע" הביולוגי שלו - ואין לו שום השפעה על אותו מבנה מ"טתי? ואם יש לו - מדוע שהשפעה זו לא תגרום להבדלים בין המוח למ"ט?
ג. אינני מכירה לא את המשחק LIFE ולא את התוכנות של וולפרם.
ד. אינני בטוחה למה אתה קורא "הכשל" שב"הוכחה".
מדענים גילו אדם שפתר את בעית העצירה! 310957
ג. ויקיפדיה העברית (אם כי בויקי האנגלית הערך טוב בהרבה):
מדענים גילו אדם שפתר את בעית העצירה! 310969
תודה. מסתבר שהכרתי, רק לא זכרתי את השם.
מדענים גילו אדם שפתר את בעית העצירה! 310958
ג. ובאשר לוולפרם: דיון 1814.
מדענים גילו אדם שפתר את בעית העצירה! 311059
א. בגלל התיזה של צ'רץ' שהוזכרה כאן לא פעם. או, בניסוח טיפה שונה: הנחה א' אומרת שהמוח מבצע פעילות חישובית גרידא, הנחה ב' אומרת שהוא עושה גם הוקוס-פוקוס שאנחנו לא ממש יודעים לדבר עליו, אבל אנשים "מרגישים" שהוא שם. ככלל, כאשר טוענים ל"עוד משהו" צריך להראות למה הוא נחוץ (זהו התער הפופולארי של אוקהם).

ב. כן, זאת בדיוק המסקנה שלי: מכונות טיורינג יכולות להיות בעלות קוואליה, וההוכחה היא שיש כשבעה מיליארד כאלו.

ג1. אני לא מאמין שמשהו לא פיזיקלי יכול להיות בעל תוצאות פיזיקליות. אם קיים משהו כזה, ואם את מסתכלת על העולם במשקפיים פיזיקליים בלבד תגלי תוצאה ללא סיבה, וזה מנוגד למה שאנחנו יודעים על העולם (למרות שאפשר, כמובן, לטעון שאנחנו לא יודעים מספיק).

ואחרון: *באמת* יותר כדאי להקשיב לאלון (לפחות בעניינים אלה) ולא לי. הריני נועץ בו את קרס וישנה.
מדענים גילו אדם שפתר את בעית העצירה! 311893
אני איתך, אבל אפשר לעשות לנו את אותו התרגיל: הנחה ב' אומרת שמכונות טיורינג יכולות לעשות רק דברים שאנחנו יודעים שמכונות טיורינג יכולות לעשות: לחשוב פונקציות כאלו ואחרות. הנחה א' אומרת שמכונות טיורינג מסוימות יכולות לעשות הוקוס-פוקוס וליצור עוד משהו: קוואליה. אוקהם, ידה ידה ידה,

ב. מסקנה: המוח אינו יכול להיות מכונת טיורינג.

(אז למה אני איתך? כי נראה לי אפשרי שבסדרי הגודל שחסרים לנו להבנת המוח האנושי מסתתר הוקוס-פוקוס כזה. ומהשערת ה"דבר-מה נוסף" נובעים יותר מדי דברים שנראים לי פרדוקסליים. כבר דשתי את זה בהרחבה עם ניצה; הפואנטה שלי בפסקאות הקודמות היא להטיל ספק בכך שהתער של אוקהם עובד כאן דווקא לטובת הצד שלנו.)
מדענים גילו אדם שפתר את בעית העצירה! 311982
טוב, אולי צריך לנסח את זה טיפה אחרת: הקוואליה מניחה שבמוח האנושי (ואולי בעוד כמה כאלה) מתרחש משהו שאין לו אח ורע בשום מערכת אחרת בקוסמוס. מונחים לפנינו שני הסברים אלטרנטיביים:

1. במוחות בעלי הקוואליה מתחבא עקרון - איך נקרא לו? על-פיזיקלי? - יחיד במינו שגורם להשפעות על הרמה הפיזיקלית (למזלם של הטוענים כך כנראה שהמכניקה הקוואנטית מאפשרת לאותו דבר לפעול בלי לשבור את חוק שימור האנרגיה).

2. הסיבוכיות של המערכת גורמת לתוצא מיוחד במינו שאנחנו קוראים לו קוואליה.

מה עדיף? ההסבר הראשון מכניס לעולמנו משהו יסודי מאד, בעוד השני מדבר על תוצא לא צפוי של מערכת שעקרונותיה ברורים. אני חושב שאוקהם בכל זאת בעדנו.

למעשה זה פחות או יותר מה שאתה אמרת.
מדענים גילו אדם שפתר את בעית העצירה! 312012
באיזה מובן ההסברים הללו הם "הסברים"?

אחת הדרכים המקובלות להגדיר הסבר מדעי היא שהסבר מדעי הוא הסבר שאפשר באמצעותו לנבא את התרחשותה של התופעה המוסברת באמצעות גזירה לוגית. אני חושב שלא ההסבר הראשון שהצעת ולא ההסבר השני עומדים בקריטריון הזה. הם אינם הסברים מדעיים, ולכן לא ברור לי באיזה אופן אתה בכלל מחיל עליהם את התער.
מדענים גילו אדם שפתר את בעית העצירה! 312019
''הסבר'' הוא באמת מילה גרועה. החלף ב''השערה'' או משהו דומה.

לטעמי, התער של אוקהאם יודע לגלח גם עניינים שאינם ''מדע'' פרופר. אחרת הדרקון הורוד של אביב חי וקיים יחד עם עוד כמה מיליארדי דרקונים בצבעים אחרים.
מדענים גילו אדם שפתר את בעית העצירה! 312023
גם ''הסבר'' וגם ''השערה'' זה בסדר. הבעייה היא עם ה''מדעי''. עד שלא תוכל להציע ניבויים בצורה שמקובלת במדע, אני חושב שאי אפשר לשייך את ההשערה הזאת לגוף הידע שאנחנו רגילים לקרוא לו ''מדעי''.

לטעמי, הפעלת התער ללא יכולת לבחינה מדעית היא בעייתית מדי. אחרי הכל, ההשערה שאלוהים אחראי לכל התופעות שאנחנו מכירים היא ההשערה הפשוטה ביותר שמסתדרת עם כל הנתונים שבידינו.
מדענים גילו אדם שפתר את בעית העצירה! 312031
היא לא פשוטה בכלל כי היא כוללת בתוכה את הסיבוכיות האינסופית של אלוהים.
מדענים גילו אדם שפתר את בעית העצירה! 312038
מה פתאום. אלוהים שאני מדבר עליו הוא פשוט נורא (כמעט אינפנטיל). הטענה שלך דומה לטענה שאטומים לא יכולים ליצור קוואליה כי קוואליה הרבה יותר מסובכת מאטומים.

לי נראה ברור שקריטריון התער ללא קריטריון של הינתנות לבחינה חייב להביא לתוצאות שגויות.
מדענים גילו אדם שפתר את בעית העצירה! 312044
אם כך אתה טוען שמשהו נורא פשוט‏1 מסוגל ליצור את העולם, לבדוק מה המחשבות האינטימיות שלי על קריעת נייר טואלט בשבת ויודע לענות על כל השאלות. אני לא חושב שהטענה הזאת פשוטה נורא.
________________
1- זה שאלוהים פשוט נורא ואיום ברור לכל מי שקרא את התורה. פרטים אצל יוסי צרי.
מדענים גילו אדם שפתר את בעית העצירה! 312127
לי פיזיקה נשמעת יותר מסובכת (צריך אפילו להסתבך שם עם חישובים מתמטיים).
הסיבוך הוא בעיני המתבונן 312238
אם כך הצג בפני את המשוואות של אלוהים, ונבחן ביחד אם הן פשוטות יותר ממשוואת שרדינגר.
הסיבוך הוא בעיני המתבונן 312264
מה שפשוט באלוהים הוא שהוא לא נזקק למשוואות. ההיגיון האינטואיטיבי של ירדן מספיק לו.
מדענים גילו אדם שפתר את בעית העצירה! 312175
להפעיל את התער *במקום* הינתנות לבחינה, היכן שזו אפשרית, זה בעייתי. אבל היכן שממילא אין לנו שום דבר שניתן לבחינה (למשל, בשאלת הקוואליה), אז זה או התער או כלום. אני קונה את התער. ויש נימוק: התער הרי אינו איזו קביעה שרירותית של פילוסוף מדע כלשהו; הוא מייצג עיקרון בחשיבה האנושית שקשה להתכחש לו. אני מקווה שכבר העליתי באייל את ההגיג הבא: למרות שהתער מנוסח בלשון ציווי, הוא די נטול ערך כהוראה נורמטיבית; כוחו הוא כעקרון דסקרפיטיבי, כמתאר יסוד בחשיבה האנושית.
מדענים גילו אדם שפתר את בעית העצירה! 312201
הרעיון שהתער הוא עקרון דסקרפטיבי לא נראה לי. אני לא ממציא שום דבר (לצערי): הבאתי כאן בדיון את הביקורת של פטנם על עקרון הפשטות (שלוש נקודות ציון על כביש ארבעים). התער נראה נכון רק כי אנחנו מתבלבלים בין פשטות לבין סבירות. בנוסף, אנחנו מוכנים לפעמים גם לשנות חלק מהנחות-היסוד שלנו וחלק מהצורה שאנחנו מסווגים (או אפילו תופסים) עובדות כדי ליצור התאמה טובה בין ההיפותזה לבין הנתונים. הרעיון של התער נראה לי פשוט מוטעה.
מדענים גילו אדם שפתר את בעית העצירה! 312040
אה, ולעניין הניבויים: אני מנבא שמחשב יוכל לעבור כל מבחן קוואליה שתעלה בדעתך, וזאת תוך פחות ממאתיים שנה.
מדענים גילו אדם שפתר את בעית העצירה! 312126
למקרה שאתה לא צוחק: לא ניבויים סטייל מגדת עתידות או ד"ר פסיג, אלא גזירת התופעה המנובאת מהקדמות הכוללות חוקי טבע ותנאי התחלה.
מדענים גילו אדם שפתר את בעית העצירה! 312174
בוודאי שזה לא מדעי, במובן המדויק והצר של "מדעי". הרי אנו רוצים להסביר (כן!) את הקוואליה, שזו תופעה שמלכתחילה עושה רושם שאינה ממש מדעית (אלא אם אתה חובר כאן לאח של אייל). מה לעשות; אנחנו מקבלים את קיומה של התופעה, מדעית או לא, ומנסים להסביר אותה בעזרת כל מה שאנחנו יודעים.
מדענים גילו אדם שפתר את בעית העצירה! 312200
אני לא מבין כיצד אתה מפעיל כאן את התער. אני חושב שאתה עושה כאן טריק. מצד אחד, אתה מודה שהקוואליה אינה תופעה מדעית. מצד שני, אתה מתעקש להתייחס רק לסיבתיות הפיזיקלית-מדעית כשאתה מנסה להסביר אותה ולהפעיל עליה את התער.

היפותזה א': "מאחר שאנחנו לא מכירים אף סיבה אחרת, הסיבוכיות של המערכת גורמת לתוצא מיוחד במינו שאנחנו קוראים לו קוואליה".

היפותזה ב': "לקוואליה כלל אין ביטוי במונחים פיזיקליים, ולכן חייב להיות סוג אחר של סיבתיות שגורם לקיום הקוואליה".

היפותזה ב' משתמשת במה שאנחנו יודעים לא פחות מהיפותזה א'. אחרי הכל, אני יודע שקריאת ספר טוב גורמת לי להרגשות מסוימות (סיבתיות נפשית). עכשיו, אתה אומר לי שאת הסיבתיות הנפשית אפשר לתרגם לסיבתיות פיזיקלית. איך אתה יודע? כי הסיבתיות הפיזיקלית היא "מדעית". אבל אם אנחנו מנסים להסביר את הקוואליה באמצעות כל מה שאנחנו יודעים, אז אנחנו צריכים להכיר בכך שהמדע הוא חלקי למכלול הידע הזה. יש לנו "סיבתיות נפשית", ואם הקוואליה אינה תופעה מדעית, אי אפשר לפסול אותה כשאתה מנסה להפעיל את התער.
מדענים גילו אדם שפתר את בעית העצירה! 312237
יודע מה? בעצם גם אני לא כזה חסיד (שוטה) של התער. קח את תגובה 311982 של השוטה והורד ממנה את ההתייחסות לתער; עכשיו פשוט מוצגים שם שני הסברים, לא מדעיים ולא מתיימרים למדעיות. השאלה היא איזה מהם נראה לך יותר סביר, על פי הגיון אינטואיטיבי (הא!).

אתה מציג סיבתיות נפשית כחליפית לסיבתיות פיזיקלית, אבל הרי "סיבתיות נפשית" - החלקים שלה שאנחנו יודעים לומר עליהם משהו אינטליגנטי - אינה עוסקת בכלל בקוואליה; וכן יש לנו מושג כללי איך ייתכן שהיא ניתנת לרדוקציה לפיזיקה, וגם יש המון ראיות לכך שחלקים ניכרים שלה נובעים מהפיזיקה. אם הכל חוץ מהקוואליה הוא פיזיקה, ואם ה"הכל" הזה כולל דברים שברור שהם בקשר הדוק לקוואליה, איפה זה משאיר אותנו?

אני מוצא שאני צריך לקפוץ הלוך וחזור בין הטענה שהקוואליה היא פיזיקלית לבין הטענה שהיא לא. דווקא יש לי תמונה קוהרנטית בראש, נדמה לי, אבל מאוד קשה לנסח אותה במדויק. אז בערך - הקוואליה היא תופעה לא פיזיקלית שנובעת ישירות ובאופן הכרחי מהפיזיקה, זו ההשערה שלי (ושל השוטה, אני מקווה).
מדענים גילו אדם שפתר את בעית העצירה! 312266
"אבל הרי "סיבתיות נפשית" - החלקים שלה שאנחנו יודעים לומר עליהם משהו אינטליגנטי - אינה עוסקת בכלל בקוואליה".
כלומר? על מה לדעתך אנחנו "יודעים לומר משהו אינטליגנטי"? ועל מה לא?
מדענים גילו אדם שפתר את בעית העצירה! 313173
הגישה בפילוסופיה של הנפש שנקראת "פונצקיונליזם" (שהיא, אגב, דומיננטית בעשורים האחרונים; כשאזכיר מייד בעיה שיש בה, מעניין לציין שנראה שזה המיטב שיש לפילוסופיה היום להציע) מגדירה מצבים נפשיים על-פי רשת קשרי הסיבה-תוצאה ביניהם, ובינם לבין קלט ופלט. למשל, המצב הנפשי "רואה רמזור אדום" הוא זה שמתעורר באופן טיפוסי בעקבות העובדה הפיזיקלית שעל הרשתית שלי נקלט רמזור אדום. המצב הזה מגיב עם המצב "יודע שכשיש רמזור אדום צריך (לפי כללי התעבורה) לעצור", ועם המצב "רוצה לפעול לפי כללי התעבורה" - ומביא למצב "רוצה לעצור". המצב הזה, בצירוף למצב "יודע שכדי לעצור צריך ללחוץ עם הרגל על הדוושה ההיא", מביא למצב "רוצה ללחוץ על הדוושה ההיא". המצב הזה מביא לפלט של יריה לנוירון של שריר הרגל. בינתיים מתערב המצב "נזכר שמאחר לפגישה", וגורם למצב "מרגיש עצוב-כועס-עצבני" (שבתורו יהיו לו השפעות אחרות, לטווח פחות מיידי).

הבעיה הידועה עם הגישה הזו היא שבשום מקום בתיאור לא נכנסת הקוואליה. (אפשר גם לטעון שזו לא בעיה, אלא יתרון, אבל לענייננו זו בעיה). לפחות ברמה הפשטנית ומצומצמת עד גיחוך שבדוגמה הקודמת, קל לבנות רובוט שאיש לא יחשוד בו בקוואליה, שבאלגוריתם שלו יהיו מיוצגים כל המצבים האלו. לכן יש טענה חזקה שזו לא ההגדרה הנכונה של "רואה רמזור אדום", "יודע ש...", "מרגיש...": המתנגדים להגדרה כזו טוענים שהקוואליה היא חלק בלתי-נפרד ממה שאנחנו מבינים במושגים האלו, ולכן חייבת להכינס להגדרה או לנבוע ממנה.

מה שכן עומד לזכותו של הפונקציונליזם - זו, לפחות, הטענה המקובלת; לא חשבתי עליה לעומק, ויתכן שאפשר לתקוף אותה - הוא שהוא מתיישב היטב עם כל מה שיש לפסיכולוגיה לומר על אותם מצבים נפשיים. הפסיכולוגיה עוסקת בקשרי סיבה-תוצאה בין המצבים, ובינם לבין קלט ופלט. הנה, אפשר לעשות את כל זה בלי קוואליה, ועושים את זה.
מדענים גילו אדם שפתר את בעית העצירה! 313209
"רוצה", "יודע" וכו' אינם קוואליה?
מדענים גילו אדם שפתר את בעית העצירה! 313258
הם לא *רק* קוואליה. הם מלווים בקוואליה. אם את רוצה, אפשר לומר שהקוואליה היא חלק מהם - זה עניין של הגדרה. כלומר, את יכולה להגדיר גם שהקוואליה היא *כל* מה שיש ברצון, ידיעה וכו', אבל אז יש בעיה: הפסיכולוגיה, עושה רושם, *לא* מדברת על הקוואליה. מבחינת הפסיכולוג, מספיק שכואב לך, לא כל כך משנה איך את חווה מבפנים את הכאב הזה; ממילא הוא לא יכול לדעת איך זה מרגיש לך מבפנים.

אם תסכימי לזה, אז אולי פחות תתנגדי (אם את אותה אלמונית - אם לא, אז אני מקווה שאותה אלמונית קוראת) לרעיון שטיפול פסיכולוגי אינו עובד באמצעות קוואליה.
מדענים גילו אדם שפתר את בעית העצירה! 313262
כן, טוב, (אני בהחלט אותה אלמונית) אחרי שקראתי שוב את הערך בוויקי - אתה בהחלט צודק. כלומר, כולכם בעיקרון צודקים שהקוואליה איננה זו שמשפיעה על העולם הפיזי. אבל היה כאן בלבול גדול של מושגים, לדעתי, או לפחות של ניסוחים - וזה מה שבילבל אותי. בכל אופן, איך אפשר להסיק מזה שמה שפועל בטיפול הם גלי הקול - ולא משמעותם, את זה אין סיכוי שאקבל. (אם כי ודאי אינני מערערת על העובדה שרוב מה שעובר בטיפול עובר באמצעות כלים אלה - כמו רוב מה שעובר בשיחות, הרצאות וכיו''ב).
וכרגע אני ממהרת, אז אחר כך אולי ארחיב).
מדענים גילו אדם שפתר את בעית העצירה! 313264
לפני שתרחיבי, תיקון: אף אחד כאן לא אמר "מה שפועל בטיפול הם גלי הקול ולא משמעותם". אני חושב שטובי הפיזיקליסטים (אני, בכל אופן) יסכימו איתך שהמשמעות היא מה שפועל; אלא שאם שואלים "ממה עשויה המשמעות" ואיך היא פועלת, בפרטים, מגיעים לגלי קול. זה לא מוציא את המשמעות מהמשחק, רק פורט אותה לפרטים.
מדענים גילו אדם שפתר את בעית העצירה! 313274
בסדר, שיגעון המוסיקה. לי נראה שבהחלט אמרו כאן שהמשמעות היא לא מה שפועל - אבל אם רק פירשתי לא נכון (או שהניסוח היה לא מדויק, כך נראה לי לפחות) - אז בעצם כל הפתיל היה מיותר...
מדענים גילו אדם שפתר את בעית העצירה! 313319
אני לא מסכים. הפסיכולוגיה כתחום מחקר לא עוסקת בקוואליה. גם לא טיפול התנהגותי. אבל טיפול פסיכולוגי רגיל כן עוסק בקוואליה. המטופל כן מנסה לתאר כיצד הוא חש את עצמו מבפנים, והמטפל מכוון את הטיפול שלו לתחושות האלה. אתה יכול לטעון שהמטפל לא ''באמת'' עוסק בקוואליה כי אין לו נגישות אליה. אבל זאת עמדה פילוסופית. במישור הטיפול זה לא משנה את המטרה, שהיא לעסוק בקוואליה ופעמים רבות לשנות אותה.
מדענים גילו אדם שפתר את בעית העצירה! 313390
באופן די מפתיע, בעניין הזה אני מסכים איתך.
מדענים גילו אדם שפתר את בעית העצירה! 312340
גם אני לא מצליח להבין. למה אתה מתכוון "יש לנו מושג כללי כיצד סיבתיות נפשית ניתנת לרדוקציה לפיזיקה"?

אני מסכים (לאורך כל הדיון הזה) שהקוואליה היא תופעה לא פיזיקלית שכנראה נובעת מהפיזיקה. אני לא מסכים שהקוואליה היא פיזיקה. ולכן, אני לא רואה כיצד מ"ט יוצרת קוואליה.
מדענים גילו אדם שפתר את בעית העצירה! 312344
אם אתה מסכים(1) שהקוואליה כנראה נובעת מהפיסיקה, אז למה לא ממ"ט דווקא? מה חסר לך שם?

1. כי אני, למשל, לא מסכימה עם זה.
מדענים גילו אדם שפתר את בעית העצירה! 312349
אני חושב שתופעת הקוואליה נובעת מתוך הפיזיקה בצורה שאנחנו עדיין לא מבינים (לאו דווקא סיבוכיות), אבל מכאן ואילך אני מניח שיש "סיבתיות נפשית" שלא ניתנת לרדוקציה לסיבתיות פיזיקלית.

מ"ט יכולה לסמלץ תופעות, אבל זה לא אומר שהיא יוצרת באמת את התופעות. נתתי את הדימוי של התפרצות הר געש. מ"ט יכולה לסמלץ (או לאמלץ, לא זוכר כבר) את ההתרחשות הזאת, אבל לא באמת תתפרץ לבה רותחת מתוך המ"ט. לכן, נראה לי שזה שאפשר לבצע רדוקציה לכל הפיזיקה מעל רמת הקוואנטים למ"ט, עוד לא אומר שמ"ט יכולה ליצור קוואליה.

1 ממה לדעתך נובעת הקוואליה?
מדענים גילו אדם שפתר את בעית העצירה! 312366
אינני יודעת ממה נוצרת הקוואליה. דבר אחד ברור לי: הרעיון שטיפול פסיכולוגי, למשל, פועל באמצעות גלי קול ולא באמצעות משמעויות - נראה לי אבסורדי בעליל.
מדענים גילו אדם שפתר את בעית העצירה! 312367
גם לי.
מדענים גילו אדם שפתר את בעית העצירה! 313176
במקרה של הר געש - נכון, המהות של הר געש היא פיזיקלית, ולכן המחשב רק יסמלץ אותה. לעומת זאת, אם נכתוב תוכנית מחשב שהפלט שלה הוא רצף הצלילים היוצר את "החטא ועונשו", ונריץ אותה, אז נאמר ללא היסוס שמה שהמחשב פולט הוא "החטא ועונשו" ממש, ולא רק סימולציה שלו. מה ההבדל? המהות של "החטא ועונשו" היא אינפורמציה מופשטת, וזה סוג הדברים שמחשב מטפל בהם (לעומת לבה, שכדי לטפל בה המחשב צריך שיתרגמו אותה לאינפורמציה מופשטת). נראה לי שאפשר לומר שמצבים נפשיים, אם מדברים עליהם ללא הקוואליה (ר' תגובה 313173, הם יותר כמו "החטא ועונשו" מאשר כמו הר געש, ולכן יהיה מקום לומר שהמחשב באמת יודע ורוצה ומרגיש, כשהוא יהיה מורכב כמונו, גם אם לא תהיה לו קוואליה. (ויש שיגידו שנכון לומר כבר על המחשבים של היום שםה באמת יודעים ורוצים, אבל זה כבר ויכוח על הגדרות). ומה בעניין הקוואליה? האם היא רק מה שהיא במוח שלנו, ודורשת משהו דומה פיזיקלית דווקא למוח שלנו, או שהיא משהו כללי ומופשט יותר שדורש רק מצע פסיכולוגי שמקביל אבסטרקטית למוח שלנו? לא רק שאין לי תשובה, אין לי אפילו ניחוש. שתי האפשרויות נראות לי סבירות במידה זהה.
מדענים גילו אדם שפתר את בעית העצירה! 313216
אני בכלל לא בטוח שאני מסכים ש"המהות של 'החטא ועונשו' היא אינפורמציה מופשטת" מסוג הדברים שמחשב מטפל בהם, או שמחשב בכלל יודע לטפל באינפורמציה מופשטת. ז"א, ברור שמחשב יכול *לייצג* אינפורמציה מופשטת, ושהטקסט של "החטא ועונשו" יכול להיות מיוצג בצורות שונות, אבל מה לזה ול"החטא ועונשו"? לא משנה, זאת סטיה מהנושא.

החלק האחרון בפסקה שלך מקובל גם עליי.
מדענים גילו אדם שפתר את בעית העצירה! 313229
במידה זהה?
מדענים גילו אדם שפתר את בעית העצירה! 313259
טוב, יש בקרים (תלוי על איזה צד קמתי) שאני נוטה יותר לכיוון האבסטרקטי-בלבד. אני פתוח לטיעונים בנושא.
מדענים גילו אדם שפתר את בעית העצירה! 313270
לדעתי מה שחשוב זאת הפונקציונליות, לא המצע. ממש קשה לי לראות איזה שינוי יקרה אם נחליף נוירון במיקרו-פרוססור קטן שידגום את הסביבה הכימית ויגיב כמו הנוירון המקורי (בהנחה שנוירון עובד בהתאם לחוקים לוגיים ידועים וקבועים. האם זאת הנחה שנראית לך זהה בסבירותה להנחה האלטרנטיבית?).
עם קולות וריחות של השוק 313972
נוירון אחד? כלום לא ישתנה. גם אם תוציא נוירון אחד ולא תחליף אותו בכלום, כנראה שבמקרה הגרוע רק תשכח מה זה שיקצול. מה אם תחליף את *כל* הנוירונים במיקרו פרוססורים, שגם ידגמו את הסביבה הכימית כקלט וגם ישחררו כימיקלים כפלט? אני כבר פחות בטוח. ומה אם תעשה זאת אחד אחד? פרדוקס הערמה. ומה אם תוציא את הכימיקלים מהתמונה, ותסתפק במתחים חשמליים (האם זה היה המהלך הבא שלך, אחרי שהייתי מסכים?)? אני עוד פחות בטוח.

מה דעתך על האפשרות שהקצב האבסולוטי של המערכת הוא קריטי לקוואליה (ואז אפשר אולי לקבל אותה ממעבדי סיליקון שעובדים רק על מתחים חשמליים, אבל בתנאי שהם יעבדו לא יותר לאט ולא יותר מהר מנוירונים)? נחדד: זה שקוואליית ריח הלימון שלי היא דווקא כזו ולא אחרת, אני מנחש שזה בהחלט תלוי בקצב הנירולוגי, ושאם תאט אותו פי עשר, אז (אם בכלל תישאר אבן על אבן בנפש שלי), היא תשתנה. אבל זה לא העניין שלנו, כמובן; אני מציע כאן את האפשרות שאם תאט הכל פי עשר, אז למרות שכל החישוביות והקלט-פלט יישארו אותו דבר (לא?), לא תישאר *בכלל* קוואליה. אין לי מושג מה הסבירות של זה. יש לך טיעונים בנידון?
עם קולות וריחות של השוק 314063
הטיעון העיקרי שלי הוא יש לומר "פי עשרה" ולא "פי עשר".

בעיות הקצב, אם הן קיימות, ודאי שאינן קריטיות. אפשר לדאוג לכך שהמיקרופרוססורים שלנו יעבדו בקצב הנוירוני המקובל, אבל, כמו שאמרת, זאת לא באמת הבעיה שלנו. הבעיה שלנו היא לתאר מניין יכול לבוא השינוי בפעילות הכללית של המוח אם אנחנו מסוגלים להחליף כל נוירון במיקרופרוססור שיעבוד *בדיוק* כמוהו. נראה לי שזה המקום להקדיש לו את תשומת הלב: האם יש סיבה טובה להניח שהנוירון מתנהג בצורה שניתנת להעתקה למצע אחר (או: האם יש סיבה טובה להניח שאין זה כך). הנטיה האישית שלי היא לקבל את ההנחה הזאת, כי ע"ס מה שאני יודע הוא מתנהג בצורה די ברורה כמו כל שער לוגי לא נורא מתוחכם (דגימת הקלטים והחלטה לייצר פלט שמועבר כקלט לנוירונים אחרים), אבל זאת גם החולשה של הטיעון הזה: אני לא באמת יודע אם זה נכון. אולי המצב הפנימי של הנוירון נקבע ע"י תהליכים כימיים בהשתתפות מליוני מולקולות, ואז יהיה (כמעט?) בלתי אפשרי לחקות את פעולתו במדיה אחרת. אם זה כך, אגב, יש להניח שאם נפגוש את אי.טי. והוא לא מבוסס חלבונים מהסוג שלנו, אולי הקוואליה שלו תהיה שונה לגמרי ממה שאנחנו מכירים ואולי הוא יהיה משולל קוואליה בכלל. יהיה מעניין.

מחמת מחסור בזמן אני לא מפרט יותר, למרות שחשבתי להוסיף משהו על יצורים חסרי קוואליה והדחף (הבלתי קיים?) שלהם לתקשר עם עולמות אחרים, מה שאולי נותן תשובה לשאלה של פרמי "איפה כולם?"
עם קולות וריחות של השוק 314506
ברור שעניין הקצב הוא לא מה שיבדיל בין נפש מבוססת נוירונים מבוססי פחמן ומים לבין נפש מבוססת טרנזיסטורים מבוססי סיליקון - כדבריך, סביר שאפשר להנדס את הקצב של האחרונים. הסיבה שהעליתי את השערת הקצב היא שהקצב אינו מרכיב במכונת טיורינג, ובמודלים חישוביים בכלל; לכן, אם הוא אכן מרכיב בקוואליה, אז הקוואליה אינה נובעת ממכונת טיורינג או איזושהי הרחבה שלה ברוח המקור.

אני לא בטוח שהבנתי את רוח הדברים בהמשך התגובה שלך. אתה אומר שככל הידוע הנוירון מפיק פלט (יריה) כפונקציה פשוטה של הקלטים. אחר אך אתה מסייג זאת; האם כוונתך היא שייתכן שהפלט של הנוירון הוא בכל-זאת לא פונקציה פשוטה, ותלוי גם בגורמים "ביולוגיים" יותר? זו דווקא נראית לי אפשרות פחות מעניינת: בסופו של דבר סביר שאפשר להגיע לפונקציה מדויקת של הנוירון, שאולי תכלול גם היסטוריה שלו וגם איזושהי אקראיות, אבל את כל אלו אפשר להכניס למודל החישובי. בוא נניח שהפלט הוא כן פונקציה פשוטה, כפי שאנחנו יודעים; ועדיין, אני לא בטוח שזה מספיק. יש לנו מושג איך להסביר באמצעות יחידות קלט-פלט פשוטות - "נוירונים אבסרקטיים" - הסקת מסקנות, קשרים בין פלט וקלט ברמה גבוהה (תנועה ודיבור על-פי קלט חושי), זיכרון, למידה וכו'; לכן מתקבל על הדעת שכל הפיצ'רים האלו של הנפש ניתנים לרדוקציה למודל חישובי, ניתנים להסבר על-ידי קלטים ופלטים של נוירונים, וניתנים למימוש במחשב סיליקוני. מה שאין לנו עדיין מושג איך להסביר הוא קוואליה. בהכרח, חסרים לנו דברים מאוד קריטיים במודל. היכן הם מסתתרים? את הדיון אפשר לנסח כשלוש תשובות משוערות לשאלה הזו:

א. הם בכל-זאת עניינים שבמודל החישובי (ולכן ניתנים למימוש גם בסיליקון, וניתנים להסבר על-ידי פלט-קלט של נוירונים); הם מסתתרים בסדרי הגודל של המוח שעדיין איננו יודעים לטפל בהם.
ב. הם גורמים פיזיקליים לא חישוביים - וככאלה, הם תלויים בפיזיקה והכימיה של המוח האנושי דווקא.
ג. הם לא פיזיקליים ("רוח רפאים").

אתה ואני הסכמנו לדחות את ג', משיקולים שחלקם מטאפיזיים וחלקם נסיבתיים (הרצף עם החיות ועם הביצית המופרית). אבל השיקולים האלה לא עוזרים לנו להכריע בין א' לב'. מה אפשר לטעון כאן? מצד אחד, הקוואליה נראית "צמודה" לעניינים שכן אשר להסביר באמצעות "נוירונים אבסטרקטיים" (תחושת ראיית אדום מלווה באופן עקבי פונקציות "חישוביות" מסוימות). אבל מה ניתן להסיק מזה? אולי בקפיצה לקוואליה יש דווקא תפקיד קריטי לאיזה כימיקל?
עם קולות וריחות של השוק 314558
למה אתה מתכוון ב"נוירונים אבסטרקטיים"?
עם קולות וריחות של השוק 315126
אני לא מומחה לעניין: מה שכתוב להלן הוא בערבון מוגבל, אבל הפרטים הנכונים לא ישנו את רוח הדברים.

יש מודל לאיך פועל נוירון ואיך הוא פועל: יש לו N כניסות (כמה עשרות?) ויציאה אחת. בכל רגע נתון, כל כניסה היא באחת משני מצבים: יש אות או אין אות, וגם היציאה היא באחד מאותם שני מצבים. על פי המודל, האות ביציאה נקבע כפונקציה קבועה של אותות הכניסה. למשל: אם מספר הכניסות שבהם יש אות עובר סף מסוים, יהיה אות ביציאה. אפשר לחבר ברשת הרבה יחידות כאלה, ואז אפשר לעשות איתן כל מיני חישובים.

מה שכתבתי עכשיו הוא תיאור אבסטרקטי, אפשר לומר מתמטי. הוא תקף לתאים הביולוגיים שיש במוח אבל לא תלוי בכלל בביוכימיה שלהם. אפשר לממש אותו גם ברכיב אלקטרוני, וגם בתוכנה שרצה על מחשב רגיל. לכך אני קורא נוירון אבסטרקטי.
עם קולות וריחות של השוק 315164
אתה גורם לנוירון להשמע פשוט: בסך הכל כמה עשרות כניסות ויציאה אחת. אפילו אם מדובר במערכת בינארית (בכל כניסה האות הוא כן/לא), צריך זכרון של 2-בחזקת-‏50 כדי לממש פונקציה כללית כזו, שלא לדבר על המאמץ הדרוש לזיהוי הפונקציה האמיתית של הנוירון.
עם קולות וריחות של השוק 315335
נדמה לי (מאוד לא בביטחון) שחלק מהמודל המקובל הוא שכל הניורונים ממשים את אותה פונקציה, לא? או לפחות שיש מספר די קטן של פונקציות?
עם קולות וריחות של השוק 315389
לא. אומנם ברגע נתון, הפונקציה שמבצע ניורון ביולוגי היא קבועה (חיבור הקלטים, ובדיקה שהסכום גדול מערך סף) אבל:
א. העוצמה המתקבלת בכל אחת מכניסות הקלט (בסינפסות) אינה קבועה - תלויה במערכת איזונים כימית.
ב. לטווח ארוך, כמות הקלטים שיש לכל נוירון אינה קבועה (הוא יכול ליצור קישורים לניורונים חדשים).
ג. בטוח שיש עוד מיליון אנומליות שאני לא מכיר.

ולעניין - על פניו, נראה לי קל להראות שרשת נוירונים ביולוגית ניתנת בקלות לסימלוץ ע"י רשת דומה מאוד של נוירונים "מתמטיים".
עם קולות וריחות של השוק 315395
ב. הנוירון עלול גם לאבד חלק מקישוריו הקיימים.
מהם נוירונים "מתמטיים"?
עם קולות וריחות של השוק 315412
כזה http://en.wikipedia.org/wiki/Artificial_neuron
עם קולות וריחות של השוק 315421
אהה.
עם קולות וריחות של השוק 315564
ג. נוירון מגיב באופן שונה בזמנים שונים (נגיד מיד לאחר שירה, או בזמן רחוק מזמן היריה האחרון).
עם קולות וריחות של השוק 315570
מה השירה עושה לנוירונים?
עם קולות וריחות של השוק 315571
ש - יירה. ז''א שהפעיל אות חשמלי או כימי. לאחר תקופת ההפעלה יש תקופה שבה הנוירון בלתי ניתן להפעלה בלי קשר לאותות שהוא מקבל מהסביבה. רק לאחר התאוששות הוא יכול לפעול שוב.
עם קולות וריחות של השוק 315577
אה... עמימותה של השפה הטבעית.
האם משך "תקופת ההתאוששות" הזאת שונה ממקרה למקרה -או שהוא קבוע?
עם קולות וריחות של השוק 315578
אאל''ט שונה גם בין תא לתא, וגם (שוב אאל''ט) תלויה בתנאי הסביבה באותו הזמן.
עם קולות וריחות של השוק 315583
תודה.:)
יש לך מושג אם יש איזה אתר רלוונטי לקרוא על הדברים האלה?
עם קולות וריחות של השוק 315586
אני מניחה שיש אבל לא מצאתי בחיפוש מהיר. (הגעתי רק לסיליבוסים של קורסים).
יש ספרי לימוד מצוינים.
:) 315598
עם קולות וריחות של השוק 315193
תודה. התמנית למסביר מומחה.:)
דילמה 314592
אולי. זה פחות או יותר מה שאמרתי עליו שהוא בחזקת "ייתכן" בעיני, כלומר לא אפול מהכסא בדדהמה אם יתברר שזה כך. עד כמה שאני זוכר הפתיל הזה התחיל בתמיהה הקטנה שלי על ההסתברות השווה שאתה מעניק לאפשרויות א' וב'. אני מוכן להתערב ביחס 40:60 על אפשרות א' (כלומר: על כל ארבעה שקלים שלך אני שם שישה), בלי שיש לי נימוק מלבד תחושת בטן. ברור שכבסיס לדיון פילוסופי זה לא שווה הרבה, אבל זה מה שיש לי להציע.

אגב, המחשבה על כך שהקוואליה עשויה להיות מה שאתה קורא תוצר כימי-בלתי-חישובי מעלה את האפשרות שהיא אינה נעלמת ברגע המוות המוחי. זה בטח די מבאס ללמוד את זה ברגע שמנתקים אותך ממכשירי ההנשמה. בנוסף, אני מתחיל להיות מודאג שמא העוף שאכלתי בצהריים היה בעל קוואליה אחרי הכל.
דילמה 315128
טוב, אני חושב שאני שותף לתחושת הבטן שלך, וגם לסדר הגודל של יחס ההתערבות. מצד שני, יש לי הרגשה שאנחנו לא ממצים את מרחב הטיעונים וההשערות שאפשר להעלות כאן, תחת ההנחות המשותפות לנו. אבל אפשר גם להניח לזה.

באשר לפסקה השניה: הדיון בינינו הוא האם "המצע החישובי" הוא תנאי מספיק לקוואליה, אבל בכל מקרה נראה לי סביר (כמעט ודאי) שהוא תנאי הכרחי - זאת בגלל הצמידות שנראה שיש לקוואליה לפונקציות החישוביות.
דילמה 316743
אני יודע שזה לא שייך במישרין לנושא, אבל אין לי זמן לחפש את המקום המתאים ללינק הבא: http://www.nimh.nih.gov/press/williamspathway.cfm

(תלונות יש להפנות למערכת, בשלושה העתקים עם אישור נוטריוני ותמונת דרכון)
עם קולות וריחות של השוק 314597
מדוע שהקוואליה לא תהיה פונקציה של *כל* מרכיבי המח - פיסיקליים וכימיים כאחד - כולל המצע הביולוגי והקצב?
עם קולות וריחות של השוק 315127
אני לא מבין את השאלה (בהקשר הפתיל).
עם קולות וריחות של השוק 315218
אינני יודעת מדוע הקשר הפתיל דוקא צריך למנוע את הבנתך.:) התכוונתי רק לשאול אם לא ייתכן, לדעתך, ש*כל* הגורמים במח - הפיסיקליים, הכימיים, הלוגיסטיים, הקצביים, המבניים ובכלל - משתתפים בקביעת הקוואליה? כולמר, *כולם* הכרחיים ורק ביחד הם מספיקים?
עם קולות וריחות של השוק 315336
כן, האפשרות הזו היא בדיוק מה שהעליתי בתגובה 313176, ובה דנו משם ועד כאן (לכן עניין הקשר הפתיל).
עם קולות וריחות של השוק 315368
"ומה בעניין הקוואליה? האם היא רק מה שהיא במוח שלנו, ודורשת משהו דומה *פיזיקלית* דווקא למוח שלנו, או שהיא משהו כללי ומופשט יותר שדורש רק מצע פסיכולוגי שמקביל אבסטרקטית למוח שלנו?"
אם העלית את האפשרות הזאת בחלק א' של הציטוט, אז פשוט לא הבנתי זאת כך - כיוון שכתבת "פיזיקלית".:)
עם קולות וריחות של השוק 319240
יש ימים פי שבע אז ירוק הירק...
מדענים גילו אדם שפתר את בעית העצירה! 322183
אולי תמצא מעט עניין כאן: http://www.edge.org/3rd_culture/brooks_beyond/beyond...
מדענים גילו אדם שפתר את בעית העצירה! 312241
ההנחה "סוג אחר של סיבתיות" היא הנחה יותר חזקה מההנחה "תוצר אחר של עקרונות שאנחנו מכירים". צריך סיבה טובה מאד להניח קיום של עולם נפשי שמנותק מהעולם הפיזיקלי, ואם אתה מתעקש לא לערב כאן את התער של אוקהם, לא איכפת לי להשתמש במקום זה במשפט על ההוכחות החזקות שנדרשות לטענות חזקות (למרות שזה לא שונה בהרבה לדעתי). אל תשכח שכבר היום יודעים לדגדג לך את הנוירונים הנכונים ולשנות את הקוואליה עפ"י דרישה, כך שאותה סיבתיות נפשית ללא ספק נובעת (גם?) מגירויים פיזיקליים למהדרין.
  מדענים גילו אדם שפתר את בעית העצירה! • אביב י.
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • אלון עמית
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • אלון עמית
  ללא כותרת • האייל האלמוני
  ללא כותרת • האייל האלמוני
  ללא כותרת • האייל האלמוני
  ללא כותרת • אלון עמית
  ללא כותרת • האייל האלמוני
  ללא כותרת • אלון עמית
  ללא כותרת • האייל האלמוני
  ללא כותרת • אלון עמית
  ללא כותרת • האייל האלמוני
  ללא כותרת • אלון עמית
  ללא כותרת • האייל האלמוני
  ללא כותרת • אלון עמית
  ללא כותרת • האייל האלמוני
  ללא כותרת • אלון עמית
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • יהונתן אורן
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • יהונתן אורן
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • אח של אייל
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • אח של אייל
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • אח של אייל
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • אח של אייל
  מדענים גילו אדם שפתר את בעית העצירה! • גדי אלכסנדרוביץ'
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  מדענים גילו אדם שפתר את בעית העצירה! • שוטה הכפר הגלובלי
  מדענים גילו אדם שפתר את בעית העצירה! • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  לי מותר? • שוטה הכפר הגלובלי
  לי מותר? • ד.ק.
  לי מותר? • עוזי ו.
  לי מותר? • ד.ק.
  לי מותר? • עוזי ו.
  לי מותר? • שוטה הכפר הגלובלי
  לי מותר? • ד.ק.
  לי מותר? • שוטה הכפר הגלובלי
  לי מותר? • אח של אייל
  לי מותר? • שוטה הכפר הגלובלי
  לי מותר? • ד.ק.
  לי מותר? • שוטה הכפר הגלובלי
  לי מותר? • ד.ק.
  לי מותר? • שוטה הכפר הגלובלי
  לי מותר? • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ערן בילינסקי
  בקיצור • אביב י.
  בקיצור • אח של אייל
  בקיצור • אביב י.
  בקיצור • האייל האלמוני
  בקיצור • אביב יה.
  בקיצור • האייל האלמוני
  בקיצור • ערן בילינסקי
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • האייל האלמוני
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • האייל האלמוני
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • האייל האלמוני
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • יהונתן אורן
  בקיצור • אלון עמית
  בקיצור • יהונתן אורן
  בקיצור • אלון עמית
  בקיצור • יהונתן אורן
  בקיצור • אלון עמית
  בקיצור • יהונתן אורן
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • האייל האלמוני
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • האייל האלמוני
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • יהונתן אורן
  מגרש השדים • אלון עמית
  מגרש השדים • יהונתן אורן
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • יהונתן אורן
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • אביב י.
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  מגרש השדים • יהונתן אורן
  מגרש השדים • אח של אייל
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • יהונתן אורן
  מגרש השדים • אביב י.
  מגרש השדים • אח של אייל
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • אח של אייל
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • אלון עמית
  מגרש השדים • יהונתן אורן
  מגרש השדים • אלון עמית
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • אביב י.
  מגרש השדים • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אביב י.
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אביב י.
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • יהונתן אורן
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • האייל האלמוני
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • אורי גוראל-גורביץ'
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אריק
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אח של אייל
  בקיצור • אריק
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • עוזי ו.
  בקיצור • האייל האלמוני
  בקיצור • עוזי ו.
  בקיצור • האייל האלמוני
  בקיצור • עוזי ו.
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • ראובן
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • שוקי שמאל
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • ראובן
  כמה הערות • סמיילי
  עכבר הוא חרק! • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • האייל האלמוני
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • יובל נוב
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • עוזי ו.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • דורון הגלילי
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • עוזי ו.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • שוטה הכפר הגלובלי
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • ירדן ניר-בוכבינדר
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • אלון עמית
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • אלון עמית
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • שוקי שמאל
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בעיה בהחלטות רציונליות • שוטה הכפר הגלובלי
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • ערן בילינסקי
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • אביב י.
  מערכת שמדפיסה את המשפטים הנכונים • עוזי ו.
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • עוזי ו.
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ערן בילינסקי
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  כמה עולה חליפה ליתום • ערן בילינסקי
  כמה עולה חליפה ליתום • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • האייל האלמוני
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • האלמוני ממנג
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  תודה. • האייל האלמוני
  תודה. • עוזי ו.
  תודה. • האייל האלמוני
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • אלון עמית
  אתה מתכוון לרובי? • שוטה הכפר הגלובלי
  אתה מתכוון לרובי? • אלון עמית
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • גדי אלכסנדרוביץ'
  אפילו יותר פשוטה • אח של אייל
  אפילו יותר פשוטה • גדי אלכסנדרוביץ'
  אפילו יותר פשוטה • אח של אייל
  אפילו יותר פשוטה • גדי אלכסנדרוביץ'
  אפילו יותר פשוטה • אח של אייל
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • עוזי ו.
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • אריק
  בקיצור • ראובן
  בקיצור • אריק
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • אלון עמית
  אינ-נ-ני • ירדן ניר-בוכבינדר
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • ירדן ניר-בוכבינדר
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אביב י.
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אביב י.
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אביב י.
  אינ-נ-ני • תייר סקנדינבי ממוצע
  אינ-נ-ני • אביב י.
  אינ-נ-ני • ירדן ניר-בוכבינדר
  אינ-נ-ני • אריק
  אינ-נ-ני • אביב י.
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • ירדן ניר-בוכבינדר
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • ראובן
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • ראובן
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • ראובן
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • ראובן
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • ראובן
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • שוטה הכפר הגלובלי
  אינ-נ-ני • יהונתן אורן
  The story of my life • שוטה הכפר הגלובלי
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • גדי אלכסנדרוביץ'
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • גדי אלכסנדרוביץ'
  אינ-נ-ני • אלון עמית
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אביב י.
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אביב י.
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אביב י.
  אינ-נ-ני • easy
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אריק
  for all practical puroses • ראובן
  for all practical puroses • easy
  for all practical puroses • ראובן
  for all practical puroses • easy
  for all practical puroses • ראובן
  for all practical puroses • easy
  for all practical puroses • ראובן
  for all practical puroses • easy
  for all practical puroses • ראובן
  for all practical puroses • easy
  for all practical puroses • ראובן
  אינ-נ-ני • ירדן ניר-בוכבינדר
  אינ-נ-ני • ירדן ניר-בוכבינדר
  אינ-נ-ני • יהונתן אורן
  אינ-נ-ני • אריק
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אריק
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אריק
  חניבעל, די לקטר! • האייל האלמוני
  אינ-נ-ני • האייל האלמוני
  אינ-נ-ני • אביב י.
  בקיצור • אלון עמית
  בקיצור • יהונתן אורן
  בקיצור • ד.ק.
  בקיצור • אלון עמית

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים