בתשובה לד.ק., 19/06/05 15:03
בקיצור 310126
2. זה שאתה לא הראשון לא מקדם אותנו בהרבה; אנשים עשו הרבה טעויות. תקף בהחלט גם לכלכלה? תגיד, באמת, אתה קורא את מה שאני כותב? אתה ברצינות מאמין שיש תופעה כלכלית שתיראה אחרת אם נגביל את מספר האנשים בעולם, את כמות הכסף ואת מספר המוצרים לעשר בחזקת עשר בחזקת מיליון? (וכמו שנאמר כבר כמה פעמים, אם גדל הוא רק מטפורה, אז שיהיה, אבל אתה כל הזמן חוזר גם ל"טיעון נגד" ו"מראה שאי-אפשר ל..."). האם אתה מבין שכשמגבילים את המספרים לגודל קבוע אסטרונומי, משפט גדל נעלם לחלוטין? לא קצת, לא בערך - לחלוטין?

3. הכרזתי שהמאמר של לוקאס הוא בזבוז זמן? אמרתי שהחיפוש אחר טענות מדוייקות שמשפט גדל אומר על כלכלה (נניח) הוא בזבוז זמן. אולי במקום לשלוח אותי לקרוא מאמרים (גם אני יכול, אתה יודע), תגיד סוף סוף מה לוקאס אומר שמ"ט לא יכולות לעשות ואנחנו כן? אתה מסכים, או לא מסכים, שהטענה "תמיד יהיה משפט שמכונת טיורינג לא תוכל להוכיח שהוא אמיתי, ואילו אדם יוכל בקלות להוכיח שהוא אמיתי" הוא שגוי? בעיני הרבה יותר סביר לדון כאן בטענות, לא לדרוש זה מזה לקרוא מאמרים.

5. הפרטים הטכניים הם לב העניין כי, כפי שראית, אם מתעלמים מהם קל ליפול למלכודות ולטעון טענות שהן פשוט שגויות.

איפה, שמיים אדירים, ראיתי אותי מבטל כלאחר-יד את הדמיון הצורני (הטריויאלי) בין הדברים שציינת? מה אנחנו אמורים להסיק מהדמיון הזה, בפתיל שאתה התחלת הדן בפער בין אנשים למ"ט?

__

את זה הבנתי. האם אתה הבנת את הכשל שהצגתי לגבי הטיעון הזה?
בקיצור 310222
2. לא טענתי שמשפט גדל חל כפשוטו על מודלים כלכליים. אבל למשפט גדל יש השלכות על מושג ההוכחה באופן כללי. מערכת כמו מודל כלכלי שמוגבלת למספרים גבוהים אבל סופיים אינה חשופה למשפט גדל מפני שהיא אינה יכולה לקודד משפטים בה לתוך עצמים בעולם שלה (תקן אותי אם אני טועה). רק מערכת כזאת, שיכולה לדבר על עצמה "בגוף שלישי" חשופה למשפט גדל, ומערכת כזאת חייבת להיות אינסופית, נכון?
בעצם המילה "הוכחה" מניחה סוג מסוים של מערכת פורמאלית (במובן רחב של המילה). בין אם מדובר בהוכחה משפטית או פילוסופית, ההנחה היא שמתוך הממצאים או ההנחות יכולה לנבוע רק מסקנה אחת ולא שלילתה (נעזוב מערכות לא עקביות לרגע, ברשותך).
אבל שום מערכת פורמאלית לא יכולה לעשות ואלידציה מלאה לעצמה. מערכות שאינן מורכבות מספיק כדי שמשפט גדל יחול בהן, מפני שאינן מורכבות מספיק. מערכות שמשפט גדל חל בהן, מפני שמשפט גדל חל בהן. בכל מקרה אתה חייב לפנות למטא-שפה, ואם זו פורמאלית גם היא, אתה חייב להמשיך הלאה עד שתגיע לשפה שאינה פורמאלית. שם תוכל לראות מה אמיתי ומה לא, אבל לא להוכיח את זה.
לא?

3. לא הבנתי את ההפרכה שלך לטיעון של לוקאס. תוכל לנסח אותה שוב?
בקיצור 310715
שוב, שוב, שוב, ושוב: למשפט גדל אין השלכות על מושג ההוכחה באופן כללי. הוא מדבר רק על תורות מסויימות בעלות תכונות מסויימות. במתמטיקה, יש הרבה כאלה; בכלכלה, אין להערכתי כאלה בכלל.

הטענה שרק מערכות אינסופיות יכולות "לדבר על עצמן" אינה מדוייקת. יש גם מערכות סופיות היכולות לעשות זאת, אבל הן לא מספיק חזקות כדי שניתן יהיה לנסח בהן את כל הארגומנט של גדל. לא בזה העניין. העניין הוא שמערכת המדברת על עולם סופי היא (כמובן) כריעה.

"אבל שום מערכת פורמאלית לא יכולה לעשות ואלידציה מלאה לעצמה"

עוד פעם ולידציה? נו ברצינות, אולי די?

3. לוקאס טוען שיש משפט שהמערכת אינה יכולה להוכיח אבל "כל ישות רציונלית יכולה לראות" שהוא נכון. זה לא נכון, כי יש פה הנחה שהמערכת הפורמלית היא עקבית; את זה באמת לא ניתן להוכיח - לא במערכת הפורמלית, וגם לא הישות הרציונלית.

מכיוון אחר, ויסודי יותר, ניסיתי להראות לך שהעובדה שיש טענות שמערכת א' לא יכולה להוכיח ומערכת ב' כן היא באנאלית ביותר ואינה מעידה על שום הבדל מהותי בין המערכות. כל מה שצריך הוא להבחין שיש משפטים מהסוג "מערכת א' אינה יכולה להוכיח משפט זה". הניסיון לגזור מסקנות פילוסופיות מהאבחנה הזו הוא תמוה בעיני דווקא בגלל שהאבחנה היא אוניברסלית: כל שתי מערכות שונות הן שונות. ביג דיל. *כל* העוקץ במשפט גדל הוא שהוא הצליח להצרין טענה כזו בשפות פורמליות חלשות יחסית; אם מדברים על בני-אדם, אין שום צורך לעשות זאת.
בקיצור 310735
השאלה היא האם האדם הוא מכונת טיורינג. אם התשובה חיובית, ישנה מכונת טיורינג אחת מסוימת שזהה בדרך פעולתה לאדם באופן כללי או לאדם מסוים (אם נתעלם לרגע מהיבטים גופניים). עד כאן נכון?
בקיצור 310793
השאלה היא האם יכולותיו החישוביות של האדם נבדלות מאלו של מכונת טיורינג, בסייגים שכבר ציינו - למשל, המודל של מכונת טיורינג לא מתוכנן להתמודד עם קלט משתנה ברציפות. יותר נוח אולי לחשוב על מודל אחר כמו מחשב אלקטרוני חזק, או רשת נוירונים. אבל בסדר. מה הלאה?

(ניחוש: עכשיו נבנה משפט-גדלי עבור המכונה-אדם הזו, והנה משפט שהיא לא יכולה להוכיח ואדם כן. הפרכה: גם האדם לא, ספציפית לא האדם שהוא-הוא אותה מכונת-טיורינג. ממש כשם שאני לא יכול להוכיח את טענה א' ההיא).
בקיצור 311185
תראה, כדי להגיע למסקנה שהאדם אינו מ"ט (בשום מובן בעל משמעות) אני לא צריך את משפט גדל. סביר להניח שהוא יעזור, אבל זו נראית לי עובדה די פשוטה (אולי אני לא יכול להוכיח אותה, אבל אני רואה שהיא נכונה).
כדי לעשות כזאת רדוקציה (כי הרי זאת רדוקציה) של האדם למ"ט, אתה צריך, בין השאר, לעשות רדוקציה של השפה האנושית (לא?). אין שום אינדיקציה לזה שהשפה האנושית היא ניתנת למידול פיניטיסטי. ואני מקווה שלא תגיד לי שהיא אינה אינסופית.
בקיצור 311242
(אני רק בצעדי הראשונים בנבכי Sipser, אז לסלוח לי על אי-דיוקים)

מה הבעיה במקרה שהשפה כן אינסופית? המון מ"ט מקבלות שפות אינסופיות. המכונה (ז"א, מספר המצבים שלה) היא זאת שצריכה להיות סופית. לא גודל השפה המתקבלת ע"י המכונה.
בקיצור 311298
(אני האחרון שיחמיר איתך בגלל אי-דיוקים :)

עד עכשיו לא הצליחו למצוא מודל מתימטי לשפה. לא ברמה שיגיד אם מבע מסוים הוא קביל או לא, ובטח לא כזה שיתרגם את משמעותו של מבע לשוני למשהו מוגדר היטב.

אתמול נכחתי (בקהל) בפאנל שדן בקשר שבין בלשנות תיאורטית ובלשנות חישובית (וספציפית ב-Natural Language Processing, שזה לא בדיוק אותו הדבר. אם אינך מכיר את התחומים האלה, אני ממליץ לך בחום להתעניין).
מישהי מהקהל אמרה שיש הבדל מהותי במטרות שלהם. NLP מנסה לפתור בעיות ספציפיות, בד"ך לצרכים מסחריים (שמהם הוא ממומן). בלשנות, מאידך, מנסה למצוא את ה*אמת*. היא מנסה להבין איך בדיוק שפה עובדת. בגלל זה היא מתרכזת במקרי קצה, ולא מסתפקת ב-‏90% דיוק (עליו NLP יכול רק לחלום).

אבל אם נחשוב לרגע על מה אנחנו כבני אדם עושים עם שפה, נגלה שיותר מאשר בשאלה "איך היא עובדת?", אנחנו עסוקים בשאלה "מה נאמר עכשיו?", ו"מה לעשות כתגובה?". היחס שלנו לשפה הוא הרבה יותר פרגמטי, וזה אחד המובנים המרכזיים של "משמעות" בבלשנות היום. במובן הזה NLP בעצם קרובה יותר ל-*אמת* מאשר בלשנות תיאורטית.
לי מותר? 311300
באיזה מובן שפה טבעית היא אינסופית?
לי מותר? 311324
באיזה מובן היא לא?
לי מותר? 311332
יש לה מספר סופי של מלים, יש לכל משפט אורך סופי וחסום (פחות משני פאי כפול עשר בחזקת אלפיים ושש), ולכן מספר המשפטים בשפה - סופי.
לי מותר? 311339
אתה מניח כאן ששפה היא קבוצת כל סדרות המילים עד גודל מסוים. אבל אני יכול לחשוב על סדרה אחת כזאת שנאמרת בכמה טונים שונים, כל אחד נותן לה משמעות אחרת. ואפילו באותו טון, אבל בנסיבות אחרות, וכבר יש לה כמה משמעויות. אתה יכול להוכיח שזה סופי?
לי מותר? 311350
האמת היא שאני לא מבין את הדיון הזה. בעולם שלכם (הסופי), זה לא ממש חשוב אם קבוצה היא אינסופית או שהיא בעלת גודל עצום כל-כך עד שהיא אינסופית לכל צורך מעשי.
לי מותר? 311357
למה לא תספר לנו קצת על העולם שלך (האינסופי)?
לי מותר? 311375
אתה צודק. השאלה היא לא אם זה אינסופי אלא אם זה ניתן לחישוב.
לי מותר? 311356
ודאי שזה סופי. אוסף התדירויות שאדם מסוגל להבחין ביניהן‏1 הוא סופי. גם אוסף ה"נסיבות" שאדם מסוגל להבדיל ביניהן הוא כזה (לא משנה אם העולם דיסקרטי או רציף לעניין זה, מספיק שהרזולוציה שלנו מוגבלת, והיא אכן מוגבלת. הראשון שאומר א0 בפתיל הזה - הפסיד).
לי מותר? 311376
א0!

הידד! הפסדתי! מה אני מקבל?
לי מותר? 311389
אני שולל ממך את הקוואליה שלך ליומיים. זומבי שכמוך.
לי מותר? 311377
אני בכלל לא בטוח שאתה צודק. אבל בלי קשר לאינסופיות במובנים שהזכרנו, השאלה היא אם זה ניתן לחישוב או לא. אני עוד לא ראיתי אינדיקציה לזה שכן.
לי מותר? 311387
במה אני לא צודק? בכך שהרזולוציה שלנו דיסקרטית? את זה בדקו בקלות לגבי כל חוש בנפרד, ואין על כך חולק למיטב ידיעתי (כלומר, מלבדך).

מה זה "ניתן לחישוב" בהקשר הזה? זה עניין פשוט של כמה הכפלות. חסם מלעיל קל מאד לתת ע"י כמה הגזמות פראיות ולא מזיקות (נניח שאתה מסוגל להבחין בגוגול תדירויות אור ובעל הפרדה זויתית של 1 חלקי גוגול רדיאן מרחבי... וכך הלאה לגבי השמיעה, המישוש וכל השאר).

מה נשאר? אני מקווה שאתה לא רוצה לחשב גם את מס' המצבים הפנימיים של המוח של השומע, שכן זה כבר לא עניינה של השפה אלא של הפסיכולוגיה, אבל ברור שגם המספר הזה סופי מכל בחינה מעשית.

בככל, מה נכנס הנה עניין ה"ניתן לחישוב" פתאום? דיברת על סופיות, לא?
לי מותר? 311487
אפילו אם הרזולוציה המודעת שלנו דיסקרטית, זה לא אומר שסך כל הנסיבות האפשריות הוא מספר סופי. הרי מי אמר שמדובר רק בנסיבות מודעות?
בכל מקרה, הסופיות אינה העניין כי דיברנו על האפשרות שהאדם הוא מ"ט. ככזה, הוא צריך להכיל איזשהו מנגנון שירשה לו לתקשר בשפה טבעית, ובשביל זה הוא צריך איזשהו מודל של השפה, או כמו שהעיר אלון, מודל שיכול ללמוד שפה.
לא נראה לי שקיים מודל כזה, אם כי קשה אולי להוכיח שלא קיים. אבל לא צריך להתייאש. חשבנו שתהיה לנו תיאוריה כללית של הפיזיקה והתבדינו, של המתימטיקה והתבדינו. הוכחת אי-שלמות הבלשנות לא נראית רחוקה מדי.
לי מותר? 311561
אתה צריך לפרט יותר למה אתה מתכוון באומרך "סך כל הנסיבות האפשריות", ואיך אתה מתכוון להכניס לשם אינסוף. אני מאד מקווה שאתה לא מתכוון לרמוז שהספרה הגוגולפלקסיאנית מימין לנקודה בתדירות גלי הקול משפיעה באיזשהו אופן לא מודע על הפרשנות של השפה (יותר פשוט לטעון שהשדים במוח עושים את ההבדל, וגמרנו). מכל מקום, אם "הסופיות אינה העניין" הרי הפתיל הזה הגיע למותו הטבעי, שכן הוא נפתח במקום בו שאלתי אותך באיזה מובן שפה טבעית היא סופית. על הוכחות היפותטיות לאי-שלמות הבלשנות אין לי הרבה מה להגיד, חוץ מ"אה?". אני רק מקווה בשביל הקייס שלך שהן רלוונטיות לשאלת היות האדם מ"ט יותר ממשפט גדל.
לי מותר? 311696
נו. אני חושב ששתיהן רלבנטיות. אבל בבירור לא הצלחתי לבטא את הדרך שבה הן רלוונטיות בצורה משכנעת. אני משער שההבדל נעוץ בהבדל בהנחות המובלעות שאנחנו מחזיקים בהן. הכי קשה להסביר את מה שמובן לך מאליו.
הפתיל הזה מיצה עצמו גם לדעתי.
שבוע טוב.
בקיצור 311399
אם אתה *יודע* שהאדם אינו מ"ט, יופי. להזכירך, אתה הבאת את משפט גדל כעדות לכך שזה לא המצב. "סביר להניח שזה יעזור" - אני מבטיחך נאמנה שזה לא, אבל אם אתה לא מאמין לי, מה לעשות.

אני צריך לעשות רדוקציה של השפה האנושית? מה זה, ולמה אני צריך לעשות זאת?

על אינסופיות השפה ענו לך אחרים.

אני אשאל אותך שאלה אחת. דמיין שמה שתיארתי קרה, והצליחו לבנות אדם מלאכותי מצ'יפים. אתה פוגש אותו, ומה לעשות - הוא נראה לך ממש כמו בן-אדם. הולך כמו בן-אדם, צוחק כמו בן-אדם, מתווכח איתך כמו איזה נודניק מהאייל הקורא, אפילו מאמין באלוהים. כשאתה מגלה שהוא יוצר לפני עשרים שנה באיזה מוסך בעמק-הסיליקון, אתה מופתע. אבל זה המצב. אתה מנסה לשוחח איתו עוד, לגלות בו איזו "מלאכותיות" נסתרת, ואתה לא מוצא.

האם במקרה כזה תסכים לומר שאפשר לעשות למוח האנושי רדוקציה למ"ט, במובן שאנו מדברים עליו?

אם כן - אז תסכים איתי שמי שבנה את היצור הזה לא "עשה רדוקציה לשפה". הוא סתם בנה תינוק-מחשב ונתן לו ללמוד לבד, אין אפילו לו (ליוצר) מושג מה האיש הזה יודע או לא יודע ולמה, אין שום סיבה להניח שאוסף הדברים שהאיש יודע הוא פורמלי יותר ומעורפל פחות מאוסף הדברים שאתה יודע, ואין סיבה להניח שיש מערכת פורמלית המצרינה את ידיעותיו של האיש. השפה שמ"ט "מקבלת" במובן הטכני של המילה, אין דבר בינה לבין השפה הטבעית בה משתמשת רשת-נוירונים משוכללת (וטיורינגית) שלמדה לדבר. אלו פשוט שני מושגים שונים.

אם לא - אז הויכוח בינינו מיותר, כי אתה פשוט מסרב לקבל את האפשרות שהמוח הוא מחשב, וכלום לא יעזור. כפי שכתבתי כמה וכמה פעמים באייל, זו עמדה עקבית שלא ניתן להתווכח עימה (ודווקא לכן היא נראית לי די משעממת).
בקיצור 311486
א. אם בתור הוכחה לכך שהמוח הוא מחשב, מספיק לך מכונה שאנשים מתבלבלים בינה לבין אדם, אז אנחנו באמת לא מתווכחים על אותו הדבר. רק בגלל שאני לא מרגיש בהבדל בין קולה לפפסי לא אומר שהם אותו הדבר.

ב. אבל בוא נלך שנייה עם הדוגמה שלך. אם הבחור שלך הוא אמנם מ"ט, אזי אפשר להשקיל אותו למערכת פורמאלית רגילה, לא? אתה אומר שהוא מבוסס על אלגוריתם למידה. מה תהיה המקבילה של זה במערכת פורמאלית? מערכת שיודעת להוסיף אקסיומות?

ג. האם הבחור הטיורינגי שלך יכול ללמוד תכנות? אם כן, האם הוא יכול לתכנת אלגוריתם למידה שבסופו יגדל להיות אתה?
בקיצור 311521
א. אז מה כן אומר שהם אותו הדבר?

ב. מה זה "להשקיל"? אם תסביר איך (ולמה) אתה מנסה לתרגם מחשבים למערכות פורמליות (מאיזה סוג?), יקל לענות על השאלה.

ג. כן. גם אני יכול ללמוד תכנות (לפחות פעם יכולתי). אתה חושב שאני יכול לתכנת אלגוריתם למידה שבסופו אגדל להיות אתה?
בקיצור 311691
א. אני לא יודע לענות על השאלה הזאת. אבל את המבחן שלך אני לא מקבל. הזהות צריכה להיות אונטולוגית. אם יש הבדל אונטולוגי, אז אולי אף אחד לא ישים לב, אבל מישהו *יכול* לשים לב מתישהו. כלומר, יש הבדל אפיסטמולוגי בכוח אם לא בפועל.

ב. אני מבין שכל מכונת טיורינג שקולה למערכת של אקסיומות וכללי היסק, נכון? יש גם משפט הייצוג או משהו כזה, לא?, שאומר שכל פונקציה או יחס ניתנים לחישוב הם ניתנים לייצוג במערכת פורמאלית סיגמה-כלשהי. (תקן אותי אם אני לא מדייק, כבר שכחתי את החומר הזה). אני משער שמ"ט מתעסקת רק עם פונקציות ניתנות לחישוב, ולכן המכונה כולה ניתנת לייצוג בתוך מערכת פורמאלית.
איזה סוגים של מערכות פורמאליות יש?

ג. מה שאני מתכוון הוא כזה: נניח ואתה מתכנת מוכשר מאוד, ובנית מכונת טיורינג שהיא כמו בן-אדם. לא משנה עכשיו אם זה בן אדם שהיה קיים קודם או ש"ילדת" מישהו חדש. אתה עושה את זה ע"י אלגוריתם למידה או משהו כזה. השאלה שלי היא: האם האדם הזה יכול לתכנת מכונת-טיורינג שתהיה זהה לך?
האם אלגוריתם למידה (או אחר) שתוכנת על ידיך, יכול להיות שונה ממך וגם לתכנת משהו שזהה לך? האם אין מגבלה של מורכבות למה שאתה יכול לתכנת, כך שיציר כפיך בהכרח מורכב פחות ממך, ויציר כפיו בהכרח מורכב פחות ממנו, ולכן לא יכול להיות אתה?
בקיצור 311718
א. 1. כל עוד אתה לא מציע מבחן, אני לא יודע איך לשכנע אותך שהמוח הוא מ"ט.

א. 2. לוקאס מציע מבחן: הוא טוען שמ"ט שונה מ"ישות רציונלית", כשישות רציונלית היא כל דבר שיכול לעקוב אחרי הטיעון של משפט גדל. אתה מקבל את המבחן הזה?

ב. יש הרבה משפטי ייצוג, והרבה קשרים. אתה העלית את השאלה, ואני לא כל כך מבין למה אתה מתכוון. "אילו סוגים של מערכות פורמליות יש" - המון. תאוריות של לוגיקה מסדר ראשון, תאוריות של לוגיקה מסדר שני, אוטומטים סופיים, משחק MIU, אפשר להמציא כמה שרוצים. לאן אתה חותר?

ג. "האם אין מגבלה של מורכבות למה שאתה יכול לתכנת, כך שיציר כפיך בהכרח מורכב פחות ממך" - ממש (אבל ממש) לא. מדוע שתהיה מגבלה כזו?
בקיצור 312032
1. אם ניתן היה להמציא מבחן פורמאלי חד-משמעי, לא הייתה בעיה לתכנת מ"ט שתעבור אותו. אבל זה לא היה מוכיח שהאדם הוא מחשב. אני טוען שלא ייתכן שמחשב יתפקד בדיוק כמו האדם, אפילו אם תהיינה נסיבות שבהן ההבדל לא יבוא לידי ביטוי. כדי שהם יהיו זהים, אסור שההבדל יבוא לידי ביטוי באף לא מערך נסיבות אחד.

2. זה לא בדיוק המבחן שמציע לוקאס. הרי הוא בעצמו אומר שבהחלט ניתן לבנות מכונה שתוכיח את משפט גדל של מכונה אחרת. אבל האדם יכול למצוא את משפט גדל בכל מכונה שהיא, לא רק במכונה ספציפית. אין שום מכונה שיכולה לעשות זאת, מאחר שהיא בהכרח חשופה למשפט גדל של עצמה.
אתה טוען, כך אני מבין, שגם האדם חשוף למשפט גדל מסוים. הביקורת הזאת על לוקאס עומדת בינתיים, לא מצאתי לה סתירה. אבל הנה כיוון: את משפט גדל מוכיחים מתוך המטא-מערכת. אתה טוען שהאדם יכול לבנות מערכת שתהיה באותו מעמד כמוהו בסולם המטא-יות. זה אבסורד. לכל מערכת יש מטא-מערכת, שמתוכה אתה מגדיר אותה. אם *אתה* מגדיר מערכת (או מתכנת מ"ט), אתה בהכרח נמצא במטא-מערכת שלה (והיא לא).

ג. משפט צ'ייטין לא גורר את זה? (אני משער שתשובתך היא לא. תוכל להסביר?)
בקיצור 312141
1. לא דרוש מבחן פורמלי וחד-משמעי, רק הבהרה של מה יש בטענה "האדם אינו מחשב" מעבר ל"לעולם לא נוכל לבנות מחשב שייראה כמו אדם, ידבר כמו אדם ויגעגע כמו אדם".

2. אין שום בעייה עבור תורה T (העונה על תנאי משפט גדל) להוכיח את משפט גדל על T. זו בדיוק הסיבה, אגב, מדוע T כזו אינה יכולה להוכיח שהיא עקבית. לא צריך "מטא-מערכת". המשפט "לכל מערכת יש מטא-מערכת, שמתוכה אתה מגדיר אותה" איננו נכון (מנין זה?). אין שום בעייה שמ"ט אחת תתכנת מ"ט אחרת, ללא כל יחס מטא-יות ביניהן.

(התחושה שיש היררכיה של תורות "חזקות" יותר ויותר (מערכת ומטא-מערכת ומטא-מטא-מערכת) כמסקנה ממשפט גדל, היא טעות נפוצה.)

3. תוכל להסביר איזה משפט של צ'ייטין *כן* גורר את זה?
בקיצור 312231
1. אתה טוען שהאדם *הוא* מחשב. לא שניתן לתכנת מחשב שייראה כמו אדם. כלומר, הזהות צריכה להיות ברמה האונטולוגית. בוא נניח שאם *בהכרח* תמיד יש זהות ברמה האפיסטמולוגית, אז זה שקול לזהות אונטולוגית. כלומר, כדי להוכיח את זה, לא מספיק שכמה אנשים יתבלבלו פעם-פעמיים בין אדם למחשב, אלא כל האנשים, תמיד. פתגמו המפורסם של לינקולן מתאים כאן (אתה יכול לרמות חלק מהאנשים כל הזמן וגו')

2. אם אני לא טועה (תקן אותי), אם T תוכיח את משפט גדל על T, אז היא תהיה לא-עקבית. לא רק שעקביותה לא יכיחה. אני לא חושב שיש טעם להכניס מערכות לא עקביות כאן (האם האדם שקול למערכת לא עקבית?).
מערכת פורמאלית צריך להגדיר. בשביל לקבוע אקסיומות וכלל היסק ושפה פורמאלית אני צריך להשתמש במטא-שפה, פורמאלית או אחרת. השפה היא בהכרח מורכבת פחות מהמטא-שפה (נניח שהיא יכולה להיות גם שווה).
תוכל להסביר למה אין היררכיה כזאת של שפות ומטא-שפות?

3. למיטב זכרוני צ'ייטין הוכיח שתיאוריה לא יכולה להוכיח משפטים שמורכבותם גדולה משלה.
בקיצור 312251
1. "האדם הוא מחשב" איננה הטענה "כל מחשב שקול לכל אדם". הטענה היא שאין ב(יכולתו השכלית של)אדם משהו החורג מהכללים המאפשרים למחשב לפעול. אם נצליח לבנות מחשב באמת-דמוי-אדם, ודאי שהוא יבלבל את כל האנשים, תמיד - לא התכוונתי לומר שהוא יבלבל רק אותך, לרגע. כל מי שלא מכיר את הרקע שלו, יניח באופן טבעי לגמרי שלפניו אדם, ולא יקבל לעולם עדות שאין זה כך; מי שכן מכיר, יוכל לטעון תמיד "לא מעניין אותי כמה זה דומה, ייצרו את זה במעבדה אז זה לא באמת מרגיש ולא באמת חושב". לא ברור לי איזו עדות אפיסטמולוגית או אונטולוגית אתה מחפש.

2. אני מתקן אותך. T לא הופכת ללא-עקבית בגלל שהיא מוכיחה את משפט-גדל על T. למה אתה חושב כך?

"השפה היא בהכרח מורכבת פחות מהמטא-שפה" - לא בשום מובן של "מורכבות" שאני יכול לחשוב עליו. לפעמים פחות מורכבת, לפעמים יותר מורכבת.

למה אין היררכיה: לא דיברתי על שפות, אלא על תורות. זה לא אותו דבר, אבל מילא, בשניהם אין היררכיה פשוט מפני שאין דרך להגדיר "שפה א' חזקה/גדולה/מורכבת משפה ב"' או "תורה א' חזקה מתורה ב"' באופן שכל שתי שפות או שתי תורות תהיינה ניתנות להשוואה. מקסימום תקבל סדר חלקי, והרבה שפות/תורות תהיינה לא יותר חזקות ולא יותר חלשות מאחיותיהן. לדוגמה, יש הסבורים שאם תורה S מוכיחה את עקביותה של תורה T אז S חזקה מ-T באיזשהו מובן - נניח, S יכולה להוכיח את כל מה ש-T מוכיחה ועוד. זה פשוט לא נכון.

3. "מורכבותם גדולה משלה" - אין הגדרה מקובלת למורכבות של תורה. צ'ייטין הגדיר עבור תורות מסויימות קבוע הקשור למשפטים מסוג מסויים שהן יכולות להוכיח; הוא קרא לקבוע שלו "סיבוכיות", אבל זה לא הופך את זה למה שאתה (ככל הנראה) סבור שזה. אין זה נכון שתורה בעלת סיבוכיות 7 היא חזקה יותר מתורה בעלת סיבוכיות 2; ייתכן מאוד שזו האחרונה יכולה להוכיח אינסוף משפטים שהראשונה אינה מסוגלת להוכיח.

איך אתה מתייחס למצב בו תורה A מוכיחה את משפט X ולא את משפט Y, ותורה B (באותה שפה) מוכיחה את Y ולא את X? אילו היה מדד למורכבות, או היררכיה של תורות, איך היית ממקם אותן זו ביחס לזו? אם במקרה נדמה לך שהמצב שתיארתי אינו אפשרי, קח זאת כתרגיל - קל מאוד למצוא מצבים כאלה. מאותה הסיבה בדיוק אין שחר לטענה שמ"ט לא יכולה לתכנת מכונה יותר "מסובכת".

צ'ייטין שייך לזן (נדיר יחסית) של מתמטיקאים טובים המנסים לעשות קצת יחסי-ציבור הגובלים בפופוליזם לתורות שלהם, ואני מנחש שזה מה שגרם לך לבלבול בקשר למה התורה שלו יכולה ולא יכולה לעשות. עבר הרבה זמן מאז שקראתי על זה, אבל אני זוכר לטובה בחור בשם Raatikainen שכתב בדיוק ובזהירות על הטענות של צ'ייטין, וחשף חלק מההפרזות שלו. לא ידוע לי שצ'ייטין פרסם אי-פעם טענה מתמטית שגויה, אבל צריך להיזהר מאוד בפרשנות של הטענות.
בקיצור 312301
1. גם אם האדם הוא מ"ט, אנחנו רחוקים מתכנות מ"ט כזה מאוד, ולכן הדיונים האלה על מבחן הם תיאורטיים. יש לי הצעה למבחן: אם לאורך ההיסטוריה מ"טים שמשולבים בקהילה האנושית או קהילות של מ"טים שמקבילות לקהילות אנושיות מפגינים את אותה התנהגות, אז אולי ניתן לומר שהשניים שקולים. את המבחן הזה אני מבסס על המחשבה שההבדל בין אדם לבין מחשב אולי לא יבוא לידי ביטוי ב-‏90% מהמקרים, ואולי לעולם לא ב-‏90% מהאנשים, אבל בכל זאת לאדם יש יכולת (בכוח) שלא יכולה להיות למחשב.
אני חושב שאחד המאפיינים של היכולת הזאת הוא שלא ניתן לאפיין אותה בצורה "פיניטיסטית", כלומר חד-משמעית ומוגדרת היטב (ותכונה זו שלה היא העניין). אבל היא קשורה ביצירה של מושגים חדשים. לא קיים אלגוריתם למידה כללי, תמיד חייבות להיות איזשהן קטיגוריות בסיסיות שהקלט מסתווג אליהן, אמפיריציזם טהור לא ייתכן (אני לא מנמק כי אני מניח שאתה מסכים). אתה רואה את זה היטב באלגוריתמים קיימים של לימוד-מכונה (אם כי המ"ט האנושי יהיה בוודאי שונה מהם בהרבה), ולקאנט היה מה להגיד בנושא (ולסאפיר וורף, ולאחרים). כלומר, גם לאדם יש קטיגוריות כאלה. אבל הוא לא יכול להנחיל אותן הלאה מפני שהוא אינו יכול להגדיר אותן. כל הגדרה תהיה שילוב של מושגים בסיסיים ולא מושג חדש.

2. אם T מוכיחה את משפט גדל על T אז היא מוכיחה משפט לא נכון. היא או לא עקבית או לא נכונה, בכל מקרה אני לא מעוניין בה.

אם אני יכול להוכיח את עקיבות T ב-S ולא להיפך (ולא במעגליות ע"י תורה שלישית U) אז בהחלט יש היררכיה מסויימת בין התיאוריות. אתה טוען שאין להיררכיה הזאת משמעות בבעיה שלנו?
אם אני יכול להוכיח את משפט גדל על T מתוך S, האם אני יכול להוכיח את מ"ג על S מתוך T? האם אין ל-S בהכרח ידע סמנטי על T (של-T אין)?

3. אם תורה A מוכיחה X ולא Y, ותורה B מוכיחה Y ולא X, ייתכן שאי אפשר לדבר על סדר היררכי ביניהן. אבל זה לא אומר שאי אפשר לדבר על סדר היררכי באופן כללי.

---

אני אחפש את Raatikainen, תודה.
בקיצור 312374
1. אתה מקבל מבחן אמפירי לשקילות - מצויין. עכשיו אני חוזר לשאלה שלי מתגובה 311399: כשאתה מדמיין קהילה של רובוטים כאלה חיה בקהילה ומפגינה התנהגות אנושית, אתה מסתמא רואה שם את אותם זאטוטי-רובוטים הכותבים בשגיאות-כתיב, עונים "לא יודע" על שאלות מתמטיות פשוטות, ועוד כהנה וכהנה. אם כך, איפה יש כאן "רדוקציה של השפה", או מערכת פורמלית התופסת את הידע האנושי?

הטעות שלך היאשאתה סבור ש*צריך* לאפיין את היכולת האנושית בצורה פיניטיסטית כדי ליצור קהילת-רובוטים כזו. לא צריך, כשם שלא צריך לעשות זאת עבור ילדינו.

את החלקים על אמפיריציזם טהור, קאנט, סאפיר וורף ואחרים לא הבנתי.

2. מה? על איזה משפט של גדל אתה מדבר? אני מדבר על המשפט שהוכיח קורט גדל ב-‏1931, והאומר "יש בשפה של התורה T משפט ש-T אינה יכולה להוכיח או להפריך". אפשר להוכיח את הטענה ה*זו* ב-T, זה לא הופך אותה ללא עקבית או לא נכונה.

תוכל לנסות שוב ולהסביר מה לדעתך יכול אדם לעשות ומ"ט או מערכת פורמלית לא?

אם ב"היררכיה" אתה מתכוון לכך שמדי-פעם אפשר לומר ש-S מוכיחה את עקביות T ולא להיפך (אבל בהמון מקרים אי אפשר לומר לא את זה ולא את זה), לבריאות. איך זה עוזר לבעייה שלנו?

אם אפשר להוכיח ב-S ש-T עקבית, או אם אפשר להוכיח ב-S את משפט-גדל על T (איזה מהם?), אז זה כל מה שזה אומר. אתה רוצה לקרוא לזה "יש ל-S ידע סמנטי על T" - תקרא לזה כך. מאי נפקא מינה? אין דבר בין זה לבין ידע אנושי.

3. איך אפשר לדבר על סדר היררכי "באופן כללי" אם יש אוסף עצום של זוגות-של-תורות שאינן ניתנות להשוואה? מה נסיק ומה נלמד מסדר-חלקי שכזה?
בקיצור 312406
בוא ננסה כיוון אחר. בוא נניח שמה שאתה טוען כאפשרי הוא נכון, והאדם פועל בדיוק כמו מחשב. כלומר, יש לו אלגוריתם מסוים, וכל תכונותיו של האדם ופעולותיו הן פלטים של האלגוריתם.
בוא נניח שיש לנו כזה מחשב-אדם ששמו ק.ד., ובוא נניח שמחשב-אדם זה טוען שהאדם אינו מ"ט. למה הוא טוען את זה? אם נשאל אותו, הוא יגיד לנו שהוא טוען זאת מכיוון שהוא *יודע* זאת.

מאחר שהנחנו שק.ד. בעצמו הוא מחשב-אדם, הידיעה שלו היא שקרית, נכון?
בקיצור 312414
ייתכן. אז? (נדמה לך שמ"ט לא יכולה לדעת או להאמין בשקרים, הבלים או שטויות?)
בקיצור 312417
אני מנסה להבין מה המשמעות של ידיעה של מ"ט. האם ידיעה זו היא עוד אחד מהפלטים של האלגוריתם שלה? כמו, למשל, גירוד באוזן?
בקיצור 312418
בדיוק אותה משמעות של ידיעה שלך: פנימית, מדובר בתחושות מסויימות ("אני יודע איך קוראים לי", "אני *יודע* שיש אלוהים"). חיצונית, מדובר במה אתה עונה לשאלה "איך קוראים לך?", "תגיד, יש אלוהים?"

אתה רשאי לקרוא לזה "פלט של אלגוריתם", אלא שאני חושב שאתה שוב מעיק ללא צורך על האינטואיציה שלך. אל תחשוב על מ"ט פשוטה שנבנתה לענות בכן/לא על סט נתון של בעיות, אלא על מחשב משוכלל הבוחן את סביבתו כל העת, חושב ולומד. ה"אלגוריתם" שלו רק יודע להזיז מספרים מנוירון אחד לשני; מה שהוא "יודע" זה אוסף רחב וקשה להגדרה של מצבים פנימיים ותגובות לגירויים (שאלות).

בדיוק כמוך.
בקיצור 312420
אבל בסופו של דבר הכל ניתן לביטוי באמצעות אפס'ים ואחד'ים. אם אתה יכול להעביר רעיון מסוים מהראש שלך לראש שלי, זה בעצם רצף מסוים של אפס'ים ואחד'ים שעוברים מ"מקום" מסוים בתוכנה שלך ל"מקום" מסוים בתוכנה שלי. אולי הם עוברים תרגום לרצף אחר של אפס'ים ואחד'ים אבל ניתן פחות או יותר לבודד את הרעיון הזה מבחינת האינפורמציה הדיגיטאלית שמבטאת אותו, נכון?
בקיצור 312422
נשמע לי קשה מאוד לבודד את הידיעה "מה זה תפוח". סביר מאוד גם שידע משתנה כשהוא עובד מאדם לאדם - אנחנו לא מספיק דומים כדי שיהיה ניתן למפות בדיוק את ידיעת-התפוח שלי לידיעת-התפוח שלך; יש לנו קונוטציות שונות, היסטוריה אחרת, הרבה הבדלים. למען הסר ספק, אותו דבר בדיוק נכון גם למחשבים משוכללים. אז לא, לא הייתי עונה "נכון" לשאלה הזו. לאן אתה חותר?
בקיצור 312424
(אתה יודע לאן אני חותר באופן כללי. לגבי היעד המיידי אני עצמי לא בטוח)

אוקיי, אולי לא צריך לבודד ידיעות מסוימות. אבל האם זה נכון שסך כל הפלטים של האלגוריתם הזה (הרגשות, הפעולות, הטענות, הכל) לא יכול לעלות בסיבוכיותו על סיבוכיות האלגוריתם הראשוני (במובן שצ'ייטין התכוון אליו, יהא אשר יהא?). הרי כל הפלטים נובעים ממנו. הם כולם מכילים redundancy (איך בעברית?) ביחס אליו. האם זה נכון להגיד?
בקיצור 312430
לא, זה לא נכון. זה לא משנה למה צ'ייטין *התכוון* (אני די בטוח שהוא לא התכוון ל*זה*), מה שאפשר *להוכיח* זה חסם על משפטים מהסוג "למספר X יש סיבוכיות גבוהה מ-C". זה סוג מאוד ספציפי, מאוד טכני, ובהקשר שלנו מאוד לא מעניין של משפטים (אתה ואני לא יכולים להוכיח אפילו משפטים פשוטים מאוד מסוג זה, ואתה ואני יכולים בקלות לתכנת מחשב להוכיח משפטים חזקים יותר מסוג זה. אז מה?)

נניח שהיה מדד סיבוכיות כזה (ואני משוכנע שאין - בטח לא של צ'ייטין). אז? גם לבני-אדם וגם למכונות יש מן הסתם גבולות למה הם מסוגלים לעשות.

(redundancy = יתירות).
בקיצור 312435
אני מנסה להבין איך מערכת יכולה להוכיח משהו יותר מורכב או מסובך ממנה עצמה. הרי כל משפט שהמערכת מוכיחה (או שהמחשב פולט) הוא תוצר של האקסיומות (האלגוריתם ההתחלתי). הוא אנליטי להן, הוא לא מחדש על מה שיש בהן מלכתחילה. הוא חלקי להן או מקסימום זהה להן.
זאת בעצם המשמעות של לוגיקה - אנליזה של מושגים או של משפטים.
בקיצור 312445
כאן אתה טועה טעות מרה. מה פתאום "חלקי להן"? באיזה מובן משפט מסובך של גאוס הוא "חלקי או מקסימום זהה" לחמש האקסיומות הבאנאליות של פאנו? באיזה מובן הוא לא "מחדש" עליהן?

את הביטוי "הוא אנליטי להן" אני לא מבין, וגם לא את "זאת בעצם המשמעות של לוגיקה". לוגיקה מתמטית היה ניסיון לפרמל בזהירות את הצעדים הבסיסיים שאנו עושים כשאנחנו מוכיחים משהו, והיא מראה בדיוק את ההיפך ממה שאתה טוען: איך מכמות זערורית להדהים של הנחות-יסוד אפשר לבנות נופים ומגדלים מסובכים, מורכבים ועדינים. בכל הגדרה סבירה של מורכבות, סיבוכיות או אינפורמציה, כל תורה מתמטית היא הרבה יותר מורכבת מהאקסיומות של ZFC.

איך כל זה קשור לדיוננו, אני גם לא מבין. אתה טוען שאדם בהכרח יותר מורכב ממחשב? שמחשב מוגבל במה שהוא יכול לדעת, ואדם לא? מה?
בקיצור 312454
מתוך סט של אקסיומות אתה יכול הרי למצוא את כל המשפטים שנובעים מהם. באיזה מובן מישהו מהמשפטים האלה מכיל יותר אינפורמציה מהאקסיומות? כל הפלטים של אלגוריתם מסויים כבר קיימים באלגוריתם הזה בכוח. כמובן שהם מכילים פחות אינפורמציה ממנו, הם הרי מופקים ממנו.

נמשיך מחר. היה נעים לקשקש.
בקיצור 312456
את האקסיומות של פאנו אפשר לרשום בקובץ txt ולדחוס אותו עם zip לגודל של, לא יודע, כמה עשרות בתים. לרשימת המספרים הראשוניים בין 1 למאה מיליארד אתה לא יכול לעשות זאת, שלא לדבר על משפטים פחות מטופשים. *זה* המובן בו המשפטים מכילים יותר אינפורמציה מהאקסיומות.

אתה רשאי להגדיר את ה"משקל" של מערכת אקסיומות בתור <איזשהו מדד סיבוכיות אסימפטוטי שרירותי של המשפטים שהיא מוכיחה>. נו, נניח שעשית זאת. האם זה מאפשר להשוות את הכוח של מערכת אחת לאחרת? (לא). האם זה מאפשר לומר משהו על אדם-לעומת-מחשב? (לא שאני רואה. איך?)
בקיצור 312511
אני יכול לקחת תוכנה בגודל מסויים שמפיקה את כל המספרים הראשוניים בין 1 לגוגל על סמך קובץ ה-zip שלך, לא? אז האינפורמציה נמצאת שם, המספרים נגזרים מהאקסיומות. לעומת זאת, אני לא יכול להפיק משם את כל כתבי שייקספיר, מכיוון שהם לא נגזרים מהאקסיומות האלה.
כל אלגוריתם שתתכנת נגזר ממך, הוא לא יכול להכיל אינפורמציה שלא נמצאת בך. לכן גם כל הפלטים שלו, מקורם בך, גם אם הם לא יצאו מן הכוח אל הפועל אצלך (כמו המספר הראשוני הראשון שגדול מגוגל, שגם הוא קיים באקסיומות של פאנו אבל לא הופק ע"י התוכנה).
בקיצור 312513
אני לא מבין לאיזה מובן של "אינפורמציה" אתה מתכוון. אני יכול לתכנת הרבה אלגוריתמים שאין לי שום מושג לאילו מסקנות הם יגיעו; אתה רוצה לטעון שכל האינפורמציה כבר נמצאת בי - בסדר, לא משנה. מה הלאה?
בקיצור 312672
היחס הזה הוא לא סימטרי. כל המשפטים של תיאוריה מסוימת נמצאים בה, אבל היא לא נמצאת באף אחד מהם (היא נמצאת בכולם ביחד).
כל הפעולות והמבעים של בן-אדם שקולים למשפטים של מערכת (הם פלטים של אלגוריתם). כלומר, הם חלקיים לו. כל אלגוריתם שהאדם יחשוב עליו יכיל פחות אינפורמציה במובן הזה מאשר מכיל האדם עצמו.
בקיצור 312683
כאמור, אני לא ממש מבין את הטענות הללו (באיזה מובן "חלקיים"), אבל שאלתי העיקרית היא - ו...? איך כל זה נוגע לשאלת האדם=מחשב כן או לא?
בקיצור 312704
אם האדם הוא מ"ט, אזי קיים אלגוריתם מרכזי שפלטיו הם התנהגות האדם על היבטיה השונים. כל פלט בנפרד מכיל פחות אינפורמציה (או פחות "משהו", לא משנה מה) מהאלגוריתם המרכזי. אם המ"ט-אדם הזה הוא אלגוריתמאי, אזי האלגוריתמים שהוא ממציא הם פלטים של האלגוריתם המרכזי שלו, ולכן מכילים פחות מהמשהו הזה. אם אחד האלגוריתמים האלה הוא מ"ט-אדם בעצמו, הוא בהכרח פחות מסובך(?) מהמ"ט-אדם שהוא יוצרו. והמ"ט-אנשים שהמ"ט-אדם השני הזה יתכנת יהיו עוד פחות מורכבים. יש לך התנגדות לתמונה הזאת?
בקיצור 312713
בוודאי: היא שגויה מן היסוד.

שמע. נניח שהייתי נולד לתוך חדר חשוך ואפל, ומבלה את שלושים ושש השנים הראשונות לחיי בבידוד מוחלט - ללא תקשורת, גירויים ולמידה, רק מוחזק בחיים באיזה אופן. האם הייתי עכשיו יצור פחות מורכב אינטלקטואלית מההורים שלי? סביר מאוד שכן; קשה להניח שהייתי יודע לדבר, לקרוא או לכתוב באייל הקורא. אלא מאי, שזה לא היה כך בדיוק, נכון? באותו אופן, מ"ט אחת יכולה לתכנת מ"ט אחרת אשר, אחרי שתשכיל ותלמד, תעלה על אימה-הורתה בכל מובן. למה לא? אתה בטוח שתלמידים אנושיים העולים על רבותיהם עושים זאת בדרך מסתורית, אנטי-אלגוריתמית? אולי הם רק קצת יותר מהירים מהם?

הבה נתרכז שנייה בעניין הזה של מהירות. אמרת קודם שכל המשפטים בתורת-המספרים גלומים כבר באקסיומות-פאנו, ולכן הם לא יותר מורכבים ממנה. נניח שזה כך (להשקפתי זה לא, אבל ניחא). אם שופטים מערכות לפי הפוטנציאל שלהן, ללא תלות בזמן, אולי באמת כל בני-האדם החיים כיום זהים לחלוטין מבחינת "מורכבותם" - תן להן מיליון שנה, וכולם יגלו לבד את ההוכחה של משפט-פרמה. אלא שיש (כך מסתבר) הבדלים מאוד משמעותיים בזריזות שבה אנשים שונים מסוגלים לטפל בבעיות שונות; חלקנו מספיקים להמציא את תורת היחסות, חלקנו מסתפקים בלגדל חסה. אתה *בטוח* שלא ייתכן שאני אייצר מ"ט שתהיה לכל הפחות יותר מהירה ממני, ועל כן תספיק לגלות בשלושים השנים הקרובות דברים שלי יש את ה*פוטנציאל* לגלותם תוך שניים-שלושה מיליארדי שנים?

הלאה. רוב בני-האדם יודעים לכתוב, ולכן לכולם (בהגדרה) יש את הפוטנציאל הטכני לכתוב את "ארץ הישימון" ואת "געגועי לקיסינג'ר". אם אתה בוחן אלגוריתם על-סמך כל הפלטים הפוטנציאליים שלו (וכולם, לדעתך, פחות "מורכבים" ממנו), איך אתה מתמודד עם העובדה שיש אלגוריתם דבילי לחלוטין שיוציא (כעבור זמן) את כל הטקסטים הנשגבים בני פחות מאלף עמודים? העניין הוא לא מה האלגוריתם *יכול* לפלוט, העניין הוא מה הוא *בוחר* לפלוט קודם, ומה אחר-כך, ובאיזה קצב. אלו אינן שאלות של חישוביות (מה ניתן לחשב), אלא של סיבוכיות (באיזו מהירות אפשר לחשב), ואתה רחוק מלשכנע אותי שמכונה איטית לא יכולה לייצר מכונה מהירה יותר - ובעקבות זאת, מכונה שתהיה יותר יצירתית ומתוחכמת ממנה בכל זמן נתון.

בקיצור, אני לא רואה כל סיבה להאמין שיש הבדל בין המורכבות של בני-אדם ומחשבים כשהיא נמדדת עפ"י כוח-החישוב שלה; כולנו זהים, לא מורכבים יותר ממה שאנחנו יודעים ליצור, אבל גם לא בהכרח פחות. אדם יכול ליצור מחשב עם היכולת לגלות את אותם דברים כמוהו (כולל את משפט גדל), מחשב יכול גם הוא ליצור מחשב כזה, אין שום הבדל ואין שום סיבה התוצרים יכילו "פחות מהמשהו הזה", כדבריך. לעומת זאת, אני רואה הרבה מקום לשיפור מדור לדור בסיבוכיות ובמהירות, ולכן במורכבות-למעשה - הן אצל בני-אדם ה"יוצרים" בני-אדם, הן אצל בני-אדם היוצרים מחשבים, והן אצל מחשבים היוצרים מחשבים.

מה ההתנגדות שלך לתמונה הזו?
בקיצור 312716
(צ''ל ''כולנו זהים, לא מורכבים פחות ממה שאנחנו יודעים ליצור, אבל גם לא בהכרח יותר''.)
בקיצור 312730
התמונה שלך יפה, אבל היא לא סותרת את מה שאני מנסה להגיד. בכוונה כיניתי את יתרונו של האלגוריתם על פלטיו בשם "משהו" ולא התעקשתי על "מורכבות" או "סיבוכיות" במובן שאתה מדבר עליו (מונחים שאני לא שולט בהם, כפי שראית). יתרה מזאת, אני לא אתפלא אם ה"משהו" הזה הוא תכונה שאינה ניתנת לחישוב.

האם אתה מסכים איתי שכל מה שיכול האלגוריתם-בן לפלוט, יכול גם האלגוריתם-אב? הרי מערכת יכולה להשתמש בכל אחד ממשפטיה כבסיס להוכחת משפטים אחרים. כמו כן, לאלגוריתם האב יש בהכרח מעין "הבנה" של האלגוריתם הבן שמאפשרת לו לעשות כל מה שיכול לעשות הבן (אולי במהירות נמוכה יותר). וההיפך לא נכון.
בקיצור 312732
למה ההיפך לא נכון?

"האם אתה מסכים איתי שכל מה שיכול האלגוריתם-בן לפלוט, יכול גם האלגוריתם-אב?" - אני לא רואה סיבה לדחות את ההנחה הזו, רק לא מבין מה ניתן ללמוד ממנה. כאמור, אחד האלגוריתמים הטפשיים בתבל יכול לפלוט את כל מה שאפשר בכלל לפלוט, אז מה?

לא ברור לי מה זה "מעין הבנה", ולמה לבן אין אותה. יש לך ילדים? יש לך מעין הבנה שאין להם?

יש לי שאלה לגבי הדיון. נבחין בין שתי טענות:

1. האדם אינו מחשב.

2. טענה 1 נובעת לוגית ממשפטיהם של גדל, צ'ייטין ואחרים.

אני מניח שאה עדיין מחזיק בטענה 1. האם אתה עדיין מחזיק גם בטענה 2?
בקיצור 312745
לגבי ההיפך: האם אתה יכול להוכיח את סיגמה-פי מתוך אחד המשפטים שלה?

לגבי ילדיי (שאין לי בינתיים, אבל עוד יהיו, בע"ה): היחס בין האלגוריתם-אב לבין בנו אינו שקול ליחס בין אב לבנו. אני לא אהגה את ילדיי, אני אוליד אותם (בע"ה ;)

לגבי הדיון:
אלגוריתם הבן הוא *לא שלם* ביחס לאביו.
ניתן להסתכל על אלגוריתם האב כעל *מטא-מערכת* של בנו.
הבן מכיל כנראה פחות אינפורמציה (במובן הרלוונטי) מאביו, ולכן לא יכול להוכיחו.(צ'ייטין)
האב יכול להוכיח את משפט גדל על הבן, אך לא להיפך.(גדל)

אם הייתי יודע לגזור בצורה פורמאלית את המסקנה מהמשפטים האלה, הייתי עושה זאת מזמן. אני רואה שהיא נובעת מהם אבל אין לי הידע הטכני להראות את זה פורמאלית.
בקיצור 312825
מה זה סיגמה-פי? ולמה צריך "להוכיח מערכת" (מה זה?) מתוך אחד המשפטים שלה כדי לסתור את הטענה שמ"ט א' לא יכולה לתכנת מ"ט ב' שהיא חזקה בדיוק כמוה? מה יש, כל כך קשה להשתכפל?

תראה, מצד אחד אתה מסכים שאתה לא מתמצא במושגים, ומצד שני אתה שב ומתעקש לחזור על אותן טענות שגויות. אני לא מבין את זה.

האב *לא מכיל פחות אינפורמציה* מבנו. קודם ויתרת על אינפורמציה והחלפת אותה ב"משהו", עכשיו חזרת? *משפט* *צ'ייטין* *לא* *אומר* *כלום* על האינפורמטיוויות של מערכת ועל יכולתה להוכיח כל דבר חוץ מסוג מסויים ופצפון של משפטים. אני באמת לא מצליח להבין למה אתה מתעקש לחזור על הטעויות הללו.

משפט גדל לא אומר כלום על אבות ובנים. למה אתה סבור שאב יכול להוכיח את משפט גדל על בנו? למה אתה סבור שההיפך לא נכון? למה?

למה אתה מתעקש שה"ידע" של מ"ט הוא אוסף המשפטים שהיא יודעת להוכיח? לצורך העניין, המחשב שאני מנסה לשכנע אותך כל הזמן לחשוב עליו - זה שמביט בעולם ועונה על שאלות - לא מתוכנת לעצור לעולם. על-כן, כוחו החישובי במובן של מ"ט הוא אפס מאופס, כלום. הוא לא יודע לבצע אף "חישוב". איך למען השם אנחנו אמורים להסיק מסקנות על יכולותיו תוך שימוש במשפטים של גדל וצ'ייטין?

דמיין מחשב היודע לשחק שח ברמה נמוכה. הוא יודע גם ללמוד, והוא בנוי כך שפעם בשנה הוא מסכם את כל הידע שצבר, כותב תכנית C חדשה על-סמך הידע הזה, מעתיק אותה לדיסק נקי ומצדי משמיד את עצמו. הנה, הוא יצר מ"ט חדשה. הנה, היא יותר חכמה ממנו בעולם השחמט. במובן החישובי הם שקולים לגמרי. במובן השחמטי - לא. אותו דבר עם אנשים ומ"ט. זה סותר איזה משפט של צ'ייטין? של גדל?

הנה סיכום של כמה עובדות החוזרות על עצמן.

1. אף מערכת פורמלית (סופית, נאותה, עקבית וכו') לא יכולה להוכיח את כל הטענות על מספרים טבעיים. גם בני-אדם לא.

2. אף מערכת פורמלית עקבית לא מוכיחה את העקביות של עצמה. גם בני-אדם לא.

3. אף מ"ט לא יכולה לפתור את בעיית העצירה הכללית. גם בני-אדם לא.

4. ככל הידוע לנו - גם אחרי גדל, טרסקי, צ'ייטין, טיורינג וממשיכיהם - הכוח החישובי של בני-אדם אינו גדול במאומה מזה של מחשבים. בכלום. אפס. שום דבר.

5. אין כל מדד למורכבות או אינפורמציה לפיו אנשים או מכונות או מערכות פורמליות מוגבלים לייצר רק דברים פחות (ממש פחות, לא פחות-או-שווה) מתוחכמים מהם.

6. יש הרבה סיבות להאמין שאנשים או מכונות יכולים לייצר או לתכנת או ללדת אנשים ומכונות יותר מהירים ומוכשרים ועתירי-ידע ויצירתיות מהם.

אם אתה מאמין שאדם אינו מ"ט ויהי מה, זכותך - הסברתי כבר שזו עמדה שאי-אפשר להפריך. אבל אתה בטוח שאפשר *להוכיח* את זה ממשפטים מסויימים בלוגיקה מתמטית ותורת החישוביות, ואתה מתעקש להתעלם מהעובדות היבשות. דווקא זו, בעיני, דוגמאטיות.
בקיצור 312887
עוד קצת שמן למדורה שלכם, מסלשדוט: http://www.news.cornell.edu/stories/June05/new.mind....

בקורנל הגיעו למסקנה שהמודל החישובי של המוח שונה מהמודל החישובי של המחשב (ומ"ט לצורך זה). לא כמכונת מצבים משוכללת (אתם יודעים למה אני מתכוון) אלא בעיבוד רציף, כמו מערכות ביולוגיות אחרות.
בקיצור 312891
לא הבנתי איך הניסוי שלו רומז למידול "רציף" של המוח. כל המשפטים המדברים שם על שני מצבים 0 או 1, נשמעים לי כמו הגזמה מוזרה. הרי גם בעזרת מ"ט אפשר לסמלץ המון "מצבים אפורים" ביניהם המכונה תטייל לה (בדיוק כמו שעשו הנבדקים), עד שהיא תגיע להכרעה.

הרץ אלגוריתם פשוט כמו A*, שמשתמש ביוריסטיקה, ותראה איך המחשב "מהסס" המון זמן לאיזה כיוון כדאי לפנות (באופן דומה לאיך שהיססו הנבדקים האנושיים), לפני שרואים שהוא בוחר את הכיוון המועדף.

מה יש בניסוי הזה שרומז לרציפות של משהו?
בקיצור 312903
מצטרף למה שאביב אמר. ערן, המחקר כלל לא עוסק בהשוואה בין המודל החישובי של המוח למודל החישובי של מחשב. המסקנה שלו מתייחסת לעיבוד שפה, ואומרת שיש להחליף את המודל הישן של עיבוד שפה במודל חדש.
- המודל הקיים הוא מכונת מצבים דטרמינסטית; או בניסוח עיתונאי: "works like a computer"
- המודל החדש הוא מסלול במרחב רב מימדי.

שני המודלים האלו ניתנים לאמולציה במחשב.
בקיצור 312942
מצד שני, שים לב שבכתבה לא באמת נטענת הטענה שהמודל הדיסקרטי איננו נכון, אלא שישנו מודל *שימושי* יותר לתאור פעולות קוגנטיביות.

"More recently, however, a growing number of studies, such as ours, support dynamical-systems approaches to the mind. In this model, perception and cognition are mathematically described as a continuous trajectory through a high-dimensional mental space; the neural activation patterns flow back and forth to produce nonlinear, self-organized, emergent properties – like a biological organism."

גם אם אפשר לרדקץ את המודל שלהם לכדי מ"ט (בדרך זו או אחרת), באמת יכול להיות שאין סיבה *מעניינת* לעשות זאת. מדע איננו רק עיסוק ב"איך הדברים הם ממש ממש באמת באמת ברמת ה-LOW LEVEL" אלא גם העיסוק בלנסות להבין תהליכים מורכבים באמצעות הפשטתם ומידולם. לכן, אולי, יותר משחשוב מהו המודל ה"נכון", אולי יותר חשוב מהו המודל המעניין או מהו המודל שמספק לנו יותר אינפורמציה לגבי אופן פעולת המוח.
בקיצור 312943
הללויה!
בקיצור 312944
תודה תודה. אבל מה פשר פרץ שמחה זה?
בקיצור 312946
התגובה שלי הופנתה לערן. השמחה פרצה בעוז על הטענה שהמח איננו מ''ט אלא עובד באופן רציף. כמתנגדת נוקשה למידול המח כמ''ט, רציתי להודיע על תחושת הקלה.
בקיצור 312949
חשבתי שמה שחשוב זה חקר המציאות. אני לא מתנגד ולא תומך במידול המוח כמ''ט ולא אחוש הקלה או מועקה אם יתברר שהמוח הוא מ''ט או שהוא לא מ''ט.
בקיצור 312960
תנוח דעתך, זה ברור לי. דיברתי על רגשותיי שלי בלבד.:)
בקיצור 312981
המחקר במאמר רומז על אפשרות של מידול האופן הרציף שבו עובד המוח. זה דווקא מהווה עדות לאפשרות של מידול המוח כמ"ט.

למה את מתנגדת למידול המוח כמ"ט?
בקיצור 312999
ראשית, אינני קוראת את המאמר כמוך. אני דווקא קיבלתי את הרושם שמודל המ''ט המקובל (התאי) בהחלט מתערער שם.
ולמודל התאי הזה אני מתנגדת משום שהוא נראה לי פשטני להחריד, ומשאיר הרבה יותר מדי דברים לא מוסברים (ראה הדיון על הקוואליה).
בקיצור 313009
האם את חושבת שהמודל "התאי" (למה את מתכוונת?) *הוא* זה שלא יכול להסביר את נפש האדם (על זה אנחנו מדברים, נכון?)? או שמא את מאמינה (כמוני, ראי את דיוני עם אלון) ששום מודל חישובי לא יוכל להסבירה?
בקיצור 313014
ב"מודל התאי" אני מתכוונת, כמובן, לתיאור המקובל של המ"ט, והוא בוודאי - לדעתי - אינו יכול לתאר את פעולת המח.
לגבי מודלים חישוביים באופן כללי אינני יודעת. אני משוכנעת בדבר אחד: שום מודל שאינו לוקח את הקוואליה כבעלת השפעה בעולם הוא מופרך מיסודו. לכן, או שהקוואליה ניתנת לתיאור פיסיקלי - או ש*יש* דברים לא פיסיקליים בעלי השפעה על העולם הפיסיקלי.
בקיצור 313016
בהנחה שהקוואליה ניתנת לתיאור פיזי, למה את חושבת שהמודל של מכונת טיורינג מתעלם ממנה?
בקיצור 313027
השאלה לא מובנת לי.
בקיצור 313036
את אמרת ''מודל שאינו לוקח את הקוואליה כבעלת השפעה בעולם הוא מופרך מיסודו'' והתכוונת למכונת טיורינג. השאלה שלי היא למה את חושבת שמכונת טיורינג לא לוקח את הקוואליה כבעלת השפעה בעולם, אם הקוואליה ניתנת לתיאור פיזיקלי (אם היא לא, ממילא כל מודל שמתאר רק את המציאות הפיזיקלית לא שווה כלום ואז צריך את השדים והרוחות של שכ''ג).
בקיצור 313052
כיוון שאינני מומחית גדולה למכונות טיורינג, הסתמכתי בזה על טענותיהם של אלון והשכ''ג - שניהם אומרים שלקוואליה אין כל השפעה על העולם הפיסיקלי.
בקיצור 313060
ואת מאמינה להם? אז מה הבעיה במודל שאינו לוקח את הקוואליה כבעלת השפעה בעולם, ובפרט למה הוא "מופרך מיסודו"? הרי דליבא אלון ושכ"ג, הקוואליה לא משפיעה על העולם, אז מודל שבא לתאר את העולם לא צריך להתחשב בה.
בקיצור 313074
כן, טוב, ידעתי שלא "סגרתי" היטב את תגובתי הקודמת, ובאתי על עונשי. אני *אינני* מאמינה לאלון ולשכ"ג שלקוואליה אין השפעה על העולם הפיסיקלי, אלא רק לזה שתיאורה כבעלת השפעה כזו איננו נכלל במכונת טיורינג.
כיוון שלי ברור לחלוטין שלקוואליה *יש* השפעה על העולם הפיסיקלי, נראה לי שמודל שאיננו מתיישב עם אפשרות זאת הוא בהכרח מופרך מיסודו. וכפי שאמרתי לאלון באחת התגובות כאן, מודל כזה, לדעתי, הוא זה שנזקק לשדים ורוחות.
בקיצור 313078
למה זה כל כך ברור לך? לדעתי זה בכלל לא ברור, גם אם מכירים בקיומה של קוואליה ובכך שלא ניתן לתאר אותה בצורה פיזיקלית. כמו שכתבתי ליהונתן, די בעייתי לחשוב על משהו שלא ניתן לתיאור פיזיקלי אבל משפיע על העולם הפיזיקלי (אבל אני חושש שכאן אני מגיע למבוי סתום ולא יודע איך להמשיך, אז עדיף לתת לגדולים ממני).
בקיצור 313085
קודם כל, *אני* לא אומרת מראש שהקוואליה לא ניתנת לתיאור פיסיקלי. ייתכן שכן. לא לגמרי ברור לי מהם גבולות הפיסיקה היום, לאור העובדה שנכנסו אליה כבר יצורים מתמטיים בתכלית (כמו מתרי-על, למשל). הדבר היחידי שאינני נסוגה ממנו בשום אופן, זו הטענה שהקוואליה משפיעה על העולם הפיסיקלי - אם היא ניתנת לתיאור כזה ואם לאו. הסיבה שאינני נסוגה ממנה היא שתיאור של טיפול פסיכולוגי, למשל, כמה שעובד באמצעות גלי הקול - נראה לי בלתי סביר בעליל, והוא זה שמצריך לדעתי הכנסת שדים ורוחות לתמונה. (וכמובן יש עוד דברים רבים כאלה, אבל דוגמה זו מספיקה לדעתי).
בקיצור 313135
ברור שאם בסופו של דבר הקוואליה תיכנס לתחום הפיזיקה, כל הבעיה נעלמת כלא היתה. הבעיה היא שקשה לראות איך זה קורה, שכן בהגדרתה מדובר חוויה סובייקטיבית שאינה ניתנת למדידה.

אולי כאן המכשלה: אני מסכים לחלוטין שיש מקום לדבר על חוויות כעל מניעים פסיכולוגיים. מי שרואה "אדום", וחווה "אדום", יעצור את הרכב שלו קרוב לודאי. עד רמה מסוימת נוכל באמת למדוד תופעות פיזיקליות של מה האדום הזה עושה לו במרכז הראיה, איך חלק מהפולסים מטיילים למרכז(י) הזכרון, אילו נוירונים מתעוררים באזורים אחרים של המוח ואיזו תרומה הם תורמים לחגיגה האלקטרומגנטית, שבסיומה נשלח זרם קל לכיוון השריר של הרגל הימנית.

מה שלא נכנס בתאור הזה היא אותה תחושה סובייקטיבית שלך שרק את יודעת מהי, אותה חשת כשהצבע ההוא הגיע לתודעה שלך. אולי זאת התחושה שאני חש כשאני רואה ירוק דווקא. כאמור, קשה לי לראות איך התחושה האישית הזאת תוכל להמדד אי פעם, אבל אולי אני פשוט קצר רואי.
בקיצור 313143
אם פירושו של דבר שהפיסיקה, להגדרתך, היא "רק מה שמדיד"? או "כל מה שמדיד"?
בקיצור 313081
אם ברור לך שלקוואליה יש השפעה על העולם הפיסיקלי, אז מה שאת קוראת לו "קוואליה" אינו מה שאני מתכוון עליו, ולא מה שמתכוונים אליו אחרים עפ"י התיאור פה (למשל):

http://en.wikipedia.org/wiki/Qualia

"These properties are, by definition, epistemically unknowable in the absence of direct experience of them"

אם את מנסה לומר שלרגשותינו, מחשבותינו ורצונותינו יש השפעה על העולם הפיסיקלי (נניח, על מה שאנחנו עושים) - אני לא אומר שזה לא נכון, אלא שזה נכון כ*תיאור*, לא כתהליך היסודי של מה-משפיע-על-מה. גם הרצון שלנו להזיז את היד וגם הזזת היד הם ביטויים של תהליכים מיקרוסקופיים המכתיבים אותם, זה הכל.

נדמה לי שאת מוצאת את ההנחה שהמוח-הוא-מ"ט "מדכאת" כי את חושבת שהיא אומרת משהו שלילי על חשיבותם או עמקותם של רגשות, נניח. היא לא.
בקיצור 313099
אני מתקשה בהבנת המשפט. מה זה "epistemically unknowable"? ולמה הכוונה כאן ב"experience"?
בקיצור 313113
אני גם מתקשה (בהבנת המושג הזה בכלל). בכל אופן, נראה שיש הסכמה על כך שקוואליה היא החוויה הפנימית, לא ייצוגים חיצוניים שלה.
בקיצור 313118
אם אני מצליח להבין את המשפט מויקי, אז הוא מנוסח בצורה בעייתית ומטעה (איזו הפתעה). בכל אופן, ברור גם לי שקוואליה היא החוויה הפנימית, אבל לא ברור לי כיצד אפשר לטעון שאין לה השפעה על העולם הפיזיקלי, גם לשיטתך. הטיעון של האלמונית נראה לי משכנע.
(אולי פיזיקליסט יכול לטעון שהיא לא קיימת בנפרד מהרגשות והמחשבות האחרות שלנו, ולכן שמוטעה להתייחס אליה כאל דבר שיש לו הוראה).
בקיצור 313122
איזה טיעון של האלמונית?

אני חושב שיש בינינו נתק בפירוש המושג "השפעה". ברור שמצב הרוח שלי משפיע על מה שאני עושה. הטענה היא אחרת: יש מתחת לכל המושגים ה"גבוהים" הללו, מערכת מכנית המכתיבה אותם. מצב-הרוח שלי הוא נגזרת של מה שקראתי "מצב-המכונה", ומצב-המכונה הוא זה ש*באמת* משפיע על מצב מכונה ברגע הבא (מה שאני עושה). אנחנו חווים ישירות את המושגים העליים - תחושות, רגשות - ולא את רמת הסרוטונין בכל סינפסה, ולכן אנחנו אומרים "הייתי עצוב אז הלכתי לשכב".

האלמונית סבורה שזה תמוה לטעון שגלי-הקול "הם אלו" המשפיעים על המוח. אבל ברמה המכנית, ברור שאלה גלי-הקול המשפיעים על המוח (אם לא הם, מה כן?). המשמעות היא תאור ברמה גבוהה של גלי-הקול - תיאור חשוב, מורכב, וקשה מאוד לניתוח מדוייק; זה לא משנה את העובדה שהתהליך המכני הוא גלי-קול משפיעים על נוירונים. כל מה שאנחנו אומרים הוא שמשמעות ורגש (וקוואליה, משל"י) נגזרים חד-ערכית מהאלמנטים המכניים הללו; שוב, זה לא אומר שהמושגים האלה הם חסרי-משמעות או לא מעניינים.
בקיצור 313131
אני מאמין שאני מבין את ההשקפה שלך. היא השקפה מפתה (גם עבורי), אבל אני חושב שאם מנסים לחשוב עליה יותר, היא מתגלה כבעייתית. השאלה היא מה פירוש הדבר שהמשמעות והרגש "נגזרים חד-ערכית מהאלמנטים המכניים הללו". איך אתה גוזר אותם? זה לא מספיק לומר שהם ניתנים לגזירה בלי להראות כיצד אפשר לבצע את הגזירה הזאת.
המדע מסביר משהו באמצעות קישור בין תופעות שנגישות לו. זה מה שמאפיין אותו ומפריד אותו מצורות ידע אחרות. והקוואליה אינה נגישה למדע. יש כאן בעיה עקרונית. אז אפשר לנסות להפעיל את התער על שאלות מטאפיסיות וכאלה, אבל לדעתי זה לא מביא לתוצאות המקוות.

טיעון הנגד הוא ש*אם* הקוואליה משפיעה על העולם הפיזיקלי, והקוואליה עצמה אינה ניתנת לרדוקציה לפיזיקה, אזי דבר לא-פיזיקלי משפיע על העולם הפיזיקלי, ולכן הפיזיקה אינה מספקת תיאור מלא של התהליכים במוחנו. לצורך העניין אין זה משנה אם הקוואליה אכן נוצרת באופן סיבתי מגורמים פיזיקליים. מספיק שמרגע קיומה לא תוכל לבצע רדוקציה לה עצמה, כי הפיזיקה מטבעה לא בנויה לטפל בה.

האלמונית טענה שלא תוכל להסביר את השינויים שמחולל טיפול פסיכולוגי (כדוגמא) ללא קיום קוואליה. הטיעון לא מכחיש את חלקם של גלי הקול או של שינויים ביוכימיים. הוא רק טוען שבנוסף, כדי שנוכל להסביר את המשמעות, צריכה להיות קוואליה. ואם קוואליה היא תנאי הכרחי להסבר דברים שקורים במציאות, אזי יש לה השפעה על העולם הפיזיקלי, וחזרנו לפסקה השנייה כאן.
בקיצור 313140
אני סבור שהעמדות ברורות. אני לא רואה שום סיבה שהפיזיקה לא תוכל לתת תיאור מלא של התהליכים במוחנו, ואני בטח לא רואה מדוע אם יש תיאור כזה אז זו סיבה לדיכאון.
בקיצור 313159
אל תוטרד מזה יותר מדי. גם אם חלילה מישהו יכנס לדיכאון בגלל דברים שהוא קורא באייל, המערכת תוכל לטפל בעניין in-house.
מגרש השדים 313132
העסק מאד פשוט: אם "החוויה הפנימית" לא ניתנת למדידה *באופן עקרוני*, כלומר לעולם לא נוכל לדעת באמת אם כשאתה רואה "אדום" אתה חש אותה חוויה אדמומית שעוברת עלי, ולא, נניח, את מה שאני חווה כניחוח קל של אבטיחים צהובים - אם המצב הוא כזה, הרי *עפ"י הגדרה* הקוואליה המזורגגת הזאת לא יכולה להשפיע על העולם.

מה פירוש "כיצד אפשר לטעון שאין לה השפעה על העולם הפיזיקלי"? כיצד ניתן לטעון משהו אחר? הרי אנחנו יודעים להסביר את הפעולה של בעל הקוואליה בעולם הפיזיקלי עד הרמה של "הפעילות הנוירולוגית במרכז המוטורי שלחה פולס לשריר היד הימנית וכו' וכו"'. אם כך מה שנשאר פתוח זאת השאלה אם נוירון, שהוא מערכת ביולוגית לא נורא מסובכת שמורכבת ממולקולות ואטומים פיזיקליים לגמרי, מתנהג לא כמו שמצפים מכל מערכת פיזיקלית אחרת בעולם, אלא מחליט אם לירות את הפולס שלו או לנמנם בפינה על-סמך איזו "קוואליה" לא פיזיקלית בהגדרתה. קח אותו נוירון בדיוק, עם אותם תנאים פיזיקליים סביבתיים, שנה את הקוואליה (מבחינה פיזיקלית לא עשית כלום) ושינית את התנהגות הנוירון. כדי לחסוך כאן מלל מיותר על תורת הקוואנטים אוסיף שגם אם אפקטים אלה משפיעים על פעולת המוח (אני לא חושב שזה כך, אבל מי יודע) שינית את התפלגות התוצאות ע"י כך שלא עשית כלום! שינית את פונקציית הגל יש מאין.

אם אלו אינם סיפורי שדים, אינני יודע סיפורי שדים מהם.
מגרש השדים 313139
"העסק מאד פשוט: אם "החוויה הפנימית" לא ניתנת למדידה *באופן עקרוני*... הרי *עפ"י הגדרה* הקוואליה המזורגגת הזאת לא יכולה להשפיע על העולם."
כלומר? איך אתה מגדיר מה כדי לחלץ את הטיעון הזה "עפ"י הגדרה"?
"הרי אנחנו יודעים להסביר את הפעולה של בעל הקוואליה בעולם הפיזיקלי עד הרמה של "הפעילות הנוירולוגית במרכז המוטורי שלחה פולס לשריר היד הימנית..."
מה "אנחנו יודעים להסביר"? אנחנו יודעים להסביר *למה* נשלח דווקא הפולס המסוים הזה לשריר המסוים הזה ברגע המסוים הזה וכיו"ב? איך בדיוק?
מגרש השדים 313147
קצת מעייף אותי לחזור פעם אחר פעם על אותם דברים. מה שלא ניתן למדידה לא יכול להשפיע על העולם, אחרת ההשפעה הזאת היתה נותנת את כלי המדידה הנחוץ.

למה? אני מקוה שהתכוונת לשאול "מדוע", כלומר לדבר על סיבות ולא על תכלית, שכן תכלית אינה אלא פיקציה נוחה. כן, יודעים להסביר מתי נוירון יורה פולס. אם את שואלת אם יודעים להסביר בדיוק את כל מליוני הקשרים בין הנוירונים, ההשפעות של שנוירו-טרנסמיטורים והורמונים שונים ומשונים, ואיך בסופו של דבר התזמורת כולה מנגנת את המנגינה "עצור, טמבל" - התשובה היא כמובן לא. אבל אף אחד גם לא יודע לתאר מה בדיוק עובר על כל אחד מזיליוני האטומים בשמש ומה בדיוק השדה המגנטי בכל נקודה שם בשניה שלפני תחילתה של סופת שמש עצומה. משום מה אף אחד לא טוען שהגורם לה היא שהשמש קמה בבוקר על צד שמאל כי הירח נחר כל הלילה.
מגרש השדים 313150
אבל *יש* כלי מדידה לא מעטים להשפעתה של הקוואליה, הם רק לא כלים פיסיקליים.
מגרש השדים 313151
לא, אין. יש כלי מדידה להשפעת המצב הנפשי ה*אובייקטיבי* של האדם (כזה שניתן לראות במכשירים במעבדה לפחות באופן עקרוני). לפי איך שאני מבין את המושג קוואליה אין שום אפשרות למדוד אותו, להשוות אותו, ולדעת עליו שום דבר חוץ ממה שכל אחד מאיתנו מרגיש לגבי הקוואליה הפרטית שלו. איזה כלי מדידה יכול להיות משופע מהדרך הפנימית שלי לחוות "חמוץ"? כל אדם יראה את ההבעה על הפנים שלי, ויידע שהם נראים כמו הפנים שלו בשעה שהוא חש "חמוץ", אבל אין לו דרך לדעת אם אני לא חווה משהו אחר לגמרי, למשל החויה שלו כשדוקרים אותו בסיכה.

(אגב, אני חושב שכולנו חשים אותו דבר, אבל אין לי דרך להוכיח את זה, וזה העניין). תרגיל: נסי להוכיח שכלבים חשים כאב.
מגרש השדים 313160
"מה שלא ניתן למדידה לא יכול להשפיע על העולם, אחרת ההשפעה הזאת היתה נותנת את כלי המדידה הנחוץ" -

בוודאי שהיא נותנת. אפשר לראות את השפעת הקוואליה בכל רומן ואפילו בסיפורים קצרים, למשל. מה שאי אפשר זה להפוך את כלי המדידה למדעי. זאת נקודה שאני חושב שאתה מחמיץ: כשאומרים שהקוואליה אינה ניתנת לרדוקציה לפיזיקה הכוונה אינה דווקא שישנם לשדים ורוחות. הכוונה היא למגבלות הפיזיקה כדיציפלינה אנושית.
מגרש השדים 313188
עכשיו אני מבולבל. אפשר לראות את השפעת הקוואליה בכל רומן ואפילו בסיפורים קצרים? איך? השפעה על מי ועל מה?
מגרש השדים 313217
השפעה של הקוואליה על תוכן הרומן. רוצה דוגמא?

"כשאני חושב על מצבי בגיל חמישים וחמש כשקניתי את הכרטיס, הכל רק עוגמת נפש. העובדות מתחילות להציף אותי ועד מהרה אני מרגיש לחץ בחזה. ואז נפתחת הסתערות מהירה - הורי, נשי, חברותי, ילדי, החווה שלי, החיות שלי, ההרגלים שלי, הכסף שלי, שיעורי הנגינה שלי, השתיינות שלי, הדעות הקדומות שלי, אכזריותי, שיני, פני, נשמתי! ואני נאלץ לצעוק 'לא, לא, תסתלקו, ארורים, הניחו לי!' אבל איך הם יכולים להניח לי, להשאיר אותי לנפשי? הם שייכים לי. הם שלי. והם נערמים לתוכי מכל העברים. זה נהפך לתוהו ובוהו".
מגרש השדים 313228
אם מה שהסופר מכנה ''עגמת נפש'' הוא התחושה שאתה חש כשאתה רעב, אין לך דרך לדעת זאת. מסיבה זאת צריך להזהר בטענה שהקוואליה שיחקה תפקיד בכתיבת הסיפור הזה, למרות שללא ספק היא ליוותה אותו. מה רע בטענה שלפעילות החשמלית במוחו של המחבר היו כמה תוצרים שאחד מהם הוא סיפור ושני הוא הקוואליה (אולי היו עוד, כמובן).
מגרש השדים 313238
אני חושב שהפסקה הזאת מתארת חוויה "קוואליאלית". אתה יכול לעלות בדעתך שאדם שאין לו קוואליה יכתוב כזה סיפור? (בלי התחכמויות כרגע על זה שאפשר לתכנת מחשב להוציא משפטים באופן אקראי. ברור לשנינו שלא זה מה שנעשה כאן).

אתה יכול לטעון שהקוואליה והסיפור הן תוצר של הפעילות החשמלית. אני לא טוען שהם לא (רק שהקוואליה לא ניתנת לרדוקציה. וסיבה של דבר היא עדיין לא הדבר עצמו).
מגרש השדים 313247
רגע, אם המחשב של אלון יכתוב סיפור יפה כזה אתה תאמין שיש לו קוואליה? לא. אתה תגיד שהוא *מחקה* קיום של קוואליה (ואם לא אתה, הרבה אחרים).

לא יודע מה פירוש "הקוואליה לא ניתנת לרדוקציה". מסכים איתך בקשר לדברים ולסיבות.
מגרש השדים 313266
יהונתן אורן חזר ואמר שכאשר המחשבים שלך ושל אלון יתחילו לכתוב סיפורים יפים כאלה (בהם תאורים מקוריים על חוויות ''קוואליאליות''), אז באמת יתחיל להיות מעניין ואז אולי יהיה על מה להתפלסף ולדבר. בינתיים אין מחשבים כאלה ולא ממש בטוח שיהיו כאלה בעתיד (אופטימיות יתר שהתבדתה, לגבי ב''מ, ראינו גם בעבר). בסופו של יום, אתה ואלון מבססים את ההנחות שלכם על תרגילים מחשבתיים מעולם המד''ב והפנטזיה, לא על עובדות מדעיות או על הסברים מדעיים.
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • אח של אייל
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  חושו, אחים, חושו • האייל האלמוני
  חושו, אחים, חושו • ירדן ניר-בוכבינדר
  מגרש השדים • יהונתן אורן
  מגרש השדים • אח של אייל
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • יהונתן אורן
  מגרש השדים • אביב י.
  מגרש השדים • אח של אייל
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • אח של אייל
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • יהונתן אורן
  מגרש השדים • גדי אלכסנדרוביץ'
  מגרש השדים • אלון עמית
  מגרש השדים • יהונתן אורן
  מגרש השדים • אלון עמית
  מגרש השדים • שוטה הכפר הגלובלי
  מגרש השדים • אביב י.
  מגרש השדים • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אביב י.
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אביב י.
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • יהונתן אורן
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • האייל האלמוני
  לקומפי יש המון פוטנציאל, אבל הוא לא מממש אותו • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • אורי גוראל-גורביץ'
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סימן שאלה
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אריק
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אח של אייל
  בקיצור • אריק
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • יהונתן אורן
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • האייל האלמוני
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • עוזי ו.
  בקיצור • האייל האלמוני
  בקיצור • עוזי ו.
  בקיצור • האייל האלמוני
  בקיצור • עוזי ו.
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • ראובן
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • שוקי שמאל
  מחשבים עם רגליים היו משחקים כדורגל ,ולא פיפא2000 • ראובן
  כמה הערות • סמיילי
  עכבר הוא חרק! • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • ד.ק.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • האייל האלמוני
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • יובל נוב
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • עוזי ו.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • דורון הגלילי
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • עוזי ו.
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • שוטה הכפר הגלובלי
  בקיצור • שוטה הכפר הגלובלי
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • ירדן ניר-בוכבינדר
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • אלון עמית
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • אלון עמית
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • שוקי שמאל
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • האייל האלמוני
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בעיה בהחלטות רציונליות • שוטה הכפר הגלובלי
  בעיה בהחלטות רציונליות • עוזי ו.
  בעיה בהחלטות רציונליות • גדי אלכסנדרוביץ'
  בעיה בהחלטות רציונליות • ערן בילינסקי
  בעיה בהחלטות רציונליות • אורי גוראל-גורביץ'
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • ראובן
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • סמיילי
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • אביב י.
  בקיצור • אלון עמית
  בקיצור • אביב י.
  מערכת שמדפיסה את המשפטים הנכונים • עוזי ו.
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • אלון עמית
  מערכת שמדפיסה את המשפטים הנכונים • גדי אלכסנדרוביץ'
  מערכת שמדפיסה את המשפטים הנכונים • עוזי ו.
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ערן בילינסקי
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • אלון עמית
  בקיצור • גדי אלכסנדרוביץ'
  כמה עולה חליפה ליתום • ערן בילינסקי
  כמה עולה חליפה ליתום • גדי אלכסנדרוביץ'
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • ערן בילינסקי
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • שוקי שמאל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אח של אייל
  בקיצור • האייל האלמוני
  בקיצור • אח של אייל
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אביב י.
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • ד.ק.
  בקיצור • אלון עמית
  בקיצור • האלמוני ממנג
  בקיצור • אלון עמית
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  בקיצור • האייל האלמוני
  בקיצור • ד.ק.
  תודה. • האייל האלמוני
  תודה. • עוזי ו.
  תודה. • האייל האלמוני
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • אלון עמית
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • האייל האלמוני
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • ד.ק.
  הטעון תיקון • אלון עמית
  הטעון תיקון • אלון עמית
  אתה מתכוון לרובי? • שוטה הכפר הגלובלי
  אתה מתכוון לרובי? • אלון עמית
  בקיצור • שוטה הכפר הגלובלי

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים