בתשובה לאח של אייל, 21/10/07 16:12
לרבע את הלולאה. 460749
"אטומים של מחשב" אינם בסקלה הרלוונטית לדיון. הפעולות החישוביות שאמורות ליצור מודעות על פי התפיסה הפיסיקליסטית מתבצעות ברמת השערים הלוגיים ותאי הזכרון. והם אמורים להיות אנלוגיים לנויירונים במוח ולקשרים הסינפטיים בינהם. אני טוען שנוירון,מבחינת המאפיינים שלו שרלוונטיים לתודעה, איננו שקול לטרזיסטור\תא-זיכרון\שער לוגי, ורשת נוירונים איננה ניתן לייצוג כמעגל חשמלי או מנגנון חישובי קלאסי אחר. באופן יותר מפורש, לא ניתן לתאר פעילות מוחית רלוונטית באופן מלא ללא אפקטים קוונטים, ואפקטים כאלו תמיד מאפשרים לחלק מהממשות להיות נסתרת מחקירה חיצונית אמפירית (כלומר להיות מטאפיסית).

חייזר יכול לטעון שאני לא מסוגל להרגיש. גם אתה יכול לטעון שאני לא מסוגל להרגיש. הסיבה שאתה בכל זאת מאמין שאני מרגיש היא שאתה מודע "מבפנים" ליכולת שלך עצמך להרגיש, ומבחין בכך שאני דומה לך מאד, התנהגותית ומבנית. זה שיקול רציונלי המוביל למסקנה מטאפיסית. גם "קוגיטו ארגו סום" זה שיקול רציונלי המוביל למסקנה מטאפיסית. וכך גם כל טיעון פילוסופי תקף אחר.

ייתכן שנוכל להכריע בשאלה האם חייזר מסויים (או עכבר, או חיפושית) הוא יצור מודע כאשר נדע לזהות מהם הרכיבים החומריים הדרושים לקיומה של תודעה. אבל גם בין להבין מה דרוש פיזית על מנת שתהיה תודעה ובין להבין תודעה יש מרחק בלתי ניתן לגישור. הדרך היחידה להבין באמת "כאב" היא לחוות כאב. הדרך היחידה להבין באמת "כתום" היא לחוות כתום.
לרבע את הלולאה. 460772
1. כאשר אתה אומר שלניורון יש מאפינים קוואנטים והוא אינו ניתן לייצוג ע"י מנגנון חישובי קלאסי - האם זה מבוסס על עדויות אמפיריות?
2. האם, לדעתך, מחשב קוואנטי יהיה מסוגל ליצר תודעה?
לרבע את הלולאה. 460889
1) "עדויות אמפיריות" זה אולי קצת מוגזם. יש רמזים אמפיריים לכך שיש חשיבות לאפקטים קוונטיים בפעילות מוחית. למשל יש מחקרים הקושרים אבדן הכרה עקב אנסתזיה לאבדן קוהרנטיות קוונטית במוח. ויש תיאוריות המציעות מנגנונים פיזיולוגים ספציפיים, למשל התיאוריה של פנרוז ושל סטיוארט האמראוף לפיה התודעה קשורה לתהליכים קוונטיים במיקרו-צינוריות, שהם אברונים תוך נוירוניים. כמובן, כל הנושא די ספקולטיבי ושנוי במחלוקת.

2) המחשבים הקוונטיים עליהם מדברים כיום לא ייצרו תודעה משום שהם עושים שימוש רק בדינמיקה הקוונטית האוניטרית (פרט לשלב הפלט). אבל מחשב קוונטי במובן כללי יותר, בו יתרחשו גם תהליכי מדידה קוונטית במקביל להתפתחות הקוונטית האונטרית יאפשרו, לדעתי, מימוש מלאכותי של תודעה. בעצם, אני מאמין שהמוח הוא בדיוק מחשב קוונטי שכזה.
לרבע את הלולאה. 460891
מחשב קוונטי שכולל דינמיקה אוניטרית ומדידות במקביל שקול חישובית למחשב קוונטי שבו כל המדידות מתבצעות בסוף (המודל המקובל). מחשב כזה ניתן למימוש ע''י מכונת טיורינג (הרדוקציה אינה פולינומיאלית) כך שאם באמת המוח שלנו הוא מחשב קוונטי אז ניתן לבנות חיקוי לא קוונטי שלו (שיהיה אולי איטי בהרבה ממנו).
לרבע את הלולאה. 460893
1) אתה מניח שאפשר לבטא את ההתפתחות הקוונטית כשורה של תהליכי התפתחות אוניטריים (משמרי הסתברות) המופרדים ע"י מדידות (הפועלות, במקרה זה, כאופרטורי הטלה במרחב המצבים). כלל לא ברור שניתן לבצע רדוקציה כזו עבור מערכת קוונטית הנמדדת באופן רציף, או בכלל איך לאפיין מדידה בתהליך כזה.

2) אתה מתעלם מאפקטים של גרוויטציה קוונטית.

3) אפילו הייתה טענתך נכונה, נובע ממנה שניתן לסמלץ את המוח האנושי באופן (בלתי יעיל) קלאסי, לא שסימולציה זו אקווילנטית מבחינה אונטולוגית לפעילות המוחית.
לרבע את הלולאה. 460903
1. מה זה "מערכת קוונטית הנמדדת באופן רציף"? אם הכוונה למערכת שמקיימת אינטראקציה רציפה עם "מכשיר מדידה" אז אין שום בעיה להניח שמכשיר המדידה עצמו נמצא בסופרפוזיציה קוונטית עם שאר המערכת עד סוף התהליך ואז הוא קורס למצבו הסופי.
2. מה זה אפקטים של גרוויטציה קוונטית? איכשהו בלימודים שלי זה לא הוזכר לא בתורת הקוונטים ולא בתורת היחסות. מה שהם לא יהיו, לא נראה לי שהמוח האנושי מספיק מאסיווי כדי לייצר אותם.

3. נכון, אבל גם אם אין לנו מודל יעיל להדמיית מוח אנושי, עדיין זה מעניין לדעת שאין לו כוח חישובי שעולה על מכונת טיורינג.
לרבע את הלולאה. 460909
ההנחה "שמכשיר המדידה עצמו נמצא בסופרפוזיציה קוונטית עם שאר המערכת" תלויה בכך שניתן לתאר מערכת מדידה מאקרוסקופית באמצעות חוקי הדינמיקה הקוונטית שתקפים במערכות מיקרוסקופיות. זו אקסטרפולציה שאין לה שום ראיה אמפירית ומעלה קן צרעות של בעיות פיסיקליות, שלפי דעתי, אבל אני כלל וכלל לא יחיד כאן, אינן ניתנות לפיתרון.

הסיבה שהלימודים שלך לא כללו "אפקטים של גרוויטציה קוונטית" היא שאף אחד עוד לא הצליח לפתח תיאוריה סבירה של גרוויטציה קוונטית (אם כי, קרינת הוקינג מחור שחור, למשל, היא בהחלט אפקט של גרוויטציה קוונטית). קשה לדעת מה "מספיק מאסיבי" על מנת לייצר אפקט כזה בתיאוריה שעדיין לא קיימת, אבל אפשר לנסות לנחש. הנח שאורך החיים הגרוויטציוני של מצב המכיל סופרפוזיציה של מצבים הנבדלים מאקרוסקופית הוא בקירוב האנרגיה הגרוויטציונית הדרושה על מנת "להפריד" בין המצבים מחולקת בhbar. חישוב שעשו פנרוז ושות' הראה שהסקאלה הרלוונטית לקריסה גרוויטציונית ספונטנית של מצבים כאלו לא רחוקה מזו של תאים ביולוגיים ורכיביהם.
לרבע את הלולאה. 461134
אני לא בטוח שהבנתי את הטענה בפיסקה הראשונה, אבל נדמה לי ששרדינגר בספרון ''מהם חיים'' טוען שמולקולת הענק הביולוגית היא כלי כזה שמגשר בין ההתרחשויות ברמה הקוונטית לעולם המאקרוסקופי.
לרבע את הלולאה. 461136
מצטער, אבל אין לי סבלנות לקרוא את כל ההודעות שלך לפני שאני שואל - עושה רושם שאתה רוקד סביב הטענה שיש במודעות האנושי משהו מעבר לחומר. שיש גם "נפש". שאם נרכיב מוח אורגני זהה, אטום אחרי אטום - ואני לא נכנס לשאלה האם זה אפשרי, זה ניסוי מחשבתי בלבד - עדיין לא נקבל יצור תבוני, אלא אם נפש תבחר להכנס ולשכון בו לפתע, מסיבות לא ברורות. כן/לא?

(אם כן, הדיון שלי איתך נגמר.)
לרבע את הלולאה. 461157
בוודאי שאם תבנה מוח אנושי אטום אחר אטום תקבל מוח אנושי, על כל יכולותיו. ומן הסתם, ניתן גם לבנות מוח השקול למוח האנושי לאו דווקא ממולקולות ביולוגיות. טענתי היא שלא מדובר במחשב, לא שיש משהו על טבעי במוח.

מצד שני, אני בהחלט סבור ''שיש במודעות האנושי משהו מעבר לחומר''. אבל זו לא טענה מיסטית או דתית כלל וכלל, אלא אם כן אתה רואה בקאנט, למשל, מיסטיקן. די בחומר על מנת שתודעה תתהווה, אבל החומר איננו התודעה. חומר, מבחינתי, הוא כל דבר שניתן לאיפיון אמפירי (רקפות, אלקטרונים, נוירונים, חום, חורים שחורים) ואילו תודעה לא ניתנת לאיפיון אמפירי, אלא היא מה שקאנט מכנה ''נואמנה'' - מ''הדברים כשהם לעצמם''.
לרבע את הלולאה. 461217
איך זה שונה ממחשב?

תצטרך להסביר שוב את הפסקה השניה שלך. בפרט, להסביר במה שונה ה"תודעה" שעולה איכשהו מאוסף האטומים שמהווים את המוח מכל תופעה אחרת שנוצרת ממבנה אטומים מסוים, כמו חום ואור מנר בוער.
לרבע את הלולאה. 462112
תקנו אותי אם אני טועה - לפי תורת הקוונטים הקלאסית, אין באמת הגדרה למערכת מאקרוסקופית או מיקרוסקופית. חוקי הדינמיקה הקוונטית הם זהים בכל מערכת, אלא שככל שהמערכת גדולה יותר, התוצאה שלהם מתקרבת לפיסיקה הקלאסית, בדיוק כמו שתורת היחסות מתקרבת לפיסיקה הניוטונית במהירויות נמוכות (אבל אין באמת ''מערכת נמוכת מהירות'', שבה הפיסיקה הניוטונית נכונה בדיוק).
לרבע את הלולאה. 462114
סדרת המאמרים של ירדן (החל מ דיון 1177 ) עוסקת (גם) בזה. אין שום "גבול קריטי" או משהו דומה, אחרת חתולו של שרדינגר לא היה מטריד כלל. כל מונה גייגר מראה אפקטים קוואנטיים במערכת מקרוסקופית.
לרבע את הלולאה. 462129
לא, זה ממש לא נכון. מדידה *מוגדרת* במכניקה קוונטית כאינטראקציה בין המערכת הקוונטית למערכת מדידה קלאסית-מאקרוסקופית. ללא ההפרדה הזו כלל לא ניתן לנסח את עקרונות הפיסיקה הקוונטית.

יש איזה נפנוף ידיים של בוהר, עליו התחנכו דורות של סטודנטים לפיסיקה, לפיו החוקים הקוונטים הופכים איכשהו לחוקים קלאסיים כשעוברים לקנה מידה גדול. אפשר למצוא כמה ראיות תיאורטיות לקשר בין המכניקה הקוונטית לקלאסית (למשל, עקרון הפעולה המינימלית הקלאסי מתקבל כקירוב הפאזה הסטציונרית של אינטגרל המסלול הקוונטי) אבל הן נוגעות רק לדינמיקה. לא קיים כיום מודל מספק המסביר את המדידה הקוונטית על בסיס חוקי הדינמיקה הקוונטית. יש רעיון שנקרא dephasing שמנסה לתת הסבר כזה, אבל לא ראיתי שהוא הגיע רחוק. אין מה לעשות. מערכות קלאסיות לא מתנהגות באופן קוונטי. אתה לא נתקל בחתולים חיים ומתים בו זמנית.
לרבע את הלולאה. 463763
נדמה לי שאתה טועה - אחת ההנחות בחיפוש אחר החוקים הקוונטיים הייתה בדיוק זו - שכל חוק קוונטי יתקרב לחוקים הקלאסיים כשהגודל שואף לאינסוף (כמו שלמשל צפיפות ההסתברות להימצאות האלקטרון במקומות שונים בתיבה גדולה היא בערך אחידה).
ולגבי מדידה - כמו שבניתוח האינטראקציה בינך לבין כדור הארץ אתה מניח שמסת כדור הארץ היא אינסוף, כך אפשר עקרונית להניח עבור מערכות גדולות (כמו גוף האדם) שהן בערך קלאסיות ולקרוא לאינטראקציה איתן "מדידה". אתה בטוח שזה לא מה שעושים?
לרבע את הלולאה. 460907
איבדת אותי באנסתזיה.

בכל מקרה, אני רוצה לספר על הדיעות שלי בעניין. בעיני תודעה ורגשות הן בהחלט משהו מדיד, בדיוק כמו תופעות אנושיות אחרות כגון "הצטננות". אנחנו חשים את הצטננות באופן סובייקטיבי, וגם יש לתופעה הזו סימפטומים חיצוניים ומדידים. כתבת לפני כמה הודעות: "גל מוח איננו באמת הכאב, רק תופעה שנמצאת בקורלציה עם כאב אצל בני אדם. משום כך כאב איננו באמת משהו מדיד." בעיני זוהי לולינות פילוסופית. אז מה אם גל המוח הוא לא באמת הכאב, גם הגובה של הכספית במדחום זה לא באמת הטמפרטורה אלא תופעה שנמצאת בקורלציה עם הטמפרטורה. ואף אחד לא יגיד שטמפרטורה היא משהו לא מדיד. יותר מזה, בכלים חיצוניים פשוטים אפשר לספר לך על הרגשות הבלתי מדידים ובלתי ניתנים לתיאור יותר ממה שאתה יכול לדעת בעצמך. למשל, אפשר לגלות שאתה פוחד ממשהו, גם אם אתה בעצמך לא מודע לזה.

עוד משפט שלך שתפס את עיני היה "אינטיליגנציה מצריכה קיום "אני" שמסוגל להבין את הבעייה ולא רק לעקוב אחרי שורת כללים פורמליים". זה הזכיר לי סיפור קצר על אדם שהיה חותם על המשפט הזה בכיף. קאספרוב, אחד מגדולי שחקני השח בהיסטוריה, שיחק בכמה טורנירים מפורסמים נגד מחשבים. היו לו נצחונות והפסדים. אבל אחרי ההפסד המשמעותי הראשון שלו, למחשב "כחול עמוק", קאספרוב טען שהוא ראה "יצירתיות ואינטלגנציה עמוקה" במהלכים של המחשב, ולא הגיוני שמחשב יגלה תכונות כאלו. כלומר, בניגוד לחוקי המשחק, המחשב נעזר בשחקן אנושי.

הסיפור הזה מראה את שני הפנים של אינטלגנציה. מצד אחד, אינטלגנציה זה דבר מדיד. אנחנו מודדים אינטלגנציה של אנשים ושל מחשבים עפ"י ההתנהגות שלהם. מצד שני, כאשר אנחנו רואים התנהגות אינטלגנטית מכיוון בלתי צפוי, אנחנו מאד מתקשים להאמין לזה.
לרבע את הלולאה. 460922
"איבדת אותי באנסתזיה" - סליחה. אנסתזיה זו פעולת חומר הרדמה, תהליך שהמכניזם הביולוגי שלו טרם פוענח. יש מחקרים המראים קורלציה בין הרדמה ואיבוד הכרה לבין שינוי בפרמטר קוונטי מסויים של המוח. אני ממש לא מתמצא בעניין, אבל אני אנסה לחפש על כך פרטים נוספים.

ההבדל העקרוני בין טמפרטורה לבין כאב הוא שלטמפרטורה אין כלל משמעות מעבר למה שניתן למדוד. אין לך שום ידיעה על טמפרטורה של עצם מסויים שאיננה נובעת מחישה של אותו עצם (אם על ידי מגע ישיר ואם על ידי הסתכלות במדחום הצמוד לעצם). מאידך, כאשר כואב לך אתה יודע זאת באופן בלתי אמצעי, מבלי לעשות שימוש בשום חוש ובשום מדידה של העולם החיצון. כאב הוא חלק מהנפש, לא מהעולם. בשפת הפילוסופיה הקאנטיאנית, טמפרטורה היא פנומנה ואילו כאב הוא נואמנה.

חוקר עיוור צבעים יכול למדוד את המתרחש במוחך ולהחליט שאתה רואה צבע ירוק (משום שבפעם הקודמת שדיווחת על צבע ירוק הוא זיהה אופיין דומה). כל זה לא יקדם אותו כלל בניסיון להבין מהי חווית הצבע. אין שום דבר ירוק בפעילות מוחית כזו או אחרת. זה רק data, ולdata אין צבע.

אלגוריתמים מתוחכמים עשויים ליצור בנו לעיתים את האשליה שמדובר ביצור חושב. אבל זו אשליה. גם מחשב שחמט המשחק היטב עושה זאת באופן בלתי תבוני. הרי שום שחקן אנושי לא מחשב מיליארדי מסעים כדי להחליט מה לעשות. ולא קשה להמציא מצבים בשחמט שיוליכו שולל אפילו את המפלצת החישובית האימתנית ביותר, למרות שאפילו שחקן אנושי בינוני ידע להתמודד איתם.
לרבע את הלולאה. 460932
בתור ילדה תהיתי רבות מה אנשים אחרים רואים כשהם רואים ירוק (או צהוב, או אדום או...). וגם איזה טעם הם חווים כשהם חווים מתוק...
לרבע את הלולאה. 461003
את לא לבד.
לרבע את הלולאה. 461011
אה, טוב, אבל עדיין אינני יודעת מה התשובה...:)
לרבע את הלולאה. 461014
את עדיין לא לבד.
לרבע את הלולאה. 461135
לרבע את הלולאה. 461025
אני לא יודע מה את רואה כשאת רואה ירוק, אבל ברור לי (בדרגת וודאות גבוהה) שאני רואה משהו אחר כאשר אני רואה ירוק.
גם את וגם אני קוראים לצבע הדשא (של השכן), לאור התחתון ברמזור, לצבע הדגל של מכבי חיפה (או של ערב הסעודית) "ירוק", אבל אנחנו רואים דברים שונים. אולי דווקא ירוק אנחנו רואים אותו הדבר, ואת צבע הדם, האור העליון ברמזור והדגל של הפועל, זה ששנינו קוראים לו "אדום" אנחנו רואים באופן שונה.
איך את רואה את הצבעים הללו? אני לא יודע. אני גם לא יודע להעביר לך את מה שאני רואה. אבל עובדתית, הקונטרסטים שמאוד צועקים לך, אצלי הם נראים מתמזגים, ואילו גוונים שלך קשה להבחין באחד על רקע האחר נראים לי בברור.
לרבע את הלולאה. 460968
כלומר, כל מה שהוא סוביקטיבי, אינו ניתן למדידה. זה לא נכון.
לדוגמא, נניח שאני עיוור הצבעים שהזכרת. אני יודע מתי אתה רואה צבע ירוק, ואני אומר לך כל פעם שאתה רואה צבע ירוק ב-‏100% דיוק. האם אני יודע מתי אתה רואה ירוק?
אם כן, זה מספיק לי, כי זאת התחושה שאני מודד. הטיעון ש"אבל אתה לא יודע ממש מה אני מרגיש" הוא טיעון סרק, שלא מקדם אותנו לשום מקום. זה כמו לשאול בפיזיקה "למה החלקיק נעלם מכאן והופיע שם?". השאלה היא לא "למה?" אלא "איך?". השאלה היא לגבי המנגנון.

לידיעתך, מחשבי שחמט כבר מזמן לא מבצעים חישובים של מליארדי מסעים אפשריים. חישובים כאלה לא יביאו אותם מספיק רחוק בזמן קצר (זאת הסיבה שמשחק שחמט בכלל נחשב בעיה מענינת). הם יודעים לנתח מצב משחק מהיבטים טקטיים על-ידי "צפיה" באלפי משחקים מהעבר ולמידה של מצבים טובים יותר ופחות.
לרבע את הלולאה. 460973
ההבדל שאתה מתאר (גישה בלתי אמצעית) לא משנה דבר לגבי האם אנחנו יכולים או לא יכולים למדוד את זה. ולגבי כאב, אנחנו יודעים בוודאות שלכאב יש קורלציה גם לתגובות פיזיולוגיות של הגוף ובוודאי ובוודאי לגלי מוח. ואם אנחנו יכולים למדוד משהו, אז אנחנו יכולים לחקור אותו.

לגבי הצבע הירוק, מדידות אכן נותנות לנו רק DATA ותחושה היא לא DATA. אז מה. גם מדידות של טמפרטורה נותנות לנו רק DATA וטמפרטורה היא לא DATA ובכל זאת אפשר ללמוד על טמפרטורה.
לרבע את הלולאה. 461074
אינני טוען שאי אפשר לחקור כאב או חוויות סובייקטיביות אחרות. אבל האינפורמציה שתוכל להפיק באופן אמפירי אף פעם לא תוכל להיות שלמה. מבלי לחוות ירוק לעולם לא תדע באמת מהו ירוק, אף אם תוכל לומר הרבה דברים מעניינים לגבי האופן בו המוח האנושי מעבד קלט ויזואלי.

טמפרטורה היא בהחלט data, רק data ושום דבר חוץ מdata. אין שום טמפרטורה טרנסצנדנטית שנמצאת מעבר לאותה תכונה ספציפית של המידע האמפירי שיש לנו לגבי העולם. אבל תחושה (שלך, לא של זולתך) לא תלויה בשום מידע אמפירי. אתה יכול לחוש כאב מבלי לדעת שום דבר על העולם החיצון. אתה יכול לחוות ירוק בחלומך. יש לך נגישות בלתי אמצעית לחוויה הפנימית שלך, ונגישות זו לא ניתן לשכפל או לפרוט לפרוטות של אפסים ואחדים.
לרבע את הלולאה. 461084
לא ממש הבנתי את האבחנה שאתה עושה בין טמפרטורה לבין צבע. לשניהם יש מדדים חיצוניים אובייקטיביים (טמפ', אורך גל), עבור שניהם יש לנו חיישנים, ושניהם מעוררים בנו תחושה סוביקטיבית, כאשר אין לנו שום גישה לחוויה שאדם אחר חווה כשהוא נחשף לאותו הקלט.
לרבע את הלולאה. 461085
בין חווית החום לבין צבע אין הבחנה.
בין טמפרטורה לבין אורך גל גם אין.
בין טמפרטורה לבין צבע יש גם יש.
לרבע את הלולאה. 461124
אם לדייק יותר: המלה "צבע" משמשת גם לציון התופעה האובייקטיבית, וגם לציון החוויה הפנימית. "טמפרטורה" משמשת לרוב רק לציון התופעה האובייקטיבית (כי היא לועזית, ועוד נגזרת מלטינית).
לרבע את הלולאה. 461169
(וגם בגלל שהמילה הערבית, חררה, התייחדה לפריחה שנגרמת לילדים בימי הקיץ החמים)
לרבע את הלולאה. 461174
בין חווית החום לבין צבע יש הבחנה מאד ברורה. כשיש לנו שלוש חוויות שונות של חום, אנחנו מסוגלים לסדר אותם באופן חוויתי (13 מרגיש בין 3 מעלות לבין 23 מעלות) והטמפרטורה היא בסך הכל סולם מונוטוני בין החוויה לערך מדיד, אותו הדבר תקף לחווית הרעש, חווית הכאב או חווית עוצמת האור. חווית הצבע היא לא כזאת, אנחנו (לפחות אני) לא חווים את הצהוב כמשהו שבא דווקא בין האדום לכחול.
לרבע את הלולאה. 461204
קודם כך, סליחה על התגובה המאוחרת. אני עסוק. שנית, אני שמח שהעמדה שלך קצת פחות קיצונית ממה שנדמה לי בהתחלה, כשכתבת: "חוויה מודעת איננה בכלל דבר שניתן לתאר או למדל". עכשיו אתה אומר משהו הרבה פחות קיצוני: כן אפשר לחקור כאב וחוויות סובייקטיביות אחרות, אבל האינפורמציה "אף פעם לא תוכל להיות שלמה".

אבל מה זה אינפורמציה "שלמה"? ומה זה "לדעת באמת"? האם על טמפרטורה יש לנו אינפורמציה שלמה? האם אנחנו "באמת" יודעים מה זה טמפרטורה? אולי מבלי להיות עץ, לא תהיה לי תמונה שלמה על פוטוסינתיזה, ומבלי להיות מולקולה לא תהיה לי תמונה שלמה על מה זאת טמפרטורה. כשאני אפגוש מולקולה, אני אשאל אותה אם טמפרטורה זה רק DATA, אני בטוח שהיא תגיד שלא. ולמה דווקא כאשר *יש* לי נגישות בלתי אמצעית, אז התמונה בלתי שלמה, ואילו במקום שבו *אין* לי נגישות בלתי אמצעית, התמונה היא כן שלמה? ההגיון הפשוט אומר שזה הפוך. הנקודה היא פשוטה, כל מה שאמרת עד עכשיו לא מסביר למה אי אפשר להבין תחושות לפחות כמו שאנחנו מבינים טמפרטורה. אם כבר, נוכל להבין תחושות *יותר טוב* ממה שאנחנו מבינים טמפרטורה.

לגבי "אי אפשר לשכפל או לפרוט לפרוטות של אפסים ואחדות", זה כבר טענה הרבה יותר חזקה מ*לא נוכל להבין*, כי הרי אפשר לשכפל מבלי להבין. שם ההסבר שלך אפילו פחות משכנע, כי אפשר לחשוב על כמה תהליכים מנטליים ששוכפלו לאפסים ואחדות. למשל, התהליך המנטלי הידוע כ: 2+2=4. זה שיש לנו חוויה פנימית של משהו כלל לא אומר שזה לא ניתן לביטוי כאפסים ואחדות.
לרבע את הלולאה. 461281
סקירה פילוסופית קצרה ברוח האידאליזם הטרנסצנדנטי:

טמפרטורה היא "פנומנה" (תופעה, בעברית), משהו שמאפיין את העולם החיצוני שידיעתנו עליו מגיעה דרך החושים. חוויה סובייקטיבית, כמו תחושת צבע וגם תחושת החום עקב מגע בגוף בטמפרטורה גבוהה, היא "נואמנה". זה לא משהו שהידע שלנו עליו הוא מן הנסיון אלא הוא קיים בתודעתנו ללא פרשנות.

באמצעות ניתוח פנומנון אנו בונים לעצמנו מודל של העולם הנמצא מחוץ לתודעתנו. הדרך המתוחכמת ביותר לעשות זאת היא על ידי השיטה המדעית, אבל מרבית תפיסת המציאות שלנו היא אינטואיטיבית. אני מכיר במציאותו של הכיסא עליו אני יושב מתוך אינטגרציה ספונטנית של החוויות החושיות - מגע, מראה וכו' - המביאות אותי ליצור לעצמי תפיסה של עצם חומרי מסויים. אבל אין לי שום ידיעה על "הכיסא כשהוא לעצמו" אלא רק על בבואתו הקיימת בנפשי פנימה, אשר עברה את מסננת החושים והתפיסה.

אין שום טעם בעיסוק ב"כיסא כשהוא לעצמו" או ב"טמפרטורה כשהיא לעצמה" משום שלא תתכן שום ידיעה על דברים אלה. כל המשמעות של פנומנון הרלוונטית לנו כבני אדם מגולמת בידיעה האמפירית שלנו לגביהם. מה שיש זה מה שניתן למדוד. זה הכל.

לא כן לגבי נאומנון. חוויה נפשית היא לא מודל תפיסתי של משהו חיצוני. היא הדבר עצמו, מה שמתרחש בתודעה. הידיעה לגבי החוויות הסובייקטיביות שלנו זה משהו בסיסי ווודאי הרבה יותר מכל ידיעה אמפירית. אתה יכול לפקפק בקיומו של הקיר ממולך. אולי זו אשליה אופטית? אבל אם כואב לך אז כואב לך. אי אפשר לפקפק בז_ה!

עד כאן מבוא לפילוסופיה. כעת, מי שטוען שניתן לנתח חוויות סוביקטיביות כמו שמנתחים תופעות עושה אקסטרפולציה מרחיקת לכת לשיטה המדעית, שאין לה שום ביסוס רציונלי וגם שום השגים להתגאות בהם. אם תיאור "מדעי" מכניסטי של חוויה נפשית אמור להיות שקול לחוויה עצמה, הכרת התיאור הזה אמורה לגרום למבין אותה לדעת מהי החוויה בדיוק כמו זה החווה אותה. האם אתה יכול להעלות על דעתך מקרה בו עיוור צבעים מבין מהי חווית הצבע לאחר קריאת מאמר מדעי, מבין ברמה השקולה לחוויה הסובייקטיבית עצמה? לי זה נראה כל כך מופרך עד שאני מתקשה להבין איך כל כך הרבה אנשים (ובכללם אף אני בצעירותי) קיבלו על עצמם אמונה זו.

ועניין אחרון: גם את 2+2=4 מחשב לא יכול להבין. הוא יכול לחשב את זה. פה אין בעיה. אבל הוא לא ידע אם הוא חישב תרגיל מתמטי או שהוא הדפיס תגובה בדיון על תודעה. כל מה שהמחשב עשה זה להדליק ולכבות ביטים. כיצד הוא יידע מה משמעותם?
לרבע את הלולאה. 461341
מנין לי שיש לך בכלל תופעות "פנימיות", שאין ביכולתי לחוש?
אני לא יודע. מה שאני כן יודע, זה שהן באות, לדבריך, בהתאמה למצב הפיזיקלי. תחושת כאב יהיה לי מאוד קשה למדוד, אלא אם אני אבדוק את התגובה הפיזית שלך לכאב, שקיימת, וברת מדידה.
אני לא רואה כאן שום הבדל מחקירה של גורמים טבעיים אחרים, שלהם אנחנו מניחים שאין "עולם פנימי" משום מה.

אינטיליגנציה לא שונה מכך. אני מניח שאתה אינטיליגנטי, כי אתה מתנהג בעולם בצורה כזאת. אני לעולם לא אוכל לדעת אם ה"רגשות" שלך אינטיליגנטיים או לא, וזה לא ממש משנה לצורך הענין.
צורת רבים חצי נחמה 461370
תיקון קטנוני: נואומנון/פנומנון זה צורת היחיד, נואומנה/פנומנה צורת הרבים.
לרבע את הלולאה. 462422
מצטער מאד על התגובה המאוחרת.

תקן אותי אם אני טועה, אבל הפואנטה שלך היא שתיאור מדעי אינו שקול לחוויה. אני מסכים. אבל זה לחלוטין לא קשור למה שאני אומר. אני אומר, ששקילות היא כלל איננה רלוונטית.

הזכרת את השיטה המדעית. כאשר אתה טוען משהו על השיטה המדעית, אתה צריך לתאר את השיטה המדעית, ולא את הפילוסופיה ברוח האידאליזם הטרנסצנדנטי. השיטה המדעית מתעסקת בדברים מדידים. תאוריה מדעית לא נמדדת בכך שהיא "שקולה" למשהו ("שקילות" זה עניין פילוסופי, לא מדעי), אלא במידת ההתאמה לתצפיות. כבר הסכמת שהחוויות הסוביקטיביות ניתנות למדידה, באותה מידה שטמפרטורה ניתנת למדידה‏1. ומכאן, שהן ניתנות לניתוח מדעי בדיוק באותה דרך שבה טמפרטורה ניתנת לניתוח מדעי.

הטיעון שלך מדוע תיאור מדעי אינו שקול לחוויה הוא מאד משכנע. אני מקבל אותו. למעשה, הוא כ"כ משכנע, שאני השתכנעתי שגם משוואות התרמודינמיקה אינן שקולות ללהיות מולקולת מים באפס מעלות‏2. אני אגיד יותר מזה: אם תיאור מדעי אינו שקול לחוויה, על אחת כמה וכמה תיאור הנדסי שהוא הרבה יותר מוגבל . הרי תרשים של מקרר אינו שקול למשוואות התרמודינמיקה, ובטח ובטח אינו שקול לחוויה של מלפפון שהשארתי אותו יותר מדי זמן במגירת הירקות. באותה מידה, תרשים של המוח אינו שקול לתאוריה שמתארת את התודעה האנושית, ובוודאי ובוודאי אינו שקול למחשבות עצמן. וזה בדיוק הפגם בטיעון שלך, שכתבת לפני הרבה זמן.. כתבת שתודעה או רגשות אינם שקולים לאפסים ואחדות, ולכן לא ייתכן מחשב בעל תודעה. נכון, הם אינם שקולים, אבל זה לא רלוונטי. הם גם לא שקולים לתרשים של המוח.

---
1 לכל לחוויה נפשית יש איזשהו ביטוי מדיד בפעילות מוחית ובד"כ גם בהתנהגות של האדם. בפרט, יש חוויות נפשיות שאנחנו לא מודעים אליהן, אבל ניתנות למדידה באופן חיצוני.
2 מה גם, שמשוואות התרמודינמיקה מדברות על ממוצעים ולא על מולקולה בודדת.
לרבע את הלולאה. 462434
"יש חוויות נפשיות שאנחנו לא מודעים אליהן, אבל ניתנות למדידה באופן חיצוני" - בא לך לפרט?
לרבע את הלולאה. 462539
קל יחסית למישהו שמכיר אותך לדעת אם אתה פוחד ממישהו, או נמשך למישהו, גם אם אתה עצמך לא מודע לזה. זה מאד נפוץ שאנשים לא מודעים לרגשות מסויימים - אבל הרגשות האלו מתבטאים בהתנהגות שלהם.
לרבע את הלולאה. 462543
במצבים האלה הייתי מהסס מאוד לקרוא לזה ''חוויות'' - בשבילי עיקר המשמעות של המלה הזו הוא לציין תחושה ומודעות. עדיף בעיניי ''מצבים נפשיים (לא מודעים)''. סמנטיקה בצד, חוסר המודעות הזה רומז שאולי יש הבדל חשוב בין מצב כזה לבין מצב שמבחינה ''מדידה'' הוא אותו דבר, אבל עם מודעות.
לרבע את הלולאה. 462645
הנקודה העקרונית היא שמדידה חיצונית היא מקור מידע אמין הרבה יותר על אותו דבר שנטען שכלל אי אפשר לתאר או לחקור אותו, ושהגישה אליו היא גישה סובייקטיבית בלבד. הרי המוח האנושי הוא מומחה בהדחקה ובהמצאה. ומה שאתה באמת ובתמים חושב שחווית לפני 24 שעות עשוי להיות שונה מאד ממה שבאמת חווית לפני 24 שעות. והסיבה היחידה שאנחנו יודעים את זה היא בגלל שעשו מדידות חיצוניות.

גם את ההבדל שאתה מתאר: בין מצב נפשי לא מודע, מצב נפשי במודעות נמוכה, מצב נפשי במודעות גבוהה, מצב נפשי מודחק ועוד הרבה אפשרויות, קשה מאד לאבחן על עצמך והרבה יותר קל לאבחן באופן חיצוני. ככה שלהגיד שבמבחינת "מדידה" זה אותו דבר, זה קצת מצחיק - כנראה מבחינת מדידה חיצונית זה יהיה דומה בדברים מסויימים, ושונה מאד בדברים אחרים. אבל אם אני אשאל אותך, בדיעבד: "איך הרגשת אז, כש.." אז תחשוב שזה היה אותו דבר כמו אז, למרות שזה לא היה אותו דבר כמו אז.
לרבע את הלולאה. 462722
יש לי הרגשה שקצת מפריזים בערכה של המודעות:
תיאור מקרה – קלפטומניה ואפילפסיה אשר טופלו על ידי Topiramate

אישה, בת 20. מתלוננת על גניבת חפצים קטנים (עפרונות, מחקים, עיתונים ועוד) באופן כפייתי. הדבר החל שנתיים קודם לכן, והיא טופלה במרפאת-חוץ פסיכיאטרית. בנוסף, הופנתה לייעוץ נוירולוגי בשל התקפים אפילפטיים מסוג complex partial, אשר החלו באותה תקופה בה החלו הגניבות.
המטופלת דיווחה כי לפני מעשה הגניבה היא מרגישה מתח עצום, אשר הופך להנאה, אם כי קצרה, בעת הגניבה. עוד סיפרה המטופלת כי לאחר הגניבה היא מרגישה אשמה וחרטה. היא אובחנה כסובלת מקלפטומניה*.
המטופלת לא סבלה ממחלות פסיכיאטריות נלוות. היא טופלה ללא הצלחה בשני סוגים של SSRIs (fluoxetine 40 mg/day או citalopram 40 mg/day).
לאחר בדיקות אשר הצביעו על ליקוי מבני באונה הטמפורלית השמאלית, שמהווה מוקד אפילפטי, הוחל טיפול ב-Topiramate 300mg/day (המינון נקבע על פי תגובה קלינית ותופעות לוואי). תוך חודשיים מתחילת הטיפול ב-topiramate היתה המטופלת חופשייה מהתקפים אפילפטיים ומקלפטומניה.
הכותבים מאמינים כי בשל סמיכות הופעת הקלפטומניה וההתקפים האפילפטיים ובשל הליקוי המבני באונה הטמפורלית השמאלית, והעובדה כי שתי ההפרעות הנ"ל נפתרו על ידי טיפול ב-Topiramate, ניתן להניח כי קיים קשר ביניהן.
לרבע את הלולאה. 462728
איפה מצאת את התיאור הזה?
לרבע את הלולאה. 462746
תקציר באחד הז'ורנאלים המקצועיים לרוקחים.
לרבע את הלולאה. 463127
מדהים!
לרבע את הלולאה. 461533
אני מנסה לנסח במונחים שמובנים לי את מה שאמרת כאן כדי להבין אם אני מסכים איתך או לאו:

האם לירייה של פוטנציאל פעולה בעצב ראיה כתוצאה מפגיעה של פוטון בקולטן ברשתית העין אתה קורא אפקט קוונטי?

האם להגברת הרגישות בסינפסה כתוצאה ממספר רב של גירויים שעברו דרכה אתה קורא דינמיקה קוונטית אוניטרית?

האם במיקרו צינוריות בנויירונים אתה מתכוון למה שמכונה מיקורטובולי?

האם אתה מתכוון למשל לאיזורים במוח שמייצגים מושגים מוגדרים מוכנים לשליפה מיידית כמו מושג של "שולחן" או "אדום" כדי ליצור את העצם "שולחן אדום" בשלב הפלט?

אם זו הקונצפציה של מבנה המוח שאתה מתכוון אליו אני מסכים איתך לחלוטין.
מה שלא מובן לי מכל זה, למה זה לא יכול להיות מיוצג על ידי איזו מכונה אבולוציונית או שנבנתה על ידי אדם.
לרבע את הלולאה. 461620
"האם לירייה של פוטנציאל פעולה בעצב ראיה כתוצאה מפגיעה של פוטון בקולטן ברשתית העין אתה קורא אפקט קוונטי?" - דווקא במקרה זה אני לא בטוח שהאפקטים הקוונטיים חשובים.

"האם להגברת הרגישות בסינפסה כתוצאה ממספר רב של גירויים שעברו דרכה אתה קורא דינמיקה קוונטית אוניטרית?" - לא. יתכן, עם זאת, שהגברת רגישות זו תלויה גם בתהליכים קוונטיים בנוסף לאפקט המצטבר הקלאסי של היזון חוזר חיובי במעבר גירויים.

"האם במיקרו צינוריות בנויירונים אתה מתכוון למה שמכונה מיקורטובולי?" - כן.

"האם אתה מתכוון למשל לאיזורים במוח שמייצגים מושגים מוגדרים מוכנים לשליפה מיידית כמו מושג של 'שולחן' או 'אדום' כדי ליצור את העצם 'שולחן אדום' בשלב הפלט?" - אני לא יודע אם זה קשור. אין לי שום תיאוריה ספציפית של תהליכים מוחיים. עקרונית, כדי להסביר זכרון די בתיאוריה קלאסית של רשתות נוירוניים. להערכתי הדינמיקה הקוונטית קשורה יותר למודעות, תפיסת משמעות ותפיסת זמן, תהליכים שלא ניתן לבטא במונחים של עיבוד מידע.

"למה זה לא יכול להיות מיוצג על ידי איזו מכונה אבולוציונית או שנבנתה על ידי אדם" - אולי זה יכול. כל מה שאני טוען זה שלא מדובר במשהו שאקוויוולנטי למחשב קלאסי.
לרבע את הלולאה. 461975
ירייה (לא קוונטית) מהמותן:
השאלות שלי מתבססות על דברים מקובלים היום בחקר פעילות המוח. אני מניח שיש מיסתורין מסוג מסויים בעצם הדיון בתודעה ומודעות, אבל לייחס את עצם פעולת המוח לאיזה תהליכים מיסטיים נראה לי מיותר למדי ועד כמה שידוע לי לא נלקחים בחשבון על ידי העוסקים בתחום חקר פעילות המוח.
ברור שהמוח איננו מחשב קלאסי אבל גם ברור שהוא מין מכונה ביולוגית.
לרבע את הלולאה. 462028
1. מי דיבר על "תהליכים מיסטיים"? מה מיסטי בתורת הקוונטים?
2. אכן, רוב העוסקים בתחום חקר פעילות המוח לא לוקחים בחשבון אפקטים קוונטיים. וחבל שכך. הם מחמיצים משהו חשוב.
3. המוח הוא מכונה ביולוגית. מה עוד הוא יכול להיות? אבל המכונה הזאת מנצלת את חוקי הטבע באופן מאוד מאוד מיוחד ובלתי צפוי.

התזה החישובית היא בסך הכל תזה. אין לה שום ראיות. היא אפילו לא מוגדרת היטב. הנטייה להצמד לפרדיגמה הקיימת היא סבירה, אבל אחרי כשישים שנה ללא תוצאות משמעותיות הגיע הזמן לנסות לחשוב על אופציות נוספות.

אגב, כפי שכבר ציינתי, אין בעיה אפריורית לתאר לאכסון זכרון באמצעות מודל חישובי של רשתות נוירונים. זה לא קשור לתודעה. תהליך צבירת הזכרון שונה מהתהליך של העלאתו למודעות.
לרבע את הלולאה. 462070
לחשוב על אופציות אחרות זה, כמובן, טוב מאד, אבל להכריז על ''הוכחות'' שאינן תקפות כמשהו שממוטט את התיזה החישובית, ולגייס לעניין מנגנונים היפותטיים שאף אחד לא יודע אם הם קיימים ואף אחד לא מבין איך הם משנים משהו אם הם קיימים - ובכן זאת לא ממש איסטרטגיה משכנעת.
לרבע את הלולאה. 462126
1. האמת אני ומרבית ההדיוטות חשים שיש משהו מיסטי בתורת הקוונטים, אבל כמובן לא כאן הנקודה.
המיסטי הוא החיבור העלום בין מנגנונים ברמת אברוני תאים ומקרומולקולות לבין אירועים קוונטיים שהם ברמה תת אטומית ומשם לאירועים ברמה של המוח השלם.
אני התחנכתי על הרצאתו של שרדינגר What is Life שבה הוא הציע מנגנון מעניין ויפה לקישור שבין אירועים ברמה הקוונטית לבין עולם החי.
2. אני, שאינני חוקר הפעילות המוחית, דווקא רציתי להציע לך מנגנון שמנצל אפקטים קוונטיים לפעילות ברמת המערכת המוחית כולה, אבל, כנראה מסיבה טובה, ויתרת על ההצעות שלי.
3. שישים שנה ללא תוצאות משמעותיות? במדעי המחשב, בבינה מלאכותית או בחקר המוח? הנה עוד קישור לדיונים בנושא חם זה:
לרבע את הלולאה. 462133
"המיסטי הוא החיבור העלום בין מנגנונים ברמת אברוני תאים ומקרומולקולות לבין אירועים קוונטיים שהם ברמה תת אטומית ומשם לאירועים ברמה של המוח השלם" - גם פה אין שום דבר מיסטי. זו תיאוריה מדעית. אמנם ספקולטיבית. אמנם בחיתוליה. אבל כך גם תיאוריית המיתרים, למשל, ואף אחד לא מכנה תיאוריה זו בשם מיסטיקה.

"רציתי להציע לך מנגנון [...] אבל, כנראה מסיבה טובה, ויתרת על ההצעות שלי" - ויתרתי? חס וחלילה. אתה מוזמן להציע.

"שישים שנה ללא תוצאות משמעותיות? במדעי המחשב, בבינה מלאכותית או בחקר המוח?" - מדעי המחשב בוודאי התפתחו המון. גם בחקר המוח הייתה התקדמות עצומה, ולו רק בגלל שיש כל כך הרבה מה לגלות. אשר לבינה מלאכותית, זה תלוי מה אתה מכנה "בינה". כיוון שאני מגדיר "בינה" כמאפיינת חשיבה מודעת, אזי ההתקדמות בכיוון הבינה המלאכותית היתה אפס בריבוע. אפילו לא הצליחו להגדיר מה בדיוק מחפשים. מאידך, אם "בינה" היא רק מטאפורה לאלגוריתמים מתוחכמים, אז עשו כמה דברים יפים. כפי שכבר כתבתי, אני רואה בתחום סוג של אלכימיה. מגלים חומרים מעניינים, אבל שום עופרת לא הפכה לזהב.
לרבע את הלולאה. 462750
בדחילו ורחימו אני מנסה להתייחס לנושא שאני מבין בו מעט מאוד מכל היבט אפשרי אבל אנסה להציג את המסגרת כפי שאני מבין אותה:
א. אני מניח שיתכן שרצפטור מסויים (מולקולת חלבון שנמצאת בדופן של תא או אברון בתוך התא) מגיב לעירור חיצוני ברמה קוונטית דבר שגורם לו לעבור למצב מרחבי שונה ומוגדר ועל ידי כך לשנות את התפקוד של האברון או התא שבתוכו הוא שתול.
ב. שינוי כזה יכול לגרום לשינוי תפקוד מיידי (נניח רקמת מוח שלמה מתחילה לירות בצורה סינכרונית) או לשינוי מצטבר היסטורי (נניח חלבונים שצוברים זכרון, DNA שצובר מוטציות וכו').
ג. אני קופץ כמה סדרי גודל קדימה - נראה לי בלתי בסביר בעליל שמערכת שלמה ומורכבת כמו מוח תפיק חוויות ספציפיות כמו למשל הזכרון של מה אכלתי אמש לארוחת הערב במנגנון קוונטי מכל סוג שהוא. אם להשתמש בז'רגון שאיננו אומר לי הרבה, הרי אין להניח שיש כאן קריסה לאיזו הסתברות אחת מוגדרת, אלא צירוף של הרבה מאוד גורמים ופרטים בלתי תלויים זה בזה.
ד. תחושת הבטן שלי שיש כאן משהו בתחום התקשורת והמשמעות. לדוגמא הסיפור הישן על הצארינה שראתה את המברק: "חנינה לא. להוציא להורג!" ושינתה את משמעותו מהקצה לקצה על ידי שינוי קטן "חנינה. לא להוציא להורג!".
האינפורמציה, כלומר הסדר שבו אירועים בדידים מסודרים מצד אחד ומנגנון שיודע לפענח את המסר מצד שני יוצר מערכת בעלת אין סוף אפשרויות (אגב, זהות מבחינה תרמודינאמית) ברמת המקרו תוך שימוש במנגנונים מוכרים וידועים ובלי צורך להניח אפקטים שאין לנו שמץ מושג כיצד הם מתחברים זה לזה.
ה. מתנהלים כאן מספר דיונים במספר רמות דיון. אין שום סיבה בעולם להניח שתשובה ברמת התרמודינמיקה, למשל, תהיה ישימה לשאלה ברמת התחושות האובייקטיביות או הסובייקטיביות של פרטים שלמים.
לרבע את הלולאה. 464665
1. יש קישור/מקור לקריאה?
לרבע את הלולאה. 464669
וכמובן (פעח"ב):
דיון 2752
טיעונים לעונש: 464673
א-פרורפו "What is life", קרא את הקטע (SECOND EXAMPLE (BROWNIAN MOVEMENT, DIFFUSION (בפרק הראשון) ושלח לשרדינגר‏1 את תגובה 428113
___________
1- מאחר והוא בארון סגור, חציו חי.
טיעונים לעונש: 464683
הגזמת, ששרדינגר יפול ככה? הוא כותב:
If you leave this
system alone a *very slow* process of 'diffusion'
sets in, the at permanganate spreading in the
direction from left to right, that is, from the
places of higher concentration towards the places
of lower concentration, until it is equally
distributed of through the water.

(ההדגשה שלי). במרחק בין שתי מולקולות נוזל הוא מסדר גודל של(נניח) 9-^10 מטר, ומהירות המולקולות הוא בערך קילומטר לשניה, אני מקבל 12^10 התנגשויות לשניה. עכשיו, כדי לעבור 1 ס"מ, צריך להתקדם 7^10 פעמים המרחק בין התנגשויות. נעלה את זה בריבוע ונקבל 14^10 התנגשויות, כלומר כדקה או שתיים. כדי לעבור דצימטר, עוד פאקטור 100. למלא דלי? עוד פאקטור 10.

מניסיוני עם קלי, בהתחלה רואים ממש פסים שיוצאים ממנו ומתערבלים. מתגובתך הבנתי שגם אתה לא ראית "כדור מתפשט" אז הנחתי שעל זה אתה מדבר.
טיעונים לעונש: 464685
דצימטר, הה? עם *זה* אני בשום אופן לא מתווכח.
טיעונים לעונש: 464997
1 את זה בדיוק אני לא מצליח להבין - איך אחרי שהוא כתב ("הרצה") על מולקולת הענק הוא המשיך עם הפרדוקס של החתול?
המולקולה הענקית קיימת או לא? בעקבותיה בא חתול שלם או לא?
לרבע את הלולאה. 464674
פעח"ב?
לרבע את הלולאה. 464678
פרסום עצמי חסר בושה.
לרבע את הלולאה. 464689
תודה.
לרבע את הלולאה. 464690
בעצם תודה כפולה, כי מהכניסה לקישור שלך הבנתי שאין בכלל טעם לקרוא את כל ההרצאה (שירות לקורא! שירות לקורא!).
לרבע את הלולאה. 464703
זאת לא הרצאה אלא ספר.
לרבע את הלולאה. 464707
ולדעתי *כן* יש טעם לקרוא אותו.
לרבע את הלולאה. 464712
בהחלט. אגב, שמת לב שהוא מדבר על 24 זוגות כרומוזומים? לא ידעתי שכך חשבו פעם.
לרבע את הלולאה. 464714
לא שמתי לב, אבל שמעתי כבר על הבילבול הזה.
לרבע את הלולאה. 464726
גם הרצאה, לא? תגובה 462126
לרבע את הלולאה. 464735
אם זאת היתה הרצאה, היא היתה א-ר-ו-כ-ה.
לרבע את הלולאה. 464764
באמת פתחת את הקובץ ואמרתי לעצמי: בטח התייבש לו הגרון.
לרבע את הלולאה. 462156
מותר להתנגד למטאפורה של "מכונה"?
מכונה היא סוג של כלי שמישהו בונה לצורך (או צרכים) מסוימים.
לאיזה צורך בנו אותנו? ומי עשה זאת?

(אני לא טוען שיש במוח תהליכים מיסטיים, אבל גם לא רואה סיבה להניח שיש רק שתי אפשרויות: "נפש" או "מכונה").
לרבע את הלולאה. 462194
סתם אחד לא המשיל *אותנו* למכונה, אלא את המוח שלנו. אפשר להתנגד גם לזה, אבל האם אתה מתנגד להמשלת הלב למכונה?
לרבע את הלולאה. 462401
ובכן, אני מניח שזה צורם לי פחות מאשר המטאפורה של המוח כמכונה, אבל גם הלב הוא לא רק משאבה. הוא מקבל קלט עצבי די מסובך וההבנה שלנו לגבי מנגנוני העצבוב רחוקה מלהיות שלמה.

הנקודה העיקרית שמפריעה לי במשל המכונה היא שבעוד שלגוף חי יש יכולת מסוימת לתקן את עצמו, למכונות שאנחנו מייצרים כמעט ואין יכולת תיקון עצמית, או כושר הסתגלות לתנאים משתנים.

אינטואיטיבית, נדמה לי שהכלים הדרושים כדי לתכנן ולבנות מכונות סתגלניות כאלו טרם הומצאו.
לרבע את הלולאה. 462402
''למכונות שאנחנו מייצרים כמעט ואין יכולת תיקון עצמית'' - למיטב הבנתי, אין בעיה תיאורטית ליצור מכונות כאלו. היה סבלני.
לרבע את הלולאה. 462437
הניסוח של סתם אחד "המוח הוא מין מכונה ביולוגית" מרשה שיהיו הבדלים (ואפילו רומז שאכן יש כאלו!) בינו לבין מכונות "קלאסיות", אבל הבדלים שלצורך הדיון אינם קריטיים. יכולת תיקון עצמית, והסתגלות, בוודאי אינן משהו שפוסל משהו מלהיות מכונה. דורפל הלך לעתיד הקרוב - זה רחוק מדי; למעשה יש תכונות כאלה בכמה מכונות פשוטות לחלוטין מההווה: צמיג של אופניים עם נוזל לסתימה אוטומטית של נקר, ועדשה שמתכהה באור.

נראה לי שאין באמת חילוקי דעות בין שלושתנו, והפתיל הזה סתם מידרדר למחוזות הסמנטיקה הלא-מעניינת.
לרבע את הלולאה. 462465
אל תלך רחוק - לכל מנוע עם מערכת קרור שמופעלת ע''י תרמוסטט יש ''כושר הסתגלות לתנאים משתנים'' (לפני שהזכרנו בקרת אקלים, בקרת שיוט ובקרת יציבות).
לרבע את הלולאה. 462692
(הופשטטר נוקט באותה דוגמא ממש -- מערכת עם תרמוסטט -- בספר ''אני לולאה מוזרה'').
לרבע את הלולאה. 462530
הילדים השתלטו על המחשב ולא יכולתי להשיב.
אינני בטוח שהויכוח הוא רק סמנטי.
מה שרציתי להגיד בביטוי "מכונה" הוא שגם המוח, או בעצם האישיות כולה (במובן הגופני) היא בסופו של דבר צירוף של חומרים. פירוש הדבר לא שהכול או "נפש" או "מכונה" אלא שההסבר הפילוסופי צריך להתמודד ולדעתי גם לגשר על הדיכוטומיה הזאת.
אחד הרעיונות היפים בעיני הוא שמצבים ביולוגיים שונים נמצאים בה בעת במצב פיסיקאלי (נניח של שיווי משקל כימי) וגם כנושאים מידע. דוגמא פשוטה שכבר ניתנה כאן 2+2=4 הוא צירוף סימנים מרצד על מסך המחשב אבל תלמיד בכיתה ב' שלמד קצת חשבון יודע לפרש את הסימנים הללו כטענה מתמטית ואולי גם להבין שאם קיבל שני תפוזים מרותי ושנים מילד אחר אזי יש לו ארבעה תפוזים.
לדעתי הדיון המעניין שמתפתח כאן קצת מתעלם מההיבט שמערכות ביולוגיות הן מערכות של מידע ותקשורת ומערכות כאלה תלויות במשדר אבל לא פחות מכך בקולט ובלי קולט אין משמעות לשדר.
ועוד דבר אחד קטן אם כבר הגעתי עד כאן. נדמה לי שמרבית הפעילות המוחית מוקדשת לפעולות שכלל איננו מודעים להן כמו שמירה על לחץ הדם, שיווי משקל, נשימה, איסוף שתן, הגברה או דיכוי של הפרסיטלטיקה של המעי וגם כמובן יצירת תחושות עונג, עייפות, דחף מיני ועוד. האם גם הפעילות הזאת מצריכה הסברים קוונטיים או שכאן הכימיה מספיקה?

ולבסוף, כן מישהו בנה אותנו. כנראה האבולוציה. כנראה בשביל לשרוד. אני יודע שזה הסבר קצת מגושם ופרימיטיבי אבל יש בו משהו.
לרבע את הלולאה. 462562
כנראה שאנחנו מסכימים. ואם כבר הזכרת את המערכות הביולוגיות כמערכות תקשורת, האם מישהו מבין מספיק בנושא כדי לכתוב מאמר קצר על ביו-סמיוטיקה ( http://en.wikipedia.org/wiki/Biosemiotics )?
לרבע את הלולאה. 460785
ניסוי מחשבה: נניח שמצליחים להרכיב מספיק טרנזיסטורים, או מספיק תאי-תוכנה, כדי לסמלץ מוח אנושי נוירון-נוירון, על-פי המודלים הקיימים היום לעירור נוירונים (בלי קוונטים). ונניח שמתברר שהדבר הזה מתפקד מבחינת קלט-פלט כמו מוח אנושי (מנהל שיחה, מתעצבן, מזמזם מנגינות, ואומר "זה אדום" כשהוא רואה אבטיח).

(1) אני מבין שזה נראה לך לא סביר, אבל האם זה נראה לך לפחות אפשרי?
(2) אם כן, האם אתה לא חושב שאולי תתחיל לחשוד שמא בכל זאת יש לדבר הזה תודעה אמיתית?
לרבע את הלולאה. 460802
לי לפחות זה נראה בלתי אפשרי לחלוטין.
לרבע את הלולאה. 460814
מה בדבר נוירון בודד? האם בלתי אפשרי בעיניך שבאלף השנים הבאות ניתן יהיה להחליף נוירון אחד באביזר סיליקוני שיחקה את פעולתו במדויק?
לרבע את הלולאה. 460846
למה אתה מגביל את השאלה לסיליקון?
לרבע את הלולאה. 460855
סתם, כי זאת טכנולוגיה מוכרת.
לרבע את הלולאה. 460858
יש בעיה (חוץ מזה שאנחנו לא יודעים איך לעשות את זה, אני מתכוון לבעיה עקרונית) בלבנות ניורון מאותם חומרים שהטבע בונה, או בלהשתמש בניורון שהטבע כבר בנה למטרות משלנו?
לרבע את הלולאה. 460863
אני לא יודע למה אתה קורא "בעיה" אבל דומני שחלק משוללי האפשרות ל AI חזק טוענים שיש איזה מרכיב ייחודי למוחות טבעיים. הניסוי המחשבתי של החלפת נוירון אחר נוירון ברכיב אלקטרוני‏1 מקביל אמור לחדד את הנקודה.

____________
1- כדי שלא אובן לא נכון, אני לא אביו הרוחני של הניסוי הזה.
לרבע את הלולאה. 460866
למה אתה חושב שדווקא רכיב אלקטרוני יחדד את הבעיה?
לרבע את הלולאה. 460899
נו, בסופו של ניסוי המחשבה הזה מגיעים למחשב, וזה מ.ש.ל.
לרבע את הלולאה. 460916
חשבתי שהמטרה של ניסוי המחשבה היא לבנות מכונה שחושבת. טעיתי?
לרבע את הלולאה. 460959
לבנות אותה מרכיבים לא אורגניים.
לרבע את הלולאה. 460989
מה הופך רכיבים אורגניים לפסולים? אי אפשר לשחזר ניורון בעזרת רכיבים לא אורגניים?
לרבע את הלולאה. 460990
חוקרי הבינה המלאכותית, כיום, חוקרים את האפשרות ליצור בינה במחשב. שייח ספיר ואחרים טוענים שלא תיתכן בינה במחשב. השוטה ניסה בניסוי המחשבה שלו לשכנע שכן תיתכן בינה במחשב. אם היו מגיעים למסקנה שזה אפשרי, הויכוח נגמר. אם היו מגיעים למסקנה שזה לא אפשרי, אז אפשר לדון על מכונות מסוג אחר (כפי שהצעת). בהקשר הדיון, הדיבור על טרניזטורים דווקא, ודווקא מסיליקון, הוא ''חזק'' יותר.
לרבע את הלולאה. 461024
כדי לא להתהדר בנוצות זרים, אני רוצה להדגיש שוב שזה אינו ניסוי מחשבה שלי אלא של <הכנס את השם המתאים שכמובן פרח מזכרוני>. לצערי.
לרבע את הלולאה. 461026
אולי דניאל דנט?
.ניסוי מחשבה של סירל. החדר הסיני 694957
.ניסוי מחשבה של סירל. החדר הסיני
.ניסוי מחשבה של סירל. החדר הסיני 694972
ההפך. החדר הסיני הוא ניסוי מחשבה שמנסה להוכיח שלא תיתכן בינה מלאכותית. הוא לא מציע להחליף נוירון-נוירון. חוץ מזה הוא שגוי בעליל.
.ניסוי מחשבה של סירל. החדר הסיני 694982
א. חשבתי שהוא מנסה להראות שיכולה להיות ישות שמציגה חזות של בינה, אבל איננה כזאת במונחים מקובלים.
.ניסוי מחשבה של סירל. החדר הסיני 695033
נכון, זה יותר מדויק ממה שכתבתי.
לרבע את הלולאה. 461048
הוא אולי חזק יותר, אבל אני לא משוכנע שהוא עוזר לטיעון. בגלל שהוא מעביר אותו מהמישור העקרוני למישור הטכני, אז אם התשובה תהיה שלילית, אין לשוטה לאן להתקדם לחיזוק הטיעון שלו (אין טעם להכנס לויכוחעל מה אפשר אואי אפשר לעשות בעזרת סיליקון, זה בטח לא ישכנע אף אחד שיש או אין קואלה), וזה רק בגלל שהוא הגביל את עצמו מראש. אבל, האמת, גם אחרי שהשוטה יבנה מכונת טיורינג ו/או יצליח להבין מה בדיוק עושה כל ניורון וניורון במח (ואיך) ו/או אחרי שהוא יצליח לבנות תוכנת תרגום כל כך מוצלחת שתדע לבחור בהצלחה בין ינשוף לתנשמת (ואני בכלל לא בטוח שמדובר במשימות כל כך קשורות) הוא לא יצליח לסיים את הדיון על קיומה של הקואלה. אז, מה אני מתערב?
לרבע את הלולאה. 461050
בוא נראה קודם אם יש סיבה לחשוב שהתשובה באמת שלילית. אם הויכוח הוא באמת טכני, כלומר כל הקושי מצטמצם לבניית מעבד שמחקה במדויק פעולה של נוירון, נראה לי שהתקדמנו קצת.
לרבע את הלולאה. 461156
לחדד את הנקודה: אי אפשר "להחליף" את הנוירונים במוח ברכיבים אלקטרוניים (למשל) ולקבל אותה פונקציונליות במקרים הבאים:
1) אם יש מאפיינים בתפקוד הנוירון שרלוונטיים לפעילות המוחית ושאינם מהווים אופרציות לוגיות.
2) אם יש אפקטים "הוליסטיים" ההופכים את הרשת הנוירונית ליותר מסכום מרכיביה. למשל, מצבי, שזירה קוונטית בין נוירונים שונים או קוהרנטיות קוונטית מאקרוסקופית (כמו בעל-מוליך או בעיבוי בוז-איינשטיין, למי שמכיר).
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ראובן
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • ראובן
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  התחליף היחיד לDC3 • ראובן
  התחליף היחיד לDC3 • שוטה הכפר הגלובלי
  התחליף היחיד לDC3 • ראובן
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • easy
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • ערן בילינסקי
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • l
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  הספר הטוב ביותר שמיששתי • ראובן
  הספר הטוב ביותר שמיששתי • ראובן
  הספר הטוב ביותר שמיששתי • שוטה הכפר הגלובלי
  הספר הטוב ביותר שמיששתי • ראובן
  הספר הטוב ביותר שמיששתי • האייל האלמוני
  הספר הטוב ביותר שמיששתי • ראובן
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • Reut
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • l
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ראובן
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • ראובן
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ראובן
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • סתם אחד
  ''נפלאות התזונה'' • ראובן
  ''נפלאות התזונה'' • סתם אחד
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • ראובן
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  נוירונים לא עושים שום פעולה חישובית • האייל האלמוני
  נוירונים לא עושים שום פעולה חישובית • האייל האלמוני
  נוירונים לא עושים שום פעולה חישובית • שוטה הכפר הגלובלי
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • l
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • דורפל
  ! • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • ברקת
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • האייל התבוני
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • האייל התבוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל התבוני
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל התבוני
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • ירון
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • איילמוני
  גולדבך • שוטה הכפר הגלובלי
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • איילמוני
  לרבע את הלולאה. • ראובן
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • אלון עמית
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • אלון עמית
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • אלון עמית
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שייח ספיר
  לזמר את ההוכחה. • טל כהן
  לזמר את ההוכחה. • שייח ספיר
  לזמר את ההוכחה. • טל כהן
  לזמר את ההוכחה. • שייח ספיר
  ההוכחה? • אלון עמית
  ההוכחה? • שייח ספיר
  ההוכחה? • האייל האלמוני
  ההוכחה? • אלון עמית
  ההוכחה? • שייח ספיר
  ההוכחה? • אלון עמית
  ההוכחה? • אורי גוראל-גורביץ'
  ההוכחה? • שייח ספיר
  ההוכחה? • אלון עמית
  ההוכחה? • שוטה הכפר הגלובלי
  ההוכחה? • שייח ספיר
  ההוכחה? • אלון עמית
  ההוכחה? • שייח ספיר
  לזמר את ההוכחה. • טל כהן
  לזמר את ההוכחה. • אלון עמית
  לזמר את ההוכחה. • עומר
  לזמר את ההוכחה. • האייל האלמוני
  לזמר את ההוכחה. • טל כהן
  לזמר את ההוכחה. • האייל האלמוני
  לזמר את ההוכחה. • שייח ספיר
  לזמר את ההוכחה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • טל כהן
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • שוטה הכפר הגלובלי
  לרבע את הלולאה. • דורפל
  לרבע את הלולאה. • כבשה
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • כבשה
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • גדי אלכסנדרוביץ'
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • גדי אלכסנדרוביץ'
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • גדי אלכסנדרוביץ'
  לרבע את הלולאה. • אורי גוראל-גורביץ'
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • האייל האלמוני
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • שייח ספיר
  לרבע את הלולאה. • ירדן ניר-בוכבינדר
  לרבע את הלולאה. • שייח ספיר

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים