הוא לולאה מוזרה 2899
ראיון עם דאגלס ר. הופשטטר בעקבות ספרו החדש, "אני לולאה מוזרה". ראיינו ותרגמו: טל כהן וירדן ניר־בוכבינדר.
דאגלס ר. הופשטטר
דאגלס ר. הופשטטר (צילום: מאוריציו קודוניו, תחת רשיון CC Attribution 2.5)
דאגלאס ר. הופשטטר התפרסם לראשונה בספרו "גדל, אשר, באך" (גא"ב), שראה אור בשנת 1979. הספר, שזכה בפרס פוליצר לשנת 1980, עסק בחידת התודעה ובאפשרות התיאורטית ליצור בינה מלאכותית; אולם, כפי שהופשטטר עצמו העיד פעמים רבות בשנים הבאות, מעטים הבינו באמת את נושא הספר, ורבים התמקדו באופן ההצגה יותר מאשר בתוכנו הממשי.

הופשטטר, פרופסור למדעים הקוגניטיביים ולמדעי המחשב באוניברסיטת אינדיאנה, פרסם ספרים נוספים העוסקים בתחום; הנודע שבהם הוא "The Mind's I", אוסף מאמרים וסיפורים שערך יחד עם הפילוסוף דניאל דנט. ספרו האחרון, "אני לולאה מוזרה", ראה אור השנה, ועוסק גם הוא בשאלת התודעה. לאחר פרסום הספר, הסכים להתראיין עבור "האייל הקורא". הראיון נערך בדואר אלקטרוני, ולכן תשובותיו ארוכות ומפורטות יחסית; נדמה כי בראיונות שהוא מעניק בעל־פה, הופשטטר מתבטא באופן לקוני למדי.

"אני לולאה מוזרה" - עטיפת הספר

"אני לולאה מוזרה" - עטיפת הספר



חלקו הראשון של "אני לולאה מוזרה" דומה לגרסה מתומצתת של "גדל, אשר, באך", וחוזר על הניסיון להסביר את התודעה כלולאה מוזרה. אך שלא כמו גא"ב, ספר זה לא דן בבינה מלאכותית. האם אתה מאוכזב מהאופן בו התקדמו המחקר הקוגניטיבי ומחקר הבינה המלאכותית בשלושת העשורים האחרונים? האם האמנת, כמו חוקרים רבים אחרים באותן השנים, כי מכונות תבוניות נמצאות ממש "מעבר לפינה"?

"בפירוש לא האמנתי כי מכונות תבוניות נמצאות ממש מעבר לפינה כשכתבתי את גא"ב. סוף פרק י"ט בגא"ב (שכותרתו "בינה מלאכותית: מבט לעתיד") מבהיר זאת היטב.

"האם אני מאוכזב ממידת ההתקדמות במחקר קוגניטיבי ובבינה מלאכותית בכשלושים השנים האחרונות? כלל וכלל לא. להפך, הייתי מודאג מאוד אפילו אם היינו רק מתקרבים לתבונה אנושית – הייתי מפחד כי תבונתנו ונשמותינו הן חסרות עומק. השגת מטרות הבינה המלאכותית בתוך כמה עשורים הייתה גורמת לי לאבד לחלוטין את הכבוד שאני חש לאנושיות, ובפירוש לא רציתי בכך (ועדיין איני רוצה).

"אני מעריץ מושבע של האנושיות כשהיא בשיא עומקה ובשיא כוחה – של אנשים כגון הלן קלר, אלברט איינשטיין, אלה פיצג'רלד, אלברט שוויצר, פרדריק שופן, ראול ולנברג, פאטס וולר, וכן הלאה. אני מוצא עומק אין־קץ באנשים שכאלה (וברבים אחרים שהזכרתי ב"אני לולאה מוזרה"), ולא הייתי רוצה לחשוב שניתן להביע את כל היופי ועומק המחשבה והטוּב הללו – ולו בקירוב! – במכשירי החישוב הנוקשים להחריד של ימינו."

האם אתה עדיין מאמין שזה יקרה, בסופו של דבר?

"קשה לי לומר בוודאות, אבל אני חושב שכן, בסופו של דבר. אולם לא הייתי רוצה להיות בסביבה כשזה יקרה. עולם כזה יהיה זר לי מדי. אני מעדיף לחיות בעולם שבו מחשבים עודם מאוד, מאוד טפשים. ואני נהנה מאוד לצחוק על חוסר הגמישות הבלתי־צפוי והמגוחך המופיע במודלים הממוחשבים של תהליכים מחשבתיים, אותם הדוקטורנטים שלי ואני מתכננים יחדיו. זה משמש עבורי כתזכורת תמידית לדקויות המרובות והחמקמקות האדירה של התבונה האנושית.

"למעשה, אני שמח מאוד שיש לפנינו עוד דרך ארוכה במסע אל הבינה המלאכותית. אני חושב שנקודת המבט ה"פסימית"-לכאורה שלי היא בעצם סוג עמוק של אופטימיות, בעוד שהגרסאות ה"אופטימיות" של ריי קורצווייל ואחרים נדמות לי כתפישה פסימית עד מאוד של טבע התבונה האנושית."

(עוד נדבר על ריי קורצווייל בהמשך הראיון).

בספר, אתה משתמש במלה "נשמה" (soul) במקום "מודעות". אמנם הבהרת היטב שאין למונח, כפי שאתה משתמש בו, שום קשר עם הקונוטציות הדתיות המוכרות שלו, אך עדיין, קשה מאוד להתנתק מקונוטציות דתיות אלה; "נשמה" היא מלה טעונה מאוד בהקשר זה. מדוע בחרת להשתמש בה, ולא, נניח, במילים "מודעות", "תבונה", "נפש", או כמה חלופות אחרות, טעונות פחות?

"אני משתמש במלה "נשמה" משום שנדמה לי שמבין כל החלופות בהן ניתן לבחור, זו המלה שמרמזת באופן הטוב ביותר על עומק המסתורין של הקיום בגוף־ראשון, שכל אדם בעל נטייה פילוסופית ודאי תוהה לגביו פעמים רבות במהלך חייו. אבל אני חושב שכינוי הגוף הראשון, "אני", הוא מלה המרמזת על כך לא פחות. אני מניח שיכולתי גם להשתמש במלה "נשמה" (spirit), אבל נדמה שגם מלה זו הייתה טעונה בקונוטציות דתיות עבור קוראים רבים.

"העניין הוא שבכל פעם שמדברים על מהות החיים, מבפנים, מתקרבים מאוד למהות הדת עצמה. כך שאין זה מפתיע שבחרתי במלה בעלת טעם דתי כדי לדבר על מסתורין עמוק הקרוב כל־כך ללב־ליבה של הדת."



אחד הטיעונים המפתיעים המופיעים בספר (ולמעשה, הופיע כבר בספרו הקודם, Le Ton beau de Marot), הוא הרעיון לפיו הנשמה שורדת לאחר הגוף בכך שעותקים שלה, "רסיסי נשמה", קיימים במוחות רבים – מוחותיהם של אחרים, שהכירו את המנוח; מעין גרסה חזקה יותר של האמונה לפיה האדם קיים כל עוד קיים זכרו. בספר הקודם דן הופשטטר ברעיון זה כשסיפר על מותה בדמי ימיה של אשתו קרול, וציין כי הוא מוצא נחמת־מה במסקנה כי במובן זה היא עדיין "קצת בחיים"; הוא הודה כי רבים יחשבו כנראה שהוא בחר באמונה כזו רק מפאת אבלו.

אתה מציג טיעונים חזקים בזכות הרעיון לפיו הנשמה שורדת את הגוף הפיזי בכך שהיא "מפוזרת" על־פני מוחות רבים; ככל שהאדם מוכר יותר לאחרים, כך נשמתו "שוכנת" יותר במוחם. מה דעתך על הטענה לפיה הימצאותה של נשמה אחת במוחו של אחר היא אך ורק הדמיה, מנגנון סימולציה שהתפתח אבולוציונית כדי לשפר את סיכויי ההישרדות של הפרט? (אחרי הכל, היכולת לחזות מה חבר אחר בשבט מתכנן לעשות יכולה להוות כלי הישרדותי חזק).

"הטיעון שלי מוצג בבירור ב"אני לולאה מוזרה". אם נשמתו של אדם היא באמת תבנית, אזי ניתן להביעה בתווכים שונים. בכל עת שתבנית זו מתקיימת באופן מפורט דיו, הרי שזוהי, על־פי הגדרתי, הנשמה עצמה, ולא מין "אך ורק הדמיה" שלה."

בהמשך הראיון יזכיר הופשטטר תרגומים שונים של "יבגני אונייגין", יצירת המופת של פושקין, וכאן הוא מציין: "נשמה היא תבנית שניתן להביעה במדיומים שונים – בדומה לתבניות של טקסט שניתן להביען במדיומים שונים של שפה ותרבות".

הביטוי "אך ורק הדמיה" מזכיר באופן חשוד את דיבורו של ג'ון סירל כשהוא מבטל, בסגנונו הלעגני, את הבינה המלאכותית. כפי שאני רואה זאת, אין כל קו היוצר הפרדה של שחור ולבן בין "אך ורק הדמיה" של ישות מורכבת לבין מימוש מלא שלה – ישנם רק גוונים רבים מאוד של אפור לאורך כל הדרך. אני מתייחס לקשת רחבה זו במקומות רבים בספריי, ובכלל זה בשלושה סיפורים קצרים נהדרים של סטניסלב לם שנכללו באוסף The Mind's I."

גם לסיפוריו של לם עוד נחזור...

אם נשמה אכן יכולה לשרוד בכך שתימצא במוחות אחרים, אזי נשמות מסוימות שורדות מאות רבות של שנים לאחר מות המוח המקורי שלהן. דוגמא אחת שאתה מציג היא פרדריק שופן, באומרך כי "שופן, האדם עצמו, שורד במידה רבה בעולמנו, אפילו כיום".

יש האומרים כי סופרים "זוכים לחיי נצח" בזכות ספריהם. רעיון רסיסי־הנשמה שלך שופך אור חדש לחלוטין על אמירה זו, ומרמז כי סופרים (ואמנים, כגון מלחינים) מאריכים ממש את הישרדות הנשמה שלהם, בכך שהם הופכים את יצירתם למוכרת. במובן זה, נדמה כי ספריך שלך כוללים מאמץ כביר להציג את פרטי חייך ואת נימי נפשך בפני הקוראים; למשל, במקום בו סופרים רבים היו כותבים "מהותי הושפעה רבות מאנשים רבים, מנילס בוהר ועד צ'רלי בראון", הרי שאתה מספק רשימה מפורטת של מעל ארבעים וחמישה שמות. הספר (כמו גם ספרך הקודם, Le Ton beau de Marot) מתובל בעשרות אנקדוטות על חייך הפרטיים. כקורא, אני ודאי מרגיש שאני מכיר אותך אישית טוב יותר מכל סופר אחר, קל וחומר בהשוואה לסופרים אחרים של ספרות מדעית. האם ניתן לראות בכך ניסיון להטביע רסיסים מנשמתך במוחם של הקוראים? האם זהו הניסיון שלך לזכות באלמוות?

"לא, איני מנסה להשיג אלמוות דרך ספריי. אני גם לא חושב ששופן ניסה להשיג אלמוות דרך יצירתו המוזיקלית. זו נראית לי מטרה אנוכית מאוד, ואני לא חושב ששופן היה אנוכי במיוחד. הייתי אומר גם שמוזיקה מביעה את נשמתו של המלחין הרבה יותר משרעיונותיו של סופר מביעים את נשמתו־הוא. אולי כמה רעיונות רגשיים שאני מביע בספריי יכולים להעביר מעט ממהות נשמתי לכמה מהקוראים, אבל אני חושב שהמוזיקה של שופן ודאי עושה עבודה טובה בהרבה [מבחינה זו]. והדבר נכון, כמובן, לגבי מלחינים רבים אחרים.

"לי אישית אין כל מחשבות על "ניסיון לזכות באלמוות" כשאני כותב. אני כותב פשוט כדי להביע רעיונות שבהם אני מאמין ושאותם אני מוצא מרתקים, משום שאני רוצה לאפשר לאנשים אחרים לחלוק רעיונות אלה. אבל רעיונות אינטלקטואליים כשלעצמם, ולא משנה עד כמה הם מרתקים, אין בהם די כדי להעביר נשמה ממוח אחד למשנהו. אולי, כפי שאמרתי, הפסקאות האוטוביוגרפיות שלי – חלקן לפחות – מעבירות רסיסים זעירים של נשמתי לכמה אנשים. אבל כאמצעי להעברת נשמות, סיפורים אוטוביוגרפיים הם אמצעי יעיל הרבה פחות מחיים לצד מישהו שאתה אוהב במשך שנים רבות, וחתירה משותפת ליעדים עמוקים בחיים – זה ברור!"

המדען והממציא ריי קורצוויל מציג מסלול אחר אל האלמוות – מסלול ארצי יותר. כמוך, קורצווייל רואה בנשמה "תוכנה" שניתן להריצה על סוגים שונים של "חומרה". יתרה מזו, הוא מאמין כי בפרק זמן קצר יחסית, תהיה ברשותנו חומרה אלקטרונית שתהיה שקולה למוח האנושי (אותו אתה עצמך מתאר כ"מכונה אוניברסלית", המסוגלת להריץ כל סוג של "תוכנת־נשמה"). ברגע שתהיה ברשותנו חומרה שכזו, טוען קורצווייל, נגיע לאלמוות: "נוריד" את תוכנת־הנשמה שלנו למוחות אלקטרוניים, ובזאת נהפוך בני־אלמוות, המסוגלים ליצור גיבויים של נשמתנו שניתן לשחזר במקרה של אסון, ויכולים לעבור ממקום פיזי אחד למשנהו במהירות הורדת־תוכנה.

האם אתה מסכים עם קורצווייל, כי חומרה המסוגלת להריץ את "תוכנת הנשמה האנושית" תהיה זמינה בעתיד הנראה לעין? האם אתה האם אתה שותף לתפישתו לפיה זוהי המקבילה לאלמוות – האם התוכנה הרצה על מחשב אלקטרוני תהיה אותו "אני"? ולבסוף, האם אתה חושב שנוכל לפתור את החצי השני של הבעיה, דהיינו היכולת לקרוא את חומרת המוח הביולוגי כדי "להוריד" את הנשמה?

"אני חושב שקורצווייל מבועת מהיותו בן־תמותה, וכמֶה בכל מאודו להימנע ממוות. אני מבין את האובססיה הזו, ועוצמתה הפראית אף נוגעת לליבי, אבל אני חושב שהיא מערפלת את ראייתו עד מאוד. נדמה לי כי תקוותיו הנואשות של קורצווייל מטילות צל כבד על האובייקטיביות המדעית שלו.

"אני חושב שקורצווייל מאמין שהטכנולוגיה מתקדמת כה מהר, ובאופן כה דטרמיניסטי (חוק מור, וכו'), עד כי בעוד כמה עשורים, באופן בלתי־נמנע, החומרה תהיה כה מהירה והננו־טכנולוגיה כה מתקדמת עד כי דברים שכיום אנו מתקשים להאמין בייתכנותם, יהיו אפשריים ואף פשוטים. נקודת מפתח בחזון הזה היא שאיש לא יצטרך להבין את הנשמה או המוח כדי לשכפל בדיוק מושלם את מוחו של אדם מסוים, משום שטריליוני "ננו־בוטים" ישחו בזרם הדם שבמוחו של האדם וידווחו על כל "פרטי החיווט" של אותו מוח ספציפי, ובנקודה זו המידע נשמר בטבלת־מידע מורכבת מאוד שניתן להזינה אל תוכנת מחשב אוניברסלית המריצה דימוי של "יריות" ניורונים, והופה! – נשמתו של אותו אדם נוצקה מחדש במדיום אלקטרוני.

"הסינגוּלריות קרובה": עטיפת ספרו של ריי קורצווייל

"הסינגוּלריות קרובה": עטיפת ספרו של ריי קורצווייל



"באופן אירוני למדי, חזון זה עוקף לחלוטין את הצורך במדע קוגניטיבי ובבינה מלאכותית, משום שכל שאנו זקוקים לו הוא תוכנית חיווט מפורטת של המוח האנושי, ואז אפשר בקלי־קלות להעתיק את המוח לתווך אחר. וכך, אומר קורצווייל, נגיע לנשמות בנות־אלמוות החיות (אולי לעד) על חומרת מחשב סופר־מהירה. וקורצווייל מאמין שכל זה יתרחש מוקדם כל־כך, שמוחו־שלו "יועלה" לחומרה סופר־מהירה, ולפיכך הוא מצפה (או לפחות, טוען בקול שהוא מצפה) כי יהפוך לבן־אלמוות – פשוטו כמשמעו, ולא באופן בו שופן הוא "בן־מעין־אלמוות", עם רסיסים זעירים בלבד מנשמתו ששרדו, אלא עם מלוא נשמתו שמורה לנצח.

"הבעיה היא שנשמה לבדה תצא מדעתה; היא חייבת להתקיים בעולם מורכב מאוד, והיא חייבת לשכון בעולם זה יחד עם נשמות רבות אחרות, ולהתרועע עמן ממש כפי שאנו עושים כאן בעולם האמיתי. ודאי כי קורצווייל לא רואה בכך כל בעיה, משום שיהיו לנו עולמות וירטואליים לרוב "שם למעלה", בגן־העדן הקיברנטי, וכמובן שתהיינה שם נשמות למכביר שתרוצנה על אותה החומרה. וקורצווייל חוזה כי נשמות־התוכנה החדשות תתרוענה זו עם זו בדרכים שאנו לא מסוגלים לחזות, או אף להעלות על דעתנו, כיום.

"ובכן, עבורי יהיה עולם חדש ו"מהולל" זה קיצה של האנושות כפי שאנו מכירים אותה. אם חזון זה יתממש, ודאי שיהיה זה קץ החיים האנושיים. שוב, איני רוצה להיות בסביבה אם חזון מעין זה יתממש אי־פעם. אבל ספק רב, לדעתי, אם כל זה יקרה בזמן הקרוב. מתי כן? איני יודע. מאות שנים, לכל הפחות. אבל איני יודע. איני עתידן כלל וכלל. אבל קורצווייל הוא "אופטימיסט" (כלומר, פסימיסט במידה מדכאת, מנקודת המבט שלי) בנוגע לקצב בו שינויים מרעישי־עולמות אלה יתרחשו.

"בכל מקרה, החזון שקורצווייל מציע (ומציעים גם אנשים חכמים מאוד אחרים, כגון האנס מורווק, ורנור וינג', אולי גם מרווין מינסקי, ורבים אחרים – שנדמים לי, אני חייב לומר, כבני טיפש־עשרה מגודלים המכורים למדע־בדיוני) מעורר בי סלידה. על־פניו זה אולי נשמע אידיאליסטי ואוטופי, אבל עמוק בפנים כל זה נראה לי אנוכי ותאוותני עד מאוד. זה נשמע לי כמו "אני, אני, אני!" – "אני רוצה לחיות לעד!". אבל מי יודע? אני אפילו לא אוהב לחשוב על הסצינה מפארת־הטכנולוגיה הזו, המכונה כיום בדרך־כלל "הסינגולריות" (ויש המכנים אותה "אקסטזת היורמים" – ביטוי נהדר!), זה מעורר בי חלחלה. מצטער!"



טיעון מפתיע אחר המופיע בספר הוא טיעון "זני" כמעט, לפיו המודעות אינה אלא אשליה; הזיה המתקיימת משום שהיא הוזה את עצמה. אפשר אולי לטעון כי תשובתו של הופשטטר לבעיה הפסיכו־פיזית היא פשוט, "אין בעיה, משום שאין כל פסיכו. זה רק נדמה לנו" – והעובדה שזה נדמה לנו היא־היא שמובילה, למעשה, לקיומו של הפסיכו. זהו ליבה של הלולאה המוזרה שהעניקה לספר את שמו. ההזיה נובעת מכך שהמוח מייצר ייצוג של סביבתו (כדי לשרוד בה), וחלק מייצוג זה כולל, בהכרח, את המוח עצמו, ה"אני", מנגנון המייצג את עצמו ובכך מוביל לעצם קיומו. ברור שלא כל מוח מייצג את סביבתו במידת פירוט שווה; בעלי־חיים שונים, למשל, מייצגים את העולם במוחם באופן נחות יותר, ולכן גם ייצוג העצמי שלהם – ומכאן, ה"אני" שלהם, "נשמתם" – ירוד יותר; אפשר אולי לומר שהם סובלים פחות מהזיות. (לפני שאתם תוקפים את הרעיון, זכרו שהוא מוצג כאן על קצה המזלג; מומלץ לקרוא קודם את הספר כדי להבין את הרעיון לעומק, גם אם אינכם מסכימים איתו).

לצורך הדיון המציא הופשטטר "סולם" דמיוני למדידת רמת ה"נשמה" של מוחות שונים: סולם הַאנֶקֶר. סולם זה נקרא על־שם ג'יימס האנקר, מבקר מוזיקה שכתב, לפני כמאה שנה, כי "אנשים קטני־נפש אסור שינסו לנגן זאת, ולא חשוב עד־כמה זריזות אצבעותיהם" בהתייחסו ליצירה מסוימת של שופן – התבטאות ששבתה את ליבו של הופשטטר בצעירותו.

ב"אני לולאה מוזרה" אתה טוען כי ה"אני" אינו אלא מיתוס, הזיה הנהזית בידי הזיה. ודאי כי מנקודת־מבט זו, ניתן להניח כי אין כל דבר מקודש בנשמות. אבל נדמה כי אתה עצמך מייחס קדושה לנשמות, למשל בהיותך צמחוני. האין תפישות אלו סותרות? אם הנשמה אינה אמיתית, ואינה אלא תוצאה מרמה גבוהה של תהליכים ביו־כימיים, מדוע עלינו לדאוג לנשמות אחרות (קל וחומר לנשמות שאתה מדרג נמוך בסולם האנקר, כמו נשמות של בעלי־חיים)?

"איני יכול להסביר זאת באופן רציונאלי לחלוטין. ברור כי גם המוח שלי נשבה במיתוס האוניברסלי של ה"אני" – ההזיה הגדולה, אם תרצו – ממש כמו כל מוח אנושי אחר. והזיה זו מובילה בהכרח לרחמים ואמפתיה (כן, אמפתיה להזיות אחרות, אבל זה מה יש). במקרה שלי, בנקודה כלשהי, רחמי כלפי "יצורים" אחרים הובילו אותי באופן טבעי לחלוטין למסקנה כי אין זה קביל להשמיד יצורים תבוניים אחרים (או הזיות אחרות, אם תרצו), כגון פרות וחזירים וכבשים ודגים ותרנגולות, כדי לצרוך את בשרם, אפילו אם אני יודע כי מודעותם (ההזויה) אינה מרמה גבוהה כמודעותם (ההזויה) של בני־אדם.

"היכן, ועל־סמך מה, למתוח את הקו? כמה האנקרים צריך כדי לזכות בכבוד? איני יודע בדיוק. פעם מתחתי את הקו בין יונקים לבין שאר ממלכת החיות, ודבקתי בהחלטה זו במשך עשרים שנה בערך. אבל לאחרונה – לפני כמה שנים, בעת שכתבתי את "אני לולאה מוזרה" ונאלצתי לחשוב שוב לעומק על כל הנושאים הללו – "הורדתי" את הרף האישי שלי, וחדלתי לאכול חיות מכל צורה וגודל. אני שלם יותר עם עצמי כעת, למרות שלעיתים אני חושד שקצת הגזמתי. אבל אני מעדיף להעניק תשר גדול מדי לנותן־שירות על־פני תשר קטן מדי, וזה דומה. אני מעדיף לטעות לכיוון נדיבות־יתר מאשר לצד השני, ולכן אני צמחוני. (אבל אני לא דואג לנשמותיהן של עגבניות, כפי שאני מבהיר בפרק הראשון של הספר)."

לקראת סוף הספר אתה דן בביצועים של מוזיקה מאת באך. יש מבצעים מודרניים שאתה מעריך במיוחד? ומה בדבר וריאציות על באך? ביצועים ג'אזיים של באך, למשל, נפוצים.

"אני לא כל־כך שם לב למבצעים של מוזיקה קלאסית, משום שעבורי מרבית המבצעים מהליגה העליונה נשמעים דומים מאוד זה לזה. ישנם כמובן הבדלים עדינים בין מבצעים דגולים, אבל מה שחשוב לי בעיקר הוא רצף התווים וההרמוניות של המלחין, ואלו תמיד נמצאים שם, באופן די מושלם. להבדלים קטנים באופן בו התווים וההרמוניות מופקים יש השפעה קטנה ותו לא. מוזיקה קלאסית עוסקת בדברים העמוקים שהביע המלחין, ולא בשינויים קלילים שנגרמים בידי המבצעים. כך לפחות אני רואה את הדברים.

"אתם יודעים עד כמה אני אוהב אנלוגיות – אז הנה עוד אחת. עבורי, האזנה למבצעים דגולים רבים המבצעים את אותה היצירה (ופעם הייתה לי חוויה כזו בדיוק – הייתי בפסטיבל מוזיקה באספן שבקולורדו, ושם קבוצה שלמה של פסנתרנים צעירים וכשרוניים להדהים בצעו בזה אחר זה את הפרק הראשון והיפהפה של קונצ'רטו מאת שומן, והאזנתי לכך במשך כמה שעות, וזה היה מרתק) היא כמו צפייה בטלוויזיה בגולשי הסקי הטובים בעולם מתחרים זה בזה באולימפיאדה. כולם עושים את מה שהם עושים באופן מדהים, וכולם מגיעים לסוף המסלול הארוך בהפרש של שנייה או שתיים זה מזה, ולעיתים רק עשיריות או מאיות השנייה! ההבדלים ביניהם הם כמעט מיקרוסקופיים, בסופו של דבר. תענוג לצפות בכולם אך איני מבדיל ביניהם. אם מישהו היה אומר לי כי הם כולם אותו האיש, לבוש בכל פעם מדים בצבעים שונים, לא הייתי מכריז "לא ייתכן!". ואתם?

"חשוב להדגיש שכל זה לא בא להפחית במאום מכשרונם הרב של אותם אנשים, אלא רק לומר שאנשים מוכשרים שונים רבים יכולים להגיע להישגים מדהימים, שאני עצמי לא יכול לחלום להגיע אליהם, אך שקשה מאוד להבחין ביניהם. מה שהם עושים מרשים מאוד, אבל ההבדלים בין הביצועים של האנשים המוכשרים הללו אינם גדולים כל־כך. וכמו בסקי, כך גם בביצועים של מוזיקה קלאסית.

"אגב, כדי להבהיר, הייתי אומר שהעניין שונה מקצה לקצה כשמדובר בג'אז ובמוזיקה פופולארית, משום שבמקרים אלה כל המבצעים לוקחים לעצמם חופש רב – הבעה עצמית היא שם המשחק! "אותו השיר", כשהוא מבוצע בידי אלה פיצג'רלד ובידי פרנק סינטרה יכול להיות שונה להדהים (וכמובן שהבדל כביר זה נובע גם מהלהקה המלווה את הזמרים, כמו גם מעיבוד מוזיקלי שונה). בג'אז ובמוזיקה פופולארית, חשוב לי מאוד מי מנגן או שר. כל ההבדל שבעולם. אבל במוזיקה קלאסית, המבצע חשוב הרבה, הרבה פחות, כל עוד מדובר במבצע מוכשר מאוד.

"אני חייב לומר שתרגום ספרותי דומה יותר לג'אז או מוזיקת פופ מאשר לביצועים של מוזיקה קלאסית, משום שגם כאן, אישיותו של המתרגם הופכת לחלק מהותי ומרכזי ב"קול" המדבר. לא ניתן להתחמק מכך, ולכן תרגום הוא אמנות עמוקה וחשובה כל־כך".

תרגום ספרותי הוא נושא שהופשטטר מתעניין בו מאוד, מאז שעזר לתרגם לצרפתית את "גדל, אשר, באך". תרגום הוא הנושא העיקרי של ספרו Le Ton beau de Marot, והופשטטר חוזר לנושא גם בשאלה האחרונה. למעשה, הוא מנצל את השאלה כדי לקשור את כל נושאי הדיון גם יחד:

כשהספר עוסק בשאלת הנשמה, "אני לולאה מוזרה" (כמו גם כמה מהמאמרים ב-The Mind's I) שואב מנושאי מדע־בדיוני רבים, כגון טלפורטציה. אבל רשימת האנשים שהשפיעו על חייך לא כוללת אף סופר מד"ב, ודמות המד"ב היחידה ברשימה היא קפטן נמו. האם אתה נוהג לקרוא מד"ב? מה דעתך על הסוגה?

"כשהייתי בן 10 או 12, אהבתי מדע בדיוני (אני עדיין זוכר בפרוטרוט כמה היבטים של הספר "כוכב אדום" מאת רוברט היינליין) והוא היה עבורי מסעיר מאוד, אבל כעבור זמן־מה עייפתי מכך. ובכל זאת, אני כן מעריץ כמה סופרי מדע־בדיוני, כגון רוברט ל. פורוורד (שהיה פיזיקאי במקצועו – הוא מחברו של הספר "ביצת הדרקון", שלו הקדשתי פרק שלם כמעט ב-Le Ton beau de Marot), וסטניסלב לם (מחבר ספרים רבים, ובהם "הקיבריאדה", ששני פרקים ממנו נכללים ב-The Mind's I, יחד עם יצירה אחרת שלו, Non Serviam). אבל אפילו לם, חרף דקות־המחשבה המדעית והתובנות הפילוסופיות שלו, לעיתים אינו לרוחי (אני זוכר כי קראתי פעם ספר ארוך מפרי עטו, שפשוט לא סבלתי!). הבעיה היא שנוטלים חירויות רבות מדי, ולא ניתן להאמין עוד בתסריט.

"אני מניח שאני די מיושן בטעמי הספרותי. אני אוהב ספרים חזקים ואמינים, כגון "רודף העפיפונים" ו"אלף שמשות זוהרות" מאת חאלד חוסייני, ששניהם מתרחשים באפגניסטן, וכמובן "התפסן בשדה השיפון" של ג'. ד. סלינג'ר, והרומן־בחרוזים המופלא של ויקראם סת', "שער הזהב".

"מקור ההשראה לזה האחרון, אגב, הוא ספרו המחורז המופלא של פושקין, "יבגני אונייגין". למעשה הגעתי ל"יבגני אונייגין" כשפגשתי את סת' פעם על כוס קפה, לפני כעשרים שנה, בחנות ספרים בפאלו אלטו, ושם גיליתי עד כמה הושפע מהתרגום לאנגלית של "אונייגין" מאת צ'ארלס ג'ונסטון. זמן קצר לאחר מכן בלעתי בשקיקה כמה תרגומים לאנגלית של "אונייגין" (כולל את זה של ג'ונסטון, כמובן), ובדרך התאהבתי בגרסה היפהפייה והמשכרת של "אונייגין" שתרגם ג'יימס פאלן. אחרי כמה שנים הוביל אותי סיפור אהבה זה, באופן בלתי־נמנע, להתמודד עם הטקסט הרוסי המקורי – ולתדהמתי, מצאתי את עצמי לומד על־פה קטעים ענקיים מהספר (כפי שעושים הרוסים), ואז גם תרגמתי בעצמי את הספר לאנגלית. הרפתקה זו, שארכה כשנה, הייתה אחד הפרקים המופלאים ביותר של חיי, והסיפור כולו מופיע ב"הקדמת המתרגם" שלי לספר.

"תרגום של "אונייגין" לאנגלית מחורזת בסגנון שלי, ובחינת הטקסט בסגנונות של אחרים באנגלית, צרפתית, גרמנית, איטלקית וכו', העניקה לי מטאפורות רבות לדיון על הנשמה האנושית וכיצד היא יכולה לשרוד בתווכים שונים – אחרי הכל, הנה "נשמת הספרות הרוסית" (כך רואים הרוסים את "יבגני אונייגין"), והיא מועתקת לתווכים כה שונים ובכל זאת שורדת באופן נפלא, למשל, בגרסה האנגלית של ג'יימס פאלן או של בבט דויטש (ואולי גם בשלי, אבל איני יכול להיות אובייקטיבי בנקודה זו).

"לעיתים קרובות הרהרתי בתסריט מדע־בדיוני היפותטי בו נעלמת לבלי שוב הגרסה הרוסית המקורית, כך שכל שנותר מ"יבגני אונייגין" הוא, נניח, התרגום לאנגלית של ג'יימס פאלן – האם "יבגני אונייגין" שרד? והתשובה שלי לשאלה זו תמיד היתה "כן" פסקני ומוחלט! כך גם אני חושב על שרידתן של נשמות אנושיות במוחותיהם של אנשים אחרים – אלא שכאן, ה"תרגום" של הנשמות אינו מתקרב באיכותו לתרגום של פאלן למקור של פושקין. חבל, אבל אלה החיים. לוקחים מה שיש.

"פושקין מנסח זאת כך, בבית 38 בפרק ב' של יבגני אונייגין. הוא מדבר על משורר־לעתיד בשם לנסקי, הניצב בבית־עלמין לצד קברי הוריו ומהרהר פואטית בטבעם הנדיף של החיים. אני רוצה להשוות כאן בין תרגומים, אבל לטובת קוראי "האייל הקורא", כדאי אולי שתציגו קודם את התרגום לעברית של שלונסקי – לא קראתי אותו בעצמי, אבל שמעתי שהוא מצוין".

הנה שלונסקי:

וַיֵּבְךְּ, וּבְרוּחַ שֶׁהִפְעִימָה
זָכַר בִּכְתֹבֶת־נְכָאִים
גַּם עֲפָרָם שֶׁל אַבָּא־אִמָּא...
אֲבוֹי, כִּי עַל תַּלְמֵי־חַיִּים
בְּסוֹד הַהַשְׁגָּחָה מִמַּעַל
דּוֹרוֹת, כִּיְבוּל־חֲלוֹף כִּי יַעַל,
יָנֵצוּ, יִגְמְלוּ, יִבְּלוּ;
וְשׁוּר: כְּבָר אֲחֵרִים עָלוּ...
כָּךְ, בְּחָפְזוֹ, גַּם בֶּן־דּוֹרֵנוּ
יִפְרַח, יִרְגַּשׁ, רָגוֹשׁ וּסְעוֹר,
וַאֲבוֹתָיו יִדְחַק לַבּוֹר.
תָּבוֹא, תָּבוֹא גַם שְׁעָתֵנוּ,
וְגַם נִינֵינוּ לַמּוֹעֵד
יִדְחוּ רַגְלֵינוּ עַד אוֹבֵד!

"הנה התרגום שלי לקטע:

And there he, on the the stark, dark marker
Atop his parents’ graves, shed tears,
And praised their ashes – darker, starker.
Alas, life reaps too fast its years;
All flesh is grass. Each generation,
At heaven’s hidden motivation,
Arises, blooms, and falls from grace;
Another quickly takes its place.
And thus our race, rash and impetuous,
Ascends and has its day, then raves
And hastens toward ancestral graves.
All too soon, death’s sting will get to us;
Aye, how our children’s children rush
And push us from this world’s sweet crush.

"אגב, שימו לב לכך שכל שורה מתחילה ב-A; סתם קפריזה שלי (וששפרה, אני חושב, את איכות התוצאה, משום שאילוץ זו שהיטלתי על עצמי הכריח אותי להעניק תשומת־לב יתרה לכל מלה ומלה ולכל שורה ושורה כדי שהמכלול יזרום בטבעיות למרות האילוץ).

"והנה, רק לשם השוואה, תרגומו הלירי, המופלא והערב־לחך של ג'יימס פאלן לאותו הבית:

And then with verse of quickened sadness
He honored too, in tears and pain,
His parents’ dust... their memory’s gladness...
Alas! Upon life’s furrowed plain --
A harvest brief, each generation,
By fate’s mysterious dispensation,
Arises, ripens, and must fall;
Then others too must heed the call.
For thus our giddy race gains power:
It waxes, stirs, turns seething wave,
Then crowds its forebears toward the grave.
And we as well shall face that hour
When one fine day our grandsons true
Straight out of life will crowd us too!

"אני מקווה שמהשוואת שתי הגרסאות האנגליות, וזו העברית, עבור אותו מקור רוסי, תוכלו לחוש כיצד "אותה תבנית" קיימת בכולן – שתיים בתווך, או מצע, אנגלי; אחת במצע עברי; ואחת, שלא מופיעה כאן, במצע רוסי. עבורי, זוהי מטאפורה מופלאה להעתקת הנשמה מתווך לתווך".
קישורים
גדל, אשר, באך
באופן לקוני למדי - ראיון עם דאגלס ר. הופשטטר בניו־יורק טיימס
Le Ton beau de Marot
הסינגולריות - תיאור הרעיון במאמר מאת ריי קורצווייל
הקיבריאדה
פרסום תגובה למאמר

פרסומים אחרונים במדור "פילוסופיה ומוסר"


הצג את כל התגובות | הסתר את כל התגובות

459990
"כדאי אולי שתציגו קודם את התרגום לעברית של שלונסקי – לא קראתי אותו בעצמי, אבל שמעתי שהוא מצוין"
הוא דובר עברית?
460002
כנראה לא, אחרת הוא כן היה קורא את שלונסקי.
460017
ובכל זאת, אני מאמין שיש לו איזה חיבור לזהות היהודית. הוא מזכיר בהקדמה (החדשה) לגא''ב את מלחמת יום כיפור כאירוע שהשפיע עליו מאוד.
460020
בספר "Le Ton beau de Marot" הוא מגדיר את עצמו כ-pilingual (דובר pi שפות). לדבריו, הוא למד עברית כחודש, וזוכר בערך כלום.
חיי אלמוות 460058
איש מקסים ועמוק, עם אספקלריה מתמטית משהו לרעיונות בודהיסטים עתיקים. דומה לתפיסה הסוליפסיסטית כמעט שדוקינס או סוזן בלקמור נותנים על הנשמה, כמושג מטא-ממנטי.

עם זאת, נראה שהוא חוטא באותה ביאס שבו הוא מאשים את קרצוויל ותומכי הסינגולריות. אם הם מחפשים אחר אורגזמה גיקית, אז הרי הוא נכסף אל העבר בנוסטלגיה אין קץ.
תרגומים של ספרים עתיקים, ציטוטים עלומים בהקשר שנמוג לפני 100 שנים, ואזכורים תרבותיים שהם לפחות בני 30 שנים...

חבל שהוא לא ביסס את התקיפה שלו על רעיון האל-מוות דרך החלפת מדיום על קרקע יותר מדעית, בינתיים לא הצלחתי למצוא ביקורת עניינית רלוונטית על הנושא. (מלבד הרס המקור, בהעלאה-משכפלת של הנשמה)

על זה נאמר, הפוסל במומו פוסל... לולאה מוזרה :)
460110
כשאתה שומר במוחך עותק של הנשמה של מישהו, יש חלק חשוב מאוד שאותו אתה בטוח לא שומר - את הלולאה המוזרה. בלי הלולאה, ע''פ הגדרתו של הופשטטר, אין טעם לקרוא לזה נשמה.
לא בדיוק 460116
אני לא בטוח שאני מסכים אם התאוריה של הופשטטר, אבל אנסה להגן על נקודת המבט שלו:

הלולאה המוזרה נובעת מזה שלמוח יש סמל המייצג את עצמו (סמל ה"אני"). אם המוח משמש "מצע" ל"אני" אחר, הרי שהסמל של אותו "אני" (למשל, הסמל של קרול במוחו של דאגלס) מהווה את לב הלולאה במצב זה. ככל שההיכרות עם האחר עמוקה יותר, מדובר בסמל רחב ומפורט יותר. הוא אמנם לעולם לא מגיע לגודל ולהיקף של סמל ה"אני", אבל הוא יכול כנראה להוות לב של לולאה בפני עצמה.
לא בדיוק 460124
אני דווקא מסכים עם האלמוני הראשון: כאשר אני מעלה בעיני רוחי אדם אחר, הזיית ה"אני" שמהווה את בסיס הלולאה לא מתקיימת, כלומר אין כאן לולאה (הזיה שהוזה את עצמה). הדרך היחידה להגיד שהלולאה כן מתקיימת היא למשל במקרה של משוגע שמאמין שהוא נפוליאון, וגם מספיק מכיר את נפוליאון המקורי בשביל שהוא יהווה מעין "עותק" דומה למקור.
לא בדיוק 460163
אבל כעת משאני מודע ללולאה, אני יכול בקלות לסמלץ גם אותה. עבור אנשים שאני מכיר טוב מספיק, אני יכול להעמיד פנים שאני הם ולנסות לחוות את העולם דרך הידע שלי עליהם (במידה מסויימת "לשחק" אותם, לנסות להיכנס לדמות).
(מכל מקום אני לא מאמין בסוג כזה של אלמוות, או כמו שוודי אלן אמר : "I do not intend to live forever through my work, I intend to live forever by not dieing").
הבטחתי, אבל לא הבטחתי לקיים 460230
אתה יכול להגיד לעצמך: "אני אדמיין שאני משה. מה משה היה עושה במצב כזה וכזה? איך הוא היה מרגיש\\\\מגיב?". אבל אתה בסה"כ עולה רמה אחת, אתה לא יוצר לולאה אינסופית. גם כשאתה "נכנס" לדמות אתה מודע למי אתה ומה אתה.

אגב, אפשר לדבר על כך שמשה "חי" בצורה מסוימת דרך הסימולציה שלך. דמויות בדיוניות למשל "חיות" אך ורק בצורה כזאת (אתה יכול לדמיין איך ג'יימס בונד היה מגיב בסיטואציה מסוימת, למשל). אבל הלולאה המוזרה נעדרת מהמשוואה הזאת.

דרך אחרת להסתכל על זה: אני יכול לדמיין לעצמי שמשפחתי, חבריי וקוראי האייל כולם הם רובוטים ללא מודעות עצמית שרק "מעמידים פנים" שיש להם מודעות עצמית(*) (כשם שאני יכול לתכנת תוכנית מחשב שתודיע לי שכואב לה, ואני אדע שהיא רק ביצעה שורת פקודות מכונה ולא באמת כואב לה). אני לא יכול לדמיין את זה שאני עצמי תוכנה שרק "מעמידה פנים" שיש לה מודעות עצמית. התפיסה שלי לגבי עצמי שונה מהותית מהתפיסה שלי לגבי אחרים, וזו "הלולאה המוזרה".

---------------
(*) האמת, זה לא כ"כ משנה אם אלו מכונות או באמת אנשים. מבחינתי - יש רק אדם אחד שעבורו יש לי "הוכחה" שיש לו מודעות עצמית. לכל השאר אני מאמין רק משום שיש בזה הגיון שלהם יש מודעות דומה לשלי, ומשום שהם נראים מאד משוכנעים בעצמם.
זאת לא לולאה, זה DAG 460149
זאת לא לולאה, זה DAG 460157
:-)
כל הכבוד 460130
הוא אחד האנשים היותר מעניינים שפועלים כיום - וזה שראיינתם אותו והבאתם את זה לכאן - נו, זה באמת דבר מיוחד.
כל הכבוד 460499
בחיים שלי לא שמעתי על החתול הזה - איזו מן "פעילות" הוא מבצע חוץ מכתיבת ספרים?
כל הכבוד 460528
אני מנחש שהוא איננו פעיל בקבוצת הפוטבול של אוניברסיטת אינדיאנה.
ותשחק ליום אחרון 460140
עצוב כמה אנרגיה משקיעים כמה ממיטב המוחות של העולם (ושל האייל) בסחרור השבלוני הזה.

לא התרשמתי מה"אופטימיות" שלו. זו גישה אופטימית: http://www.daat.ac.il/daat/vl/nefesh/nefesh02.pdf
ותשחק ליום אחרון 460141
אפשר תרגום?
וזו גישה ממש אופטימית 460175
מעניין, אבל בסופו של דבר די מגוחך 460142
הרעיון כי המוח האנושי הוא "חומרה" והתודעה (mind) היא "תוכנה" אולי מושך סופרי מדע בדיוני ומדעני מחשב, אבל בסופו של דבר הוא די מגוחך, ולא מבוסס על שום דבר מלבד משאלות לב ופילוסופיה שטחית.
כל נוירולוג יגיד לכם שאי אפשר להפריד בין השניים - המוח והתודעה הם אחד, ולכן הרעיון המד"בי של להעתיק את עצמך לכלי אחסון דיגיטלי אינו אפשרי. והרי פיזיקאים כבר חישבו ממזמן שמודל מדויק (או אפילו קרוב לכך) של המוח האנושי אינו אפשרי מבחינת כמות החומר הנדרש.
מעניין, אבל בסופו של דבר די מגוחך 460144
בעיקר מגוחך, וגם לא כ''כ מעניין, אבל בכל זאת -- 460146
ראשית, הנוירולוגיה לא עוסקת בשאלת המח והמיינד [ובפרט, גם אם יש איזו נגיעה בכך, היא לא מתמקדת בפן שאתה מתייחס אליו], כך שמה שיש לנוירולוגים להגיד בנושא, מעניין בערך כמו מה שיש לי ולך להגיד בנושא.

שנית, לא הבנתי מה בדיוק בלתי אפשרי לדעתך [גם לא הבנתי מה הכנסת לפה את הפיזיקאים, אבל מילא] – מידול של המח או לחלופין יישום של מודל של המח בכלים של חומרה-תוכנה דיגיטלית? שים לב שכדי להגיד משהו על היתכנות השני, יש ראשית לבצע את הראשון. אתה מוזמן לספק הפנייה למודל כזה.
מעניין, אבל בסופו של דבר די מגוחך 460176
אפשר לקחת את הרעיון של הופשטטר גם לכיוון אחר: ככל שנפשו של אדם פשוטה יותר והוא דומה יותר לאנשים אחרים, כך קל לו יותר להיות בן אלמוות, מפני שחלקיו השונים נמצאים כבר כמעט כולם בראשם של אחרים.

לכן, אסטרטגיית פעולה אפשרית להשגת אלמוות א-לה הופשטטר היא לנסות לחיות בדיוק כמו אלו שסביבך ולהזהר מלהיות מיוחד. קצת רדוד, אבל עובד :)
מעניין, אבל בסופו של דבר די מגוחך 585260
מבריק!
מעניין, אבל בסופו של דבר די מגוחך 460294
זאת טענה מאד משונה. אני עצמי נושא על כתפי מודל מדוייק למדי של מוח אנושי, והוא תופס נפח של ליטר וחצי בערך.
מעניין, אבל בסופו של דבר די מגוחך 460369
למיטב ידיעתי אצל יצוקים מהסוג הזכרי המוח אינו נמצא על הכתפיים. חוששתני שהתבלבלת.
מעניין, אבל בסופו של דבר די מגוחך 460371
כשהמוח הגברי מגיע לליטר וחצי, הוא מפריע להליכה, ואין מקום טוב יותר להשעין אותו מאשר על אחת הכתפיים.
מעניין, אבל בסופו של דבר די מגוחך 460389
הבנתי, תודה. אינפורמציה מעניינת.
מעניין, אבל בסופו של דבר די מגוחך 460446
הכוונה היא למודל דיגיטלי, אשר פועל פחות או יותר כמו מחשבים בני זמננו. כביכול, המבנה המולקולרי כל כך מורכב עד כי יהיה צורך במספר לא אפשרי של טרנזיסטורים.

אבל הטיעון הזה בעייתי מאוד, מכיוון שהוא מניח מראש שמודל פשוט יותר לא יעשה את העבודה...
מעניין, אבל בסופו של דבר די מגוחך 460456
עכש''י החלק החישובי של מוח מורכב מנוירונים שמתפקדים כרכיבים דיגיטליים, ואין סיבה טובה להניח שהשפעת האלמנטים הכימיים (נוירוטרנסמיטורים ודומיהם) לא ניתנת לסימולציה דיגיטלית פשוטה.
מעניין, אבל בסופו של דבר די מגוחך 460477
באיזה מובן נוירונים מתפקדים כרכיבים דיגיטליים?
מעניין, אבל בסופו של דבר די מגוחך 460480
או שהם יורים או שלא.
מעניין, אבל בסופו של דבר די מגוחך 460484
אבל האם הם "או יורים או שלא" בתגובה לכך שנוירון אחר "ירה או לא"? כנראה שלא. נוירון יכול לירות בתגובה לכך שנוירון אחר ירה, לא ירה, ירה יותר מדי, או דווקא הפסיק לירות, שינה את קצב הירי - או סתם כך, ללא סיבה.
מעניין, אבל בסופו של דבר די מגוחך 460525
ואתה רואה כאן קושי?
מעניין, אבל בסופו של דבר די מגוחך 460534
אני רואה קושי, אבל אני לא יודע אם לסווג אותו ככמותי או איכותי. אולי זה פשוט משהו שעוד המון טרנזיסטורים יפתרו.
(כלאמר - אין לי באמת דעה לגבי השאלה המקורית - אם ניתן או לא לסמלץ נוירונים בעזרת טרנזיסטורים. אבל ברור שזה לא יהיה "טרנזיסטור = נוירון").
מעניין, אבל בסופו של דבר די מגוחך 460585
כל עוד השוויון יתקיים עד כדי פונקציה פולינומית במקדמים קבועים, המודלים שקולים בעיניי.
מעניין, אבל בסופו של דבר די מגוחך 460487
נוירונים אכן או יורים או לא, אבל הם רחוקים מלתפקד כרכיבים דיגיטליים, כיוון שפונקציית ההסתברות הקובעת ירייה פרושה על גבי כ''כ הרבה משתנים אקראיים, שסימלוץ פונקציה כזו ידרוש הרבה מאוד משאבים, בלשון המעטה.
מעניין, אבל בסופו של דבר די מגוחך 460489
כמה הרבה?
כמה סינפסות מגיעות לכל נוירון?
מעניין, אבל בסופו של דבר די מגוחך 460494
לא נראה לי שזה רלוונטי לטענתו של המגיב הקודם, אבל משהו בין אחדות אלפים - תלוי במיקום, בחיה, בשלב ההתפתחותי.
מעניין, אבל בסופו של דבר די מגוחך 460524
הרבה משתנים זאת שאלה אחת, דיגיטלי או לא זאת שאלה אחרת. לגבי המשאבים, כמה אלפי כניסות למיקרו-פרוססור פרימיטיבי הן לא משהו דמיוני, בטח לא לטכנולוגיה של העתיד הלא נורא רחוק.
מעניין, אבל בסופו של דבר די מגוחך 460529
כבר היום עושים דברים כאלה (בסדר גודל של כ-‏10,000 נוירונים). פרוייקט שאפתני ושנוי-במחלוקת, בו לוקח חלק - בין השאר - המכון לחישוביות עיצבית באונ' ירושלים, הוא זה:
מעניין, אבל בסופו של דבר די מגוחך 460543
שנוי באיזו מחלוקת?
מעניין, אבל בסופו של דבר די מגוחך 460551
מה הם בדיוק "מסמלצים" שם?
מעניין, אבל בסופו של דבר די מגוחך 460647
עוד פקטור או שניים ואולי יתקבל מחשב שיוכל לעבור את מבחן טיורינג לג'וקים.
מעניין, אבל בסופו של דבר די מגוחך 460660
אפילו זה לא. בהיעדר גוף, איזו פעילות תבונית הגוש הזה מתוכנן להפגין?
מעניין, אבל בסופו של דבר די מגוחך 460662
התחמקות וירטואלית משממית חולות וירטואלית.
מעניין, אבל בסופו של דבר די מגוחך 460663
מה עם פקטור 2000? כי זו התוכנית ל-‏3\5 השנים הקרובות. אבל באופן כללי, זה לא מחקר בבינה מלאכותית, ובינתיים אין כוונות לבחון את האינטליגנציה של המודל הזה.
מעניין, אבל בסופו של דבר די מגוחך 460666
הקישורית שהבאת אומרת: "The Blue Brain project is the first comprehensive attempt to reverse-engineer the mammalian brain, in order to understand brain function and dysfunction through detailed simulations.". זה לא כולל אינטליגנציה?
מעניין, אבל בסופו של דבר די מגוחך 460925
אני חושב שלא. המטרה היא לראות אם סימולציה מתמטית תניב תופעות ודפוסים שאפשר לזהות במוח. על הפונקציונליות שלהם כלל לא מדברים. המוטיבציה - לפחות בהתחלה - היא עימות התיאוריה (מודלים של התנהגות נוירונים ושל קישוריות ביניהם) עם המציאות.
מעניין, אבל בסופו של דבר די מגוחך 461545
ומה על מודלים שמיושמים על גבי מחשבים שהם פחות דיגיטלים במובן הקלאסי, דוגמאת מחשב קוונטי: http://en.wikipedia.org/wiki/Quantum_computer
מעניין, אבל בסופו של דבר די מגוחך 460717
סתם, לידיעה, יש נוירונים שלא יורים. הם נקראים graded response neurons ויש רבים מהם, למשל, ברשתית העין.

אני דווקא מאמין שהכימיה קשה מאד לסימלוץ, הרבה יותר מהפעילות החשמלית, ושהיא לא פחות חשובה. א-פריורי לא ברור למה צריך כל כך הרבה סוגי כימיקלים שונים כדי לקודד ביט של מידע בינארי שצריך לעבור בין שני תאים.
מעניין, אבל בסופו של דבר די מגוחך 460743
עכש"י הם בהחלט יורים, אבל אני חובבן ואשמח אם תאיר את עיני.

בעניין הכימיה: צריך לזכור שהמעבדים האורגניים לא התחילו את ההיסטוריה שלהם בתור יחידות עיבוד אלא בתור תאים "סתם", כך שהתכנון שלהם ודאי רחוק מלהיות אופטימלי. בסופו של דבר נוירון יורה או לא יורה בהתאם לכמות הקלטים שהוא מקבל (ואולי מצבו הפנימי, כמו אלה שהזכרת) ועל פניו זה לא צריך להיות קשה מדי לחיקוי. אבל אני באמת חובבן ומסתמך בעיקר על שברי מידע עממי כך שגם כאן אין לי התנגדות לקבל קצת מידע ו/או קישורים.
מעניין, אבל בסופו של דבר די מגוחך 460887
יש נירונים שלא יורים, אלא פועלים באופן רציף. הם ממוקמים בעיקר בחלקים המאוד ראשוניים של החושים, משום שהם לא יכולים להעביר ''שדר'' למרחק גדול, ומהירות ההולכה שלהם איטית.

נוסף לכך, במקרים רבים מאוד הודגם, שיחידת המידע העיצבית היא לא ירי של נוירון או המנעות מירי, אלא קצב הירי. קצב הירי הוא לא בינארי, ולכן יותר קשה ליצוג.
יש גם השפעות שאינן ''חשמליות'' בין נוירונים, פשוט כי הם קרובים אחד לשני. קצת חומר ''דולף'' לנוירונים קרובים, ומשנה את הרגישות שלהם לקלט.

נוסף על הקושי הזה, פרמטרים נוספים, כגון טמפרטורה ונפח הדם שעובר באיזור, מאוד משפיעים על התנהגות הנוירונים (כנראה), וההשפעה הזאת לא ברורה עדין מספיק כדי למדל אותה בצורה רצינית.

מעבר לכך, בגלל האופי המשתנה-תמיד של מוחות של יונקים (ומוחות בכלל), קשה מאוד למדל מוח כזה ברמת הנוירונים, וגם אם מצליחים (בהנחה שיש בכלל מבנה משותף שגם יגיד לנו משהו על המוח האנושי שהוא לא בנאלי לגמרי או ניתן למידול בכלים אחרים), התיקוף של מודל כזה הוא גהינום קטן.
מעניין, אבל בסופו של דבר די מגוחך 460958
תודה.
מעניין, אבל בסופו של דבר די מגוחך 462153
תקשורת בין תאים, בגוף בכלל ובמוח בפרט, היא כמעט תמיד תהליך כימי ולא חשמלי - או לפחות לא *רק* חשמלי. הפולס החשמלי הוא, כפי שהסביר תומר, דרך יעילה להעביר מידע למרחקים ארוכים, אבל גם אז הפולס עובר לרוב בתוך התא, לא ישירות בין תאים. במילים אחרות, הפולס החשמלי משמש את התא בעיקר לצורך תקשורת פנימית, בינו לבין עצמו, ולא עם שכניו.

בסינפסה שבין שני נוירונים יש בדרך כלל מספר כימיקלים שמשתחררים כשהמתח החשמלי בצד ה-"משדר" של הסינפסה עובר רף מסוים. לעתים קרובות משתחררים בו"ז חומר אחד שפועל לטווח קצר, של מספר מילי-שניות, וחומר אחר שהשפעתו ממושכת יותר - למשל, כמה מאות מילי-שניות.

בצד השני, ה-"מקבל" של הסינפסה יש קולטנים מיוחדים שאליהם נקשר הכימיקל. אירוע הקשירה יכול לגרום לשינויים מגוונים בתא המקבל, שרק אחד מהם הוא כניסה של זרם חשמלי אליו. בנוסף, או אפילו באופן בלעדי, תתכנה השפעות מסוגים רבים אחרים. למשל, על הפעילות החשמלית העתידית של התא המקבל, או על מספר הקולטנים שהוא מייצר (יש בלאי של קולטנים), או על המבנה המרחבי של הקולטנים.

רוב התרופות הפסיכיאטריות שנמצאות בשימוש משפיעות על פרמטרים כימיים של פעילות נוירונים. למשל, לסרוטונין יש שבע משפחות שונות של קולטנים, ותאים רבים משתמשים בקולטנים ממספר משפחות במקביל.

מצד שני, במדעי המחשב צמחה אסכולה, החל ממחקריהם של McCullough ו- Pitts (למשל, http://en.wikipedia.org/wiki/Artificial_neuron ), שהתייחסה לנוירונים כיחידות חישוביות לא-ליניאריות. אני מניח שכבר אז היה ידוע שזו הפשטה גורפת, והיום כבר לא מקובל להשתמש באלמנטים האלו מפני שהקשר בינם לבין תאים אמיתיים הוא קלוש. לכל הפחות, ניתן לקרב התנהגות חשמלית של נוירון על ידי מערכת דינמית לא ליניארית שיש לה לא מעט פרמטרים, כמו במשוואות של Hodgkin ו- Huxley (לינק: http://en.wikipedia.org/wiki/Hodgkin-Huxley_model ).

בכל מקרה, האנלוגיה המחשבית של נוירון כ-"יחידת עיבוד" לדעתי כבר אינה תופסת והיא התגלתה - עכש"י - כמטאפורה לא כל כך פוריה בחקר המוח. מצד שני, כבר שנים רבות שהיא מפרנסת בכבוד את אנשי ה- AI, ולכן כנראה שיש בה תועלת כאלמנט חישובי.
מעניין, אבל בסופו של דבר די מגוחך 462211
לא הבנתי למה זה משנה אם המסרים הם כימיים או חשמליים ? אם מסר כימי עובר בין שני ניורונים, למה אי אפשר לסמלץ את שני הניורונים והמסר הכימי שעובר ביניהם בעזרת משהו אחר ?
מעניין, אבל בסופו של דבר די מגוחך 462398
בעקרון, אפשר לסמלץ כל דבר. אבל הידע שיש לנו היום רחוק מלאפשר סימולציה כזו. בין היתר, יש דיפוזיה של חמרים בין סינפסות קרובות, בתוך ומחוץ לתא, מה שמכניס לבעיה אלמנט מרחבי (של מיקומים ומרחקים) שלא קיים בגרסאות החישוביות הישנות יותר של רשתות נוירונים, ומסבך את המשוואות.

באופן כללי, המוח אולי איננו שונה כל כך ממושבה ענקית של יצורים חד תאיים (או אולי מאוסף של מושבות כאלו), שכל אחד מהם מסתגל לסביבה כמיטב יכולתו ובתוך כך גם משנה אותה במעט. אפילו קורס בסיסי בביולוגיה של התא מבהיר את העובדה שתא בודד הוא מערכת בעלת סיבוכיות אדירה, שיכולות ה-''חישוב'' שלה הן (בפוטנציה) מורכבות מאד, ושלסמלץ נוירון כיחידת עיבוד שמבצעת סכום משוקלל ואחריו הפעלת סף קולע לאמת בערך כמו לסמלץ אדם כמשהו שקולט חמצן ופולט דו תחמוצת הפחמן.
מעניין, אבל בסופו של דבר די מגוחך 462299
ראשית, תודה על המידע. לא הכרתי את המודל של Hodgkin-Huxley.

שנית, מה שהלא-חרדי אמר. מבחינה חישובית יש אות חשמלי שמתרוצץ בכל מיני שערים לוגיים, והפיזיקה/כימיה לא אמורה לשנות כלום.

שלישית, קצת מצחיקה הטענה "...גם אז הפולס עובר לרוב בתוך התא, לא ישירות בין תאים. במילים אחרות, הפולס החשמלי משמש את התא בעיקר לצורך תקשורת פנימית, בינו לבין עצמו, ולא עם שכניו" - זה כמו להגיד שהפולס החשמלי שעובר בתיל בין שני מחשבים משמש בעיקר לצורך תקשורת פנימית של התיל.
מעניין, אבל בסופו של דבר די מגוחך 462400
אני ניסיתי להסביר שהעובדה שהאות עובר באופן חשמלי בתוך התא ואז מומר לאות כימי לצורך תקשורת עם תאים שכנים איננה תוצאה רנדומית של האבולוציה, אלא משקפת משהו חשוב לגבי אופי התקשורת בין תאים בגוף כלל ובמוח בפרט, ושלעובדה שתאים מדברים ביניהם בשפה כימית ולא חשמלית יש חשיבות רבה להבנת פעולת המוח.

אולי לכן לא הבנתי את האנלוגיה לתיל בין מחשבים. האם הטענה היא שהסיגנל ב- interface בין התיל למחשב אינו חשמלי?
מעניין, אבל בסופו של דבר די מגוחך 462439
לא, הטענה היא שהמנגנון הספציפי להעברת המסר מתא לתא אינו בעל משקל לפעילות החישובית (אם כבר, הוא מפריע: הוא מאט אותה בהרבה). ברור שזאת לא טענה שאני יכול באמת להגן עליה, אבל הייתי מציע התערבות אם הייתי מאמין שאהיה בסביבה עוד איזה 50-100 שנה.

אני אפילו מוכן לנחש שהמנגנון המשונה להעברת פולסים נובע מאילוצים אבולוציוניים ואזלת ידו של תהליך הברירה הטבעית לחפש אקסטרימום לא מקומי במרבית המקרים: מאחר והתקשורת המקורית בין תאים (או בין החד-תאיים לפניהם) היתה על בסיס כימי, נשארנו תקועים עם המרווחים הסינפטיים הבלתי יעילים האלה וכל הלוגיסטיקה המסובכת של נוירוטרנסמיטורים וקולטנים. מן הסתם אלוהים לא יודע להלחים. גם במקרה הזה חוששני שתוחלת החיים שלי לא תאפשר לי לדעת אם אני צודק. אבל אולי הלולאה המוזרה שאני משאיר אחרי באייל עוד תזכה לתגובה "ואללה, צדק השוטה" כאשר ניניך ישוטטו כאן.
מעניין, אבל בסופו של דבר די מגוחך 462561
צר לי לאכזב אותך. אחת מצורות התקשורת בין נוירונים היא הסינפסה החשמלית, שהיא פשוט "מנהרה" קטנה שמחברת פיזית בין שני תאים, כך שהאות החשמלי עובר ישירות מתא לתא בלי להיות מתורגם לשפה כימית. למרבה הצער, המנגנון הזה (כנראה) פחות מפותח מזה הכימי וגם פחות יעיל ומגוון ממנו.

למשל, בסינפסה כימית יש לעתים קרובות מעורבות של סוג נוסף של תאים, שנקראים תאי glia (ביוונית: דבק, כמו glue, מפני שלא ידעו מה בדיוק תפקידם והניחו שהם משמשים מעין תאי תמיכה שמספקים מרקם, שבתוכו הנוירונים גדלים). בסינפסה כזו, שמשתתפים בה שני נוירונים ותא גליה, כל הצדדים משחררים חמרים שונים ומשפיעים זה על זה. מצד שני, בתאי גליה אין בכלל פוטנציאל פעולה והמתח החשמלי שלהם משתנה באופן רציף בתוך טווח לא גדול.

וזו רק דוגמה אחת לגמישות שמאפשר מנגנון כימי ושקשה להשיג ע"י חיבור חשמלי ישיר.

ועוד משהו, לעניין מהירות החישוב: הייתי מהמר שהאילוץ העיקרי על אורגניזם גדול כמו אדם הוא מהירות התנועה, לא מהירות החישוב. השרירים איטיים מהנוירונים בכמה סדרי גודל, כך שכל עוד יש הולכה מהירה של סיגנלים מהגוף אל המוח ובחזרה (וזה קורה בערך במהירות של 100 מ' לשניה), מהירות העיבוד בתוך המוח - שהיא מסדר גודל של כמה מאיות שניה - פחות קריטית.

ועוד משהו, אפילו יותר כללי: מניין בכלל הרעיון שהמוח עושה פעילות "חישובית"?

כלומר, אני מדמיין את מהלך המחשבה בערך כך:
- המוח פותר בעיות מורכבות
- מחשב פותר בעיות מורכבות
לכן המוח הוא סוג של מחשב!

אני משאיר לקורא את התענוג למצוא עוד היקשים מסוג זה. בין הפותרים לא נכונה תוגרל (ערכת הכנה לבחינה פסיכומטרית?)
מעניין, אבל בסופו של דבר די מגוחך 462564
הלך המחשבה הוא יותר משהו כזה:
המוח פועל על בסיס חוקי הפיסיקה.
חוקי הפיסיקה מוגדרים על ידי משוואות.
מחשבים יודעים לפתור משוואות.
לכן התנהגות המוח ניתנת לתאור על ידי חישוב.

כמובן שהעצלנים בינינו יגידו גם

לא צריך לתאר את כל הפיסיקה של המוח כדי לקבל את התנהגות המוח.
לכן אפשר להזניח חלק מהמנגנונים היותר עדינים של העברת האותות במוח.
על ידי כך אפשר לפשט את המשוואות הפיסיקליות הדרושות לתאור המוח.
אחרי הפישוט הזה אנו מגלים משוואות שמאוד דומות לפעילות חישובית.
איננו יודעים אם הקירוב שנעשה שומר את כל האינפורמציה הדרושה כדי לתאר את החלק ה"תודעתי" של המוח, אבל אם לא, נחזור להלך המחשבה הקודם.
מעניין, אבל בסופו של דבר די מגוחך 463003
הורסיה הראשונה אולי נכונה עקרונית, אבל נראית לי חסרת רלוונטיות למחקר הבינה המלאכותית, גם זה שנעשה בפועל וגם זה שמדומיין ברצינות - כולו מתבסס על הורסיה השנייה. סימולציה ממוחשבת אטום-אטום היא בלתי אפשרית מעשית למערכות גדולות, גם פשוטות הרבה יותר מהמוח (מטוס, רולטה). כך שסיום התגובה של צריך להיות ''אם לא, נחזור להלך המחשבה הקודם, ובדרך נסגור כמה קתדרות במדעי המחשב.''
מעניין, אבל בסופו של דבר די מגוחך 463008
מכיוון שרוב ההתנגדויות שהופיעו כאן היו מהכיוון העקרוני פניתי לטענה עקרונית. בעניין של התנגדויות פרקטיות, אני דווקא עם הספקנים. לדעתי הבעיה היא לא מחסור במחשבים מהירים אלא מחסור בהבנה של מה צריכים המחשבים הללו לעשות.
מעניין, אבל בסופו של דבר די מגוחך 463126
''אחרי הפישוט הזה אנו מגלים משוואות שמאוד דומות לפעילות חישובית'' - לא ממש. בעצם - ממש לא. המצב הוא יותר כזה, שרואים במוח ערב רב של פעילויות חשמליות של המוני תאים שפעילים במרץ ביו אם החיה ישנה, אוכלת, או מנווטת במבוך, וממש לא ברור מה כל תא עושה, ואפילו - לגבי חלקים לא קטנים במוח - מה אזור שלם עושה. אחת הבעיות היא שיש רמה גבוהה של קישוריות, וגם מידה מסוימת של גיבוי הדדי, בין אזורים שונים וקשה לגלות מהי חלוקת העבודה ביניהם.

בעצם, די מדהים שמנסים לפתח מודלים של תודעה כאשר עדיין אין הבנה טובה אפילו לגבי מנגנון הפעולה של מוחו של זבוב (למשל, יהיה נחמד להסביר כיצד הוא יודע להבדיל בין ריחות דומים).
מעניין, אבל בסופו של דבר די מגוחך 463197
אני לא מסכים. לא ברור לשם מה תאים עושים את מה שהם עושים אבל בהרבה מיקרים יודעים *מה* הם עושים (לפחות בקווים כללים). לזיכרו של דניאל עמית שנפטר בשבוע שעבר:

בעניין הזבוב אני מסכים איתך, אבל לדעתי זה עניין של אופנה.
מעניין, אבל בסופו של דבר די מגוחך 463289
זו באמת דוגמה פנטסטית לפוריות שבמחקר אינטר-דיסציפלינרי.

מצד שני, אין שום הוכחה שיש קשר ממשי בין המודלים האלו לבין מה שהמוח עושה. בוודאי שהמודלים עוזרים לנו לחשוב על הסברים אפשריים לתופעות שונות בפעולת המוח, אבל - למיטב ידיעתי - אין אפילו ניסוי אחד שתוצאותיו מוסברות על ידי מודל חישובי שכזה, באותו אופן שבו הדבר נעשה בפיזיקה או בתחומים מסוימים בביולוגיה, כלומר שאפשר לקבל מספרים מהמודל ומהניסוי ולהשוות אותם אלו לאלו כדי לאשר או להפריך תאוריה.
מעניין, אבל בסופו של דבר די מגוחך 463328
נדמה לי שכבר סיפרתי כאן שהייתי פעם בהרצאה של אדם שמידל את כל 500 הנוירונים של רכיכה כלשהי וגילה שמספר מסוים של נוירונים יצרו מעין תבנית מחזורית של יריות. כשבאו לראות למה מחוברים הנוירונים הללו התברר שהם היו קשורים לתנועת הזחילה של היצור. משמע, יש תוצאות נסיוניות שמוסברות על ידי מידול כזה. אני מניח שיש עוד.
מעניין, אבל בסופו של דבר די מגוחך 463558
כנראה שאנחנו מסכימים כאן. לגבי יצורים פשוטים מאד, תתכנה בהחלט תוצאות מעניינות כתוצאה ממידול. אבל הנסיון לדלג ישר אל המוח האנושי (או אפילו לזה של יונקים) נראה לי חסר סיכוי. אפילו את הנוירונים של אותה תולעת עדיין לא ממש מבינים, שלא לדבר על חלזון, זבוב או דג. העובדה שמשקיעים כ''כ הרבה אנרגיה במידול של תהליכים קוגניטיביים ''גבוהים'' לפני שמבינים מעגלים נוירונליים בסיסיים נראית לי כבזבוז זמנם היקר של חוקרים. והסיבה היא לא רק אופנה - אלא בעיקר חלוקה גרועה של תקציבי מחקר, שנובעת - לדעתי - מהלחץ למצוא תרופות במהירות. זה חבל, מפני שלדעתי המטרה הזו לא תושג באופן שבו פועלים היום.
מעניין, אבל בסופו של דבר די מגוחך 463561
חסר סיכוי באופן פרקטי, אבל לא חסר סיכוי באופן עקרוני. עוד לא התגלה חוק טבע המונע זאת (אני לא מקבל כרגע את הטענות שמשפטי גדל או קרובים שלהם קשורים לבעיה).
מעניין, אבל בסופו של דבר די מגוחך 463592
אני לא מקבל את המשפט הזה.
חוקי הפיסיקה ללא ספק מגבילים את התחום שבו פועל המוח אבל לבטח אינם מספיקים כדי לתאר את פעולתו.
לדוגמא המילה ''רוח'' שקולה תרמודינאמית למילה ''חור'' אבל לבטח אינה מתארת אותו דבר. שום הסבר פיסיקאלי לא יוכל להסביר את ההבדל במשמעות בין שתי המילים הללו.
מעניין, אבל בסופו של דבר די מגוחך 463593
ההבדל במשמעות נובע מכך שכאשר נושבת רוח היא משמיעה קול דומה ל"רוח" ולא ל"חור". זה לא משהו פיזיקלי בעיניך?
מעניין, אבל בסופו של דבר די מגוחך 463597
"המילה "רוח" שקולה תרמודינאמית למילה "חור" "

מה זאת אומרת "שקול תרמודינמית"? איך התרמודינמיקה חלה על מילים?
מעניין, אבל בסופו של דבר די מגוחך 463625
בדיוק זו הנקודה. חוקי הפיסיקה אינם מחוללים מילים, אבל מערכות תקשורת מבינות מילים או קודים אחרים.
אפילו מנגנון טפשי כמו, נניח שלושה סרגלים ובהם חורים שברגע שהם זזים זה כלפי זה ויוצרים חור אחד, שמאפשר לפין ליפול ועל ידי כך מאפשר נניח לכדור כבד להתגלגל במורד מדגים מצב שבו מערכת מצייתת לחוקי הפיסיקה אבל אין די בחוקי הפיסיקה להסביר את פעולתה.
מעניין, אבל בסופו של דבר די מגוחך 463777
מדוע לא?
מעניין, אבל בסופו של דבר די מגוחך 463826
חזור לאחור שתי תגובות - בין שתי המילים ''חור'' ו ''רוח'' מבחינה פיסיקאלית אין שום הבדל. מבחינת המשמעות הבדל גדול.
רציתי להדגים שהדבר איננו אופייני רק למילים כתובות אלא אפילו למערכת פיסיקאלית פשוטה ביותר.
מערכת מצייתת לחוקי הפיסיקה של מרכיביה, אבל האופן שבו הם מורכבים יוצר תכונות מערכת נוספות שאינן נגזרות מחוקי הפיסיקה ומתכונות המרכיבים של המערכת אלא מהאופן והסדר שבו הם מורכבים.
למען האמת, לי זה נראה די בנאלי...
מעניין, אבל בסופו של דבר די מגוחך 463842
אני לא רואה שום דבר לא פיסיקלי במערכת שהבאת. מדוע הסדר והתזמון אינם תכונות פיסיקליות? (יש לי הרגשה שאנחנו מדברים על מושגים שונים במילה "פיסיקלי"...)
מעניין, אבל בסופו של דבר די מגוחך 463844
פיסיקה לא מדברת רק על ממה הדברים מורכבים (יש הבדל פיזיקלי בין המילים ''חור'' ו''רוח''). לא רק הרכב נובע מחוקי הפיזיקה אלא גם סדר וגם ''האופן שבו דברים מורכבים''. זה אולי די בנאלי מה שכתבת בתגובות האחרונות, אבל זה גם בנאלי וגם פשוט לא נכון.
מעניין, אבל בסופו של דבר די מגוחך 463873
אני חושב שאתה מפספס את הנקודה שלי.
אינני מדבר על רוח בניגוד לעולם פיסיקאלי אלא על תכונות מערכת.
זה גם בנאלי וגם נכון שלמערכת תכונות שהן יותר מסך כל המרכיבים שלה.
בודאי שיש הבדל בין רוח לחור. יש הבדל גם אם אלה מילים שנאמרות, נכתבות על נייר או במחשב. עדיין הנקודה החשובה היא המשמעות של המילים במערכת שמסוגלת לפענח את המשמעות שלהן ולא החומר מהן הן מורכבות בתווך נתון.
מעניין, אבל בסופו של דבר די מגוחך 463876
נראה לי שדווקא אתה מפספס את הנקודה של אביב.

המערכת המפענחת היא מן הסתם מערכת פיזיקלית, כמו גם הסימנים עליהם היא עובדת. אמנם ניתן אולי לתאר אותה בצורה חסכונית יותר תוך שימוש במושגים גבוהים יותר, אבל זה לא אומר שרדוקציה לחוקים פיזיקליים איננה קיימת. למעשה, מקובל לחשוב כי ברוב המוחלט של המקרים הרדוקציה *כן* קיימת, והויכוח נסוב על מקרים גבוליים לכאורה, כמו נפש של ייצור תבוני וכו'.
מעניין, אבל בסופו של דבר די מגוחך 463920
אני לא מפספס שום נקודה.

אני לא טוען את העמדה הפיסיקליסטית (שאם מקבלים אותה אז האימרה "למערכת תכונות שהן יותר מסך כל המרכיבים שלה" היא חסרת משמעות). אני טוען שהיומרה שלך לטעון שיש בידך פתרון (ועוד פתרון בנאלי!) שמכריע אחת ולתמיד בסוגיות העתיקות הללו, הוא אידיוטי.
מעניין, אבל בסופו של דבר די מגוחך 463972
תודה על הניסוח העדין.
קטונתי כמובן מלהתמודד עם טענות כל כך חזקות.
הרעיון של ''תכונות מערכת'' כמובן איננו שלי, כמו גם הרעיון שלא ניתן להסביר תופעות ברמות גבוהות על ידי רידוקציה לרמות הנמוכות.
אינני חושב שטענתי שיש בידי פתרון אחת ולתמיד. מה שטענתי היה שאין טעם לנסות להסביר תופעות ברמה גבוהה על ידי תכונות של חלקי היסוד של המערכת.
נדמה לי שהיה זה ישעיהו לייבוביץ' שטען שלא ניתן על ידי תיאור פיסיקאלי של האוטובוס והכביש לתאר את הקו לירושלים. אגב, הדוגמא של טענות שנטענות בכתב או בע''פ באנגלית או בגרמנית היא של ג'ון סירל. הרעיון של הבדל בין מערכת פיסיקאלית ממוצעת לבין מערכת של סימנים בדידים היא של סטיבן פינקר, הרעיון של היות כל מערכת מידע מערכת אנלוגית פיסיקאלית ובעת ובעונה אחת גם מערכת דיגיטלית של מידע היא של קלאוס ואמך. יכולתי להזכיר עוד כמה עשרות חוקרים ופילוסופים בתחום אבל זה לא ממש רלבנטי לדיון.
אבל בכל מקרה נראה לי שהדיון הזה מיצה את עצמו, למרות שלא ברור לי מהיכן גסות הרוח.
אני לא מתכוון לשוב עליו.
מעניין, אבל בסופו של דבר די מגוחך 464039
הטענה שלא ניתן (עקרונית) להסביר תופעות ברמה גבוהה על ידי תכונות של חלקי היסוד של המערכת היא טענה שניתן לנהל עליה ויכוח מעניין ופורה. אכן אנשים רבים (חלק מהם מופיעים ברשימתך) טענו טענות מחזקות ומחלישות לגבי טענה זו. ההכרעה לגבי השאלה הזאת (למרות שאם לא היתה לי ברירה הייתי ''שם את הכסף'' על עמדה שיותר קרובה לזו שלך מאשר לזו של שכ''ג) היא לא בנאלית לא טריוויאלית ולא צריכה להיות ברורה לכל בר דעת.

גסות הרוח נבעה מהמשפט המיותר ''למען האמת, לי זה נראה די בנאלי...''.
מעניין, אבל בסופו של דבר די מגוחך 464044
תודה!
הבנתי.
רוח,חור, יהלום וגרפיט 463939
אני מצטער אבל אני לא מצליח להבין למה זה שהמילה חור אינה זהה למילה רוח קשור לכך שאפשר (או אי אפשר) לבנות חיקוי ממוחשב של הפעולות של מוח ביולוגי. בנוסף לכך, אם כבר אנו מדברים על תרמודינמיקה, מבחינה כימית חומרים שונים מורכבים מאותם אטומים, ממש כמו שמילים שונות מורכבות מאותם אותיות.
מעניין, אבל בסופו של דבר די מגוחך 462569
טוב, כל יום לומדים משהו חדש ושוכחים שניים ישנים. אני לא בטוח עד כמה תאי glia באמת חשובים, ויש לי גם ספקות רציניים לגבי הטענה שלך בדבר הצורך בחישובים מהירים, אבל אולי כדאי שאפסיק לקשקש על דברים שאני לא יודע עליהם הרבה.

לא הבנתי את התמיהה שלך בקשר לפעילות החישובית. אם אתה יודע כמה הם 2+2, המוח שלך עושה (גם?) פעילות חישובית.
מעניין, אבל בסופו של דבר די מגוחך 462574
בוודאי. אבל לומר שהאבולוציה הביאה למיקסום של יכולתנו לבצע חישובים מתמטיים? זו נראית לי טענה קצת מוגזמת, בהתחשב בקושי שהיה לרוב האנשים לחשוב באופן לוגי (במובן המתמטי, לא במובן של common sense) עד לפני 2,500 שנה, בערך.

אולי המוח עושה בעיקר פעילות לא חישובית?
מעניין, אבל בסופו של דבר די מגוחך 462577
מי דיבר על מיקסום? אישית אני חושב שהשיטות המוחיות רחוקות מאד ממיקסום (אבל אולי אינטרוספקציה היא לא הכלי המתאים).

מאחר והמוח צורך המון אנרגיה, מה שהוא עושה חייב להיות בעל תועלת גבוהה להצדקת המחיר. יש לך איזה רעיון לפעילות לא חישובית שאולי המוח עושה?
מעניין, אבל בסופו של דבר די מגוחך 462581
OK פעילות חישובית זה גם לכוון כידון ולהטיל אותו, או לנסות לצפות מה אתה יכול לומר מבלי שהשבט ירגום אותך באבנים. (נגיד).
והפעילות החשמלית מהירה הרבה יותר ולכן יעילה יותר. ולכן, אם אני מבין, אתה מהמר עליה בתור העיקר (הניתן לסימלוץ).
אבל - א בעוד במקרה הראשון (הכידון) חישוב מהיר הוא היעיל ביותר מה גורם לך להאמין שכך גם בשני?
ב בערך אותו הדבר - מי אמר שמוח לא מכין "מודלים כימיים" מראשת לחישוב מהיר (חשמלי) בזמן אמת? כלומר, מצב בו רוב ה"חשיבה" וההסקה מניסיון נעשית באופן איטי וכימי\צורני\השד יודע?
מעניין, אבל בסופו של דבר די מגוחך 462584
ובכן, הפקפוק שלך הוא לא בקשר לחישוב עצמו אלא בקשר לאופיו הדיגיטלי.
מעניין, אבל בסופו של דבר די מגוחך 462597
אל"כ, אבל הפקפוק שלי נוגע לגבול בין "חישוב" לבין "חיים". כלומר, האם יש פעולה כלשהי של יצור חי כלשהו (למשל, חיידק) שאיננה מוגדרת כחישוב, או שאין בה חלק חישובי?
מעניין, אבל בסופו של דבר די מגוחך 462598
אם תשאל את וולפראם, הכל חישובי - לא רק החיים. הקוסמוס אינו אלא מכונת מצבים שמחשבת כל רגע את המצב הבא שלה. אני לא רואה את החשיבות הגדולה של המינוח, ולצרכים שלנו חושבני שאפשר להסכים לקרוא "תהליך חישובי" לתהליך שהחישוביות היא הסיבה לקיומו, לא תוצא שלו. לכן שתי כבשים שיוצאות למרעה אינן מחשבות את הפעולה החישובית 1+1, אבל ילד שמסתכל עליהן וקורא "אמא, תראי שתי כבשות" ביצע את החישוב (הוא ביצע, כמובן, עוד המון חישובים - לפחות אחד מהם שגוי - כדי להפיק את המשפט הזה).
מעניין, אבל בסופו של דבר די מגוחך 462606
נדמה לי שאנחנו מסכימים שהילד אכן מבצע חישוב של 2=1+1. ומה לגבי הכבשים? האם כל מה שהן עשו בעת שהלכו למרעה צריך גם הוא להקרא פעולה חישובית? כלומר, האם המוח שלהן עשה חישובים? האם השרירים עשו חישובים?

והנה לינק חמוד: http://www.ifi.unizh.ch/ailab/people/lambri/mitbook/...

וגם שאלה: האם הרובוט המתואר בלינק הזה (שניתן לבנות אותו בדרכים רבות ושונות) מבצע פעולה חישובית?
מעניין, אבל בסופו של דבר די מגוחך 462643
השרירים לא עושים חישובים, אבל ברמה העקרונית אתה יכול לבטא את המצב שלהם בכל רגע נתון באופן מתמטי, ואתה יכול לבטא מעברים בין מצבים נתונים בעזרת פונקציות מתמטיות. מכאן נובע שאתה יכול לכתוב תוכנה שמסמלצת פעולת שרירים.
מעניין, אבל בסופו של דבר די מגוחך 462724
התוכנה תסמלץ מודל של פעולת שרירים.
מעניין, אבל בסופו של דבר די מגוחך 462731
נכון.
אם תחבר את התוכנה לרובוט שיכול לבצע פעולות דומות לאלו שיכול שריר אנושי לבצע, תקבל סימולציה מלאה של שריר.
אם תחיל את אותו העיקרון על מוח, תקבל אינטלגנציה מלאכותית.
מעניין, אבל בסופו של דבר די מגוחך 462748
שלשום הוצג בטלביזיה בערוץ שמונה בדיוק זה - רובוט שמניע את זרועו לפי הפקודות במוח של הקוף. בנקודה מסויימת הקוף תפס שהוא אינו צריך להזיז את זרועו ומספיק לו להפעיל את הרובוט בעזרת פקודות מוחו.
הדיון הזה מתקיים בערוץ שמונה (תוכנית של ה BBC כמובן) במקביל לדיון כאן.
האומנם צירוף מקרים? קוונטי?
מעניין, אבל בסופו של דבר די מגוחך 462787
איך חיברו את הרובוט לקוף?
מעניין, אבל בסופו של דבר די מגוחך 462791
לא שמתי לב לפרטים. התרגיל היה בערך כך שנתנו לקוף לשחק במין משחק שהוא צריך באמצעות ג'וי סטיק לכוון נקודת אור למטרה שזהה כל הזמן. במקביל הוא היה מחובר לרובוט שביצע את אותן תנועות שביצע הקוף.
בשלב מסויים הקוף הפסיק להזיז את הג'וי סטיק שבידו ורק הרובוט המשיך לעקוב אחרי המטרה.
אגב, באותה תוכנית הראו מכונה שמנסה להפיק קולות ממוחו של אדם משותק לחלוטין. האדם אמור לחשוב על נניח ''מווו'' והמכונה מפיקה את הצליל ''מווו''.
בונובו! ? 463002
מעניין, אבל בסופו של דבר די מגוחך 463643
ושם: דיון 2366
מעניין, אבל בסופו של דבר די מגוחך 463737
תודה!
נכנסתי לאתר של האייל הקורא לפני שנתיים במסגרת חיפוש חומר ללימודים ויש הרבה דיונים שאינני יודע על קיומם.
את הדיון על המוח גיליתי למחרת כתבתי את תגובתי.
אני רוצה לציין את המשפט הבא מתוך המאמר:
"שלא כמו הקופים, נייגל יכול לספר על חוויותיו. על מה הוא חושב כשהוא מזיז את סמן המחשב? "בהתחלה הייתי חושב על להזיז את העכבר בעזרת היד", הוא עונה בראיון למגזין Wired; "היום אני פשוט מדמיין שאני מזיז את הסמן ממקום למקום". במובן מסוים, המחשב נהפך לאחד מאיברי גופו של נייגל."
לסטיבן פינקר יש דיון ארוך בשאלה אם ניתן לחשוב ללא מילים. אני חושב שדי ברור שאפשר - למשל כאשר אנחנו נוהגים אנחנו מגיבים תגובות רציונאליות (כלומר תגובות של שיקול דעת, לא אינסטינקטיביות!) בלי שנעביר את שיקול דעתנו דרך המסננת של המילים קודם לכן. נדמה לי שהעיבוד למילים נעשה במקביל ובאיחור מה.
מורה שלי, יונה פינק ז"ל, יצר את המושג "דיאגוניזם" שהוא המתח הפנימי שבין הצורך לאובייקטיביזציה על ידי תרגום למילים של מה שאני חש לבין חיסולו של המצב הסובייקטיבי על ידי עצם ההגדרה (לעצמי!).
שעה ומשהו על העולם כמחשב קוואנטי: 496565
מעניין, כמו לוולפראם גם למרצה כאן (Seth Lloyd) יש מין צחוק עצבני מאנפף, במיוחד כשהוא צוחק מהלצות שלו עצמו. סוג של בדיחה קוסמית, אני מניח.
מעניין, אבל בסופו של דבר די מגוחך 462616
לא יודע כמה היה להם קשה, ועד כמה פשוט לא היה להם את הצורך והזמן להתעסק בכך, או את החשק והיכולת לתעד את מסקנותיהם.
מעניין, אבל בסופו של דבר די מגוחך 462723
שוב הטעות הזאת שמבוססת על משחקי מילים? פעילות חישובית איננה (רק) ביצוע פעולות חשבוניות.
מעניין, אבל בסופו של דבר די מגוחך 463128
אז מה זו פעילות חישובית?
מעניין, אבל בסופו של דבר די מגוחך 463297
Computation ולא Calculation

מעניין, אבל בסופו של דבר די מגוחך 463555
הבנתי שזה קשור איכשהו לעיבוד אינפורמציה. אבל אני עדיין מחכה לדוגמה לפעולה כלשהי של יצור חי שאיננה כרוכה בעיבוד אינפורמציה. זה יכול גם להיות יצור חי חסר מוח, אם תרצה - למשל חיידק.
מעניין, אבל בסופו של דבר די מגוחך 463924
זה ממש לא חייב להיות קשור לעיבוד אינפורמציה. כל דבר שאנחנו יכולים לתאר כתהליך של שרשרת סיבה=>תוצאה (גם תהליכים ביולוגיים בהם אנו מתארים שרשראות של מצבים, אינטראקציות כימיות והגעה למצבים חדשים) הוא תהליך ששקול ל"תהליך חישובי". אין שום דבר מיוחד (בהקשר זה) במה שמחשבים דיגיטליים עושים.

אני מתנצל, אבל אני לא יכול לעזור. לטעון שיש בכלל פעולות כאלה בטבע (ביצורים חיים או לא) זו טענה לא טריוויאליות. עליך להמשיך לחכות. אני לא רואה דרך טריוויאלית לסתור את הטענה שניתן לסמלץ (בתאוריה) את הטבע כולו באמצעות מכונת טיורינג (למרות שתחושת הבטן הבלתי מבוססת שלי היא נגד הטענה הנ"ל), ולכן אני לא רואה גם דרך לסתור זאת לגבי המוח האנושי.
מעניין, אבל בסופו של דבר די מגוחך 462747
זו היתה אחת התמיהות הגדולות של דארוין עצמו מהיכן האדם רכש כל מיני מיומנויות שאין להן שום קשר לשרידות.
מעניין, אבל בסופו של דבר די מגוחך 690501
עדכון מעניין למדי בשאלה זאת באתר הידען (ההרגשה שלי אומרת שהעניין יופרך, אבל סביר שהיא לא מבוססת על שום דבר מעבר ל confirmation bias).
מעניין, אבל בסופו של דבר די מגוחך 690526
וברגע שמתברר (כמו שכבר נכתב כאן כמה פעמים) שמנגנוני הפעולה של המוח הם אנלוגיים ולא דיגיטליים, זה עשוי מאד לסבך את הסימולציה. המודל המוקצן של זה הוא סימלוץ כל אטום ומולקולה במח, שזה כמובן הרבה הרבה יותר מסובך מסמלוץ נוירונים דיגיטליים תיאורטיים.
''מכונות תבוניות'' 460147
המרואיין לא אוהב את הרעיון שיצורים כאלה יווצרו, אבל הוא מאמין שבסופו של דבר זה יקרה.
אני, הקטן, לעומת זה, לא מאמין שמישהו ממש מבין מה זה בכלל "יצור תבוני" מלאכותי, וכן מאמין שחוסר ההבנה הזאת תישאר לעד, וממילא גם אם יוצג איזה "הל" כזה, תמיד אפשר יהיה לחלוק על הקביעה שאכן מדובר ב"יצור תבוני".

אני גם חושב שהשאיפה להתקרב לדבר כזה, כשלעצמה אינה מקדמת את האנושות. תפקידן של המכונות לעזור לנו, ולהקל על חיינו, ולא להחליף אותנו, והמרץ שלנו צריך להיות מושקע בכוון בניית מכונות שעוזרות לנו. אם לפעמים, כדי להשיג את המטרה הזאת בונים משהו שמחקה אותנו במשהו מסויים, כי זו הדרך הטובה ביותר להשיג זאת, זה בסדר, אבל החיקוי כשלעצמו לא צריך להיות המטרה.

כדי להסביר את החלק השני של דבריי אביא דוגמא דווקא מהעולם המכני ולא ה"תבוני". תעופה היא בודאי דבר שמאד קידם את האנושות. הניסיונות הראשונים בתעופה היו דווקא בכוון חיקוי בעלי הכנף, ואין לי ספק שאם יעשו מאמץ יצליחו לבנות מכונה שעפה כמו ציפור. אבל בשביל מה ? האדם המציא את הגלגל (בעולם החי, ככל הידוע לי אין דברים דומים לזה) ובעזרת הגלגל הוא פתר את בעיות התעופה בדרך הרבה יותר קלה למימוש. אז לעוף זה טוב. אבל כמו ציפור ? בשביל מה ?
הוא הדין בתחבורה יבשתית. רכבות שרצות על רגליים ? לא צריך לחקות את הטבע. אנחנו המצאנו את הגלגל. הרבה יותר יעיל ופשוט.
''מכונות תבוניות'' 460155
בשלב זה, אני מציע להשקיע את המרץ שלנו בהרס מכונות קיימות המפריעות לנו.
''מכונות תבוניות'' 460160
לדעתי אנשים צריכים לשאוף לעסוק במה שמעניין אותם, ולהמציא מכונה תבונית, זה מעניין מאוד. אני חושב שזה יועיל לנו לא פחות מאשר, נניח, מחקר בלינגוויסטיקה או בטופולוגיה אלגברית.
כדי להמציא כלי תחבורה יעיל, או להמציא מקרר שרוכש מוצרים באופן אוטומטי, או אפילו כדי לתרגם בין שתי שפות - אכן ניתן לחשוב על דרכים יותר יעילות ופשוטות.
''מכונות תבוניות'' 460164
כפי שאמרתי, איני מבין מה זה "מכונה תבונית", ואם יידרש ממני לפתח משהו כזה לא אדע כלל מה רוצים מחיי.

לכן, הבה נניח לרגע למוצר הזה, ונדבר באופן כללי על העיקרון שבמשפט הראשון בדבריך.
האם אתה יכול להבין דוגמה אחרת (תשתדל, דוגמה יותר פשוטה, כדי שאבין) למכונה שמעניין לפתח, למרות שאינה מביאה שום תועלת, ואף כדאי יהיה להקדיש תקציבים כאלה ואחרים לצורך הפיתוח ?
''מכונות תבוניות'' 460165
בוודאי, שתי דוגמאות:
1. תוכנה שמשחקת שח (למטרות מחקר, לא כזו שאתה מוכר).
2. מאיץ חלקיקים.
''מכונות תבוניות'' 460187
יכולת גם להביא כדוגמא משחקי מחשב אחרים וצעצועים. אבל זו מחלקה שיש לה שימוש: פיתוח יכולת החשיבה ויכולות אחרות אצל בני אדם, במיוחד ילדים, וגם מילוי שעות הפנאי במשהו מעניין. בודאי שזה מביא תועלת לאדם.
אבל אמרת "למטרות מחקר", וזה לא היה ברור לי כל כך.
למטרות איזה מחקר ?
מאיץ חלקיקים הוא מכונה שנבנתה למטרת לימוד ופיתוח והבנת הפיסיקה, ובמקרה הספציפי הזה, בודאי הייתה לו תועלת ישירה בנושאי מכשור רפואי, למשל, ובנושאי פיתוח מקור אנרגיה.

לעומת זה, "מכונה תבונית" מה שזה לא יהיה, מה היא תלמד אותנו ?
''מכונות תבוניות'' 460192
רוב התוכנות שמשחקות שחמט לא נכתבות למטרה מסחרית (קרי, לא על-מנת לאפשר לאנשים אחרים לשחק בהן - לרובן אין ממשק גרפי), אלא כדי ללמוד איך אפשר לבנות תוכנות שמשחקות יותר טוב. המטרה הישירה היא הנאה ופיתוח יכולת החשיבה אצל הממציאים. ניתן לקוות שעל הדרך יהיו פיתוחים מעניינים במדעי המחשב, שיאפשרו לנו, למשל, לכתוב תוכנה שיכולה לסנן את דואר הזבל שלנו יותר טוב, או לנהוג במכונית באופן אוטומטי, או לשלוט באופן אוטומטי בכלי רובוטי על מאדים.
אותה מטרה בדיוק יש לייצור מכונה תבונית - רק ששם האתגר הוא הרבה יותר משמעותי וכך גם הסיכוי ללמוד משהו על מדעי המחשב.

בכלל, למה אתה חושב שהמטרה היא "להחליף" אותנו? האם אתה מניח שמי שמפתח מכונה תבונית מקווה שיום אחד היא תוכל ללכת במקומו לארוחת שבת אצל ההורים?

אם זה עוזר לך, אתה יכול לחשוב על מדעי המחשב כסוג של הנדסה אזרחית. התועלת בפיתרון אתגר הנדסי מורכב הוא "אימון" של המהנדס בפתרון בעיות הנדסיות, גילוי בעיות הנדסיות חדשות, ובסיכוי נמוך, המצאת שיטות הנדסיות חדשות שיוכלו לשמש אותנו באתגרים אחרים. כך גם (לדוגמא) חקר החלל מתבצע בשלבים. האמריקאים מקווים שבשליחת בני אדם לירח, הם ילמדו משהוא על שליחת בני אדם למאדים.

בצד - אני לא סבור שבלימוד פיתוח והבנת הפיזיקה הקוונטית (לשם כך יש מאיצי חלקיקים, לא?) יש יותר תועלת בלימוד פיתוח והבנת מדעי המחשב. אני גם לא סבור שלמאיצי חלקיקים היתה תועלת ישירה בנושאי מכשור רפואי ופיתוח מקור אנרגיה, אבל אני אשמח לגלות שכן.

אה, ואחרון חביב, כמעט שכחתי - יש את העניין הפעוט הזה של הרוח האנושית. רוב המחקר האקדמי לא נועד כדי להפיק תועלת ישירה. למה אתה לא תוהה מה ילמד אותנו המחקר בפילוסופיה, באסטרונומיה חוץ גלקטית, או בקולנוע?
''מכונות תבוניות'' 460197
גם מחקר לצורך המצאת משחקים מטרתו הסופית משחקים, ואלה משרתים את האדם. בכל מקרה כשמפתחים תכנה שמשחקת שח יודעים מה עושים ומה המטרה. "מכונה תבונית" כללית היא יצור שלטעמי אינו מוגדר כלל. אפשר לשאוף להחליף פונקציות מסוימות של המחשבה האנושית כמו אותה דוגמה של שח, אבל מה זה "מכונה תבונית" ? אם היא לא מחליפה אותנו, אז מה היא כן ?
''מכונות תבוניות'' 460200
אגב, המחקרים בכיוון ''בינה מלאכותית'' שהחלו בהם לפני לפחות עשרים או שלושים שנה לא הביאו עד כה לשום הישגים, והחלקים המוצלחים בהם היו, כאשר התפתחו לכוון פתרון בעיות ספציפיות, ואז גם, בצדק, שינו את השם שלהם.
לדעתי, אין זה מקרה, והסיבה לכך היא הדברים שעליהם אני מדבר.
יש שימוש למחקר בבינה מלאכותית 460888
אתה טועה. על זיהוי קול שמעת?
עיבוד תמונה?
ניתוח שפה?

אלה כלים מחשביים שנבנו על בסיס מודלים של בינה מלאכותית לסוגיהם. היישומים עוד רבים: מערכות ניתור ובקרה, אבחון, ועוד ועוד.

זה נכון שאף אחד מהיישומים לא יודע לדבר בצורה הגיונית.
מצד שני, רוב המחקר שנערך במאיצי חלקיקים לא תרם ישירות להווי האנושי. רובו עוסק בשאלות איזוטריות על מצבים קיצוניים, שצריך להתאמץ מאוד כדי ליצור אותם בסביבה הקוסמית שלנו.
יש שימוש למחקר בבינה מלאכותית 460910
הדוגמאות שהבאת מחזקות את הטענה שלי. נעשה מאמץ כדי לפתור בעיות ספציפיות שפתרונן יעזור לנו, והייתה הצלחה. כך, לדעתי, צריך לעבוד.
כשמדברים על בינה מלאכותית, עד כמה שאני מבין מתכוונים למחקר בכוון יצירת איזה כלי שבשל ה''בינה'' שלו, יוכל לפתור את כל הבעיות האלה בבת אחת.
אחד המשתתפים כאן נתן איזו דוגמה שסוס באופן טבעי לא מתנגש בעצים, ולכן, כביכול, פיתוח ''סוס'' יפתור את הבעיה הזאת. אבל כפי שעניתי לו, בניית משהו שימנע ממכוניות להתנגש בעצים ברמת פיתוח המחשבים והחיישנים שקיימת בימנו היא משימה די קלה כשלעצמה. אין צורך לייצר משהו שגם יודע לגרש זבובים בזנב וגם מבין בטעמים של עשב. חשיבה בכיוון כזה רק תקשה עליך לפתור את הבעייה שלפניך.
או הדוגמה שאני הבאתי. היכולת לעופף. האנושות פתרה זאת דווקא לא בצורה שציפורים עפות, וזה היה יותר קל ופשוט.
יש שימוש למחקר בבינה מלאכותית 460924
אבל "כלי" כזה הוא בדיוק מה שמפתחים חוקרי הבינה מלאכותית - ועליו מתבססים כל הפתרונות לבעיות שהוזכרו קודם.

טוב, אז לא בדיוק "כלי" אחד, אלא הרבה כלים מאד כלליים.

המחקר הבסיסי בתחום מורכב (עד כמה שידעתי משגת) משלוש זוויות:

(א) מחקר מתמטי-טכנולוגי, שמורכב למשל מפיתוח ומחקר של אלגוריתמים סטטיסטיים לקלספיקציה ("למידה מפוקחת"), לקלסטרינג ("למידה לא-מפוקחת") ולניתוח-שונות. של אלגוריתמים לחיפוש בגרפים, אלגוריתמים גנטיים, ומודליים מתמטיים של רציונליות (תורת המשחקים).

(ב) מחקר קוגנטיבי, בו מנסים ללמוד עוד על "בינה טבעית". למשל במחקר של שפות טבעיות וניתוחן, של ראיה, של תפיסה מרחבית, של זיכרון וכדומה.

(ג) ולבסוף, מחקר נוירולוגי-אנטומי, בו חוקרים את המכונה על גביה ממומשת הבינה הטבעית - המוח.

יש זיקה רבה בין שלושת התחומים האלה. מימצאים אנטומיים משמשים להסבר של תופעות קוגנטיביות, ומשמשים השראה למודלים מתמטיים (כמו המודל המתמטי של "רשתות נוירונים"). במקביל המחקר הקוגנטיבי משמש אמת-מידה לביצועים של המודלים המתטיים. לפעמים גם התנהגות של המודלים המתמטיים מהווה קו-מנחה לפיתוח תאוריות על פונקציונליות של חלקים במוח.

המחקר הנ"ל הוא תיאורטי לגמרי, ומטרתו אחת ויחידה: להבין את התופעה שאנו מכנים "אינטליגנציה".

אך טבעו של מחקר בסיסי הוא שהוא מפיק גם יישומים. בניגוד גמור לטענתך, רבים מהפתרונות הטכנולוגיים של זיהוי ועיבוד אוטומטי של תמונה ווידאו, קול, שפה, מערכות מומחה, משחקי-שמחט, מערכות אוטומטיות לזיהוי הונאות של בנקים וחברות אשראי וכדומה - מקורן בידע שנצבר במחקר בסיסי כמתואר לעיל. באופן אנלוגי לחלוטין לכך שמחקר ביולוגי בסיסי מקדם את הרפואה, ומחקר פיזיקלי בסיסי מקדם את תעשיית הרכב.

התוצאות של מחקר כללי על קלסטרינג ("למידה מפוקחת"), למשל, משמשות כנראה בפתרון של כמעט כל אחת מהבעיות שתוארו קודם. למרות שאלה בעיות מאד שונות.
יש שימוש למחקר בבינה מלאכותית 460976
איני מתמצא כל כך בפרטי הפיתוח של כל הנושאים שמנית, אבל נזכרתי בהרצאה ששמעתי פעם על פיתוח תכנות שחמט. מה שזכור לי משם הוא שהתוכנות האלה לא מבוססות כלל על חשיבה אנושית, אלא יוצרות איזו פונקצית מצב (כלומר מצב טוב במשחק) שמנסים למצוא לה מקסימום ע"י בדיקת כל מיני מצבים אפשריים עתידיים. המרצה סיפר שבתחילה העסיקו החברות המפתחות כל מיני אומנים ורבי אומנים בשח, אבל במהרה הגיעו למסקנה שאלה לא תורמים להם דבר, ונשארו עם אנשי מחשבים. כמו כן הסתבר שדווקא התוכנות שבנויות על "ברוט פורס" הצליחו יותר מתוכנות שבהן ניסו להכניס כל מיני "פטנטים", תכסיסים אפשריים וכדומה. כלומר, חזרה כאן איזו ורסיה של הדוגמה שלי: התעופה והעופות.

אני לא יודע אם זה כל כך שייך, אבל רציתי לספר על משהו אולי הפוך שקרה לי. בעבר, בהזדמנויות שונות כמו שרות במילואים וכדומה נהגתי לשחק עם חברים במשחק "בול קליעה", כלומר ניסיון לנחש במספר שאלות קטן ככל האפשר מספר בן ארבע ספרות שאינן חוזרות על עצמן ללא הספרה אפס. ניסיתי לעבוד בכל מיני שיטות, והצלחתי הייתה ממוצעת.
עד שפעם אחת החלטתי לכתוב להנאתי תכנית מחשב שעושה זאת. אני מניח שבפעלתי כמו שכל אחד היה פועל כדי לפתור בעיה זו. בניתי תכנית שעוברת מניחוש לניחוש לפי סדר המספרים כשהיא מדלגת על כל האפשרויות שהשאלות הקודמות פוסלות אותן.
התוכנית שהתקבלה ידעה לנחש את המספר בממוצע תוך 5 6 שאלות כשתמיד הצליחה לנחש בלא יותר מ 8 שאלות, וזה (8) קרה רק במקרים נדירים.
החלק המעניין היה שהתחלתי לחקות את השיטה הזאת בעצמי, תוך כדי משחק, וראיתי שגם אדם (כשהוא מאמץ עוד כמה טריקים קטנים שעוזרים לו לא לבדוק ממש את כל המקרים כפי שעושה המחשב) יכול לעמוד במשימה הזאת. הרעיון הזה שיפר ללא הכר את יכולת המשחק שלי. בשיטות הישנות מספר הניחושים היה בדרך כלל הרבה יותר גדול.
אז שוב. בשביל מה בכלל צריך "תבונה" ?
יש שימוש למחקר בבינה מלאכותית 461002
כוח ברוטלי מועיל מאוד למחשב, אבל כיוון שמרחב המצבים בשח גדל אקספוננציאלית עם מספר הצעדים שאתה מחשב קדימה, התוכנות המוכשרות מחייבות אלגוריתמים חכמים הרבה יותר, והבנה טובה של המשחק. עם זאת ה"חשיבה" של מחשב איננה אנושית ולא מתיימרת להיות אנושית. היא הייתה והיא תישאר אלגוריתמית - כלומר מורכבת מהמון צעדים קטנים ופשוטים. "בינה מלאכותית" היא משהו שנראה כמו בינה טבעית, אבל בנוי לגמרי אחרת (ככל הנראה).

מי צריך את זה? כבר אמרו לך כאן. הרבה מאיתנו רוצים להאזין למוזיקה מלאכותית, לבחון הוכחות מתמטיות אסתטיות שחיבר מחשב, לשוחח עם פסיכולוג אישי ממוחשב - כל מיני מטלות שבדרך כלל נחוץ עבורת אדם אינטיליגנטי.
יש שימוש למחקר בבינה מלאכותית 461017
או זהו, שדווקא בשחמט brute-force התגלתה כשיטה גרועה יחסית. תוכנת השחמט הישראלית "ג'וניור" (http://en.wikipedia.org/wiki/Junior_%28chess%29), שרצה על מחשבים אישיים – חומרה חלשה בהרבה מזו של "כחול עמוק" – ניצחה מספר מכובד של אליפויות, גם מול מחשבי-על שהפעילו אלגוריתמי brute-force ובחנו עומקים גדולים יותר.
יש שימוש למחקר בבינה מלאכותית 461046
זה סותר את מה שנאמר באותה הרצה ותיקה אבל אולי יש כבר הרצאות יותר חדשות.
אבל השאלה היא באמת אם התוכנה היותר ''חכמה'' באמת מנסה לחקות מחשבה אנושית, או שמפעילים בה שיטות ''מחשביות'' טובות יותר.
יש שימוש למחקר בבינה מלאכותית 461047
אף אחד, כולל השחמטאי עצמו, לא יודע איך שחמטאי בוחר את המסע הבא.
יש שימוש למחקר בבינה מלאכותית 461064
וגם אם מחקים מחשבה אנושית לצורך פיתוח תכנת המשחק, בכל זאת מתרכזים בבעייה ספציפית, ועל חקוי מחשבה אנושית לצורך טיפול בבעיה ספציפית הבעתי דעה חיובית באחת מתגובותיי הראשונות.
הדבר שמפריע לי הוא ריכוז מאמצים ושאיפה לקראת משהו כללי שמחקה מחשבה אנושית, שככזה אמור לפתור את כל הבעיות בבת אחת, כזה שהיותו שחקן שח מצטיין, למשל, הוא רק פרט אחד בו.
לדעתי דרך כזאת תאט ולא תקדם פיתוחים שיועילו לנו.
יש שימוש למחקר בבינה מלאכותית 461071
אבל "הדרך הזו" באה לצד, לא במקום, כל סוגי המחקר האחרים; ובינתיים היא תרמה רבות לתחומי מחקר אחרים במדעי המחשב, בנקודות שונות ומשונות (בדיוק משום שהמחקר הזה נוגע בתחומים רבים ושונים כל-כך). שלא לדבר על התרומה לחשיבה הפילוסופית. אז מה, בעצם, ההתנגדות לקיום המחקר הזה?
יש שימוש למחקר בבינה מלאכותית 462016
ההתנגדות מגיעה מאותו מקום שמגיעה ההתנגדות לטענה שלקופים ולנו יש אב קדמון משותף. זה נורא מעליב.
יש שימוש למחקר בבינה מלאכותית 462018
איך אתה יכול להשוות בין הקופים למחשבים? יש קופים שהם מתוקים עד טירוף!
יש שימוש למחקר בבינה מלאכותית 462032
אין לי שום דבר נגד קופים ח''ח. מספר מחברי הטובים ביותר...
יש שימוש למחקר בבינה מלאכותית 462033
אז מה העיה? שיש לך גם חברים מחשבים?
בן ששים לזקנה 461045
כבר סיפרתי על עניין ה"בול קליעה" לפני כ 6 שנים, ונראה שגם היה שם דיון ממש דומה.
תגובה 48091
יפה שנזכרתי.
יש שימוש למחקר בבינה מלאכותית 461132
קטונתי מלהשתתף בדיון המרתק הזה, אבל אני מבקש להוסיף משהו: די ברור שאדם, לויתן או ג'וק הם מכונות ביולוגיות שמפיקות התנהגות אפקטיבית בסביבתם. אי אפשר להתייחס ל"התנהגות תבונית" רק בהיבט החישובי שלה. זו התנהגות תכליתית בסביבה מוגדרת עם היסטוריה ארוכה של התפתחות שחלקה פתרון בעייות וחלקה סתם שימור הקיים. אגב, חלקה בחישוב דיגיטאלי וחלקה בחישוב אנלוגי וחלקה בשיווי משקל כימי או פיזיקאלי.
הניסיון להתבונן בתפוקות של המוח רק מהפן של "אינטליגנציה" הוא חד צדדי ומטעה. אין הפרדה כזאת מבחינה עקרונית וגם לא מהבחינה המעשית. מתי ייצור אורגני מתחיל להיות בעל אינטליגנציה? מתי אדם מתחיל להיות בעל אינטליגנציה? בגיל שבע, שנה, חודש, חודש שביעי להריון? ספק אם לשאלה הזאת יש תשובה "אנליטית" ויחד עם זאת ברור שלשאלה הזאת יש תשובה - עובדה, כל אדם בסופו של דבר רוכש את ה"אינטליגנציה".
מדובר בשאלה מעשית ולא מטאפיזית. זה פשוט קורה במציאות - תא זרע וביצית שמתאחדים, בשלב מסויים מתחילים ליצור אישיות ואינטליגנציה.
אולי השאלה מהי אינטליגנציה היא השאלה הלא נכונה? האם מצפים שתהיה על זה תשובה אחרת מאשר היכולת להתנועע בסביבה מורכבת, היכולת לקרוא ספר, היכולת לתפוס חרק, היכולת להבין שיר?
יש שימוש למחקר בבינה מלאכותית 462214
אבל האם לא היה יותר קל ופשוט לבנות מכונית שלא מתנגשת בעצים אם היה לך מחשב "תבוני" במידה מסויימת שניתן לתכנת אותו בקלות יחסית "להבין" מה זה "עץ" ואיך לא להתנגש בו ?
''מכונות תבוניות'' 460167
ואם כבר הרמת לי להנחתה, הנה עוד כמה מכונות בלתי שימושיות אפילו בפוטנציה:
''מכונות תבוניות'' 460170
הרובודוס נראה לי פתרון יצרתי לתחבורה ציבורית בשבת
''מכונות תבוניות'' 460188
לא היית צריך ללכת כל כך רחוק.
אולי גם פסנתר פטישים קלאסי רגיל הוא סוג של מכונה.
אבל הוא נבנה למעננו ובפרוש מביא לנו תועלת ישירה, ולא בא להחליף אותנו.
''מכונות תבוניות'' 460266
ארתור גנסון בנה סידרה של מכונות בלתי-שימושיות-בעליל מקסימות ביותר. רובן נאצרות במוזיאון MIT, אבל הד חיוור ניתן לראות כאן: http://www.arthurganson.com/pages/Sculptures.html
''מכונות תבוניות'' 460226
הגדרה "גמישה" ל"מכונה תבונית": מכונה, שאם היית משוחח איתה בדואר אלקטרוני, לא היית יכול לגלות שאתה בעצם משוחח עם מכונה ולא עם בן-אנוש.

למה צריך את זה? יש בעיות רבות במחשוב שמוגדרות כ-"AI-Complete", כלומר, (א) בני-אדם יודעים לפתור את הבעיה, (ב) לא קיים אלגוריתם ידוע הפותר את הבעיה, ו-(ג) מניחים שרק מכונה תבונית – כלומר, אלגוריתם המסוגל לדמות בן-אנוש באופן כללי – תוכל להתמודד עם הבעיה.

ההגדרה אינה קשיחה כמובן, וישנם כמה וכמה מקרים של בעיות שחשבו בעבר שהן AI-complete ולבסוף נמצא להן פתרון אלגוריתמי "פשוט".

למה צריך מכונות תבוניות? ודאי לא כדי להחליף את בני-האדם באופן כללי (מה הטעם? מטרת ההתקדמות התעשייתית והמדעית לעזור לאנושות, לא?) אלא כדי להחליף את בני-האדם במקומות בהם לא רצוי, לא כדאי, יקר, או אי-אפשר שיהיו בני-אדם.

למשל: תרגום סימולטני מכל שפה לכל שפה, כולל ניואנסים, התייחסויות תרבותיות, משחקי-מילים וכיוצ"ב.

למשל: תמצות טקסט: תן לי ספר בן 1000 עמודים, ואתן לך סיכום של עיקריו בשלושה עמודים. אני יכול לעשות זאת, אבל ידרש לי זמן רב, ואשתעמם מאוד; מדוע שמכונה לא תעשה זאת?

למשל: עריכת טקסטים מדעיים ברמה גבוהה – החל מאיתור שגיאות דקדוקיות, דרך מציאת טעויות בהוכחות וכלה באיתור עבודות מחקר קודמות שהכותב שכח להתייחס אליהן.

למשל: כתיבת תוכנה. במקום לתכנת תוכנית, הייתי מעדיף לתאר אותה, במילים פשוטות, ולקבל תוכנה עובדת. שוב, יש אנשים שיכולים לעשות זאת, אבל מדוע להעסיק בני-אדם במקום בו מכונות יכולות לעשות את העבודה (טוב יותר, מהר יותר, ובזול יותר)?

למשל: רובוט-חייל שמסוגל להלחם בשטח בנוי, ולהמנע מפגיעה באזרחים ובעוברי-אורח.

ועוד ועוד; מבחר הדוגמאות לא מוגבל.

ברור שבהנתן מכונות תבוניות, החברה האנושית תשתנה מהקצה אל הקצה: כמו המהפיכה התעשייתית, שהפכה עבודות פיזיות רבות למיותרות משום שהעובדים הוחלפו ע"י מכונות, כאן מדובר בהחלפת עובדי "צווארון לבן" במכונות. איך תראה החברה האנושית בשלב בו מכונה תבונית תהיה דבר יומיומי וזול? אין לי מושג.
''מכונות תבוניות'' 460231
את ההגדרה שהבאת ל"מכונה תבונית" אני מכיר. ראיתי זאת בתכנית בטלויזיה לפני, נדמה לי, כעשרים שנה כ"מבחן טיורינג". שני המשתתפים בתכנית, אחד מישהו שהוצג כגאון צעיר, והשני, אם איני טועה, פרופסור רבין, היו בטוחים שתוך זמן קצר תיבנה מכונה שתעבור את המבחן הזה. אני הערכתי אז שדבר כזה לא יקרה בקרוב, ומסתבר שאני צדקתי.
חוץ מזה המבחן הזה לא נראה לי רציני אז, וגם לא היום, כי אינו מוגדר מספיק. למשל כמה חילופי מכתבים מותרים, מה מותר לבודק לשאול, מי מבצע את הבדיקה וכדומה. ההגדרה הזאת ממש סתמית.

בהמשך דבריך מנית שורה של משימות שיכולות להקל על החיים. לדעתי, כל אחת מהמשימות אינה נראית כדבר בלתי אפשרי. בעבר, הרי, אפשר היה להציג ברשימה הזאת גם תכנת השח שיכולה להתמודד עם אלופי עולם. זו משימה מוגדרת, ולפחות ממבט ראשון אינה נראית בלתי אפשרית, ועובדה שהצליחו בכך.
אז יש תוכנת שח כזאת. האם זה אומר ש כבר המציאו "מכונה תבונית" ? ואם ימציאו גם מכונה שמתרגמת או מקצרת כפי שהצגת, זאת אומרת שהמציאו "מכונה תבונית" ?.
אני מאמין שיימצא פתרון לכל אחת מהמשימות שהצגת. אף אחת מהן לא נראית לי חלום בלתי אפשרי. אבל אני טוען שגם אחרי שיימצאו הפתרונות האלה לא אבין מה זה "מכונה תבונית".
המצאת מכונית שאינה מתנגשת בעצים, למשל, נראית לי ממש משימה קלה. זה רק עניין של תקציב וכדאיות להשקיע אותו.
הדרך להתמודד עם המשימות האלה היא לטפל בכל אחת בנפרד, לחשוב על הבעיות שהיא מציגה ולנסות לתת פתרונות ספציפיים.
אבל לבנות משהו "תבוני" שיתן בבת אחת פתרונות לכל אלה ולעוד דברים, זה, לדעתי, משהו שבמקרה הטוב יערך הרבה יותר זמן ויציג הרבה יותר קשיים משיטת הטיפול שאותה אני חושב כנכונה.
''מכונות תבוניות'' 460232
את המכונה שלא מתנגשת בעצים לקחתי, מסתבר, מבלי להתכוון, מתגובתו של ''אח של אייל''. בעצם אני רואה בתגובתי זו תשובה גם לו.
''מכונות תבוניות'' 460249
אתה מערבב כאן שתי טענות: אחת, שאינך יודע מהי מכונה תבונית. שנייה, שמכונה כזו לא תיבנה בקרוב. לעניות דעתי הן סותרות זו את זו.

"תבונה" היא דבר מסובך להגדרה ולמדידה. לא פשוט להבחין בין אדם אינטיליגטי לאדם טיפש. מבחן טורינג (שטל הזכיר בלי הקרדיט הראוי, בושה לדוקטור מהטכניון!) הוא מדהים בפשטותו אך איננו "סתמי". אתה יכול למלא את הפרטים שחסרו לך כך: *אתה* תדע שמכונה היא תבונית אם *אתה* לא תוכל להבחין בינה לבין אדם שהוא אינטיליגנטי *לדעתך*. אם כך קרה, קיימת מכונה תבונית-אנשלוביץ.

אחת ההגדרות הרבות לבינה מלאכותית (גם היא זו מופיעה בגא"ב): בינה מלאכותית היא כלל הפעולה התבוניות שבני אדם מסוגלים להם ומחשבים עדיין לא. זו כמובן הגדרה שמחבלת בעצמה ומעקרת את נושא המחקר, אך היא מוסכמת על רבים ולו בצורה סמויה. ברגע שמטלה מסוימת מבוצעת באופן ממוכן, היא מפסיקה להיחשב "תבונית". אני לא מסכים לכך, אלא מסכים לסיפא של דבריך: תבונה היא היכולת לפתור מגוון עצום של בעיות, ובכללן גם בעיות שיש להמציא את מתודולוגיית הפתרון עבורן. כדי לבנות מכונה תבונית יהיה עלינו לגרד את ההר הזה פירור-פירור. וזה יהיה תהליך ארוך.
''מכונות תבוניות'' 460254
בפרינציפ איני עונה לאיילים אלמונים, אבל כיוון שנראה לי שאתה "אייל אלמוני" תמים "אשר לא ידע את דב", אחרוג ממנהגי.

לגבי מבחן טורינג, נניח שהשאלה שאשאל את ה"מכונה התבונית" היא: מה אכלת אתמול בארוחת הערב ? איך צריכה המכונה התבונית לענות ? לשקר ? או שלפי הכללים של המבחן אסור לשאול שאלה כזאת ?
וזו סתם שאלה ראשונית שקפצה לי לראש. בראש "התבוני" שלי מתרוצצות המון שאלות כאלה שמטילות ספק בבהירות של המבחן הזה.

לגבי החלק השני של דבריך, שבו אתה מסכים עמי (1), הרי את הפרורים הטעימים ממילא נגרד מההר, כמו שעשינו עד כה, כי זה ייטיב עמנו.
מתי נחליט שגרדנו די פרורים כדי לומר שפתרנו את בעיית המכונה התבונית ? למה לא לומר שכבר היום עשינו זאת ? האם עלינו לגרד גם פרורים לא טעימים לצורך המטרה הזאת (שכן בני אדם מסוגלים גם לעשות מעשים בלתי מועילים) ?
ואם באמת הכוונה להכיל ממש את כל יכולות האדם, האם זאת נראית לך משימה אפשרית ? הרי גם היכולת האנושית יש בה התפתחות. למה שהמכונה תשיג ?

(1) אגב, איני מוצא כל קשר בין ההגדרת טיורינג וההגדרה השנייה. מכונה שתצליח "לעבוד" על בן אדם פרק זמן מסויים, לא בהכרח תוכל לעשות דברים אחרים שהוא יכול לעשות.
''מכונות תבוניות'' 460263
אני לא יודע מה מקור הפרינציפ שלך, אבל אני מודה - שיחה עם עננת אלמונים עלולה להיות מייגעת. לצורך הדיון אטען שאני אייל תבוני.

לגבי מבחן טורינג: הוא מתיר לבוחן לשאול כל שאלה (או לספר בדיחה) שימצא לנכון על מנת להכריע האם מולו אדם תבוני או מכונה. המכונה מנסה לרמות את הבוחן - זו כל הפואנטה. אם היא תאמר תמיד אמת, די לו לבוחן שישאל "האם את מכונה?".

מדוע לא לומר שכבר היום יש בידינו מכונה תבונית? כיוון שזהו חיווי שקרי. אני מנחש ששנינו נסכים בהסתברות טובה אם נישאל: האם שמעון אינטיליגנטי?. אני מנחש ששנינו נסכים שהלפטופ שלי איננו אינטיליגנטי. (כמובן שאם לדעתך אין משמעות למושג "אינטיליגנציה", אין גם מקום לדיון באינטיליגנציה מלאכותית)

האם מכונה כמו-אנושית תיבנה בקרוב (בימי חיי)? אינני סבור. עם זאת, אני רואה יצורים כמו-אנושיים מסתובבים בעולם הגשמי, מתפתחים, ורוכשים אינטיליגנציה. אינני רואה כל סיבה מדוע הדבר הזה יהיה אפשרי מעל מצע של בשר ושומן ולא מעל מצע של סיליקון.

(1) אתה קצת מגזים בטענה ש"אין כל קשר" בין ההגדרות. אחת הייתה מעורפלת (וניתן להבין אותה בכמה אופנים) והשנייה מבהירה אותה. ניתן לחשוב גם על הבהרות אחרות: למשל, שנערוך את הבחינה במשך חודש, ויהיו 71 בוחנים תושבי פתח-תקוה. אם אתה מסכים איתי שלפתח-תקוואים יש דעה סבירה על אינטיליגנציה, הבחינה הזו בעלת משמעות לעניינינו.
כדאי אולי לציין (כיוון שרמזת לכך בעצמך) שמבחן טורינג נחשב למבחן מספיק לאינטיליגנציה, לא למבחן הכרחי. מכונה שתעבור את הבחינה תהיה חייבת לבצע גם דברים אנושיים-אך-בלתי-אינטיליגנטיים כמו לטעות בחישובים מתמטיים ארוכים, להתעייף, או לטעון שהיא אוהבת את שלמה ארצי. זה מצער שטרם נמצא מבחן חד וקולע - אך זה לא מפתיע - המושג הנמדד הוא מעורפל בעצמו.
''מכונות תבוניות'' 461296
לא ''לטעות'' בחישובים מתמטיים ארוכים. להבין מה השומע מהצד השני רוצה לשמוע ולתת לו את זה.
''מכונות תבוניות'' 461317
לא הבנתי את הבדיחה. מה שאתה מתאר דורש אינטילגנציה והבנה פסיכולוגית. זה לא סתם חיקוי של שטות אנושית.
''מכונות תבוניות'' 461318
זו לא בדיחה. זו סתירה לטענה ש''מכונה שתעבור את הבחינה תהיה חייבת לבצע גם דברים אנושיים-אך-בלתי-אינטיליגנטיים כמו לטעות בחישובים מתמטיים ארוכים''. אני טוען שמכונה שתעבור את הבחינה לא חייבת לבצע את הדבר האנושי-אך-בלתי-אינטליגנטי הזה, כי היא יכולה במקום זאת לבצע את הדבר הכן-איטנליגנטי של לזהות מתי הבוחן מצפה לתשובה ''שגויה''.
''מכונות תבוניות'' 461321
אה. אוקי.
אבל בעיניי מכונה שנראית כאילו היא תבונית - היא באמת תבונית.
ומכונה שנראית כאילו היא טועה - באמת טועה.
''מכונות תבוניות'' 461323
אם אי-פעם יתוכנן מחשב שיהיה מסוגל לעבור איזשהו סוג של מבחן-טיורינג, אני לא רואה שום סיבה שהוא יהיה מסוגל לחשב חישוב מתמטי ארוך. החומרה שלו תוכל, אולי, להיות מתוכנתת כך שתדע לכפול מספרים באורך 200, אבל התוכנה האינטליגנטית שלו, הלומדת ומתפתחת כאדם, אינה זקוקה לשום יכולת כזו וסביר מאוד שהיא לא תיווצר שם מעצמה. שאל מחשב כזה מה השורש של מיליארד - אם הוא יצליח לענות בכלל, מאוד סביר שהוא יטעה.
''מכונות תבוניות'' 461328
שאל אדם מה השורש של עשרה מיליארד או מאה מליון, לעומת זאת, וסביר להניח שתקבל את התשובה הנכונה, אם הוא רק יזכר מה השורש של מאה. עכשיו, אם יש לך במקרה מישהו שזוכר את השורש של חמש ושתיים - ואפשר בניסוי וטעיה פשוטים למצוא תשובה מדויקת די הצורך - הוא יכול לחשב לך תשובה מקורבת די בקלות.

אם אתה מצפה שתוכנה שכזאת, שמחקה בני אדם, תהיה מסוגלת לחשב את השורש של מאה ושאר חישובים פשוטים שמצפים מאדם להיות מסוגל להם, אני לא רואה מניעה שבאמצעות הגדלה פשוטה של הזכרון שלה, היא תהיה מסוגלת לבצע ''בראש'' גם חישובים מורכבים שהאדם הממוצע נזקק לדף ועט עבורם. ואני לא מתכוון רק לחישובים אנושיים באופיים כמו המתואר בפסקה הקודמת. עם יותר זכרון וסבלנות, אדם יכול לחשב באותו האופן והדיוק כמו המחשב.
''מכונות תבוניות'' 461332
ברגע שהתוכנה האינטליגנטית תלמד את ניוטון-רפסון, היא תיזכר שיש לה אחלה חומרה ותוכל מעתה והלאה לחשב שורש להכל. אם היא לא תלמד את ניוטון-רפסון, אני לא חושב שאפשר להגיד שהיא אינטליגנטית ;-)
''מכונות תבוניות'' 461344
גם לך יש אחלה חומרה, הבעיה היא שזה לא כל כך קל לך להשתמש בה למטרות כאלה.
''מכונות תבוניות'' 461345
אוקיי, ולמחשב כן קל, כי יש לו חומרה קצת שונה משלנו שפועלת קצת שונה. לניטפוק הזה יש פואנטה?
''מכונות תבוניות'' 461348
אולי למחשב שתוכנן לעמוד במבחן טוירינג אין גישה ישירה לחלקים בחומרה שיכולים לחשב את השורש של 2,123,133,412 באופן מיידי. זה הרי לא כל כך מופרך, לרוב הטלפונים המודרנים יש את החומרה שמאפשרת לחשב חישובים כאלה, אבל המחשבון של רובם מאד מנוון, ואין סיבה לחשוב שאין חלקים במח שלך שמסוגלים לבצע חישובים נומריים מאד מורכבים (אני מניח שבעיבוד הראיה, ואולי גם בחישובי תנועה), אבל אתה לא יכול לגשת אליהם ישירות ולשאול אותם שאלות.
''מכונות תבוניות'' 461355
"גישה ישירה לחלקים בחומרה"? הוא צריך גישה בסיסית למעבד.
''מכונות תבוניות'' 461357
אם אתה היית מתכנן תוכנה כזאת, היית מאפשר לה גישה ישירה למעבד? לאיזה צורך?
''מכונות תבוניות'' 461358
איבדת אותי ב''אתה היית מתכנן תוכנה כזאת''. אני לא חושב שתוכנה כזו ניתנת לתכנון. נראה לי שאם כבר, מה שיקרה הוא שנבנה מנגנון בסיסי שמסוגל ''ללמוד'' דברים עצמאית. למנגנון כזה אתן את האפשרות לבצע חישובים אריתמטיים, מכיוון שצריך לדעת לעשות אותם באלף ואחד דברים שונים.
''מכונות תבוניות'' 461362
גם תוכנה שלומדת דברים צריך לתכנן. זה שיש לה חומרה שמסוגלת לבצע חישובים אריתמטיים, ושתהליך הלימוד משתמש בחומרה הזאת, לא אומר בהכרח שהתוכנה עצמה יכולה להשתמש בחומרה הזאת. למשל, המח האנושי מסוגל ללמוד, במח האנושי יש רכיבים שמסוגלים לבצע חישובים אריתמטיים, בעל מח האנושי לא יכול להשתמש ברכיבים האלה לצורך חישובים אריתמטיים באופן ישיר.
''מכונות תבוניות'' 461365
נראה לי שאתה משתמש יותר מדי בדוגמה של המוח האנושי. מחשב אינו המוח האנושי וגם לא יהיה. מחשב, כדי לבצע פעולה אריתמטית, מספיק שיכיל שורת קוד של "x=y+z" ויקמפל אותה לפקודת מכונה בודדת (ובסיסית) אחת. אם כותבים תוכנה שמסוגלת לשנות את הקוד של עצמה (וכאמור, בלי זה לדעתי אין מה לדבר על לעבור את מבחן טיורינג), צריך להתאמץ מאוד כדי למנוע ממנה להוסיף שורות כאלו ועדיין לעשות משהו - ואין שום סיבה לכך.

אולי כדאי להבהיר משהו. אני לא אומר "מחשב שעובר את מבחן טיורינג בהכרח יהיה מסוגל לחשב שורשים". אני אומר שאין שום סיבה שלא יהיה כך, ושכנראה צריך להתאמץ הרבה יותר כדי ליצור מחשב שעובר את מבחן טיורינג ולא יודע לעשות חשבון, מאשר צריך להתאמץ כדי ליצור מחשב שעובר את מבחן טיורינג וכן יודע.
''מכונות תבוניות'' 461368
"לשנות את הקוד של עצמו" זה דבר קצת גדול, שכולל הרבה דברים. בעיקרון, כל תוכנה לומדת יודעת "לשנות את הקוד של עצמה", גם בני אדם מסוגלים "לשנות את הקוד של עצמם", אבל זה לא אומר שהיא או אנחנו מסוגלים ממש לגשת לכל הקוד, לשנות אותו, לקמפל ולהריץ. כמתכנת, אני לא מבין איך פיתוח יכולות כאלה יכולות לעזור לעבור את מבחן טיורינג (וכמו שהסבירו כאן, זה עלול להפריע), ולכן לא נראה לי סביר שזה יהיה כלול בקוד של תוכנה כזאת. עובדה שאלוהים הצליח לייצר מכונת טיורינג בלי לתת לה את הגישה לקוד של עצמה, היא, לדעתי, עדות תומכת. אם אתה חושב שאני טועה, אז תצטרך להסביר לי איזה שיקולים יש *בעד* הכנסת אפשרות כל כך חזקה.
''מכונות תבוניות'' 461406
אלוהים ברא מכונה שעוברת את מבחן טורינג, והיא בעצמה פיתחה לה מחשבון. אין שום בעייה לתת למחשב התבוני של גדי מחשבון כיס, רגע לאחר שהוא עבר את מבחן טורינג. (כמובן שהמנשק בינהם יהיה יותר יעיל מ-‏15 כפתורים ו-seven segments)
''מכונות תבוניות'' 461436
אלוהים לא יצר כלום כי אין אלוהים. לעומת זאת, את הבסיס למכונת הטיורינג המדוברת הולך ליצור אדם.

אין לי כוח וחשק להמשך הדיון.
''מכונות תבוניות'' 461438
אתה טועה. השאלה אם יש או אין אלוהים אינה קשורה כלל לשאלה אם הוא יצר דברים או לא. ברור שהוא/היא יצרו הרבה מאוד דברים.
''מכונות תבוניות'' 461441
גם לא. ברור שאנשים השתמשו במושג (הלא מוגדר היטב ולא אחיד) של אלוהים כדי ליצור כל מני דברים.
''מכונות תבוניות'' 461457
חלקם השתמשו בו, באחרים המושג השתמש.:)
''מכונות תבוניות'' 461473
גם אם נניח שיש אלוהים (ואין, אני בדקתי...) אזי ברור שהוא לא התערב ביצירת כל אחד מתושבי כדור הארץ הנוכחיים. גם אם נדבר רק על אנשים, למרות שגם לג'וק יש איזה מין מחשב, או מה שזה לא יהיה, שמנהל את התנהגותו, שום דבר טרנסצנדנטאלי לא התרחש באיזה מן השלבים מרגע הפריית הביצית ועד ללידתו ובכל זאת רוב בני האדם (והג'וקים) נולדים עם מחשב (או מה שזה לא יהיה) שפועל.
''מכונות תבוניות'' 461423
אני אישית לא אצביע "אנושי" (או יותר מדויק: לא אצביע "תבוני") לבר-שיח שלא יהיה מסוגל לחשב שורשים אחרי שאסביר לו את האלגוריתם (או לעקוב אחר כל אלגוריתם קצר אחר, בין אם התוצאה שהוא מניב נושאת משקל הגיוני שקשור לחייו [כמו שורש ריבועי] או לא [כמו סתם אלגוריתם שאמציא על המקום, ולא בהכרח יתעסק במספרים]).
''מכונות תבוניות'' 460439
איך אפשר להזכיר את מבחן טיורינג מבלי לתת את הקרדיט המתאים?
התשובה היא בגוף השאלה.
מילא אם טל לא היה נותן קרדיט למגלה חוקי ניוטון או להוגה התיאוריה המרקסיסטית...
''מכונות תבוניות'' 460490
זהו, שאם תדפדף מעלה, תגלה את העובדה שזעזעה את דב - טל תיאר את המבחן אך לא קרא לו בשמו.
''מכונות תבוניות'' 460553
נדמה לי שאתה יוצא מההנחה ש''תבונה'' זה דבר אחד מוגדר וסדור. לי נדמה שזה הרבה מאוד פונקציות. למשל קשה מאוד כנראה לתכנת ברובוט את היכולת שיש לג'וק לנווט בעולם, אבל מאידך כבר מזמן נפתרה הבעיה של איחסון מכאני של הידע הרפואי שלומדים במשך שנים רבות בבית הספר לרפואה.
זה כמובן לא אומר שג'וק הוא יותר תבוני מתלמיד בבית הספר לרפואה...
''מכונות תבוניות'' 460195
סתם הערה קטנונית, אני לא חושב שהמצאת הגלגל היא עניין גדול. המצאת המיסב (גלגל שסובב על ציר נייח) זו ההתקדמות האמיתית.
''מכונות תבוניות'' 460198
כשאני מדבר על המצאת ''הגלגל'' אני מתכוון לו בתוספת הציר. גם המצאת המספריים בראשיתה לא הייתה משהו, אם אז הומצא רק ''מספר'' אחד ולא זוג, וכך גם הבוכנה ללא הצילינדר וכו'.
''מכונות תבוניות'' 460199
ראיתי פעם סרטון היתולי בשם: "רגע המצאת הגלגל".
שני חברה מזוקנים בלבוש "האדם הקדמון" טורחים קשות על סיתות אבן ענקית לצורת גלגל כשהם משמיעים זה כלפי זה תוך כדי כך כל מיני נאקות (יענו שפת האדם הקדמון).
כשהמלאכה מושלמת, לאבן יש צורת גלגל, ששוכב על הקרקע. השניים מריעים בשמחה ואז בכוחות משותפים ובמאמץ רב הם מרימים את ה"גלגל" ומעמידים אותו, ואז במקום לגלגלו סביב צירו הם מפילים אותו לצד השני ושוב מרימים אותו מצדו השני וכך "מגלגלים" אותו בניצב לכיוון הנכון, תוך כדי קריאות שמחה.
ברור שזה לא זה . . .
''מכונות תבוניות'' 460229
תבונה זה אחד התופעות שקל לנו לזהות באופן אינטואיטיבי, אבל קשה מאד להבין או להגדיר - בדומה למספרים רנדומיים, או הומור. מצד שני, יש לנו כבר מכונות שמחוללות מספרים רנדומיים, ואין מחלוקת על כך שלמחשבים יש חוש הומור משובח שמתבטא בעיקר בנטיה להתקלקל ברגעים הכי גרועים.

לגבי הקידום של האנושות, אני חושב שאין שום ספק בפונטציאל של מכונות תבוניות "לעזור לנו ולהקל על חיינו". הדבר הזה מודגם באין ספור יצירות מד"ב, אבל בעיקר ע"י ידידינו בעלי החיים שעזרו ועדיין עוזרים לבני האדם. אני אתן דוגמא שנתן לי מרצה באוניברסיטה לפני הרבה שנים. אנחנו אף פעם לא רואים בסרטים איש רוכב על סוס, והסוס רץ רץ רץ ומתנגש בעץ. למה? מפני שבניגוד למכונית, סוס מספיק נבון בכדי להבין שלא רצוי להתנגש בעצים. יותר מזה, הוא יודע לבד להשאר על הנתיב הנכון. אילו היתה למכונית תבונה של סוס זה כבר היה נותן תועלת עצומה. אבל אנחנו רחוקים מאד משם. והתבונה של סוס היא דוגמא מאד טובה לסוג המכונות שאנחנו מחפשים - כלומר יכולת להתמודד עם העולם, כולל עם מצבים לא מוכרים, ולהגיע ליעד שמציבים לו. אם תרצה, מה שמעניין זה מבחן התוצאה. האם קיימת מכונית שיודעת לנהוג לבד, וזה לא משנה אם ימכרו אותה בתור מכונית חכמה או נבונה או דור 3.

דרגה אחת מעבר לסוס, זוהי תבונה גנרית יותר ועם הרבה יותר פוטנציאל. רובוט תבוני, כמו בספרים של אסימוב, יוכל להחליף את בני האדם בעבודות הפשוטות והמשעממות. למשל: נקיון, שמירה, חקלאות. בניגוד לסוס, לא מדובר במומחה, אלא ברובוט שניתן לאמן אותו לעשות כל משימה בתנאי שהיא מספיק פשוטה (במקרה, כלבים עוסקים בשתיים מהמשימות שהזכרתי). גם כאן, מעניין מבחן התוצאה.

אפשר להזכיר גם מכונות עוד יותר תבוניות, אבל אני מרגיש שאני נסחף.
''מכונות תבוניות'' 460235
אחזור בקצרה על דברים שעניתי לטל כהן.
גם אתה וגם הוא מביאים רשימה של משימות שעל ה"מכונה התבונית" יהיה להתמודד עמן. נראה שהדמיון של שניכם הוא לא משהו, ובעצם הבאתם רק דברים שלפחות ממבט ראשון הם ממש בהשג יד, ואני מאמין שיימצא להם פתרון תוך זמן לא ארוך.
למשל תכנת שח שהצליחה לנצח את אלוף העום בשח היא משהו שנשמע הרבה יותר מלהיב ממכונית שלא מתנגשת בעצים (1), ובמשימה הזאת האנושות עמדה.
דעתי היא שפתרונות לבעיות כאלה יושגו ע"י זה שיתמקדו בבעיה וימצאו לה פתרונות. לבנות "מכונה תבונית" שתעשה בבת אחת את כל מה שצריך נראה לי משהו שאינו לעניין.

(1)היום מטוסים נוחתים באופן אוטומטי לגמרי, וכטייס חובב [בדימוס] אני יכול להעיד שנחיתה היא תרגיל לא פשוט,מורכב הרבה יותר מאשר לא להתנגש בעץ.
''מכונות תבוניות'' 460245
"לבנות "מכונה תבונית" שתעשה בבת אחת את כל מה שצריך נראה לי משהו שאינו לעניין." למה לא לעניין? ברור שזה יותר קשה מלעשות משהו ספציפי. אבל גם הרווח הפוטנציאלי (ואני מדבר על רווח דולארי) הוא הרבה יותר גדול.

בין כל המשימות האלו יש קווים משותפים - והזכרתי אותם בקצרה. למעשה, משתמשים בהן באותה "משפחה" של אלגוריתמים. כל משימה כזו שמושלמת, מעשירה את המשפחה של האלגוריתמים, ותורמת ישירות או בעקיפין להשלמת המשימות האחרות - ובסופו של דבר יתרמו למכונות תבוניות יותר ויותר גנריות.

יש לי מטאפורה בשבילך. היום, זה די ברור שלפני שאפל המציאה מכשיר סלולרי עם מצלמה שגם גולש באינטרנט, כולל gps וכו' וכו' אז צריך היה להמציא את המחשב הראשון ואת המרכזיה הטלפונית הדיגיטלית, ולשלוח את הלווין הראשון לחלל ועוד ועוד. אתה דומה בעיני לדוור (בדימוס) שחי ב 1931 ואומר: כן, כן. כל הדברים האלו הם נשמעים ממש בהישג יד. טלפונים יש כבר היום וגם מצלמות. אבל אני לא מבין למה לערבב את כל המכשירים האלו ביחד, זה לא לעניין. מי יקנה את זה?
''מכונות תבוניות'' 460250
אם אתה רוצה שהמכונית שלך גם לא תתנגש בעצים וגם תדע לשחק אתך שח, אין לי התנגדות.
אבל אני לא דברתי על דבר כזה או על מכשיר טלפון סלולרי שהוא עוד הרבה דברים שהומצאו קודם.
אלה שמדברים על "מכונה תבונית" מדברים על מאמץ פיתוחי בכוון מסויים (כיוון שלי הוא לא ברור, ולדעתי כלל לא מוגדר), שכאשר יצליח, ימצאו לפתע פתרונות פלא להרבה בעיות שימושיות בבת אחת, שעד כה לא נמצא להן פתרון.
אני אומר: הבה נמצא פתרון לכל אחת מהבעיות האלה בנפרד. אחר כך אם זה יהיה שימושי לאחד את חלקם למכשיר אחד, למה לא. אם זה שימושי מאמץ האיחוד כדאי. הוא פותר עוד בעיה שכדאי לפתור.
''מכונות תבוניות'' 460352
בוא ננסה כיוון חדש.

לפעמים יש בעיות שבאמת יש להן מכנה משותף, ויש איזשהי אפליקצית קסם שעשויה לפתור הרבה בעיות כאלו בבת אחת, ועוד בעיות שאנחנו לא מצליחים לחשוב עליהם כיום. קח לדוגמא את ההנדסה הגנטית. להנדסה גנטית יש יישומים גם בחלקאות, גם ברפואה, בתעשיית הפלסטיק, ובטח בעוד הרבה תחומים שאני לא מכיר. רק מי שלמד הנדסה גנטית, יכול להבין מה המשמעות של ייצור חלבונים באופן סינתטי (לדוגמא), ואיזה דברים חלבונים כאלו יכולים לעשות ולא יכולים לעשות. ההנדסה הגנטית נתנה לנו כלים חדשים לגמרי. כלים שלעולם לא היינו מקבלים אילו היינו מנסים למצוא פתרון לכל בעיה בנפרד.

נגיד שמגיע איזשהו פרופסור מפוזר ממכון וייצמן, ויגיד: "אני צריך ככה וככה מיליונים לטובת הנדסה גנטית - אבל תדעו שזה לא מחקר טהור, כי יש לו יישומים גם בזה וגם בזה וגם בזה." עכשיו נניח שאתה אדם מהרחוב שהחלבון היחידי שהוא מכיר זה מה שעושים ממנו חביתה. אז הוא יגיד מה לעזאזל הקשר בין תנובת הפירות של עץ התפוז, לבין תרופה לסרטן. אם אתה רוצים לחפש תרופה לסרטן לכו לבית חולים, ואם אתם רוצים יותר תפוזים אז לכו לפרדס, אבל לא יכול להיות שיש כיוון מסויים שפותר את 2 הבעיות האלו.

עכשיו, יש כל מיני פרופסורים למדעי המחשב, שטוענים שיש איזשהו מכנה משותף גם לבעיה של קריאה אוטומטית של טקסט, וגם לבעיה של מכונית שנוסעת בעצמה, ולעוד הרבה בעיות אחרות. ויש תחום מחקר, בשם בינה מלאכותית. שיש לו יישומים גם בזה וגם בזה. אתה, כלל לא מסוגל לזהות את המכנה המשותף הזה ואין לך מושג על מה התחום הזה מדבר. לכן, בעיניך, הקשר בין שתי הבעיות שהזכרתי זה כמו הקשר בין מחט לתחת, ולא ייתכן שיש איזשהו פתרון קסם לשתיהן. לדעתי אתה צריך להכיר בכך שאתה בור בעניין זה (בניגוד לעניניים אחרים..). הטענה שלך שעדיף למצוא פתרון לכל בעיה בנפרד, מבוססת בעיקר על חוסר ידע.
''מכונות תבוניות'' 460354
אגב, הגישה של מינסקי עפ''י ההרצאה שהזכרתי דוקא טוענת שמדובר בהרבה בעיות נפרדות, ו''הפתרון'' יהיה מורכב מהרבה פתרונות נפרדים לכל אחת מהן. כך, לטענתו, פועל גם המוח שלנו.
פתרון לכל אחד מהבעיות בנפרד 486862
לא יודע למה נזכרתי בזה.

אבל הנה מכשיר שהוא "מאמץ פתוחי בכיוון מסויים שהוא לא ברור (למי שלא עוסק בתחום). אבל כאשר יצליח, יימצאו לפתע פתרונות פלא להרבה בעיות שימושיות בבת אחת".

אפשר לראות גם כמה המכשיר הזה הוא שונה מהגישה שדב הציג: "הבה נמצא פתרון לכל אחת מהבעיות האלה בנפרד, ואז נאחד את כולן למכשיר אחד".

פתרון לכל אחד מהבעיות בנפרד 486882
מדהים! זה הזכיר לי את הדחיק סליק.
פתרון לכל אחד מהבעיות בנפרד 486891
איזה פחד.. דומה יותר ל''זבוב'' של קרוננברג.
פתרון לכל אחד מהבעיות בנפרד 486897
לזבוב יש יותר רגליים ( אבל לא ראיתי את הגרסה של קרוננברג).
פתרון לכל אחד מהבעיות בנפרד 486900
הרושם הכללי דומה.
''מכונות תבוניות'' 460260
אפל המציאה? מעט דברים אפל המציאה, ובטח שלא את הטלפונים סלולרים עם מצלמה שגם גולשים באינטרנט, כולל gps וכו' וכו' שהיו לפני שאפל נכנסה לשוק. אפל בכלל מתמחה בעיצוב ויחסי ציבור, לא בטכנולוגיה.
''מכונות תבוניות'' 460242
שתי הערות קטנוניות: קשה מאוד - למעשה בלתי אפשרי - לבני אדם ליצור ואפילו לזהות סדרת מספרים אקראיים. מחשבים הרבה יותר מוצלחים בזה מאתנו.

כלבי שמירה אני מכיר. אבל כלבי ניקיון וכלבי חקלאות? תמהתי.
''מכונות תבוניות'' 460247
''מכונות תבוניות'' 460248
לגבי המספרים האקראיים אתה צודק. אבל אם תראה לבנאדם ציור, הוא יגיד לך באופן מיידי אם מדובר בסדרת כתמים אקראית, או בציור ''כלב דלמטי בשלג''. למחשב זה משימה לא קלה בכלל.

לגבי חלקאות, התכוונתי לכלבי רועים.
לגבי נקיון, כלבים רק עושים את המצב יותר גרוע בתחום הזה.
''מכונות תבוניות'' 460554
הפעם הגזמת ממש. מאז שהכלב שלנו נפטר אנחנו חייבים לטאטא את הריצפה אחרי כל ארוחה!
"חתול ניקיון" מילא, אבל כלב?
''מכונות תבוניות'' 460295
טוב, כידוע יש אנשים שלא מאמינים אפילו בקיומם של אטומים, כך שמן הסתם אתה צודק. גם אחרי שמכונות אינטליגנטיות להפליא יחברו שירים, יוכיחו משפטים במתמטיקה (רימן וגולדבך יוכלו סוף סוף להרים כוס תירוש בגן עדן), יגלו את תורת השדות המאוחדת (היית מאמין שאחרי כל ההו-הה מתברר שהעולם הוא דוקא דו-ממדי?),ימצאו תרופה לאלצהיימר, יוכיחו שאולמרט אשם ויתווכחו באייל אם בני האדם הם "יצורים תבוניים", יהיו מי שיצעקו שהמלך עירום.

ניסוי מחשבתי: SETI מזהה, בשעה טובה, שדרים מהחלל. השדרים מפוענחים ומכילים מידע על העולם שנבדק ונמצא אמיתי, וכן את הדברים הטובים מהפיסקה הקודמת. האם תדרוש הוכחה לכך שהכותבים מתבססים על כימיה אורגנית כדי להעניק להם את התואר "יצור תבוני"?

למתעניינים - שעה ומשהו של מרוין מינסקי בשאלות דומות במקצת: http://mitworld.mit.edu/play/482/
''מכונות תבוניות'' 460351
שכחת להוסיף לרשימת היכולות המדהימות של אותן מכונות שתהיה להן גם יכולת בחירה ורצון חופשי. אז הם יהיו יצורים על תבוניים כי, כידוע, לאדם עצמו לא יכול להיות דבר כזה. . .
''מכונות תבוניות'' 460353
זה אכן משעשע עד מאד, אבל לא ענית לי לגבי הניסוי המחשבתי שהצעתי.
''מכונות תבוניות'' 460355
כרגע, חוץ מלשעשע, אבדתי את החשק לחזור ולדון בעניין, ואני מסתפק במה שאמרתי עד כה.
''מכונות תבוניות'' 460913
אם תיבנה מכונה שתעשה את כל הדברים שמנית, מבלי שמאמצי הפיתוח של המפתחים יתרכזו בכל אחד מהנושאים האלה בנפרד, אלא במשהו ''תבוני'' כללי, מבלי שהמפתחים ידעו בכלל איזה בעיות אמורה המכונה שלהם לפתור, אני חושב שאהיה בין אלה שיאמרו שהאנושות הצליחה לפתח מה שקרוי ''בינה מלאכותית'', אבל איני מאמין שהדבר הזה יקרה.
למען האמת הספקות שלי בקשר לטיב ההגדרה התרכזו בעיקר ב''מבחן טורינג'', אחרי ששמעתי עליו, ולא להגדרה כפי שאתה הצגת בחלק הראשון של דבריך.
אשר לניסוי המחשבתי, הרי לא מדובר במשהו שפותח ע''י אדם אלא על ''חייזרים'' נבונים, וזה נושא לגמרי אחר.
אני גם לא מאמין שיש יצורים כאלה, אך אם תהיה הוכחה לקיומם בודאי היותה או אי היותה של כימיה האורגנית שבונה אותם, תהיה בלתי רלוונטית.
''מכונות תבוניות'' 460962
הפיסקה הראשונה שלך לא שונה בהרבה ממבחן טיורינג. כדי שהמכונה תוכל לעמוד במבחן היא תצטרך לענות על כל מה שעולה בדעתו של הבודק, והמתכננים שלה ודאי לא יכלו לדעת אילו שאלות היא תישאל, כך שללא ספק "המפתחים [לא] ידעו בכלל איזה בעיות אמורה המכונה שלהם לפתור".
''מכונות תבוניות'' 460983
אבל במבחן טיורינג לא מוגדר אפילו זמן שבו על המבחן להיערך. שניה תספיק ?
אני מוכן להסכים לדבר כזה (אולי אפילו בסתירה לדברים שאמרתי קודם): נעזוב את ההגדרות. אם תהיה לפנינו מכונה כזאת (ותעשה בין השאר את כל הדברים שמנית בתגובתך הקודמת או אפילו חלק) כולנו נדע שהיא ישנה.
''מכונות תבוניות'' 461018
מבחן טיורינג, כפי שטורינג הגדיר אותו, נערך כאשר ה"בוחן" משוחח עם שתי ישויות – אדם, ושאינו אדם; והוא מסתיים כאשר ה"בוחן" יודע לומר מי מהם הוא אדם (או מודיע שאינו יכול להחליט).
''מכונות תבוניות'' 461044
עדיין להרגשתי אין די בכך כדי שזה יהיה מוגדר היטב, אבל מאידך גיסא איני רואה טעם להתחיל להתמקח, בנוסח: ואם הבוחן יהיה עייף, או מה מידת האינטילגנציה שלו עצמו, או שסתם לא יתחשק לו להתאמץ, והוא יחליט להפיל גורל וכדומה.
''מכונות תבוניות'' 461023
ארוע נדיר: אני מסכים איתך לחלוטין. אני חושב שכאשר ניתקל ביצור תבוני, לא תהיה לנו שום בעיה לדעת זאת.
''מכונות תבוניות'' 461538
שאלה לא פחות מעניינת היא אם אנחנו מבינים איך פועלת האנושות בסביבת "מכונות תבוניות"? כמה ימים היינו מצליחים להתקיים אם כל העולם המודרני היה מתמוטט פתאום?
רובנו כבר מזמן לא מתפקדים ממש לבד. קידמה או לא, מים לשתות לא יהיו לנו.
בקשת הבהרה אגואיסטית: מהם רסיסי נשמה? 460237
אין ביכולתי - מאילוצי זמן - לקרוא כרגע את I Am a Strange Loop, אבל מהתיאורים כאן נדמה לי שמושג 'רסיסי הנשמה' של הופשטדר בעצם אומר שכל עוד אדם השפיע בצורה עמוקה על חיי אנשים אחרים הם בעצם חי דרך השפעתו האמורה עליהם. אם אני צודק, מה מחדש כאן הופשטטר חוץ מכמה מונחים חדשים לרעיון ישן מאוד?

אגב, סוציו-ליגוינסט ישראלי בשם חיים נוי טוען טענה דומה למדי, אם כי במונחים אחרים, ולפי דעתי מעט יותר מעניינים (ושוב - סביר להניח שאני חוטא כאן להופשטטר). לפי נוי, כאשר אנו מדברים אנו, לעתים מזומנות, "אחוזים" (במובן של possession) על ידי אנשים שדיברו לפנינו - אנחנו מעתיקים מהם חלקי משפטים, סגנון דיבור, דיקציה וכדומה. הוא מדגים את התופעה באמצעות ספרי מבקרים של מטיילים בחו"ל, ומראה כיצד ביטויים מסוימים, המייצרים כמו גם מייצגים הלכי חשיבה דומים, מועתקים בין מטייל למטייל. אני חושב שאנלוגיה טובה נוספת היא ביטויים לשוניים מסוימים שהופכים נפוצים בקבוצות קטנות ואינטנסיביות (למשל קורסים בצבא או כיתות מסוימות בבית הספר או קבוצה של חברים קרובים) - ביטויים ויראליים ממש, שאתה מוצא את עצמך מאמץ לעתים בעל כורחך.
בקשת הבהרה אגואיסטית: מהם רסיסי נשמה? 460255
אינני מכיר את התאוריות הקודמות שאתה מתייחס אליהן, אבל אולי מה שהופשטטר חידש זה רק בטענה כי ה"חיים" של "רסיסי נשמה" הם חיים של ממש; אם התבונה היא תבנית (pattern), הרי שהעתקת התבנית למצע חדש פירושה שהתבונה ממשיכה להתקיים; והעתקה חלקית פירושה קיום חלקי. כלל שההעתקה מקיפה יותר (היכרות מעמיקה יותר), העותק "חי" יותר.
בקשת הבהרה אגואיסטית: מהם רסיסי נשמה? 460256
כל החלק הזה של הראיון עם הופשטטר נראה לי (כמו שהשמאלנים מגדירים את השקפות הימניים), הזוי - משהו פסאודו מיסתי.

אני נזכר במושג הרבה יותר פשוט מ"נשמה" - "מעבר חום", שעליו למדתי אצל פרופ' ארתור שביט (שלהפתעתי מלמד היום, כ 35 שנים מאוחר יותר, את בני), בשעורים הראשונים בתרמודינמיקה.
אנחנו אומרים שעובר "חום" ממערכת אחת לאחרת. אבל, בעצם, מדובר רק באמירה לצורך הנוחות. בעצם לא עובר בין המערכות שום דבר. מדובר בהשפעה הדדית בין המערכות, באחת האנרגיה הפנימית, שהיא תכונה של המערכת, פוחתת, ובשניה גדילה. חומר בודאי לא עובר, וה"מעבר" הוא משהו מופשט לחלוטין.

אבל כאן, הופשטטר קורא להעברת ידע, שהיא בעצם, השפעה הדדית בין בני אדם, "מעבר חלקי נשמה", שכביכול ממשיך את החיים.
קשה לבקר מישהו שנחשב רציני, אבל זה נראה לי ממש התחרפנות.
בקשת הבהרה אגואיסטית: מהם רסיסי נשמה? 460264
חום הוא פחות אמיתי בעיני מגרזן, אבל כמו מהירות, תנע, אנרגיה (ואפילו אינפורמציה) יש לו קיום בעולם הפיזיקלי.

המראיינים נגעו בשימוש של הופשטטר במילה ''נשמה'', שמוסיף לדיון ניחוח דתי-מיסטי. לטענתו זה עקרוני - אני חושש שיש כאן גם ''אמצעי אומנותי'' ותאוות פרובוקציה.

נ.ב. לאף צד אין מונופול על הקריאה ''השקפה הזויה''. זה טריק רטורי שנועד לסמן את מי שמחוץ לקונצנזוס, לכל צד.
בקשת הבהרה אגואיסטית: מהם רסיסי נשמה? 460280
בודאי שלכל המושגים האלה, כולל למעבר חום, יש קיום.
המיוחד ב''מעבר חום'' הוא המילה ''מעבר'' שגורמת לאדם לחשוב על כך כמו זרימה של מים (ופעם באמת דברו על ''אתר'' שזורם). כשמישהו חושב על מעבר אנרגיה קינטית, התפישה האינטואיטיבית שלו היא ישירה. הוא לא חושב על משהו כמו חומר שזורם.
אגב, ''זרם חשמלי'' הוא מושג שדומה, מהבחינה שאני מדבר עליה, למעבר חום. בהגדרה המילולית יש אנלוגיה למשהו אחר.
אם כך, הוא אינו לולאה מוזרה. 460313
התיאוריות הקודמות הן, למשל, תיאוריות מימטיות (שאינן חביבות עלי במיוחד) או פשוט האמונה הפופולרית שאדם ממשיך להתקיים באמצעות יצירותיו הרוחניות ו/או הביולוגיות. נראה לי שיש כאן נטייה להאנשה שהופשטטר דווקא אינו חוזר עליה, בדרך-כלל - הנטייה לראות ברעיונות (או מערכות של רעיונות) עניין אוטונומי המתקיים בפני עצמו.

לרעיונות אין מודעות עצמית או (אשליה של-) רצון חופשי, ובמונחיו של הופשטטר, הם אינם לולאתיים (כפי שנאמר פה על ידי אחרים). גם אם אני מאמין בתיאוריות של מרקס אודות טבע החברה, מרקס אינו חי כיום באמצעותי - *רעיונותיו* חיים כיום. עכשיו, אני מבין שהופשטטר מדבר על משהו מורכב יותר, הכרות אינטימית ממש, אבל הרי זה נמוג תוך דור אחד (במקרה הטוב), וגם לפני שזה נמוג אין את מוטיב המודעות העצמית החיוני כל-כך.

הופשטטר מעריך מאוד את היכולת של אנשים ושל התבונה האנושית להפתיע אותנו, להיות לא-צפויים ובלתי ניתנים לשחזור. השפעתו של אדם נותרת אחריו, וודאי - אבל את היכולת להפתיע אותנו ולחדש הוא איבד.

עיקר שכחתי: הראיון מרתק, השאלות מצוינות והתרגום קריא וטבעי. כל הכבוד.
אם כך, הוא אינו לולאה מוזרה. 460393
אה. כדי להבהיר – גם אני חושב שהתפישה של הופשטטר, לפיה משהו ממלחין שנפטר לפני 200 שנה עדיין חי, וזאת בזכות יצירותיו, אבסורדית למדי.

(תודה.)
אם כך, הוא אינו לולאה מוזרה. 460555
אני לא לגמרי בטוח שהטענה אבסורדית.
דווקא בחלק אחר של הדיון ניסו להפריד בין החיים כקיום של המכונה הביולוגית שנקראת ''אני'' לצורך הדיון, לבין פונקציות תבוניות אחרות שה''אני'' הזה מייצר.
למה לוותר על הראיה של הזכרון של הדברים שעשינו, על פירות עמלנו, על חלקנו בילדינו ועוד כמעין המשך של ה''נשמה'' או איך שלא נקרא לזה.
אם האדם הוא מעט יותר מהמכונה של גופו אז חלק מקיומו מתמיד בצורה זו או אחרת בעקבות שהוא משאיר בעולם.
ואני דווקא מטריאליסט אדוק (ואפילו מארכסיסט...).
(את הופשטטר לא קראתי ואני קצת מתבייש להגיב על דברים מפי השמועה).
בראבו! 460322
מעניין מאד ומעורר מחשבה, למרות שאני שותף לאחרים בעניין המשך קיום הלולאה במוחות אחרים.

יש ספר של Larry Niven שעוסק בנושא בצורה שמאד מצאה חן בעיני פעם. נדמה לי ששמו The Integral Trees או משהו דומה. מישהו מכיר?
בראבו! 460323
נדמה לי שקראתי את ההמשך. משהו עם חיים באפס ג'י?
בראבו! 460326
כן, משהו כזה. אני לא ממש זוכר, מלבד שהיו מעין שם עצים ענקיים מרחפים בחלל, ואנשים (לא אנשים מן הסתם. יצורים תבוניים) שמתו המשיכו להתקיים במידה מסוימת במוחותיהם של החיים. היו כמה רמות של קיום כזה, בהתאם לכמות האינפורמציה שהספיקו להעתיק, ומדי פעם הם קיבלו את השליטה על ה''אני'' של הנשאים, כלומר הפכו באמת ללולאה מוזרה.
בראבו! 460361
אני לא זוכר משהו כזה בספרים האלו.
דרך אגב, יש סיכוי שיצא עוד ספר המשך, כמו שהוא הוציא, באיחור בכלל לא קטן, ספר נוסף בסדרת Ringworld?
בראבו! 460431
אולי אני מתבלבל. קראתי את הספר לפני עשרים שנה בערך.
בראבו! 460363
אני זוכר סיטואציה דומה ב accelerando.
אם אתה אוהב את ז'נר הפוסט סייבר פאנק -
בראבו! 460359
להמשך קוראים The Smoke Ring, ושניהם, למיטב ידיעתי, כבר לא מודפסים, כך שתצטרך להשיג אותם יד-שניה, אם אתה מעוניין. ללא ספק בין הספרים היותר טובים של ניבן. שניהם מתחילים בכעשרים עמודים של מפות, נתונים מספריים ודיאגרמות חיתוך-צד.
בראבו! 460396
גם לדעתי יש בעייה חמורה של סדרי גודל בעניין הישארות הנפש ע''פ הופשטטר. אולי יש לנו העתק גס של נפש יקירינו (ואפילו של שופן) אך אי אפשר לקרוא לזה ''רסיס חיים'', כפי שתביעת-רגלו של פיל בבוץ איננה ''רסיס פיל''.
460418
דימוי מצויין.
460493
אח, לו רק הופשטטר (אני יכול לקרא לו דאג?) היה מנצל את 14% הידע שלו בעברית ועונה כאן..
460544
אני מנחש, מבלי לקרוא את הספר או את הראיון, שהוא היה לפחות משתעשע עם הרעיון של להגיד שבעוד שטביעת רגל של פיל לא יכולה לסייע בהוצאות להורג‏1, המודל של יקירינו שאנחנו מחזיקים בראשינו יכול לפעול בכל מיני צורות. אותי זה לא היה משכנע, והייתי אומר לו משהו בנושא, ואז הוא היה שואל אותי איך אני מצליח לנהל איתו דיון פורה שכזה למרות שהוא לא דובר עברית ואני לא טורח כרגע לכתוב באנגלית, אם אין לי רסיס של הנפש שלו אצלי בראש, שממשיך לפעול ללא התערבותו. את תגובתי הבאה היה מישהו מהמערכת מוחק.

יש תרגום עברי 460552
http://he.wikipedia.org/wiki/%D7%9E%D7%97%D7%99%D7%A... אם לא מתוך כבוד לשפה, לפחות מתוך כבוד לעורך האייל שתרגם את הערך
בראבו! 461691
אז תגיד ''עצי האינטגרל'' של לארי ניבן.
בראבו! 461693
"עצי האינטגרל" של לארי ניבן.

עוד משהו?
בראבו! 461708
אנגלופיל.
בראבו! 462071
לא ידעתי שתרגמו את הספר לעברית.
בראבו! 461932
אבל זה לא 'עצי האינטגרל' (או ההמשך 'טבעת העשן' (שלא כמו 'עולם טבעת')) של לרי ניבן. אני דוקא זוכר את הספר שאתה כנראה מתכוון אליו, משהו עם עכברים או מבוך בשמו.
בראבו! 462067
כן, כבר העירו לי שאני טועה בעניין זה ומדובר בספר אחר. אני מתנצל בפני קוראי האייל על מסירת מידע מוטעה ומבטיח לשוב ולעשות זאת בהקדם.
לרבע את הלולאה. 460569
אני מעריך מאוד את הופשטטר. ניכר כי הוא אדם בעל שאר רוח, ידע עצום ועומק תרבותי רב. אמנם לא קראתי את ספרו החדש, אבל אהבתי מאוד את "גדל, אשר, באך". רק מה, כמו מרבית הקוראים, אהבתי אותו מהסיבות "הלא נכונות" - בגלל סגנונו והנושאים המעניינים שהוא מקיף. אבל התזה שמנסה הופשטטר לקדם הן בגא"ב והן ב"אני לולאה מוזרה" היא שגויה לחלוטין.

בעצם, לא מדובר בתזה ייחודית להופשטטר. זו וורסיה אחד מרבות לרעיון התודעה המיחשובית: המוח הוא מחשב והתודעה היא תוכנה בעלת תכונות ספציפיות הרצה על החומרה הביולוגית, אך יכולה, בעיקרון לרוץ על כל מחשב (וכל מה ששקול מבחינה חישובית למכונת טיורינג). הרעיון הזה מהווה בסיס לשורה של פרידיגמות מחקריות, החל מחקר המוח וכלה בפיתוח "אינטיליגנציה" מלאכותית. המחקרים האלו הניבו הרבה מאוד תוצאות יפות. גם אלכימאים גילו חומרים חדשים וריאקציות מעניינות. אלא שאת אבן החכמים הם לא מצאו.

והם גם לא ימצאו. אין ספק שחלק ניכר מהפעילות המוחית ניתן לתאר במונחים חישוביים, אבל תודעה איננה תופעה חישובית. חוויה מודעת איננה בכלל דבר שניתן לתאר או למדל. כיצד תייצג בביטים תחושה של "צבע אדום" כך שאפילו עיוור צבעים ידע למה הכוונה? איזו אופרציה מתמטית על ביטים תהיה שקולה לכאב שיניים? מה כואב ב"if k>7 goto 4200"? כיצד יכול מכניזם להבין את משמעות הפעולות שהוא מבצע?

"אינטיליגנציה מלאכותית" זו מטאפורה לא מוצלחת לפיתוח אלגוריתמים היוריסטים לבעיות מורכבות. אין פה אינטיליגנציה בכלל, משום שאינטיליגנציה מצריכה קיום "אני" שמסוגל להבין את הבעייה ולא רק לעקוב אחרי שורת כללים פורמליים. ולדעתי, (הנתמכת, למשל, בטיעון החזק של המתמטיקאי רוג'ר פנרוז) אפילו סימולציה שמחקה תפיסה אנושית איננה אפשרית. היא עשויה להצליח בהרבה מקרים, אבל תמיד יהיה מקרה כלשהו שיחשוף את ה"באג". את המעגל הזה (או הלולאה) אי אפשר לרבע.
לרבע את הלולאה. 460578
אני מסכים שהרעיון שאדם הוא תוכנה שרצה על חומרה ביולוגית הוא שגוי, אבל עם הפסקה השלישית אני לא מסכים בכלל.

ראשית, מי אמר שכל תודעה חייבת להיות מסוגלת לחוש כאב, ועוד בדיוק באותה הצורה כמוך?

דבר שני, תוכנה יכולה להגיב באותה הצורה כמוך למה שגורם לך לכאב - לשנות את השיקולים המנחים אותה ("להתבלבל", "להכנס לפאניקה") - ואז מה ההבדל מבחינת צופה מן הצד? זה שנדמה לך שכשיצור ביולוגי נמצא במצב הזה, זה פתאום יותר "אמיתי"? זו סתם טעות שלך, לעניות דעתי.

"כיצד יכול מכניזם להבין את משמעות הפעולות שהוא מבצע?" - כיצד אתה יכול?

"'אינטיליגנציה מלאכותית' זו מטאפורה לא מוצלחת לפיתוח אלגוריתמים היוריסטים לבעיות מורכבות" - אני לא מסכים. זה ביטוי מצויין עבור מי שחושב כמוני - שהמחשבה שהאינטיליגנציה האנושית שונה מהותית נובעת מהבנה שגויה של האינטיליגנציה האנושית.

"משום שאינטיליגנציה מצריכה קיום 'אני' שמסוגל להבין את הבעייה" - ציטוט נחמד בהקשר הזה הוא "במתמטיקה אתה לא מבין דברים, רק מתרגל אליהם." אני מניח שתבין את כוונתי בהצגתו.
לרבע את הלולאה. 460658
"מי אמר שכל תודעה חייבת להיות מסוגלת לחוש כאב" - אף אחד. אבל יש תודעות, למשל שלי, שמסוגלות להרגיש כאב. אם לא ניתן להציג תודעה כזו כפעולה חישובית, למה שניתן יהיה להציג אחרות?

"תוכנה יכולה להגיב באותה הצורה כמוך למה שגורם לך לכאב" - אולי. גם אני יכול לצעוק "איי! אוך!" לעוות את פני ולקפוץ במקום, סתם בתור הצגה. השאלה האם תוכנה יכולה להרגיש משהו, לא האם היא יכולה לחקות פלט אנושי ברמה מוגבלת כלשהי.

"כיצד אתה יכול [להבין את משמעות הפעולות שאתה מבצע]?" - לא יודע. אבל עובדה שאני מבין.

אני כן חושב שאינטליגנציה אנושית שונה מהותית מאלגוריתמיקה, משום שהיא כוללת בתוכה הבנת משמעות. גם מבחינה פדגוגית, אנשים מצליחים ללמוד משהו כאשר הם מבינים אותו, לא כאשר הם משננים שורה של כללים פורמליים לפתרון, אפילו יהיו אלו כללים מוצלחים מאד. רואים את זה המון בלימודי מתמטיקה.

"במתמטיקה אתה לא מבין דברים, רק מתרגל אליהם." - זו טעות איומה, לדעתי.
לרבע את הלולאה. 460677
"השאלה האם תוכנה יכולה להרגיש משהו, לא האם יכולה לחקות פלט אנושי ברמה מוגבלת כלשהי".

אם יש איזשהו הבדל ניתן למדידה, בין מישהו ש"באמת" מרגיש משהו, לבין מישהו שמזייף, אז אפשר לבדוק האם התוכנה מרגישה משהו או לא. על פניו, נראה שזהו המצב: אנחנו יכולים להגיד שלאבנים ולפרחים אין רגשות ולכלבים כן (אם כי יותר פשוטים משלנו). גם אדם שמזייף כאב, אפשר לחשוף ע"י לחשוף ע"י אמצעים שכל חובש בטירונות כנראה מכיר. יש לאנשים יכולת אינטואיטיבית לזהות רגשות אצל אחרים, למרות שאין לנו יכולת לראות לתוך הנפש של האבן, הפרח, הכלב או הטירון. יש דרכים מדעיות יותר למדוד האם משהו באמת מכאיב, למשל ה"ניסוי" בסרט ממנטו, למי שזוכר. או לעקוב אחרי גלי המוח שלו בזמן שאנחנו נותנים לו מכה אמיתית, ומכה ב"כאילו". ואגב, ראוי לזכור שמכל התופעות המחשבתיות, דווקא כאב הוא משהו שאנחנו מבינים טוב מאד איך הוא עובד. אם מעבירים לבן אדם אות חשמלי בעצב הנכון, אז כואב לו, וכואב לו באמת ואין שום הבדל בין הכאב המלאכותי הזה לבין כאב "אמיתי".

אם אתה טוען שאין דרך להבדיל באופן מוחלט בין רגש אמיתי לרגש מזוייף, אפילו לא באופן תיאורטי, אז הטענה שבני אדם מרגישים ותוכנות לא יכולות היא טענה מטאפיזית לחלוטין. באותה מידה מחשבים יכולים לטעון שהם אלו שבאמת מרגישים, ובני אדם רק מחקים אותם ברמה מוגבלת, וגם הם יהיו צודקים.
לרבע את הלולאה. 460682
מה היה הניסוי בממנטו?
מה יודעים החובשים?

השאלות נשאלות בשם ציבור הלא חובשים שלא צפו במומנטו (או לא זוכרים את הסרט)
לרבע את הלולאה. 460696
אני לא חובש. לגבי הסרט:

Some of the objects were electrified,"
They kept repeating the test, always
with the same objects electrified. The
point was to see if he could learn to
avoid the electrified objects. Not by
memory, but by instinct"
לרבע את הלולאה. 460996
משהו כזה? http://www.haaretz.co.il/hasite/pages/ShArtPE.jhtml?...
(תגובה 324221)
לרבע את הלולאה. 460686
כל מה שאתה יכול לבחון בנוגע ל"כאב" זה הביטוי החיצוני של התחושה. למדת מניסיונך שבני אדם מגיבים באופן מסוים, או שלגלי המוח שלהם יש אופיין מסוים, כאשר הם מדווחים על כאב. אבל אם תתקל בחייזר אשר הפיסיולוגיה והפסיכולוגיה שלו שונות באופן קיצוני משלנו, לא תהיה לך שום דרך לומר האם הוא חווה כאב או לא. שום גל מוח לא יעזור לך במקרה זה, משום שגל מוח איננו באמת הכאב, רק תופעה שנמצאת בקורלציה עם כאב אצל בני אדם. משום כך כאב איננו באמת משהו מדיד. אתה בכלל יודע שיש כאב בעולם, ומה משמעותו משום שאתה חווית, באופן פרטי וסובייקטיבי לחלוטין, את החוויה הזו.

אתה לא מבין איך כאב "עובד". אתה מבין איזה תהליך ביולוגי גורם לו. אבל זה הטריגר, לא החוויה הנפשית. ברור שאפשר להשרות כאב באותות חשמליים ישירות לעצב. אז מה?

הטענה שבני אדם מרגישים ותוכנות לא היא באמת טענה מטאפיזית. היא טענה מטאפיזית נכונה. יש גם כאלו. אתה יודע שבני אדם מרגישים משום שאתה בן אדם ואתה מרגיש (אני מניח). ואני טוען שמחשבים אינם מרגישים משום שמחשבים (סטנדרטיים) מסוגלים לפעול באופן חישובי בלבד, ופעילות כזו לבדה, מניפולציה על ביטים, איננה יכולה לגרום למודעות אף פעם.
לרבע את הלולאה. 460691
לא הבנתי מדוע מניפולציה על ביטים איננה יכולה לגרום למודעות. אפרופו אלכימיה, האם יש איזשהי תכונה מטאפיזית שלא קיימת באטומים של מחשב וכן קיימת באטומים של המוח?

ואם הכאב שאתה מדבר עליו הוא מטאפיזי לחלוטין, אז הרי באותה מידה שאתה טוען שמחשבים לא מסוגלים להרגיש, החייזר יכול לטעון שאתה לא מסוגל להרגיש, והמחשב יכול לטעון שלא אתה ולא החייזרים מסוגלים להרגיש. זה מלמד אותנו הרבה על טענות מטאפיזיות.
לרבע את הלולאה. 460749
"אטומים של מחשב" אינם בסקלה הרלוונטית לדיון. הפעולות החישוביות שאמורות ליצור מודעות על פי התפיסה הפיסיקליסטית מתבצעות ברמת השערים הלוגיים ותאי הזכרון. והם אמורים להיות אנלוגיים לנויירונים במוח ולקשרים הסינפטיים בינהם. אני טוען שנוירון,מבחינת המאפיינים שלו שרלוונטיים לתודעה, איננו שקול לטרזיסטור\תא-זיכרון\שער לוגי, ורשת נוירונים איננה ניתן לייצוג כמעגל חשמלי או מנגנון חישובי קלאסי אחר. באופן יותר מפורש, לא ניתן לתאר פעילות מוחית רלוונטית באופן מלא ללא אפקטים קוונטים, ואפקטים כאלו תמיד מאפשרים לחלק מהממשות להיות נסתרת מחקירה חיצונית אמפירית (כלומר להיות מטאפיסית).

חייזר יכול לטעון שאני לא מסוגל להרגיש. גם אתה יכול לטעון שאני לא מסוגל להרגיש. הסיבה שאתה בכל זאת מאמין שאני מרגיש היא שאתה מודע "מבפנים" ליכולת שלך עצמך להרגיש, ומבחין בכך שאני דומה לך מאד, התנהגותית ומבנית. זה שיקול רציונלי המוביל למסקנה מטאפיסית. גם "קוגיטו ארגו סום" זה שיקול רציונלי המוביל למסקנה מטאפיסית. וכך גם כל טיעון פילוסופי תקף אחר.

ייתכן שנוכל להכריע בשאלה האם חייזר מסויים (או עכבר, או חיפושית) הוא יצור מודע כאשר נדע לזהות מהם הרכיבים החומריים הדרושים לקיומה של תודעה. אבל גם בין להבין מה דרוש פיזית על מנת שתהיה תודעה ובין להבין תודעה יש מרחק בלתי ניתן לגישור. הדרך היחידה להבין באמת "כאב" היא לחוות כאב. הדרך היחידה להבין באמת "כתום" היא לחוות כתום.
לרבע את הלולאה. 460772
1. כאשר אתה אומר שלניורון יש מאפינים קוואנטים והוא אינו ניתן לייצוג ע"י מנגנון חישובי קלאסי - האם זה מבוסס על עדויות אמפיריות?
2. האם, לדעתך, מחשב קוואנטי יהיה מסוגל ליצר תודעה?
לרבע את הלולאה. 460889
1) "עדויות אמפיריות" זה אולי קצת מוגזם. יש רמזים אמפיריים לכך שיש חשיבות לאפקטים קוונטיים בפעילות מוחית. למשל יש מחקרים הקושרים אבדן הכרה עקב אנסתזיה לאבדן קוהרנטיות קוונטית במוח. ויש תיאוריות המציעות מנגנונים פיזיולוגים ספציפיים, למשל התיאוריה של פנרוז ושל סטיוארט האמראוף לפיה התודעה קשורה לתהליכים קוונטיים במיקרו-צינוריות, שהם אברונים תוך נוירוניים. כמובן, כל הנושא די ספקולטיבי ושנוי במחלוקת.

2) המחשבים הקוונטיים עליהם מדברים כיום לא ייצרו תודעה משום שהם עושים שימוש רק בדינמיקה הקוונטית האוניטרית (פרט לשלב הפלט). אבל מחשב קוונטי במובן כללי יותר, בו יתרחשו גם תהליכי מדידה קוונטית במקביל להתפתחות הקוונטית האונטרית יאפשרו, לדעתי, מימוש מלאכותי של תודעה. בעצם, אני מאמין שהמוח הוא בדיוק מחשב קוונטי שכזה.
לרבע את הלולאה. 460891
מחשב קוונטי שכולל דינמיקה אוניטרית ומדידות במקביל שקול חישובית למחשב קוונטי שבו כל המדידות מתבצעות בסוף (המודל המקובל). מחשב כזה ניתן למימוש ע''י מכונת טיורינג (הרדוקציה אינה פולינומיאלית) כך שאם באמת המוח שלנו הוא מחשב קוונטי אז ניתן לבנות חיקוי לא קוונטי שלו (שיהיה אולי איטי בהרבה ממנו).
לרבע את הלולאה. 460893
1) אתה מניח שאפשר לבטא את ההתפתחות הקוונטית כשורה של תהליכי התפתחות אוניטריים (משמרי הסתברות) המופרדים ע"י מדידות (הפועלות, במקרה זה, כאופרטורי הטלה במרחב המצבים). כלל לא ברור שניתן לבצע רדוקציה כזו עבור מערכת קוונטית הנמדדת באופן רציף, או בכלל איך לאפיין מדידה בתהליך כזה.

2) אתה מתעלם מאפקטים של גרוויטציה קוונטית.

3) אפילו הייתה טענתך נכונה, נובע ממנה שניתן לסמלץ את המוח האנושי באופן (בלתי יעיל) קלאסי, לא שסימולציה זו אקווילנטית מבחינה אונטולוגית לפעילות המוחית.
לרבע את הלולאה. 460903
1. מה זה "מערכת קוונטית הנמדדת באופן רציף"? אם הכוונה למערכת שמקיימת אינטראקציה רציפה עם "מכשיר מדידה" אז אין שום בעיה להניח שמכשיר המדידה עצמו נמצא בסופרפוזיציה קוונטית עם שאר המערכת עד סוף התהליך ואז הוא קורס למצבו הסופי.
2. מה זה אפקטים של גרוויטציה קוונטית? איכשהו בלימודים שלי זה לא הוזכר לא בתורת הקוונטים ולא בתורת היחסות. מה שהם לא יהיו, לא נראה לי שהמוח האנושי מספיק מאסיווי כדי לייצר אותם.

3. נכון, אבל גם אם אין לנו מודל יעיל להדמיית מוח אנושי, עדיין זה מעניין לדעת שאין לו כוח חישובי שעולה על מכונת טיורינג.
לרבע את הלולאה. 460909
ההנחה "שמכשיר המדידה עצמו נמצא בסופרפוזיציה קוונטית עם שאר המערכת" תלויה בכך שניתן לתאר מערכת מדידה מאקרוסקופית באמצעות חוקי הדינמיקה הקוונטית שתקפים במערכות מיקרוסקופיות. זו אקסטרפולציה שאין לה שום ראיה אמפירית ומעלה קן צרעות של בעיות פיסיקליות, שלפי דעתי, אבל אני כלל וכלל לא יחיד כאן, אינן ניתנות לפיתרון.

הסיבה שהלימודים שלך לא כללו "אפקטים של גרוויטציה קוונטית" היא שאף אחד עוד לא הצליח לפתח תיאוריה סבירה של גרוויטציה קוונטית (אם כי, קרינת הוקינג מחור שחור, למשל, היא בהחלט אפקט של גרוויטציה קוונטית). קשה לדעת מה "מספיק מאסיבי" על מנת לייצר אפקט כזה בתיאוריה שעדיין לא קיימת, אבל אפשר לנסות לנחש. הנח שאורך החיים הגרוויטציוני של מצב המכיל סופרפוזיציה של מצבים הנבדלים מאקרוסקופית הוא בקירוב האנרגיה הגרוויטציונית הדרושה על מנת "להפריד" בין המצבים מחולקת בhbar. חישוב שעשו פנרוז ושות' הראה שהסקאלה הרלוונטית לקריסה גרוויטציונית ספונטנית של מצבים כאלו לא רחוקה מזו של תאים ביולוגיים ורכיביהם.
לרבע את הלולאה. 461134
אני לא בטוח שהבנתי את הטענה בפיסקה הראשונה, אבל נדמה לי ששרדינגר בספרון ''מהם חיים'' טוען שמולקולת הענק הביולוגית היא כלי כזה שמגשר בין ההתרחשויות ברמה הקוונטית לעולם המאקרוסקופי.
לרבע את הלולאה. 461136
מצטער, אבל אין לי סבלנות לקרוא את כל ההודעות שלך לפני שאני שואל - עושה רושם שאתה רוקד סביב הטענה שיש במודעות האנושי משהו מעבר לחומר. שיש גם "נפש". שאם נרכיב מוח אורגני זהה, אטום אחרי אטום - ואני לא נכנס לשאלה האם זה אפשרי, זה ניסוי מחשבתי בלבד - עדיין לא נקבל יצור תבוני, אלא אם נפש תבחר להכנס ולשכון בו לפתע, מסיבות לא ברורות. כן/לא?

(אם כן, הדיון שלי איתך נגמר.)
לרבע את הלולאה. 461157
בוודאי שאם תבנה מוח אנושי אטום אחר אטום תקבל מוח אנושי, על כל יכולותיו. ומן הסתם, ניתן גם לבנות מוח השקול למוח האנושי לאו דווקא ממולקולות ביולוגיות. טענתי היא שלא מדובר במחשב, לא שיש משהו על טבעי במוח.

מצד שני, אני בהחלט סבור ''שיש במודעות האנושי משהו מעבר לחומר''. אבל זו לא טענה מיסטית או דתית כלל וכלל, אלא אם כן אתה רואה בקאנט, למשל, מיסטיקן. די בחומר על מנת שתודעה תתהווה, אבל החומר איננו התודעה. חומר, מבחינתי, הוא כל דבר שניתן לאיפיון אמפירי (רקפות, אלקטרונים, נוירונים, חום, חורים שחורים) ואילו תודעה לא ניתנת לאיפיון אמפירי, אלא היא מה שקאנט מכנה ''נואמנה'' - מ''הדברים כשהם לעצמם''.
לרבע את הלולאה. 461217
איך זה שונה ממחשב?

תצטרך להסביר שוב את הפסקה השניה שלך. בפרט, להסביר במה שונה ה"תודעה" שעולה איכשהו מאוסף האטומים שמהווים את המוח מכל תופעה אחרת שנוצרת ממבנה אטומים מסוים, כמו חום ואור מנר בוער.
לרבע את הלולאה. 462112
תקנו אותי אם אני טועה - לפי תורת הקוונטים הקלאסית, אין באמת הגדרה למערכת מאקרוסקופית או מיקרוסקופית. חוקי הדינמיקה הקוונטית הם זהים בכל מערכת, אלא שככל שהמערכת גדולה יותר, התוצאה שלהם מתקרבת לפיסיקה הקלאסית, בדיוק כמו שתורת היחסות מתקרבת לפיסיקה הניוטונית במהירויות נמוכות (אבל אין באמת ''מערכת נמוכת מהירות'', שבה הפיסיקה הניוטונית נכונה בדיוק).
לרבע את הלולאה. 462114
סדרת המאמרים של ירדן (החל מ דיון 1177 ) עוסקת (גם) בזה. אין שום "גבול קריטי" או משהו דומה, אחרת חתולו של שרדינגר לא היה מטריד כלל. כל מונה גייגר מראה אפקטים קוואנטיים במערכת מקרוסקופית.
לרבע את הלולאה. 462129
לא, זה ממש לא נכון. מדידה *מוגדרת* במכניקה קוונטית כאינטראקציה בין המערכת הקוונטית למערכת מדידה קלאסית-מאקרוסקופית. ללא ההפרדה הזו כלל לא ניתן לנסח את עקרונות הפיסיקה הקוונטית.

יש איזה נפנוף ידיים של בוהר, עליו התחנכו דורות של סטודנטים לפיסיקה, לפיו החוקים הקוונטים הופכים איכשהו לחוקים קלאסיים כשעוברים לקנה מידה גדול. אפשר למצוא כמה ראיות תיאורטיות לקשר בין המכניקה הקוונטית לקלאסית (למשל, עקרון הפעולה המינימלית הקלאסי מתקבל כקירוב הפאזה הסטציונרית של אינטגרל המסלול הקוונטי) אבל הן נוגעות רק לדינמיקה. לא קיים כיום מודל מספק המסביר את המדידה הקוונטית על בסיס חוקי הדינמיקה הקוונטית. יש רעיון שנקרא dephasing שמנסה לתת הסבר כזה, אבל לא ראיתי שהוא הגיע רחוק. אין מה לעשות. מערכות קלאסיות לא מתנהגות באופן קוונטי. אתה לא נתקל בחתולים חיים ומתים בו זמנית.
לרבע את הלולאה. 463763
נדמה לי שאתה טועה - אחת ההנחות בחיפוש אחר החוקים הקוונטיים הייתה בדיוק זו - שכל חוק קוונטי יתקרב לחוקים הקלאסיים כשהגודל שואף לאינסוף (כמו שלמשל צפיפות ההסתברות להימצאות האלקטרון במקומות שונים בתיבה גדולה היא בערך אחידה).
ולגבי מדידה - כמו שבניתוח האינטראקציה בינך לבין כדור הארץ אתה מניח שמסת כדור הארץ היא אינסוף, כך אפשר עקרונית להניח עבור מערכות גדולות (כמו גוף האדם) שהן בערך קלאסיות ולקרוא לאינטראקציה איתן "מדידה". אתה בטוח שזה לא מה שעושים?
לרבע את הלולאה. 460907
איבדת אותי באנסתזיה.

בכל מקרה, אני רוצה לספר על הדיעות שלי בעניין. בעיני תודעה ורגשות הן בהחלט משהו מדיד, בדיוק כמו תופעות אנושיות אחרות כגון "הצטננות". אנחנו חשים את הצטננות באופן סובייקטיבי, וגם יש לתופעה הזו סימפטומים חיצוניים ומדידים. כתבת לפני כמה הודעות: "גל מוח איננו באמת הכאב, רק תופעה שנמצאת בקורלציה עם כאב אצל בני אדם. משום כך כאב איננו באמת משהו מדיד." בעיני זוהי לולינות פילוסופית. אז מה אם גל המוח הוא לא באמת הכאב, גם הגובה של הכספית במדחום זה לא באמת הטמפרטורה אלא תופעה שנמצאת בקורלציה עם הטמפרטורה. ואף אחד לא יגיד שטמפרטורה היא משהו לא מדיד. יותר מזה, בכלים חיצוניים פשוטים אפשר לספר לך על הרגשות הבלתי מדידים ובלתי ניתנים לתיאור יותר ממה שאתה יכול לדעת בעצמך. למשל, אפשר לגלות שאתה פוחד ממשהו, גם אם אתה בעצמך לא מודע לזה.

עוד משפט שלך שתפס את עיני היה "אינטיליגנציה מצריכה קיום "אני" שמסוגל להבין את הבעייה ולא רק לעקוב אחרי שורת כללים פורמליים". זה הזכיר לי סיפור קצר על אדם שהיה חותם על המשפט הזה בכיף. קאספרוב, אחד מגדולי שחקני השח בהיסטוריה, שיחק בכמה טורנירים מפורסמים נגד מחשבים. היו לו נצחונות והפסדים. אבל אחרי ההפסד המשמעותי הראשון שלו, למחשב "כחול עמוק", קאספרוב טען שהוא ראה "יצירתיות ואינטלגנציה עמוקה" במהלכים של המחשב, ולא הגיוני שמחשב יגלה תכונות כאלו. כלומר, בניגוד לחוקי המשחק, המחשב נעזר בשחקן אנושי.

הסיפור הזה מראה את שני הפנים של אינטלגנציה. מצד אחד, אינטלגנציה זה דבר מדיד. אנחנו מודדים אינטלגנציה של אנשים ושל מחשבים עפ"י ההתנהגות שלהם. מצד שני, כאשר אנחנו רואים התנהגות אינטלגנטית מכיוון בלתי צפוי, אנחנו מאד מתקשים להאמין לזה.
לרבע את הלולאה. 460922
"איבדת אותי באנסתזיה" - סליחה. אנסתזיה זו פעולת חומר הרדמה, תהליך שהמכניזם הביולוגי שלו טרם פוענח. יש מחקרים המראים קורלציה בין הרדמה ואיבוד הכרה לבין שינוי בפרמטר קוונטי מסויים של המוח. אני ממש לא מתמצא בעניין, אבל אני אנסה לחפש על כך פרטים נוספים.

ההבדל העקרוני בין טמפרטורה לבין כאב הוא שלטמפרטורה אין כלל משמעות מעבר למה שניתן למדוד. אין לך שום ידיעה על טמפרטורה של עצם מסויים שאיננה נובעת מחישה של אותו עצם (אם על ידי מגע ישיר ואם על ידי הסתכלות במדחום הצמוד לעצם). מאידך, כאשר כואב לך אתה יודע זאת באופן בלתי אמצעי, מבלי לעשות שימוש בשום חוש ובשום מדידה של העולם החיצון. כאב הוא חלק מהנפש, לא מהעולם. בשפת הפילוסופיה הקאנטיאנית, טמפרטורה היא פנומנה ואילו כאב הוא נואמנה.

חוקר עיוור צבעים יכול למדוד את המתרחש במוחך ולהחליט שאתה רואה צבע ירוק (משום שבפעם הקודמת שדיווחת על צבע ירוק הוא זיהה אופיין דומה). כל זה לא יקדם אותו כלל בניסיון להבין מהי חווית הצבע. אין שום דבר ירוק בפעילות מוחית כזו או אחרת. זה רק data, ולdata אין צבע.

אלגוריתמים מתוחכמים עשויים ליצור בנו לעיתים את האשליה שמדובר ביצור חושב. אבל זו אשליה. גם מחשב שחמט המשחק היטב עושה זאת באופן בלתי תבוני. הרי שום שחקן אנושי לא מחשב מיליארדי מסעים כדי להחליט מה לעשות. ולא קשה להמציא מצבים בשחמט שיוליכו שולל אפילו את המפלצת החישובית האימתנית ביותר, למרות שאפילו שחקן אנושי בינוני ידע להתמודד איתם.
לרבע את הלולאה. 460932
בתור ילדה תהיתי רבות מה אנשים אחרים רואים כשהם רואים ירוק (או צהוב, או אדום או...). וגם איזה טעם הם חווים כשהם חווים מתוק...
לרבע את הלולאה. 461003
את לא לבד.
לרבע את הלולאה. 461011
אה, טוב, אבל עדיין אינני יודעת מה התשובה...:)
לרבע את הלולאה. 461014
את עדיין לא לבד.
לרבע את הלולאה. 461135
לרבע את הלולאה. 461025
אני לא יודע מה את רואה כשאת רואה ירוק, אבל ברור לי (בדרגת וודאות גבוהה) שאני רואה משהו אחר כאשר אני רואה ירוק.
גם את וגם אני קוראים לצבע הדשא (של השכן), לאור התחתון ברמזור, לצבע הדגל של מכבי חיפה (או של ערב הסעודית) "ירוק", אבל אנחנו רואים דברים שונים. אולי דווקא ירוק אנחנו רואים אותו הדבר, ואת צבע הדם, האור העליון ברמזור והדגל של הפועל, זה ששנינו קוראים לו "אדום" אנחנו רואים באופן שונה.
איך את רואה את הצבעים הללו? אני לא יודע. אני גם לא יודע להעביר לך את מה שאני רואה. אבל עובדתית, הקונטרסטים שמאוד צועקים לך, אצלי הם נראים מתמזגים, ואילו גוונים שלך קשה להבחין באחד על רקע האחר נראים לי בברור.
לרבע את הלולאה. 460968
כלומר, כל מה שהוא סוביקטיבי, אינו ניתן למדידה. זה לא נכון.
לדוגמא, נניח שאני עיוור הצבעים שהזכרת. אני יודע מתי אתה רואה צבע ירוק, ואני אומר לך כל פעם שאתה רואה צבע ירוק ב-‏100% דיוק. האם אני יודע מתי אתה רואה ירוק?
אם כן, זה מספיק לי, כי זאת התחושה שאני מודד. הטיעון ש"אבל אתה לא יודע ממש מה אני מרגיש" הוא טיעון סרק, שלא מקדם אותנו לשום מקום. זה כמו לשאול בפיזיקה "למה החלקיק נעלם מכאן והופיע שם?". השאלה היא לא "למה?" אלא "איך?". השאלה היא לגבי המנגנון.

לידיעתך, מחשבי שחמט כבר מזמן לא מבצעים חישובים של מליארדי מסעים אפשריים. חישובים כאלה לא יביאו אותם מספיק רחוק בזמן קצר (זאת הסיבה שמשחק שחמט בכלל נחשב בעיה מענינת). הם יודעים לנתח מצב משחק מהיבטים טקטיים על-ידי "צפיה" באלפי משחקים מהעבר ולמידה של מצבים טובים יותר ופחות.
לרבע את הלולאה. 460973
ההבדל שאתה מתאר (גישה בלתי אמצעית) לא משנה דבר לגבי האם אנחנו יכולים או לא יכולים למדוד את זה. ולגבי כאב, אנחנו יודעים בוודאות שלכאב יש קורלציה גם לתגובות פיזיולוגיות של הגוף ובוודאי ובוודאי לגלי מוח. ואם אנחנו יכולים למדוד משהו, אז אנחנו יכולים לחקור אותו.

לגבי הצבע הירוק, מדידות אכן נותנות לנו רק DATA ותחושה היא לא DATA. אז מה. גם מדידות של טמפרטורה נותנות לנו רק DATA וטמפרטורה היא לא DATA ובכל זאת אפשר ללמוד על טמפרטורה.
לרבע את הלולאה. 461074
אינני טוען שאי אפשר לחקור כאב או חוויות סובייקטיביות אחרות. אבל האינפורמציה שתוכל להפיק באופן אמפירי אף פעם לא תוכל להיות שלמה. מבלי לחוות ירוק לעולם לא תדע באמת מהו ירוק, אף אם תוכל לומר הרבה דברים מעניינים לגבי האופן בו המוח האנושי מעבד קלט ויזואלי.

טמפרטורה היא בהחלט data, רק data ושום דבר חוץ מdata. אין שום טמפרטורה טרנסצנדנטית שנמצאת מעבר לאותה תכונה ספציפית של המידע האמפירי שיש לנו לגבי העולם. אבל תחושה (שלך, לא של זולתך) לא תלויה בשום מידע אמפירי. אתה יכול לחוש כאב מבלי לדעת שום דבר על העולם החיצון. אתה יכול לחוות ירוק בחלומך. יש לך נגישות בלתי אמצעית לחוויה הפנימית שלך, ונגישות זו לא ניתן לשכפל או לפרוט לפרוטות של אפסים ואחדים.
לרבע את הלולאה. 461084
לא ממש הבנתי את האבחנה שאתה עושה בין טמפרטורה לבין צבע. לשניהם יש מדדים חיצוניים אובייקטיביים (טמפ', אורך גל), עבור שניהם יש לנו חיישנים, ושניהם מעוררים בנו תחושה סוביקטיבית, כאשר אין לנו שום גישה לחוויה שאדם אחר חווה כשהוא נחשף לאותו הקלט.
לרבע את הלולאה. 461085
בין חווית החום לבין צבע אין הבחנה.
בין טמפרטורה לבין אורך גל גם אין.
בין טמפרטורה לבין צבע יש גם יש.
לרבע את הלולאה. 461124
אם לדייק יותר: המלה "צבע" משמשת גם לציון התופעה האובייקטיבית, וגם לציון החוויה הפנימית. "טמפרטורה" משמשת לרוב רק לציון התופעה האובייקטיבית (כי היא לועזית, ועוד נגזרת מלטינית).
לרבע את הלולאה. 461169
(וגם בגלל שהמילה הערבית, חררה, התייחדה לפריחה שנגרמת לילדים בימי הקיץ החמים)
לרבע את הלולאה. 461174
בין חווית החום לבין צבע יש הבחנה מאד ברורה. כשיש לנו שלוש חוויות שונות של חום, אנחנו מסוגלים לסדר אותם באופן חוויתי (13 מרגיש בין 3 מעלות לבין 23 מעלות) והטמפרטורה היא בסך הכל סולם מונוטוני בין החוויה לערך מדיד, אותו הדבר תקף לחווית הרעש, חווית הכאב או חווית עוצמת האור. חווית הצבע היא לא כזאת, אנחנו (לפחות אני) לא חווים את הצהוב כמשהו שבא דווקא בין האדום לכחול.
לרבע את הלולאה. 461204
קודם כך, סליחה על התגובה המאוחרת. אני עסוק. שנית, אני שמח שהעמדה שלך קצת פחות קיצונית ממה שנדמה לי בהתחלה, כשכתבת: "חוויה מודעת איננה בכלל דבר שניתן לתאר או למדל". עכשיו אתה אומר משהו הרבה פחות קיצוני: כן אפשר לחקור כאב וחוויות סובייקטיביות אחרות, אבל האינפורמציה "אף פעם לא תוכל להיות שלמה".

אבל מה זה אינפורמציה "שלמה"? ומה זה "לדעת באמת"? האם על טמפרטורה יש לנו אינפורמציה שלמה? האם אנחנו "באמת" יודעים מה זה טמפרטורה? אולי מבלי להיות עץ, לא תהיה לי תמונה שלמה על פוטוסינתיזה, ומבלי להיות מולקולה לא תהיה לי תמונה שלמה על מה זאת טמפרטורה. כשאני אפגוש מולקולה, אני אשאל אותה אם טמפרטורה זה רק DATA, אני בטוח שהיא תגיד שלא. ולמה דווקא כאשר *יש* לי נגישות בלתי אמצעית, אז התמונה בלתי שלמה, ואילו במקום שבו *אין* לי נגישות בלתי אמצעית, התמונה היא כן שלמה? ההגיון הפשוט אומר שזה הפוך. הנקודה היא פשוטה, כל מה שאמרת עד עכשיו לא מסביר למה אי אפשר להבין תחושות לפחות כמו שאנחנו מבינים טמפרטורה. אם כבר, נוכל להבין תחושות *יותר טוב* ממה שאנחנו מבינים טמפרטורה.

לגבי "אי אפשר לשכפל או לפרוט לפרוטות של אפסים ואחדות", זה כבר טענה הרבה יותר חזקה מ*לא נוכל להבין*, כי הרי אפשר לשכפל מבלי להבין. שם ההסבר שלך אפילו פחות משכנע, כי אפשר לחשוב על כמה תהליכים מנטליים ששוכפלו לאפסים ואחדות. למשל, התהליך המנטלי הידוע כ: 2+2=4. זה שיש לנו חוויה פנימית של משהו כלל לא אומר שזה לא ניתן לביטוי כאפסים ואחדות.
לרבע את הלולאה. 461281
סקירה פילוסופית קצרה ברוח האידאליזם הטרנסצנדנטי:

טמפרטורה היא "פנומנה" (תופעה, בעברית), משהו שמאפיין את העולם החיצוני שידיעתנו עליו מגיעה דרך החושים. חוויה סובייקטיבית, כמו תחושת צבע וגם תחושת החום עקב מגע בגוף בטמפרטורה גבוהה, היא "נואמנה". זה לא משהו שהידע שלנו עליו הוא מן הנסיון אלא הוא קיים בתודעתנו ללא פרשנות.

באמצעות ניתוח פנומנון אנו בונים לעצמנו מודל של העולם הנמצא מחוץ לתודעתנו. הדרך המתוחכמת ביותר לעשות זאת היא על ידי השיטה המדעית, אבל מרבית תפיסת המציאות שלנו היא אינטואיטיבית. אני מכיר במציאותו של הכיסא עליו אני יושב מתוך אינטגרציה ספונטנית של החוויות החושיות - מגע, מראה וכו' - המביאות אותי ליצור לעצמי תפיסה של עצם חומרי מסויים. אבל אין לי שום ידיעה על "הכיסא כשהוא לעצמו" אלא רק על בבואתו הקיימת בנפשי פנימה, אשר עברה את מסננת החושים והתפיסה.

אין שום טעם בעיסוק ב"כיסא כשהוא לעצמו" או ב"טמפרטורה כשהיא לעצמה" משום שלא תתכן שום ידיעה על דברים אלה. כל המשמעות של פנומנון הרלוונטית לנו כבני אדם מגולמת בידיעה האמפירית שלנו לגביהם. מה שיש זה מה שניתן למדוד. זה הכל.

לא כן לגבי נאומנון. חוויה נפשית היא לא מודל תפיסתי של משהו חיצוני. היא הדבר עצמו, מה שמתרחש בתודעה. הידיעה לגבי החוויות הסובייקטיביות שלנו זה משהו בסיסי ווודאי הרבה יותר מכל ידיעה אמפירית. אתה יכול לפקפק בקיומו של הקיר ממולך. אולי זו אשליה אופטית? אבל אם כואב לך אז כואב לך. אי אפשר לפקפק בז_ה!

עד כאן מבוא לפילוסופיה. כעת, מי שטוען שניתן לנתח חוויות סוביקטיביות כמו שמנתחים תופעות עושה אקסטרפולציה מרחיקת לכת לשיטה המדעית, שאין לה שום ביסוס רציונלי וגם שום השגים להתגאות בהם. אם תיאור "מדעי" מכניסטי של חוויה נפשית אמור להיות שקול לחוויה עצמה, הכרת התיאור הזה אמורה לגרום למבין אותה לדעת מהי החוויה בדיוק כמו זה החווה אותה. האם אתה יכול להעלות על דעתך מקרה בו עיוור צבעים מבין מהי חווית הצבע לאחר קריאת מאמר מדעי, מבין ברמה השקולה לחוויה הסובייקטיבית עצמה? לי זה נראה כל כך מופרך עד שאני מתקשה להבין איך כל כך הרבה אנשים (ובכללם אף אני בצעירותי) קיבלו על עצמם אמונה זו.

ועניין אחרון: גם את 2+2=4 מחשב לא יכול להבין. הוא יכול לחשב את זה. פה אין בעיה. אבל הוא לא ידע אם הוא חישב תרגיל מתמטי או שהוא הדפיס תגובה בדיון על תודעה. כל מה שהמחשב עשה זה להדליק ולכבות ביטים. כיצד הוא יידע מה משמעותם?
לרבע את הלולאה. 461292
זו בעצם אחת הטענות של הספר המדובר: חוויה נפשית היא מודל תפיסתי של... משהו פנימי. בפרט, ה"אני" הוא חוויה נפשית של *עצמה*; ומכאן, "לולאה מוזרה".

אם יתברר כי ניתן ליצור מודל ממוחשב מדויק של פיזיקה קוונטית (כלומר: הכוח החישובי של היקום לא גדול מזה של מכונת טיורינג, למרות שאולי קצב החישוב שונה באופן מהותי) - אזי ניתן יהיה, תיאורתית לפחות, ליצור סימולציה ממוחשבת מלאה של מוח אנושי. האם, במקרה היפוטתי זה, תסכים שתוכנה יכולה להיות "מודעת", או ש"האידיאליזם הטרנסצנדנטי" יחפש אילנות אחרים לתלות בהם את מותר האדם מהמכונה?
לרבע את הלולאה. 461295
"אם יתברר כי ניתן ליצור מודל ממוחשב מדויק של פיזיקה קוונטית (כלומר: הכוח החישובי של היקום לא גדול מזה של מכונת טיורינג, למרות שאולי קצב החישוב שונה באופן מהותי).
לא הבנתי את ה"כלומר".
לרבע את הלולאה. 461307
כלומר, אין חישוב שניתן לבצע במחשב קוונטי ושלא ניתן לבצע במחשב "קלאסי", למעט אולי העובדה שחישוב שידרוש כמה שניות במחשב קוונטי עשוי לדרוש כמה אלפי דורות, אם לא כמה גילאי-יקום, במחשב ה"קלאסי" המשוכלל ביותר.

הערות:

א. החלף "מחשב קוונטי" ב"כל מכונה המשתמשת בעקרונות הפיזיקה השונים, ובפרט בעקרונות הפיזיקה הקוונטית" כדי להבין למה התכוונתי בביטוי "הכוח החישובי של היקום".

כמובן שיש כאן פח יקוש: אם התשובה חיובית (אין חישוב כזה), אזי מערכת פורמלית (מחשב קלאסי) יכולה לדמות גם את המוח (מכונה פיזיקלית) – אלא אם כן אנשי "האידיאליזם הטרנסצנדנטי" מאמינים שהמוח אינו מכונה, ויש בו נשמה יתרה.

ב. ייתכן וכבר יש תשובה לשאלה זו, לכאן או לכאן. אינני יודע.
לרבע את הלולאה. 461313
מחשב קוונטי במובן המקובל היום אינו יותר חזק (חישובית) ממחשב רגיל. לגבי ''כל מכונה המשתמשת בעקרונות הפיזיקה השונים'' הרי זו התזה של צ'רץ'-טורינג, ואין דרך להוכיח אותה לפני שנגלה את כל הפיזיקה.
לרבע את הלולאה. 461315
תודה.
לרבע את הלולאה. 461391
במחשב קוונטי ''במובן המקובל היום'' יש הפרדה בין המערכת הקוונטית המתפתחת באופן אוניטרי (משוואת שרדינגר) למערכת המדידה הקלאסית-מאקרוסקופית. מחשב קוונטי כללי יותר זו מערכת המודדת את עצמה ואין בה הפרדה כזו. הפיסיקה במצב זה לא ברורה כלל (אפילו ברמה התיאורטית) ואין שום ראיה לכך שהיא חישובית.
לרבע את הלולאה. 461396
אבל לא ענית על השאלה שלי: אם יתברר שהיא *כן* חישובית, האם, במקרה היפוטתי זה, תסכים שתוכנה יכולה להיות "מודעת", או ש"האידיאליזם הטרנסצנדנטי" יחפש אילנות אחרים לתלות בהם את מותר האדם מהמכונה?

(סליחה שאני חוזר על עצמי).
לרבע את הלולאה. 461405
זו שאלה מוזרה. זה כמו לשאול: אם מישהו ידגים בפניך כיצד הוא מרבע את המעגל, האם תסכים שזה ניתן לביצוע? בכל אופן, כדי לבטל לחלוטין את האופציה של "מותר האדם" (מהאלגוריתם. לא דיברתי על מכונה) צריך להראות שכל חוקי הפיסיקה הם חישוביים. אני לא חושב שניתן להראות זאת אמפירית אפילו אם זה היה נכון. אתה לא יודע אף פעם אם כבר גילית את הכל.

ומה איתך? אם יתברר שיש אפקטים פיסיקליים לא חישוביים, האם תסכים שיש אפשרות שהתזה החישובית היא מוטעית?

אגב, האידיאליזם הטרנסצנדנטי, פרי הגותו הפילוסופית של עמנואל קאנט, עוסק (בין היתר) בהבחנה בין הדברים כשהם לעצמם והדברים כפי שאנו חווים אותם. "מותר האדם" זו התוספת שלי על היסודות הקאנטיניים.
לרבע את הלולאה. 461420
אז ככה: אני בהחלט מסכים שיש אפשרות שהתזה החישובית היא מוטעית; אני רק לא מקבל את ה"הוכחות" של פנרוז ודומיו בנושא. אני חושב שמערכת אלגוריתמית מורכבת דיה עשויה בהחלט להיות בעלת מודעות הדומה לזו שלנו, כלומר, המוח הוא "אלגוריתמי"; ואני חושב שהמחקר בבינה מלאכותית, שהוא מחקר המנסה להוכיח את הדבר בעזרת בניה בפועל של מערכות מודעות, הוא מחקר חשוב מאוד. אבל, כאמור, אני מבין בהחלט שייתכן שאין זה המצב ואלגוריתם מסוג זה אינו אפשרי.

אם המוח אינו ניתן למידול כמערכת פורמלית ממוחשבת, אני לא חושב שזה בגלל ענייני קוונטים, אלא מסיבות אחרות. אפרט רק אם זה מעניין אותך, אבל מדובר בתיאוריה פרטית שלי, חסרת כל ביסוס, שלא לדבר על זה שאני עצמי לא מאמין בה...

אגב, אם אתה מאמין בנכונות ההוכחה של פנרוז לגבי מותר המוח מהאלגוריתם, אתה גם מאמין בהכרח שהיקום כולו אינו ניתן למידול כמערכת פורמלית. ואם הבנתי נכון את שהעיר גדי, על-פי הידוע לנו עד כה, אין ביסוס לאמונה זו בידע הפיזיקלי שלנו.
לרבע את הלולאה. 461456
אוקיי, השתכנעתי שהתאוריה שלך דפוקה.
אתה יכול לתאר אותה עכשיו?
לרבע את הלולאה. 461341
מנין לי שיש לך בכלל תופעות "פנימיות", שאין ביכולתי לחוש?
אני לא יודע. מה שאני כן יודע, זה שהן באות, לדבריך, בהתאמה למצב הפיזיקלי. תחושת כאב יהיה לי מאוד קשה למדוד, אלא אם אני אבדוק את התגובה הפיזית שלך לכאב, שקיימת, וברת מדידה.
אני לא רואה כאן שום הבדל מחקירה של גורמים טבעיים אחרים, שלהם אנחנו מניחים שאין "עולם פנימי" משום מה.

אינטיליגנציה לא שונה מכך. אני מניח שאתה אינטיליגנטי, כי אתה מתנהג בעולם בצורה כזאת. אני לעולם לא אוכל לדעת אם ה"רגשות" שלך אינטיליגנטיים או לא, וזה לא ממש משנה לצורך הענין.
צורת רבים חצי נחמה 461370
תיקון קטנוני: נואומנון/פנומנון זה צורת היחיד, נואומנה/פנומנה צורת הרבים.
לרבע את הלולאה. 462422
מצטער מאד על התגובה המאוחרת.

תקן אותי אם אני טועה, אבל הפואנטה שלך היא שתיאור מדעי אינו שקול לחוויה. אני מסכים. אבל זה לחלוטין לא קשור למה שאני אומר. אני אומר, ששקילות היא כלל איננה רלוונטית.

הזכרת את השיטה המדעית. כאשר אתה טוען משהו על השיטה המדעית, אתה צריך לתאר את השיטה המדעית, ולא את הפילוסופיה ברוח האידאליזם הטרנסצנדנטי. השיטה המדעית מתעסקת בדברים מדידים. תאוריה מדעית לא נמדדת בכך שהיא "שקולה" למשהו ("שקילות" זה עניין פילוסופי, לא מדעי), אלא במידת ההתאמה לתצפיות. כבר הסכמת שהחוויות הסוביקטיביות ניתנות למדידה, באותה מידה שטמפרטורה ניתנת למדידה‏1. ומכאן, שהן ניתנות לניתוח מדעי בדיוק באותה דרך שבה טמפרטורה ניתנת לניתוח מדעי.

הטיעון שלך מדוע תיאור מדעי אינו שקול לחוויה הוא מאד משכנע. אני מקבל אותו. למעשה, הוא כ"כ משכנע, שאני השתכנעתי שגם משוואות התרמודינמיקה אינן שקולות ללהיות מולקולת מים באפס מעלות‏2. אני אגיד יותר מזה: אם תיאור מדעי אינו שקול לחוויה, על אחת כמה וכמה תיאור הנדסי שהוא הרבה יותר מוגבל . הרי תרשים של מקרר אינו שקול למשוואות התרמודינמיקה, ובטח ובטח אינו שקול לחוויה של מלפפון שהשארתי אותו יותר מדי זמן במגירת הירקות. באותה מידה, תרשים של המוח אינו שקול לתאוריה שמתארת את התודעה האנושית, ובוודאי ובוודאי אינו שקול למחשבות עצמן. וזה בדיוק הפגם בטיעון שלך, שכתבת לפני הרבה זמן.. כתבת שתודעה או רגשות אינם שקולים לאפסים ואחדות, ולכן לא ייתכן מחשב בעל תודעה. נכון, הם אינם שקולים, אבל זה לא רלוונטי. הם גם לא שקולים לתרשים של המוח.

---
1 לכל לחוויה נפשית יש איזשהו ביטוי מדיד בפעילות מוחית ובד"כ גם בהתנהגות של האדם. בפרט, יש חוויות נפשיות שאנחנו לא מודעים אליהן, אבל ניתנות למדידה באופן חיצוני.
2 מה גם, שמשוואות התרמודינמיקה מדברות על ממוצעים ולא על מולקולה בודדת.
לרבע את הלולאה. 462434
"יש חוויות נפשיות שאנחנו לא מודעים אליהן, אבל ניתנות למדידה באופן חיצוני" - בא לך לפרט?
לרבע את הלולאה. 462539
קל יחסית למישהו שמכיר אותך לדעת אם אתה פוחד ממישהו, או נמשך למישהו, גם אם אתה עצמך לא מודע לזה. זה מאד נפוץ שאנשים לא מודעים לרגשות מסויימים - אבל הרגשות האלו מתבטאים בהתנהגות שלהם.
לרבע את הלולאה. 462543
במצבים האלה הייתי מהסס מאוד לקרוא לזה ''חוויות'' - בשבילי עיקר המשמעות של המלה הזו הוא לציין תחושה ומודעות. עדיף בעיניי ''מצבים נפשיים (לא מודעים)''. סמנטיקה בצד, חוסר המודעות הזה רומז שאולי יש הבדל חשוב בין מצב כזה לבין מצב שמבחינה ''מדידה'' הוא אותו דבר, אבל עם מודעות.
לרבע את הלולאה. 462645
הנקודה העקרונית היא שמדידה חיצונית היא מקור מידע אמין הרבה יותר על אותו דבר שנטען שכלל אי אפשר לתאר או לחקור אותו, ושהגישה אליו היא גישה סובייקטיבית בלבד. הרי המוח האנושי הוא מומחה בהדחקה ובהמצאה. ומה שאתה באמת ובתמים חושב שחווית לפני 24 שעות עשוי להיות שונה מאד ממה שבאמת חווית לפני 24 שעות. והסיבה היחידה שאנחנו יודעים את זה היא בגלל שעשו מדידות חיצוניות.

גם את ההבדל שאתה מתאר: בין מצב נפשי לא מודע, מצב נפשי במודעות נמוכה, מצב נפשי במודעות גבוהה, מצב נפשי מודחק ועוד הרבה אפשרויות, קשה מאד לאבחן על עצמך והרבה יותר קל לאבחן באופן חיצוני. ככה שלהגיד שבמבחינת "מדידה" זה אותו דבר, זה קצת מצחיק - כנראה מבחינת מדידה חיצונית זה יהיה דומה בדברים מסויימים, ושונה מאד בדברים אחרים. אבל אם אני אשאל אותך, בדיעבד: "איך הרגשת אז, כש.." אז תחשוב שזה היה אותו דבר כמו אז, למרות שזה לא היה אותו דבר כמו אז.
לרבע את הלולאה. 462722
יש לי הרגשה שקצת מפריזים בערכה של המודעות:
תיאור מקרה – קלפטומניה ואפילפסיה אשר טופלו על ידי Topiramate

אישה, בת 20. מתלוננת על גניבת חפצים קטנים (עפרונות, מחקים, עיתונים ועוד) באופן כפייתי. הדבר החל שנתיים קודם לכן, והיא טופלה במרפאת-חוץ פסיכיאטרית. בנוסף, הופנתה לייעוץ נוירולוגי בשל התקפים אפילפטיים מסוג complex partial, אשר החלו באותה תקופה בה החלו הגניבות.
המטופלת דיווחה כי לפני מעשה הגניבה היא מרגישה מתח עצום, אשר הופך להנאה, אם כי קצרה, בעת הגניבה. עוד סיפרה המטופלת כי לאחר הגניבה היא מרגישה אשמה וחרטה. היא אובחנה כסובלת מקלפטומניה*.
המטופלת לא סבלה ממחלות פסיכיאטריות נלוות. היא טופלה ללא הצלחה בשני סוגים של SSRIs (fluoxetine 40 mg/day או citalopram 40 mg/day).
לאחר בדיקות אשר הצביעו על ליקוי מבני באונה הטמפורלית השמאלית, שמהווה מוקד אפילפטי, הוחל טיפול ב-Topiramate 300mg/day (המינון נקבע על פי תגובה קלינית ותופעות לוואי). תוך חודשיים מתחילת הטיפול ב-topiramate היתה המטופלת חופשייה מהתקפים אפילפטיים ומקלפטומניה.
הכותבים מאמינים כי בשל סמיכות הופעת הקלפטומניה וההתקפים האפילפטיים ובשל הליקוי המבני באונה הטמפורלית השמאלית, והעובדה כי שתי ההפרעות הנ"ל נפתרו על ידי טיפול ב-Topiramate, ניתן להניח כי קיים קשר ביניהן.
לרבע את הלולאה. 462728
איפה מצאת את התיאור הזה?
לרבע את הלולאה. 462746
תקציר באחד הז'ורנאלים המקצועיים לרוקחים.
לרבע את הלולאה. 463127
מדהים!
לרבע את הלולאה. 461533
אני מנסה לנסח במונחים שמובנים לי את מה שאמרת כאן כדי להבין אם אני מסכים איתך או לאו:

האם לירייה של פוטנציאל פעולה בעצב ראיה כתוצאה מפגיעה של פוטון בקולטן ברשתית העין אתה קורא אפקט קוונטי?

האם להגברת הרגישות בסינפסה כתוצאה ממספר רב של גירויים שעברו דרכה אתה קורא דינמיקה קוונטית אוניטרית?

האם במיקרו צינוריות בנויירונים אתה מתכוון למה שמכונה מיקורטובולי?

האם אתה מתכוון למשל לאיזורים במוח שמייצגים מושגים מוגדרים מוכנים לשליפה מיידית כמו מושג של "שולחן" או "אדום" כדי ליצור את העצם "שולחן אדום" בשלב הפלט?

אם זו הקונצפציה של מבנה המוח שאתה מתכוון אליו אני מסכים איתך לחלוטין.
מה שלא מובן לי מכל זה, למה זה לא יכול להיות מיוצג על ידי איזו מכונה אבולוציונית או שנבנתה על ידי אדם.
לרבע את הלולאה. 461620
"האם לירייה של פוטנציאל פעולה בעצב ראיה כתוצאה מפגיעה של פוטון בקולטן ברשתית העין אתה קורא אפקט קוונטי?" - דווקא במקרה זה אני לא בטוח שהאפקטים הקוונטיים חשובים.

"האם להגברת הרגישות בסינפסה כתוצאה ממספר רב של גירויים שעברו דרכה אתה קורא דינמיקה קוונטית אוניטרית?" - לא. יתכן, עם זאת, שהגברת רגישות זו תלויה גם בתהליכים קוונטיים בנוסף לאפקט המצטבר הקלאסי של היזון חוזר חיובי במעבר גירויים.

"האם במיקרו צינוריות בנויירונים אתה מתכוון למה שמכונה מיקורטובולי?" - כן.

"האם אתה מתכוון למשל לאיזורים במוח שמייצגים מושגים מוגדרים מוכנים לשליפה מיידית כמו מושג של 'שולחן' או 'אדום' כדי ליצור את העצם 'שולחן אדום' בשלב הפלט?" - אני לא יודע אם זה קשור. אין לי שום תיאוריה ספציפית של תהליכים מוחיים. עקרונית, כדי להסביר זכרון די בתיאוריה קלאסית של רשתות נוירוניים. להערכתי הדינמיקה הקוונטית קשורה יותר למודעות, תפיסת משמעות ותפיסת זמן, תהליכים שלא ניתן לבטא במונחים של עיבוד מידע.

"למה זה לא יכול להיות מיוצג על ידי איזו מכונה אבולוציונית או שנבנתה על ידי אדם" - אולי זה יכול. כל מה שאני טוען זה שלא מדובר במשהו שאקוויוולנטי למחשב קלאסי.
לרבע את הלולאה. 461975
ירייה (לא קוונטית) מהמותן:
השאלות שלי מתבססות על דברים מקובלים היום בחקר פעילות המוח. אני מניח שיש מיסתורין מסוג מסויים בעצם הדיון בתודעה ומודעות, אבל לייחס את עצם פעולת המוח לאיזה תהליכים מיסטיים נראה לי מיותר למדי ועד כמה שידוע לי לא נלקחים בחשבון על ידי העוסקים בתחום חקר פעילות המוח.
ברור שהמוח איננו מחשב קלאסי אבל גם ברור שהוא מין מכונה ביולוגית.
לרבע את הלולאה. 462028
1. מי דיבר על "תהליכים מיסטיים"? מה מיסטי בתורת הקוונטים?
2. אכן, רוב העוסקים בתחום חקר פעילות המוח לא לוקחים בחשבון אפקטים קוונטיים. וחבל שכך. הם מחמיצים משהו חשוב.
3. המוח הוא מכונה ביולוגית. מה עוד הוא יכול להיות? אבל המכונה הזאת מנצלת את חוקי הטבע באופן מאוד מאוד מיוחד ובלתי צפוי.

התזה החישובית היא בסך הכל תזה. אין לה שום ראיות. היא אפילו לא מוגדרת היטב. הנטייה להצמד לפרדיגמה הקיימת היא סבירה, אבל אחרי כשישים שנה ללא תוצאות משמעותיות הגיע הזמן לנסות לחשוב על אופציות נוספות.

אגב, כפי שכבר ציינתי, אין בעיה אפריורית לתאר לאכסון זכרון באמצעות מודל חישובי של רשתות נוירונים. זה לא קשור לתודעה. תהליך צבירת הזכרון שונה מהתהליך של העלאתו למודעות.
לרבע את הלולאה. 462070
לחשוב על אופציות אחרות זה, כמובן, טוב מאד, אבל להכריז על ''הוכחות'' שאינן תקפות כמשהו שממוטט את התיזה החישובית, ולגייס לעניין מנגנונים היפותטיים שאף אחד לא יודע אם הם קיימים ואף אחד לא מבין איך הם משנים משהו אם הם קיימים - ובכן זאת לא ממש איסטרטגיה משכנעת.
לרבע את הלולאה. 462126
1. האמת אני ומרבית ההדיוטות חשים שיש משהו מיסטי בתורת הקוונטים, אבל כמובן לא כאן הנקודה.
המיסטי הוא החיבור העלום בין מנגנונים ברמת אברוני תאים ומקרומולקולות לבין אירועים קוונטיים שהם ברמה תת אטומית ומשם לאירועים ברמה של המוח השלם.
אני התחנכתי על הרצאתו של שרדינגר What is Life שבה הוא הציע מנגנון מעניין ויפה לקישור שבין אירועים ברמה הקוונטית לבין עולם החי.
2. אני, שאינני חוקר הפעילות המוחית, דווקא רציתי להציע לך מנגנון שמנצל אפקטים קוונטיים לפעילות ברמת המערכת המוחית כולה, אבל, כנראה מסיבה טובה, ויתרת על ההצעות שלי.
3. שישים שנה ללא תוצאות משמעותיות? במדעי המחשב, בבינה מלאכותית או בחקר המוח? הנה עוד קישור לדיונים בנושא חם זה:
לרבע את הלולאה. 462133
"המיסטי הוא החיבור העלום בין מנגנונים ברמת אברוני תאים ומקרומולקולות לבין אירועים קוונטיים שהם ברמה תת אטומית ומשם לאירועים ברמה של המוח השלם" - גם פה אין שום דבר מיסטי. זו תיאוריה מדעית. אמנם ספקולטיבית. אמנם בחיתוליה. אבל כך גם תיאוריית המיתרים, למשל, ואף אחד לא מכנה תיאוריה זו בשם מיסטיקה.

"רציתי להציע לך מנגנון [...] אבל, כנראה מסיבה טובה, ויתרת על ההצעות שלי" - ויתרתי? חס וחלילה. אתה מוזמן להציע.

"שישים שנה ללא תוצאות משמעותיות? במדעי המחשב, בבינה מלאכותית או בחקר המוח?" - מדעי המחשב בוודאי התפתחו המון. גם בחקר המוח הייתה התקדמות עצומה, ולו רק בגלל שיש כל כך הרבה מה לגלות. אשר לבינה מלאכותית, זה תלוי מה אתה מכנה "בינה". כיוון שאני מגדיר "בינה" כמאפיינת חשיבה מודעת, אזי ההתקדמות בכיוון הבינה המלאכותית היתה אפס בריבוע. אפילו לא הצליחו להגדיר מה בדיוק מחפשים. מאידך, אם "בינה" היא רק מטאפורה לאלגוריתמים מתוחכמים, אז עשו כמה דברים יפים. כפי שכבר כתבתי, אני רואה בתחום סוג של אלכימיה. מגלים חומרים מעניינים, אבל שום עופרת לא הפכה לזהב.
לרבע את הלולאה. 462750
בדחילו ורחימו אני מנסה להתייחס לנושא שאני מבין בו מעט מאוד מכל היבט אפשרי אבל אנסה להציג את המסגרת כפי שאני מבין אותה:
א. אני מניח שיתכן שרצפטור מסויים (מולקולת חלבון שנמצאת בדופן של תא או אברון בתוך התא) מגיב לעירור חיצוני ברמה קוונטית דבר שגורם לו לעבור למצב מרחבי שונה ומוגדר ועל ידי כך לשנות את התפקוד של האברון או התא שבתוכו הוא שתול.
ב. שינוי כזה יכול לגרום לשינוי תפקוד מיידי (נניח רקמת מוח שלמה מתחילה לירות בצורה סינכרונית) או לשינוי מצטבר היסטורי (נניח חלבונים שצוברים זכרון, DNA שצובר מוטציות וכו').
ג. אני קופץ כמה סדרי גודל קדימה - נראה לי בלתי בסביר בעליל שמערכת שלמה ומורכבת כמו מוח תפיק חוויות ספציפיות כמו למשל הזכרון של מה אכלתי אמש לארוחת הערב במנגנון קוונטי מכל סוג שהוא. אם להשתמש בז'רגון שאיננו אומר לי הרבה, הרי אין להניח שיש כאן קריסה לאיזו הסתברות אחת מוגדרת, אלא צירוף של הרבה מאוד גורמים ופרטים בלתי תלויים זה בזה.
ד. תחושת הבטן שלי שיש כאן משהו בתחום התקשורת והמשמעות. לדוגמא הסיפור הישן על הצארינה שראתה את המברק: "חנינה לא. להוציא להורג!" ושינתה את משמעותו מהקצה לקצה על ידי שינוי קטן "חנינה. לא להוציא להורג!".
האינפורמציה, כלומר הסדר שבו אירועים בדידים מסודרים מצד אחד ומנגנון שיודע לפענח את המסר מצד שני יוצר מערכת בעלת אין סוף אפשרויות (אגב, זהות מבחינה תרמודינאמית) ברמת המקרו תוך שימוש במנגנונים מוכרים וידועים ובלי צורך להניח אפקטים שאין לנו שמץ מושג כיצד הם מתחברים זה לזה.
ה. מתנהלים כאן מספר דיונים במספר רמות דיון. אין שום סיבה בעולם להניח שתשובה ברמת התרמודינמיקה, למשל, תהיה ישימה לשאלה ברמת התחושות האובייקטיביות או הסובייקטיביות של פרטים שלמים.
לרבע את הלולאה. 464665
1. יש קישור/מקור לקריאה?
לרבע את הלולאה. 464669
וכמובן (פעח"ב):
דיון 2752
טיעונים לעונש: 464673
א-פרורפו "What is life", קרא את הקטע (SECOND EXAMPLE (BROWNIAN MOVEMENT, DIFFUSION (בפרק הראשון) ושלח לשרדינגר‏1 את תגובה 428113
___________
1- מאחר והוא בארון סגור, חציו חי.
טיעונים לעונש: 464683
הגזמת, ששרדינגר יפול ככה? הוא כותב:
If you leave this
system alone a *very slow* process of 'diffusion'
sets in, the at permanganate spreading in the
direction from left to right, that is, from the
places of higher concentration towards the places
of lower concentration, until it is equally
distributed of through the water.

(ההדגשה שלי). במרחק בין שתי מולקולות נוזל הוא מסדר גודל של(נניח) 9-^10 מטר, ומהירות המולקולות הוא בערך קילומטר לשניה, אני מקבל 12^10 התנגשויות לשניה. עכשיו, כדי לעבור 1 ס"מ, צריך להתקדם 7^10 פעמים המרחק בין התנגשויות. נעלה את זה בריבוע ונקבל 14^10 התנגשויות, כלומר כדקה או שתיים. כדי לעבור דצימטר, עוד פאקטור 100. למלא דלי? עוד פאקטור 10.

מניסיוני עם קלי, בהתחלה רואים ממש פסים שיוצאים ממנו ומתערבלים. מתגובתך הבנתי שגם אתה לא ראית "כדור מתפשט" אז הנחתי שעל זה אתה מדבר.
טיעונים לעונש: 464685
דצימטר, הה? עם *זה* אני בשום אופן לא מתווכח.
טיעונים לעונש: 464997
1 את זה בדיוק אני לא מצליח להבין - איך אחרי שהוא כתב ("הרצה") על מולקולת הענק הוא המשיך עם הפרדוקס של החתול?
המולקולה הענקית קיימת או לא? בעקבותיה בא חתול שלם או לא?
לרבע את הלולאה. 464674
פעח"ב?
לרבע את הלולאה. 464678
פרסום עצמי חסר בושה.
לרבע את הלולאה. 464689
תודה.
לרבע את הלולאה. 464690
בעצם תודה כפולה, כי מהכניסה לקישור שלך הבנתי שאין בכלל טעם לקרוא את כל ההרצאה (שירות לקורא! שירות לקורא!).
לרבע את הלולאה. 464703
זאת לא הרצאה אלא ספר.
לרבע את הלולאה. 464707
ולדעתי *כן* יש טעם לקרוא אותו.
לרבע את הלולאה. 464712
בהחלט. אגב, שמת לב שהוא מדבר על 24 זוגות כרומוזומים? לא ידעתי שכך חשבו פעם.
לרבע את הלולאה. 464714
לא שמתי לב, אבל שמעתי כבר על הבילבול הזה.
לרבע את הלולאה. 464726
גם הרצאה, לא? תגובה 462126
לרבע את הלולאה. 464735
אם זאת היתה הרצאה, היא היתה א-ר-ו-כ-ה.
לרבע את הלולאה. 464764
באמת פתחת את הקובץ ואמרתי לעצמי: בטח התייבש לו הגרון.
לרבע את הלולאה. 462156
מותר להתנגד למטאפורה של "מכונה"?
מכונה היא סוג של כלי שמישהו בונה לצורך (או צרכים) מסוימים.
לאיזה צורך בנו אותנו? ומי עשה זאת?

(אני לא טוען שיש במוח תהליכים מיסטיים, אבל גם לא רואה סיבה להניח שיש רק שתי אפשרויות: "נפש" או "מכונה").
לרבע את הלולאה. 462194
סתם אחד לא המשיל *אותנו* למכונה, אלא את המוח שלנו. אפשר להתנגד גם לזה, אבל האם אתה מתנגד להמשלת הלב למכונה?
לרבע את הלולאה. 462401
ובכן, אני מניח שזה צורם לי פחות מאשר המטאפורה של המוח כמכונה, אבל גם הלב הוא לא רק משאבה. הוא מקבל קלט עצבי די מסובך וההבנה שלנו לגבי מנגנוני העצבוב רחוקה מלהיות שלמה.

הנקודה העיקרית שמפריעה לי במשל המכונה היא שבעוד שלגוף חי יש יכולת מסוימת לתקן את עצמו, למכונות שאנחנו מייצרים כמעט ואין יכולת תיקון עצמית, או כושר הסתגלות לתנאים משתנים.

אינטואיטיבית, נדמה לי שהכלים הדרושים כדי לתכנן ולבנות מכונות סתגלניות כאלו טרם הומצאו.
לרבע את הלולאה. 462402
''למכונות שאנחנו מייצרים כמעט ואין יכולת תיקון עצמית'' - למיטב הבנתי, אין בעיה תיאורטית ליצור מכונות כאלו. היה סבלני.
לרבע את הלולאה. 462437
הניסוח של סתם אחד "המוח הוא מין מכונה ביולוגית" מרשה שיהיו הבדלים (ואפילו רומז שאכן יש כאלו!) בינו לבין מכונות "קלאסיות", אבל הבדלים שלצורך הדיון אינם קריטיים. יכולת תיקון עצמית, והסתגלות, בוודאי אינן משהו שפוסל משהו מלהיות מכונה. דורפל הלך לעתיד הקרוב - זה רחוק מדי; למעשה יש תכונות כאלה בכמה מכונות פשוטות לחלוטין מההווה: צמיג של אופניים עם נוזל לסתימה אוטומטית של נקר, ועדשה שמתכהה באור.

נראה לי שאין באמת חילוקי דעות בין שלושתנו, והפתיל הזה סתם מידרדר למחוזות הסמנטיקה הלא-מעניינת.
לרבע את הלולאה. 462465
אל תלך רחוק - לכל מנוע עם מערכת קרור שמופעלת ע''י תרמוסטט יש ''כושר הסתגלות לתנאים משתנים'' (לפני שהזכרנו בקרת אקלים, בקרת שיוט ובקרת יציבות).
לרבע את הלולאה. 462692
(הופשטטר נוקט באותה דוגמא ממש -- מערכת עם תרמוסטט -- בספר ''אני לולאה מוזרה'').
לרבע את הלולאה. 462530
הילדים השתלטו על המחשב ולא יכולתי להשיב.
אינני בטוח שהויכוח הוא רק סמנטי.
מה שרציתי להגיד בביטוי "מכונה" הוא שגם המוח, או בעצם האישיות כולה (במובן הגופני) היא בסופו של דבר צירוף של חומרים. פירוש הדבר לא שהכול או "נפש" או "מכונה" אלא שההסבר הפילוסופי צריך להתמודד ולדעתי גם לגשר על הדיכוטומיה הזאת.
אחד הרעיונות היפים בעיני הוא שמצבים ביולוגיים שונים נמצאים בה בעת במצב פיסיקאלי (נניח של שיווי משקל כימי) וגם כנושאים מידע. דוגמא פשוטה שכבר ניתנה כאן 2+2=4 הוא צירוף סימנים מרצד על מסך המחשב אבל תלמיד בכיתה ב' שלמד קצת חשבון יודע לפרש את הסימנים הללו כטענה מתמטית ואולי גם להבין שאם קיבל שני תפוזים מרותי ושנים מילד אחר אזי יש לו ארבעה תפוזים.
לדעתי הדיון המעניין שמתפתח כאן קצת מתעלם מההיבט שמערכות ביולוגיות הן מערכות של מידע ותקשורת ומערכות כאלה תלויות במשדר אבל לא פחות מכך בקולט ובלי קולט אין משמעות לשדר.
ועוד דבר אחד קטן אם כבר הגעתי עד כאן. נדמה לי שמרבית הפעילות המוחית מוקדשת לפעולות שכלל איננו מודעים להן כמו שמירה על לחץ הדם, שיווי משקל, נשימה, איסוף שתן, הגברה או דיכוי של הפרסיטלטיקה של המעי וגם כמובן יצירת תחושות עונג, עייפות, דחף מיני ועוד. האם גם הפעילות הזאת מצריכה הסברים קוונטיים או שכאן הכימיה מספיקה?

ולבסוף, כן מישהו בנה אותנו. כנראה האבולוציה. כנראה בשביל לשרוד. אני יודע שזה הסבר קצת מגושם ופרימיטיבי אבל יש בו משהו.
לרבע את הלולאה. 462562
כנראה שאנחנו מסכימים. ואם כבר הזכרת את המערכות הביולוגיות כמערכות תקשורת, האם מישהו מבין מספיק בנושא כדי לכתוב מאמר קצר על ביו-סמיוטיקה ( http://en.wikipedia.org/wiki/Biosemiotics )?
לרבע את הלולאה. 460785
ניסוי מחשבה: נניח שמצליחים להרכיב מספיק טרנזיסטורים, או מספיק תאי-תוכנה, כדי לסמלץ מוח אנושי נוירון-נוירון, על-פי המודלים הקיימים היום לעירור נוירונים (בלי קוונטים). ונניח שמתברר שהדבר הזה מתפקד מבחינת קלט-פלט כמו מוח אנושי (מנהל שיחה, מתעצבן, מזמזם מנגינות, ואומר "זה אדום" כשהוא רואה אבטיח).

(1) אני מבין שזה נראה לך לא סביר, אבל האם זה נראה לך לפחות אפשרי?
(2) אם כן, האם אתה לא חושב שאולי תתחיל לחשוד שמא בכל זאת יש לדבר הזה תודעה אמיתית?
לרבע את הלולאה. 460802
לי לפחות זה נראה בלתי אפשרי לחלוטין.
לרבע את הלולאה. 460814
מה בדבר נוירון בודד? האם בלתי אפשרי בעיניך שבאלף השנים הבאות ניתן יהיה להחליף נוירון אחד באביזר סיליקוני שיחקה את פעולתו במדויק?
לרבע את הלולאה. 460846
למה אתה מגביל את השאלה לסיליקון?
לרבע את הלולאה. 460855
סתם, כי זאת טכנולוגיה מוכרת.
לרבע את הלולאה. 460858
יש בעיה (חוץ מזה שאנחנו לא יודעים איך לעשות את זה, אני מתכוון לבעיה עקרונית) בלבנות ניורון מאותם חומרים שהטבע בונה, או בלהשתמש בניורון שהטבע כבר בנה למטרות משלנו?
לרבע את הלולאה. 460863
אני לא יודע למה אתה קורא "בעיה" אבל דומני שחלק משוללי האפשרות ל AI חזק טוענים שיש איזה מרכיב ייחודי למוחות טבעיים. הניסוי המחשבתי של החלפת נוירון אחר נוירון ברכיב אלקטרוני‏1 מקביל אמור לחדד את הנקודה.

____________
1- כדי שלא אובן לא נכון, אני לא אביו הרוחני של הניסוי הזה.
לרבע את הלולאה. 460866
למה אתה חושב שדווקא רכיב אלקטרוני יחדד את הבעיה?
לרבע את הלולאה. 460899
נו, בסופו של ניסוי המחשבה הזה מגיעים למחשב, וזה מ.ש.ל.
לרבע את הלולאה. 460916
חשבתי שהמטרה של ניסוי המחשבה היא לבנות מכונה שחושבת. טעיתי?
לרבע את הלולאה. 460959
לבנות אותה מרכיבים לא אורגניים.
לרבע את הלולאה. 460989
מה הופך רכיבים אורגניים לפסולים? אי אפשר לשחזר ניורון בעזרת רכיבים לא אורגניים?
לרבע את הלולאה. 460990
חוקרי הבינה המלאכותית, כיום, חוקרים את האפשרות ליצור בינה במחשב. שייח ספיר ואחרים טוענים שלא תיתכן בינה במחשב. השוטה ניסה בניסוי המחשבה שלו לשכנע שכן תיתכן בינה במחשב. אם היו מגיעים למסקנה שזה אפשרי, הויכוח נגמר. אם היו מגיעים למסקנה שזה לא אפשרי, אז אפשר לדון על מכונות מסוג אחר (כפי שהצעת). בהקשר הדיון, הדיבור על טרניזטורים דווקא, ודווקא מסיליקון, הוא ''חזק'' יותר.
לרבע את הלולאה. 461024
כדי לא להתהדר בנוצות זרים, אני רוצה להדגיש שוב שזה אינו ניסוי מחשבה שלי אלא של <הכנס את השם המתאים שכמובן פרח מזכרוני>. לצערי.
לרבע את הלולאה. 461026
אולי דניאל דנט?
לרבע את הלולאה. 461048
הוא אולי חזק יותר, אבל אני לא משוכנע שהוא עוזר לטיעון. בגלל שהוא מעביר אותו מהמישור העקרוני למישור הטכני, אז אם התשובה תהיה שלילית, אין לשוטה לאן להתקדם לחיזוק הטיעון שלו (אין טעם להכנס לויכוחעל מה אפשר אואי אפשר לעשות בעזרת סיליקון, זה בטח לא ישכנע אף אחד שיש או אין קואלה), וזה רק בגלל שהוא הגביל את עצמו מראש. אבל, האמת, גם אחרי שהשוטה יבנה מכונת טיורינג ו/או יצליח להבין מה בדיוק עושה כל ניורון וניורון במח (ואיך) ו/או אחרי שהוא יצליח לבנות תוכנת תרגום כל כך מוצלחת שתדע לבחור בהצלחה בין ינשוף לתנשמת (ואני בכלל לא בטוח שמדובר במשימות כל כך קשורות) הוא לא יצליח לסיים את הדיון על קיומה של הקואלה. אז, מה אני מתערב?
לרבע את הלולאה. 461050
בוא נראה קודם אם יש סיבה לחשוב שהתשובה באמת שלילית. אם הויכוח הוא באמת טכני, כלומר כל הקושי מצטמצם לבניית מעבד שמחקה במדויק פעולה של נוירון, נראה לי שהתקדמנו קצת.
לרבע את הלולאה. 461156
לחדד את הנקודה: אי אפשר "להחליף" את הנוירונים במוח ברכיבים אלקטרוניים (למשל) ולקבל אותה פונקציונליות במקרים הבאים:
1) אם יש מאפיינים בתפקוד הנוירון שרלוונטיים לפעילות המוחית ושאינם מהווים אופרציות לוגיות.
2) אם יש אפקטים "הוליסטיים" ההופכים את הרשת הנוירונית ליותר מסכום מרכיביה. למשל, מצבי, שזירה קוונטית בין נוירונים שונים או קוהרנטיות קוונטית מאקרוסקופית (כמו בעל-מוליך או בעיבוי בוז-איינשטיין, למי שמכיר).
לרבע את הלולאה. 461214
1) יש כבר היום איברים מלאכותיים אחרים שעושים את מלאכתם נאמנה, אז על סמך מה אתה טוען את זה?
2) גם מחשב הוא "יותר מסכום חלקיו", ואין לנו בעיה לבנות כאלו.
לרבע את הלולאה. 461361
אני נוטה להסכים לסעיף הראשון, ולהסכים בהסתייגות לשני (ההסתייגות היא בערך מה שדורפל אמר: גם אפקטים "הוליסטיים" ניתנים לחיקוי אם הם נובעים מעצם החיבור של הרכיבים). לדעתי ההשערה הסבירה יותר היא שלילת שניהם.
לרבע את הלולאה. 460849
ראשית, הייתי צריכה אולי להבהיר שמה שבלתי אםשרי בעיניי הוא שהוא יתעצבן. השאר ייתכן בהחלט.
שנית, לגבי נוירון בודד *שיחקה* את פעולתו? אין לי מושג. ייתכן בהחלט שכן.
לרבע את הלולאה. 460856
''יחקה'' במובן שיוציא אותו פלט עבור אותו קלט.
לרבע את הלולאה. 460859
כשמישהו יגיד לו (באופן כללי) לעשות זאת.
לרבע את הלולאה. 460862
לא הבנתי.
לרבע את הלולאה. 460864
כלומר, נוירון שייצרו עם תוכנה שאומרת לו איזה פלט מתאים לאיזה קלט.
לרבע את הלולאה. 460868
כמובן. ובכן, זה אפשרי? האם המוח החדש יתנהג *בדיוק* כמו המקורי?
לרבע את הלולאה. 460873
איך קפצת מנוירון למוח?
לרבע את הלולאה. 460875
התחלתי ממוח רגיל‏1, והחלפתי בו נוירון אחד בנוירון מלאכותי. את החיבורים הסינפטיים יישמתי באמצעות SiliBio coupler - מתקן זעיר שהמצאתי לצורך הניסוי.
______________
1- אם ברקת נשמעת לכם קצת off לאחרונה, זה בגלל בעיות כיוונון קלות.
לרבע את הלולאה. 460876
silly*bio*.
לרבע את הלולאה. 460880
משהו שמקשר בין סיליקון לבשר? כמובן שהשם המתאים הוא
SiliCon Carne

לרבע את הלולאה. 460881
מצטערת, הכוכבים אצלי התבלבלו במקומם. הדגש היה על "silly".
לרבע את הלולאה. 460883
כן, הצלחתי להבין את ההתחכמות, אבל דומני שהדיאלוג שלנו מחכה לתשובה.
לרבע את הלולאה. 460885
אני לא האלמוני[ת] ואני אפילו לא מתנגד לתזה הסופית, אבל גישה מכיוון פרדוקס הערימה לא נראה לי יעיל כאן. אנחנו מכירים הרבה דוגמאות בהן הבדל כמותי הוא גם הבדל איכותי (כמות החמצן באוויר וגמלים נושאי קש הם שניים).
לרבע את הלולאה. 460961
אני מדגיש שבניסוי שלנו אנחנו מסוגלים להחליף נוירון במשהו שפועל *בדיוק*‏1 כמוהו. קש שמשקלו אפס לא שובר גב של אף גמל.
___________
1- כמובן שאם נוירון פועל באופן הסתברותי, הרכיב שלנו יפעל בהתאם לאותה פונקציית הסתברות *בדיוק*.
התחליף היחיד לDC3 460963
אני חושב שהבעיה היא שפר הגדרה, הדבר היחיד שפועל *בדיוק* כמו הנוירון הוא אותו נוירון. אם אתה צריך למדל את *כל* המאפיינים של המוח כדי לקבל מוח, ושאם תסיר פרט כלשהו לא תראה כלום, אז מצבנו חסר תקווה. הרי זאת בדיוק האסטרטגיה של קוראי פנרוז- מכיוון יש תכונות של נוירונים שאיננו יכולים לחקות במדויק בשום שיטה מדעית הידועה לנו, הרי שלעולם לא נוכל לחקות את התכונה *המסויימת הזאת* של מצבור של נוירונים.

אולי גם צריך להדגיש שלא מספיק שאנחנו מצליחים *לייצר* נוירון חלופי, אלא שהנוירון הזה צריך להיות כזה שאנו "מבינים" מה הוא עושה בכל מצב, אחרת אפשר להסתפק בהשתלת נוירונים (כי בעצם מה ההבדל בין נוירן שגודל בצלחת לבין נוירון שייוצר מסיליקון).

ברור שצריך להזניח כל מיני דברים. אולי אנחנו צריכים להתעלם מאינטראקציות של גרביטיצה קוונטית עם הטובולין. אולי אנחנו יכולים להסתפק במעטפת אורגנית עם רכיב אלקטרוני בתוכו, וכולי. אני יכול לחתום על "יחקה את פעולתו בצורה משביעת רצון עבור החלפתו במקום נוירון ספציפי". אני לא בטוח שאפשר לקפוץ משם ל"ההבדלים בין הנוירון הטבעי לנוירון המלאכותי הם קטנים מספיק שגם "מוח" שלם של מלאכותיים יתפקד כמו מוח של טבעיים".
התחליף היחיד לDC3 460964
ייתכן. לכן שאלתי תחילה אם הבעיה נעוצה, לדעת המתנגדת, בחיקוי מושלם של נוירון בודד מבחינת הפעילות החישובית שלו. אם ההתנגדות היא שחיקוי כזה אינו אפשרי, לפחות מיקדנו את הבעיה לרכיב הרבה יותר פשוט מהמוח, ואז נוכל לשאול מה הקושי העקרוני שמונע מאיתנו לעשות את זה. אני מניח שהטענות הן מהכיוון של השפעות לא לוקאליות (אותן אינטרקציות של גרביטציה קוואנטית, מה שהן לא תהיינה), אבל יהיה נחמד לשמוע אותן במפורש.

(אגב, כל הכנסת הקוואנטים לסיפור נשמעת לי מוכרת למדי, רק שבשעתה נהגו לקרוא לה ''הרוח שבמכונה'', ולחילופין ''הניצוץ האלוהי''. גרביטציה קוואנטית, למיטב ידיעתי, היא ביצה שלא נולדה לתרנגולת לא קיימת)
התחליף היחיד לDC3 460965
אני מסכים שנראה שהרבה מהמצדדים בהכנסת הקוונטים עושים זאת מתוך שלא לשמה.
לרבע את הלולאה. 460890
זהו, שאני לא בטוחה איך להגיב, כיוון שאינני בטוחה אם זה דיאלוג או התנצחות. תגובה 460875 נראתה לי יותר בכיוון השני.
אבל למקרה שבכל זאת התכוונת לדיאלוג, אשאל שאלה מקדימה: אם אתה מדבר על תהליך שתחילתו בהחלפת נוירון אחד במח טבעי, האם סיומו (התיאורטי, כמובן) בהחלפת כל חלקי המח דנן ב"רכיבים" מלאכותיים, תוך שהוא נשאר על כתפיו של אותו גוף טבעי?
לרבע את הלולאה. 460960
כן, זה הרעיון.
לרבע את הלולאה. 461013
כלומר, זה כולל גם את הדם, החמצן, החומר האפור (והירוק והסגול...) וכיו"ב?
לרבע את הלולאה. 461028
השאלה המקדימה שלך הופכת להיות דיון ארוך בפני עצמו, וחבל. אני מציע שלא ננסה לתאר מראש מה יהיה סופו של התהליך, אלא נתרכז בתהליך עצמו ונראה מה ייצא לנו. ובכן, האם מוסכם שאין מניעה עקרונית לבנות מעבד קטן שמבצע *בדיוק* מה שנוירון מבצע? אם לא, אשמח לשמוע למה (אם אפשר, בלי להשתמש במלים "גרביטציה קוואנטית"). אם כן, אשאל את השאלה הבאה: האם המוח החדש שבו נוירון אחד הוחלף בתאומו הסיליקוני פועל *בדיוק* כמו המוח המקורי?

גם מסע של מוח שלם מתחיל בנוירון קטן אחד.
לרבע את הלולאה. 461036
הבעיה שלי עם הטיעון היא: האם מוח בו הסרנו לחלוטין נוירון אחד פועל בדיוק כמו המוח המקורי? הרי בסה"כ בכל יום מתים לא מעט נוירונים במוח ונראה שהוא ממשיך בפעילות הרגילה.
אם תאמר שפעילותו משתנה כל הזמן (וזה גם נכון) אני אשאל אם המוח בו הוחלפו הנוירונים ברכיבים אלקטרונים שמדמים אותם אכן ידמה מוח אמיתי שבו הנוירונים מתים להם פה ושם בעוד שהרכיבים האלקטרונים מחזיקים מעמד.
לרבע את הלולאה. 461039
זה לא ממש משנה. אפשר להניח כאן כמה הנחות אלטרנטיביות:

- מוח חסר נוירון אחד (כלשהו) אינו פועל *בדיוק* כמו המוח המקורי, למרות שההבדל זעיר ואולי בא לידי ביטוי רק בסיטואציות מאד מיוחדות.

- יש נוירונים יתירים או חסרי שימוש במוח, והסרתם אינה מעלה ואינה מורידה.

- כל הנוירונים יתירים, כך שהסרת נוירון אחד לעולם לא משפיעה על פעולת המוח (מלבד במוח מסכן שבו הסרת את אחרון היתירים שעוד עבד).

בכל המקרים, כל מה שחשוב לניסוי שלנו הוא שהחלפת ניורון בתאומו הסיליקוני לא שינתה כלום לכן ניתן לחזור עליה, בעוד חזרה על תהליך של הסרת נוירון תביא, בסופו של דבר, לפגיעה בפעילות המוחית - מי כמוני יודע.

אם אתה רוצה לדמות גם את הדינמיקה של מוח בו נגרעים נוירונים, השבת חלק מהמעבדים עפ"י הצורך, או השתמש ברכיבים עם זמן קיום תואם לזה של נוירונים.
לרבע את הלולאה. 461042
ההנחה השלישית שלך קצת מסתבכת עם פרדוקס הערמה, לא? היא נראית לי קצת בעייתית. כלומר, יכול להיות שיש כאן עניין של מסה קריטית של מספר הנוירונים.
לרבע את הלולאה. 461043
כאמור, כל אלה אינן מעלות ואינן מורידות. איזי שאל משהו ספציפי על נוירון בודד והתייחסתי לזה. לא ניסיתי להגיד שאפשר להמשיך בתהליך עוד ועוד, שכן ברור שאחרי הסרת מספר מספיק של נוירונים המוח מפסיק ל
לרבע את הלולאה. 461052
ראשית, נסלק את המפלצת הקרויה "גרביטציה קוונטית": אם תסביר לי בדיוק מה זה, אולי נחזור אליה. עד אז - אין לי מושג ירוק איך, אם בכלל, היא קשורה לעניין.
שנית, אין לי מושג כחול גם אם יש או אין מניעה עקרונית לבנות מעבד שמבצע את מה שמבצע נוירון. לצורך העניין אסכים שאין מניעה כזאת, ואפילו אניח שמחד בבוקר כבר יודיעו שהמעבד דנן קיים, ובגודל המתאים.
שלישית, לעת עתה אינני מתעכבת על פרדוקס הערימה של ראובן, על אף שהוא בהחלט מהווה בעיה לדעתי.
בקיצור, את שאלותיי האחרונות שאלתי משום שלמיטב ידיעתי המוח האנושי איננו בנוי מנוירונים בלבד, ואפילו לא מנוירונים וסינפסות בלבד, והמסע אל המוח הסיני מתחיל אולי בנוירון אחד, אבל ממש לא מסתיים בו.
לרבע את הלולאה. 461053
אוקיי, לפי הסדר:

ראשית, גם לי אין מושג איך היא מתקשרת לענייננו, היא נכנסה לדיון ע"י שייח ספיר (בעקבות פנרוז?) ובעיני היא אינה יותר מדג מלוח אדום (עד שלא יוכח אחרת).

שנית, אם כך לצורך הדיון אנחנו מניחים שאפשר לבנות את הנוירון המלאכותי שלנו. מצויין.

שלישית, אינני רואה איך פרדוקס הערימה נכנס הנה אם הסכמנו על ה"שנית", אבל אני מוכן לחכות לו עד שיגיח, בזמן ובמקום שתבחרי.

בקיצור, אם אני מבין אותך נכון, את מעלה את האפשרות שביצירת אותו גורם חמקמק שאנחנו מנסים לייצר, נקרא לו "תודעה" או "אינטליגנציה של ממש" או "רוח האדם" או מה שלא יהיה, מעורבים לא רק הניורונים אלא רכיבים נוספים, אולי אותם מיני-צינורות של פנרוז ואולי משהו אחר. לפחות אחד מכל אלה לא יכול להיות מחוקה במדויק ע"י סימולציה דיגיטלית. כן?
לרבע את הלולאה. 461056
עזוב אותי מפנרוז. אם יש שם מיני צינורות אני מסכימה שתחליף אותם בפלסטיק. לא בזה העניין מבחינתי.
כרגע אני מדברת רק על שתי נקודות: האחת - שלהערכתי יש תפקיד *לכל* רכיב במוח, בין שיודעים מהו ובין שעדיין לא יודעים, ויש תפקיד משמעותי מאוד לחיבורים ביניהם ולמבנה הכללי, ואינני יודעת אם את הכל ניתן להחליף בסימולציה דיגיטלית, אנלוגית, מחיטה מלאה או מחלב אורגני. והשנייה - שיש תפקיד גדול עוד יותר, אפילו, לאופן שבהם פועלים הקלט והפלט של המוח הזה, מנין הם מגיעים ואיך מקורם משפיע על פעולתם.
לרבע את הלולאה. 461058
הערכתך לגבי *כל* רכיב לא משנה כלום, וכנ"ל לגבי החיבורים ביניהם, כל עוד מוסכם שכל רכיב מתחבר לרכיבים אחרים במספר סופי של נקודות ידועות. אשר ל"מבנה הכללי", אם הוא מכיל יותר מאשר כל הרכיבים והחיבורים ביניהם (נניח שדות חשמליים או משהו) אזי באמת הפרוק לרכיבים אינו עובד, אלא שככל הידוע זה לא המצב.

הנקודה השניה שלך תמוהה ביותר. אם אני מגרה את עצב הראיה שלי באותם פולסים שהוא מקבל כאשר אני רואה תמונה של אנג'לינה, את חושבת שהאנחה שאשמיע תהיה שונה?
__________
(מתחיל לקנן אצלי החשד שאת האיילת הממושקפת)
לרבע את הלולאה. 461059
רק רגע, האם אתה מתכוון לייצר מוח מלאכותי שיחליף מוח פגום, נאמר, אצל אדם מסוים - או לייצר מחשב תבוני?
לרבע את הלולאה. 461360
אני מנסה לברר את הקושי העקרוני בבניית מכונה אינטליגנטית. בשלב הזה עוד אין לי תוכניות לסטארט-אפ.
לרבע את הלולאה. 461363
הסיבה לשאלה היא שמחשב תבוני נראה לי בלתי אפשרי, ואילו מוח מלאכותי - בתנאים מסוימים - אולי כן.
לרבע את הלולאה. 461367
מה ההבדל בין מחשב תבוני למוח מלאכותי?
לרבע את הלולאה. 461371
ההבדל הוא בדיוק במקור שממנו הוא מקבל את הקלט שלו.
לרבע את הלולאה. 461373
מה משנה המקור? עצב הראיה שלי מעביר אותות חשמליים, ולא ממש משנה לו אם הם נוצרו בקולטנים שבעין או ע"י תא פוטואלקטרי.
לרבע את הלולאה. 461377
אה, אז עכשיו אתה לא מסתפק רק בנוירונים וסינפבות, אלא מוסיף גם תא פוטואלקטרי? מה עוד תוסיף?
לרבע את הלולאה. 461379
כל מה שתדרשי ולא יהיה בלתי ישים בעליל.
לרבע את הלולאה. 461460
מה פירוש "מה שתדרשי"? מה יפעיל את המחשבים התבוניים האלה?
לרבע את הלולאה. 461461
הרצון להזדווג עם חשבוניות תבוניות.
לרבע את הלולאה. 461463
מה יכתיב להם את הרצון הזה?
לרבע את הלולאה. 461465
זה יהיה מקודד בחומרה, כמובן. כמו אצלנו.
לרבע את הלולאה. 461472
איך יקודדו את זה?
ואם זה יהיה מקודד בחומרה, אז מדוע דווקא זה?
לרבע את הלולאה. 461573
נראה לי שהבדיחה (הלא מוצלחת) שלי הרחיקה לכת.

בכ"ז, מה שאתה צריך זאת איזו פונקציית מטרה שמובנית אמלך וגורמת לך לעשות דברים.

כמו שאצל זכרי האדם מקודדת המטרה "להרשים בחורות" (יוריסטיקה לא מוצלחת להשגת יחסי מין) וגורמת להם לעשות דברים מטופשים כמו: לכבוש אימפריות, להמציא את הגלגל ואת המחשב, לצבור ידע חסר שימוש ולהשתמש בו כדי להתווכח עם ישויות אנונימיות (ולעיתים תבוניות) דרך האינטרנט.
לרבע את הלולאה. 461591
תנוח דעתך, בדיחתך נרשמה בנוירוניי מלכתחילה בקטגוריית "בדיחות וחידודים".:)
לרבע את הלולאה. 461466
אם את רוצה אמצעי ק/פ, נוסיף אמצעי ק/פ. אם תדרשי מערכת הנעה, נוסיף מערכת הנעה, וכך הלאה. אנרגיה סולארית.
לרבע את הלולאה. 461467
ק/פ?
לרבע את הלולאה. 461468
קלט פלט.
לרבע את הלולאה. 461471
שמע, אתה מתחיל מהשאלה אם אפשר לייצר נוירון אחד באמצעים מלאכותיים, וכשאני אומרת שאולי אפשר (ושאין לי מושג), אתה מחליק על כל השאר כאילו אותו נוירון הוא הבעיה היחידה כאן וכבר יש לנו מחשב תבוני כהלכתו. איך בדיוק תוסיף אמצעי ק/פ, למשל? האם האמצעים האלה בהכרח ייצרו צרכים? ואם כן, איך ולמה? ואם לא, מה יניע את המחשבים האלה?
לרבע את הלולאה. 461487
אני לא מבין מה את אומרת. אני מציע בסה"כ להחליף נוירון אחר נוירון במקבילה הסיליקונית שלו, ושואל מה יקרה לדעתך למוח כולו, בהנחה שהמקבילה הסיליקונית הנ"ל מדוייקת לחלוטין. כל השאר לא משנה - אפשר להשאיר את האביזרים המקוריים (עיניים, אזניים...) או להחליף אותם במצלמה ומיקרופון אם משום מה זה מה שתרצי לעשות. איפה הבעיה?
לרבע את הלולאה. 461496
אני שואלת שוב - אם מדובר במחשב תבוני ולא במוח - מה יניע אותו? (הנעה במובן מוטיבציה, כמובן).
לרבע את הלולאה. 461499
מה מניע אותך?
לרבע את הלולאה. 461506
צרכים ורצונות.
לרבע את הלולאה. 461559
לדעתי אלה אינם אלא ביטוי של מצב הנוירונים במוח, כך שהם לא נפגעים בניסוי.
לרבע את הלולאה. 461588
לא התבלבלת? לא הצרכים הם שגורמים למצב הנוירונים במוח?
ומה פירוש "הם לא נפגעים בניסוי"?
לרבע את הלולאה. 461592
לא התבלבלתי. אני לא יודע מה זה ''צורך'' מלבד אספקט מסויים של מצב הנוירונים במוח.
לרבע את הלולאה. 461594
למיטב הבנתי, אם תפסיק סופית לאכול ולשתות, תפסיק להיות.
וגם - מה משנה את מצב הנוירונים במוח אם אין להם קלט או פלט?
לרבע את הלולאה. 461596
המוח דואג לכך שלא תפסיקי לאכול ולשתות אם יש אפשרות כזאת. אם את רומזת לכך שהוא מקבל איתותים מהגוף על המצב הפיזיולוגי, ולזה את קוראת "צרכים", ניחא. מה זה משנה לנו? כפי שכבר אמרתי, הניסוי שלנו לא מניח ניתוק מהגוף או מכל מקור גרוי אחר אם את חושבת שחיבור כזה חיוני.

מי אמר שאין קלט? ולמה שהמצב לא ישתנה בלי קלט? וּלְמה כל זה שייך?
לרבע את הלולאה. 461600
!. הבהר "הניסוי שלנו". על איזה ניסוי מדובר? אני חשבתי שמדובר בשאלה על ההבדל בין מחשב תבוני לבין מוח מלאכותי. מחשב תבוני איננו מחובר לגוף חי, עד כמה שהבנתי.

2. למה שהמצב *ישתנה* בלי קלט?

___________________
שוב לא ברור לי אם עברנו להתנצחות או שאתה באמת לא מבין.
לרבע את הלולאה. 461602
1.הניסוי שבו מחליפים נוירון במעבד אלקטרוני קטן, ואח"כ חוזרים על התהליך שוב ושוב.

2. למה לא? יש הרבה מערכות שמשתנות עם הזמן בלי שום קלט. שומר המסך שלי, למשל.
לרבע את הלולאה. 461606
1. ואני שוב שואלת, מה השגת בסוף התהליך - מוח מלאכותי או מחשב תבוני?

2. האם שומר המסך שלך מפעיל תבונה?
לרבע את הלולאה. 461607
2. אני חושב שלשומר מסך יש קלט - זמן.
לרבע את הלולאה. 461648
2. "קלט" מהסוג הזה יש לכל מערכת (מלבד לחלקיקים חסרי מסה).
לרבע את הלולאה. 461649
1. מה זה משנה איך את קוראת ליצור החדש? העיקר שיש לנו יצור תבוני שמנגנון התבונה שלו אינו ביולוגי.

2. ככל הנראה, לא. האם הטענה העכשווית שלך היא שתבונה מחייבת קלט משתנה? אני לא חושב שזה נכון‏1, אבל זה (שוב) לא משנה לנו. כבר הסכמתי להוסיף אמצעי ק/פ ככל שיידרש.
_______________
1- חלמתי חלום!
לרבע את הלולאה. 461650
1. לא משנה איך אני קוראת לו, משנה איך הוא בנוי.

2. שוב משנה איך הוא בנוי. אני הסכמתי שייתכן שניתן לייצר נוירון מלאכותי בודד; אתה דילגת ממנו למוח שלם ולמחשב תבוני בקלילות יתרה, משום שכנראה אינך מעלה בדעתך שהמוח מורכב מעוד כמה דברים - או שבמידה שהוא מורכב מהם והם בעלי משמעות, הרי שאותם ודאי אין כל בעיה לייצר באופן בלאכותי, וכך גם את כל המבנה המורכב הקובע את היחסים ביניהם. אתה מוכן גם להתחייב לספק לי באופן מלאכותי כל רכיב אחר שיידרש. זה אמנם חביב מאוד מצדך, אבל טרם אמרת איך תספק אותו. אז אני שוב שואלת: איך תספק צרכים? (ואין טעם לומר לי ש"צרכים" מבחינתך הם מצבי נוירונים. המצבים האלה לא מתרחשים מעצמם).
לרבע את הלולאה. 461660
לפחות "צרכים", כמו תודעה, תבונה וחיבה ללהקת אבבא, הם חלק ממה שהניסוי של השוטה בא לטפל בו. אם מחליפים נוירון אחד בנוירון מלאכותי, האם משתנים הצרכים של המוח (או ה"מוח")? השוטה מבקש שנקבל שלא. ואם מחליפים עוד נוירון? וגו'.
לרבע את הלולאה. 461668
התודעה, התבונה והחיבה ללהקת אבבא אינן צרכים: שתי הראשונות הן תוצאים, השלישית היא נטייה. אוכל, שתייה ונשימה הם צרכים, והם פיזיים לחלוטין. אני טוענת שהם אלה שמפעילים את הנוירונים, ומשום כך בהיעדרם צריך להיות משהו אחר שיפעיל אותם.
לרבע את הלולאה. 461682
לא אמרתי שהתודעה וכו' הם צרכים. אבל לא משנה. מה שמפריע לי לאורך הויכוח שלך עם השוטה הוא שאת כל הזמן מדלגת לסוף. בכוונה השוטה בנה את הניסוי כך שאנו מתחילים בלהחליף נוירון אחד. לאו דווקא חשוב במיוחד, סתם אחד מאמצע המוח. אם את טוענת שבסוף זה לא יעבוד, את צריכה עדיין לענות מאיזה שלב זה יפסיק לעבוד.

את טוענת שצרכים הם אלה שמפעילים את הנוירונים. את כל הנוירונים? כל נוירון ונוירון? מה עם הנוירונים ברגל הצפרדע של גלווני, שבמנותק מכל צפרדע קיבלו זרם חשמלי וגרמו לכיווץ הרגל? איזה צרכים הפעילו אותם?
לרבע את הלולאה. 461702
1. "לפחות "צרכים", כמו תודעה, תבונה וחיבה ללהקת אבבא", אם לא קראת לאלה צרכים, אז איך קראת להם כאן? אני לא דיברתי על "צרכים" במרכאות.
2. אני זו שמדלגת לסוף? הרי השוטה הוא זה שטוען - קיבלת נוירון אחד, מדוע לא מוח שלם? ואם מוח שלם - מדוע לא מחשב תבוני?
3. מאיזה שלב זה יפסיק לעבוד? מרגע שאותו "מוח" ינותק מהראש שממנו הוא הועתק והופך למחשב עצמאי.
4. הצורך שכיווץ את רגל הצפרדע הוא הצורך להימנע מכאב.
לרבע את הלולאה. 461794
1. "אברהם, כמו רחל, שמעון ואגנתה, הוא זמר נהדר". האם קראתי לרחל, שמעון ואגנתה אברהם?
2. אבל את משמיטה שלב קריטי בטיעון של השוטה. הטיעון דומה לאינדוקציה מתמטית: אם החלפנו אחד, לא השתנה כלום. אם החלפנו עוד אחד, לא השתנה כלום. מכאן, אם החלפנו הכל, לא השתנה כלום. אם את רוצה להפריך את זה, את לא פטורה מלהראות באיזה שלב זה עשוי להישבר. ואכן את עושה זאת -
3. - ובמקום מפתיע. אני מבין שאת מסכימה שאם אנו מחליפים כל נוירון ונוירון פנימי במוח במקבילו הטרנזיסטורי, ומשאירים אותם בתוך הגוגלולת ומחוברים לעצבי החישה ועצבי התנועה המקוריים, אז זה עדיין יתפקד כמו המוח המקורי?
4. אבל הרגל אצל גלווני היתה מנותקת מצפרדע. לא היה שום כאב לשום דבר (טוב, יכול להיות שבשלב מסוים כאב לצפרדע שכרתו לה את הרגל, אבל בשלב שעליו אנחנו מדברים היא כבר היתה בת-מינן.)
לרבע את הלולאה. 461795
1. "לפחות אברהם, כמו יצחק ויעקב, הוא שם תנכי".
2. אבל אתה משמיט שלב קריטי באינדוקציה מתמטית: אם החלפנו אחד, לא השתנה כלום, אם החלפנו עוד אחד, *ביחס המתאים לראשון*, לא השתנה כלום... וגו'.
3. מראש אמרתי שאני יכולה לדמיין (כמובן בצירוף הנחות חזקות רבות, שאני מקבלת כרגע לצורך הדיון בלבד) מוח מלאכותי, אבל לא מחשב תבוני.
לרבע את הלולאה. 461809
2. לא הבנתי. את הראשון אנחנו מחליפים, תוך חיבור מתאים לכל אלו שהיו מחוברים לראשון. כך גם האחרים.
3. יפה. עכשיו ניקח את יחזקאל המסכן, זה שהחלפנו לו את כל נוירוני המוח הפנימיים כמו בתגובה הקודמת שלי, ושאת מסכימה טנטטיבית שהמוח המלאכותי שלו מתפקד כמו הקודם; ונחליף לו תא אחד מהרשתית ברכיב מלאכותי שמתפקד אותו דבר: כשפוגע בו אור בעוצמה הנכונה ובאורך הגל הנכון, הוא שולח פולס חשמלי. משהו השתנה?
לרבע את הלולאה. 461888
2. לא הבנתי.
3. מה פירוש "ונחליף לו תא אחד מהרשתית ברכיב מלאכותי שמתפקד אותו דבר"?
לרבע את הלולאה. 461922
2. עזבי - קראי שוב את טענה 2 שלי בתגובה 461794, והתעלמי מזה שכתבתי "כמו אינדוקציה מתמטית" - זו סתם הערת אילוסטרציה. אם את עדיין מתנגדת לטענה 2 הזו, אנא הסבירי לי יותר לאט למה.
3. הרשתית היא מין יריעה של תאים, שמה שכל אחד מהם עושה הוא שאם פוגע בו אור בכמות מסוימת ובאורך גל מסוים, התא שולח פולס חשמלי לנוירון, והפולס הזה עושה מסלול קצר, דרך כמה נוירונים (כולל עיבוד ראשוני) עד המוח. די פשוט, מושגית אם לא טכנולוגית, להחליף את תא החישה האורגני בתא פוטואלקטרי מבוסס סיליקון. להזכירך את כל הקונפיגורציה שעליה אני שואל: החלפנו את כל הנוירונים הפנימיים במוח של יחזקאל בטרניזסטורים סיליקוניים בעלי פונקציה כמו של נוירון, שמחוברים זה לזה כמו הנוירונים המקוריים (ועל זה הסכמת טנטטיבית שזה יפעל כמו המוח המקורי), ובנוסף לזה החלפנו תא רשתית אחד כמתואר לעיל. שאר הנוירונים שנכנסים או יוצאים מהמוח נשארו בינתיים כפי שהם, מחוברים בקצה אחד לטרנזיסטורים שבתוך מוח הסיליקון, ובקצה השני לאיברים האורגניים הרגילים של יחזקאל (חוץ מאחד, שמחובר לתא הפוטואלקטרי החדש שברשתית). האם את עדיין מקבלת, טנטטיבית, שזה יפעל כמו המוח המקורי?
לרבע את הלולאה. 461960
2. כפי שאמרת בעצמך, אמרתי איפה זה *בהכרח* נשבר (כמובן, הסכמתי שזה לא נשבר קודם היא לצורך הדיון בלבד). כמו כן, הסברתי שלצורך הדיון אני מסכימה אפףילו לאפשרות של מוח מלאכותי, והשאלה היא לגבי מחשב תבוני.
3. יכולת לדלג על כל ההסבר הארוך הזה לו אמרת פשוט שכוונתך לרשתית העין.
לרבע את הלולאה. 461970
3. שיט. מילא. מה תשובתך?
לרבע את הלולאה. 462089
תשובתי נאמרה כאן כבר כמה פעמים: גם אם אסכים שעדיין לא משתנה דבר (ונראה לי שהרבה מאוד ישתנה בתהליך, אבל זה לא שייך הנה), עדיין לא ברור לי איך אתה מגיע מכאן למחשב תבוני.
לרבע את הלולאה. 462093
אבל הוא לא שאל אותך על מחשב תבוני אלא על קולטן אחד מהרשתית שהוחלף בתא פוטואלקטרי.
לרבע את הלולאה. 462096
לגבי קולטן אחד אין לי מושג, אבל אם הוא מחליף את כל הרשתית הקלט ישתנה, לא? כי האור ייפול עליו אחרת.
לרבע את הלולאה. 462097
לא, למה? אני מחליף כל תא ברשתית בתא פוטואלקטרי בעל אותם נתונים גיאומטריים.
לרבע את הלולאה. 462098
עזבי לרגע את כל העין. לאיזו אינפורמציה את זקוקה כדי שה"אין לי מושג" יהפוך ל"כן" לגבי קולטן בודד?
הספר הטוב ביותר שמיששתי 462099
בקיצור, לחרשים אלמים אין תודעה.
הספר הטוב ביותר שמיששתי 462101
סליחה- חרשים *עיוורים*.
הספר הטוב ביותר שמיששתי 462102
עזוב, זה לא יוליך לשום מקום - גם אלה מקבלים קלט חושי כלשהו.
הספר הטוב ביותר שמיששתי 462104
טוב, אז גם תתרן. אם זה לא מספיק, אפשר לעבור לזה:
<גם אני לא אוהב טרחנים, אבל אם אפשר לקבור בקלות את ההתנגדות, למה לא.>
הספר הטוב ביותר שמיששתי 462103
חרשים עוורים חסרי יכולת מישוש.
אבל לא דיברתי על עוורים. דיברתי על שינוי בקלט, כך שזה פשוט לא יהיה אותו דבר.
הספר הטוב ביותר שמיששתי 462106
לעיוור אין קלט אופטי ולחרש אין גם קלט קולי וממילא לא יחול בהם שינוי. לכן אפשר לנסות להחליף את כל התאים בראש של החרש-עיוור בתאים מסיליקון.

אגב, האם אדם שכל אמצעי הקלט פלט שלו יוחלפו באמצעים מלאכותיים נראה לך בלתי אפשרי? האם אדם כזה יאבד את התודעה שלו?
לרבע את הלולאה. 462100
טוב, אני אניח את הפתיל הזה לירדן. שיבלה.
לרבע את הלולאה. 462105
עזוב לרגע את הסכמתי/אי הסכמתי. מה אתה משאיר למחשב התבוני שלך אחרי שהוצאת את כל המבנה המפואר הזה מהגוף?
לרבע את הלולאה. 462141
מה חסר לו? מה עוד לא נתנו, וניתן!
לרבע את הלולאה. 462149
תאר לי פשוט מה יש שם.
לרבע את הלולאה. 462272
טוב. זה בא בשני טעמים (למעשה, שתי אפשרויות קיצוניות; כל מה שבאמצע גם הולך). אבל קודם, הנחת רקע.

למוח המקורי שלנו יש בסך הכל מספר סופי של נוירונים שמובילים פנימה אליו והחוצה ממנו. מספר גדול, אבל ביחס למספר הנוירונים במוח עצמו - קטן. כל הקלט החושי שהמוח מקבל, וכל הפלט שהוא מוציא, מתבטא באותם נוירונים.

טוב, תיקון קל: המוח בוודאי מקבל ופולט מידע גם באמצעות ריכוזי חומרים בדם (חמצן, הורמונים). את זה נראה לי עוד יותר קל, עקרונית, לסמלץ בסיליקון (אלו יהיו פרמטרים כללים שמשפיעים על התהנגות הטרנזיסטורים, או חלקם).

אם כך, מה יש שם? באפשרות הנדיבה, מוח-הסיליקון שלנו מחובר לתחליפי סיליקון לכל הנוירונים שמובילים פנימה והחוצה (נקרא להם "סילי-נוירונים"). בסילי-נוירוני הקלט מזרימים פולסים חשמליים שמדמים את הפולסים שזורמים באופן טבעי בנוירונים המקוריים. אם זה נראה לך בעייתי, נאמר שעושים את ההחלפה בהדרגה, נוירון אחרי נוירון, כפי שעשינו במוח עצמו - אז אם את חושבת שזה לא יעבוד, נא אמרי היכן זה מפסיק לעבוד, או שמא זה משתנה כבר מההחלפה של התא הראשון (ולמה). את סילי-נוירוני הפלט מחברים לגוף רובוטי, כך שהפקודות שהמוח נותן ל"הזזת הראש" יתורגמו לשינויים ב"שדה הראייה", ואלו בתורם יתורגמו לשינויים במידע שמוזרם בסילי-נוירוני הראייה.

בורסיה הזו באמת נראה לי שהקונפיגורציה הכוללת זהה, מבחינת המוח, לקונפיגורציה הטבעית, באותה מידה שבה רק המוח הסיליקוני (בחיבורים לגוף הטבעי) זהה למוח המקורי.

עכשיו, הגרסה הקמצנית: את הסילי-מוח לא מחברים לשום דבר: היכן שבאופן טבעי יש כניסות של נוירונים חושיים, משאירים מנותק. מה שיקרה, אפשר לשער, הוא כמו מוח טבעי של אדם שניתקו לו את העצבים שמביאים קלט חושי. אותו אדם יחווה הפסקת ראייה, שמיעה, וכו', ובוודאי יהיה אומלל, ודי מהר ישתגע, אולי למוות. אבל לפחות לזמן מה אני מתאר לעצמי שהוא יישאר תבוני ובעל-תודעה כשהיה. מדוע שהסילי-מוח לא יהיה אותו דבר?
לרבע את הלולאה. 462296
האם עליי לחזור שוב על כך שמוח מלאכותי אולי ייתכן?
אשר לגרסה הקמצנית: לא ברור לי מה אתה אומר על "אותו אדם". הרי כאן, לפחות אותו סילי מוח שאמור להיות מחשב תבוני, לא יהיה לרגע אותו דבר. נאמר שהוא "רואה" באמצעות התאים הפוטואלקטריים שלך. מה הוא רואה בראי? מה הוא רואה במבטי האנשים סביבו? מה הוא "חש"? ואם איננו חש - מה יעשה במרכז העונג שהשוטה מתנדב לדקדק לו?
לרבע את הלולאה. 462392
נו, בשביל זה שאלנו כל הזמן על נוירון אחרי נוירון. באיזה שלב מתחיל להיות הבדל?
את מדברת דווקא על הגרסה הנדיבה, לא? בעצם, יש שתי תת-גראסות שלה. בגרסה הנדיבה-הנדיבה, משאירים את הסילי-מוח, עם הסילי-אברי-חישה שלו, בתוך גוף אנושי רגיל (לצורך העניין, מחליפים רק את הנוירונים, ואולי את התאים הלא-נוירוניים הראשונים שמתחברים לנוירונים. כשהדבר הזה מסתכל בראי, הוא רואה משהו שנראה בדיוק כמו יחזקאל המקורי. זה גם מה שרואים האנשים שסביבו, ולכן הוא יראה אותו דבר במבטיהם. כל עוד הוא לא יבקר אצל נוירוכירורג, לא יהיה הבדל. בעצם, אנחנו לא צריכים להחליף את הרשתית בתאים פוטואלקטריים.

בגרסה הנדיבה-הקמצנית, הסילי-מוח מוצב על שולחן, מחובר לשקע החשמל בכבל קצר. במצב הזה, אם רוצים לשמור אצלו על אשליה שהוא לא השתנה, צריך מחשב-עזר שמקבל כקלט את הפלט המוטורי של הסילי-מוח, ומוציא כפלט את הקלט החושי שמקבל הסילי-מוח. מחשב העזר מכיל מפה פנימית של הבית יחזקאל, ושל הגוף שהיה ליחזקאל לפני שטיפלנו בו, ולכן הוא יודע שהפקודות המוטוריות של הסילי-מוח אמורות להוביל את יחזקאל אל הראי. הוא גם יודע איך היה הראי אמור להציג את יחזקאל, ולכן ידאג שמערכת הראייה של יחזקאל תקבל "תמונה של יחזקאל" (המקורי, הוירטואלי). נניח שמחשב העזר הוא לא חזק במידה שלא תיאמן, אז הוא לא יצליח לרמות לאורך זמן, ומתישהו הסילי-מוח יתחיל להבין שמשהו לא בסדר. אבל כמו בגרסה הקמצנית מקודם (ללא קלט חושי בכלל), אני לא חושב שזה צריך להפריע לסילי-מוח להיות תבוני.
לרבע את הלולאה. 462409
אני ממש לא מבינה מדוע המשכת להתעקש על הנוירון-אחרי-נוירון גם אחרי שהבהרתי את עניין המחשב התבוני לעומת המוח המלאכותי.
בכל מקרה, כפי שכבר אמרתי כאן לשוטה, אני נאלצת להיפרד מדיון ספציפי זה, ואיתך הסליחה.
לרבע את הלולאה. 462440
אין על מה לסלוח כמובן - את מזכה אותי במילה האחרונה (וכמובן מוזמנת להמשיך יום אחד, את או מישהו אחר). אני ניסיתי להבין מה ההבחנה שלך בין מחשב תבוני למוח מלאכותי. ככל שיכולתי להבין, ההבחנה היא שהמוח המלאכותי עדיין משובץ בהקשר של גוף אנושי, ואילו כדי להפוך אותו למחשב תבוני את דורשת לנתק אותו מההקשר הזה. אני ניסיתי להראות דרך מדורגת לניתוק כזה, וגם היא עוברת נוירון-נוירון.
להתראות (-:
לרבע את הלולאה. 462110
אמור נא - שאלה שהייתי צריכה לשאול כבר זמן, ומשום מה לא שאלתי אותה: אתה הרי פיזיקליסט, אמת? הכל בשבילך חומר? אז איך זה שהשינוי בחומרים אינו משנה דבר?
לרבע את הלולאה. 462113
איך זה שהשינוי מחרוזים על תיל לאלקטרונים במעגלים חשמליים לא משנה את התוצאה של 2+2?

אגב, פיזיקליסט לא אומר שהכל חומר. הוא מסכים שלאושר אין מסה ולרעב אין תנע (אבל בבסיס כל התופעות עומדות, אכן, ישויות פיזיקליות).
לרבע את הלולאה. 462119
1. זה מה שאני שואלת אותך. אני לא פיזיקליסטית.
2. 2+2 זה לא חומר. איך קורה שיש לזה משמעות בעולם?
3. דעתי היא דווקא שלרעב יש תנע. ועוד איך. אני מניחה שמבחינתך, לעומת זאת, הרעב הוא שורש 9 פחות או יותר. (והאושר - שורש 2).
לרבע את הלולאה. 462121
לרבע את הלולאה. 462122
מה עניין 1+2+3 לשם? והאם לא תוכל לחלץ לי משם תשובה לשאלתי?
לרבע את הלולאה. 462180
כדי להשיב על השאלות שלך צריך לכתוב מאמר על פיזיקליזם. מישהו כבר עשה את די טוב, כך שנתתי לך לינק.

את ודאי חושבת שהשאלות האלה מראות על איזה תחכום מצידך, בבחינת הצבעה על כך שהמלך עירום, אבל אינני שותף להרגשה הזאת.
לרבע את הלולאה. 462202
אתה מייחס לי בקביעות ''תחכום'' שאין לי ויידע שאין לי. לא רק גרביטציה קוונטית נעלמה ממני ועוד מרעין בישין מסוגה, אלא גם התשובה לעניין הפיזיקליזם. לא חשבתי שהמלך עירום, כי בינתיים לא הזדמן לי לראות אותו כך שאינני יכולה לחוות דעה על תלבושתו. בסך הכל ביקשתי תשובה ספציפית וקצרה יותר מפיך על שאלתי.
לרבע את הלולאה. 462203
אוקיי, אני מתנצל על מה שייחסתי לך.

אינני יודע איך לענות בקצרה על השאלות שלך. פיזיקליזם לא מתעלם מקיומן של ישויות כמו מחשבה, רצון או רגש, הוא רק טוען שכל אלה הן תופעות שבבסיסן מונחים חוקי הפיזיקה‏1, ורק חוקי הפיזיקה; במלים פשוטות יותר: אין שדים. הסבר טוב למדי תוכלי למצוא בתחילת הלינק אליו הפניתי.
____________
1- המתמטיקה והלוגיקה הן במעמד עוד יותר בסיסי: הן תקפות בכל עולם אפשרי שאנחנו יכולים להעלות על דעתנו.
לרבע את הלולאה. 462204
מתי תכתוב מאמר נוסף לאייל? עבר כבר המון זמן
לרבע את הלולאה. 462315
אני מקבל את השאלה כמחמאה ומודה לך. במאמרים שכתבתי ניסיתי להביא (גם) רעיונות משלי, ובנושא הפיזיקליזם אין לי כאלה.
לרבע את הלולאה. 462208
לא שאלתי כלום על מחשבה, רצון או רגש.
אני מסכימה בהחלט שאין שדים (חוץ מאלה היוצאים תדיר מחוריהם בשעות קודרות במיוחד, אבל לא נעסוק בהם כאן).
קראתי יותר מתחילת הלינק שהבאת, ורפרפתי על הרבה מהחלקים הבאים. לשאלה הספציפית של "איך זה שהשינוי בחומרים אינו משנה דבר?" לא מצאתי כל תשובה, אלא אם כן אתה אומר שהוא איננו משנה את המתמטיקה והלוגיקה, ואז הניסוי שלך יכול לעבוד בעולם אפשרי אחר כלשהו - אבל לא ברור מדוע הוא יעבוד כאן.
לרבע את הלולאה. 462295
אני לא בטוח שהבנתי למה את מתכוונת בשאלה "איך זה שהשינוי בחומרים אינו משנה דבר?". אם הניסוי יכול לעבוד בכל עולם אפשרי (או, ליתר דיוק, בכל עולם שאנחנו מסוגלים לדבר עליו), הוא יכול לעבוד גם בעולם שלנו, שכן העולם שלנו אפשרי.
לרבע את הלולאה. 462297
לא דיברתי על *כל* עולם אפשרי, אלא על עולם אפשרי *כלשהו*. אני עדיין לא מבינה איך החומר יכול להתחלף בלי לשנות דבר במסגרת התפיסה הפיסיקליסטית.
לרבע את הלולאה. 462302
הפיזיקליזם לא טוען שלכל תוצאה ייתכן רק גורם אחד, אלא את הכיוון ההפוך: אותם גורמים (פיזיקליים) יביאו לאותה תוצאה. יש הרבה אפשרויות שמצע חומרי יביא לידי ביטוי את האמת המתמטית 2+2=4; המוח הוא אפשרות אחת, חשבוניה היא אפשרות אחרת ושני זוגות כבשים שנפגשים במרעה אף הם דוגמא.
לרבע את הלולאה. 462307
שמתי לב לכיוון הטענה הפיזיקליסטית. אבל עכשיו - בניגוד לקודם - אני כן שואלת על התודעה והתבונה ובכלל. האמת המתמטית שאתה מדבר עליה נכונה גם במחשבים. התבונה איננה מתמצאת בה.
לרבע את הלולאה. 462308
צ''ל ''מתמצית'', כמובן. להתמצא התבונה כן מתמצאת בה.
לרבע את הלולאה. 462312
אם התודעה והתבונה הם פועל יוצא של הפעילות החישובית של הנוירונים, ואם ניתן להחליף כל נוירון במעבד מקביל שיפעל (חישובית) באופן זהה, ואם אין שדים, רוחות וניצוצות אלוהיים, הרי שהמחשב שיצרנו יהיה בעל תודעה ותבונה. כבר אמרתי שאם את מתעקשת להוסיף לו חושים מתוך ההנחה (המפוקפקת בעיני) שתבונה מחייבת קלט, אין לי התנגדות.
לרבע את הלולאה. 462319
אין שדים, רוחות וניצוצות אלוהיים, אבל יש הבדל בין יצורים חיים לבין חפצים ואפילו מכונות. הבדל פיזיקלי. וליצורים חיים יש בד''כ צרכים. למכונות אין - לא לחשבוניות ולא למחשבים. אין להן כל סיבה לחשוב, אשר על כן לא סביר שיחשבו.
לרבע את הלולאה. 462322
יש גם הבדל פיזיקלי בין כסא לחתול, אבל שניהם מכאיבים אם אתה בועט בהם ברגל יחפה.

לא מספיק להגיד ''יש הבדל'', את צריכה להראות לי איפה הפגם הלוגי בהודעה הקודמת שלי. אם אני מעתיק את כל הפעילות החישובית שלך למחשב, כל ה''סיבות לחשוב'' (שאינן אלא ביטוי של הפעילות החישובית במוח שלך ברגע נתון) עוברות לאותו מחשב כפשפש על גבו של כלב.
לרבע את הלולאה. 462323
הסיבות לחשוב הן הקלט.
לרבע את הלולאה. 462328
נניח. אז ניתן לו קלט.
לרבע את הלולאה. 462329
התכוונתי לקלט המאותת על צרכים.
לרבע את הלולאה. 462332
קלט הוא קלט הוא קלט. הפרשנות שלו ל''איתות על צרכים'' היא מה שהנוירונים (המשוכפלים) עושים.
לרבע את הלולאה. 462336
האם הקלט של ראיית קיר אטום יגרום לאותם מהלכים כמו זה של מצוקה בקנה הנשימה?
לרבע את הלולאה. 462337
לא.
לרבע את הלולאה. 462338
אז מה פירוש "קלט הוא קלט הוא קלט"?
לרבע את הלולאה. 462340
קלט הוא פולסים חשמליים שמגיעים למוח. הוא לא ''צרכים'', הוא לא ''סיבות'', הוא לא שום דבר אבסטרקטי.
לרבע את הלולאה. 462344
אין שום דבר אבסטרקטי במחנק, ברעב או בצמא.
לרבע את הלולאה. 462347
אם את לא נחנקת, לא רעבה ולא צמאה את מפסיקה לחשוב? למחשב התבוני שלנו לא נאותת על חנק, רעב או צמא אלא אם כן נרצה דוקא לחקור את התגובה על איתותים כאלה (האם המחשב התבוני שלנו אוהב חצילים? אם כן, איך אפשר לתקן את הסטיה הזאת ובכמה תשתפר האינטליגנציה שלו אחרי התיקון?)
לרבע את הלולאה. 462353
אם אין לי צורך בשום דבר אין לי גם צורך לחשוב.
וכרגע, מסיבות שאינן קשורות אליך או אל ירדן, יש לי צורך מוחשי מאוד להפסיק לחשוב על הנושא המסוים הזה, אשר על כן לא אעסוק בו עוד - ואתכם הסליחה.
לרבע את הלולאה. 462333
המכונית שלי מדליקה נורית כאשר הדלק חסר בצורה מסוכנת.
לרבע את הלולאה. 462334
יפה. ומה היא עושה כדי להתמלא בדלק?
לרבע את הלולאה. 462335
ישנם רובוטים קטנים שכאשר הסוללה שלהם נחלשת הם מחברים את עצמם לשקע וטוענים אותה. זאת לא פעילות חישובית מסובכת, והרלוונטיות לשאלת המכונה התבונית לא ברורה לי.
לרבע את הלולאה. 462341
נוסעת לתחנת הדלק הקרובה כמובן.
לרבע את הלולאה. 462345
ומה היא עושה כדי להרוויח את הכסף שעליה לשלם על הדלק?
לרבע את הלולאה. 462348
שודדת בנקים. אני לא מבין לאן זה הולך.

ברור שאפשר לספק גירויים חיצוניים שמעידים על צרכים. האינטרפרטציה של המוח - "נורית דולקת, סימן שצריך למלא דלק" נובעת ממצב הנוירונים. משום מה נטפלת לעניין הקלט כנקודת המפתח, אבל קיבלת את האפשרות של שיחזור מוח בסיליקון. אז הנה לך דוגמה לקלט חיצוני פשוט- נורית הדלק במכונית. המחשב המוחי יזהה אותו, והנוירונים המלאכותיים יגיבו בהתאם. האם המחשב הזה יחוש עצבנות ממצב הדלק של המכונית? אם הוא חיקוי מדוייק של מוח (והסכמת לך מקודם), זה מאוד סביר, וגם הוא לא יחוש עצבנות זה בוודאי לא יהיה משום שהאיתות של הנורית לא מגיעה לנוירונים דרך רשתית בשר ודם.

את בוודאי מבינה שההתעסקות עם מנגנון הקלט/פלט של המוח המלאכותי כנקודת המפנה בין מחשב לתבונה הוא מאוד לא שיגרתי. יש בימינו כבר רישתיות מלאכותיות וגם מכשירי שמע שמגרים ישירות את מערכת העצבים. לא ברור למה מנגנונים כאילו יפסיקו לתפקד אם יחליפו את המוח בחיקוי אלקטרוני. גם לא ברור למה מוח אלקטרוני שיש לו ממשק חיצוני לרישתית בשר ודם הוא בעל סיכוי גבוה יותר להיות תבוני.
לרבע את הלולאה. 462355
תגובה 462353
וגם איתך הסליחה.
לרבע את הלולאה. 462533
אין שום דבר תבוני בתחושת עצבנות.
אני זוכר שכשהילד שלי היה קטן הוא היה מגיע עצבני הביתה ורב עם כולנו, עד שהיועצת יעצה לדחוף לו אוכל וזה באמת היה מרגיע אותו מייד.
''נפלאות התזונה'' 462550
''נפלאות התזונה'' 462605
נחמד!
לרבע את הלולאה. 462618
עצבנות היא ''חישובית'' בדיוק כמו כל רגש אחר. זו הנכונות שלך לפרש מידע מסוים בדרכים מסויימות (דוגמה יותר פשוטה היא עם הנכונות לפרש צלליות כמפלצות כשילד מפחד, ופחות כשהוא בטוח), מידת החשיבות שאתה מצמיד לצרכים מסויימים, וכן הלאה והלאה.
לרבע את הלולאה. 462354
לרבע את הלולאה. 462387
אתה לא מקשיב? היא מדליקה את הנורית, הוא אמר. מה תינוקות עושים כשהם רעבים? נוסעים לחצי-חינם כדי לקנות חמישים קופסאות של מנה-חמה? לא, הם בוכים - מדליקים נורית.
לרבע את הלולאה. 462386
"וליצורים חיים יש בד"כ צרכים. למכונות אין - לא לחשבוניות ולא למחשבים" - לאטומים המרכיבים את היצורים החיים אין שום צרכים. אם ליצורים החיים יש "צרכים", למה למכונות, המורכבות מאטומים דומים להפליא, לא יכולים להיות "צרכים"?
לרבע את הלולאה. 462442
ברוח תגובה 462353 אני מאחל לך כל טוב.
לרבע את הלולאה. 462466
הרבה תודה.:)
נוירונים לא עושים שום פעולה חישובית 462403
כלומר, לא יותר חישובית מאשר כל תא אחר בגוף.
נוירונים לא עושים שום פעולה חישובית 462410
רק להבהרה: האלמוני מתגובה 462403 איננו אני, שהתווכחתי איתם לאורך הפתיל.
נוירונים לא עושים שום פעולה חישובית 462444
לא הבנתי.
לרבע את הלולאה. 461810
2. זו אמנם לא אינדוקציה מתמטית, אבל אותי זה משכנע יופי.
לרבע את הלולאה. 461797
סליחה, תיקון טעות -
1. "לפחות צרכים בסיסיים, כמו אוכל ושתייה, אפשר לספק במרכזי הסיוע".
לרבע את הלולאה. 461807
אוקיי... לא שמתי לב לדו-משמעות. מקווה שעכשיו הבנו זה את זו.
לרבע את הלולאה. 461867
הבנו *חלק* מהבלבול. החלק השני הוא, שאני הבנתי שאת התודעה וגו' השוטה משאיר בידי הנוירונים, בהנחה (מאוד לא מבוססת לטעמי) שאלה ייצרו אותן בכל מקרה - ואילו את הצרכים הוא זורק לעזאזל, בחזקת "מה שלא פיזי - לא קיים".
לרבע את הלולאה. 461885
ולי נראה שגם אני וגם השוטה הסברנו היטב איך הצרכים משתלבים כאן. אבל שוב, בואי נתקדם בצעדים קטנים: את מוזמנת לענות לתגובה 461809.
לרבע את הלולאה. 461687
צרכים שכאלו דרושים לשם התפתחות אבולוציונית - שורדים רק היצורים שפועלים בכדי להשיג אוכל, שתייה ונשימה. הם לא תנאים מספיקים לתבונה (דשא), ולדעתי גם לא הכרחיים. הנוירונים פועלים בזכות האוכל והשתיה. הם אמנם פועלים גם בשביל השגתם, אבל ברגע שהובטחה אספקה סדירה של אלו, התבונה לא מפסיקה להתקיים או לפעול. יצור שפותח במקום להתפתח יכול לדעתי להתקיים ולפעול תבונית גם בלי הצרכים האלו.
לרבע את הלולאה. 461662
2. אני מניח שהמנגנון התבוני של המוח בנוי מנוירונים. אם יש שם אלמנטים נוספים שאינם ניתנים להחלפה, ברור שכל הטיעון מתמוטט. יש לך סיבה להניח שקיימים אלמנטים כאלה?

"צורך" הוא לא אלמנט פיזיקלי, ולכן אני לא מתכוון לספק אותו. הוא יופיע מאליו ברגע שכל המבנה הרלבנטי ישוחזר בדיוק, שהרי זאת המשמעות של "ישוחזר בדיוק".
לרבע את הלולאה. 461670
ראה תגובתי לירדן.
לגבי שאלת האלמנטים - אין לי סיבה מיוחדת להניח שיש כאלה, אין לי גם כל סיבה להניח שאין. כל עוד לא ינסו להפעיל תבונה מלאכותית - מוח או מחשב - הבנויה מנוירונים בלבד, אני לא בטוחה שאפשר יהיה לדעת.
אבל בהנחה שהנוירונים המשוחזרים-במדויק של המוח מספיקים כדי לייצר תבונה פוטנציאלית, עדיין לא ברור לי מה אמור להוציא אותה לפועל. אינני יודעת אם ידוע לך, אבל יש אנשים (רבים) שאינם חושבים יותר מדי, ולא כולם נולדו עם מחסור די חמור בנוירונים שימנע מהם לבצע זאת.
לרבע את הלולאה. 461695
כשאין סיבה להניח קיום, מוטב לא להניח קיום.

אנחנו עושים את הניסוי על מוח חושב, ולכן הוא ימשיך לחשוב. אני אלחש למיקרופון שלו ''אם תוכיח את השערת גולדבך אדגדג את מרכז העונג שלך'' והוא יירתם למלאכה בחדוה.
לרבע את הלולאה. 461703
הרבה זמן לא הייתה סיבה להניח את קיומו של החומר האפל. זה לא עזר הרבה, כי החומר הזה כנראה קיים. יותר מזה, יש עדיין אי אלה דברים במוח שתפקידם לא לגמרי ברור. לטעמי יש סיבה טובה להניח ש*יש* להם תפקיד. ומבחינתי זה אומר שבשאלה אם יש או אין התשובה איננה נוטה לאפס כטענתך.
וברגע שמוח החושב שלך ינותק מהראש, לא ברור כלל למה ישמשו המרכזים שלו, אם הם בכלל יהיו אותם מרכזים.
לרבע את הלולאה. 462069
אז למה לא נניח פשוט שמפלצת הספגטי המעופפת אחראית להשתלת התבונה במוח, וגמרנו?
לרבע את הלולאה. 462083
ומה הקשר לדבריי?
לרבע את הלולאה. 461673
ועוד: למקרה שתאמר לי שוב שהכל *רק* פלט וקלט - אני שואלת שוב: נניח שתחבר את התא הפוטואלקטרי שהצעת. והפוטונים יטביעו עליו את רישומם כמו על העיניים החודרות בעולם. מדוע שהנוירונים יטרחו לפענח את אותו רישום? (ודאי שמעת על אותם עוורים שניתוחים תקנו את עיניהם ובכל זאת לא הצליחו לראות?).
לרבע את הלולאה. 461694
מאותה סיבה שהנוירונים שלך טורחים לפענח אותו רישום (ההם שראייתם ''תוקנה'' כבר היו בעלי מרכז ראיה לא תקין). כמו שירדן נסה להסביר לך, ברגע שאת מקבלת את ההנחות שלי התשובה הזאת ברורה מאליה.
לרבע את הלולאה. 461704
שטויות.
לרבע את הלולאה. 462068
על זה אני לא מתכוון להתוכח. מה דעתך על חלוקה באפס?
לרבע את הלולאה. 462079
זו בעיה מעניינת. לדעתי יש להתייחס אליה כאל חלוקה ב-‏8, שהוא כידוע מורכב משני אפסים, ואז להכפיל ב-‏2. לא ברור איך לאא עלו על זה עדיין.
לרבע את הלולאה. 462248
כי אם לחלק באפס קשה, לחלק בשניים יהיה יותר קשה.
לרבע את הלולאה. 462249
...אם כי סביר שדי קל להתחלק במי אפסיים.
לרבע את הלולאה. 462253
לא הבנתי.
! 460900
לרבע את הלולאה. 461692
יום אחד אני אמצא את הכפתור הזה...
לרבע את הלולאה. 460882
אני חושב שבלתי אפשרי באופן עקרוני לסמלץ התנהגות אנושית באופן כזה שהמערכת החישובית תתן פלט זהה למוח אנושי בעבור כל אינסוף הקלטים האפשרים. למעשה, אפילו אם נסתפק בחיקוי של דיון בנושאים מתמטיים, דעתי היא, שוב, בהסתמך על פנרוז, שאלגוריתם יכשל בחיקוי התנהגות מודעת. למעשה פנרוז מציג בטיעון שלו בדיוק את הבעיה המתמטית שאמורה ''לתקוע'' אלגוריתם המייצג, כביכול, חשיבה מתמטית מודעת.

מה שכן אפשרי זה לחקות באופן אלגוריתמי טווח מוגבל וסופי של התנהגויות אנושיות. ייתכן שחיקוי כזה יהיה בו כדי להוליך שולל את הצופים בו במשך זמן מה. אבל תמיד יהיה קיים קלט כלשהו שיכשיל אותו בסופו של דבר.
לרבע את הלולאה. 460901
מכיוון שלא קראתי את פנרוז, ולצערי כנראה לא אגיע לקרוא אותו בגלגול הזה, בא לך אולי לשרבט כאן את הטיעון שלו ולהגן עליו במידת הצורך?
לרבע את הלולאה. 460917
אני אנסה, בקיצור די נמרץ:

פנרוז מוכיח את המשפט המתמטי הבא: נתון אלגוריתם A בעל שני קלטים המקבל כקלט אלגוריתם אחר בעל קלט יחיד (נניח, B) והקלט של אותו אלגוריתם (נניח, C). מטרתו של A היא לקבוע אם B איננו עוצר על הקלט C, והוא קובע זאת באמצעות עצירה. כלומר אם (A(B,C עוצר אנו מפרשים זאת כקביעה ש (B(C איננו עוצר.

נכנה את A "שקול" (sound) אם הוא לא נותן תשובות שגויות, כלומר הוא לעולם לא יעצור במקרה שהקלט שלו עוצר. למשל, A שאף פעם לא עוצר (לופ אינסופי) הוא אלגוריתם שקול באופן טריוויאלי. על פי משפט העצירה של טיורינג אין אלגוריתם A שמסוגל להצליח לזהות אי עצירה של כל קלט אפשרי (מתמטיקאי מושלם) אבל יש בהחלט אלגוריתמים שקולים רבים, חלקם פותרים יותר בעיות אי עצירה וחלקם פחות.

עבור אלגוריתם שקול A נסמן ב-D את האלגוריתם בקלט אחד כך ש
(D(B)= A(B,B. אזי ניתן להוכיח ש:
1) (D(D אינו עוצר.
2) (A(D,D אינו עוצר (נובע מיידית מ-‏1 מתוך הגדרת D).

עד כאן המשפט המתמטי. כעת הפרשנות:
הנח (בשלילה) שקיים אלגוריתם בעל היכולת המתמטית של מתמטיקאי אנושי, או, בעצם, של כל הקהילה המתמטית (זה לא הבדל עקרוני). מכיוון שהוא איננו נתון למגבלות של עייפות, חוסר ריכוז וכדומה, ניתן להניח שהוא לא יעשה טעויות בהסקה לוגית אלמנטרית, כלומר שהוא שקול. כעת, אם אותו אלגוריתם מקבל את התיאור, A, של עצמו, הוא יסיק ממנו, על סמך המשפט של פנרוז, שהאלגוריתם D איננו עוצר (סעיף 1). מאידך מסעיף 2 נובע שאלגוריתם A איננו מסוגל להכריע בבעיית העצירה של D. וזו סתירה.

המסקנה המיידית היא: מתמטיקאים אינם עושים שימוש באלגוריתם הידוע כשקול לשם הסקה מתמטית.

וקצת יותר לעומק: אלגוריתם איננו יכול להיות מודע לתקפות הלוגית של הפעולות שהוא מבצע.

השמטתי פה המון פרטים טכניים לשם קיצור ואני לא כל כך רוצה לקיים דיון מייגע כדי להשלים את החוסרים. מי שמעוניין בארגומנט המלא והמפורט מוזמן לקרוא את "Shadows of the mind".
לרבע את הלולאה. 460920
האלגוריתם השקול בהכרח לא יכול לתת פתרון עבור *כל* קלט (בעיית העצירה).

הטעות של פנרוז, לדעתי, היא בהנחה שמוח אנושי כן יכול לתת פתרון עבור כל קלט, או ליתר דיוק, הטעות היא בהנחה שמתמטיקאי אנושי כן יכול להחליט אם הוא-עצמו יעצור עבור קלט מסוים.

כלומר: נכון, A לא יוכל להגיד אם יצליח למצוא פתרון עבור קלט המהווה תיאור של עצמו. אבל מצד שני, נדמה לי שגם פנרוז בכבודו ובעצמו לא יוכל להגיד אם יצליח למצוא פתרון עבור קלט המהווה תיאור של פנרוז.

עוד נקודה חלשה בטיעון היא ההשוואה בין מוח אנושי לבין אלגוריתם שקול (sound), ללא באגים, ונטול כל השפעות אקראיות.
לרבע את הלולאה. 460923
פנרוז (אליבא דספיר) טוען שאין קלט המהווה תיאור של פנרוז. אז לא נראה לי שמותר לך להניח תיאור כזה בהפרכה.

מצד שני, פנרוז ייכשל במשימה פשוטה בהרבה: במציאת הפתרון עבור קלט באורך שלוש אינציקלופדיות.
לרבע את הלולאה. 460952
"אין קלט המהווה תיאור של פנרוז" זה קצת להניח את המבוקש, לא? זה כאילו פנרוז אומר: "נוכיח שאדם הוא לא מערכת פורמלית. הנחות ראשוניות: (א) יש תיאור של מערכת פורמלית, (ב) אין תיאור של אדם".
לרבע את הלולאה. 461004
מה אני אשם? לעניות דעתי, הכנסת הגרביטציה הקוונטית לעסק נועדה ביוק בשביל זה: אף אחד לא יודע לתאר גרביטציה קוונטית, ולכן אף אחד לא יוכל לתת תיאור של פנרוז.
לרבע את הלולאה. 460967
אני לא חושב שהבנת. בשום מקום אין הנחה "שמוח אנושי כן יכול לתת פתרון עבור כל קלט". האם ניתן לפתור כל בעיה מתמטית? מה שהמוח האנושי יכול לעשות, במקרה בו הוא יודע שאלגוריתם A מסויים הוא שקול, זה להסיק שאלגוריתם מ_ס_ו_י_ם שניתן לבנות מ-A איננו עוצר על עצמו. זו בדיוק תוצאת המשפט המתמטי של פנרוז.

מכיוון שאלגוריתם A איננו יכול להגיע להסקה זו (כי זו סתירה!) A איננו יכול להיות מודל של הסקה אנושית. מכיוון ששיקול זה תקף לכל A שנבחר, שום אלגוריתם איננו יכול להיות מודל של הסקה אנושית.

"עוד נקודה חלשה בטיעון היא ההשוואה בין מוח אנושי לבין אלגוריתם שקול (sound), ללא באגים, ונטול כל השפעות אקראיות." - החולשה היא רק שלי. פנרוז דן בהסתייגויות אלו בהרחבה בספרו ומראה שהן אינן פוגמות בטיעון.
לרבע את הלולאה. 460970