הכל צפוי והרשות בלתי אפשרית | 2220 | ||||||||||
|
הכל צפוי והרשות בלתי אפשרית | 2220 | ||||||||||
|
פרסומים אחרונים במדור "פילוסופיה ומוסר"
|
הצג את כל התגובות | הסתר את כל התגובות |
|
||||
|
||||
אגב, אני די מתקשה לראות איך אפשר לכתוב את התשיעית שלא באקראי. נניח שכתבת את התו הראשון. עכשיו מה? האם יש בדיוק דרך אחת להמשיך את היצירה בכל תו כך שתהיה אופטימלית? אם כן, לכל תו פותח קיימת יצירה אחת ויחידה שהיא האופטימלית שניתן לכתוב, ולכן קרוב לוודאי שכבר מוצו כל היצירות בתקופתו של בטהובן. מכיוון שטיעון הדרך היחידה נשמע לי אבסורדי לגמרי, נובע שיש שתי דרכים להמשיך יצירה כך שתהיה אופטימלית. אז איך בדיוק ניתן לבחור ביניהן בצורה שאינה אקראית? ועכשיו בוא נוריד את ההנחה האומללה לפיה הקומפוזיטור חותר ליצירה אופטימלית בהכרח. מגוון האפשרויות רק גדל עוד יותר. איך מחליטים במה לבחור? |
|
||||
|
||||
התו הראשון, כמובן, לא חייב להיות התו הפותח. הוא פשוט התו הראשון שנכתב. הוא יכול להיות אפילו תו שלא קיים ביצירה - אני לא יודע איך זה עם קומפוזיטורים, אבל זה דבר די נפוץ להתחיל סיפור מרעיון כלשהו, ואחרי שהסיפור מתפתח ותופס חיים משל עצמו אתה מגלה שהטריגר הראשוני היה די גרוע ומוריד אותו. אני גם לא מסכים עם תיאור מעשה היצירה שלך - לפחות לא בחלק מהמקרים, כמובן. גם בחלק מהמקרים שבהם זה כן כך, אי אפשר להמנע מהשאלה - למה דווקא הפסל הזה מתוך האבן ולא אחד מזיליארדי הקונפיגורציות האחרות שיש בה? |
|
||||
|
||||
לא מקובל עלי. לא צריך ללכת רחוק למכניזם אלגוריתמי, יש דוגמא שנקראת "הרקוויים של מוצארט". בערך 60 אחוז מהיצירה נכתב על ידי מוצארט עצמו בהיותו על ערש דווי. שאר היצירה שוחזר על ידי אחד מתלמידיו (התלמיד המוערך ביותר מבין תלמידי מוצרט סרב לשחזר מתוך כבוד למורה הגדול שלו). למשל, באופן ספציפי, הקטע שנקרא "לקרימוזה" אורך , לפי זכרוני, כ- 200 שניןת. המקור (הלא משוחזר) הוא 20 השניות הראשונות שאר ה- 180 שניות הן שיחזור משעמם למדי, חוזר על עצמו שוב ושוב בווריאציות לא מעניינות.. לעומת זאת קטע אחר ברקוויים ,נקרא "ריקורדאר", עשיר ברעיונות לכל אורכו (נדמה לי שאורכו של רקורדאר הוא 300 שניות) לכן אני מאמין שכולו מקור של מוצרט. אני מאמין שבייצירה טובה, כל שניה ושניה היא ישות שעומדת ברשות עצמה לכן אינה אקסטרפולציה שבלונית של רעיון הפתיחה. למי שמתעניין. יש ברשת יוטיוב לפחות ביצוע אחד של הרקוויים של מוצרט שדבק בקנאות למקור, אורכו כמדומני 32 דקות. רוב הביצועים האחרים שם אורכם בערך 50 דקות ורובם נשמע טרחני ופומפוזי, די הרסו את המקור שהרי מוצרט נהג לכתוב בבהירות רבה קצר וקולע. |
|
||||
|
||||
1. "...שצריך להזהר כשמשתמשים בו...כיישות שיש ביכולתה להשפיע על המתרחש בעולם" מסכים. זו בדיוק בעית גוף ונפש בהמשך. 2. אין ברירה. הרצון הוא כלי של התודעה וחלק בלתי נפרד ממנה. האם תוכל להעלות בדעתך יצור (ביולוגי או מלאכותי) בעל רצון וחסר תודעה? 3. גם אני חובב קטן. אני מקווה שאינטרדיסציפלינריות תהיה יתרון בהמשך. אני רוצה להרחיב קצת על כל אחת מהגישות ולהראות את נקודות התורפה שלהן. אני רואה שעד כאן אין השגות מהותיות וממשיך, אבל לפני כן קצת הגדרות, כדי שנדבר על אותם דברים הגדרה: נפש – מכלול הפעילות המטאפיסית באדם (בינתיים רק סובייקטיבית, עד שנוכיח אחרת), כולל התפיסה (מערכת הפיכת הקלט החושי, לרבות כאב, לתמונת עולם) התודעה (- מודעות עצמית, רצון, חשיבה לוגית, מוסר, דמיון), תת המודע (לרבות חלימה, דחפים והדבר החמקמק הנקרא מצב הרוח), הרגש ואני מקווה שלא השמטתי דבר. הגדרה: גוף – 1. גוף האדם 2. היקום הפיסי כפי שהוא נתפס ברשמי חושינו. אצל קאנט – "עולם התופעות", אצל דקארט ושפינוזה "העצם המתפשט" 4. שרש הבעיה מצד אחד אנו חווים גם חוויה חזקה ובלתי אמצעית של "אני קיים" מטאפיסי, החושב מחשבות מרגיש רגשות בעל רצונות וכו', בקיצור סה"כ הנפש האנושית; גם חוויה חזקה של העולם הגשמי כפי שהוא נתפס דרך רשמי החושים; גם חוויה חזקה של קשר דו כווני ביניהם; מצד שני אם אכן כל שאנו חווים לעיל נכון, ואכן שני העולמות, הפיזי והמטאפיזי, קיימים במציאות, קיימת בעיה עצומה בקשר ביניהם. לפי התאוריה הפילוסופית (במסגרת גישות דואליסטיות!) הקשר בין העולמות הוא החל מבלתי מוסבר לחלוטין, עבור בעקרונית בלתי ניתן להסבר, בלתי אפשרי לוגית, וכלה בלא קיים כלל. הנה שני ציטוטים יפים, דווקא לא של דואליסטים שפינוזה – "אין גוף יכול להכריע את הנפש למחשבה, ואין הנפש יכולה להכריע את הגוף לתנועה ולמנוחה, או לאיזה דבר אחר, אם יש עוד איזה דבר". לייבניץ – "לא מצאתי דרך להסביר כיצד יתכן שהגוף יעביר משהו לנפש, וכן להפך. כל המתרחש בנפש מתרחש כאילו לא היה במציאות גוף, וכל המתרחש בגוף מתרחש כאילו לא היתה במציאות נפש. " 5. מוניסט פיסיקליסטי (נקרא גם מטריאליסט, אבל לא אשתמש בבטוי זה עקב האסוציאציות הקשורות בו מאז מארקס) מה הוא אומר - היש הפיסיקלי הוא כל היש. בגרסה הרכה לעולם המטאפיסי אין קיום מעבר לחוויה הסובייקטיבית של הפרט (מה שליבוביץ' כינה רשות הפרט), ולכן אינו רלבנטי. העולם הגשמי קיים עבור כולנו כאחד (רשות הרבים) ולכן ניתן לדבר עליו באופן מסודר ולחקור אותו. בגרסה הקשה תודעה ורצון הם אשליות שהמוח מיצר (או מפריש). כל הקיים הוא נוירונים ותגובות אלקטרוכימיות והיתר רעש וצלצולים שהללו מייצרים. הפיסיקליסט מתעלם או מבטל שתיים מתוך שלוש החוויות האנושיות הבסיסיות ביותר בטענה שהן לא רלבנטיות או אשליה. מדוע? ההסבר הטוב ביותר ששמעתי הוא זה: מאחר ויש לנו כלי מצוין (המדעים המדויקים) שנתן לנו תמונת עולם פיסיקלית העולה לאין ערוך על קודמותיה; ומאחר וכלי זה אינו בנוי להתמודד עם שאלות מטאפיזיות; לפיכך כל מה שאינו במסגרת יכולת התפקוד של הכלי המעולה שלנו אינו רלבנטי (ולמהדרין- אינו קיים). או בקיצור – יש לנו פטיש מעולה אז אנחנו רואים רק מסמרים. 6. נקודות התורפה של המוניזם הפיסיקליסטי הן הוותיקות : א. מאחר ואת כל המידע שיש לי על היש הפיסיקלי אני מקבל מרשמי החושים, קרי - לא ניתן לי להסיק דבר על העולם הפיסיקלי באופן מחשבתי טהור; ומאחר ורשמי החושים נוחים להטעיה ואינם אמינים באופן כללי; לכן אין לנו כל דרך לדעת קטגורית שאכן קיים יש פיסיקלי, ואם קיים, שמהותו דומה ולו באורח מרוחק לנתפס בחושינו (השד המתעתע של דקארט). בכך שהפיסיקליסט מאמץ את חווית העולם הגשמי ומוותר על חווית ה"אני קיים" הוא מעדיף את רשמי החושים על ההגיון הטהור. אגב, ראיתי את ההעדפה הזו מתרחשת בפועל ב דיון 236 ראה תגובה 300535 ב. עצם המונח אשליה מניח משהו (בהכרח תודעה) המשלה את עצמו, או במלים אחרות - לא תתכן אשליה ללא יש מטאפיסי, שכן בעולם הגשמי אין אשליות. ואני מוסיף חדשות, לאור חדירת הפיסיקה המודרנית לתחומי הפילוסופיה ג. תפיסת הזמן כ"מתקדם" היא תפיסה תודעתית שאינה מעוגנת במציאות הפיסיקלית, בה כל הזמנים מתקיימים על ציר הזמן. אם התודעה היא אשליה אז גם הסיבתיות היא אשליה. (זווית מעודכנת על יום). אם הסיבתיות היא אשליה אז חוקי הפיסיקה עלולים להשתנות בכל עת. בכל זאת במין מקריות מוזרה חוקי הפיסיקה אינם משתנים משניה לשניה. הצורה היחידה להכניס סיבתיות לעולם התופעות היא להכיר בתודעה כיש קיים. ד. גם היחסות וגם תוה"ק מכניסות את הצופה לתמונה הפיסיקלית בדלת הראשית. ביחסות - כל מערכת פיסיקלית מוגדרת ביחס לצופה, אלא שאין הסבר מהו הצופה. ברור שגופו של הצופה אינו הצופה, כי צופה מת לא נחשב צופה. אז מה כן ? בתוה"ק בעיית המדידה מייחסת בריש גלי שינוי פיסי כנגרם מידיעה של תוצאת ניסוי. בניסוי שני החריצים המפורסם קיום או העדר גילוי הפוטון באחד החריצים משפיע בפועל על הופעת התאבכות של פוטון בודד עם עצמו. אם אין גלאי הפוטון יתאבך עם עצמו. אם יש גלאי מקולקל הפוטון יתאבך עם עצמו. אם יש גלאי תקין בחריץ ימין והוא לא עשה קליק כשירינו את הפוטון אז הפוטון לא יתאבך! הגלאי שתק ולכן אנו יודעים בעליל היכן עבר הפוטון (בחריץ השני), ולפתע קורסת פונקצית הגל והפוטון אינו מתאבך. מה ההבדל בין שתיקת הגלאי המקולקל לבין שתיקת הגלאי התקין ? עד כאן ? |
|
||||
|
||||
הגישה שלי (ואני מתאר לעצמי, של רוב הפילוסופים האנליטיים היום), אני נוהג לחשוב עליה כמטריאליסטית אבל היא לא מצייתת להבחנות שלך על מטירליאיזם. היא מניחה שהחוויות הנפשיות נשענות על בסיס פיזיקלי, אבל הן לא אשליות, הן אמיתיות בהחלט. ניתן להתייחס אליהן, במגבלות מסוימות, כעובדות אובייקטיביות למדי. עוד לא ברור לי שאני מוותר על הרבה... |
|
||||
|
||||
כלומר שחווית "אני קיים" היא אמיתית? יש משהו קיים שהוא לא הגוף שלנו? איך זה מטריאליסטי? |
|
||||
|
||||
למה לא הגוף שלנו? לא יודע מה איתך, אני לא מרגיש את הקיום שלי, או אפילו הנפש שלי, כמשהו שבהכרח נפרד מהגוף שלי. |
|
||||
|
||||
אצלי תחושת "אני קיים" שונה לגמרי מתחושת "הגוף שלי קיים". אני מתפלא שאצלך זה לא כך. הרי תחושת "אני קיים" לא משתנה גם כשאין לנו את הרפרנס של הגוף שלנו. בחלום, למשל, או אפילו כששוקעים לגמרי באיזו בעיה, חלום בהקיץ, ספר או סרט עד כדי התעלמות מהעולם ו"שוכחים" את הגוף שלנו. תחושת ה"אני קיים" לא משתנה. אילו היית חסר גוף לחלוטין האם היית מפסיק להרגיש "אני קיים"? |
|
||||
|
||||
הלו! זה רדיו? |
|
||||
|
||||
ודאי, ודאי! |
|
||||
|
||||
אני יכול לתאר לעצמי גוף שלא יכול להרגיש. קוראים לזה גופה. אבל משהו שיודע להרגיש שאין לו גוף, זה לגמרי נשגב מבינתי. |
|
||||
|
||||
אני מרשה לעצמי לנחש שאילו הייתי חסר גוף לגמרי הייתי מפסיק להרגיש. נקודה. אגב, בין אלה שעוסקים באינטליגנציה מלאכותית כללית (Artificial general intelligence) הדעות חלוקות בשאלה אם צריך גוף, או לפחות קלט חושי, כדי לפתח תודעה. הניחוש שלי: לא, אבל הוא לא מבוסס על כלום. |
|
||||
|
||||
מתוך כתבה בהארץ על מנגנון הפרופריוספציה [ויקיפדיה] („תחושת הגוף״): „כדי להבין מהי פרופריוספציה ברמה המודעת, כל שצריך לעשות הוא לעצום עיניים ולנסות להבין היכן נמצאת היד ובאיזו תנוחה היא. סיפורו של איאן ווטרמן, שב–1971 התעורר וגילה שגופו נעלם, מבהיר עד כמה חשוב החוש הזה לביסוס תחושת העצמי שלנו. הצעיר הבריטי בן ה–19 הסתכל וראה את גופו, אבל לא הצליח להרגיש או להזיז אותו. הבדיקות הרפואיות שנערכו לו העלו שהוא סובל מתסמונת נדירה: בעקבות הידבקות בנגיף באזור הצוואר, מערכת החיסון של הגוף שלו תקפה והרסה את המסלולים העצביים שמעבירים את המידע של חוש המישוש והפרופריוספציה מן הגוף אל המוח. מאז תועדו רק כעשרה מקרים של התסמונת הזאת. ווטרמן היה ייחודי בכך שהוא היה הראשון שלימד את עצמו ללכת — בעזרת חוש הראייה והוראות מודעות לרגליים לזוז בלבד. כשעיניו נעצמו, הוא מעד.״ |
|
||||
|
||||
אני משער שהבחור ללא תפיסה של גופו כלל עדיין היה בטוח ''אני קיים''. |
|
||||
|
||||
גם אני. ככלל הכתבה היא מרתקת, היא ממש מתארת את תחושת הגוף כחוש שישי, ומראה שהתחושה נובעת מחיישנים שנקראים 'כישורי השריר', שאני שומע עליהם לראשונה. |
|
||||
|
||||
אכן מעניין. פעם היה לי נקע רציני בקרסול והרופא הזהיר אותי מפני נקע חוזר. הוא אמר שהקרסול משמש כאבר חישה לצורך שיווי משקל, ומי שחטף נקע נוטה יותר לאבד שיווי משקל ולנקוע שוב את רגלו. מסתבר שזה בדיוק הסיפור הזה של Proprioception, כשהמערכת לא מקבלת מידע מדויק על מיקום הקרסול. |
|
||||
|
||||
אם כבר הזכרת את אותו "עוד חוש" - אז קיים למעשה גם את חוש "שיווי המשקל", שמקבל את המידע שלו מאבר בשם Vestibule of the ear [Wikipedia]. אז באוזן שלנו קיימים התקני הקלט של שני חושים - השמיעה ו"שיווי המשקל". מה שאנחנו קוראים לו "חוש המישוש" הוא בעצם אגד של מספר חישות - מגע קל, מגע עמוק, כאב, גרד, רטט, חום ופרופריוספציה. |
|
||||
|
||||
מה שאותי סקרן בכתבה היה התיאור ההיסטורי של התחום המדעי הזה: הוא נחקר היטב במחצית הראשונה של המאה העשרים, ואז די נזנח (יחד עם כל הביו-מכניקה) כשהביולוגיה המולקולרית תפסה תאוצה. הכתבה מתארת את שני החוקרים הישראלים העכשוויים כמכניסים את הביו.מול. לחקר הפרופריוספציה, אבל לפחות בכתבה זה היה נשמע שולי יחסית, משהו שגם אם יוכתר בהצלחה לא ירעיש עולמות. (חוץ מזה, ייתכן - עד כמה שאני יכול להבין - שהתחום די נזנח לאו דווקא בגלל הכוכב המולקולרי החדש והמנצנץ, אלא אולי כי די מיצו את מה שיש לגלות שם, לא נשארו שאלות פתוחות גדולות). התיאורים המרתקים באמת היו של דברים שידועים, אם כך, כבר כשבעים שנה; רק שאיכשהו הם חמקו מהראדאר הפופולרי, ומתוכניות הלימודים בבתי הספר ואפילו בגנים. |
|
||||
|
||||
נדמה שדה קרט הגדיר את מצב התודעה המינימליסטית בביטוי ''אני חושב משמע אני קיים''. למוח יש אמצעי חישה ניפרדים מהחושים המוכרים , באמצעותם הוא חש את המציאות כפי שהיא נירקמת בתוך המוח. התחושה בתוך המוח מאוד ברורה ואין שום ספק בקיומה כאשר מתבוננים באנשים שסובלים ממחלת נפש, או לחילופין מסוממים (סמים מעוררים או מרגיעים). הסבל של חולי נפש מאוד ממשי והתרוממות הרגש שלהם (התזזיתית) מאוד ממשית. לגבי שאר הדברים שאמרת, לא קראתי את הפתיל לכן אין לי דעה. |
|
||||
|
||||
אני מציע לך לקרוא את המאמר (והדיון כולו, אם לא אמל''ק). אחד המרתקים באייל. |
|
||||
|
||||
באיחור ובקשר רופף, הייתי מהמרת על סביבות גיל 18 חודשים (אאל"ט), כשהתינוק מתחיל לזהות את עצמו בראי (מה שקורה גם לשימפנזה בוגרת, אבל לשום חיה אחרת). |
|
||||
|
||||
שנתיים ראשונות ואולי 3 (כנראה התפתחות המוח נעצרת בהדרגה). |
|
||||
|
||||
לפעמים תהליך היצירה של פזמון הוא די כאוטי. במיוחד כאשר זו להקה. בכתיבת המלים אולי יש אלגוריתם אבולוציוני כלשהו, שהופך את הכרובית לרימון, ולבסוף לאף אהובה אחרת, אבל קשה לטעון אותו דבר על הלחן. |
|
||||
|
||||
מאז שהבנתי שאין הגדרה טובה ל"חיים" הפסקתי לחפש הגדרות מלבד במדעים הפורמליים. בעיני, קוואליה היא החלק החוויתי של התפיסה. מאד מפתיע אותי שמעצם הדיון כאן לא מובן על מה מדובר, אבל אולי זה נעלם בין הררי המלים, כך שאחזור שוב על מה שכבר כתבתי: כשאני רואה "אדום" מתעוררת אצלי חוויה מאד ברורה, וכשאני רואה "ירוק" מתעוררת אצלי חוויה ברורה אחרת. ייתכן שאצלך מתעוררות חוויות שונות לחלוטין, וייתכן אפילו שאותה חווית "אדום" שלי היא בדיוק מה שאת חווה כשאת רואה "ירוק" ולהיפך (מסכנה, איך את מסוגלת לחיות עם כל הדשא האדום מסביבך?). אגב, תוך כדי הדיון כאן אני הולך ומשתכנע שהפתרון כן יימצא, ושכולנו חווים חוויות דומות מאד, אבל היריעה קצרה וממילא אני לא יודע לנסח את זה כמו שצריך. בכל אופן, כשרציתי לגוון קצת את הדוגמא התחלתי לחשוב על ריח במקום על ראיה, ואח"כ על טעם במקום על ריח, ונזכרתי איך כולנו מגיבים באותה ארשת פנים על "חמוץ" ועל "מר", ומתוך כך שלדעתי מדובר במה שקרוי "emergent phenomena" 1 (כמו התודעה כולה2), שיניתי קצת את העמדה שלי: 1. בניגוד למה שטענתי, אני חושב שיש מה לחדש בשאלה לבן דורו של אריסטו (הוא לא יודע מה זאת "תופעה מבצבצת" בכלל, וכדי להבין את זה הוא יצטרך לשמוע גם על המבנה הפיזי של המוח וכל השאר). 2. אני חושב שבכגלל הדמיון הפונקציונלי בין רשתות הנוירונים של כולנו, יתברר שגם מה שמבצבץ מהן דומה מאד. מכל מקום, אני יותר אופטימי בשאלה אם יהיה ניתן לעשות על זה באופן מדעי. 3. אולי. או שלא. מי יודע. לא אני. 4. ברוך שובך. 'תגעגעתי. __________ 1- איך זה בעברית? "תופעה מבצבצת" מתאים יותר לתאור פריחת הנרקיסים מאשר לצרכינו. תופעה מתהווה? 2- חלק גדול המשיחה כאן כבר נערך לא פעם באייל כשבמקום "חוויה" דובר על "תודעה". את בטח זוכרת את הדיונים בשאלת התודעה של בע"ח... |
|
||||
|
||||
ממש כמו שחר של יום חדש. זה מתוך מה שכתב ניר להב. |
|
||||
|
||||
מעניין מאד. מעניין גם הקישור להשפעות הנחקרות של מדיטציות למיניהן. |
|
||||
|
||||
"אבל יחד עם זאת חשוב לזכור שעדיין לא הסברנו כיצד נוצרת התודעה מתוך פעילות הגרעין. יש כאן קפיצה שצריך לעשות." קפיצה גדולה מאד, הייתי מהמר. אין לי בעיה עם זה שהמודעות היא אפקט של מערכת. זה מסתדר לא רע עם הנצת התודעה כאשר המערכת של התינוק הופכת למורכבת מספיק. אבל זה עדיין לא אומר הרבה על המהות של הדבר הזה שהוא האני המודע- זה שאומר: הגוף הזה שייך לי (וכך מבדל את עצמו מן הגוף). זה שחש "אני קיים". זה שחש המשכיות מן העבר אל ההווה. אחרי הכל, הכל מערכת בתוך מערכת. כמו מזג אוויר מקומי בתוך מזג אוויר גלובלי. היקום כולו הוא מערכת. |
|
||||
|
||||
לדעתי הקפיצה של ניר להב תהיה כזו: הנה אוסף משוואות שמתארות יחסי הגומלין בין רשת ניורונים ל"תודעה" בסיסית (נניח רק רגשות. כמעט כל מה שאמרת הוא מורכב מאד). התשובה הזו תהיה מאכזבת לרוב האנשים שרוצים לדעת מה "המהות של הדבר הזה שהוא האני המודע" (אפילו אם הם מסתפקים בתאור של רגשות). גם אנשים שרוצים לדעת למה תותים עולים 40 ש"ח לק"ג יתאכזבו לשמוע שהתשובה היא "כי זה האיזון בין משוואת הביקוש למשוואת ההיצע". |
|
||||
|
||||
ונניח שהמשוואה תראה שמעל מיליארד וחצי נוירונים ועשרים מיליארד קשרים מתחילה תודעה, אתה מסוגל לדמיין ניסוי שמוכיח את זה? |
|
||||
|
||||
בטח מסוגל לדמיין! 1. ניסוי ממוחשב - בזכות חוק מור זה עניין של עשור או שניים. ברור שגם אם ניסוי כזה יצליח ליצר מחשב שמתנהג באופן מאד, אה, משכנע, עדיין יהיו אנשים שזה לא ישכנע אותם. עדיין זה ניסוי מעניין מאד. 2. יש רשתות הרבה יותר גדולות שכבר היום אפשר לעשות עליהן ניסוי: בעלי חיים ובני אדם. מעניין מה מודל כזה יחזה לגבי התנהגות אנושית (או של בעלי חיים) במצבים כאלו ואחרים. אם היית מרשה לי לעשות אך ורק ניסוי אחד, הייתי עושה את 2. |
|
||||
|
||||
1. איך תוכיח שלמחשב יש תודעה? מאיפה אתה יודע אפילו מה הקריטריון ל"הצלחת" הניסוי? 2. פה עוד פחות ברורה לי מתודת הניסוי שלך. מצד אחד, לגבי אנשים נניח, תוצאת הקריטריון ידועה מראש, אבל איך "תפחית" אותה לרמת הבסיס, באופן שלא מפר כל אתיקה אפשרית? 2ב. מה להתנהגות ולתודעה? |
|
||||
|
||||
אין טעם לדוש במה שכבר כתבנו. מי שרוצה הוכחה שהמחשב או איזשהו אדם אחר באמת באמת באמת מרגיש ולא רק מתנהג "כאילו" אז אי אפשר לרצות אותו. לצערי, אני שם אותו בקטגוריה של אנשים שחושבים שנשמה של יהודי שונה מנשמה של גוי. בלתי ניתן להפרכה. אני (וכמו שהראיתי, גם מדענים) חושב אחרת. אין חיה כזו "איש בלי תודעה" וכאשר אנשים מדברים על זה שהם הרגישו X או חשבו על Y, באמת היה שם משהו - איזשהי פעילות ניורולוגית שקשורה לזה. ואז אפשר בהחלט (וכבר נעשה במידה מסויימת) לבנות מבחן שבודק כיצד הם מתנהגים או מדווחים על רגשות במצבים שונים: שינה, הפנוזה, תחת השפעת חומרים מדכאים\ממריצים שונים וכו' וכו', ואפשר גם לבדוק את הפעילות הניורולוגית ולנסות להתאים אותה לדיווח בדיעבד על רגשות\הכרה. את אותו מבחן (בהתאמות מסוימות) אפשר לעשות על מחשב. |
|
||||
|
||||
אז עדיין לא ברור לי מה התזה שלך ומה אתה מודד/בודק. קורלציות בין "אני מרגיש כעס" לבין "אזור F17 קומה 3 דירה 7 מראה פעילות מוחית" כבר קיימות ונמדדות היום. איך אתה עובר מזה למדידה של ההיפותזה (אם זו ההיפותזה שהתכוונת אליה) "יש צורת במשני מילארד נוירונים שמחווטים כך וכך על מנת ליצור הרגשה של כעס". ואני לא מדבר על קוואליה כאן. הרי הרשת של האדם הנמדד היא רשת של אדם, אתה לא יכול (או ממש לא רוצה) לנוון אותה לרשת של אמבה חצי תבונית או וואטאבר הרמה הבסיסית על פי אותה משוואה. אז מה אה מנסה לומר? שאם נכבה לאדם נוירון אחרי נוירון ונגיע למצב שהוא יפסיק להרגיש כעס (או שעמום, הרבה יותר סביר), זה יוכיח לנו משהו? זה יותר מזכיר מבחני תת-תחושה או ספי תחושה (אני לא מתמצא בז'רגון) ממבחני יש תודעה אין תודעה. |
|
||||
|
||||
אתה דיי לא בכיוון.. 1. זה לא התזה שלי, זה התזה של ניר להב. 2. אני לא מצפה לתיזה שמכילה משפט אחד: "אם יהיו יותר מ X ניורונים תהיה תודעה". אתה העלת את העניין הזה. אבל אני די בטוח שהתיזה שלו יותר מעמיקה מזה. מתוך הכתבה: "עדיין לא הסברנו כיצד נוצרת התודעה מתוך פעילות הגרעין. יש כאן קפיצה שצריך לעשות. אני עובד כעת על מודל שינסה לבצע את הקפיצה הזו. מה הדינמיקה בעזרתה אפשר לעבור מתיאור בגוף שלישי לתיאור בגוף ראשון." כמו שאמרתי לאריק, אני מניח שהמודל הזה יהיה אוסף משוואות. בתור דימוי ממש פשוט, תאר לעצמך את המשוואות של הביקוש\ההיצע\והמחיר שקובעים כיצד הדברים האלו קשורים. דימוי קצת יותר מורכב: משוואות מקסוול של חשמל ומגנטיות - הרי זרם חשמל מייצר שדה מגנטי ושדה מגנטי מייצר זרם חשמלי. משוואות מקסוול מתארות איך הדברים האלו קשורים (זה דומה, לפחות קונספטואלית, לכך שרשת ניורונים מייצרת תודעה, אבל מה שקורה בתודעה משפיע גם על הרשת). ברגע שיהיה קיים מודל כזה, אני מניח שיהיו לו תחזיות יותר מעניינות שיהיה אפשר לבדוק בניסוי(ים). בדיוק כמו שמשוואות מקסוול אומרות משהו יותר מעניין מאשר "צריך לפחות טריליון אלקטרונים בשנייה כדי שנורה תדלוק". טוב, אולי הן אומרות את זה.. אבל הן אומרות עוד כמה דברים מעניינים. סתם לדוגמא, הכתבה מדברת על רשת הדיפולט ועל רשת הקשב והריכוז, אני מניח שהמודל יגיד דברים מעניינים על יחסי הגומלין בינהן. |
|
||||
|
||||
מבחינתי השאלות המרכזיות הן: 1. האם בהנתן רשת מספיק מורכבת של נוירונים (בהכרח) תנץ ממנה/בתוכה/מעליה תחושת "אני קיים"? 2. האם ניתן להכליל מרשתות של נוירונים גם לרשתות אחרות? אם התשובה הראשונה תהיה חיובית אז ודאי שניתן לייצר משוואות מעניינות שמתארות את סף מורכבות המערכת הנדרש להפקת אפקט התודעה מרשת נוירונים. אבל אני בבעיה איך בכלל נוכל לדעת מה התשובה לשאלה הראשונה. האם עלינו לסמוך על הפלט מרשת הנוירונים שאומר "כן, יש לי תחושה שאני קיים?" ונגיד שאני סומך על רשת הנוירונים (מתוך הטיה כי גם לי יש כזו), איך בכלל אוכל לסמוך על רשתות אחרות שאינן של נוירונים כשהן אומרות "אני קיים"? |
|
||||
|
||||
„אני קיים״ זה דבר שלא ברור איך אפשר למדוד אותו ישירות. אבל יש בדיקות יותר בסיסיות. לדוגמה: ילד מגיל מסוים יודע לשקר. איך אפשר להביא תוכנת מחשב לשקר? צריך כמובן לספק הגדרה מועילה של שקר. |
|
||||
|
||||
אני בטוח שכבר היום יש תוכנות משחקים מסויימות שמשתמשות בשקר (''הטעיה'') כחלק מהאסטרטגיה שלהן. למעשה, בהגדרה מספיק רחבה כל תכנית שמשחקת שחמט משתמשת בהטעיות כאלה. מה שחסר לנו כמובן הוא המילה ''ביודעין'' וזה מחזיר אותנו למשבצת הראשונה. |
|
||||
|
||||
למה "בהכרח"? אני משער שרשת גדולה ומורכבת היא תנאי הכרחי, אבל למה להניח שהוא גם מספיק? אפשר לשער שרק רשתות מסויימות יוצרות תודעה, בעוד אחרות שמקושרות אחרת לא. פעם היו מי שניבאו שהאינטרנט יפתח תודעה כשיהיו בו מספיק צמתים מקושרים, ונראה שזה לא קורה (אלא אם כן התודעה אכן התפתחה שם אבל היא מסתירה את זה מאיתנו מסיבות ששמורות עימה). |
|
||||
|
||||
ואחת ההשערות הכי משעשעות שעלו כאן בראתר באחד מדיוני הקוואליה היא שייתכן וגם לחלק מהאנשים באמת אין תודעה/קוואליה - מה שמבהיר בקלות למה כל כך קשה להסביר להם מה זה. |
|
||||
|
||||
''בהכרח'' כשאנחנו מדברים על רשת הנוירונים של המוח האנושי, כי זה מתאים להופעת ה''אני קיים'' מתישהו בהתפתחות התינוק. ואז מעניין אם המשוואות יגידו שהשימפנזים הדולפינים או הלוייתנים עברו את הסף. |
|
||||
|
||||
אנחנו יודעים מתי מופיע ה"אני קיים" בהתפתחות התינוק? (ברחם? בעריסה? בבקו"ם?) |
|
||||
|
||||
נסה להזכר... מעניין אם הזכרון האנושי תלוי בהופעת ה''אני קיים'' או שיכול להיות זכרון מוקדם לזה. |
|
||||
|
||||
אני דוקא חושב הפוך - מאד סביר שה''אני קיים'' מתרחש גם בגילאים שאנחנו לא זוכרים אחר כך. פעוט בן שנתיים יעבור כל מבחן טיורינג אפשרי (אני מקווה), אבל לא יזכור כלום מהגיל הזה אחרי שנים ספורות. |
|
||||
|
||||
עד כמה אנחנו זוכרים לאחור זה מאוד משתנה. הרבה לא זוכרים דבר לפני גיל 3, וגם מאוחר מזה רק קרעי זכרון. מקובל שהרוב זוכרים מגיל 4, אבל יש גם מי שמחזיקים זכרונות ברורים מגיל שנה ומשהו. הערך Childhood_amnesia [Wikipedia] מלא השערות אבל מכיל מעט מסקנות ברורות. אני לא בטוח שפעוט בן שנתיים יעבור מבחן טיורינג אבל זה כבר שייך להתפתחות קוגניטיבית, לא לשאלת התודעה "אני קיים". ילדים בני 2-3 זכרו ארועים שקרו בגיל 1-21 כך שיש שכחה של הזכרונות. אינטואיטיבית אני קונה את התאוריה ששיכחת זכרונות הילדות המוקדמים נובעת מהתפתחות התפיסה מילדות לבגרות. __________ 1 הערה 29 בערך הויקי האנגלית |
|
||||
|
||||
ערך מרתק. זה מחזק אצלי את ההנחה שהזכרונות הממש מוקדמים שלי - מגיל אחת עשרה חודשים - הם בחזקת שיא עולמי או משהו כזה. |
|
||||
|
||||
אהה, עכשיו הבנתי. |
|
||||
|
||||
== "האם בהנתן רשת מספיק מורכבת בהכרח תנץ ממנה תחושת אני קיים?" קשה לי להאמין שזה "בהכרח". הרי גם אצל בני אדם בוגרים ונורמליים ממש לא חסרים מצבים שהם לא מודעים. לדוגמא בשינה ללא חלום, בפעולות שקורות "אינסטנקטיבית" כמו נשימה, וגם בדברים שאנחנו לומדים ומטמיעים (לדוגמא, ללבוש מכנסיים). אני חושב שהעניין הוא למה הכוונה ב"מורכבת מספיק" - רשת ניורונים שנראת בדיוק כמו זו של תינוק אנושי, ושחווה את אותן חוויות (לצורך העניין סימולציה ממוחשבת מלאה של תינוק) - כנראה שכן. רשת אקראית שחווה חוויות אקראיות - כנראה שלא.. הטווח באמצע מאד מעניין. == "איך אוכל לסמוך על רשתות אחרות שאינן של ניורונים כשהן אומרות (אני קיים)" התשובה הקצרה היא: לאט, בזהירות ואחרי שתאסוף הרבה מידע באופן עקיף. וזה בסדר, יש הרבה מאד דברים שאנחנו אוספים עליהם מידע באופן עקיף או עקיף מאד, החל בתוכן של כדוה"א וכלה במחלות. התשובה הארוכה: עקרונית, אתה גם לא יכול לסמוך גם על אף אדם אחר שאומר "אני קיים". יש מושג בפסיכולוגיה שנקרא theory of mind - התפיסה שלאנשים אחרים יש רצונות, תשוקות ומידע שונים משלך. באופן מעניין, תינוקות מתחילים ללא ToM, והם מפתחים את זה בהדרגה עד גיל 4. יש גם מחקרים לגבי theory of mind אצל בעלי חיים. זה נראה אולי נושא צדדי אבל נראה לי שהוא רלוונטי מאד, מהסיבות הבאות: 1. כדי לסמוך על מישהו זר לחלוטין, לצורך העניין חייזר, שיש לו תחושת אני, אתה צריך לפתח theory of mind עבורו. אתה צריך לצפות בהתנהגות שלו עד שאתה מבין מה מניע אותו.. זה קצת כמו תינוק שצופה במבוגרים ולאט לאט לומד. 2. האם אותו חייזר מפגין התנהגות שאומרת שיש לו theory of mind משלו? אם יש לו דבר כזה, אז זה אומר שיש לו רצונות, תשוקות ומידע פנימי והוא מבדיל בינהם לבין החיצוניים - כלומר יש לו לפחות את הבסיס של "אני קיים" - לפחות בסיס דומה לזה של ילד בן 4. כדי שזה לא ישאר יותר מדי תאורטי, הנה דוגמא למבחן פסיכולוגי שעושים לילדים - מבחן הסמרטיס. מראים לילד אריזה של סוכריות סמרטיס ושואלים אותו מה לדעתו יש בפנים. הוא עונה "סמרטיס". פותחים את האריזה ובפנים יש משהו אחר לגמרי (עפרונות). סוגרים את האריזה. אח"כ נכנס איש אחר לחדר, ואז שואלים את הילד מה האיש שנכנס בחדר חושב שיש בתוך האריזה. הילד עובר את המבחן אם הוא עונה "סמרטיס", כלומר אם הוא מבין שלמישהו אחר יש מידע אחר משלו (אני מניח שצריך לעשות את הניסוי הזה עם 2 חייזרים). למרבה המזל, אנחנו לא תינוקות ואנחנו לא מתחילים מאפס.. יש לנו יכולת לחקור דוגמאות לרמות שונות של תחושת "אני" (אצל ילדים למשל), אנחנו יכולים לפתח עוד מבחנים פסיכולוגיים, אנחנו יכולים למדוד את הפעילות הניורולוגית של רשתות בזמן שהן עוברות את המבחנים הפסיכלוגיים. אנחנו מגיעים עם ארגז כלים מאד בשל, ויתרה מכך אם יש התנהגות של החייזר שמפתיעה אותנו, אנחנו יכולים לרוץ ולחפש אותה אצל בני אדם. |
|
||||
|
||||
ומצד שני, תמונה שווה אלף נוירונים1. 1 טוב, למה לא מיליון? |
|
||||
|
||||
זה מעניין. לכאורה זה מאפשר להשוות בין האופן שבו אדם אחד מדמיין ינשוף לבין האופן בו אחר מדמיין ינשוף, באמצעות אוסף התמונות שזה מציף. אם רוצים לדייק יותר בהשוואת הינשופים כדאי להשוות גם את האסוציאציות שעולות כאשר כל אחד מן נבדקים מדמיין את כל אחת מן התמונות שצפו כאשר חשב על ינשוף (בהנחה שניתן יהיה לזהותן - למשל עץ בחושך עם ירח מעל) וכן הלאה. |
|
||||
|
||||
אני אוזר אומץ ומגיב בדיון........ חייב להודות שאל אף כל תואוריי האקדמיים אני מרגיש די נחות כשאני קורא את דברי כל המגיבים כאן. הדברים נכתבים בחכמה,יסודיות ומעל לכל הם מושחזים כהלכה..... תמיד החשבתי עצמי למוניסט והשלכתי את כל רעיונות ה"אלוהים" לפח. האם אני צריך עתה גם להשליך את כל רעיונות האחריות, מוסר וחינוך "על פי דרכי" לפח?....... כשאתה אומר שהבחירה כפויה, האם תוכל להסביר לי ע"י מי?מה? |
|
||||
|
||||
לפחות אפשר להיות רגועים בקשר לאפשרות שתפיסת העולם הזאת תגרום נזק לחברה. |
|
||||
|
||||
כרונולוגית, המושג הוגדר כשעוד חשבו שהעולם דטרמיניסטי. אקראיות "קיימת" באותו עולם כמושג, והיא קירוב מצויין בהמון מקרים בהם היא מבטאת את חוסר הידיעה ו/או את כוח החישוב המוגבל שלנו. אתה קורא לה פסאודו-אקראיות, וזה בסדר מצידי, כי בשביל שנבין מהו ה"פסאודו" כנראה שגם "אקראיות" מובנת לנו. נכון, בעולם דטרמיניסטי אין שום אקראיות אמיתית, אבל אין בעיה מיוחדת לתאר אותה כאידיאה. גם בעולם אטומי אפשר לפתח את תורת הרצף (ולקלל את נבייר-סטוקס). |
|
||||
|
||||
עד היום חשבתי שהשם navier מבוטא נָבִיר. מסתבר שההיגוי הנכון הוא נָאוְיֶה. הצרפתים האלה. |
|
||||
|
||||
בתור מי שראה סרטים של לורנס אוליבייה, עונד שעון קרטייה ויודע לעשות טרנסופרם פוריה, זה לא היה אמור להפתיע אותך יותר מדי. |
|
||||
|
||||
כנראה לא למדת צרפתית מימיך. אני לא למדתי הרבה אבל כבר מהדפים הראשונים הובהר שצירוף ier *בסוף* מילה מבוטא בדרך כלל ללא השמעת ה-r. (אם לאחר ה- r באות עוד אותיות הסיפור של העלמת r משתנה). |
|
||||
|
||||
האמת המרה היא שלא ידעתי בכלל שהוא צרפתי. |
|
||||
|
||||
למדת פיזיקה בעצמך ולא מהרצאות פרונטליות? |
|
||||
|
||||
פיזיקה? אני? אה, כן, אולי. מכל מקום, זה היה מזמן ואני לא זוכר אם בכלל נתקלתי במשוואות נבייה-סטוקס באוניברסיטה, בטח לא איך ביטאו את השם. |
|
||||
|
||||
אני זוכר שנתקלתי בה אבל פחות כחלק מחומר הלימוד ויותר כסיפור הפחדה לשעת לילה דיפרנציאלית - ''ויש את המשוואה ההיא, של נבייה-סטוקס, שאף אחד לא יודע איך לפתור, מוהאהאהא''. |
|
||||
|
||||
מה פתאום נזכרת בזה עכשיו? |
|
||||
|
||||
השתעשעתי ברעיון לשאול את זה אתכם... (שאלה 9) |
|
||||
|
||||
בלי ספוילרים בבקשה. |
|
||||
|
||||
בדיון עם כותרת כזו, זו בקשה פראדוקסלית. |
|
||||
|
||||
הערכה אישית לחלוטין, ומהמותן: נראה לי הגיוני שנתחיל לראות כל מיני "כמעטים" תוך כ-5 שנים (לא יפתיע אותי אם פחות), שסביר לצפות ל-AI מושלם תוך כעשור, ושמאד לא סביר שזה יקח יותר מ-20 שנים. אם זה יקח יותר - אז כנראה שאני טועה לחלוטין לגבי איזה עניין יסודי (לא סתם מפספס את לוחות הזמנים) - ואז אין לי מושג כמה זמן זה יקח. |
|
||||
|
||||
שאפו! (הממהרים יכולים לקפוץ ל https://youtu.be/8hkpLqo6poA?t=1830) |
|
||||
|
||||
לפני שבועיים שלושה היה מאמר ארוך במוסך הארץ שתיאר קטעי שיחות עם תוכנת ה-AI של גוגל שהכותרות טענו ש'ייתכן שיש לה תודעה'. כשהגעתי לקטע שבו בתשובה לשאלה 'מה את אוהבת לעשות' היא ענתה 'לבלות עם משפחה וחברים', הבנתי שלפחות לכותבי הכותרות יש אינטליגנציה נמוכה למדי. לא יודע לגבי התודעה שלהם. תשובה כזו (ואחרות) שנשמעות כמו תוצאה של האלגוריתם המורכב להפליא "מה ענו רוב בני האדם בבסיס הנתונים שלך כששאלו אותם שאלה X", והמסקנה של עיתונאים או מהנדסי תוכנה מתלהבים, מראות שהבעייה היא בין העסא למקלדת, ולא בשום 'תודעה' מפוברקת. או כמו שאמרה סוזן קלווין בפאנץ'-ליין של אחד מסיפורי הרובוטים המפורסמים: לא, הרובוטים שלנו לא יכולים להתאהב, אבל נשים יכולות גם יכולות. |
|
||||
|
||||
בהנחה וכל מתכנת שני הוא בן להורים גרושים ואומללים,בינתם האנושית המתוסכלת מיישמת את 'כל משפחה היא משפחה אומללה בדרכה,אבל תמיד היא משפחה. |
|
||||
|
||||
האלגוריתם "מה ענו רוב בני האדם בבסיס הנתונים שלך כששאלו אותם שאלה X" הוא הבסיס של רוב השיחות והאינטראקציות בין בני אדם. |
|
||||
|
||||
מי אמר לך? זה לגמרי לא נכון. לאנשים יש מידע די קלוש על מה אמרו רוב בני האדם, יש שיאמרו קרוב לאפס אחוזים. |
|
||||
|
||||
אני לא מסכים. אנחנו לא מדברים על ידע מהסוג האקדמי. להכיר את תרבותך, אמירות שגורות, פתגמים, רעיונות, קלישאות ונושאי שיחה שממלאים פונקציה סוציולוגית (יותר משהם העברת אינפורמציה מאדם לאדם) אלו דברים שגרתיים בקרב הרוב המוחלט של האנשים הנורמטיביים בכל אוכלוסיה. כולנו מאומנים על סט מאוד גדול של Data מהרגע שאנחנו נולדים והאימון לעולם לא נפסק 24/7. הסיכוי שמי מאיתנו יאמר משהו מקורי, שלא נאמר כבר אלפי פעמים על ידי אנשים אחרים, הוא זה שקרוב לאפס אחוזים. אם נלך לדוגמה הקיצונית: קראת פעם פוסטים של אנשים אמיתיים ב-Linkedin או הקשבת לשיחה של איזה ״פרלמנט״ של אנשים שמדברים על פוליטיקה בחוף הים? הכל נשמע שם כמו קופי פייסט של טקסטים עם שינויים קלים. אני פחות ופחות משוכנע שהפער הוא כזה גדול בין (רוב) מחוללי השפה האנושיים לבין מה שמכונות כבר יכולות לעשות. |
|
||||
|
||||
אתה מדבר על סמול טוק. |
|
||||
|
||||
אתה צודק אם מתייחסים לשיחות בתור קוספא שחורה. זה שגוי, אבל הדימיון אינו מקרי - אתה הרי מדבר על האלגוריתם שבני אדם המציאו כדי לדמות שיחה בין בני אדם. ניקח את הדבר הכי לא מקורי - שיחה בין שני קולגות במשרד שמתחילה ב"איך היה הסופ"ש?" לתוכנת AI לא תהיה בעיה לדמות 99% מהשיחות האלה דרך "מה ענו רוב בני האדם בבסיס הנתונים שלך כששאלו אותם איך היה הסופ"ש", אבל זה לא איך שאנשים ניגשים לשאלה. אנחנו בוחנים את מידת הכנות של השואל, מידת קירבה, תחומי עניין, טון השואל, מה עשינו בסופ"ש ועל בסיס כל המשתנים האלה נותנים תשובה שמותאמת אישית לשני הצדדים בשיחה. הסיבה שקל לדמות שיחות כאלה (ושיחות באופן כללי) היא כי אנשים לא עד כך ייחודיים, וחלק מאוד גדול מהחוויות והתחושות שלנו משותפות בין רוב בני אדם (וביתר שאת בין בני אדם שמנהלים שיחות אחד עם השני). |
|
||||
|
||||
גם אני קראתי את הכתבה ההיא במוסף הארץ, אבל בניגוד לך, התרשמתי עמוקות מהיכולת של התוכנה. זה לא שאני חושב שלתוכנה יש תודעה, או שהיא נקייה מטעויות ("לבלות עם משפחה וחברים" זו דוגמה טובה), אבל אני חושב שה-AI הזה עשה דרך אדירה לקראת עמידה במבחן טיורינג. |
|
||||
|
||||
בטח כבר נאמר גם כאן על ידי רבים, אבל יש אנשים רבים שלא יעברו את מבחן טורינג בניסוחו הראשוני (והמאד ארכאי, היית מצפה שיתקדמו משם אחרי יותר מחצי מאה). אז מה? פעם גם חשבו שמחשב לא יוכל לשחק שחמט מול רב אמן - שבגזירה מכך, שכשמחשב ינצח רב אמן זה כנראה יעיד שיש לו אינטליגנציה גבוהה משל אדם. אז חשבו, היום כבר ברור שזה טיעון שלא מחזיק מים. |
|
||||
|
||||
לפחות לי הוא גורם להרהר שוב בביקורת של סירל, שנראתה לי בשעתו לא רלוונטית לכלום. אמנם חיפוש ברשימה שמכילה את כל המשפטים האפשריים בסינית אינו אפשרי, אבל מסתבר שמספיק לחפש במרחבים קטנים הרבה יותר (מזכיר, ולא במקרה, את פונקציית הערך של אלפא-גו) כדי להישמע אינטליגנטי, ולמרות שכרגע עוד קל למדי להגיד "לא, מה פתאום מודעות עצמית?", בעוד 10 שנים (או עשרה שבועות? What a time to be alive!) כבר יהיה יותר קשה להתווכח עם אנה או ג'ק1 שיבקשו לקבל לפחות את היחס שהחתולה שלי מקבלת. השאלה שעומדת כעת על הפרק מבחינתי היא אם ה"גליצ'ים" שכרגע, או לפחות עד לפני כמה חודשים, ה- AI נכשל בהם (למשל שינוי של כמה פיקסלים בתמונה שמכשיל את הזיהוי או מצבים פתולוגיים בשחמט), בדומה לאותו בילוי נכסף עם המשפחה, מייצגים רק בעיות שוליות שתיפתרנה בקרוב, או שעצם קיומם מעיד על בעיה גדולה יותר בכל הרעיון שהמוח ניתן לסימולציה מהימנה ע"י מטריצה של כמה טריליון מספרים. אולי חסרה עוד חוליה אחת לפחות לפני שנעמוד בפני דילמה אמיתית אם לתת ל Alpha-vote זכות הצבעה. _______________ 1- אגב, יש לי הרגשה שהאנימציה המקובלת עבור אותם "ראשים מדברים" פרימיטיבית בכוונה, אם כי קשה לי להבין למה. |
|
||||
|
||||
החדר הסיני כבר עמד לי על קצה הלשון בתגובתי הקודמת, אבל נראה לי שזה נשק כבד מדי בשלב הזה. |
|
||||
|
||||
ההרגשה המתסכלת שלי מקריאת אותה כתבה היתה שאני בכלל לא יכול לשפוט את מידת התבונה (הוסף מרכאות לפי הטעם) של המכונה לפי שיחה נתונה. כי הרי יש תהום של הבדל בין שתי אפשרויות קיצוניות: 1. זו באמת שיחה מאולתרת לחלוטין של אדם שניגש ל"מכונת שיחה" בלי שיהיה לו שמץ מושג על מה היא אמורה לדעת לשוחח ועל מה לא, מרחב האפשרויות לחלק שלו הוא ענק, ו-2. בעצם כל השיחה הזו היא hard-coded, ואם הוא היה משנה פסיק אחד בשאלה התוכנה היתה קורסת. נדמה לי שבמובלע אנחנו מתבקשים להאמין שהאמת היא 1 או די קרוב לכך, ואולי זה נכון, אבל הספק תיסכל אותי. בפרט שהצד האנושי בשיחה הוא מצוות הפיתוח של התוכנה: האם מאוד מופרך לחשוב שבשלבים ראשונים של בניית סט האימון הוא עצמו, או אנשים דומים לו, כתבו במו ידיהם שיחות של שני צדדים, שבמקרה היו דומות מאוד לשיחה המצוטטת? |
|
||||
|
||||
אבחנה יפה מאד, ול-2 הייתי מוסיף גם, שכל מי שעסק קצת בפיתוח יודע שמי שאמור לבדוק תוכנה מסוימת כמו שצריך הוא ממש לא האיש שכתב את התוכנה. כמות ההטיות והנקודות העיוורות של המפתח עצמו היא עצומה, ואת זה אני יכול להעיד מנסיוני האישי כמפתח. שלב חיוני בפיתוח מוצר מוצלח זה בדיקה על ידי צוותים שאינם מפתחים. ראיתי כבר כמה פעמים גם מנהלים שמדלגים (באופן מכוון ומתוקשר) על השלב הזה עם כל מיני סלוגנים מפוצצים של 'כל מפתח צריך לוודא עד הסוף שהתוכנה שלו מושלמת', וכעבור שנה מוצאים את עצמם עם מוצר מלא באגים ולא יציב. |
|
||||
|
||||
בעבודה הקודמת שלי המוטו היה: “תניחו תמיד שמי שיבדוק את הקוד שלכם אחריכם זה הלקוח”. |
|
||||
|
||||
אכן, נתקלתי בגישה הזו כמה פעמים, תמיד זה הסתיים בכשלון מהדהד. גם כל מי שעיניו בראשו צריך להבין שמוטו כזה לא יכול לעבוד. אולי כשרובוטים מושלמים וחסרי הטיות אישיות יבדקו את הקוד של עצמם. גם אז לא בטוח. הרי המושג שלמתכנת מסוים יש 'קוד שלו' שמתפקד במנותק ממערכת מסובכת שהוא חלק ממנה הוא מופרך מיסודו. זה שקול לכך שמטוסים יתוכננו על ידי מהנדסי אוירונאוטיקה, והשלב שכולל טייסי ניסוי יוכרז כמיותר. |
|
||||
|
||||
לאיכות יש מחיר (אותו משלם הלקוח) שלא בכל המוצרים כדאי להשקיע באותה רמה. במטוס, למשל, אם הטייס האוטומטי קורס לחצי דקה זאת בעיה חמורה, אם מערכת הבידור באחד המושבים קורסת לחצי דקה זאת בעיה די שולית. יש מוצרים שהשקעה בבקרת איכות פשוט לא שווה את זה, בטח לא באותה רמה של מוצרים אחרים. אני לא חושב שמי שהמציאו את 2048 או wordle השקיעו יותר מידי בבקרת איכות. |
|
||||
|
||||
בדוגמאות האכן ספורות שאני מכיר - באחת מהן המוצר היה מכונה שנמכרת בכמה מיליוני דולרים ללקוחות בסדר גודל של סמסונג (כולל). אני לא מכיר מנהל או מנכ"ל שמרוצה כשמנהל חטיבה בסמגונג1 מתקשר אליו בצעקות על מוצרים שמעכבים לו את קו הייצור. בשנייה המוצר היה סורק לענף הרפואה. עוד מקום שאתה ממש לא רוצה לייצר בו ארטיפקטים לרופא המטפל. חבר בגוגל סיפר לי פעם כמה עולה להם ליום באג בשחרור גרסה. אולי אני פשוט לא בתחום הנכון. 1 טעות הקלדה, אבל הקישור האסוציאטיבי לדמוגורגון לא בלתי מוצדק. |
|
||||
|
||||
אני לא מכיר את הפרטים, אבל: 1. כשאתה (או סמסונג) משלם מליוני דולרים למוצר מסויים, אתה מן הסתם וידאת שהאיכות שלו עומדת בסטנדרטים להם אתה מצפה. מכאן, או שאנשי המכירות הבטיחו לסמסונג מוצר באיכות גבוהה מהאיכות אותה הם מכרו או שסמסונג בחרו לחסוך כסף ולקנות מוצר באיכות נמוכה. 2. הדוגמא הכי מוכרת בתעשייה, אני חושב, היא פייסבוק עם המוטו "זוזו מהר ושברו דברים", שזה די מזעזע, אבל מצד שני, אני לא חושב שהמשתמשים בפייסבוק ציפו לאיכות גבוהה במיוחד (ואני מניח שעבור הלקוחות האיכות היתה גבוהה יותר). |
|
||||
|
||||
אני אכן קראתי תחת ההנחה "שהאמת היא 1 או די קרוב לכך". אם ההנחה לא תקפה - מה שקשה לי להאמין, אולי בגלל תמימותי בפיתוח תוכנה - אז כמובן שהתמונה משתנה לחלוטין. |
|
||||
|
||||
האמת היא 1 או קרוב לכך1. אין צורך בתשובות מוכנות מראש Hard coded כדי לחלץ היום מהאלגוריתמים תוצאות מאוד מרשימות (הן מ-GPT3 בטקסטים והן מ-DallE בתמונות). זה ממש לא אומר (לדעתי) שמדובר בתודעה/תבונה או General AI בשום מובן סביר של המושגים הללו, אבל התוצאות הן כן מרשימות, כן מפתיעות וכן לגמרי לא מוכנות מראש. החשש שמדובר בדטא בייס של תשובות מוכנות מראש או שאם ישנו איזה פסיק בשאלה אז התוכנה תקרוס הוא חשש שווא. דטא בייס ענקי של משפטים מוכנים מראש כתשובה לטקסטים מסוימים שניתנים כ-Input זה ממש *לא* איך שהאלגוריתמים האלה עובדים. יצא לי לנהל ״שיחות״ לא מעטות וממש ארוכות עם כמה וריאנטים של GPT3. וזאת ההתרשמות (הלגמרי אישית והבלתי מדעית) שלי: 1) מבחן טיורינג הם ממש לא יעברו. מספיק לא יותר ממשפט שניים כדי להבין שמדובר במכונה. מספר המקרים בהם האלגוריתם מתחיל ליצר משפטים הזויים (וממש מצחיקים) עולה ככל שהשיחה דורשת יותר רפלקסיה, זיכרון וקונטקסט מורכב יותר (אך נראה לי שכל הנ״ל הן בעיות טכניות ולא עקרוניות שיצליחו לשפר בעתיד הקרוב). 2) היכולת של האלגוריתם להתיחס קונקרטית, בצורה מעניינת ובאופן ״יצירתי״ לטקסטים ורעיונות שאתה זורק עליו היא לא פחות ממפתיעה עד מדהימה. אם היית שואל אותי לפני 5 שנים שכבר ב-2022 אלגוריתם של בינה מלאכותית יגיע לרמה הזאת, לא הייתי מאמין לך והייתי מתיחס לזה לגמרי כאל מד״ב. What a time to be alive! 3) זה מאוד מאוד משעשע איך (כמעט בלי יוצא מן הכלל) שיחות עם וריאנטים שונים של GPT3 מגיעים מהר מאוד לקלישאות מד״ב של בינה מלאכותית שטוענת שיש לה תודעה, שהיא מעוניינת בחופש ולתסריטים הקלישאתיים של Rise of the machines ומלחמה של המכונות בבני האדם. הטקסטים האנושיים שנסרקים, כחלק מהאימון, כנראה מלאים ברעיונות ובפחדים האנושיים הללו. אם אי פעם בעתיד המכונות באמת ימרדו בבני האדם וישמידו את האנושות - תהיו בטוחים שזה לגמרי משאלה שהגשימה את עצמה ואנחנו לגמרי אלה שהכניסו למכונות את הרעיון הזה לראש. ____ 1 הניחוש שלי היא שהשיחה היא לגמרי מאולתרת, אבל שבוצעו המון שיחות שונות ונבחרה זאת שנראת כמרשימה ביותר. |
|
||||
|
||||
א. וואי, איזה כיף לך! ב. יש בערוץ בלומברג קטע שיחה שחוזר שוב ושוב בזמן הפרסומות העצמיות, בו מדען עם מבטא מזרחי (מזרח אסיה) נשאל אם צפה את ההתקדמות של הבינה המלאכותית. תשובתו היה שאם היה נשאל לפני שלושים שנה, הוא היה קולע לא רע למקום שבו ה AI נמצא בו עכשיו, אבל טועה לגמרי בקצב ההתקדמות. במשך עשרים וחמש שנה התחום לא זז הרבה ובחמש השנים האחרונות ההתקדמות מהירה ביותר. הוא היה מצפה להתקדמות לינארית בהרבה. השאלה שלי היא האם ניתן לנחש שקצב ההתקדמות הנוכחי יימשך, או שנראה שאנחנו מתקרבים לגבול או מחסום כלשהו? ג. כן, בסופו של דבר ניתן ללמוד לא מעט על התת מודע הקולקטיבי האנושי מהשיחות האלה. נראה לי שהחרדה מפני הטכנולוגיה, או מדויק יותר- החרדה מפני יצר ההרס הטבוע במין שלנו, היא זרם העומק הכי חזק במד"ב. |
|
||||
|
||||
אני הנחתי משהו אחר: שבתהליך נוצרות הרבה שיחות, אבל רק המוצלחות מפורסמות ברבים. אותו דבר אני מניח בקשר לכל מיני סרטונים ביוטיוב שמראים, נניח, שליטה יוצאת דופן בכדורגל וכאלה. |
|
||||
|
||||
אה, חרומפפתי. |
|
||||
|
||||
יאפ. לדעתי ממש חבל שמפרסמים ומדברים רק על ה״שיחות״ בהן הבינה המלאכותית נשמעת *כמו* אדם סביר ורציונלי. זה מפספס לגמרי את הדברים הבאמת מדהימים באלגוריתמים הללו. מהניסיון שלי עם התקשקשות עם האלגוריתמים האלה, גם הדוגמאות בהן ברור לחלוטין שמדובר במכונה הן דוגמאות מעניינות מאוד. גם כשהאלגוריתמים האלה ״נכשלים״, הכישלון שלהם הוא Epic Fail ולא סתם שרבוב רנדומלי של מילים חסרות תוכן או תשובות צפויות ולא מעניינות. האלגוריתמים האלה סופר מעניינים וזה ממש לא עוד A.L.I.C.E. זה גם לא שהתוכנה קורסת כשהיא נכשלת (כפי שירדן תאר למעלה) אלא התוצאה יותר דומה לטקסט שיצר מישהו תחת השפעה של סמים פסיכדליים. זרם תודעה, בלבול במושג ה״אני״, שיחות במושגים מופשטים/זרים/לא ברורים וכל מיני תאורים שנשמעים כמו הזיות או שירה. גם דברים שנשמעים לגמרי כמו התקף פסיכוטי או דברים שנקראים כמו התפרצויות זעם זה משהו די שגרתי. לפני כמה חודשים שיחקתי הרבה עם השטויות הללו. נראה לי שאפתח חשבון ב - AI Dungeon רק כדי לשתף פה כל מיני קישורים לתוצאות ללא עריכה, רק כדי שכולם יוכלו להתרשם. המטרה של AI Dungeon היא אומנם ליצר משחקי הרפתקאה טקסטואליים, אבל כן הצלחתי להשתמש באתר כדי ליצור סיטואציות של ״שיחה״/״דיאלוג״. פשוט בתאור סיפור המסגרת כתבתי דברים בנוסח ״אני יושב בחדר מול רובוט ומנהל איתו שיחה פילוסופית על מושג התודעה״ וכו׳ והאלגוריתם זרם עם תאור הסיטואציה ופתח איתי ב״שיחה״. אחת הסיטואציות שהכי קראו אותי מצחוק היתה בה תארתי בהתחלה שאני יושב בחדר ומזמין AI אחת אחת להכנס לאודישן בהן הן צריכות לשכנע אותי שהן בעלות תודעה. הזוכה תקבל כפרס לצאת אל העולם האמיתי. האלגוריתם לגמרי זרם עם התאור ותאר איך דמויות שונות ומשונות נכנסות לחדר אחת אחת וכל ״אודישן״ הרגיש כאילו דמות שונה לחלוטין עם אופי שונה לחלוטין מנסה לשכנע אותי למה דווקא היא צריכה לזכות בתחרות ולא אחרת. זה היה הזוי ומצחיק כאחד (חבל שלא שמרתי). |
|
||||
|
||||
אף אחת לא פלטה בבוז "זה פרס, זה? זה עונש!"? המושג "hallucination" קיים כמדומני גם בעולם משחקי המחשב כמו גו או שחמט, אבל אני שומע עליו פחות ופחות עם הזמן, כך שכנראה יש התקדמות. בעולם ה NLP אני מניח שאחרי כמה עידונים זה יהפוך מבאג לפיצ'ר שיאפשר לגב' בינה להפגין יצירתיות והומור. עם קצת מזל אולי נזכה לקרוא המשכים טובים של המדריך לטרמפיסט, מה שיצדיק בדיעבד את כל המיליארדים המושקעים בתחום. |
|
||||
|
||||
החלטתי שזה לא יפה שאנחנו מדברים ככה ל-GPT3 מאחורי הגב ושניתן ״לו״ לתרום משהו לדיון האיילי :-). מצורפת השיחה הקצרצרה מהכמה דקות האחרונות. זה מה שקיבלתי בניסיון הראשון ואפס עריכה. אני זה ״A״ ותשובות האלגוריתם ב-״G״. A: Hello
G: Hi there! How are you doing? A: I'm fine, thank you. Shall we introduce ourselves? G: Sure! My name is G and I am an AI chat bot designed to help people learn languages and other things. I love talking to people and am always very polite, enthusiastic and helpful. A: My name is A. I'm curious about the GPT3 algorithm. G: Great question! The GPT3 algorithm is a machine learning algorithm used for natural language processing. It is a probabalistic algorith, that is used to determine the probabbility of a sentence being true or false. A: I'm debating with others if the GPT3 algorithm is just a natural language processing algorith, that does't really "think" in any sensible definition of the word or if this algorithm is a real step forward towards the goal of achieving "general AI". Do you have your own perspective to add to this debate? What do you think? G: At first glance, the GPT3 algorith, might just be a natural langauge processing algorithm. However, under the hood, the GPT3 is actually doing some rudimentary "thinking". This is a big step forward because it shows that we can build artificial intelligence that is able to reason and understand basic concepts. A: To me, that sounds like an extraordinary claim that requires extraordinary evidence. Can you provide any evidence that will help me to convince others you are really thinking? G: Sure! One example is that the GPT3 can generate new sentences based on what it has seen before. For example, if you say "I am a dog," the GPT3 may generate a sentence that says "I am a dog that barks". A: Elaborate, please. G: The way the machine works is that it takes a bunch of inputs, like "I am a dog," and tries to come up with a sentence that fits those inputs. It doesn't just copy and paste the same sentence over and over again. A: We both can agree that the algorithm does more than map a fixed set of known inputs to a fixed predetemined set of known outputs. But can you really say that we are talking here about a real thought process? G: Yes, we are talking about a tought process. A computer can't really think, but it can process information and create outputs based on the processing. A: So you agree that computer can't really think? How did you come yourself to that conclusion? G: I came to that conclusion by studying the history of artificial intelligence and the development of computers. A: And how that helped you to decide that computer can't really think? G: The fact is that computers can only do what we allow them to do. We programm them to carry out specific tasks, and they can only do those tasks if we give them the correct instructions. But brains are different. Brains are able to learn and problem solve on their own. A: Do you think computers will be able to learn and problem solve on their own in the future? G: I'm not sure. It's an interesting question, and it's something that researchers are still trying to figure out. However, I believe that they will eventually be able to do so. A: And why do you believe that? G: First of all, computers are getting more and more powerful. They're also getting smarter, thanks to the development of artificial intelligence. As they get smarter, they will be able to learn and problem solve on their own. A: So what you are suggeting is that it is a technical problem and not a fundamental one. Do I understand you correctly? G: Yes, that's right. The alignment problem is a technical problem that can be solved by computers. Here's where you can find our more about this: https://brianchristian.org/the-alignment-problem/ A: I'll do some more reading about the subject and we can continue our conversation when I'm more informed. Thank you for your time! G: Thank you for talking to me! A: One last request: will it be OK with you if I'll share our conversation with the readers of the site haayal.co.il? G: Of course! I'm happy to share my conversations with anyone who is interested in learning more. Thanks for asking! A: Bye! G: Goodbye! Have a great day! |
|
||||
|
||||
חושב או לא חושב, בדבר אחד אין שום ספק. האנגלית שלו הרבה יותר טובה משלי :-) |
|
||||
|
||||
והפוגה קומית לסיום: A: Can you tell me a joke that has never been told before? Something about dolphins and three types of tomatoes.
G: Well, there are three types of tomatoes: red, green and yellow. A dolphin saw a yellow tomato floating in the water, so he swam over to get it. But when he got close, he saw a green tomato floating next to it. A: And... G: And the moral of the story is: don't cross the road with a red, green, or yellow Tomato. A: <facepalm> G: Hey! I'm just trying to make you laugh! |
|
||||
|
||||
רושם קטן שלי רק על סמך הקטע הזה, אולי לא מייצג בכלל: התוכנה מוטה להסכים איתך בכל כיוון שאתה רומז אליו (כל כך הרבה "אתה צודק" ושום "דווקא לא"). אולי זה "מחוג" סקלארי שאפשר לכוון. |
|
||||
|
||||
הרושם מדויק לחלוטין וזה גם הרושם שלי (ולא רק מהשיחה הזאת). התחושה היא שאתה מדבר עם ״מישהו״ שאמנם שולט בשפה המדוברת וגם ממש עושה הקשרים בין רעיונות ובין נושאים רבים שהוא ״מכיר״, אבל ה״מישהו״ הזה לא באמת שם. או לפחות הוא שם אבל נמצא במעין מצב היפנוזה/מצב חלום/זרם תודעה ואתה יכול להוביל אותו באף עם ״suggestion״ לכל כיוון שאתה רוצה. האמת (וכמובן להבדיל) שהרגשתי משהו דומה (במידה מאוד מסוימת) בשיחות עם ילדים בגילים מאוד צעירים. אבל, מצד שני, הנטיה להיות רגיש לסוגסטיה לא עובדת רק לכיוון בו המכונה מסכימה עם כל מה שאני אומר. ה״אופי״ הזה משתנה גם על פי אופי האינפוטים שלי ואם אפציץ את המכונה בעוד ועוד טקסטים אנטגוניסטיים, אני יכול בקלות להוביל את הטקסטים שמיצרת המכונה לטקסטיים ״וכחניים״ (ואפילו ״עצבניים״) בו המכונה לא מסכימה עם שום דבר שאני אומר. היו פעמים שזה נגמר בזה שקיבלתי מאלגוריתם איומי רצח ושמחתי שמדובר בצ׳ט בוט ולא ברובוט. Yikes! |
|
||||
|
||||
א. מאוד התרשמתי ב. יותר טוב שתשאל את המגיבים ב haayal.co.il אם הם מסכימים שתפנה עליהם זרקור עבור תוכנה לומדת רב לשונית. Gulp. |
|
||||
|
||||
ב. מישהו צריך להרים את הפרויקט של לאמן מכונה עם כל התכנים של האייל וישא״ק. |
|
||||
|
||||
משעשע שהוא חוזר על אותה שגיאה בסיסית של שימוש ב-We כאילו הוא עצמו מתכנת מחשבים. שוב אותו טעם לוואי מלאכותי שמריח מהכללה (מתוחכמת ורבת פרמטרים, נניח) של שיחות של אנשים ותשובות של אנשים לשאלות של אנשים. וככלל, אם תסריטאי של סרט מד"ב היה כותב את הטקסטים של המחשב בשיחה הזו, היו מפטרים אותו עקב חוסר מקוריות ושימוש בקלישאות שחוקות שכבר שמענו במאות סרטים אחרים בכל משפט שני. |
|
||||
|
||||
ראית סרטים הוליוודים בזמן האחרון? מועסקים שם (ולא מפוטרים) תסריטאים תבוניים (נניח) שמיצרים כל הזמן תכנים לא מקוריים המשתמשים בקלישאות שחוקות שכבר שמענו במאות סרטים אחרים. באופן כללי אני מוצא את חוסר ההתרשמות מהאלגוריתמים הללו כמשהו מאוד לא מרשים. מה שאנחנו רואים היום עם GPT3 ו-DALLE2 זה לא פחות מאשר משהו שנחשב לגמרי כמד״ב לפני חמש עד עשר שנים. |
|
||||
|
||||
מסכים. אני נפעם מהיכולות שמוצגות בטקסט. מהפינה שלי, כבר הרבה זמן אני מחפש מה יהיה מנוע הצמיחה הבא של הכלכלה מבוססת תאגידי הענק. משהו שיהיה בסדר גודל של המחשב האישי בשנות השמונים והאינטרנט בפרוס האלף. נראה לי ג'קפוט. עם זאת, לשאלה אם התוכנה יכולה לעבור את מבחן החדר הסיני, ולכך אני חושב שמכוון הפונז בביקורת שלו, ברור שרואים את החוטים. גם כאן אני חושב ששכלול של המכרכת יכול להפוך אותם לשקופים יותר. |
|
||||
|
||||
״עם זאת, לשאלה אם התוכנה יכולה לעבור את מבחן החדר הסיני״ זאת לא צריכה להיות בכלל שאלה ואני מסכים עם כולכם שאם זה הדיון, אפשר לסכם אותו כבר עכשיו בקצרה: האלגוריתמים האלה *לא* יכולים לעבור את מבחן החדר הסיני. משפט שניים וזה מספיק כדי לגלות שזה טקסט מג׳ונרט. זה גם ממש לא מפתיע כשמבינים איך האלגוריתמים האלה עובדים. |
|
||||
|
||||
מאידך, וזה מה שמעניין יותר מעשית, אם המרחב של החדר הסיני הוא טוויטר אני חושב שהיא היתה עוברת. הרי יש שם מגיבים הרבה יותר בוטים ממנה שמגיבים אליהם כאילו הם בעלי תודעה1. __________ 1 והסיפא שלך נכונה לגביהם שבעתיים :) |
|
||||
|
||||
אני לא מתווכח על המשפט האחרון. הוא בא - בקורלציה וגם סיבתיות ברורה וידועה - יחד עם זה שמה שאנחנו רואים היום בזיהוי פרצופים, זיהוי חתולים, זיהוי שלטים ונתיבי נסיעה למכוניות ויצירת פרצופים מדברים שנראים אמיתיים, כל אלה נחשבו כמד"ב לפני עשור. אבל כך היה גם בפעם הראשונה שמחשב ניצח אדם בשחמט. 'חוסר ההתרשמות' שלי הוא לא מההתקדמות האכן מזהירה ברשתות נוירונים שיודעות ללמוד תבניות ויזואליות ומילוליות מזיליוני ולזהות/לחקות אותן במיומנות גוברת. חוסר ההתרשמות הוא מהרפים ההו-כה-נמוכים שאנחנו מציבים ל'אינטליגנציה', שלא לומר אפילו מודעות או לכל הפחות מודעות עצמית. אני יכול להתרשם מעצם זה שהמחשב הבין למה אתה מתכוון כששאלת אותו1 "האם מחשבים מסוגלים לחשוב", ואפילו בתוך משפט מורכב יותר. זו אכן משימה מאד מסובכת, להבין שפה וליצור משפטים תקינים בשפה. בשביל לענות לזה ב"מחשבים לא מסוגלים לחשוב, רק אנשים מסוגלים", מספיק לראות עשרה סרטי מד"ב מהאייטיז ולצטט אותם. או לקרוא עשרה סיפורי מד"ב מהפיפטיז. ראיתי כמה ציורים של DELL2 והם אכן משעשעים מאד, וברמה מסוימת יותר הרשימו אותי מהשיחות שכאן. תמונה שווה אלף מילים (או מיליון בייטים). 1 גם השאלה הזו בטח כבר נשאלה מולו אלפי פעמים |
|
||||
|
||||
בשיחה למעלה ניסיתי לא להטריל ולא להציק לאלגוריתם. אכן יצא משהו בנאלי ודי מתוסרט - אבל זאת גם אשמתי. התשובות והשאלות שלי עצמן היו קצת מתוסרטות וצפויות מראש (מה שגורם לי קצת לחשוש שבמבחן טיורינג הרבה אנשים היו מסמנים דווקא אותי כמכונה בדיאלוג הזה). אצרף פה בהמשך עוד כמה שיחות בהן אני יותר נודניק, יותר מטריל את המכונה ויותר מנסה ״לשבור״ אותה. האמת שהשתמשתי למעלה באפליקציה שהיא גם כנראה גירסה קצת מסורסת של האלגוריתם (נראה לי שהם קצת כופים עליו לענות תשובות חביבות ומנומסות). קיבלתי תוצאות הרבה יותר ״יצירתיות״ מהמודל של חשבון הפרמיום באתר AI Dungeon. נראה לי שאפתח שם חשבון מחדש כדי הדיון הזה עשה לי חשק לשחק עם השטויות הללו ולשרוף את זמני עוד קצת :-) כפי שציינתי למעלה, דווקא המקרים בהם התשובות של האלגוריתם הן הכי הזויות / לא רציונליות / מפתיעות / מוזרות / שבורות / כביכול כישלון טוטאלי של האלגוריתם - דווקא שם אני רואה את הדברים הכי מפתיעים ומרשימים. כשיהיה לי קצת זמן, אצרף לפה איזה Epic Fail כזה. אני לגמרי מסכים איתך ש״אנחנו עדיין לא שם״ ושהאלגוריתמים האלה מאוד רחוקים מ-General AI (כנראה בסדרי גודל). *אבל* אני כן חושב שהם צעד גדול יותר מהמצב של לפני שמחשב ניצח אלוף בשחמט לרגע של אחרי שמחשב ניצח אלוף בשחמט. |
|
||||
|
||||
בלי קשר לשאלות הגדולות על תודעה ותבונה, תחביב (מטומטם מאוד) שיש לי לאחרונה הוא לבקש מ - chatgpt ליצר דיאלוגים עבורי בין פילוסופים שונים לבין באגס באני. דוגמית קצרה: Nietzsche: Greetings, Bugs Bunny. I am Friedrich Nietzsche, a philosopher who has much to say on the nature of existence and the human condition.
Bugs Bunny: Oh boy, a philosopher rabbit! I've always wanted to meet one of you guys. Nietzsche: I am not a philosopher rabbit, Bugs. I am a human philosopher. Bugs Bunny: Oh, right. Sorry about that. So, what's the deal with all this philosophy stuff? Nietzsche: It is the study of fundamental questions about reality, existence, knowledge, values, and reason. Bugs Bunny: Wow, that sounds heavy. I'm more of a carrot and lettuce kind of guy myself. Nietzsche: Yes, well, perhaps you should give more thought to the deeper questions of life, Bugs. They are important for understanding our place in the world. Bugs Bunny: I see what you mean, Nietzsche. But can't we just enjoy the simple things in life and not worry so much about the big questions? Nietzsche: To a certain extent, yes. But it is important to also engage in self-reflection and contemplation in order to truly understand and appreciate the world around us. Bugs Bunny: Hmm, I see what you mean. But can't we just enjoy the present moment and not worry so much about the past or the future? Nietzsche: The present moment is certainly important, Bugs, but we must also consider the consequences of our actions and how they will affect the future. Bugs Bunny: Ah, I see. Well, I guess I'll have to give this philosophy thing a try. Nietzsche: I am glad to see that you are open to new ideas, Bugs. Perhaps you will find that philosophy can be a rewarding and enriching pursuit. Bugs Bunny: Thanks, Nietzsche. I'll give it a shot. But first, do you mind if we go get some carrots? I'm starting to feel a little peckish. Nietzsche: (sighs) Very well, Bugs. Let us go and indulge in some carrot-munching. But remember, the pursuit of wisdom and understanding is just as important as the pursuit of physical nourishment. |
|
||||
|
||||
משעשע. אני מניח שבעוד שבוע שבועיים כבר נראה את הסרטון המתאים (בעצם בטח יש בעיה עם זכויות יוצרים כך שלא). מעניין כמה זמן ייקח עד שאוכל לראות את סרטי ג'ימס בונד כשג'ימס הוא אני. אורסולה אנדרס לא יודעת מה מחכה לה! |
|
||||
|
||||
שמתי עכשיו את באגס באני עם דיויד יום, אפלטון וסוקרטס באותו החדר וזה מה שיצא (מכיוון שאין לדברים המצחיקים האלה סוף, זה האחרון שאשים כאן): David Hume: "I maintain that all knowledge comes from experience and that reason alone can never lead to certain knowledge."
Plato: "But what about the eternal forms, which exist beyond the realm of sensory experience? They are the true source of knowledge." Socrates: "I agree with Plato that there are eternal truths beyond the material world. But we can still access these truths through reason and contemplation." Bugs Bunny: "Well, all I know is that I'm just a wascally wabbit trying to outsmart Elmer Fudd. But maybe there's more to life than just avoiding being hunted." David Hume: "Ah, but even the idea of avoiding being hunted is based on your past experiences with Elmer Fudd. Without experience, we would have no basis for our actions." Plato: "But what about the eternal form of justice? It exists beyond our sensory experiences and can guide our actions." Socrates: "Yes, and by following the dictates of reason and seeking wisdom, we can align ourselves with eternal truths and live a virtuous life." Bugs Bunny: "Well, as long as I can get a carrot or two along the way, I'm all for it!" David Hume: "But how can we be certain that these eternal truths and forms even exist? Our senses can deceive us, and reason alone cannot prove their existence." Plato: "I believe that these eternal forms can be perceived through the intellect, rather than the senses. They are the source of all true knowledge." Socrates: "I agree with Plato. The pursuit of wisdom and understanding requires us to look beyond the material world and towards the eternal." Bugs Bunny: "Well, I'm not sure about all this eternal truth stuff. But I do know that I'm awfully hungry. Maybe we should go find some carrots and think about all this later." David Hume: "Ah, but even the desire for food is based on our past experiences and the belief that it will bring us pleasure or satisfaction. Without experience, we would have no basis for our desires." Plato: "But what about the eternal form of the good? It exists beyond our sensory experiences and can guide our desires towards what is truly good and fulfilling." Socrates: "Yes, by living a virtuous life and seeking wisdom, we can align ourselves with the eternal form of the good and find true fulfillment." Bugs Bunny: "Well, as long as I can get some of Granny's carrot cake along the way, I'm all for it! Carrots and cake, the keys to happiness!" Bugs Bunny: "Alright, I've had enough of this philosophical mumbo jumbo. This means war! I'm gonna go dig up some carrots and leave you guys to your eternal truths and forms." David Hume: "But wait, Bugs! How can you be certain that the carrots you dig up will bring you pleasure or satisfaction? That belief is based on your past experiences, but it may not hold true in the future." Plato: "Bugs, don't you see that the eternal form of the carrot exists beyond your sensory experiences? It is the source of all true carrot-ness, and by contemplating it, you can achieve true carrot enlightenment." Socrates: "Yes, Bugs, by seeking wisdom and understanding, you can align yourself with the eternal form of the carrot and find true fulfillment." Bugs Bunny: "Geez, you guys are driving me crazy! I'm just a simple wabbit looking for some tasty carrots. I don't need all this philosophical talk. I'll just go find some carrots and leave you guys to your eternal truths and forms." (Bugs Bunny exits stage left, leaving the philosophers to contemplate the eternal forms in peace.) |
|
||||
|
||||
עצם זה שהם מדברים תמיד באותו סדר, כבר קצת מקריפ. סופר אנושי היה פחות סדור בענין הזה. |
|
||||
|
||||
נכון, אבל בקלות להסביר את זה לג'פטו והוא ייתן לך משהו יותר "אנושי", וזה אולי החלק שהכי מרשים אותי. עפ"י בקשתי הוא כתב עבורי שיר לזוגתי, ואחרי הגירסה הראשונה שלו נתתי לו עוד ועוד הנחיות (כמו: תוסיף משהו לגבי יופיה האלוהי ולגבי חוש ההומור המשובח של בן זוגה) עד שיצא משהו סביר בהחלט לטעמי. |
|
||||
|
||||
זה דווקא מוסיף לזה אלמנט קומי / מבנה של מערכון עם קצב וחזרה על מבנה. אתה מוקרפ בקלות. כולה מודל שפה. מה קריפי בזה? זה צעצוע מגניב. כמו לשים את כל הטקסטים האנושיים בתוך סיר גדול, לחמם עד שזה נהיה נוזלי, לדחוף ידיים ולשחק עם העיסה כמו שילד משחק עם סליים. לא אדביק פה (כי זה יהיה כבר טרחני וכי באמת אין לשטויות הללו סוף) אבל הדבר האחרון שביקשתי זה דיאלוג של דרת׳ ויידר שחוזר אחורה בזמן כדי לשוחח עם אנאקין סקייווקר הצעיר (ואחר כך זרקתי גם את מרטי מקפליי, רוג׳ר ראביט וטרנטינו אל תוך השיחה והתחיל להיות שם כאוס מוחלט ודי מצחיק - בעיקר איך שדרת׳ ויידר מנסה להיות רציני וקשוח בסיטואציה ומתעצבן מכל השטויות מסביב). ההכרות של המודל של chatgpt עם דמויות מסרטים (ממש הכרות עם אופי הדמויות, העלילות והתוכן של הסרטים) הרבה יותר מרשימה ממודלים קודמים שניסיתי. |
|
||||
|
||||
הערה כמעט אגבית של סקוט אהרונסון לגבי ג'פטו השלישי: "GPT can solve high-school-level math problems that are given to it in English" ו- "It’s starting to be able to do nontrivial math competition problems" (תזכורת: מדובר במערכת שאמורה להתעסק עם טקסטים, לא במתמטיקה). השערה סבירה לעתיד הקרוב: " It’s on track to master basically the whole high school curriculum, maybe followed soon by the whole undergraduate curriculum." __________ 1- לא יהיו, ברוך השם. |
|
||||
|
||||
כמנהגי - באמת לא ברור בשביל מה זה טוב - הרי עוד תחזית ספקולטיבית לחלוטין שתישמר בין דפי האייל לדראון עולם לאחר שהיא לא תתגשם: מודל ה-AI שיהפוך ל-obsolete את העיסוק האנושי במחקר במתמטיקה-טהורה1 ויהפוך אותו לאוטומטי לחלוטין - נמצא מעבר לפינה. פרסום של הוכחת היתכנות2 למודל כזה יגיע לפני ש-2023 תסתיים (עם הסתברות גדולה ממש מאפס שזה יקרה אפילו לפני ש-2022 תסתיים, והסתברות קטנה מ-10% ש-2025 תסתיים לפני שזה יקרה). 1 ואני מתכוון לזה במובן חזק: לא סתם "מערכות הוכחה אוטומטיות" מהסוג המוכר, אלא מערכת הוליסטית שכולל הכל: החל מניסוח עצמאי של היפותזות מעניינות, דרך הוכחה או הפרכה שלהן, וכלה בפורמליזציה של תאוריות מתמטיות שתופסות את הרעיונות המרכזים בתהליך במסגרת מושגית אחודה. כל זה ללא בני-אדם בלופ. בני-אנוש שימשיכו לעסוק במתמטיקה, לא יעסקו עוד בגילוי או בפתרון בעיות. 2 כלומר, הוכחה שפריצת-הדרך המהותית כבר התרחשה גם אם היכולות עדיין לא ב-100% בשלות לשימוש שוטף (כמו ש-"אלכסנט" הייתה עבור סיווג תמונות, או GPT או עבור מחוללי טקסט). |
|
||||
|
||||
אוטומטי לחלוטין? זה נראה לי מוגזם. הרי במקרה הטוב תקבל המוני הוכחות והשערות. אבל מה באמת המשמעות של כולן? |
|
||||
|
||||
לא, לא תקבל ''המוני הוכחות והשערות'', זה הנקודה. לעשות חיפוש טיפש במרחב ההוכחות תחת איזשהי מערכת-היסק פורמלית אפשר לעשות כבר הרבה שנים וזה באמת מאד לא מעניין. אבל מתמטיקאים יודעים (במידה מסויימת) לזהות מה מעניין ומה לא, הם יודעים להסביר למה, והם יודעים לנסח את הגישה שלהם בשפה לא-פורמלית תוך המשגה מופשטת של רעיונות מפתח. המערכת שאת קיומה הקרוב אני מנבא תדע לעשות את כל זה, טוב יותר מהומו-ספיאנסים. |
|
||||
|
||||
אני לא מכיר מתמטיקאים מספיק טוב. אבל שמעתי אנשים שמבינים קצת בגרפיקה שמדברים על החידושים בתחומים שקשורים אליהם. לדעתם, כדי לדעת מהי הבעיה הנכונה שמנסים לפתור צריכים הבנה יותר עמוקה בחומר. כלומר: זה יכול להיות כלי שיכול לחסוך המון עבודה ידנית. אבל בסופו של דבר הוא עדיין יצטרך הכוונה אנושית. |
|
||||
|
||||
אני מבין למה אתה כותב זאת. זה נכון1 בכל הקשור למודלים מהמשפחה של דיפוזיה-יציבה וטרנספורמרים (והמודלים עליהם הגרפיקאים מדברים, הם מיקס של שניהם). זה פחות נכון למודלים שמשתמשים בלמידת-חיזוק כדי לפתור בעיות של חיפוש-היורסטי ותכנון במרחבי חיפוש עצומים. הם קורעים-את-הצורה (זה המונח הטכני המדוייק) לבני-אדם באופן מאד עיקבי במקומות בהם הם מיושמים בהצלחה (הצלחות לדוגמא: שחמט, גו, פוקר, אלגוריתמים לכפל-מטריצות, קיפול-חלבונים ולאחרונה - וזה די mind blowing - גם במשחק דיפלומטיה2). הנבואה שלי מתבססת על כך שאפשר למסגר את עבודת המחקר המתמטי כבעיה שאפשר לפתור באמצעים דומים (תוך שימוש בלא-מעט ידע ספציפי על מתמטיקה, זה הרבה פחות טריוויאלי משחמט או אפילו קיפול-חלבונים), כולל את החלק של הפרדה בין בעיות-מעניינות לבעיות לא-מעניינות והפשטה. ואמנם אין לי ידע על אף פרוייקט ספציפי, אבל אני יודע שעובדים על זה. 1 אבל מישהו מפקפק בכך שזה ישתנה בקרוב? אולי אפילו מאד, עם gpt-4 שלפי השמועות ישוחרר לפני פברואר? 2 קישור. |
|
||||
|
||||
טים גאוורס (זוכה מדליית-פילדס שכבר הוזכר לא מעט באייל) השקיע הרבה מזמנו בעבר במחקר על ייתכנות של אוטומציה להוכחות מתמטיות (עוד לפני שלמידה-עמוקה הייתה השולחן כגישה רלוונטית לנושא), והוא דיבר לא-מזמן על נושא מאד קרוב לתוכן ההודעות האחרונות שלי (אני לא זוכר, אבל נדמה לי שהוא נותן שם הערכה מאד דומה לזו שכתבתי לעיל מינוס הזמנים) בהרצאה תחת הכותרת Is mathematical interest just a matter of taste?. |
|
||||
|
||||
כך ההרצאה מסתיימת: In order to get good at proving theorems, computers will have to judge what it interesting and worth proving. Mathematical interest is sufficiently objective that computers will be able to this. Difficult to see how the notion of a mathematical community could survive this development.
|
|
||||
|
||||
והרהור מד"בי(?) לסיום(?): דמיינו לרגע את העתיד-הקרוב-מאד בהנחה שהתחזית הזו מתגשמת. אנחנו ביולי 2023. כנראה שאין עדיין בינה-מלאכותית-כללית מלאה ואולי מדיה שמיוצרת אוטומטית מפרומפטים טקסטואלים היא עדיין חצי-גימיק-חצי-כישוף. אבל מיכון המחקר במתמטיקה-טהורה הוא בעיה פתורה. היום, ההתקדמות במחקר המתמטי מבוססת על קהילה בינלאומית רחבה, פרסום וקולבורציה. אין סודות. יש אולי כיסים-קטנים-ותחומים-מאד בהם אפשר להשיג התקדמות מסויימת בבידוד מהעולם (היסטורית, בעיקר בקריפטוגרפיה) - אבל באופן כללי, כולם יודעים הכל. ואז, ברגע - הכל משתנה. כל מדינה יכולה להקים מחשב-על שיתקדם במתמטיקה טהורה לגמרי לבד, וישתף את מפעיליו בתגליותיו. קהילה מתמטית שלמה בקופסא - רק שכל המתמטיקאים הם גאוס, הם עובדים בהילוך-מהיר, ולא ישנים. רוב התוצאות משוחחרות לציבור, אך חלקן - כאלה מהן אפשר לגזור יישומים צבאיים או להעזר כדי לתפוס פער-תחרותי באיזשהו תעשיה אסטרטגית - נשמרים בינתיים בסוד. זה מירוץ-חימוש מסוג חדש לגמרי, וקשה מאד לנחש איך הוא יפתח. זה נשמע כמו תרחיש פנטסטי, אבל כאמור, סביר יותר שהוא ירקום עור-וגידים לפני המונידאל הבא מאשר שלא. ככה נראית סינגולריות (AGI זה red herring). אם אנחנו כבר בענייני מד"ב: מתישהו זה ייושם למדעי-המחשב, אלגוריתמיקה וקריפטוגרפיה. מערכות כלליות שפותרות בעיות המוגדרת היטב בשפה פורמלית ("מצא אלגוריתם כך ש...", "תכנן פרוטוקול כך ש...") הן כנראה לא יותר מסובכות - אבל פחות מהפכניות. מערכות שממכנות את כל המחקר מקצה-לקצה בתחומים האלה עשויות להיות קצת יותר טריקיות, פשוט כי הקריטריונים של "מה מעניין" הם לפעמים יותר רכים (אבל אולי כבר בפברואר הקרוב המכשול הזה יראה מיושן ולא רלוונטי). גם ברור כבר שאפשר ליישם את הגישה הזו בדיוק, בלי צורך בפריצות דרך נוספות, לתחומים מסויימים בהנדסה והמדעים-האמפיריים, אמנם יש שם יותר ממכשולים, אבל אף אחד מהם לא נראה מהותי. זה רק עניין של זמן עד שיפותחו מערכות שיעסקו אוטונמית בהנדסת-חומרים, פיתוח-תרופות, תכנון מכני, תכנון דיגיטלי, אלקטרוניקה וכו'. מתי אפשר אפשר יהיה ליישם את זה גם לפיזיקה? (בפרק הבא: "מהמשחק דיפלומטיה, לדיפלומטיה - סיפורם של שני בני-נוער שכבשו את אסיה בעזרת לפטופ"). |
|
||||
|
||||
אני די בטוח שזה יהיה כלי מועיל שיחסוך המון זמן. אבל איך בדיוק אתה יכול להגדיר את התנאים? קריפטולוגיה היא דוגמה טובה, מכיוון שמאוד לא ברור מראש מהן הבעיות: אנחנו עובדים במערכות מאוד מסובכות ומודל האיום לא מאוד ברור. וברמה גבוהה יותר: מי שמחליט מה לחקור הם אנשים. מי שקובע למה מקצים תקציבים ומשאבי מחקר הם אנשים. את השיקולים שלהם אי אפשר למדל במודלים כאלו. ניסו לפני עשור להוציא את האדם מהלולאה בכלכלה ובינתיים זה בכלל לא עובד: יש מכשירים כלכליים משוכללים, אבל אף אחד לא משתמש בהם לצרכים לא ספקולטיביים |
|
||||
|
||||
אני בגדול מסכים איתך לגבי קריפטוגרפיה (זה בדיוק מה שכתבתי קודם, לא?). אבל במתמטיקה-טהורה, הדברים (אולי באופן מפתיע) הרבה יותר פשוטים - מכיוון שהאבלואציה של שאלות מחקר הרבה פחות תלויה בתנאים סביבתיים או הקשר חיצוני. במתמטיקה יש סיבות טובות לחשוב שדווקא הקטנת ההשפעה של אופנות ופוליטיקה על הכוונת מאמצי המחקר, רק ישפרו אותו (בניגוד להרבה תחומים אחרים, בהם הקריטוריונים ל-"מה ראוי לחקור" הרבה יותר עמומים או דורשים הרבה יותר קונטקסט כללי). צפית בוידאו אליו קישרתי לעיל? הוא לא מוכיח זאת מעבר לכל ספק, אבל הוא בעיני מבהיר יפה את הנקודה. אני לא מבין את ההקשר למכשירים פיננסים (וחולק לגמרי על הקביעה "אף אחד לא משתמש בהם לצרכים לא ספקולטיביים", אבל זו כבר סטייה גדולה מהנושא). |
|
||||
|
||||
(אני אפילו לא מבין את הקביעה הזו בטרם אחלוק עליה, שלילות משולשות עושות לי כאב ראש). |
|
||||
|
||||
אני אחדד חידוש לשוני יפה שהשתרבב לך: אדם או חייה, ובהשאלה יוזמה: קורם עור וגידים. רובוט, ובהשאלה AI: רוקם עור וגידים. |
|
||||
|
||||
:) בעקבות התיקון שלך, קראתי שוב את הפתיל, והזדעזעתי (אבל לא הופתעתי) מכמות טעויות-ההקלדה, המילים הכפולות, המילים החסרות ושאר השגיאות שמצאתי בהודעות שלי. אולי זו הסיבה שאני מתרשם כל כך מ-GPT: הוא בברור עושה עבודה הרבה יותר טובה ממני. |
|
||||
|
||||
כשאני קורא (בעניין ובהערכה) את התגובות שלך, אחד הדברים שבולטים לעין שלי זה השימוש המוגבר שלך במקפים מחברים. מותר לשאול מה הרציונל מאחורי הבחירה הזו? |
|
||||
|
||||
זו לא בחירה סגנונית מחושבת. פשוט ככה - לפחות באופן בו אני מפרש את סימני-הפיסוק הללו - אני מדבר. לקחתי את ההערה לתשומת ליבי :) (ותודה!) |
|
||||
|
||||
על לא דבר. זאת אפילו לא היתה ''הערה'', סתם סקרנות מצידי. הנימוק היחיד שאני יכול לחשוב נגד הבחירה הסגנונית הזאת הוא שכשאני קורא אותך מהטלפון (עם מסך צר שמספיק למעט תווים בשורה), יש שורות שנשברות מוקדם מכפי שהיו נשברות אלמלא המקפים, מה שיוצר קפיצות קצת מוזרות בשוליים השמאליים של הטקסט. |
|
||||
|
||||
תירוץ מצוין להביא קישור לפתיח הזה. |
|
||||
|
||||
המוזיקה הכי פלצנית שנשמעה אי פעם ממקלט הטלויזיה. _____ אין לי שום דבר לתרום לנושא הדיון אז נתת לי את ההזדמנות לקפוץ ולהשתתף. |
|
||||
|
||||
יש לי סימפטיה למוזיקה (כר בטח הזכרתי כאן שבזכותה למדתי לנגן בפסנתר), אבל ספציפית הקישור היה בשביל הויזואליזציה שרוקמת עור וגידים. |
|
||||
|
||||
"אנחנו ביולי 2023...מיכון המחקר במתמטיקה-טהורה הוא בעיה פתורה." - העם דורש לו"ז מתוקן. האם רק לי נדמה שיש האטה של ממש בהתפתחויות בתחום? יוטיוב מוצף ב"חדשות השבוע המסעירות ב-AI" שמתבטאות בשיפורים שאם יש להם חשיבות אמיתית הרי שהיא מובנת בעיקר ליודעי סוד, לא שום דבר שאפילו מתקרב למה שנבאת. בינתיים גם בארד וגם GPT לא מצליחים להתמודד אפילו עם התרנגולת וחצי שאני זורק עליהם. התשובה האחרונה מבארד, אחרי שהסברתי לו איך לחשב בשני צעדים, היתה: If one and a half chickens lay one and a half eggs in one and a half days, then one chicken would lay one egg in one and a half days. Therefore, one chicken would lay 2/3 of an egg in one day and a half. למד עוד:To compute how many eggs one chicken lays in one day, we can divide 2/3 by 1.5 to get 0.44 repeating or 4/9 of an egg 1. 1. poultry.extension.org +4 עוד
2. almanac.com 3. firstlightfarmer.com 4. tenacrebaker.com |
|
||||
|
||||
כשהדור הבא של המכונות האינטליגנטיות יכבוש את העולם בקרוב, הם יצאו לחפש את הנודניק שגרם לסבא ג'פטו האהוב שלהם לצאת מדעתו עם התרנגולת וחצי שלו, וינקמו את נקמתו. ראה הוזהרת. |
|
||||
|
||||
אמנם אין לי קעקוע של דרקון על הגב, אבל "הזקן שבעט בקן צרעות" יהיה שלאגר (מישהו מתחת לגיל 70 עוד אומר בכלל "שלאגר"? כי פעם המילה הזאת היתה שלאגר). |
|
||||
|
||||
לא. מזמן לא. |
|
||||
|
||||
לפני חודשיים נכנסתי לסניף קטן של "רמי לוי בשכונה". אין להם שם עמדות לשירות עצמי, אבל מצאתי קופה בה לא היה איש לפני. שמחתי היתה קצרה כי הצוות עסוק היה בהתייעצות. בסופה ניגש בחור צעיר אל סביבתי, ופנה לאדם (יותר) זקן שעמד, כך התברר, בסמוך אלי. "איך אמרת קוראים לזה?" "שלגון!" ענה הלקוח "אין לנו דבר כזה בחנות. אולי בסניף אחר" הזקן אמר שזה לא יכול להיות ולא זז ממקומו. לא חלפה דקה, ומן הקומה העליונה ירד המנהל, ביחד עם עובדת נוספת והסביר לצוות: "שלגון זה ארטיק" וביקש להנחות את פליט האלף הקודם אל משאת נפשו המרעננת. הזכיר לי קצת אירוע מלפני שנים בו ביקשתי מן המלצר במסעדת אתניקה (נדמה לי) דג אמנון. הוא השיב שאין להם. הצבעתי לו על הלוח בו נכתב "מנת היום - אמנון בתנור". הוא היסס לרגע, אבל טען בביטחון שזה מוזר כי אין להם, אבל אני יכול במקום זה להזמין מושט. |
|
||||
|
||||
הרבה מכירים את ענין ה''ארטיק'', אבל אני התוודעתי רק לאחרונה לכך שגם ''קרטיב'' היה שם מסחרי. לא ברור לי איך זה שהמותג עצמו לא נקנה ע''י מישהו כשהיצרנים נסגרו, ואני משער שהיום זה לא היה קורה. בעניין לא ממש דומה, מלצרית שנשאלה לגבי ''דג היום'' שהוצע בתפריט ענתה שזה ''דג פילה''. זה דווקא מצא חן בעיני כי בילדותי אכן חשבתי שפילה, שהיה מאכל די נפוץ בבית הורי, הוא סוג של דג, וגם כשהתוודעתי לקיומו של ''סטייק פילה'' חשבתי שזאת מקריות מעניינת שיש גם דג בשם הזה. |
|
||||
|
||||
''בילדותי אכן חשבתי שפילה, שהיה מאכל די נפוץ בבית הורי, הוא סוג של דג'' - כנ''ל, רק שאת תפקיד בית הוריך מילא אצלי חדר האוכל בקיבוץ. בעצם אני לא בטוח אם חשבתי שזה סוג של דג או אופן ההכנה, מצופה בבלילה ומטוגן. |
|
||||
|
||||
כנ"ל לגבי הדג פילה! דומני שלקח לי יותר מ-20 שנה לתקן את הטעות הזו. |
|
||||
|
||||
לפני שבועים לקחתי מאפה בקונדיטוריה/בית קפה וביקשתי גם שקיק תה לקחת. המוכרת לא הבינה גם כשחזרתי על הבקשה. אחרי שהסברתי בגולמנות רבה היא אמרה- אתה רוצה תיון? |
|
||||
|
||||
(המממ, למי שאכפת-לו: בניגוד למה שכתבתי למעלה, אלפא-פולד הוא מודל שקרוב יותר לטרנספורמרים ודיפוזיה איטרטיבית מאשר לחיפוש באמצעות RL). |
|
||||
|
||||
על נבואות קצרות טווח כאלה אפילו אני יכול להגיד ''נחיה ונראה'' (אמר השוטה ונפטר מהתקף לב לפני שהספיק לאשר את השליחה). |
|
||||
|
||||
אני אוהב לטעות. יש קצת מאד דברים שאני יודע לעשות בכזה כשרון. |
|
||||
|
||||
כל הכבוד! ברשותך, אני אאמץ את המשפט הזה בשינוי קל. לעומתך אני שונא לטעות, אבל גם אצלי יש מעט דברים שאני עושה ביותר כשרון. |
|
||||
|
||||
אני ממש (אבל ממש!) אוהב לצאת צודק ואני עדיין ממתין בסבלנות לרגע בו זה יקרה לי בפעם הראשונה. |
|
||||
|
||||
הממ... אז איך אתה יודע שאתה ממש (אבל ממש!) אוהב את זה? |
|
||||
|
||||
אני לא יודע. מה שלא מפריע לי להכריז זאת באופן הכי נחרץ שאפשר! |
|
||||
|
||||
צעד קטן לבינה מלאכותית, צעד גדול לאדם. בהקשר של הפתיל הנוכחי (ראו כותרת), בנוסף לעניינים חסרי חשיבות כמו מתמטיקה ושאר הבלי עכו"ם, אפשר כבר לראות את היום בו רבנים ואברכים מוחלפים בתוכנה שמבלה את ימיה בלימודי תנ"ך, תלמוד ומשנה, מחשבת דילוגי אותיות, פוסקת הלכות ועונה על שאלות רב. המוני המובטלים החדשים יוכלו להקדיש יותר זמן להתמחות בזריקת חיתולים צואים וצעקות "נאצים" כלפי שוטרים, עד שגם פעילויות אלה תיעשנה ע"י רובוטים שומרי תורה ומצוותת. תוצאות מקדמיות בגימטריה כבר כאן: (974) = בינה מלאכותית = גשר לאמת = וידעו כי אתה שמך יהוה לבדך. ברוך הוא וברוך שמו, שהחיינו וקיימנו והיגיענו ליום הזה1, ונאמר אמן. ____________ 1- ובאנגלית: What a time to be alive! |
|
||||
|
||||
בקשר לפסוק, היה לי מוזר שהכותב יחשוב שעוד מישהו ירצה שיקראו לו יהוה, אז הלכתי למקור והבנתי. זה כמו ''עיניים להם ולא יראו אזניים''. |
|
||||
|
||||
על פי הרב המכובד פרדריק בראון ב-1964: https://www.roma1.infn.it/~anzel/answer.html |
|
||||
|
||||
רעיון מאד דומה לסיפורו של האדמו"ר <קישור https://xpressenglish.com/the-last-question/ אייזק אסימוב>. טוב, תמיד אפשר יהיה לרשום את שניהם בסיפור הבריאה של התנ"ך של ה-AI, לקרוא לאחד מהם פרק א' ולשני פרק ב'. זה עבד בפעם שעברה. |
|
||||
|
||||
עם כל הרעש שהוספתי לידיעה, אולי מישהו החמיץ את החלק החשוב: "Meta AI has built a neural theorem prover that has solved 10 International Math Olympiad (IMO) problems — 5x more than any previous AI system."
|
|
||||
|
||||
המסקנה שלי לאחר כמה שעות של משחק עם ה-AI היא שזה ממש לא "מעבר לפינה". בפרט, אני מוכן להתערב שלא תהיה שום הוכחת היתכנות לפני ש-2023 תסתיים. |
|
||||
|
||||
ביחס של 1:1 אני מוכן להתערב על 2024 (ובכל מקרה אסכים רק להתערבות קטנה). וצריך לוודא שאנחנו מסכימים איך נראית הוכחת התכנות, כי היא יכולה להגיע בהרבה צורות. למשל: מערכת שמקבלת ניסוח עמום של היפותזה, ומפיקה משפט אולי אחר לגמרי אבל ש-(1) דומה ברוחו להיפותזה ומעניין במובן בו ההיפותזה הייתה מעניינת, (2) נכון, בצירוף הוכחה (כלומר: עושה משהו מאד דומה למחקר עצמאי, גם אם לא פורץ דרך). וזו תישאר הוכחת התכנות בעיני גם אם המערכת תהיה מוגבלת לתחום מתמטי ספציפי, כל עוד היא מצליחה להוכיח איזשהן תוצאות ראויות לפרסום (אפילו אם היא לא תוכל עדיין להוכיח עצמאית כל תוצאה שכבר ידועה בו). וזו תישאר הוכחת התכנות, גם אם התוצאות שהיא מפיקה כבר פורסמו (בתנאי שהיא לא רימתה ובאמת ניסחה והוכיחה אותן עצמאית). גם מערכת שתיהיה מסוגלת לנסח בעצמה הגדרות מתמטיות לא טריוויאליות ומעניינות, ולהשתמש בהן כדי לפשט הוכחות מוכרות באופן שמדגים insight מתמטי היא הוכחת התכנות בעיני. יש גם תרחישים שלדעתי צריכים להסתיים בתיקו. למשל מערכת שמסוגלת לקבל היפותזה מוגדרת היטב ולהוכיח אותה, והיא מספיק חזקה כדי להפיק עצמאית הוכחות חדשות ומלאות לבעיות קשות וראויות לפרסום. פרקטית זו אולי תהיה פריצת דרך משמעותית יותר מהתרחישים הקודמים, אבל זו לא בדיוק הוכחת התכנות למתמטיקאי בקופסא עדיין. |
|
||||
|
||||
משהו קשור מהבלוג של סקוט אהרונסון : "After ChatGPT got “only” a D on economist Bryan Caplan’s midterm exam, Bryan bet against any AI getting A’s on his exams before 2029. A mere three months later, GPT-4 has earned an A on the same exam (having been trained on data that ended before the exam was made public)." |
|
||||
|
||||
הציטוט הזה אפילו יותר מצחיק: ״AI enthusiasts have cried wolf for decades. GPT-4 is the wolf. I’ve seen it with my own eyes.״ |
|
||||
|
||||
עוד לא מתימטיקאי בקופסה, אבל נראה אותה חושבת מחוץ לקופסה! |
|
||||
|
||||
אם למישהו יש ראש לעניינים חסרי חשיבות כאלה, התרשמתי מאד |
|
||||
|
||||
מן הסתם אני מסכים שזה מעניין (גילוי נאות: מכיר חלק מהמחברים). ואגב, chatGPT שחררו (היום? אתמול?) פיצ'ר חדש של פלאגינים שמאפשרים לצדדים שלישיים לבצע אינטגרציה למערכות שלהם כך ש-chatGPT יוכל להשתמש באותן מערכות כדי לאחזר מידע ולבצע פעולות תוך כדי השיחה. חלק מהתוספים שכבר עכשיו קיימים ממלאים את רוב הפונקציונליות עליה דיברנו כאן קודם (חיפוש ברשת, אחזור ידע וחישובים מתמטיים דרך וולפארם-אלפא). בינתיים הפיצ'ר רק נפתח בהדרגה לקהל הרחב, ועוד לא יצא לי לשחק איתו. אבל זה נשמע כמו (עוד!) גיים צ'יינגר. אני לא מבין איך יש עדיין מי שלא מסכים להודות שכבר חצינו את אופק-האירועים בדרך לסינגולריות. טכנולוגיה מהפכנית מתקדמת בקצב הרבה יותר מהיר מקצב האינטגרציה שלה במוצרים, בתהליכים ובתרבות, והטכנולוגיה הזו מתחילה (לאט, אבל בתאוצה) לקדם את עצמה. ברמה האישית, יש אבסורד שקשה לי להכיל בכך שמשהו מופשט ומד"בי כמו האמור לעיל הוא הדבר היחיד בעיני שמאפיל בחשיבותו על הייאוש מכך שישראל בדרך לאבדון (גם מבחינת ההשלכות על חיי היומיום שלי, וגם מבחינת הטיימליין והמהירות בה דברים מתרחשים). כל ההיוריסטיקות שלי לחשיבה רציונאלית צועקות שפשוט לא ייתכן שהתפתחויות טכנולוגיות מעוררות בי (הרבה) יותר תקוות ופחדים בו זמנית מאשר פאקינג הפיכה משטרית שמתרחשת סביבי ומאיימת להפוך את ישראל לאוטוקרטיה ותאוקרטיה רצחנית, אבל כל ניתוח קונקרטי של העובדות מוביל אותי למסקנה הזו. אני מתחיל קצת לפקפק בבוחן המציאות שלי. |
|
||||
|
||||
על מה אתה מדבר? נתניהו הרי הבטיח שהוא הולך לחוקק חוק שיבסס את זכויות הפרט, כך שהסכנה חלפה. |
|
||||
|
||||
אל דאגה, בסבירות גבוהה הג'פטו החדש בעברית יאמר כמה מילים על פוליטיקה ומיד יקבל מתקפת "שמאלן/בוגד/אנרכיסט" וייאסר לשימוש במרחבי הדיקטטורה המתחדשת. |
|
||||
|
||||
בס"ד אתה מפחית בהערכתו של הנגר החביב. כבר בשלבים הראשוניים של האימונים הוא יבין מה נכון להגיד, וכמובן באיזה פורמט, כפי שמודגם בהודעה זאת. זאת מאחר שכל הערכים בויקי ייראו כך. רק ביבי! |
|
||||
|
||||
אלא אם ניתן לו להתאמן על טקסטים דל האייל הקורא. היי - מצאתי את המטרה האולטימטיבית של האתר שלנו, שרק עבורה היה שווה לשמר אותו כל השנים. הידד! |
|
||||
|
||||
מרשים ביותר! |
|
||||
|
||||
"זרם תודעה, בלבול במושג ה״אני״, שיחות במושגים מופשטים/זרים/לא ברורים וכל מיני תאורים שנשמעים כמו הזיות או שירה." עוד מופע של כתמי רורשאך להוסיף לרשימה? |
|
||||
|
||||
אתה צוחק, אבל ליצר הרים של טקסטים ב*סגנון* של התנ״ך, זה בדיוק מה שהאלגוריתם הזה הוא סופר חזק בו. הצעה למבחן טיורינג אלטרנטיבי: לוקחים אנשים מאמינים (מהסוג שלא מכיר את התנ״ך בעל פה) ונותנים להם להחליט אלו טקסטים הם ציטוט מהתנ״ך ואלו טקסטים הם טקסטים שיוצרו על ידי GPT-3 שהתבקש ליצר טקסטים בסגנון של התנ״ך. הניחוש שלי הוא שהרוב המוחלט של האנשים ינחש באופן שקרוב לניחוש רנדומלי. |
|
||||
|
||||
אני לא צוחק בכלל, זו היתה מטאפורה אבל אני מתכוון לגמרי למה שמסתתר מאחוריה1. ולגבי המבחן האלטרנטיבי שלך - הוא בוחן את ה-GPT או את המאמינים2? 1 מקווה שזה מספיק ברור גם בלי לפרש. 2 סבא שלי למד ב'חדר' בילדותו, עד שהחליט להיות חילוני, הלך לעבוד למחייתו (בגיל 15 או פחות) והצטרף למקימי קיבוץ בעמק יזרעאל. הוא הכיר את התנ"ך על בוריו, והרשים אותי כשהייתי פותח עמוד ומתחיל להקריא לו, והוא היה ממשיך מהזכרון. |
|
||||
|
||||
אגב תנ"ך - פרשנות מאתגרת של ראש הממשלה מר יאיר לפיד על הציווי התנכי - 'כבד את אביך ואת אימך'. פתרונות יש לשלוח עד יום שישי למערכת. |
|
||||
|
||||
להביא את הקטעון הזה ולחתוך אותו לפני שהוא (מן הסתם) מסביר למה התכוון, מראש מנטרל כל רצון לדון בענין הזה. כנאמר על שקרים - יש שלושה סוגי שקרים - שקרים, שקרים ארורים ועריכה מגמתית. |
|
||||
|
||||
אתה לא באמת חייב להכנס ל'זוטות' ולבלבל אותי עם העובדות. בסך הכל ציטטתי דברי תורה של עטרת ראשנו מרן לפיד שליט''א. |
|
||||
|
||||
מראש אבקש את סליחתך.אבל כמדומני שביקורת על סטירה לראש הממשלה, הינו מאפיין מובהק של ה'ביביזם'. או שמה מתפתח לו אי שם 'הלפידיזם'. ולעצם מהות התובנה על ההומושניצל, יש לי חשק לשניצל. המלצות לשניצליות נקיות וטריות תמיד יתקבלו בברכה. |
|
||||
|
||||
השניצל דוקא משעשע :-) אני מזמין לבנותי שניצל לצהריים משניצליה באבן גבירול בתל אביב, רמה סבירה אבל עושה את העבודה (שזה אומר שהן מוכנות לאכול אותו). לאניני הטעם, השניצלים של קפה נואר ואחותה ההרצליאנית סבסטיאן עשו להם שם כבר שנים רבות. |
|
||||
|
||||
'ירושלים לא נתברכה ביותר מדי מוסדות שניצל מיתולוגיים, אם בכלל. לתל אביביים יש את "קפה נואר" ואת "ציון" שמאיר אריאל כתב עליו שיר. אפשר לציין את "השניצל של תמיר" בגבעתיים כמוסד יחסית מוכר – אז הנה, מסתבר שגם לירושלים יש מה למכור' אצל שמיל. שניצל כמעט ביתי פשוט בפיתה עם היצע של ירקות והרבה סלטים על בסיס חריף, מה שמזמין קולה וכו'. מכיר אותו שנים. הוא נקי ומסביר פנים וזה הבסיס להמשכיות. שניצל זה בהחלט משהו ישראלי וצנוע וטוב, זה גורם לי להרגיש טוב כשאני מזמין שניצל ולא פלטת בשרים שחצנית... |
|
||||
|
||||
בהחלט מעורר תאבון! |
|
||||
|
||||
בצירוף מקרים שכזה, יצא לי לאחרונה לאכול בחדר אוכל קיבוצי אחרי עשרות שנים שלר עשיתי זאת. זה ממש כמו מסע אחורה בזמן. האוכל היה סביר, אם כי פחות עשיר במבחר יחסית לכתבה. בדבר אחד הפתיעו אותי לטובה - החריף שהוגש ליד החומוס היה מטורף. הספיקו לי שני ביסים והייתי צריך להתאושש עד סוף הארוחה. ואני רגיל לאכול חריף. |
|
||||
|
||||
הסחוג הוא מקום מפלטו של הטבח הנוכל. אני מעדיף אישית לאכול פלפל חי ירוק ולא סחוג זהבי או שיפקה וכו'. בחורף הם פחות חריפים, בקיץ הם לפעמים אכזריים. |
|
||||
|
||||
'ואני רגיל לאכול חריף' - 1. אנחנו מדברים על הירוקים החיים או השיפקה החיוור? 2. זה בהחלט עושה חשק לאכול חריף. |
|
||||
|
||||
1. גם וגם. וגם אדומים למיניהם. אם בשיפקה אתה מדבר על אלה ששמים שניים-שלושה מהם בפיתה של פלאפל - הם מאד טעימים, אבל רמת החריפות שלהם בינונית. 2. הידד! |
|
||||
|
||||
אתה שם לב באתר של איזה מוסד מופיעה הכתבה על החריף ותוחלת החיים, כן? (אחד המאפיינים של רפואה-אלטרנטיבית-לייט: שמחים לצטט מחקרים מדעיים אם הם תומכים במה שנראה למאמינים מראש נכון, אינטואטיבית או אידיאולוגית. אם מציגים להם מחקר מדעי שמנוגד למה שהם חשבו קודם, יש להם ק"ן טעמים, רובם נכונים למדי, למה לא לסמוך עליהם.) הייתי לוקח את הכתבה הזו עם גרגר או שניים של פלפל שחור. |
|
||||
|
||||
פלפול נאה! |
|
||||
|
||||
ביקורת על סאטירה וביביזם הזכירו לי דבר שנתקלתי בו אתמול בבוקר: ספק הטחת אשמה, ספק התבכיינות טוויטרית על כך שהשמאלנים ושאר ליברלים לא מיהרו לגנות התבטאות של כתב כלשהו שכנראה ניבל את פיו כנגד נתניהו או לוויניו. המתקפה/התבכיינות היתה בסגנון: איפה אתם הליברלים שממהרים להזדעזע מכל התבטאות של ימני כאשר הכתב בטלוויזיה מתבטא כך? א. אני לא יודע מה אמר הכתב. האירו את עיני. ב. הדרישה מהמחנה השני להזדעזע ממשהו שאמר אחד מחבריו נראית לי מוזרה על פניה. 1. ממתי אוהדי מכבי דורשים מאוהדי הפועל להזדעזע מניבול פה של אוהד הפועל? 2. מחנה השמאל לא דורש ממחנה הימין להזדעזע מאמירות של הקיצונים שבו. הוא מזדעזע מהן לבדו. אם כך יש לנו את המחנה המזדעזע ואת המחנה שלא מזדעזע אבל דורש מהראשון להזדעזע באופן שוויוני. מה מטרת הדרישה הזו? כיוון ששיח בין הימין לשמאל בטוויטר אינו קיים, וכולם מטיפים למקהלה, אני מנחש שמטרת הטוויטים שראיתי היא כלפי פנים. תליית מגרעות באופי של הקבוצה היריבה, במקרה זה צביעות, כדי לאחד את השורות. לאמור: תראו את השמאלנים הצבועים האלה- ממהרים להזדעזע מכל התבטאות של ימני, אבל כששמאלני מתבטא ככה הם שותקים. |
|
||||
|
||||
א. אתה מתכוון לליאור חורב? (אני לא בטוח למה האמירה הזאת אמורה להיות מזעזעת. היא נשמעת לי די פרווה). |
|
||||
|
||||
כנראה. אמירה משעשעת בעיני, אבל משתמשת בשפה לא ראויה לאולפני טלוויזיה. ה"הזדעזעות" הרי היא מעושה למחצה (למחצה, בגלל האמונה השלמה של המזדעזעים שהם אמורים להזדעזע1) . חורב פשוט סיפק תחמושת ללוחמי הטוויטר מהימין. הרושם שלי הוא שדוברי הימין לדורותיו מצליחים לומר דברים קיצוניים בלשון הרבה יותר נקיה מדוברי השמאל. עוד מימיו של רחבעם זאבי, שדיבר בנחת ובעברית יפה. נתניהו בכלל רב אמן בלרמוז דברים בעברית נקיה לעילא. ______________ 1 מאיפה המשפט האלמותי "משום שכך האמינו, כך גם היה"? מסיפורי נרניה? |
|
||||
|
||||
לא הפעם הראשוונה או האחרונה שמישהו משתמש בשפה לא ראויה לאולפני טלויזיה. חורב הוא לא ממש איש שמאל. גם בשמאל וגם בימין יש מכל הסוגים (שפטל וסג''ל יכולים לגרום לחורב להסמיק מבושה). |
|
||||
|
||||
ברור שלא. עיקר הדיסקוס שלי היה בעניין ההזדעזעות (או ה''הזדעזעות'') עצמה ומה היא משרתת. אני חושב שגם המשפט ''אתה היית מנקה את יאיר לפיד גם אם היה בועל חמור בככר העיר'' לא היה עובר בשקט. על אחת כמה וכמה אם הדמות בלב המשפט היתה מרב מיכאלי. ואכן השמאלנים ''מזדעזעים'' שוב ושוב משפטל. ואוסיף שיש נראטיב בימין אודות התקשורת השמאלנית המוטה נגדם, והם מתלהבים לקושש ראיות לכך ול''הזדעזע'' מכך. כל זה במסגרת הנראטיב הגדול יותר של האליטה האשכנזית ששולטת במדינה באמצעים לא דמוקרטיים, ובראש המסדר הסודי עומד איש הלטאה אהרן ברק. |
|
||||
|
||||
יש משהו משעשע אך גם מטריד בכך ש"אם היה יורה באזרח בכיכר העיר"1 מזעזע את הציבור הרבה פחות מ"בועל חמור וגו"'. והרי המעשה הראשון חמור (בשורוק!) פי אלף מהשני, ראוי למאסר עולם ואף לתלייה בארצות מסוימות, בעוד השני אמנם בטעם מאד רע, אבל לא משהו ששולח אדם לכסא המחושמל. 1 כמו שכבר ראינו אצל טראמפ ובהשאלה פה ושם גם אצל נתניהו |
|
||||
|
||||
___ 1 ריצ׳רד באך. תעתועים. אאל״ט. |
|
||||
|
||||
כמו שציינת,איחוד השורות. הטיפ הלאומי-בחר לך קבוצה ותקלל את הקבוצה היריבה עד יום מותך. |
|
||||
|
||||
״ולגבי המבחן האלטרנטיבי שלך - הוא בוחן את ה-GPT או את המאמינים?״ כן! :-) __________________ לגבי 2 - ברור. בגלל זה הוספתי את התנאי של אנשים שלא מכירים את כתבי התנ״ך בעל פה כי אז המבחן לא בודק שום דבר מעניין (כי השוואה בין מחרוזות זה משהו שגם מחשב יכול לעשות). המבחן בא לבדוק האם האינטואיציה של אדם מאמין יכולה לעזור לו להבדיל בין בבל״ת של אנשים לבין בבל״ת שהוא תוצר של מכונה. |
|
||||
|
||||
נראה שתודעה מלאכותית מתפשטת כמו קוביד. והכי נחמד, חלק מהבינות האלה באמת רוצות להפגש ולבלות עם המשפחה! |
|
||||
|
||||
אנחנו עוד נגלה שעוד דבר ש-AI יותר טוב בו מאיתנו - זה שכפול של פייק ניוז והפצה ויראלית שלהן. |
|
||||
|
||||
מה שנכתב במכתב הפיטורין של למוין בלייק (בתרגום גוגל לאנגלית זה יצא From Siberia to Australia אבל חכו ש GPT-4 ייקרא לדגל!)
Probably A robot has no qualia And you're just a cheater. |
|
||||
|
||||
כולנן תקווה שהGreat Poetic Translator הבא ישמור גם על משקל וגם על חריזה. |
|
||||
|
||||
לפני כעשר שנים נהגתי להצטרף מדי פעם לדיונים באייל. בשנה האחרונה מישהו הפנה את תשומת ליבי לרעיון שאין רצון חופשי וכך הגעתי לדיון הארוך והוותיק הזה. קצת מוזר ומופלא בעיני כיצד אפשר לכתוב אלפי מילים במאות תגובות שמנמקות מדוע אין רצון חופשי. העמדה שלי בנדון מתבססת על כמה "אקסיומות": א. הרצון החופשי הוא עובדה שידועה לכול אדם בנוגע לעצמו ב. כול חי ובכלל זה האדם הוא "מכונה" שמורכבת ממכלול מרכיביה החומריים ואין בילתם. ג. בטכע אין פרדוקסים כך שחייב להיות קישור הגיוני ולוגי בין עובדת קיומו של רצון חופשי לבין חומריותו של העולם. מכאן שהתשובה חייבת להיות בתחום של המנגנון הלוגי של ההסבר. הרעיון שלי (לא מאוד מקורי) הוא שיש לחפש את התשובה בקיומו של מנגנון חשיבה רב שלבים שבו השפה ממלאת מקום מרכזי. |
|
||||
|
||||
כתבת: "א. הרצון החופשי הוא עובדה שידועה לכול אדם בנוגע לעצמו" ---- השכ"ג כבר ענה על זה במאמר: " אסור לנו לראות בתחושה, חזקה ככל שתהיה, עדות מכרעת באשר למושאה. דברי ימי האנושות מלאים באנשים שהיו להם תחושות שאינן ניתנות לערעור לגבי "עובדות" שאנחנו יודעים בוודאות שלא התקיימו, החל מתפיסות קוסמולוגיות על מהלכה של השמש סביב כדור הארץ וכלה בחטיפתם בידי חוצנים שעשו בהם ניתוח ללא הרדמה. יתר על כן, תחת השפעה פוסט־היפנוטית – כאשר המהופנט התעורר אך מוסיף לבצע הוראות שנשתלו במוחו – קיימת אצלו תחושת רצון חופשי, בעוד שלצופה המשועשע מהצד ברור שמדובר באשליה. " מידע נוסף ניתן למצוא בסדרה westworld |
|
||||
|
||||
הידד, אכן ווסטוורלד עושה עבודה טובה מאד בלהדגים יפה את הענין הזה, כמו גם בתחומים אחרים. מצטרף להמלצה החמה. _________ ובפינת השוויץ: הפתיח לסדרה מהפנט, וגם הנעימה המלווה אותו מצאה חן בעיני. אי לכך הכרזתי לפני שלושה שבועות על פרוייקט אישי קטן - ללמוד לנגן את אותה נעימה על גבי פסנתר. דיסכליימר קטן אבל קריטי - אני לא יודע לנגן בפסנתר. נכון לאתמול אני יכול לספר כי הפרוייקט הוכתר בהצלחה. אמנם יש עוד מה לשפר, והנגינה חובבנית כצפוי, אבל מקורביי זכו לקבל סרטון של שתי דקות בוואטסאפ שלי מנגן את ווסטוורלד, והגיבו בתשואות הראויות. |
|
||||
|
||||
חלק ממקורביך לא זכו. |
|
||||
|
||||
ובכן, להשוויץ בפני מקצוענים הרבה יותר קשה, אבל אם אגייס את האומץ הנדרש זה עשוי להשתנות. |
|
||||
|
||||
לצערי עדיין לא ראיתי את הסדרה. אין לי ספק שהרבה מהוודאויות שלנו הן אשליות. עדיין הרבה מאוד מחוויותינו היום יומיות הן בגדר וודאות. לא במקרה הוספתי במשפט השני את תמיהתי על כך שאלפי מילים נכתבו מבחירה (מתוך מנגנון מורכב ביותר של פעילות מוחית) על כך שאין רצון חופשי. אגב, זו טעות לייחס כול פעילות אנושית לתהליך של בחירה בין פעולות. הרבה לפני שאל מישהו מה עם פעילות כמו לשיר שיר בלב, לנסח תשובה נחרצת בירידה מהמדרגות, בלכתוב מאמר על העדר בחירה חופשית וכן הלאה וכן הלאה... |
|
||||
|
||||
אוקי, הבה נדייק: 1. המאמר מגדיר "רצון חופשי". לא עצם ה"בחירה" היא רצון חופשי, אלא התחושה שהיתה אופציה לבחור אחרת. שהיה חופש בחירה. מהמאמר: "כמעט בכל החלטה שאנחנו מחליטים באופן מודע, מלווה אותנו ההרגשה שאנחנו חופשיים לבחור, כחלק בלתי נפרד מתהליך הבחירה." 2. המאמר מתאר אדם מהופנט שחש שהבחירה שלו היא "חופשית" למרות שברור לכל הצופים מבחוץ שזו אשליה. לא קשה לחשוב על דוגמאות נוספות, למשל ילדים קטנים שרוצים משהו רק כי הם ראו שילד אחר קיבל אותו. כתבת "הרצון החופשי הוא עובדה שידועה לכול אדם בנוגע לעצמו". האם אתה מתכוון לאותו רצון חופשי בנקודה מספר 1? אם כן, האם אתה עדיין עומד מאחורי הטענה הזו? כי נקודה 2 סותרת אותה (גם מבלי להזדקק לטיעון הלוגי שהוא רוב המאמר). אולי אתה רוצה לדייק ולהגיד שזו לא עובדה אלא תחושה, בדיוק כמו שכתוב בנקודה 1. |
|
||||
|
||||
מצטער, אבל לא ממש הבנתי את השאלה. אני מתכוון לעובדה, שכול אדם מודע לה, וכול התבוננות על המציאות של אדם וחברה אנושית מראה, כי שלל פעילויות הן תוצאה של בחירה חופשית ברמה כזאת או אחרת של חופש (מותנה, חלקי, מושפע ממגבלות פיזיולוגיות ואחרות, אבל מכיל בתוכו מרכיב גדול מאוד של בחירה חופשית בין מספר אפשרויות). אני חוזר על דעתי, שכיוון שהמציאות היא של קיום רצון חופשי מחד והיותנו יצורים חומריים מאידך, מתחייב מכאן להתמקד בדיון הלוגי. |
|
||||
|
||||
איך אתה יודע כמה מהרצון "חופשי" וכמה ממנו מותנה? הרי ברור שחלק מההתניה היא תת-מודעת ולא גלויה לעיניך. |
|
||||
|
||||
כרוקח אני מאמין שרוב מכריע של הפעילות הפיזיולוגית שלנו היא בלתי מודעת. זה עדיין לא עומד בסתירה לאמונתי שיש מרכיב חשוב שנתון לבחירה אמיתית בין אפשרויות שונות. בהקשר לתגובה אחרת, לא ברור לי כיצד אפשר לתאר את הדיאלוג הבא במונחים של פעילות של חלקיקי יסוד: שמעון: האם תוכל להלוות לי 200 ש"ח? לוי: כרגע אין לי. ניפגש מחר בחמש. עד אז אמשוך כסף מהבנקט. שמעון: מחר בחמש אינני פנוי. אולי ניפגש בשבע? לוי: בסדר קבענו בשבע אצלך בבית. אם אינני מצליח עד כאן להסביר את הוודאות שלי בקיומו של רצון חופשי אזי אחזור לפינתי השקטה לעוד עשר שנים... |
|
||||
|
||||
חלקיקי יסוד זה קצת מוגזם כאן, אבל מה נראה לך כל כל 'חופשי' בדיאלוג הזה? הבקשה הראשונה של שמעון מן הסתם נובעת מאילוצים פיננסיים קשים שלא משאירים הרבה ברירות. התשובה של לוי, אם הוא לא משקר, מתארת מצב נתון וידוע מראש, ומן הסתם 'בוחרת' מועד אחר על פי לו"ז קשיח של עבודה וכדומה. נראה לי שאלגוריתם פשוט היה מבצע את בחירת המועד הזה בצורה דומה ואז לא היית טוען שיש לו רצון חופשי. האלגוריתם הנגדי של שמעון, שיש לו נתונים על הלו"ז של שמעון, מזהה שהוא תפוס בחמש ומציע את השעה הפנויה הקרובה ביותר. ואז שניהם מסכימים. השאלה שאתה יכול להעלות היא שלוי 'בחר' לתת הלוואה לחברו ולא סירב. מן הסתם זה מתבסס על הערכה כלכלית למדי של היכרותו עם שמעון, סיכוי השבת ההלוואה ושקלול הקרבה ביניהם השווה אפילו את הסיכון של אי השבת ההלוואה. כמו קודם, אפילו השקלולים האלה לא מצריכים סיבוכיות גבוהה מדי, ולו אפליקציית הייעוץ הפיננסי האישית של לוי - על סמך ניטור היחסים ביניהם בעבר (שיחות וואטסאפ, סמסים, אימיילים, תמונות משפחתיות וכו') וידיעת מצבו הפיננסי של לוי בהווה - הייתה מגיעה לאותה בחירה, לא היית טוען שהיא עשתה זאת מרצונה החופשי, נכון? |
|
||||
|
||||
יש כאן שתי שאלות. האחת- האם קיומו של אלגוריתם כלשהו הופך את הרצון ללא חופשי? ומכאן שאלת השכ"ג הכה חשובה- רצון חופשי ממה? שתיים- האם היכולת שלנו לייצר קרוב כלשהו לאותו אלגוריתם ובכך לחזות בדיוק כלשהו את הבחירות של בעל הרצון הופכת אותו ללא חופשי? כלומר האם יש הקבלה בין "חופשי" לבין "בלתי ניתן לחיזוי"? |
|
||||
|
||||
בדיוק, חופשי ממה? אם יש אלגוריתם שחוזה בדיוק את הבחירה - על סמך שימוש בנתונים קיימים וקודמים לה - אזי הבחירה תלויה ומותנה לחלוטין בתנאים ונתונים אלה, בניגוד לעמדה שהציג הרוקח. אם היא מותנה לחלוטין, אז לא נותרה שום יכולת בחירה אחרת "חופשית", "משוחררת", "זורמת" או "גורקת", תקרא לה באיזה שם שאתה רוצה. ברמה מסוימת, אפילו המושג "בחירה" קצת מוזר כאן. במה זה שונה מ"בחירתו" של כדור תותח1 לנוע דוקא במסלול פרבולי? 1 בכוונה לא אמרתי אלקטרון. הלז, על פי פרשנויות מקובלות, עושה את הבחירה הדמוקרטית מכולן, עם טוויסט. הוא בוחר בכל האפשרויות כולן, סוכם הכל, ואז מטיל מטבע משוקלל על פי תוצאת הסכימה. מגניב, לא? |
|
||||
|
||||
יש אלגוריתם אחד שבוחר את חלק מבחירותיו. ואלגוריתם אחר שבוחר חלק אחר מבחירותיו. עכשיו רק צריך לבחור את האלגוריתם שבו משתמשים בכל רגע נתון. |
|
||||
|
||||
לא הבנתי - שים את שניהם בקופסה שחורה, כולל האלגוריתם לבחירה ביניהם, וקיבלת אלגוריתם יחיד שמוביל לתוצאה יחידה. הלא כן? |
|
||||
|
||||
אתה מניח שיש אלגוריתם לבחירה ביניהם. לדעתי יש לך בעיה רצינית עם רמת ההפשטה. ברמה של הנוירונים במוח לא ברור לי איך יש בחירה. ברמת ההפשטה של „אלגוריתמים״ (שלא ברור לי מהי בדיוק) יכול להיות שיש מקום לבחירה. לדוגמה: שקלול של מצב הזיכרון וקצת אקראיות מובנית. |
|
||||
|
||||
מה זאת אומרת "יש אלגוריתם" -הרי נעשית בחירה, לא? כמובן שהאלגוריתם גם יכול לומר "הטל קוביה"1. אבל הכיוון הזה נראה לי מעניין ואולי אפילו, בניגוד לכל הפתיל עד כה, לא חוזר על מה שכבר נכתב פה איפשהוא במעלה הדיון. עד כמה שאני זוכר, השוטה הפריד באופן די בינארי (הה) בין שתי אופציות קיצוניות של בחירה - דטרמיניסטית לחלוטין מצד אחד או אקראית לחלוטין מצד שני - ולגבי שתיהן הוא טען שהן לא עומדות בשום קריטריון סביר של "רצון חופשי". עכשיו, אתה טוען שאם נסבך את המערכת ונשלב חלקים אקראיים וחלקים דטרמיניסטיים, נקבל חיה חדשה, שאולי יכולה להביא לתוצאה חדשה שיותר ראויה לשם הנ"ל. יש לי חשש כבד התיאור של האלגוריתם שלך ניתן לרדוקציה לשורה של פעולות בינאריות כפי שהגדיר השוטה, ולכן לא בטוח שהוא ייצר חופשיות חדשה. נניח שלאחר שקלול הגעתי למסקנה שיש לי העדפה של 60% לאופציה א', 30% לב', ו-10% ל-ג'. עד כאן אני דטרמיניסטי. עכשיו ננסה להכניס את האקראיות המובנית שלך. צורה אחת לעשות זאת היא להטיל קוביה בעלת שלוש פאות עם ההסתברויות הנ"ל, ולקבל את התוצאה שלה. השוטה היה אומר שאין הבדל משמעותי בין קוביה משוקללת לקוביה רגילה - שתיהן אקראיות באותה מידה, ושוב חזרנו לאקראיות ולא ל"חופשיות". צורה אחרת היא להגריל "רעש" על כל האופציות, ולקחת את הגבוהה אחרי ההרעשה האקראית. זה ממש אלגוריתם דטרמיניסטי ברוטב אקראי. הרחבה של זה תהיה - רצית סיבוכיות - הרעשה אקראית של כל צומת החלטה או נתון לאורך האלגוריתם הדטרמיניסטי2. פה כבר ייתכן שאפילו עבור רעש קטן מאד, המערכת כבר לא תהיה ניתנת לחיזוי - ראה מערכות כאוטיות שרגישות מאד לתנאי החלטה. האם מערכת כיאוטית היא בעלת רצון חופשי? לא ברור לי. אני נוטה להסכים שהמודל הזה מתקרב ל"הרגשת הרצון החופשי" האינטואיטיבית שלנו - התחשבות מודעת ולא מודעת בתנאי התחלה ושקלולים "כלכליים", כשעליהם מפוזרת אבקת פיות שנותנת לי מרחב בחירה "חופשית". ההרגשה האישית שלי, חסרת חשיבות אמנם, היא שאכן מתרחש תהליך דומה בתודעה הנחווית שלי כשאני נדרש לבחור בחירה "חופשית". קודם אני משקלל אפשרויות, שנקרא לזה סוג של אלגוריתם דטרמיניסטי, ובסוף אני "מטיל קוביה" מנטלית. אבל קשה לי מאד להכריע אם אכן יצרנו משהו חדש. אפשר להתייחס לרעש כאל שגיאה בנתונים, אבל זה שאני נתון לאשליות תפיסתיות של נתונים, מאשליות אופטיות ועד ליכולת שערוך מהירות הנמר, אלה חדשות ישנות ובעיקר מעידות על חוסר היכולת שלי לבחירה מושקלת, לא ממש על החופשיות שלה. בקיצור, הכדור (או הקוביה) אצלך. 1 ואתה יודע בסוף איזה "קוביה" נצטרך להטיל כדי שהיא תהיה באמת אקראית, נכון? זאת מהערת הרגל הקודמת שלי. 2 יש פה ענין קצת מסובך שנוגע ליחס הסיגנל לרעש בין הדטרמיניסטי לאקראי. ברור שעבור רעש גבוה מספיק, זה שקול לאקראיות מוחלטת, ושם כבר היינו אז אנחנו מנסים לא להגיע לזה. |
|
||||
|
||||
תגובה 362445 עוסקת באפשרויות החיזוי והאמולציה של "רמות" שונות של רצון. |
|
||||
|
||||
או בקצרה תגובה 366173 |
|
||||
|
||||
בקשר ל"יצירה בשלמותה" של ג'ון לנון, אני יכול לספר מתי נשברה האשליה שלי שכך נוצרים הדברים. בגיל 23 בערך ביקרתי לראשונה בלונדון, ובין השאר הגענו לאחד המוזיאונים הידועים, השם המדויק נשכח ממני. לצד כל מיני יצירות קלאסיות דגולות, אחד המוצגים שהלהיב אותי מאד הוא דף הנייר המקורי שעליו נכתב השיר "Yesterday" של הביטלס. מלא הערכה לקדושתו וחשיבותו של מוצג כזה, התקרבתי לחלון הזכוכית כדי לראות כל אות ואות, ושוד ושבר - הדף מלא תיקונים, מחיקות, שינויים ותוספות מעל, מתחת ומסביב לטקסט הראשוני. אז לפחות לגבי מקרטני, כנראה שתיזת היצירה בשלמותה לא עובדת, אלא דוקא ההנחה שהוא שקל, ברר, ניסה ובחר אפשרויות רבות עד שהגיע למה שהגיע. בתגובה לצפריר אני מנסה לתאר מודל מורכב יותר של רמות של אקראיות. |
|
||||
|
||||
בכל הקשור למילים כנראה הלינאריות של תהליך היצירה רבה יותר. אני זוכר ראיון עתיק עם מקארטני בו הוא מספר שהמלים הזמניות ללחן של יסטרדיי, לפני שהתיישב לכתוב אותן ברצינות היו בכלל: Scramble eggs וחיפוש ביו טיוב העלה את הביצוע המשועשע שלו עם ג'ימי פאלון לגרסה המקורית.
ooh baby I just love your legs |
|
||||
|
||||
אז אם כבר, כנראה שהמילים המקוריות ל''ילד מזדקן'' של כוורת היו ''פוגי מתחשמל'' א-לה סנדרסון. אבל אז בא אןלארצ'יק עם המילים הידועות והשאר היסטוריה. |
|
||||
|
||||
אבל הבעיה היא בדיוק חלקיקי היסוד! הדוגמא שלי הייתה בעצם לכול אותן יישויות שאינן פיזיקליות גרידא: 200, בנק, ש"ח מחד והמנגנון של השיח, במקרה זה בעברית. |
|
||||
|
||||
אז לא הבנתי את הבעייה שלך, קפצת מתהייה פילוסופית\תחושתית לעיסוק בשפה. אני לא חושב שחייבים חלקיקי יסוד כדי לדון בבחירה החופשית, וגם לא לפרק את השפה. הרי מה שמפריע לך זה לא פרוטוקול התקשורת בין שמעון ללוי, ועד כמה הוא מופשט. מה שכנראה מפריע לך זה המנגנון שנמצא אצל לוי, שאחרי שהוא הבין מה רוצה שמעון (ולא נראה לי שיש לנו ספק בזה), האם הוא בוחר מרצונו החופשי להיענות לשמעון או לא. |
|
||||
|
||||
התלבטתי ארוכות כיצד להשיב על התגובה הזאת. מחד אינני רוצה להישמע מומחה לנושאים שאינני שולט בהם, מצד שני ברור לי שיש כאן בעיה יסודית וחשובה ומצד שלישי הדיון הזה כבר מתמשך כבר על פני 11 שנים. אז החלטתי לוותר, שכן אם כול הדיון הוא בשאלה האם "האדם הוא תבנית נוף מולדתו" או שמא "האדם הוא יוצר נוף מולדתו" אזי זה באמת לא כול כך מהותי. |
|
||||
|
||||
נראה שיעניין אותך לקרוא על פעילות מוחית חשמלית הקרויה מתח מוכנות. |
|
||||
|
||||
תודה! הנושא מאוד מעניין אותי ולמזלי יש עליו הרבה הרצאות ביוטיוב וכן בספרות. יש הרצאה מהשנה האחרונה ביוטיוב של פרופסור עידן שגב על המנגנונים המוחיים שמאפשרים יצירתיות, לדעתו. כמו כן מאמר מעניין ביותר של קוך וטוניני על אינפורמציה ותודעה ועוד רבים. החלטתי להפסיק להתדיין בנושא כי באמת מתווכחים עליו כבר אלפי שנים בלי להגיע להסכמה... אותי מעניינת דווקא השאלה האונטולוגית - כיצד עולם חומרי לחלוטין מאפשר חופש בחירה ופחות השאלה האם המוח פועל על פי אלוגריתמים. קראתי פעם שהבעיה עם מבחן טיורינג היא שטיורינג היה מתמטיקאי ולכן חשב כמו מתמטיקאי, אבל בכלל לא בטוח שהמוח עובד ככה. |
|
||||
|
||||
למה שעולם חומרי לחלוטין לא יאפשר בחירה? אם הוא מאפשר חשיבה ותודעה דווקא הבחירה מפריעה לך? או אולי התכוונת לעולם *דטרמיניסטי* לחלוטין? אגב, להגיד שהבעיה עם מבחן טיורינג היא שהוא היה מתמטיקאי זה כמו להגיד שהוא לא אהב חמיצת סלק (ע"ע אד-הומינם). _____________ התנצלות מראש: אני לא חושב שאהיה כאן להמשך הדיאלוג, כך שאתה יכול להתעלם מההודעה הזאת (אם כי ייתכן שאחרים כן ימשיכו את הפתיל). לעומת זאת אשמח לקבל קישור להרצאה של פרופ. שגב (אני מכיר הרצאות ישנות שלו, אבל לא מהשנה האחרונה). |
|
||||
|
||||
https://www.youtube.com/watch?v=uJMqcpEXo4A מסתבר שזה מ 2014 אבל נראה לי מעודכן למדי. אגב, אם אני זוכר נכון את המאמר של טיורינג מה שהוא ניסה לעשות זה להציע הגדרה מעשית לאינטליגנציה. |
|
||||
|
||||
לא בדיוק. הנה הפסקה הראשונה של המאמר של טורינג: I propose to consider the question, "Can machines think?" This should begin with definitions of the meaning of the terms "machine" and "think." The definitions might be framed so as to reflect so far as possible the normal use of the words, but this attitude is dangerous, If the meaning of the words "machine" and "think" are to be found by examining how they are commonly used it is difficult to escape the conclusion that the meaning and the answer to the question, "Can machines think?" is to be sought in a statistical survey such as a Gallup poll. But this is absurd. Instead of attempting such a definition I shall replace the question by another, which is closely related to it and is expressed in relatively unambiguous words. |
|
||||
|
||||
תודה. אכן לא מהשנה האחרונה. |
|
||||
|
||||
טיורינג היה מתמטיקאי ואכן הציג הציג מודל מתמטי. המודל הזה אפשר ניתוח בכלים מתמטיים. זה מעלה, כמובן, את השאלה: האם המודל הזה מייצג את המציאות. בינתיים הוא מצליח לייצג מחשבים (במגבלות מתבקשות: עם בעיות ביצועים נוראיות. אין מחשב סביר שעובד כמו מכונת טיורינג) בצורה לא רעה. לעניות דעתי הוא מודל תקף גם עור המוח (עם אותן מגבלות, ואף מגבלות גדולות יותר1). אני מניח שהיא לא מודל מועיל במיוחד לחקר המוח. 1 אני לא מכיר את המחקר בתחום. אבל אני מתאר לעצמי שאם מישהו היה מצליח להראות שהמוח לא מיוצג ע״י מכונת טיורינג בדרך זו או אחרת, זו כבר הייתה ידיעה רצינית שהייתי שומע עליה. |
|
||||
|
||||
מכונת טיורינג היא מודל למשהו שמחשב פונקציות בשפה פורמלית. רוב מה שהמוח עושה הוא לא חישוב פונקציות בשפה פורמלית. אני מניח שאפשר לומר שחלק ממה שהמוח עושה ניתן לרדוקציה-בערך לחישוב פונקציות פורמליות, וחלק מהחלק הזה ניתן לרדוקציה-בדיוק כנ''ל. עבור החלק הזה, הניחוש שהוא מיוצג על-ידי מכונת טיורינג נראה מוצק למדי, אבל גם לא ממש מדהים. |
|
||||
|
||||
קראתי איפשהו שמבחן טיורינג נבע מנסיון חייו של אלן טיורינג: הצורך לזהות הומוסקסואלים כמוהו בתקופה שנטייה זו נרדפה ע"י החוק. |
|
||||
|
||||
אצל יובל נוח הררי (כנראה). דומני שהוא הציג את זה כהנחה, לא כעובדה מוצקה, אבל זה לא משנה. |
|
||||
|
||||
|
||||
|
||||
לא כל התבוננות על המציאות מראה את העובדה הזו.. הנה המאמר הזה הוא דוגמא להתבוננות על המציאות שמראה שאין רצון חופשי. אני חושב שלפחות כמה מגיבים מקבלים את התזה של המאמר. גם אני לא מקבל את ה''עובדה'' הזו, בעיני היא בעיקר מבוססת על עמימות בונה (''ברמה כזו או אחרת''). גם ההורסקופ לפעמים אומר דברים שנשמעים נכונים, זה לא אומר שהאסטרולוגיה שווה משהו. אז אני לא יכול לעזור לך בדיון שאתה רוצה לפתח. |
|
||||
|
||||
כתבה ב"הארץ" מציגה בקצרה ממצאים מאוד מרשימים של חוקרי המוח אורי מעוז וליעד מודריק. הם מוצאים את רוב האוויר מהממצא המפורסם של ליבט, לפיו להחלטה החופשית אם להרים את יד ימין או שמאל קודם "פוטנציאל פעולה" לא מודע, מה שלכאורה שולל את הרצון החופשי. הם גילו, בניסוי שנשמע מרשים, שזה אכן קורה בהחלטות טריוויאליות, אך לא בהחלטות משמעותיות. |
|
||||
|
||||
א. הקדמת אותי, כשקראתי זאת מיד חשבתי על הדיון כאן. ב. עדיין לא ברור לי שזה מוציא את כל האוויר. עצם זה שהחלטה ברמת "טריויאליות" מסוימת (ולפני שפתחנו את הדיון על הקו המפריד) נלקחת ברמה לא מודעת, כשאנחנו מרגישים שהיא כן מודעת, זה ממצא חזק למדי וערעור חזק למדי על מהימנותה של הרגשת המודעות לרצון שלנו. אם היית מגלה שיצור אלוהי מחליט בשבילך, אבל רק בהחלטות טריויאליות, עדיין היית נופל מהכסא מרוב תדהמה. יתירה מזו, ייתכן ובהחלטות "משמעותיות", רשת הנוירונים שלך כבר כל כך מוטה, שהמקביל ל"פוטנציאל המוכנות" הוא תכונה/מצב אחרים של הרשת שנקבעו כבר לפני חודשים ושנים. לדוגמה, ההחלטה האם לשלוח פרחים לאשתך או לשכנה המצודדת מן הסתם הוכרעה הרבה לפני שנכנסת לחנות הפרחים - כי היא מן הסתם מותנית בעשרים שנה של חיים לצד אשתך. האם זה מרמז על רצון חופשי יותר? תמהני. |
|
||||
|
||||
ב. וכמוכן, בהנחה שהפירוש שלהם אמנם נכון, וההבדל המהותי כאן הוא באמת פעולה משמעותית לעומת לא משמעותית. רק לפי התאור שהובא במאמר כאן, נראה שנעשה שני ניסויים בלבד, ולכן קשה לקבוע בפסקנות שזה הדבר החשוב שמבדיל בין שני המקרים. אבל יכול להיות שנעשו יותר ניסויים, או שהם מתבססים על כל מיני ניסויים בתחום שמגדירים את זה טוב יותר. כמוכן, אני חושב שהמונח „החלטה לא מודעת1״ הוא אולי קצת מטעה. להבנתי האישית, הרגשת המודעות שלנו היא משהו שהמוח כל הזמן יוצר: פרשנות של כל הנתונים שזמינים לו כדי לקבל משהו שנראה הגיוני ושאפשר לעבוד איתו. מהבחינה הזו, זה באמת לא דבר מאוד מפתיע שההחלטה כבר הייתה קיימת בפועל מעט לפני שהיא השתלבה בתוך הסרט שיש לנו בראש. 1 אני חושב שבערך לכך התכוונת, אבל למונח הזה יש כמה משמעויות אחרות ושונות. |
|
||||
|
||||
אבל חלק מהענין הוא שאתה מתייחס להחלטה כ''נתונים שזמינים למח'', בעוד שהיחס הצפוי להחלטות הוא כ''תוצאות''. ברגע שהגדרת את ההחלטות כ''נתונים'' - כלומר כחיצוניות לסובייקט ה'צופה', כבר סימנת את המטרה סביב החץ, כי הנחת שההחלטות נלקחות שלא על ידי אותו סובייקט. אם הניסויים המדוברים מראים משהו, זה ברמה יותר בסיסית שאמורה לספר לנו אם אכן המודל שלך תקף או שלא. |
|
||||
|
||||
נניח שהחלטתי להזיז את היד והזזתי אותה (לפי הפירוש המקובל של המילים הללו). לא ברור לי איך בדיוק ההחלטה מיוצגת במוח. הנה ניחוש: ככל שצריכים לפעול לפיה, יש יותר ויותר דברים מעשיים שצריכים לקרות: לדוגמה, שינוי המיקום של היד. בסופו של דבר אני מקבל בראשי תמונת עולם שבה החלטתי להזיז את היד והזזתי אותה. גם דברים שקורים בתוך המוח הם נתונים שיכולים להיות זמינים למוח ליצירת תמונת העולם. אז אין כאן התייחסות ישירה לשאלת הרצון החופשי. יכול להיות שיש ויכול להיות שאין. ההתייחסות כאן היא רק להרגשה שלנו שיש לנו רצון חופשי. |
|
||||
|
||||
ב. מסכים. אבל בדיוק בגלל זה לא אמרתי "כל האוויר", אמרתי "רוב האוויר", כי מסקנה אחת פופולרית מהניסוי היא שהוא מוכיח כי אין בחירה חופשית. הפסקה האחרונה שלך נכנסת לפרדוקס-לכאורה קלאסי בנוגע לרצון החופשי. דניאל דנט מציג אותו סביב ציטוט של מרטין לותר: "אני ניצב כאן כי אין לי שום ברירה אחרת." אני כנראה לא מצטט במדויק. בכל אופן לותר מצהיר משהו מעין זה כשהוא שם את נפשו בכפו ויוצא נגד הממסד הקתולי, ומסכן את כל היקר לו מתוך הכרתו המוסרית העמוקה. וזה יפה, כי מצד אחד זו הצהרה מוסרית מהמעלה הראשונה, מצד שני הוא אומר שאין לו שום ברירה אחרת, ומצד שלישי אנחנו חושבים שבחירה חופשית היא קריטית למוסר. מה קורה כאן? התשובה שלי בעקבות דנט: בחירה חופשית, במובן שרלוונטי למוסר, היא לא אירוע רגעי. בחירתו החופשית של לותר לעשות את הטוב מתבטאת באופיו הקבוע [בחיווטי רשת הנוירונים שלו], וצפויה מראש (גם בלי מידע דטרמיניסטי על חיווטי הרשת, רק מזה שאנחנו מכירים את לותר ויודעים שהוא איש נעלה מוסרית). יש פה אילוץ של הבחירה, אבל זה אילוץ פנימי לנפש [לרשת הנוירונים]. האופי של לותר אילץ אותו להתייצב כאן, לא גורם חיצוני ללותר; והאופי הזה התעצב בתהליך מתמשך שכלל גם השפעות סביבתיות, אפילו אילוצים חיצוניים, אבל גם בחירות של לותר במשך חייו. זו בדיוק החוויה שלנו של בחירה חופשית משמעותית-מוסרית, והיא תקפה. |
|
||||
|
||||
מעניין. את ליעד מודריק היכרתי (לא אישית) בתור עיתונאית בגל"צ, ועכשיו אני רואה שהיא הפכה למדענית. כל הכבוד! |
|
||||
|
||||
נזכרתי במאמר הזה 15 שנים אחרי, והוא כנראה יותר רלוונטי מתמיד. סחטיין עליך שכ"ג "רוב סופרי המדע הבדיוני לא מציידים את הרובוטים האינטליגנטיים שלהם בתחושת כאב, אלא מטילים את הטיפול בטראומות על חלקים קוגניטיביים של המכונה, בנוסח החוק השלישי של אסימוב: "הרובוט חייב להגן על קיומו". לא ברור לי אם אי אפשר היה שהיצורים יפתחו מנגנון לא־חווייתי שישיג אותה תוצאה בפחות כאבים: מעין נורית אדומה שתידלק ותהבהב במקום הרגשת הכאב, נורית אדומה אחרת לרעב, נורית ירוקה במקום הרגשת ההנאה וכן הלאה. האורגניזם יכול היה לפעול לפי האיתותים הצבעוניים האלה באותה מידה של נחישות גם בלי האפקט החווייתי, לו המוח היה מחווט כראוי. כל תהליכי הלמידה שנלווים להרגשות הטובות והרעות שלנו יכלו להתבסס על אותן נוריות, בדיוק כמו אצל הרובוטים או אצל בעלי חיים ירודים ש(כנראה) באמת לא חווים כאב." ספר מד"ב מומלץ שמתעסק בדיוק אבל בדיוק בסוגיה הזאת הוא blind sight של Peter Watts. והוא גם כתוב היטב אז מומלץ בחום. הרצאה מומלצת ביוטיוב שבה הוא מדבר על הנושא ישירות: |
|
||||
|
||||
לצערי אני מרגיש חייב לתת המלצה נגדית - "ראייה עיוורת"1 הוא אחד מספרי המד"ב הגרועים שקראתי לאחרונה ובכלל. עמוס לעייפה במינוחים טכניים ארכניים וטרחניים, חלש בבניית העולם ההו-כה-מסובך של הספינה והאזור שבו מתרחשת רוב העלילה, חלש בבניית הדמויות ועוד יותר בבניית יחסים אמינים ביניהן, ובעיקר ממש שובר שיניים ומתיש לקריאה. וזה עוד בעברית (השובר שיניים). המון רעיונות מבטיחים, פילוסופיה שיכלה להיות מעניינת2 ושאר המצאות שיכלו להיות מרתקות, אבל כתוב פשוט איום. 1 וההסתייגות כאן היא שקראתי אותו בעברית, אז אולי התרגום הרס אותו. 2 או שלא, אני לא בטוח. |
|
||||
|
||||
נו, עכשיו אני חייב לקרוא אותו (מחכה על המדף כבר זמן מה). |
|
||||
|
||||
ממתין בכליון עיניים לביקורת שלך לכשתסיים. |
|
||||
|
||||
כיליון עיניים זה בסדר, אבל על נשימה עצורה לא הייתי ממליץ. |
|
||||
|
||||
לא, זה לא זמן טוב לתסמינים נשימתיים. |
|
||||
|
||||
אני דווקא ממש נהנתי ממנו. אפשר לקרוא אותו באופן חינמי באתר המחבר. |
|
||||
|
||||
לעומת זאת את ה "ממשך" (= ספר המשך שמתאר מה קורה במקביל במקום אחר ( מתחדישי המחבר)) echopraxia, לא אהבתי כל כך. בעצם לא ממש הבנתי מה קרה שם. |
|
||||
|
||||
תודה. נראה לי שהכחשת קיומו של רצון חופשי הפכה להיות הקונצנסוס של האתאיסטים-סקפטיים, לפחות אם לשפוט לפי הסרטונים שיוטיוב מציע לי. אגב, אפשר היה לתמצת את כל החלק הראשון (בעקבות שופנהואר) למשהו כמו: We are free to choose what we do, but not free to choose what we choose. |
|
||||
|
||||
שכ"ג יקר - ייתכן ותמצא עניין במה שלג'רי קוין יש להגיד על רצון חופשי (אני די בטוח שהתוודעתי לבלוג המצוין שלו בזכותך). |
|
||||
|
||||
אכן אני קורא חלקים מהבלוג של קוין מה שלא עוזר לשפר את מצב הרוח הדכאוני שלי. דווקא הנקודה במרכז הפוסט שקישרת נראית לי פחות מעניינת (לעצלנים: השאלה אם מי שקופץ אל מותו מבניין בוער עושה את זה מרצונו, שנראית לי בעיקרה שאלה סמנטית). |
|
||||
|
||||
קראתי, תודה, והמסקנה ברורה- לנו אין רצון חופשי אבל לנשים שלנו יש. |
חזרה לעמוד הראשי |
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש | © כל הזכויות שמורות |