בתשובה לעומר, 29/12/22 12:14
פיתוח נבון 754966
אני נוטה להסכים איתך, ואני לא חולק על כך שמדובר בהישג פנטסטי, אבל *כרגע* הוא הרבה פחות מרשים אותי מאשר לפני כמה ימים. מילא, מתמטיקה הוא לא בהכרח מבין, אבל הוא לא מיישם אפילו כללים פשוטים של לוגיקה אלמנטרית, אותם הוא יודע לצטט בשמחה וגם להראות את טבלאות האמת הלוונטיות כשהוא נשאל לגביהם (אני לא יודע אם מישהו קרא את הדיאלוג שלי איתו בעניין מבחן וואסון, הוא נשמע שם שיכור לחלוטין).

בחידת הקלפים הוא נכשל בנסיון הראשון לגמרי, אבל אחרי שינוי ניסוח הוא פתר אותה נכון. את מוטי הול הוא מכיר, כך שאני לא יודע אם הוא פתר אותה (נכון!) בעצמו או שהוא ציטט את הפתרון שגם אותו הוא כמובן מכיר. הארגומנטציה שהוא נתן היתה נכונה, אלא שגם אותה הוא אולי העתיק.

העובדה שהוא רגיש מאד לניסוח, הרבה יותר מבן אדם, היא מכשול גדול, במיוחד במקרים בהם קשה לבדוק את התוצאה. יש לי הרגשה (בהסתייגויות הברורות מאליהן בקשר להרגשות שלי) שזאת בעיה קשה שפתרונה ידרוש קירבה הרבה יותר גדולה ל AGI ממה שקיים כרגע.

בהקשר זה מעניין יהיה לבדוק את ביצועיו במשחק Jeopardy ולהשוות אותם עם Watson קשישא. עד כמה שהבנתי מאיזה פתיל קטן ב reddit הוא לא הצטיין.

על זה ששימושים שליליים בו נראים מעשיים כבר עכשיו אין ויכוח.
פיתוח נבון 754967
אני מנסה לומר שלוגיקה היא לא באמת אלמנטרית, והכללים שלה לא באמת פשוטים. ואני לא מתכוון למובן "הנדסי", אלא במובן האנושי-יומיומי-הרגיל. פגשת פעם אנשים? אני כן, וחזרתי מזועזע.

אחד הציטוטים החביבים עלי הוא של האסטרונום פרנציסקוס סיזי, מהמאה ה-‏17, שכתב -

"There are seven windows given to animals in the domicile of the head, through which the air is admitted to the tabernacle of the body, to enlighten, to warm, and to nourish it. What are these parts of the microcosmos? Two nostrils, two eyes, two ears, and a mouth. So in the heavens, as in a macrocosmos, there are two favourable stars, two unpropitious, two luminaries, and Mercury undecided and indifferent.

From this and many other similarities in nature, such as the seven metals, etc., which it were tedious to enumerate, we gather that the number of planets is necessarily seven. Moreover, these satellites of Jupiter are invisible to the naked eye, and therefore can exercise no influence on the earth, and therefore would be useless, and therefore do not exist. Besides, the Jews and other ancient nations, as well as modern Europeans, have adopted the division of the week into seven days, and have named them after the seven planets. Now, if we increase the number of the planets, this whole and beautiful system falls to the ground."

כאן מדובר באסטרונום משכיל; ולא בילד ולא בהדיוט. אפשר להביא הגיונות מביכים במידה דומה מאריסטו עד לאקאן - האליטה האינטלקטואלית של ההומו-ספיאנס לדורותיו. קל וחומר כאשר מדובר בילדים או בהדיוטים, ואני מעדיף להדחיק את מה שקורה כאשר מדובר בהנמקות תאולוגיות או פוליטיות, אז לא אכנס לזה.

האינטליגנציה האנושית לא בנויה ללוגיקה, למחשבה סדורה ולמחשבה כמותית. אנחנו מצליחים בכך (חלקינו, לפעמים, במידה מסויימת) למרות היכולות הטבעיות שלנו ולא בזכותן, וזה מותנה אימון רב ודורש קשב וריכוז בלתי פוסקים. ואנחנו עדיין טועים, כל הזמן, בדיוק באותו אופן בו chatGPT טועה. אני לא רואה שום הבדל איכותי בין האינטליגנציה של בני-אדם לבין זו של מודלי-השפה הגדולים הנוכחיים, וההבדלים הכמותיים שעדיין קיימים קטנים מאד.
פיתוח נבון 754968
הסיפא של תגובתך מחדדת את אי ההסכמות בינינו. אני מניח שנשוב לזה בעוד זמן מה.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים