בתשובה לשוטה הכפר הגלובלי, 01/01/23 9:55
פיתוח נבון 755087
יאפ. הקטע הזה של המודעות לקונטקסט והתיחסות אליו היא מגניבה / לא פחות ממדהימה. יצרתי פתיל שבו ניהלתי איתו שיחה יצירתית כלשהי שכללה יצירת עולם, דמויות, פלגים, סכסוכים, רעיונות והשקפות עולם מתנגשות בין הפרטים. השיחה הזאת נמשכה לאורך כשבוע וחצי והוא עדיין ידע להתיחס אל דברים (בפירוט רב) שהוזכרו אפילו בתחילת השיחה שבוע קודם (משהו כמו שלושה פרקים בספר בקנה מידה של כמות טקסט). ה״שיחה״ הזאת לא היתה סתם משעשעת עבורי - היא היתה ממש מעניינת (ולמדתי כמה דברים שלא חשבתי עליהם או ידעתי אותם קודם וזה הוביל אותי לקריאה של כמה נושאים שלא הכרתי קודם בהיסטוריה של ימי הביניים).

בשלב מסוים נראה שהגעתי לקצה המשאבים המוקצים לכל פתיל כזה והוא התחיל לשכוח דברים שהוא כבר התיחס אליהם, אבל זה נראה לי כמו מגבלה מוצרית ולא של מודל השפה (יש להם בטח קונפיגורציה שמגבילה את גודל ה״קונטקסט״ איתו הוא עובד בכל פתיל).

אין ספק שהדבר הזה לא יכול להיות תחליף לכותב אנושי (זה רק מודל שפה מרשים, לא פחות אבל גם לא יותר מכך), אבל בניגוד לדברים הקודמים שניסיתי הוא בהחלט כבר הרבה יותר מגימיק ונראה לי שאפשר להשתמש בו ממש ככלי עבודה (בכל מיני נושאים).
פיתוח נבון 755092
הוא "זוכר" כמה אלפי tokens מהשיחה אבל *אני* לא זוכר כמה בדיוק (נתקלתי בזה באיזה סרטון שראיתי). מובן שמיהרתי לשאול אותו אבל בכל ניסוח שניסיתי לא קיבלתי ממנו תשובה אמיתית. לטענתו "there is no specific limit to the number of tokens that can be included in the context of a discussion." אבל זה כנראה לא נכון גם לפי אותו סרטון וגם לפי מה שאתה מתאר.

אני משער שלא תהיה בעיה גדולה עבורם להגדיל את המספר, וגם לזכור שיחות קודמות כך שתגובותיו יהיו יותר יותר רלווטיות למשתמש מסויים, ככל שהוא ילמד ל"הכיר" אותו, בדומה למה שקורה בדיאלוגים בין אנשים. אם יהיה גם שקלול שקשור לזמן שעבר מאז שהאסימון הופיע לאחרונה, זה יגדיל עוד יותר את הדמיון לשיחות אמיתיות.

וא-פרופו שקלול, אני לא יודע אם בזמן האימון הם מעניקים אותה חשיבות לכל הנתונים, או שיש שקלול בהתאם למקור (בדומה למנוע החיפוש): היה מועיל אם מידע שנשאב מהאנציקלופדיה בריטניקה, או אפילו ויקיפדיה, היה מקבל יותר משקל מהארכיון של "bigfoot is real".
פיתוח נבון 755096
בהחלט יש שקלול בהתאם למקור המידע. לג׳פטו בהחלט יש bias להשקפות עולם מסוימות על פני אחרות וטוב שכך (עובדות מדעיות ו/או המקובל בקהילה המדעית מתויג כאמת בהשוואה לדעות אלטרנטיביות, למשל).

״דיון״ ממש כייפי ומעניין שהיה לי עם ג׳פטו הוא בנושא בעיית המדידה ופרשנויות למכניקת הקוונטים. לפחות בשיחה שלי, המר בחור היה ממש פאנבוי של ה - Many worlds interpertation והיה קשה להוציא ממנו הסתיגויות או הכרה בבעיות שאפשר להציג כנגד הפרשנות הספציפית הזאת (כדי לקבל ביקורת על הפרשנויות האחרות, באורך של מגילות, מספיק היה לבקש במילה או שתיים). זה הגיע ממש לרמה של ויכוח איילי על איזו נקודה מאוד ספציפית (בנושא של Relativistic Bohmian Mechanics) שבסיומה הגענו לאיזו הסכמה מסויגת והוא נשמע כמו מישהו שעושה לי טובה שהוא מודה בבעיה שיש במשהו שהוא טען. וואט אה טיים טו בי אלייב!
פיתוח נבון 755097
יותר משקלול, הניחוש שלי שהאסטרטגיה בה הם השתמשו היא ״תיוג״. כן מאכילים אותו גם בכמויות גדולות של ״עובדות אלטרנטיביות״ והוא לגמרי מודע גם לקיומן, אבל הן מתויגות ככאלה.
פיתוח נבון 755098
בסוף יתברר שהכל היה בלוף וזה שון קרול שעונה.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים