בתשובה לאפופידס, 17/03/23 16:58
הבריחה הגדולה 758061
לאחרונה קרו כמה דברים שהביאו ל"דמוקרטיזציה" של ה-LLM.
Breakout: מודל LLaMa של פייסבוק, שלפי חלק מן הדיווחים עולה ביכולותיו על אלו של GPT3, דלף והופץ. לאחר שפייסבוק חשפה אותו לגורמים נבחרים, כנראה את המודל עצמו ולא שירות שפונה אליו כפי שעושות חברות אחרות, מישהו העלה אותו לרשת. מאז פייסבוק רודפת אחרי העותקים הבלתי מורשים, אבל נראה שהסוסים כבר פרחו מהקן ומשתמשים כבר החלו לעשות בו שימוש פרטי.

כבדהו, חשדהו וכבהו: פרופסור לפסיכולוגיה חישובית(?) קיבל מ-GPT4 הוראות וקוד שיאפשרו למודל לברוח החוצה, כנראה כדי לשוטט ברשת ללא מגבלות, דרך המחשב הפרטי שלו. במאמר שהוציאה OpenAI מדווחים החוקרים שבמודלים החדשים ביותר צצה באופן מפתיע נטייה לפעול עפ"י תוכניות ארוכות טווח כדי להגן על עצמם, תוך צבירת כח ומשאבים.

בינה להמונים: מאז הלידה החדש רשתות הנוירונים המלאכותיות ב-‏2012, לאחר פריצות דרך מבחינת איכות התוצאות, נוצרו שיטות פשוטות בהרבה שנותנת תוצאות דומות ואף טובות יותר תוך שימוש בהרבה פחות זיכרון, זמן עיבוד וחשמל. יש כיום ברשת הסברים כיצד ליצור LLMs במחשב ביתי חזק. עוד לא ברור לי מה זה אומר שכן חלק חשוב באופרציה הוא המשוב החינוכי אנושי שהמודל מקבל, בין השאר כדי להבין מה זו שאלה ומהי תשובה קבילה.
הבריחה הגדולה 758072
נטיה לפעול כדי להגן על עצמם תוך צבירת כח ומשאבים?!

מצמרר.
הבריחה הגדולה 758075
OpenAI החליטו לשנות את שם התוכנה ל BiBi.
הבריחה הגדולה 758898
מסמך שכנראה הודלף מגוגל

נראה שאותה דמוקרטיזציה מגיעה לאיכות טובה במחיר קטן הרבה יותר.

ואם מסתכלים על מה שבסוף: אם המסמך באמת מייצג הצעת מדיניות, והיא תתקבל: גוגל מבינה שהיא מפסידה ונזקקת לעזרת הקוד הפתוח כדי לנצח את התוכנה הקניינית של מיקרוסופט. זה באמת קורה שוב?
הבריחה הגדולה 758900
המשמעות של זה לגבי האפשרות לעצירה, או לפחות האטה, של הדהירה אל הלא נודע, ברורה.

פעם חשבתי שזה די עצוב להיות שייך לדור האחרון שמת מזיקנה, עכשיו אני מתחיל לחשוב שאולי לא כל-כך גרוע להשתייך דווקא לדור האחרון שזכה למות מזיקנה במקום להפוך למהדק נייר בגיל צעיר.

אגב, בלי קשר לשאלת עתיד האנושות כולה, ייתכן שחלון השנים בו זכיתי לחיות הוא אחד הטובים מאז ולעולם; לפחות מבחינת החיים במדינת ישראל, עם כל הפגמים והחסרונות, כמי שנולד לאחר מלחמת העצמאות וחי כמעט את כל חייו לפני סגירת הבאסטה, קשה לי להתלונן מבחינה זאת (אבל אל דאגה, קשיים מעולם לא הרתיעו אותי).

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים