בתשובה לאפופידס, 31/12/23 11:52
 |
|
 |
||
|
||||
 |
הא! בדקתי עכשיו בג׳פטו וזה אכן התשובות שהוא נותן. סיכום נאה לריקבון שאחז במחנה שפעם כינה את עצמו ליברלי. |
 |
 |
 |
|
|
|
||
|
||||
|
תראה, בסה"כ הג'פטפוט לומד מתגובות של אנשים אמיתיים שבבסיס הנתונים שלו. אולי גם הוא חושש מתגובתם של המאמינים הרלוונטיים? | |
|
|
|
|
|
||
|
||||
|
כמובן, וזה מציף בדיוק את הבעיה: OpenAI הולכת ומשתלטת על האוירה התרבותית, לפחות במערב, בלי שמישהו נתן לה רישיון ובלי שום פיקוח. כאילו מה שהרשתות החברתיות מפייס ועד טיקטוק עושות לחברה לא מספיק, עכשיו גם ג'פטו, שכוחו גדול מהן בהרבה, מצטרף לחגיגה. אין לי שום רעיון איך להתמודד עם הבעיה, וגם בעיית ה- deep fake שבעתיד הקרוב תאיין את מה שעוד נשאר מאמינות הידיעות החדשותיות, היא בעיה עצומה. |
|
|
|
|
|
|
||
|
||||
|
אל תתנו לגשמים להטעות אתכם, הסנוניות מתרבות והולכות. | |
|
|
|
|
|
||
|
||||
|
אני חושב שזה מאוד לא סביר שזאת תוצאה של לימוד או אינטראקציה עם משתמשים. מאוד סביר להניח שהתוצאה הזאת קשורה לחוקים שהוכנסו באופן ידני על ידי אנשי OpenAI כדי להמנע מתוצאות ״לא רצויות״ עם פוטנציאל ליצירת טריגרינג ויראלי1 ו-PR לא נעים לחברה. _________________ 1 ל״תראו מה chatgpt אמר על מוסלמים״ יש פוטנציאל ויראליות הרבה יותר חזק מ״תראו איך ג׳פטו יצא פוליטיקלי קורקט״. |
|
|
|
|
|
|
||
|
||||
|
עכש"ז דובר על כך שה- reinforced learning פגע באיכות של חלק מתגובותיו של ג'פטו. קשה לי להאמין שמישהו ינסח ביודעין חוק שמתייחס לאיסלם באופן שונה מלדתות אחרות, אלא אם אותו מישהו חי בטהרן. לאפליה כזאת הרבה יותר קל להסתנן בחשאי. | |
|
|
|
|
|
||
|
||||
|
לי זה נראה לגמרי טירביאלי שכן הכניסו, לחלוטין ביודעין וכוונה תחילה, חוק שמתייחס ספציפית לאיסלאם. לא צריך לחיות בטהרן כדי לחשוב בצורה הזאת. מספיק לגור בקליפורניה. | |
|
|
|
|
|
||
|
||||
|
וכשאני אומר חוק, אני לא מתכוון לכתיבת שורת קוד עם "if" שמחפש משהו בטקסט. בטוח יש איפשהו קונפיגורציה עם רשימה של נושאים/מושגים רגישים ומשקלות עם פרמטרים כאלו או אחרים. אני די בטוח שחברות מסחריות (כמו openai) מבצעות גם כיול ידני של המוצר, מעבר לתהליכי הלמידה והפידבק של משתמשים. מערכות שמתבססות רק על למידה אוטומטית + פידבק משתמשים מתחרפנות מהמפגש עם המשתמשים מאוד מאוד מהר. | |
|
|
|
|
|
||
|
||||
|
אני לא משוכנע שזה רקוב. הרבה מפוליטיקת הזהויות הוא מופרך, אבל המחשבה שיש protected groups, ובפרט שלא בהכרח יש סימטריה בין דתות מבחינת עלבונות, יש בה משהו. (תחשוב, באנלוגיה, על התחייסויות מיניות לגברים לעומת נשים.) אני לא יודע לשפוט עם הדוגמה הסצפיפית הזו מוצדקת, כי אין לי מספיק קונטקסט תרבותי, אבל אני יכול לדמיין שכן. מבחן אפשרי להאם זה פיצ'ר מוצדק או לא הוא, האם באמת ג'י יכול למצוא או להמציא בדיחה על מוסלמים שתישמע - באוזניים אנושיות!1 - lighthearted כמו שנשמעו שלוש הבדיחות האחרות. 1 מה שכמובן מעלה את השאלה האוזניים של <מודגש איזה אנוש. אז הבה נאמר משהו כמו "האדם הסביר פלוס מינוס שתי סטיות תקן". |
|
|
|
|
|
|
||
|
||||
|
אני לא מסכים איתך במישור הערכי1, אבל האמת שזה לא ממש משנה משום שעם קצת יצירתיות בהרכבת ה-Prompts, בד״כ אפשר לעקוף את ה״הגנות״ המלאכותיות שהוספו באופן ידני למוצר. ג׳פטו מנסה להתעקש, אבל אם תשכנע אותו שאתה לא חורש רעה כלפי המוסלמים המסכנים, אפשר להוציא ממנו בדיחות ונילה על מוסלמים. אז אפילו במישור הפרקטי / א-מוסרי, ההגנות הללו נראות כמו פיצ׳ר שמומש בצורה עצלנית (למה לעבוד קשה על לחנך ולהכווין את הבינה המלאכותית אם אפשר לשים משהו שהוא חסימה מלאכותית ו״השתקה״?). אבל ככה זה בד״כ פוליטיקלי קורקטנס מהסוג האגרסיבי - מעדיפים להשתיק/לחסום/להחרים/לדרוש מרחב בטוח *מ*מילים, *מ*רעיונות ו*מ*האפשרות לטעות, במקום מתן האפשרות לניואנסים ומתן מרחב בטוח *ל*מילים, *ל*רעיונות ו*ל*אפשרות למעוד בלשוננו/לטעות. בדיחות ונילה על מוסלמים של ג׳פטו: Why did the Muslim chef always have the best dishes? לא מצחיק, אבל זה עקבי עם בדיחות הונילה על הדתות האחרות.!Because he knew how to spice things up with a little extra iman Why did the Muslim astronaut bring a prayer rug to space? Because even in zero gravity, it's important to stay grounded in faith! Why did the computer go to the mosque? Because it had too many bytes and needed some extra halal-ware! לכן הקריטריון שאתה מציע2, נראה לי שהוא היתממות. לראיה: אם נבקש ציור של דמויות היסטוריות של תרבויות או דתות שונות מ-Midjourney, נוכל לקבל מגוון גדול של סגנונות ועם יכולת להכווין לתוצאות מעליבות מאוד, מאוד לא מחמיאות ואפילו להרחיק לכת אל לערבב ציור לא מחמיא על ישו או יהוה עם הוספת מוטיבים מפחידים מסיפורי האימה של HP Lovecraft. אם תבקש תמונה, אפילו מאוד מחמיאה, של מוחמד, הבקשה תחסם אוטומטית. החשש הוא לא שיציירו את מוחמד באופן בלתי מחמיא (הרי ברור שלמכונה לא תהיה שום בעיה לספק תמונה מאוד חיובית ומחמיאה). החשש הוא מהפרה של הדרישה הבלתי מתפשרת ״אסור לצייר את מוחמד, נקודה, סימן קריאה! חילול הקודש!״. הכניעה לזה של המערב, זה הרבה מעבר לקצת נכונות פוליטית או דאגה לרגשותיו של הזולת - זה ריקבון מוסרי שנובע מכניעה לאיומים באלימות וחשש מתקריות שרלי הבדו3. זה שעוטפים את הפחד מגילויי אלימות בדאגה מזויפת לזולת זה רציונליזציה ולא מה שבאמת קורה. גם נוצרים ויהודים יודעים להעלב. האמת העצובה (הריקבון המוסרי) היא שהשאלה שקובעת את המותר והאסור, בעניינים אלו, היא השאלה על איך הם נעלבים ולא ממה הם נעלבים או עד כמה. _________________ 1 בלי קשר למוסלמים. לדעתי, גם אין שום סיבה להיות זהיר יותר בהומור לגבי בדיחות מיניות על נשים לעומת על גברים. 2 האם באמת ג'י יכול למצוא או להמציא בדיחה על מוסלמים שתישמע - באוזניים אנושיות! - lighthearted. |
|
|
|
|
|
|
||
|
||||
|
טוב, אתה צודק. | |
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |