בתשובה לאביב, 20/05/25 13:07
Conversational Bias 778902
שוטה הכפר הגלובלי • בתשובה לאביב יום ג', 20/5/2025, 14:05
אני נזהר מלספר לו מה אני חושב לפני שאני שואל, כך שלא שאלתי "האם נכון ש..." אלא "האם יש קורלציה בין..." (הניסוח המדוייק לא זכור לי. סגרתי את השיחה כי ג'פטו צרך הרבה CPU גם כשהוא חיכה לפרומפט. זה קורה כנראה רק ב FF).
Conversational Bias 778906
הפונז • בתשובה לשוטה הכפר הגלובלי יום ג', 20/5/2025, 16:27
(FF?)
Conversational Bias 778911
צפריר כהן  (אתר) • בתשובה להפונז יום ג', 20/5/2025, 17:17
FireFox
Conversational Bias 778912
הפונז • בתשובה לצפריר כהן יום ג', 20/5/2025, 17:42
חן חן.
Conversational Bias 778923
אביב • בתשובה לשוטה הכפר הגלובלי יום ג', 20/5/2025, 20:36
כן, ברור, זהירות זה חשוב וגם אני מנסה לנהוג כמוך ולהוריד את הסיכוי לעשות סוגסטיה למכונה. שוב - אינני מאשים אף אחד בשום דבר.

הטענה שלי היא שיש בשפה בה אנחנו בוחרים לכתוב יותר הטיות והנחות סמויות משבד״כ נדמה לנו. אפילו אם לא כתבת במפורש את הרעיון שבו אתה מחזיק, הוא לפעמים מבצבץ לו בין השורות במה שאתה שואל או במה שאתה אומר. גם כשאנחנו לא לחלוטין מודעים לכך. מספיק (למשל, סתם דוגמה קיצונית - יש בטח דוגמאות שהן יותר Subtle) שאתה מנסח משהו באופן שיותר אופייני לאופן הניסוח של מישהו שהוא ״Pro Palestine״ לעומת צורת הניסוח למשהו שמישהו שהוא יותר ״Pro Israel״, גם אם זה לא ברמת התוכן אלא עם איזו תבנית או מושג שפופולרי בקרב אלה יותר משאשר בקרב אלה, אני טוען שזה מספיק כדי לגרום הטיות בתשובות שינתנו ע״י המכונה.

הטענה שלי היא שלא תמיד קל לדעת מה ההטיה שאופן הניסוח שלך מוביל אליו.
בקיצור - חשדהו וכבדהו. אני טוען ששיחה שלנו עם ChatGPT היא יותר מונולוג מאשר דיאלוג ושזו לאו דווקא מגרעה של בינה מלאכותית באופן כללי, אלא מגרעה של המוצרים הספציפיים של חברות כמו OpenAI, כי כך דואגים לכוונן אותם (משקל מאוד גבוה לריצוי המשתמש).
User Based Bias 778927
אביב • בתשובה לשוטה הכפר הגלובלי יום ג', 20/5/2025, 21:01
עוד נקודה חשובה שצריך לשים אליה לב. יותר ויותר מהמוצרים הללו הוסיפו את הפיצ׳ר שהמכונה זוכרת מי משתמש בה ויש זיכרון בין הפתילים לגבי הזהות של המשתמש, העדפותיו, ההטיות שלו ושיחות קודמות.
זה לא משהו שהיה במוצרים הללו מההתחלה והשינויים שביצעו בנושא לא תמיד נעשים בצורה שקופה למשתמש.

אם ניקח את ChatGPT בתור דוגמה:
- בתחילת דרכו של המוצר, כל פתיל חדש שפתחנו, גם אם זה עם חשבון רשום, היה עולם חדש. כאילו כל שיחה היא השיחה הראשונה שאתה מבצע עם המכונה בקונטקסט חדש לחלוטין.
- מאוחר יותר הם הוסיפו זיכרון חלקי ושקוף למשתמש. אם ג׳פטו החליט להכניס משהו שנאמר בשיחה מסוימת למן קונטקסט גלובלי שמשמש אותו בכל פתיל חדש שפותחים, אז היתה הודעה קטנה באפור ואם לוחצים עליה ניתן היה לראות מה הוא שמר בזיכרון (וגם היה אפשר לבקש ממנו לשכוח דברים ספציפיים).
- היום הפיצ׳ר (שניתן לכבות) הוא פחות שקוף למשתמש והוא דלוק כברירת מחדל. דברים שאתם אומרים בשיחות מסוימות, יכולות להשפיע על אופי השיחה ומה נאמר בשיחות אחרות. זה בקלות יכול להוסיף הטיות לתשובות שאתם מקבלים מסיבות ברורות. חפשו ב-Settings של ג׳פטו משהו בסגנון של Reference saved memories וגם Reference chat history. אבל אפילו אם מכבים את זה, לכו תדעו מה נשאר דלוק מאחורי הקלעים ועד כמה המכונה ״יודעת״ עם מי היא מדברת ומה צריך להגיד כדי להוציא את המשתמש יותר מרוצה.
User Based Bias 778928
אביב • בתשובה לאביב יום ג', 20/5/2025, 21:21
אופס.
תיקון: כתבתי הפוך. היום התהליכים הללו יותר שקופים למשתמש. המקום בו השתמשתי בביטוי הכוונה כמובן היתה הפוכה - שזה נעשה באופן גלוי עם אינדיקציה למשתמש.
חזרה לעמוד הראשי המאמר המלא
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים
האייל הקורא RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש והצהרת נגישות © כל הזכויות שמורות