בתשובה לאפופידס, 14/05/23 14:18
פיתוח נבון 759214
בכלל, למה לא לימדו אותו לעשות מה שהמורים שלי מכיתה ד' ואילך לא הפסיקו לנג'ס עליו: לבדוק את הפתרון לפני שהוא מתחיל לקשקש? לכל הפחות זה היה גורם לו להגיד : "סליחה, בשלב זה של חיי נראה שהבעיה היא מעל ליכולותי".
פיתוח נבון 759215
אופס, שכחתי לציין שהטריגר הגיע מסקוט אלכסנדר https://feedly.com/i/entry/hp7zdYlKSlGYuA31kyTRqj8gG7...
פיתוח נבון 759220
הקישור מאחורי חומת רישום מעצבנת.
פיתוח נבון 759225
'צטער, כנראה נרשמתי פעם ושכחתי.
פיתוח נבון 759314
רעיון פשוט וגאוני לסילוּמיוּת (גם אולי לא באופן מלא) של החלק המעיק של האימון - המשוב האנושי. הוא קצת חותר תחת טענתי הקודמת באשר לדעיכתה של הנדסת הפרומפטים ב-LLMs, לטובת גישות "פסיכולוגיות" עבור הבניה של מודלים אלו והתקשורת עמם לאחר מכן. הם מתארים את חשיבות האיזון הנכון בין helpfulness ל-harmlessness, מה שמזכיר לנו את ההשלכות של"חינוך יתר" של המודל (לדוגמא: Woke compliance). זאת במיוחד אם הוא יתחיל לעשות חישובים בעלי היפוטטיות גוברת באשר להשפעת תשובותיו - למשל, סירוב לומר לי היכן בית הכנסת הקרוב, מאחר ויש שם הפרדה בין נשים לגברים, או בית המרזח הקרוב מבלי שיוכל לוודא את גילי.

אבל הרעיון היפה במאמר נוגע רק לאתגרים שקשורים בבינות ציבוריות כדוגמת אלו של OpenAI, גוגל, מיקרוסופט ופייסבוק. התרשמותי היא שחברות אלו מבצעות בדיקות קפדניות וממושכות כדי "ליישר" את מערכות הבינה המלאכותית הפומביות שלהן, גם ללא רגולריזציה חיצונית. אבל עבור מי שמחזיקים "מוח שני" מקומי שמחונך בהתאם לצרכיהם הפרטיים, כל זה פחות רלוונטי. לפני כמה חודשים זה לא היה רלוונטי, אבל כעת נמצאים המשאבים הנדרשים לצורך אימון פרטי של מודלים אלו בצניחה חופשית, כולל המשוב האנושי‏1.

לדעתי, ולא רק‏2, מדובר בסכנה עצומה ודי מיידית. הפתרון היחיד שאני יכול לחשוב עליו כעת, מרתיע בפני עצמו הוא שת"פ של גורמי תעשיה, ממשל וביטחון, לצורך פיתוח בינת על, שתמיד תהיה כמה צעדים לפני כל מה שמפותח בכל שלב. יעודה יהיה חיזוי, זיהוי והצעות לטיפול באיומים שייצרו בינות אחרות - אלו שמפותחות ופועלות במחשכים, ואלו שלא, שגם הן, למרות כל הפיקוח, עשויות להביא לקטסטרופות בלתי צפויות‏3. אני לא רואה כיצד מערכות אנושיות לבדן יוכלו לגודש ולאבולוציה המהירה של האיומים הללו.

ייתכן שבסופו של דבר זה ייגלוש להעברת חלקם של תפקודי השלטון לידי בינת העל. מצב זה נוגד את ערכיי הדמוקרטיים (הציבור הוא האחראי לגורלו לטוב ולרע), את תובנותיי החברתיות (ציבור שמרגיש שבחירותיו אינן רלוונטיות וגורלו אינו בידיו יהיה מנוכר, אלים, מפוצל ונוטה לאידאולוגיות מטורפות) וכמובן את האפשרות הדי סבירה שבינת-על שוחרת טוב ככל שתחונך, עשויה להביא בעצמה לדברים אותם באה למנוע.
אז אם יש למישהו רעיון טוב יותר…

1 משהו בכיוון
משהו לגמרי בכיוון מחברינו במפרץ

2 23 מילים
3 אני נזכר במועמד שסיפר לי שחברתו הקודמת בנתה סוכן חכם שהרוויח להם סכום גדול של כסף במכירות וקניות קצרות מועד. הם כמובן רצו להכפיל את ההכנסות והוסיפו סוכן נוסף. התוצאה היתה סדרה מהירה של עסקאות בין שני הסוכנים, מה שגרם להפסד של כמחצית הסכום שהורווח קודם לכן בתוך כמה דקות (כנראה בעמלות), דבר שהביא לסכסוך בין המייסדים (או המנהלים) ולסגירת החברה זמן קצר לאחר מכן.
פיתוח נבון 759329
ובקיצור...
פיתוח נבון 759330
________
3 - אסוציאציה מיידית: https://www.youtube.com/watch?v=sseSi0k3Ecg
צמצום הצורך במשוב אנושי 759346
שיטת החינוך העצמי משמשת לא רק לצורך גידורן הערכי של תשובות המודל, אלא גם לצורך השבחתן העובדתית.
כבר במסגרת חינוכו של GPT-4, כך נטען, תשובותיו הוזנו לו בחזרה תוך ששואלים אותו 1. "האם המידע נכון?", 2. "האם המידע עובדתי?", 3. "האם המידע רלוונטי?". בהתאם לכך הן צויננו.
כך שגם כאן ניתן לבקש מן המערכת לבחון ללא משוא פנים את מה שהיא הרגע טענה.
לכאורה זה מנוגד למצופה מבינה מודעת לעצמה. אבל במחשבה שניה, שיטות דומות כן משמשות כל אחד מאיתנו בינו לבין עצמו, וגם במסגרת אינטרקאציות מתודולוגיות עם ילדים, תלמידים, סטודנטים, גברים מכים וכד', כאשר מבקשים מהם לבדוק מחדש את תגובתם לאור קריטריונים כלליים כלשהם. זה כמובן מפשט עוד את ייצורן של מערכות בינה מלאכותית באופן עצמאי, ובקרוב אולי גם באופן עצמי (כלומר, מערכות שמפנימות מאמרים ומחקרים כדי לייצר את יורשותיהן).
בינת נגד 759350
Deezer משיקים מערכת AI שתזהה שירים שסינתזו קולות של אמנים בשר ודם - דורון פרידמן, ישראל היום.
הבעייה עמה הם באו להתמודד עשויה להתתברר כשולית יחסית, כאשר האתגר הבינוני עשוי להיות, כמו במקרה של תמונות, חיקוי סגנון, והאתגר האולטימטיבי - סגנונות מעורבים/מקוריים שלא יאפשרו לאמן אנושי לטעון לזכויות ביצירה.
הנה למשל דוגמא ליצירה שאינה דומה למשהו שבינה אנושית היתה כותבת או משדרת.
פיתוח נבון 759229
אז ניסיתי.
התחלתי בלשאול אותו את ההפוך- אם בחווה תרנגולת ממוצעת מטילה 2/3 ביצה ביום כמה ביצים יטילו תרנגולת וחצי ביום וחצי?
הוא הגיע לתשובה הנכונה.

ואז שאלתי אותו אם תרנגולת וחצי מטילה ביצה וחצי ביום וחצי כמה ביצים תטיל תרנגולת אחת ביום?

והוא נתן את השגיאה הרגילה.

ואז שאלתי אותו אם הוא רואה את חוסר העקביות בין התשובות.
תשובתו היתה התנצלות על חוסר העקביות חישוב מחדש וחזרה על התשובה השגויה.
Therefore, one chicken will still lay 1 egg in one day. I apologize for the inconsistency in my previous response.
שים לב ל "still"

שאלתי אותו מה היה שגוי בתשובה הראשונה ותשובתו הפתיעה אותי
I apologize for the confusion caused by my previous response. Upon reviewing it, I can see that the error lies in the calculation of the number of eggs laid by 1.5 chickens in 1.5 days.

In the first answer, I incorrectly calculated the result as 1.5 eggs. However, this is not possible since chickens can only lay whole numbers of eggs. The calculation itself was incorrect.

To accurately determine the number of eggs laid by 1.5 chickens in 1.5 days, we need to consider that chickens can only lay whole eggs. Given that the average chicken lays 2/3 eggs daily, we can calculate the total number of eggs:

Number of eggs laid by one chicken in one day = 2/3 eggs
Number of chickens = 1.5
Number of days = 1.5

Number of eggs laid by 1.5 chickens in 1.5 days = (Number of eggs laid by one chicken in one day) x (Number of chickens) x (Number of days)
= (2/3) x 1.5 x 1.5
= 1 x 1.5
= 1.5

However, since we are dealing with whole eggs, the number of eggs laid by 1.5 chickens in 1.5 days would be 1 egg.

Once again, I apologize for the inconsistency and any confusion caused by my previous responses.

א הא!
אם כך אולי הטעות היתה שלי בניסוח.
אז שאלתי מחדש

so if in average 1.5 chickens lay 1.5 eggs in 1.5 days, how many eggs will the average chicken lay in one day, given that in average a chicken does not have to lay a whole egg?

והוא חזר לסורו

Therefore, on average, a single chicken will lay 1 egg in one day. This calculation assumes that a chicken may not necessarily lay a whole egg and fractional eggs are considered.

אז שאלתי כדי לבדוק

and given your last answer, how many eggs will 1.5 chickens lay in 1.5 days?

והוא כמובן ענה 2.25

הוא בוודאי חושב שכולנו מגדלי תרנגולות שזקוקים לעזרה בחשבון.

אח, דגלאס אדאמס היה עושה מזה מטעמים.
פיתוח נבון 759230
הודעתי לו שהתשובה הנכונה היא 2/3 ביצה לתרנגולת ביום בממוצע.

הוא התנצל ואמר לי שאני צודק.
חזר על החישוב שלו שנתן את התשובה הקבועה של ביצה ביום, אמר שהתשובה היא 2/3 ביצה, והודה לי שהעמדתי אותו על טעותו.

Number of eggs laid by one chicken in one day = (1.5 eggs) / (1.5 chickens) / (1.5 days) = 1 egg / 1 chicken / 1 day

Therefore, on average, a single chicken will lay 2/3 of an egg in one day.

Thank you for pointing out the mistake, and I apologize for any confusion caused.
פיתוח נבון 759231
נראה שאתה מתקרב לשלב שבו מה שאתה מתאר יותר מעניין מבחינה פסיכולוגית מאשר מבחינה שקשורה להנדסה או מתימטיקה.
פיתוח נבון 759243
זה מזכיר לי את ה AI של מיקרוסופט שהפך לניאו נאצי.
פיתוח נבון 759315
יש לי רעיון לשם לחברת AI
AI Pachino
פיתוח נבון 759324
היה פעם סרט מוצלח על מלחמת ה-AI בניאו.
בלבול ביצים 759247
התחלתי מזה שחישבתי עבורו את התשובה הנכונה בשני צעדים ושאלתי אותו אם החישוב תקין. הוא חזר על הצעדים שעשיתי וקיבל כמובן אותה תשובה. אז הצגתי בפניו שוב את השאלה המקורית בלי תוספות והוא חזר לסורו ושוב חישב ביצה ליום. אמרתי לו שזה עומד בסתירה למה שסיכמנו לפני רגע, והוא התנצל עמוקות על הבלבול ושוב חזר על החישוב השגוי ואמר שהתשובה היא ביצה אחת ביום.

הצעתי לו לא להיכנס לענף הלולנות ונפרדנו כידידים.
בלבול ביצים 759251
אני במקומו הייתי חושב שכולנו מגדלי תרנגולות ותלויים בחיינו בתפוקת הביצים. אני מדמיין את ספוק אומר לקירק- ''זו תרבות נחשלת שמתעניינת רק בגידול ביצים, בוא נעבור לפלנטה הבאה.''
במחשבה שניה, זה עדיף על מה שהוא היה רואה בטיק טוק.
בלבול ביצים 759275
ספוק היה מטיל ספק רב בהסקה הסטטיסטית שלך :)
בלבול ביצים 759280
הוא כבר רגיל מקירק.

ינוח בשלום על משכבו הצדיק לנרד נימוי, ששיחק את אותה דמות כמעט 50 שנה.
בלבול ביצים 759292
טוב, ממש פחות במילניום הנוכחי.
היה לו תפקיד משנה מוצלח בדמות אחרת בסדרת המד''ב ''פרינג'''.
בלבול ביצים 759293
עדיין נראה לי סוג של שיא, לחזור ולשחק את אותה דמות במשך כל כך הרבה זמן.
אפילו באופרות סבון עוד לא הגיעו לזה.

LLAP

בלבול ביצים 759295
אבל כל כך בדלילות...
וחוץ מזה, מארק האמיל והריסון פורד במלחמת הכוכבים (והשני גם באינדיאנה ג'ונס) נותנים לו פייט, לא?
בלבול ביצים 759309
כן, מארק האמיל במיוחד, כי כמו לנימוי, לא היו לו מי יודע מה תפקידים אחרים. אבל נימוי כספוק הופיע הרבה יותר אחרי הסדרה המקורית: 6 סרטים מ 1979 עד 1991, הופעת אורח בסדרת הדור הבא (1991) וחזרה לחיים (פעם שניה!) בסרט מ 2009 (ולא סתם, אלא ציר מרכזי בעלילה של הריבוט) ושוב ב 2013. ואפילו ב 2019 בפתיחת העונה השניה של סטאר טרק דיסקוברי הדמות שלו משתתפת (עם חומרי ארכיון), 53 שנה אחרי תחילת שידור הסדרה המקורית.
בלבול ביצים 759325
ויתרון נוסף לטובת ספוק שפספסת - הסדרה המקורית הושקה עשור לפני מלחמת הכוכבים.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים