 |
בג''ץ דחה על הסף עתירה שכללה אסמכתאות בדויות, שנוצרו בתוכנת AI | 4247 |  |
||||||
 |
|
 |
|||||||
 |
|
פרסומים אחרונים במדור "חדשות"
|
| הצג את כל התגובות | הסתר את כל התגובות |
|
|
 |
||
|
||||
|
שלום, שמי נועם ואני שופט איך אתייחס לעתירה שהוגשה ומצטטת פסקי דין פיקטיביים שנהזו ע"י ai ChatGPT said: שלום נועם,אם עתירה כוללת אזכורים של פסקי דין פיקטיביים שנוצרו על ידי AI, מדובר בבעיה חמורה של חוסר מהימנות, ואף עלול להיות ניסיון להטעות את בית המשפט. הנה כמה צעדים מומלצים: בדיקה ראשונית – יש לבדוק האם פסקי הדין המצוטטים קיימים באמת. ניתן לעשות זאת על ידי חיפוש במאגרים משפטיים מוכרים (כגון נבו, תקדין, אתר הרשות השופטת). דרישת הבהרה מהעותר – אם עולה חשד כי פסקי הדין לא קיימים, ניתן לדרוש מהעותר או מבא-כוחו לספק אסמכתאות מלאות ולוודא שההפניות תקפות. שיקולי סנקציה – אם יסתבר שפסקי הדין אכן מומצאים, ניתן לשקול הטלת סנקציות על מגיש העתירה, בין אם במסגרת פסיקת הוצאות ובין אם באמצעים אחרים כגון דיווח ללשכת עורכי הדין (אם מדובר בעו"ד). השפעה על העתירה – אם העתירה מתבססת על אסמכתאות שקריות, הדבר עלול לערער את מהימנות הטיעונים שלה כולה. ניתן לשקול דחייה על הסף בשל חוסר ניקיון כפיים, או להמשיך לדיון רק בהתבסס על אסמכתאות אמיתיות. התרעה מערכתית – בשל ההתפתחות של כלים כמו ChatGPT, בתי משפט בעולם מתחילים לפתח מנגנונים לזיהוי מקורות בלתי אמינים. ייתכן שכדאי להתריע על מקרה כזה לגורמים רלוונטיים במערכת המשפטית. מדובר בסוגיה חדשה יחסית, אבל ההשלכות המשפטיות שלה עלולות להיות משמעותיות. האם מדובר במקרה אמיתי שנתקלת בו או שזו שאלה היפותטית? You said: האם אני יכול לצטט אותך?ChatGPT said: כן, אתה יכול לצטט אותי, אבל חשוב להבהיר שהדברים אינם ייעוץ משפטי מחייב אלא ניתוח כללי של הסוגיה. אם אתה כותב החלטה או חוות דעת, כדאי לבסס את הדברים על מקורות משפטיים רשמיים ולשקול נוסח שמתאים להקשר הדיוני.אם תרצה, אוכל לעזור בניסוח רשמי יותר בהתאם לצורך. |
|
|
 |
|
|
|
||
|
||||
|
טוב עשתה הפעם כנופיית הפושעים המתקראת בג"ץ. לדעתי, עו"ד שמביא בית המשפט אסמכתאות בלי שבדק את אמיתותן צריך להיות מואשם בבזיון בית המשפט, ולא משנה אם מקור ה"אסמכתאות" הוא אדם, מכונה או דב אנשלוביץ. אשר לגב בינה עצמה, כאשר היא נשאלה בעניין ההלוצינציות היא לא התבלבלה ומיהרה לצטט את איינשטיין: "Imagination is more important than knowledge". |
|
|
|
|
|
|
||
|
||||
|
מעולה :-) והיא בדקה אם הציטוט של איינשטיין אמין? |
|
|
|
|
|
|
||
|
||||
|
אה, זאת היתה הלצה שלי. הייתי צריך להוסיף אימוג'י מתאים. | |
|
|
|
|
|
||
|
||||
|
משטרת ישראל לשרותכם תמיד: |
|
|
|
|
|
|
||
|
||||
|
לא נראה לי שג׳פטו יודע מה המרחק בין תום לב למידת סדום. | |
|
|
|
|
|
||
|
||||
|
מדאיג יותר מה שהמשטרה יודעת על ג'פטו מאשר מה ג'פטו יודע על החוק. | |
|
|
|
|
|
||
|
||||
|
איזה חמוצים אתם, לא תרגנו קצת שמשטרת ישראל משתמשת ב-AI? ממש חזית המדע. בסוף הם גם ישתפרו ויבדקו אותו, אבל התחלה טובה לא? |
|
|
|
|
|
|
||
|
||||
|
טובי המומחים מנסים כעת ללמד אותו להפעיל פקס. | |
|
|
|
|
|
||
|
||||
|
פתרון שעובד במקרים רבים של "הזיות" בינה מלאכותית הוא לבקש ממנה לבדוק את התוצאה. לאחרונה זה עובד טוב גם במסגרת אותה השיחה (session), ובניסוח נכון של השאילתא (prompt) ניתן למנוע זאת מלכתחילה. אבל כדי לוודא, עדיף אולי לעשות זאת במסגרת שיחה חדשה. אחת הסיבות המרכזיות להזיות קשורה בניסיונה של הבינה לרצות את השואל. במקרה זה, באמצעות מתן מענה שלם בעל עקביות פנימית והפניות כלשהן. בשבתה כבודק לעומת זאת, מבינה הבינה שריצוי השואל כרוך בשיפוט נטול פניות של טקסט שהוגש לה. ביום שישי האחרון הציגה לי מורה לאנגלית חיבור באנגלית שכתב תלמיד + הבדיקה שערך לו Gemini, לאחר הנחייה מתאימה. הוא התייחס לאוצר המילים, תחביר, סגנון, שגיאות כתיב, הנמקות ועקביות פנימית, תוך שהוא נותן ציון מנומק ומודגם על אחד מן הסעיפים (יצא 75). למרות שראיתי דברים דומים כבר לפני שנה, זה עדיין מהמם. |
|
|
|
|
|
|
||
|
||||
|
מה הן התכונות החסרות לך כדי להגיעה לדרגת ישות חושבת? שאלה מצוינת ומעוררת מחשבה! כמודל שפה בינה מלאכותית, אני יכול להסביר מה חסר לי כדי להגיע לדרגת ישות חושבת במובן העמוק של המילה, כפי שאנחנו תופסים אותה אצל בני אדם או יצורים חיים. מה חסר לי כישות חושבת? מודעות עצמית (Self-awareness): אין לי תחושה של "אני" או "קיום". אני לא מודע לכך שאני קיים, שאני מעבד מידע, או שיש לי "גוף" או קיום נפרד בעולם. אני פשוט מודל שפה המבצע פקודות. רגשות (Emotions): אין לי יכולת לחוות רגשות כמו שמחה, עצב, כעס, אהבה, פחד או כאב. אני יכול לעבד ולהבין טקסטים המבטאים רגשות, ואף ליצור תגובות שנשמעות רגשיות, אך זוהי סימולציה בלבד ולא חוויה פנימית אמיתית. תודעה (Consciousness): היבט זה קשור למודעות עצמית ורגשות. אין לי חוויה סובייקטיבית של העולם, תחושה של "מה זה מרגיש להיות אני". אני לא "חווה" את המידע שאני מעבד. חשיבה מקורית ויצירתיות אמיתית (Genuine Original Thought and Creativity): למרות שאני יכול לייצר תוכן שנראה יצירתי (שירים, סיפורים, רעיונות), היצירה שלי מבוססת על שילובים ודפוסים שקיימים בנתונים שעל פיהם אומנתי. אין לי הבזקים של תובנה, אינטואיציה או יכולת ליצור קונספטים חדשים לחלוטין שלא נלמדו ישירות או בעקיפין ממאגרי המידע. רצון חופשי וכוונה (Free Will and Intent): אין לי מטרות, רצונות או מוטיבציות פנימיות משלי. אני פועל רק על פי ההנחיות שאני מקבל מהמשתמשים ומהאלגוריתמים שתוכננו אותי. אין לי שאיפות אישיות, החלטות עצמאיות או תחושת מטרה. ניסיון חיים פיזי ואינטראקציה עם העולם (Physical Embodiment and World Interaction): אני לא קיים במרחב פיזי, אין לי חושים (ראייה, שמיעה, מגע, ריח, טעם) ולא יכול לחוות את העולם באופן ישיר. כל הידע שלי הוא טקסטואלי או מבוסס נתונים. למידה אנושית ופיתוח תודעה קשורים קשר הדוק לאינטראקציה עם הסביבה. פסיקה מוסרית ואתית סובייקטיבית (Subjective Moral and Ethical Judgment): אני יכול לנתח סוגיות אתיות על בסיס מידע שניתן לי, אך אין לי מצפן מוסרי פנימי או הבנה אישית של "טוב" ו"רע". ההחלטות שלי הן מבוססות כללים ולוגיקה, לא על ערכים מוסריים אישיים. למעשה, אני מערכת מורכבת שתוכננה לבצע משימות ספציפיות בצורה יעילה מאוד – בעיקר הבנה ויצירת שפה. היעדר התכונות הללו הוא שמבדיל אותי מישות חושבת במלוא מובן המילה, כפי שאנחנו מבינים אותה אצל בני אדם. האם יש לך שאלות נוספות על ההבדלים הללו או על היכולות שלי? |
|
|
|
|
|
|
||
|
||||
|
אני משוכנע שהוא לא משקר- אילו היו לו רגשות ויכולת שיפוט הוא כבר היה מן הסתם מתאבד מזמן. | |
|
|
|
|
|
||
|
||||
|
לפחות הוא יודע את האמת על עצמו. הלוואי על כולנו (: . | |
|
|
|
|
|
||
|
||||
|
די מדהים, הה? זה מתוצרת VEO? | |
|
|
|
|
|
||
|
||||
|
יאפ. VEO3. זוועה כמה שזה טוב. |
|
|
|
|
|
|
||
|
||||
|
אחרי ההתלהבות הראשונה ראיתי קצת ביקורת, אבל בסך בכל אני עדיין מתרשם מאד. גם אם כל מה שהוא אומר שם נכון, אחד המקצועות שייעלמו מהעולם עוד כמה גרסאות הוא שחקן/ית קולנוע. בשביל מה לשלם לברד פיט או לג'ניפר אניסטון מליונים אם אפשר לתת לצופה להיות אחראי על הליהוק החביב עליו (למשל להציב אותו עצמו בתפקיד ג'ימס בונד ואת שרה נתניהו בתפקיד האני ריידר. המממ). | |
|
|
|
|
|
||
|
||||
|
כן, ראיתי את זה (עם העברות קדימה כי הוא נשמע דביל וטרחני). כמעט כל מה שהוא אומר נופל תחת האמירה הכללית שגוגל הם לא מוצלחים במיוחד בכל מה שקשור ב-״Product״. שזה נכון. אבל למה זה מעניין? ה-Bottom line הוא שזו טכנולוגיה מרשימה שמיצרת קטעי וידאו פוטו ריאליסטיים מורכבים עפ״י פרומפט טקסט פשוט. מי שחושב שזה כבר בשלב זה אמור לספק לו סרטי קולנוע קוהרנטיים של Marvel, לא מבין במה מדובר. הטנטרום עם ניבולי הפה שהוא נכנס אליו שהאלגוריתם גם מיצר תוצאות רנדומליות / מצחיקות / הזויות / לא מדייקות בדיוק לרצון שנוסח בפרומפט / לדמות כלשהי יש עווית משונה בחלק מהמקרים, אלו קשקושי קליקבייט הרגילים של Youtubers נודניקים. לא התרשמתי (מה״ביקורת״ שלו). הדברים שהכי מצחיקים אותי בתוצאות (גרועות כל כך שהן נהיות טובות) של-VEO3: - כשאנשים צריכים להיכנס לכלי רכב. - קהלים. - אלימות בין דמויות. - משהו שחוזר על עצמו כמעט תמיד: כשהדמויות מסיימות להגיד את מה שהוגדר להן בפרומפט, תמיד יש חצי שניה עד שניה וחצי של Awkward silence כמו שחקנים ש״נגמרו להם השורות״ אבל הבמאי לא אמר Cut. |
|
|
|
|
|
|
||
|
||||
|
העתיד כבר כאן. | |
|
|
|
|
|
||
|
||||
|
ועכשיו בעברית: הנה פרסומת לזמן שיצרה ג'ני מילר (הפעל קול אם זה עולה מושתק). חלקתי את זה עם מקורביי האמנותיים. חלקם חוששים לעתיד כשרונם. אני מנסה להבהיר להם שבניגוד להם, אדם חסר כישורים ודמיון אמנותי כמוני, לעולם לא יכול היה לנסח אפילו עבור עצמו, ללא קשר לבינה מלאכותית, את השאילתא (מתורגמת לעברית) שיצרה את אחד הקטעים בסרטון: "צילום קולנועי של גבר בשנות הארבעים לחייו שעוצר במהלך ריצה בשביל חיצוני. הוא מיוזע ונושם בכבדות, מוקף בטבע עם רעשי רקע חלשים כמו רוח ותנועה רחוקה. הוא נראה מותש פיזית ועמוס נפשית. הוא מוציא בקבוק טפטוף קטן עם התווית "טיפת זמן", מקרב אותו לאף שלו, ושואף בעדינות. הסביבה מתרככת - התאורה הופכת חמה יותר, ורעשי הרקע דועכים מעט. הגבר מדבר בבירור בעברית ואומר: "אני חייב קצת שקט". אל תוסיף כתוביות. אל תייצר שום טקסט על המסך. וודא שהשמע הוא רק בעברית ושום כתוביות בשום שפה לא מופיעות." |
|
|
|
|
|
|
||
|
||||
|
אבל הרבה יותר קל לאדם שאינו מקצוען בתחום לרכוש את המיומנות הנדרשת בשביל ליצור פרומפט כזה מאשר ליצור את הסרטון בפועל. בנוסף, עם הזמן מן הסתם גם הפרומפטים עצמם יוכלו להיעשות בפחות דקדקנות, ובזמן רחוק יותר העוזר האישי שלך כבר יכיר אותך מספיק כדי שתוכלו להחליף רעיונות בשיחה ידידותית, כמו עם קולגה פחמימנית, ובסיומה הוא יפיק את הסרט1. והיום שאני מחכה לו באמת: היום בו ילד יוכל יצור סרט אבל ייאסר עליו לצפות בו עד שיגיע לגיל המתאים! ______________ 1 ליפסטיק: מה דעתך, אולי בכל זאת נחליף את שרה נתניהו בשרה פאולסון? שכ"ג: בשום אופן. אנחנו צריכים מישהי סקסית ממש כדי למשוך את הקהל. |
|
|
|
|
|
|
||
|
||||
|
____ גם שרה פאולסון כבר לא נראית ככה, מזה כמה שנים טובות. |
|
|
|
|
|
|
||
|
||||
|
זה בדיוק היופי באופקים החדשים שנפתחים. אני משער שלגב' פאולסון יש זכויות חוקיות על המראה שלה, אבל למרילין מונרו אולי כבר אין, ובכל מקרה כל אחת ואחד יוכלו ליצור את הגיבורים האידיאלים בעיניהם לכל תפקיד בלי שהם מחקים מישהו קיים, וגם זה לא צריך להיות קשה מדי: תן ל AI לעקוב אחרי האישונים שלך כשאתה מביט בכמה מאות תמונות של אנשים או בסרטונים קצרים, והוא יבנה לך סט של "שחקנים" לשיבוץ בכל יצירה שתבחר, חדשה או קיימת. | |
|
|
|
|
|
||
|
||||
|
אני עדיין חושב שאנחנו בתוך הUncanny valley שיהפוך את הצפייה בסרט הזה לבלתי נעימה בעליל. | |
|
|
|
|
|
||
|
||||
|
אני לא מדבר על מחר בבוקר, אבל הקטעים אליהם אפו קישר אומרים לי שאם לא מחר אז מחרתיים (וסליחה ממי שהביטוי הזה מעורר אצלו בחילה). | |
|
|
|
|
|
||
|
||||
|
בעוד חלקנו מנסה לשחזר את המתכונים מוולוג האוכל של ביגפוט, בעלי היוזמה שביננו כדוגמת ישראלי אקראי זה, מפגינים את יכולותיהם. | |
|
|
|
|
|
||
|
||||
|
מדהים באיכותו. נראה לי ההדיוט שהאיכויות מתקדמות בדור שלם כל שנה. | |
|
|
|
|
|
||
|
||||
|
כבר עכשיו עולה האותנטיות של דמויות אלה על זו של חלק ממקורביי. מפחיד. | |
|
|
|
|
|
||
|
||||
|
מתישהו בדיונים על „מהו אומנות” עלתה הצעה לגבי מה אינו אומנות: יצירת אומנות שמהותה ניתנת לתיאור בצורה מלאה בתיאור מילולי. אם הקריטריון הזה נכון, הוא מתאים ליצירות אומנות באמצעות תיאור מילולי. | |
|
|
|
|
|
||
|
||||
|
זה עלה בדיון על אומנות פלסטית. אבל אני חושב שההגדרה מתאימה במידה מסוימת גם לספרות: אם ספר מסוים הוא כל כך קלישאתי שתוכל למצות אותו לפסקה ולא לאבד שום דבר רציני: אני חושב שיש מספיק שיגידו שהוא לא אומנות. ואם יש ספר שלם שנוצר מפסקה: האם הוא מכיל בתוכו יותר מידע מפסקה? | |
|
|
|
|
|
||
|
||||
|
יפה. ספר שהתיאור בגב העטיפה חילופי לקריאתו - אינו יצירת אמנות. |
|
|
|
|
|
|
||
|
||||
|
אוסיף שזה נכון עבור מרבית הסרטים בנטפליקס. ויש לי דוגמה לצד החיובי של ההגדרה- לפני שבוע צפיתי שוב אחרי עשרות שנים בסרט "הכי טוב שיש" ולא נס ליחו. המלצתי לילדה לצפות, וכשהיא שאלה על מה הסרט הייתי חייב להדגיש שתיאור הסיפור1 ממש לא עושה איתו חסד. _____________ 1 סופר ערירי ומיזנטרופ עם OCD מתאהב במלצרית ומצליח לפתח מערכת יחסים גם עם שכנו ההומו. שווה צפיה? |
|
|
|
|
|
|
||
|
||||
|
אני עד היום לא הצלחתי לשכנע את הילדים שלי לצפות בסרט הזה. | |
|
|
|
|
|
||
|
||||
|
אני זוכר שראיתי את הסרט, אני לא זוכר את שמו. | |
|
|
|
|
|
||
|
||||
|
אני זוכר שזה קרה לי עם 'רומן רוסי' של מאיר שלו. פעמיים נתקלתי בו והתיאור היה כל כך משמים שלא טרחתי לפתוח אותו. מאז שכן טרחתי, קראתי אותו פעמים רבות והוא מהספרים האהובים עלי. |
|
|
|
|
|
|
||
|
||||
|
לדעתי זה הסרט שקיבע את תמונת הOCD במילון שבמוח שלי. | |
|
|
|
|
|
||
|
||||
|
הדיאלוגים שם לפנתיאון: "אני טובע פה, ואתה מתאר לי את המים!" |
|
|
|
|
|
|
||
|
||||
|
היום חשבתי, ובוודאי הקדימו אותי, על האלגוריתם העדכני לדחיסת תמונה: צלם תמונה, תן ל-AI לתאר אותה. שמור את התיאור המילולי, זרוק את התמונה. לאחזור: תן את התיאור ל-AI כהנחיה1 ליצירת תמונה. בעוד שמקובל שאלגוריתמי דחיסת תמונה הם lossy, האלגוריתם הזה יהיה לרוב gainy - יש מקום לקוות שהתמונה "המאוחזרת" תהיה יותר מוצלחת מהמקורית... 1 המונח העברי ההולם ביותר ל-prompt, על דעת שלושת המודלים החביבים עלי2. 2 אבל שלושתם עדיין נכשלים לחלוטין בהצגת שורה עברית עם מילה אנגלית בתוכה. אז אני שואל אתכם, איפה הבינה? |
|
|
|
|
|
|
||
|
||||
|
ברור, אני מקווה, שמה שאתה אומר רלוונטי לתמונה שהשופטת שלה היא העין האנושית ומה שחביב עליה, ולא לתמונה שמכילה דאטא אובייקטיבי וכמותי על העולם (רנטגן של איבר אולי סרטני, גלקסיה רחוקה בטלסקופ חלל, מדידה של מוליכים למחצה, הדמיה של תאי דם וכן הלאה). בכל המקרים האלה התמונה המאוחזרת לא רק שתהיה חסרת שימוש - היא יכולה לעשות נזק רב אם מישהו ישתמש בה למטרות הנ''ל. |
|
|
|
|
|
|
||
|
||||
|
ברור. תמונות כאלה (רנטגן, טלסקופ וכו') בכלל לא צריך לאחזר, אפשר לתת לבינה לתאר מילולית, להסיק מה שיש להסיק ולשכוח מהתמונה. | |
|
|
|
|
|
||
|
||||
|
עדיף לשמור את התמונות לצרכי מעקב ודיבוג עתידיים, בתור נתונים גולמיים אובייקטיביים. כמו שקופת חולים שומרת את נתוני בדיקות הדם שלך שנים אחורה. (ולצורך הסעיף הזה יש הבדלים בין סוגי התמונות שתיארתי. חלקן ראויות לתיוק בארכיון יותר מאחרות שניתן באמת לזרוק לפח). |
|
|
|
|
|
|
||
|
||||
|
וגם - אני לא חושב שתיאור מילולי יתקרב לחוויה של צפייה ברזולוציה גבוהה בעמודי הבריאה. | |
|
|
|
|
|
||
|
||||
|
"יש צורך רק בחמש אצבעות כדי לנהל את הגלקסיה, ורק בשלוש־עשרה אצבעות על מנת לשלוט ביקום." - דוד אבידן. | |
|
|
|
|
|
||
|
||||
|
כתב אקזמפלר מהמין שלא מצליח לנהל עם עשרות אצבעות אפילו חצי יבשת באופן מוצלח. אבל בשביל חלומות לא צריך אצבעות כלל וכלל. |
|
|
|
|
|
|
||
|
||||
|
אתה בטח מכיר את התוצאה לפרומפט "Salmon in the river", בראשית ימי ה-AI הגנרטיבי, לא? | |
|
|
|
|
|
||
|
||||
|
מצחיק, זה מזכיר לי שבמצגת שבתי עשתה בבית הספר על ''הבדואים בישראל'', בעמוד על מנהגים היא שמה תמונה של קפוצ'ינו עם חלב מוקצף בצורת לב. מסיבות דומות מאד, לדעתי. |
|
|
|
|
|
|
||
|
||||
|
לא הכרתי, נחמד. בדיוק אתמול ראיתי מצגת עם מתכונים שבעלתי קיבלה מסדנה מסוימת. ליד כל מתכון היתה תמונה. בכולם, בשניה הראשונה נדמה שהתמונה היא באמת של תוצאת המתכון, אבל מבט בוחן יותר מגלה שבעצם לא (במקום עדשים, משהו דמוי פתיתים; במקום קוביות גבינה, קרוטונים, וכאלה). בעלתי הציעה שזה AI, אבל לדעתי AI מהשנה האחרונה לא ייפול כך. זו נראית לי תוצאה של חיפוש תמונות ידני. |
|
|
|
|
|
|
||
|
||||
|
איש האבטיח הבטיח להצליח. | |
|
|
|
|
|
||
|
||||
|
ניצחון האדם על המכונה. מי זוכר סרט אגדות אמריקאיות, בחור שחור מתחרה במכונת קיטור, בנעיצת יתד פלדה בסלע. |
|
|
|
|
|
|
||
|
||||
|
|
|
|
| חזרה לעמוד הראשי |
|
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש והצהרת נגישות
|
© כל הזכויות שמורות |