בתשובה לאפופידס, 29/03/23 16:14
להשעות את הבינה 758404
שוקי שמאל • בתשובה לאפופידס יום ד', 29/3/2023, 18:42
הפסקתי להבין מה קורה בתחום הזה לפני 3-4 קפיצות דרך שהתחוללו בו, שזה בטח משהו כמו 25 שנה. בכל זאת אעז לומר משהו. בתחום הזה החל מלידתו כרשתות נוירונים, תמיד היה מסםר מצומצם מאד של אנשים שידעו היטב מה קורה שם בתוך קרביה של המכונה. ככל שהטכנולוגיה הכילה עוד ועוד שכבות טכנולוגיות (עיבוד לא לינארי, NPL, deep learning), נראה שהקבוצה הזו הולכת ומצטמצמת. ועדיין הבעיה אינה שלא יודעים איך המכונה פועלת. יש מעט מאד אנשים שיכולים לתת תיאור מלא של איך פועלת מכונית ועדיין כמעט כולנו נוהגים בה.
הבעיה האמיתית היא שה-AI חצה איזשהו גבול של יכולות והוא הולך ומשתווה ליכולות של מוח אנושי. גם זה לא מהפכה מפתיעה באמת. אני לא יודע איך להסביר נכון את המשפט האחרון, אלא ע"י ציון העובדה, שמאז ומתמיד היו תחומים, בהם המכונה היתה טובה בהרבה מן האדם. כעת זה קורה פשוט בתחומים שעד עתה למוח הביולוגי היה יתרון.
כמו שאנו יודעים שבני אדם הם מסוכנים, ברור שגם המכונות הללו יכולות להיות גם מסוכנות. לכן אני מבין את הדאגה של יוזמי העצומה.
אני פשוט לא מאמין שהם יכולים לעשות משהו בנידון. אפשר להטיל איסורים וחוקים חברתיים על טכנולוגיות. הבעיה היא שתמיד יהיה מי שיפר אותם. ואם הטכנולוגיה אכן נותנת לך יתרונות משמעותיים ל"מפרי החוק" הם יתפסו את מקומם של שומרי החוק. זה הסיפורים הידועים על איסור השימוש בקשת מוצלבת [ויקיפדיה] וספינות מסעות האוצר [ויקיפדיה] של שושלת מינג בסין.
אם למדנו משהו ממגפת הקורונה, זה שאי אפדר לפתור בעיות קרדינליות של המין האנושי באמצעות חקיקה והתארגנות מנהלית.
להשעות את הבינה 758406
אח של אייל • בתשובה לשוקי שמאל יום ד', 29/3/2023, 19:57
אתה צודק עקרונית לגבי איסורים. אבל זה לא צריך להיות אמצעי מושלם; להאט ולהגביל את ההפצה של הטכנולוגיה הזו גם עשוי לעזור (כדוגמת האמנה למניעת הפצת נשק גרעיני). למרבה צער, הנושא נמצא במודעות ציבורית נמוכה מאד ולכן זה מדאיג.
להשעות את הבינה 758407
אפופידס • בתשובה לאח של אייל יום ד', 29/3/2023, 21:39
באשר להשוואה בין התפשטות הבינה המלאכותית הכללית (AGI) להפצת הנשק הגרעיני, ישנם לדעתי שני הבדלים מרכזיים.
הראשון הוא יכולת הפיקוח. מה שאיפשר את חתימת ההסכמים בנושא היה פיתוח אלגוריתים FFT שאיפשר לעקוב אחר הפרתם ע"י שני הצדדים - Veritasium.
השני הוא שלפחות לדעתי, מידת הסכנה שבנשק גרעיני, גדולה ככל שתהיה, נופלת אלפי מונים מבינה שמסוגלת לצפות את תגובות הנפש האנושית ולתמרן אותה, להבין את הטכנולוגיה והמדע לכדי פיתוחים מקוריים, ולתכנן ולשכפל במהירות גירסאות משופרות שלה.
להשעות את הבינה 758408
אח של אייל • בתשובה לאפופידס יום ד', 29/3/2023, 23:03
אני מסכים ל 2 הנקודות שלך.

רק הערה: דיברתי על האמנה למניעת הפצת נשק גרעיני (NPT) ויכולת הפיקוח מתייחסת לאמנה אחרת: האמנה למניעת ניסויים גרעיניים (NTB). אבל בכל מקרה זוהי אנלוגיה מוגבלת מאד. אי אפשר באמת למנוע את ההתפתחות הטכנולוגית הזו והיא אכן הרבה יותר מסוכנת. אולי אפשר לקנות קצת זמן עבור מי שמנסה להפוך את הטכנלוגיה הזו ליותר בטוחה - AI_safety [Wikipedia] .

הקפאה לחצי שנה נשמע ממש קצר. אבל לפחות זוהי התחלה של מודעות ציבורית.
חזרה לעמוד הראשי המאמר המלא
מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים
האייל הקורא RSS מאמרים | כתבו למערכת | אודות האתר | טרם התעדכנת | ארכיון | חיפוש | עזרה | תנאי שימוש © כל הזכויות שמורות