בתשובה להאייל האלמוני, 17/06/05 8:34
ציפור קטנה לחשה לי - חלק ב 309452
זה נכון, אבל אני מנסה להסתכל על העניין בצורה יותר תיאורטית ועם כמה הנחות בסיסיות מקלות לטובת המחשבים. אני מניח שהמחשבים בכלל לא צריכים בן אדם, ומשאיר אותם מחוץ למשוואה - כל מה שהמחשבים צריכים זה להכיר מבחן ולדעת מה התגובות שמצפים מהן במבחן כדי שיעברו אותו (הרי אם קיים מבחן, זה אומר שיש תשובה "נכונה" ותשובה "לא נכונה"). מאיפה המידע הזה הגיע למחשבים? ממש לא מעניין אותי.

אני טוען שגם אם למחשבים יהיה את הידע הזה, עדיין כל מחשב שיהונדס לענות על מספר סופי של מבחנים ייכשל באיזה שהוא מבחן, ואי אפשר להנדס מחשב שיענה על מספר אינסופי של מבחנים, כי הוא בכל זאת צריך ללמוד למבחן את התשובות הנכונות לפני שהוא מסוגל לעבור אותו בהצלחה.

אם תרצי, הרעיון התיאורטי שלי הוא כזה: אני בא למחשבים ואומר להם "אתם אומרים לי שאתם מסוגלים לייצר רובוט עם קוואליה? נהדר. תנו לי אחד כזה שאני יכול להכניס אותו לחדר סגור ולתת לו איזה מבחן שאני רוצה, ואם הוא עובר את המבחן הזה ניצחתם". כש"רובוט בחדר סגור" פירושו שהוא לא הולך ללמוד דברים חדשים בזמן שהוא בחדר. אני טוען שאם הרובוטים יסכימו לתנאים הללו (שלי נראים סבירים, כי בני האדם עוברים אותם), הם יפסידו.
ציפור קטנה לחשה לי - חלק ב 309462
אבל זה בדיוק מה שאני אומרת, רק שלדעתי אתה לא זקוק לאינסוף מבחנים. אתה פשוט דורש מהם לעבור מבחן כשאין להם ממי להעתיק אותו.
ציפור קטנה לחשה לי - חלק ב 309472
שוב, לדעתי אפשר להקל עליהם כך שהם לא צריכים להעתיק מאף אחד. העלו כאן דוגמה של תלמיד שמקבל את התשובות למבחן יום מראש: התלמיד לא זקוק למישהו בזמן המבחן שהוא יוכל להעתיק ממנו, אלא סתם הוא צריך לראות את הפתרון למבחן. לדעתי *גם* אם כל רובוט יוכל לקחת כמה מבחנים שירצה ולקרוא את הפתרונות שלהם *לפני* שהוא נכנס לחדר, בחדר יוכלו לתת לו מבחן שבו הוא יאכל אותה.
ציפור קטנה לחשה לי - חלק ב 309475
ודאי: כל הרעיון הוא לא לתת את אותה בחינה שהוא עבר עליה יום קודם. (זו הייתה דוגמא שלי).
ציפור קטנה לחשה לי - חלק ב 309474
לא רציתי לעשות את זה. אבל אין לי ברירה. פיתחתי רובוט משופר. איפשהו, בכספת סודית, חייב להיות קיים השאלון שלפיו בוחנים את הרובוט. בעזרת טכנולוגיה חייזרית, אני יכול לגנוב כל שאלון ברגע שמחברים אותו, ולתת אותו לאוסף מומחים (אנושיים) שיכתבו לכל שאלה מהי התשובה הנכונה. אוסף המומחים האנושיים נמצא בבאר כבידה כזו, שהזמן מואץ וכל מומחה נותן לי שנת עבודה אחת תוך שניה!

המומחים האנושיים כותבים את התשובות ללוג אחד ארוך, ושולחים אותו אל הרובוט שלי. עכשיו הרובוט יעבור מבחנים גם בשיטה שלך. ועדיין מתקיים התנאי שהרובוט יקבל ציון לפחות כמו כל אדם אחר שעובר את המבחנים.
ציפור קטנה לחשה לי - חלק ב 309498
גם זו התקטננות, ואין הבדל ממשי בין זה ובין בנייה של רובוט חדש שיודע לפתור את השאלון הבעייתי ובחינה שלו. תגובה 309471.
ציפור קטנה לחשה לי - חלק ב 309503
אתה שוב מתעלם בעקשנות מהעובדה שעזרה בבחינה כזאת לא נחשבת. כנ"ל העתקה. כנ"ל רמאות. בדיוק כפי שכל אדם שייתפס בטריקים כאלה ייפסל, כך ייפסל הרובוט שלך. אני אומרת בפעם הששים ושבע בערך: לא תהיה לו קואליה, הוא לכל היותר יוכל לעבור מבחן קואליה באופן פסול.

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים