בתשובה לירדן ניר, 20/12/01 17:28
מכונה אנושית 49131
האם אתה חושב שאולי בעית החונך, או המלמד,.תפריע לבנות מודל מלאכותי כזה?

מערכות מחשב שפועלות כרשתות ניורונים צריכות נקודת התייחסות ראשונית שאת זה מספק לה המפעיל. אם המערכת צריכה לזהות פנים אז החונך אומר לה עד כמה היא רחוקה מהזיהוי בפעם הראשונה שהיא פועלת.

זאת אומרת שהתחלת ההרפתקה האנושית של אדם-מכני תלויה במישהו שיתן לו דחיפה ראשונית.

למעשה תינוק עובר את אותו שלב חניכה אבל יש לו גם מטען גנטי ומה שיותר חשוב, כושר למידה ויכולת של המוח להתאים את עצמו למידע הנקלט בסביבה בה הוא גודל וגם לאופי המידע שהוא לומד.
''אולם חכמה לו לא ניתנה 49258
סתם כך, חינם, במתנה" (מקס ומוריץ / וילהלם בוש)

נניח שיש לך רשת עצבית, ואימנת אותה עד שהיא הגיעה למצב של "ידע" מסוים. עכשיו אתה יכול (עקרונית ובוודאי גם מעשית) לשכפל אותה: לבנות מחשב (או ליצור תוכנה) שיודעת מייד את מה שהרשת העצבית למדה.

אם אתה מקבל שהידע האנושי ניתן לרדוקציה לפיזיקה, אז נראה לי הכרחי (אבל זו אינטואיציה בלבד) שניתן יהיה (לפחות עקרונית, מעשית אולי יהיו בעיות של כמות) לבנות "שכפול" של מוח בוגר, שיהיה בעל אותו הידע כמו המוח, בלי שהוא למד אותו בדרך הקשה. "שכפול" במרכאות, כי הוא יכול (אולי) להיות סיליקון וביטים, ולא נוירונים.
''אולם חכמה לו לא ניתנה 49636
כתב שאני עובד איתו כתב כתבה על חברה בשם "AI" (עליו דווח בהרחבה בתקשורת הישראלית מאוחר יותר), שמנסה ליצור מערכת מחשב שיכולה ללמוד שפה (ודברים אחרים, אני מניח) מבראשית. החברה נתנה לאבי, הכתב, תעתיק של שיחה בין התוכנה לבין ה"מאמנת" שלה. אבי הבין מיד שיכול מאוד להיות שעובדים עליו (בדיעבד הוא צדק - "הדגמה" של אותה השיחה *בדיוק* ניתנה לכתבים אחרים שבאו בעקבותיו, בטענה שמדובר בשיחה בזמן אמת), וביקש מהם "לשוחח" עם התוכנה בעצמו. תשובת החברה הייתה שאי אפשר לעשות את זה, כי השיחה שלו עם התוכנה עלולה לפגוע בתהליך הלימוד הקבוע מראש שלה. אני הצעתי שיגבו את התוכנה, יאפשרו לאבי לשחק איתה, ולאחר מכן ישחזרו את המצב הקודם בעזרת הגיבוי. הם סירבו גם אז...
סתם, נזכרתי.
עוד על תוכנות לומדות 49688
ההסבר המגוחך-כשלעצמו שנתנה החברה, כאילו שיחה מקרית עם תוכנה לומדת עלולה לבלבל את התוכנה ולגרום לנזק בתהליך הלימוד, למעשה מחובר היטב לשורש הבעייה היסודית של "סוכנים חכמים" למיניהם אשר אמורים ללמוד את התנהגות בעליהם ואז לעזור להם בחיים. התנהגות אנושית טיפוסית היא פשוט לא מספיק עקבית כדי שמחשב בן-זמננו יוכל לזהות בה תבניות בעלות ערך ממשי שהאדם עצמו אינו מודע אליהן. לעומת זאת, הדבר הכי גרוע שעלול לקרות לנו בעקבות שימוש בסוכן חכם כזה, הוא שמרוב רצון לנצל את הצעצוע החדש נתחיל לחשוב פעמיים ושלוש לפני כל דבר שאנחנו עומדים לעשות האם פעולה זו אינה צפויה לבלבל את הסוכן העוקב אחרינו. כמה שנים עם סוכן חכם כזה על הראש, ובסוף גם אנחנו לא נעבור את מבחן טיורינג.

בניגוד לאותם סוכנים, אני מפנה את כל מי שעוד לא ביקר באתר http://www.20q.net לבקר שם. באתר זה משחק המחשב עם המבקרים את המשחק "20 שאלות" המפורסם, כאשר המחשב הוא זה שמנחש ותוך כדי ניחוש הוא גם לומד ומעשיר את מסד הנתונים שלו (המבוסס על מימוש פשטני של רשת נוירונים מלאכותית). לאחר מספר שנים של פעולה רצופה ולימוד מתמשך, יכולת הניחוש של התוכנה מרשימה ביותר. גם משתמשים מרושעים שיזינו למערכת שטויות בכוונה כדי לעכב במזיד את תהליך הלמידה, לא יגרמו לנזק רציני כל עוד רובם המוחלט של המשתמשים ימשיכו להזין פנימה נתונים אותנטיים.
עוד על תוכנות לומדות 49812
ואחד יותר חמוד, ויותר מרשים לדעתי!
עוד על תוכנות לומדות 49825
אני מסכים שהוא יותר חמוד, אבל יותר מרשים? הבינאריות הפרימיטיבית של הדיקטטור (שאלות כן/לא בלבד) מול מגוון האפשרויות שנותן "20 שאלות" (מאפשר הזנת תשובות כגון "לפעמים", "בדרך כלל לא", ואפילו "אולי") הופך את האחרון להרבה יותר מרשים בעיני.
עוד על תוכנות לומדות 49835
פשטות אינה בהכרח חיסרון, אם ההישג הוא דיוק ומהירות, בהשוואה ל 20q.
עוד על תוכנות לומדות 49848
פשטות אינה בהכרח חיסרון, אבל בכל זאת תסכים שקשה להשוות תוכנה שמנחשת דיקטטורים ודמויות מסיטקומים עם תוכנה שמנחשת כמעט כל דבר באחוזי הצלחה מרשימים. הדיקטטור באמת חמוד ומהיר יותר, ויש לו קסם מיוחד כי הוא "פתאום" מנחש את התשובה הנכונה בלי שיהיה ברור איך הוא הגיע אליה. ה-‏20q לעומת זאת מראה לך בכל רגע את רשימת התשובות האפשריות (כאשר הרשימה קטנה מספיק) לפי סדר עדיפות יורד, ובכך הוא למעשה מקלקל את אפקט ה"קסם" אך מאפשר לשחקן לראות בעצמו כיצד תשובה מסוימת משנה את סדר המועמדים, שזה סוג של הצצה לקרביים של התוכנה בזמן פעולתה. אני רואה בדברים האלה יתרונות, אבל זה בהחלט הופך את 20q לעסק מסורבל יותר ופחות משעשע מהדיקטטור.
עוד על תוכנות לומדות 49849
יכולת דיוק נראת לי חשובה הרבה יותר. שיחקתי בשתיהן הרבה בעבר, ובכל פעם הופתעתי מיכולת ההסקה של דיקטטור והתאכזבתי מ 20q. נכון, המטלה שמונחת על כתפי 20q כבדה הרבה יותר, והתוצאות בהתאם. זה פשוט גדול עליה; נראה לי שחכם יותר פשוט להתרכז בנושא מסוים וכך להשיג אחוזי יעילות והצלחה גבוהים פי כמה (ברוב המוחלט של הפעמים, 20q מפספסת, לפי דברי האתר עצמו).
עוד על תוכנות לומדות 49850
הסטטיסטיקה הפרטית שלי עם 20q היא שבסביבות שליש מכמה עשרות המשחקים ששיחקתי הסתיימו בניחוש נכון, וזה מרשים במיוחד לאור העובדה שבכמה מהפעמים בחרתי דברים איזוטריים שהם בלתי-נחישים לפי כל קנה מידה הגיוני.
עוד על תוכנות לומדות 49856
זו גם הסטטיסטיקה שלי, ואני בספק אם "רגלי לטאה ברוטב צ'ולנט" נחשב איזוטרי :-)
כנראה שזה לא מספק אותי...
עוד על תוכנות לומדות 50750
לא הצליח לנחש את שרון, למרות שאמרתי לו שאשתו מתה מסרטן ושהיתה יפה. כנראה הבעיה בכך שטענתי שהוא גזעני (למרות שאני לא חושב שהוא גזעני ושהוא דיקטטור... ומה אתה חושב?)
עוד על תוכנות לומדות 50752
אני חושב שההיגד היחיד הנכון הוא שאישתו מתה מסרטן. עם פרטים כאלה גם אני לא הייתי מנחש :-)
שרון אולי גזען (לא הייתי בתוך הראש שלו כבר הרבה זמן) אבל הוא לא דיקטטור. הוא גם לא דמוקרט גדול.
עוד על תוכנות לומדות 50756
לא חשוב. הצליחה לנחש בקלות את ויקי מ''ילדת הפלא'' ועוד יותר בקלות את אנג'לה מ''מי הבוס'' ומר האמפריז מ''מישהו מטפל בך''. אכן אתר משעשע... תודה.
עוד על תוכנות לומדות 50815
על-לא-דבר.
עוד על תוכנות לומדות 59021
ניחשה גם את Apu Nahasapeemapetilon מהסימפסונים, וגם את פיבי (ככה מאייתים את זה באנגלית Pheobe??) מ"חברים".
עוד על תוכנות לומדות 50745
בעבר כתבו על אתר זה באייל, בעקבות כך פניתי לאתר והוא אכן הצליח להדהים אותי, כשהצליח לנחש אפילו שטויות כמו ''גובלין''. מה שהפתיע אותי היה שכמעט תמיד נדמה היה לי, על סף השאלה האחרונה, שהוא אפילו לא מתקרב, אבל פעמים רבות הצליח לשלוף משום מקום את התשובה בניסיון האחרון.
''אולם חכמה לו לא ניתנה 50619
טיפשי מצידם. הם יכלו להדגים את "חוכמת" התוכנה, live, ולהשתמש בגיבוי כפי שאמרת, כאשר למעשה מישהו שיושב בחדר אחר מזין את ה"פלט" של התוכנה (כמובן שעליו להקפיד לא להיות "חכם" באמת).

אגב, החברה פשטה רגל לא מזמן (לפי כתבה ב"דה מרקר"). ביקור שערכתי פעם במשרדיהם הוביל לכל שהידיעה לא הפתיעה אותי כלל: כבר ראיתי בזבזנות בחיי, אולם זו היתה הגזמה פראית.
''אולם חכמה לו לא ניתנה 50631
נהוג לחשוב שכל מה שדרוש כדי ליצור מחשב-אנושי זה לפתח עוד יותר את האלגוריתמים ולבנות מכונות מהירות יותר. אבל תוכנית המחשב צריכה להיות Aversive System (מה התרגום לעברית?) כולל יכולת רגשית, תחושתית, מניעים, מטרות וכיוב'.

יכול להיות שזה רק עניין של זמן עד שתוכנה כזו תפותח אבל איך נדע למשל שמכונה כזו שאמנם יכולה לשחק שחמט, בכלל אכפת לה לנצח?

נראה שהבעיה החשובה יותר היא לא איך לתכנת רובוט כזה אלא איך לרבט (רובוט כפועל דיקדוקי) את התוכנה. זאת אומרת, שהחומרה היא מה שחשוב. חומרה לא מכיוון של יכולות, חוזק חישובי ומהירות עיבוד אלא מבחינת החומר ממנו עשויה המכונה. האם אפשר לאמר על צ'יפ סיליקוני שהוא יכול להתנהג כמו "גן אנוכי"? למשל האם לסיליקון יוכל להיות יצר ההשרדות שיש לו בסיס גנטי, ביולוגי?

אז אפשר לטעון שפשוט צריך לנטוש את הכיוון הסיליקוני ולסנתז תאים מלאכותיים עם יכולות התנהגותיות משוכללות. ראשית על פניו זה נראה אפילו יותר דמיוני מאשר פיתוח "תוכנה אנושית", ושנית אם אכן יצליחו בזה, האם לא נעבור אז לסיפור של בורחאס על פייר מנאר שרצה לכתוב יצירה בשם דון-קישוט וגילה שהוא כתב את דון-קישוט המקורי. זאת אומרת, בנקודה זו העסק יהיה משעמם מבחינה פילוסופית.
''אולם חכמה לו לא ניתנה 50643
פייר מנאר לא כתב את דון-קישוט המקורי.
יכול להיות שהטקסט זהה בשני המקרים, אבל חוץ מזה אין הרבה מהמשותף.

דוגמאות:
1. דון קישוט של מנאר הוא מעודן יותר משל סרונטס. סרונטס מעמיד, בגסות כלשהי, מול עלילות האבירים הבדויות את המציאות הפרובנציאלית של ארצו. מנאר בוחר כרקע "מציאותי" את ארצה של כרמן במאה של קרב-לפאנטו ושל לופה דה וגא.
2. לא פחות חיוני הוא הבדל הסגנונות. בסגנונו הנוטה לארכאיות של מנאר – שהוא, ככלות הכל, בן לארץ אחרת – ניכרת התקשטות מסוימת. הדבר אינו כך לגבי קודמו, שהשתמש בחופשיות בשפה הספרדית של תקופתו לצרכי היום-יום.
3. הטקסט של מנאר עשיר יותר לאין-ערוך (דו-משמעי יותר, יאמרו המבזים אותו, אך דו-משמעיות היא עושר מסוים).

בנקודה זו, כמובן, העסק מרתק מבחינה פילוסופית.
''אולם חכמה לו לא ניתנה 50647
LOL
''אולם חכמה לו לא ניתנה 50732
איך מתנהג גן אנוכי? כל מה שהרעיון של גן אנוכי אומר הוא שגנים מתרבים. גן שהאורגניזם שלו מתרבה היטב (בזכותו או שלא בזכותו) יתרבה ויגיע לחלק גדול יותר מהאוכלוסיה. אין פה, כמובן, שום עניין של רצון או יצר השרדות. תאמין לי שלגן לא אכפת אם הוא וכל אחיו ישחטו וישלחו לניסויים בבית החיות של בית-כרם.
''אולם חכמה לו לא ניתנה 50746
כנראה שלא הייתי ברור מספיק.

הבאתי את דוגמת ה''גן האנוכי'' לא כדי לאשש או לסתור אותה אלא כדוגמא להיפותזות על צורות חיים ביולוגיות. השאלה המרכזית בתגובה שלי הייתה האם חומר סילוקוני שיכול לבצע פונקציות אנושיות יהיה מסוגל לבצע את כל הפונקציות של חומר ביולוגי, התרבות, התמרת אנרגיה, יצר שרידה ועוד. כל הדברים הללו קשורים ישירות לאופי הפעילות של המוח, לאופן התפתחותו, ולכל אותן תופעות הנכללות תחת מצבים מנטליים.

שאלה חשובה לא פחות היא האם ניתן לסכם את הפעילות האנושית רק כאוסף של פונקציות (התשובה היא שלילית).

לכן, כשכתבתי בסוף שאם ניצור מכונה אנושית העשויה מתאים סינתטיים כלשהם, הפועלים על פי אותם כללים של חומר ביולוגי, אז מבחינה פילוסופית לא התקדמנו בכלל. זאת אומרת, עדיין לא הבנו את תופעת החויה הפרטית, רק החלפנו את החומר.
''אולם חכמה לו לא ניתנה 50889
מניין לך בכזו ודאות כי התשובה שלילית? ובכלל במה עוד יכולה, אפילו תאורטית בלבד, לבוא לידי ביטוי "הפעילות האנושית" מלבד אוסף של פונקציות?
פונקציונליזם 51190
הבעיה העקרית עם התיאוריה הזו היא הנתק שהיא כופה בין המוח ל Mind (נפש, רוח, מחשבה, זכרון, דעה, כוונה, רצון, שכל - כל הגדרות הבבילון או חלקן).

אם הפעילות המוחית היא רק פונקציה, אז מתעוררת שאלת ה"ישומים המרובים" - משמע, הפלטפורמה לא משנה, מחשב, חומר ביולוגי, מכונת טיורינג תאורתית, (א לה Java ב Windows או Unix). כביכול כולם יפעלו באותה צורה עם אותה "תוכנה". אבל יותר מכך, ניתן להראות שעל פי התאוריה הזו, מצב מנטלי מסוים יכול מיושם על ידי מצבים פיזיקליים שונים במוח, דבר בלתי אפשרי.

בכמה וכמה תגובות שלי הראתי שלא ניתן להפריד בין החומר הביולוגי שיש לו פעילות מנטלית, ולא ניתן להתעלם מהעובדה שהגוף כולו פועל כמערכת משוכללת שלמה. האם תיתכן אפשרות של החליפת מוח בין שני אנשים? לא ולא. זאת פנטזיה של כותבי מד"ב.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים