''מכונות תבוניות'' 460147
המרואיין לא אוהב את הרעיון שיצורים כאלה יווצרו, אבל הוא מאמין שבסופו של דבר זה יקרה.
אני, הקטן, לעומת זה, לא מאמין שמישהו ממש מבין מה זה בכלל "יצור תבוני" מלאכותי, וכן מאמין שחוסר ההבנה הזאת תישאר לעד, וממילא גם אם יוצג איזה "הל" כזה, תמיד אפשר יהיה לחלוק על הקביעה שאכן מדובר ב"יצור תבוני".

אני גם חושב שהשאיפה להתקרב לדבר כזה, כשלעצמה אינה מקדמת את האנושות. תפקידן של המכונות לעזור לנו, ולהקל על חיינו, ולא להחליף אותנו, והמרץ שלנו צריך להיות מושקע בכוון בניית מכונות שעוזרות לנו. אם לפעמים, כדי להשיג את המטרה הזאת בונים משהו שמחקה אותנו במשהו מסויים, כי זו הדרך הטובה ביותר להשיג זאת, זה בסדר, אבל החיקוי כשלעצמו לא צריך להיות המטרה.

כדי להסביר את החלק השני של דבריי אביא דוגמא דווקא מהעולם המכני ולא ה"תבוני". תעופה היא בודאי דבר שמאד קידם את האנושות. הניסיונות הראשונים בתעופה היו דווקא בכוון חיקוי בעלי הכנף, ואין לי ספק שאם יעשו מאמץ יצליחו לבנות מכונה שעפה כמו ציפור. אבל בשביל מה ? האדם המציא את הגלגל (בעולם החי, ככל הידוע לי אין דברים דומים לזה) ובעזרת הגלגל הוא פתר את בעיות התעופה בדרך הרבה יותר קלה למימוש. אז לעוף זה טוב. אבל כמו ציפור ? בשביל מה ?
הוא הדין בתחבורה יבשתית. רכבות שרצות על רגליים ? לא צריך לחקות את הטבע. אנחנו המצאנו את הגלגל. הרבה יותר יעיל ופשוט.
''מכונות תבוניות'' 460155
בשלב זה, אני מציע להשקיע את המרץ שלנו בהרס מכונות קיימות המפריעות לנו.
''מכונות תבוניות'' 460160
לדעתי אנשים צריכים לשאוף לעסוק במה שמעניין אותם, ולהמציא מכונה תבונית, זה מעניין מאוד. אני חושב שזה יועיל לנו לא פחות מאשר, נניח, מחקר בלינגוויסטיקה או בטופולוגיה אלגברית.
כדי להמציא כלי תחבורה יעיל, או להמציא מקרר שרוכש מוצרים באופן אוטומטי, או אפילו כדי לתרגם בין שתי שפות - אכן ניתן לחשוב על דרכים יותר יעילות ופשוטות.
''מכונות תבוניות'' 460164
כפי שאמרתי, איני מבין מה זה "מכונה תבונית", ואם יידרש ממני לפתח משהו כזה לא אדע כלל מה רוצים מחיי.

לכן, הבה נניח לרגע למוצר הזה, ונדבר באופן כללי על העיקרון שבמשפט הראשון בדבריך.
האם אתה יכול להבין דוגמה אחרת (תשתדל, דוגמה יותר פשוטה, כדי שאבין) למכונה שמעניין לפתח, למרות שאינה מביאה שום תועלת, ואף כדאי יהיה להקדיש תקציבים כאלה ואחרים לצורך הפיתוח ?
''מכונות תבוניות'' 460165
בוודאי, שתי דוגמאות:
1. תוכנה שמשחקת שח (למטרות מחקר, לא כזו שאתה מוכר).
2. מאיץ חלקיקים.
''מכונות תבוניות'' 460187
יכולת גם להביא כדוגמא משחקי מחשב אחרים וצעצועים. אבל זו מחלקה שיש לה שימוש: פיתוח יכולת החשיבה ויכולות אחרות אצל בני אדם, במיוחד ילדים, וגם מילוי שעות הפנאי במשהו מעניין. בודאי שזה מביא תועלת לאדם.
אבל אמרת "למטרות מחקר", וזה לא היה ברור לי כל כך.
למטרות איזה מחקר ?
מאיץ חלקיקים הוא מכונה שנבנתה למטרת לימוד ופיתוח והבנת הפיסיקה, ובמקרה הספציפי הזה, בודאי הייתה לו תועלת ישירה בנושאי מכשור רפואי, למשל, ובנושאי פיתוח מקור אנרגיה.

לעומת זה, "מכונה תבונית" מה שזה לא יהיה, מה היא תלמד אותנו ?
''מכונות תבוניות'' 460192
רוב התוכנות שמשחקות שחמט לא נכתבות למטרה מסחרית (קרי, לא על-מנת לאפשר לאנשים אחרים לשחק בהן - לרובן אין ממשק גרפי), אלא כדי ללמוד איך אפשר לבנות תוכנות שמשחקות יותר טוב. המטרה הישירה היא הנאה ופיתוח יכולת החשיבה אצל הממציאים. ניתן לקוות שעל הדרך יהיו פיתוחים מעניינים במדעי המחשב, שיאפשרו לנו, למשל, לכתוב תוכנה שיכולה לסנן את דואר הזבל שלנו יותר טוב, או לנהוג במכונית באופן אוטומטי, או לשלוט באופן אוטומטי בכלי רובוטי על מאדים.
אותה מטרה בדיוק יש לייצור מכונה תבונית - רק ששם האתגר הוא הרבה יותר משמעותי וכך גם הסיכוי ללמוד משהו על מדעי המחשב.

בכלל, למה אתה חושב שהמטרה היא "להחליף" אותנו? האם אתה מניח שמי שמפתח מכונה תבונית מקווה שיום אחד היא תוכל ללכת במקומו לארוחת שבת אצל ההורים?

אם זה עוזר לך, אתה יכול לחשוב על מדעי המחשב כסוג של הנדסה אזרחית. התועלת בפיתרון אתגר הנדסי מורכב הוא "אימון" של המהנדס בפתרון בעיות הנדסיות, גילוי בעיות הנדסיות חדשות, ובסיכוי נמוך, המצאת שיטות הנדסיות חדשות שיוכלו לשמש אותנו באתגרים אחרים. כך גם (לדוגמא) חקר החלל מתבצע בשלבים. האמריקאים מקווים שבשליחת בני אדם לירח, הם ילמדו משהוא על שליחת בני אדם למאדים.

בצד - אני לא סבור שבלימוד פיתוח והבנת הפיזיקה הקוונטית (לשם כך יש מאיצי חלקיקים, לא?) יש יותר תועלת בלימוד פיתוח והבנת מדעי המחשב. אני גם לא סבור שלמאיצי חלקיקים היתה תועלת ישירה בנושאי מכשור רפואי ופיתוח מקור אנרגיה, אבל אני אשמח לגלות שכן.

אה, ואחרון חביב, כמעט שכחתי - יש את העניין הפעוט הזה של הרוח האנושית. רוב המחקר האקדמי לא נועד כדי להפיק תועלת ישירה. למה אתה לא תוהה מה ילמד אותנו המחקר בפילוסופיה, באסטרונומיה חוץ גלקטית, או בקולנוע?
''מכונות תבוניות'' 460197
גם מחקר לצורך המצאת משחקים מטרתו הסופית משחקים, ואלה משרתים את האדם. בכל מקרה כשמפתחים תכנה שמשחקת שח יודעים מה עושים ומה המטרה. "מכונה תבונית" כללית היא יצור שלטעמי אינו מוגדר כלל. אפשר לשאוף להחליף פונקציות מסוימות של המחשבה האנושית כמו אותה דוגמה של שח, אבל מה זה "מכונה תבונית" ? אם היא לא מחליפה אותנו, אז מה היא כן ?
''מכונות תבוניות'' 460200
אגב, המחקרים בכיוון ''בינה מלאכותית'' שהחלו בהם לפני לפחות עשרים או שלושים שנה לא הביאו עד כה לשום הישגים, והחלקים המוצלחים בהם היו, כאשר התפתחו לכוון פתרון בעיות ספציפיות, ואז גם, בצדק, שינו את השם שלהם.
לדעתי, אין זה מקרה, והסיבה לכך היא הדברים שעליהם אני מדבר.
יש שימוש למחקר בבינה מלאכותית 460888
אתה טועה. על זיהוי קול שמעת?
עיבוד תמונה?
ניתוח שפה?

אלה כלים מחשביים שנבנו על בסיס מודלים של בינה מלאכותית לסוגיהם. היישומים עוד רבים: מערכות ניתור ובקרה, אבחון, ועוד ועוד.

זה נכון שאף אחד מהיישומים לא יודע לדבר בצורה הגיונית.
מצד שני, רוב המחקר שנערך במאיצי חלקיקים לא תרם ישירות להווי האנושי. רובו עוסק בשאלות איזוטריות על מצבים קיצוניים, שצריך להתאמץ מאוד כדי ליצור אותם בסביבה הקוסמית שלנו.
יש שימוש למחקר בבינה מלאכותית 460910
הדוגמאות שהבאת מחזקות את הטענה שלי. נעשה מאמץ כדי לפתור בעיות ספציפיות שפתרונן יעזור לנו, והייתה הצלחה. כך, לדעתי, צריך לעבוד.
כשמדברים על בינה מלאכותית, עד כמה שאני מבין מתכוונים למחקר בכוון יצירת איזה כלי שבשל ה''בינה'' שלו, יוכל לפתור את כל הבעיות האלה בבת אחת.
אחד המשתתפים כאן נתן איזו דוגמה שסוס באופן טבעי לא מתנגש בעצים, ולכן, כביכול, פיתוח ''סוס'' יפתור את הבעיה הזאת. אבל כפי שעניתי לו, בניית משהו שימנע ממכוניות להתנגש בעצים ברמת פיתוח המחשבים והחיישנים שקיימת בימנו היא משימה די קלה כשלעצמה. אין צורך לייצר משהו שגם יודע לגרש זבובים בזנב וגם מבין בטעמים של עשב. חשיבה בכיוון כזה רק תקשה עליך לפתור את הבעייה שלפניך.
או הדוגמה שאני הבאתי. היכולת לעופף. האנושות פתרה זאת דווקא לא בצורה שציפורים עפות, וזה היה יותר קל ופשוט.
יש שימוש למחקר בבינה מלאכותית 460924
אבל "כלי" כזה הוא בדיוק מה שמפתחים חוקרי הבינה מלאכותית - ועליו מתבססים כל הפתרונות לבעיות שהוזכרו קודם.

טוב, אז לא בדיוק "כלי" אחד, אלא הרבה כלים מאד כלליים.

המחקר הבסיסי בתחום מורכב (עד כמה שידעתי משגת) משלוש זוויות:

(א) מחקר מתמטי-טכנולוגי, שמורכב למשל מפיתוח ומחקר של אלגוריתמים סטטיסטיים לקלספיקציה ("למידה מפוקחת"), לקלסטרינג ("למידה לא-מפוקחת") ולניתוח-שונות. של אלגוריתמים לחיפוש בגרפים, אלגוריתמים גנטיים, ומודליים מתמטיים של רציונליות (תורת המשחקים).

(ב) מחקר קוגנטיבי, בו מנסים ללמוד עוד על "בינה טבעית". למשל במחקר של שפות טבעיות וניתוחן, של ראיה, של תפיסה מרחבית, של זיכרון וכדומה.

(ג) ולבסוף, מחקר נוירולוגי-אנטומי, בו חוקרים את המכונה על גביה ממומשת הבינה הטבעית - המוח.

יש זיקה רבה בין שלושת התחומים האלה. מימצאים אנטומיים משמשים להסבר של תופעות קוגנטיביות, ומשמשים השראה למודלים מתמטיים (כמו המודל המתמטי של "רשתות נוירונים"). במקביל המחקר הקוגנטיבי משמש אמת-מידה לביצועים של המודלים המתטיים. לפעמים גם התנהגות של המודלים המתמטיים מהווה קו-מנחה לפיתוח תאוריות על פונקציונליות של חלקים במוח.

המחקר הנ"ל הוא תיאורטי לגמרי, ומטרתו אחת ויחידה: להבין את התופעה שאנו מכנים "אינטליגנציה".

אך טבעו של מחקר בסיסי הוא שהוא מפיק גם יישומים. בניגוד גמור לטענתך, רבים מהפתרונות הטכנולוגיים של זיהוי ועיבוד אוטומטי של תמונה ווידאו, קול, שפה, מערכות מומחה, משחקי-שמחט, מערכות אוטומטיות לזיהוי הונאות של בנקים וחברות אשראי וכדומה - מקורן בידע שנצבר במחקר בסיסי כמתואר לעיל. באופן אנלוגי לחלוטין לכך שמחקר ביולוגי בסיסי מקדם את הרפואה, ומחקר פיזיקלי בסיסי מקדם את תעשיית הרכב.

התוצאות של מחקר כללי על קלסטרינג ("למידה מפוקחת"), למשל, משמשות כנראה בפתרון של כמעט כל אחת מהבעיות שתוארו קודם. למרות שאלה בעיות מאד שונות.
יש שימוש למחקר בבינה מלאכותית 460976
איני מתמצא כל כך בפרטי הפיתוח של כל הנושאים שמנית, אבל נזכרתי בהרצאה ששמעתי פעם על פיתוח תכנות שחמט. מה שזכור לי משם הוא שהתוכנות האלה לא מבוססות כלל על חשיבה אנושית, אלא יוצרות איזו פונקצית מצב (כלומר מצב טוב במשחק) שמנסים למצוא לה מקסימום ע"י בדיקת כל מיני מצבים אפשריים עתידיים. המרצה סיפר שבתחילה העסיקו החברות המפתחות כל מיני אומנים ורבי אומנים בשח, אבל במהרה הגיעו למסקנה שאלה לא תורמים להם דבר, ונשארו עם אנשי מחשבים. כמו כן הסתבר שדווקא התוכנות שבנויות על "ברוט פורס" הצליחו יותר מתוכנות שבהן ניסו להכניס כל מיני "פטנטים", תכסיסים אפשריים וכדומה. כלומר, חזרה כאן איזו ורסיה של הדוגמה שלי: התעופה והעופות.

אני לא יודע אם זה כל כך שייך, אבל רציתי לספר על משהו אולי הפוך שקרה לי. בעבר, בהזדמנויות שונות כמו שרות במילואים וכדומה נהגתי לשחק עם חברים במשחק "בול קליעה", כלומר ניסיון לנחש במספר שאלות קטן ככל האפשר מספר בן ארבע ספרות שאינן חוזרות על עצמן ללא הספרה אפס. ניסיתי לעבוד בכל מיני שיטות, והצלחתי הייתה ממוצעת.
עד שפעם אחת החלטתי לכתוב להנאתי תכנית מחשב שעושה זאת. אני מניח שבפעלתי כמו שכל אחד היה פועל כדי לפתור בעיה זו. בניתי תכנית שעוברת מניחוש לניחוש לפי סדר המספרים כשהיא מדלגת על כל האפשרויות שהשאלות הקודמות פוסלות אותן.
התוכנית שהתקבלה ידעה לנחש את המספר בממוצע תוך 5 6 שאלות כשתמיד הצליחה לנחש בלא יותר מ 8 שאלות, וזה (8) קרה רק במקרים נדירים.
החלק המעניין היה שהתחלתי לחקות את השיטה הזאת בעצמי, תוך כדי משחק, וראיתי שגם אדם (כשהוא מאמץ עוד כמה טריקים קטנים שעוזרים לו לא לבדוק ממש את כל המקרים כפי שעושה המחשב) יכול לעמוד במשימה הזאת. הרעיון הזה שיפר ללא הכר את יכולת המשחק שלי. בשיטות הישנות מספר הניחושים היה בדרך כלל הרבה יותר גדול.
אז שוב. בשביל מה בכלל צריך "תבונה" ?
יש שימוש למחקר בבינה מלאכותית 461002
כוח ברוטלי מועיל מאוד למחשב, אבל כיוון שמרחב המצבים בשח גדל אקספוננציאלית עם מספר הצעדים שאתה מחשב קדימה, התוכנות המוכשרות מחייבות אלגוריתמים חכמים הרבה יותר, והבנה טובה של המשחק. עם זאת ה"חשיבה" של מחשב איננה אנושית ולא מתיימרת להיות אנושית. היא הייתה והיא תישאר אלגוריתמית - כלומר מורכבת מהמון צעדים קטנים ופשוטים. "בינה מלאכותית" היא משהו שנראה כמו בינה טבעית, אבל בנוי לגמרי אחרת (ככל הנראה).

מי צריך את זה? כבר אמרו לך כאן. הרבה מאיתנו רוצים להאזין למוזיקה מלאכותית, לבחון הוכחות מתמטיות אסתטיות שחיבר מחשב, לשוחח עם פסיכולוג אישי ממוחשב - כל מיני מטלות שבדרך כלל נחוץ עבורת אדם אינטיליגנטי.
יש שימוש למחקר בבינה מלאכותית 461017
או זהו, שדווקא בשחמט brute-force התגלתה כשיטה גרועה יחסית. תוכנת השחמט הישראלית "ג'וניור" (http://en.wikipedia.org/wiki/Junior_%28chess%29), שרצה על מחשבים אישיים – חומרה חלשה בהרבה מזו של "כחול עמוק" – ניצחה מספר מכובד של אליפויות, גם מול מחשבי-על שהפעילו אלגוריתמי brute-force ובחנו עומקים גדולים יותר.
יש שימוש למחקר בבינה מלאכותית 461046
זה סותר את מה שנאמר באותה הרצה ותיקה אבל אולי יש כבר הרצאות יותר חדשות.
אבל השאלה היא באמת אם התוכנה היותר ''חכמה'' באמת מנסה לחקות מחשבה אנושית, או שמפעילים בה שיטות ''מחשביות'' טובות יותר.
יש שימוש למחקר בבינה מלאכותית 461047
אף אחד, כולל השחמטאי עצמו, לא יודע איך שחמטאי בוחר את המסע הבא.
יש שימוש למחקר בבינה מלאכותית 461064
וגם אם מחקים מחשבה אנושית לצורך פיתוח תכנת המשחק, בכל זאת מתרכזים בבעייה ספציפית, ועל חקוי מחשבה אנושית לצורך טיפול בבעיה ספציפית הבעתי דעה חיובית באחת מתגובותיי הראשונות.
הדבר שמפריע לי הוא ריכוז מאמצים ושאיפה לקראת משהו כללי שמחקה מחשבה אנושית, שככזה אמור לפתור את כל הבעיות בבת אחת, כזה שהיותו שחקן שח מצטיין, למשל, הוא רק פרט אחד בו.
לדעתי דרך כזאת תאט ולא תקדם פיתוחים שיועילו לנו.
יש שימוש למחקר בבינה מלאכותית 461071
אבל "הדרך הזו" באה לצד, לא במקום, כל סוגי המחקר האחרים; ובינתיים היא תרמה רבות לתחומי מחקר אחרים במדעי המחשב, בנקודות שונות ומשונות (בדיוק משום שהמחקר הזה נוגע בתחומים רבים ושונים כל-כך). שלא לדבר על התרומה לחשיבה הפילוסופית. אז מה, בעצם, ההתנגדות לקיום המחקר הזה?
יש שימוש למחקר בבינה מלאכותית 462016
ההתנגדות מגיעה מאותו מקום שמגיעה ההתנגדות לטענה שלקופים ולנו יש אב קדמון משותף. זה נורא מעליב.
יש שימוש למחקר בבינה מלאכותית 462018
איך אתה יכול להשוות בין הקופים למחשבים? יש קופים שהם מתוקים עד טירוף!
יש שימוש למחקר בבינה מלאכותית 462032
אין לי שום דבר נגד קופים ח''ח. מספר מחברי הטובים ביותר...
יש שימוש למחקר בבינה מלאכותית 462033
אז מה העיה? שיש לך גם חברים מחשבים?
בן ששים לזקנה 461045
כבר סיפרתי על עניין ה"בול קליעה" לפני כ 6 שנים, ונראה שגם היה שם דיון ממש דומה.
תגובה 48091
יפה שנזכרתי.
יש שימוש למחקר בבינה מלאכותית 461132
קטונתי מלהשתתף בדיון המרתק הזה, אבל אני מבקש להוסיף משהו: די ברור שאדם, לויתן או ג'וק הם מכונות ביולוגיות שמפיקות התנהגות אפקטיבית בסביבתם. אי אפשר להתייחס ל"התנהגות תבונית" רק בהיבט החישובי שלה. זו התנהגות תכליתית בסביבה מוגדרת עם היסטוריה ארוכה של התפתחות שחלקה פתרון בעייות וחלקה סתם שימור הקיים. אגב, חלקה בחישוב דיגיטאלי וחלקה בחישוב אנלוגי וחלקה בשיווי משקל כימי או פיזיקאלי.
הניסיון להתבונן בתפוקות של המוח רק מהפן של "אינטליגנציה" הוא חד צדדי ומטעה. אין הפרדה כזאת מבחינה עקרונית וגם לא מהבחינה המעשית. מתי ייצור אורגני מתחיל להיות בעל אינטליגנציה? מתי אדם מתחיל להיות בעל אינטליגנציה? בגיל שבע, שנה, חודש, חודש שביעי להריון? ספק אם לשאלה הזאת יש תשובה "אנליטית" ויחד עם זאת ברור שלשאלה הזאת יש תשובה - עובדה, כל אדם בסופו של דבר רוכש את ה"אינטליגנציה".
מדובר בשאלה מעשית ולא מטאפיזית. זה פשוט קורה במציאות - תא זרע וביצית שמתאחדים, בשלב מסויים מתחילים ליצור אישיות ואינטליגנציה.
אולי השאלה מהי אינטליגנציה היא השאלה הלא נכונה? האם מצפים שתהיה על זה תשובה אחרת מאשר היכולת להתנועע בסביבה מורכבת, היכולת לקרוא ספר, היכולת לתפוס חרק, היכולת להבין שיר?
יש שימוש למחקר בבינה מלאכותית 462214
אבל האם לא היה יותר קל ופשוט לבנות מכונית שלא מתנגשת בעצים אם היה לך מחשב "תבוני" במידה מסויימת שניתן לתכנת אותו בקלות יחסית "להבין" מה זה "עץ" ואיך לא להתנגש בו ?
''מכונות תבוניות'' 460167
ואם כבר הרמת לי להנחתה, הנה עוד כמה מכונות בלתי שימושיות אפילו בפוטנציה:
''מכונות תבוניות'' 460170
הרובודוס נראה לי פתרון יצרתי לתחבורה ציבורית בשבת
''מכונות תבוניות'' 460188
לא היית צריך ללכת כל כך רחוק.
אולי גם פסנתר פטישים קלאסי רגיל הוא סוג של מכונה.
אבל הוא נבנה למעננו ובפרוש מביא לנו תועלת ישירה, ולא בא להחליף אותנו.
''מכונות תבוניות'' 460266
ארתור גנסון בנה סידרה של מכונות בלתי-שימושיות-בעליל מקסימות ביותר. רובן נאצרות במוזיאון MIT, אבל הד חיוור ניתן לראות כאן: http://www.arthurganson.com/pages/Sculptures.html
''מכונות תבוניות'' 460226
הגדרה "גמישה" ל"מכונה תבונית": מכונה, שאם היית משוחח איתה בדואר אלקטרוני, לא היית יכול לגלות שאתה בעצם משוחח עם מכונה ולא עם בן-אנוש.

למה צריך את זה? יש בעיות רבות במחשוב שמוגדרות כ-"AI-Complete", כלומר, (א) בני-אדם יודעים לפתור את הבעיה, (ב) לא קיים אלגוריתם ידוע הפותר את הבעיה, ו-(ג) מניחים שרק מכונה תבונית – כלומר, אלגוריתם המסוגל לדמות בן-אנוש באופן כללי – תוכל להתמודד עם הבעיה.

ההגדרה אינה קשיחה כמובן, וישנם כמה וכמה מקרים של בעיות שחשבו בעבר שהן AI-complete ולבסוף נמצא להן פתרון אלגוריתמי "פשוט".

למה צריך מכונות תבוניות? ודאי לא כדי להחליף את בני-האדם באופן כללי (מה הטעם? מטרת ההתקדמות התעשייתית והמדעית לעזור לאנושות, לא?) אלא כדי להחליף את בני-האדם במקומות בהם לא רצוי, לא כדאי, יקר, או אי-אפשר שיהיו בני-אדם.

למשל: תרגום סימולטני מכל שפה לכל שפה, כולל ניואנסים, התייחסויות תרבותיות, משחקי-מילים וכיוצ"ב.

למשל: תמצות טקסט: תן לי ספר בן 1000 עמודים, ואתן לך סיכום של עיקריו בשלושה עמודים. אני יכול לעשות זאת, אבל ידרש לי זמן רב, ואשתעמם מאוד; מדוע שמכונה לא תעשה זאת?

למשל: עריכת טקסטים מדעיים ברמה גבוהה – החל מאיתור שגיאות דקדוקיות, דרך מציאת טעויות בהוכחות וכלה באיתור עבודות מחקר קודמות שהכותב שכח להתייחס אליהן.

למשל: כתיבת תוכנה. במקום לתכנת תוכנית, הייתי מעדיף לתאר אותה, במילים פשוטות, ולקבל תוכנה עובדת. שוב, יש אנשים שיכולים לעשות זאת, אבל מדוע להעסיק בני-אדם במקום בו מכונות יכולות לעשות את העבודה (טוב יותר, מהר יותר, ובזול יותר)?

למשל: רובוט-חייל שמסוגל להלחם בשטח בנוי, ולהמנע מפגיעה באזרחים ובעוברי-אורח.

ועוד ועוד; מבחר הדוגמאות לא מוגבל.

ברור שבהנתן מכונות תבוניות, החברה האנושית תשתנה מהקצה אל הקצה: כמו המהפיכה התעשייתית, שהפכה עבודות פיזיות רבות למיותרות משום שהעובדים הוחלפו ע"י מכונות, כאן מדובר בהחלפת עובדי "צווארון לבן" במכונות. איך תראה החברה האנושית בשלב בו מכונה תבונית תהיה דבר יומיומי וזול? אין לי מושג.
''מכונות תבוניות'' 460231
את ההגדרה שהבאת ל"מכונה תבונית" אני מכיר. ראיתי זאת בתכנית בטלויזיה לפני, נדמה לי, כעשרים שנה כ"מבחן טיורינג". שני המשתתפים בתכנית, אחד מישהו שהוצג כגאון צעיר, והשני, אם איני טועה, פרופסור רבין, היו בטוחים שתוך זמן קצר תיבנה מכונה שתעבור את המבחן הזה. אני הערכתי אז שדבר כזה לא יקרה בקרוב, ומסתבר שאני צדקתי.
חוץ מזה המבחן הזה לא נראה לי רציני אז, וגם לא היום, כי אינו מוגדר מספיק. למשל כמה חילופי מכתבים מותרים, מה מותר לבודק לשאול, מי מבצע את הבדיקה וכדומה. ההגדרה הזאת ממש סתמית.

בהמשך דבריך מנית שורה של משימות שיכולות להקל על החיים. לדעתי, כל אחת מהמשימות אינה נראית כדבר בלתי אפשרי. בעבר, הרי, אפשר היה להציג ברשימה הזאת גם תכנת השח שיכולה להתמודד עם אלופי עולם. זו משימה מוגדרת, ולפחות ממבט ראשון אינה נראית בלתי אפשרית, ועובדה שהצליחו בכך.
אז יש תוכנת שח כזאת. האם זה אומר ש כבר המציאו "מכונה תבונית" ? ואם ימציאו גם מכונה שמתרגמת או מקצרת כפי שהצגת, זאת אומרת שהמציאו "מכונה תבונית" ?.
אני מאמין שיימצא פתרון לכל אחת מהמשימות שהצגת. אף אחת מהן לא נראית לי חלום בלתי אפשרי. אבל אני טוען שגם אחרי שיימצאו הפתרונות האלה לא אבין מה זה "מכונה תבונית".
המצאת מכונית שאינה מתנגשת בעצים, למשל, נראית לי ממש משימה קלה. זה רק עניין של תקציב וכדאיות להשקיע אותו.
הדרך להתמודד עם המשימות האלה היא לטפל בכל אחת בנפרד, לחשוב על הבעיות שהיא מציגה ולנסות לתת פתרונות ספציפיים.
אבל לבנות משהו "תבוני" שיתן בבת אחת פתרונות לכל אלה ולעוד דברים, זה, לדעתי, משהו שבמקרה הטוב יערך הרבה יותר זמן ויציג הרבה יותר קשיים משיטת הטיפול שאותה אני חושב כנכונה.
''מכונות תבוניות'' 460232
את המכונה שלא מתנגשת בעצים לקחתי, מסתבר, מבלי להתכוון, מתגובתו של ''אח של אייל''. בעצם אני רואה בתגובתי זו תשובה גם לו.
''מכונות תבוניות'' 460249
אתה מערבב כאן שתי טענות: אחת, שאינך יודע מהי מכונה תבונית. שנייה, שמכונה כזו לא תיבנה בקרוב. לעניות דעתי הן סותרות זו את זו.

"תבונה" היא דבר מסובך להגדרה ולמדידה. לא פשוט להבחין בין אדם אינטיליגטי לאדם טיפש. מבחן טורינג (שטל הזכיר בלי הקרדיט הראוי, בושה לדוקטור מהטכניון!) הוא מדהים בפשטותו אך איננו "סתמי". אתה יכול למלא את הפרטים שחסרו לך כך: *אתה* תדע שמכונה היא תבונית אם *אתה* לא תוכל להבחין בינה לבין אדם שהוא אינטיליגנטי *לדעתך*. אם כך קרה, קיימת מכונה תבונית-אנשלוביץ.

אחת ההגדרות הרבות לבינה מלאכותית (גם היא זו מופיעה בגא"ב): בינה מלאכותית היא כלל הפעולה התבוניות שבני אדם מסוגלים להם ומחשבים עדיין לא. זו כמובן הגדרה שמחבלת בעצמה ומעקרת את נושא המחקר, אך היא מוסכמת על רבים ולו בצורה סמויה. ברגע שמטלה מסוימת מבוצעת באופן ממוכן, היא מפסיקה להיחשב "תבונית". אני לא מסכים לכך, אלא מסכים לסיפא של דבריך: תבונה היא היכולת לפתור מגוון עצום של בעיות, ובכללן גם בעיות שיש להמציא את מתודולוגיית הפתרון עבורן. כדי לבנות מכונה תבונית יהיה עלינו לגרד את ההר הזה פירור-פירור. וזה יהיה תהליך ארוך.
''מכונות תבוניות'' 460254
בפרינציפ איני עונה לאיילים אלמונים, אבל כיוון שנראה לי שאתה "אייל אלמוני" תמים "אשר לא ידע את דב", אחרוג ממנהגי.

לגבי מבחן טורינג, נניח שהשאלה שאשאל את ה"מכונה התבונית" היא: מה אכלת אתמול בארוחת הערב ? איך צריכה המכונה התבונית לענות ? לשקר ? או שלפי הכללים של המבחן אסור לשאול שאלה כזאת ?
וזו סתם שאלה ראשונית שקפצה לי לראש. בראש "התבוני" שלי מתרוצצות המון שאלות כאלה שמטילות ספק בבהירות של המבחן הזה.

לגבי החלק השני של דבריך, שבו אתה מסכים עמי (1), הרי את הפרורים הטעימים ממילא נגרד מההר, כמו שעשינו עד כה, כי זה ייטיב עמנו.
מתי נחליט שגרדנו די פרורים כדי לומר שפתרנו את בעיית המכונה התבונית ? למה לא לומר שכבר היום עשינו זאת ? האם עלינו לגרד גם פרורים לא טעימים לצורך המטרה הזאת (שכן בני אדם מסוגלים גם לעשות מעשים בלתי מועילים) ?
ואם באמת הכוונה להכיל ממש את כל יכולות האדם, האם זאת נראית לך משימה אפשרית ? הרי גם היכולת האנושית יש בה התפתחות. למה שהמכונה תשיג ?

(1) אגב, איני מוצא כל קשר בין ההגדרת טיורינג וההגדרה השנייה. מכונה שתצליח "לעבוד" על בן אדם פרק זמן מסויים, לא בהכרח תוכל לעשות דברים אחרים שהוא יכול לעשות.
''מכונות תבוניות'' 460263
אני לא יודע מה מקור הפרינציפ שלך, אבל אני מודה - שיחה עם עננת אלמונים עלולה להיות מייגעת. לצורך הדיון אטען שאני אייל תבוני.

לגבי מבחן טורינג: הוא מתיר לבוחן לשאול כל שאלה (או לספר בדיחה) שימצא לנכון על מנת להכריע האם מולו אדם תבוני או מכונה. המכונה מנסה לרמות את הבוחן - זו כל הפואנטה. אם היא תאמר תמיד אמת, די לו לבוחן שישאל "האם את מכונה?".

מדוע לא לומר שכבר היום יש בידינו מכונה תבונית? כיוון שזהו חיווי שקרי. אני מנחש ששנינו נסכים בהסתברות טובה אם נישאל: האם שמעון אינטיליגנטי?. אני מנחש ששנינו נסכים שהלפטופ שלי איננו אינטיליגנטי. (כמובן שאם לדעתך אין משמעות למושג "אינטיליגנציה", אין גם מקום לדיון באינטיליגנציה מלאכותית)

האם מכונה כמו-אנושית תיבנה בקרוב (בימי חיי)? אינני סבור. עם זאת, אני רואה יצורים כמו-אנושיים מסתובבים בעולם הגשמי, מתפתחים, ורוכשים אינטיליגנציה. אינני רואה כל סיבה מדוע הדבר הזה יהיה אפשרי מעל מצע של בשר ושומן ולא מעל מצע של סיליקון.

(1) אתה קצת מגזים בטענה ש"אין כל קשר" בין ההגדרות. אחת הייתה מעורפלת (וניתן להבין אותה בכמה אופנים) והשנייה מבהירה אותה. ניתן לחשוב גם על הבהרות אחרות: למשל, שנערוך את הבחינה במשך חודש, ויהיו 71 בוחנים תושבי פתח-תקוה. אם אתה מסכים איתי שלפתח-תקוואים יש דעה סבירה על אינטיליגנציה, הבחינה הזו בעלת משמעות לעניינינו.
כדאי אולי לציין (כיוון שרמזת לכך בעצמך) שמבחן טורינג נחשב למבחן מספיק לאינטיליגנציה, לא למבחן הכרחי. מכונה שתעבור את הבחינה תהיה חייבת לבצע גם דברים אנושיים-אך-בלתי-אינטיליגנטיים כמו לטעות בחישובים מתמטיים ארוכים, להתעייף, או לטעון שהיא אוהבת את שלמה ארצי. זה מצער שטרם נמצא מבחן חד וקולע - אך זה לא מפתיע - המושג הנמדד הוא מעורפל בעצמו.
''מכונות תבוניות'' 461296
לא ''לטעות'' בחישובים מתמטיים ארוכים. להבין מה השומע מהצד השני רוצה לשמוע ולתת לו את זה.
''מכונות תבוניות'' 461317
לא הבנתי את הבדיחה. מה שאתה מתאר דורש אינטילגנציה והבנה פסיכולוגית. זה לא סתם חיקוי של שטות אנושית.
''מכונות תבוניות'' 461318
זו לא בדיחה. זו סתירה לטענה ש''מכונה שתעבור את הבחינה תהיה חייבת לבצע גם דברים אנושיים-אך-בלתי-אינטיליגנטיים כמו לטעות בחישובים מתמטיים ארוכים''. אני טוען שמכונה שתעבור את הבחינה לא חייבת לבצע את הדבר האנושי-אך-בלתי-אינטליגנטי הזה, כי היא יכולה במקום זאת לבצע את הדבר הכן-איטנליגנטי של לזהות מתי הבוחן מצפה לתשובה ''שגויה''.
''מכונות תבוניות'' 461321
אה. אוקי.
אבל בעיניי מכונה שנראית כאילו היא תבונית - היא באמת תבונית.
ומכונה שנראית כאילו היא טועה - באמת טועה.
''מכונות תבוניות'' 461323
אם אי-פעם יתוכנן מחשב שיהיה מסוגל לעבור איזשהו סוג של מבחן-טיורינג, אני לא רואה שום סיבה שהוא יהיה מסוגל לחשב חישוב מתמטי ארוך. החומרה שלו תוכל, אולי, להיות מתוכנתת כך שתדע לכפול מספרים באורך 200, אבל התוכנה האינטליגנטית שלו, הלומדת ומתפתחת כאדם, אינה זקוקה לשום יכולת כזו וסביר מאוד שהיא לא תיווצר שם מעצמה. שאל מחשב כזה מה השורש של מיליארד - אם הוא יצליח לענות בכלל, מאוד סביר שהוא יטעה.
''מכונות תבוניות'' 461328
שאל אדם מה השורש של עשרה מיליארד או מאה מליון, לעומת זאת, וסביר להניח שתקבל את התשובה הנכונה, אם הוא רק יזכר מה השורש של מאה. עכשיו, אם יש לך במקרה מישהו שזוכר את השורש של חמש ושתיים - ואפשר בניסוי וטעיה פשוטים למצוא תשובה מדויקת די הצורך - הוא יכול לחשב לך תשובה מקורבת די בקלות.

אם אתה מצפה שתוכנה שכזאת, שמחקה בני אדם, תהיה מסוגלת לחשב את השורש של מאה ושאר חישובים פשוטים שמצפים מאדם להיות מסוגל להם, אני לא רואה מניעה שבאמצעות הגדלה פשוטה של הזכרון שלה, היא תהיה מסוגלת לבצע ''בראש'' גם חישובים מורכבים שהאדם הממוצע נזקק לדף ועט עבורם. ואני לא מתכוון רק לחישובים אנושיים באופיים כמו המתואר בפסקה הקודמת. עם יותר זכרון וסבלנות, אדם יכול לחשב באותו האופן והדיוק כמו המחשב.
''מכונות תבוניות'' 461332
ברגע שהתוכנה האינטליגנטית תלמד את ניוטון-רפסון, היא תיזכר שיש לה אחלה חומרה ותוכל מעתה והלאה לחשב שורש להכל. אם היא לא תלמד את ניוטון-רפסון, אני לא חושב שאפשר להגיד שהיא אינטליגנטית ;-)
''מכונות תבוניות'' 461344
גם לך יש אחלה חומרה, הבעיה היא שזה לא כל כך קל לך להשתמש בה למטרות כאלה.
''מכונות תבוניות'' 461345
אוקיי, ולמחשב כן קל, כי יש לו חומרה קצת שונה משלנו שפועלת קצת שונה. לניטפוק הזה יש פואנטה?
''מכונות תבוניות'' 461348
אולי למחשב שתוכנן לעמוד במבחן טוירינג אין גישה ישירה לחלקים בחומרה שיכולים לחשב את השורש של 2,123,133,412 באופן מיידי. זה הרי לא כל כך מופרך, לרוב הטלפונים המודרנים יש את החומרה שמאפשרת לחשב חישובים כאלה, אבל המחשבון של רובם מאד מנוון, ואין סיבה לחשוב שאין חלקים במח שלך שמסוגלים לבצע חישובים נומריים מאד מורכבים (אני מניח שבעיבוד הראיה, ואולי גם בחישובי תנועה), אבל אתה לא יכול לגשת אליהם ישירות ולשאול אותם שאלות.
''מכונות תבוניות'' 461355
"גישה ישירה לחלקים בחומרה"? הוא צריך גישה בסיסית למעבד.
''מכונות תבוניות'' 461357
אם אתה היית מתכנן תוכנה כזאת, היית מאפשר לה גישה ישירה למעבד? לאיזה צורך?
''מכונות תבוניות'' 461358
איבדת אותי ב''אתה היית מתכנן תוכנה כזאת''. אני לא חושב שתוכנה כזו ניתנת לתכנון. נראה לי שאם כבר, מה שיקרה הוא שנבנה מנגנון בסיסי שמסוגל ''ללמוד'' דברים עצמאית. למנגנון כזה אתן את האפשרות לבצע חישובים אריתמטיים, מכיוון שצריך לדעת לעשות אותם באלף ואחד דברים שונים.
''מכונות תבוניות'' 461362
גם תוכנה שלומדת דברים צריך לתכנן. זה שיש לה חומרה שמסוגלת לבצע חישובים אריתמטיים, ושתהליך הלימוד משתמש בחומרה הזאת, לא אומר בהכרח שהתוכנה עצמה יכולה להשתמש בחומרה הזאת. למשל, המח האנושי מסוגל ללמוד, במח האנושי יש רכיבים שמסוגלים לבצע חישובים אריתמטיים, בעל מח האנושי לא יכול להשתמש ברכיבים האלה לצורך חישובים אריתמטיים באופן ישיר.
''מכונות תבוניות'' 461365
נראה לי שאתה משתמש יותר מדי בדוגמה של המוח האנושי. מחשב אינו המוח האנושי וגם לא יהיה. מחשב, כדי לבצע פעולה אריתמטית, מספיק שיכיל שורת קוד של "x=y+z" ויקמפל אותה לפקודת מכונה בודדת (ובסיסית) אחת. אם כותבים תוכנה שמסוגלת לשנות את הקוד של עצמה (וכאמור, בלי זה לדעתי אין מה לדבר על לעבור את מבחן טיורינג), צריך להתאמץ מאוד כדי למנוע ממנה להוסיף שורות כאלו ועדיין לעשות משהו - ואין שום סיבה לכך.

אולי כדאי להבהיר משהו. אני לא אומר "מחשב שעובר את מבחן טיורינג בהכרח יהיה מסוגל לחשב שורשים". אני אומר שאין שום סיבה שלא יהיה כך, ושכנראה צריך להתאמץ הרבה יותר כדי ליצור מחשב שעובר את מבחן טיורינג ולא יודע לעשות חשבון, מאשר צריך להתאמץ כדי ליצור מחשב שעובר את מבחן טיורינג וכן יודע.
''מכונות תבוניות'' 461368
"לשנות את הקוד של עצמו" זה דבר קצת גדול, שכולל הרבה דברים. בעיקרון, כל תוכנה לומדת יודעת "לשנות את הקוד של עצמה", גם בני אדם מסוגלים "לשנות את הקוד של עצמם", אבל זה לא אומר שהיא או אנחנו מסוגלים ממש לגשת לכל הקוד, לשנות אותו, לקמפל ולהריץ. כמתכנת, אני לא מבין איך פיתוח יכולות כאלה יכולות לעזור לעבור את מבחן טיורינג (וכמו שהסבירו כאן, זה עלול להפריע), ולכן לא נראה לי סביר שזה יהיה כלול בקוד של תוכנה כזאת. עובדה שאלוהים הצליח לייצר מכונת טיורינג בלי לתת לה את הגישה לקוד של עצמה, היא, לדעתי, עדות תומכת. אם אתה חושב שאני טועה, אז תצטרך להסביר לי איזה שיקולים יש *בעד* הכנסת אפשרות כל כך חזקה.
''מכונות תבוניות'' 461406
אלוהים ברא מכונה שעוברת את מבחן טורינג, והיא בעצמה פיתחה לה מחשבון. אין שום בעייה לתת למחשב התבוני של גדי מחשבון כיס, רגע לאחר שהוא עבר את מבחן טורינג. (כמובן שהמנשק בינהם יהיה יותר יעיל מ-‏15 כפתורים ו-seven segments)
''מכונות תבוניות'' 461436
אלוהים לא יצר כלום כי אין אלוהים. לעומת זאת, את הבסיס למכונת הטיורינג המדוברת הולך ליצור אדם.

אין לי כוח וחשק להמשך הדיון.
''מכונות תבוניות'' 461438
אתה טועה. השאלה אם יש או אין אלוהים אינה קשורה כלל לשאלה אם הוא יצר דברים או לא. ברור שהוא/היא יצרו הרבה מאוד דברים.
''מכונות תבוניות'' 461441
גם לא. ברור שאנשים השתמשו במושג (הלא מוגדר היטב ולא אחיד) של אלוהים כדי ליצור כל מני דברים.
''מכונות תבוניות'' 461457
חלקם השתמשו בו, באחרים המושג השתמש.:)
''מכונות תבוניות'' 461473
גם אם נניח שיש אלוהים (ואין, אני בדקתי...) אזי ברור שהוא לא התערב ביצירת כל אחד מתושבי כדור הארץ הנוכחיים. גם אם נדבר רק על אנשים, למרות שגם לג'וק יש איזה מין מחשב, או מה שזה לא יהיה, שמנהל את התנהגותו, שום דבר טרנסצנדנטאלי לא התרחש באיזה מן השלבים מרגע הפריית הביצית ועד ללידתו ובכל זאת רוב בני האדם (והג'וקים) נולדים עם מחשב (או מה שזה לא יהיה) שפועל.
''מכונות תבוניות'' 461423
אני אישית לא אצביע "אנושי" (או יותר מדויק: לא אצביע "תבוני") לבר-שיח שלא יהיה מסוגל לחשב שורשים אחרי שאסביר לו את האלגוריתם (או לעקוב אחר כל אלגוריתם קצר אחר, בין אם התוצאה שהוא מניב נושאת משקל הגיוני שקשור לחייו [כמו שורש ריבועי] או לא [כמו סתם אלגוריתם שאמציא על המקום, ולא בהכרח יתעסק במספרים]).
''מכונות תבוניות'' 460439
איך אפשר להזכיר את מבחן טיורינג מבלי לתת את הקרדיט המתאים?
התשובה היא בגוף השאלה.
מילא אם טל לא היה נותן קרדיט למגלה חוקי ניוטון או להוגה התיאוריה המרקסיסטית...
''מכונות תבוניות'' 460490
זהו, שאם תדפדף מעלה, תגלה את העובדה שזעזעה את דב - טל תיאר את המבחן אך לא קרא לו בשמו.
''מכונות תבוניות'' 460553
נדמה לי שאתה יוצא מההנחה ש''תבונה'' זה דבר אחד מוגדר וסדור. לי נדמה שזה הרבה מאוד פונקציות. למשל קשה מאוד כנראה לתכנת ברובוט את היכולת שיש לג'וק לנווט בעולם, אבל מאידך כבר מזמן נפתרה הבעיה של איחסון מכאני של הידע הרפואי שלומדים במשך שנים רבות בבית הספר לרפואה.
זה כמובן לא אומר שג'וק הוא יותר תבוני מתלמיד בבית הספר לרפואה...
''מכונות תבוניות'' 460195
סתם הערה קטנונית, אני לא חושב שהמצאת הגלגל היא עניין גדול. המצאת המיסב (גלגל שסובב על ציר נייח) זו ההתקדמות האמיתית.
''מכונות תבוניות'' 460198
כשאני מדבר על המצאת ''הגלגל'' אני מתכוון לו בתוספת הציר. גם המצאת המספריים בראשיתה לא הייתה משהו, אם אז הומצא רק ''מספר'' אחד ולא זוג, וכך גם הבוכנה ללא הצילינדר וכו'.
''מכונות תבוניות'' 460199
ראיתי פעם סרטון היתולי בשם: "רגע המצאת הגלגל".
שני חברה מזוקנים בלבוש "האדם הקדמון" טורחים קשות על סיתות אבן ענקית לצורת גלגל כשהם משמיעים זה כלפי זה תוך כדי כך כל מיני נאקות (יענו שפת האדם הקדמון).
כשהמלאכה מושלמת, לאבן יש צורת גלגל, ששוכב על הקרקע. השניים מריעים בשמחה ואז בכוחות משותפים ובמאמץ רב הם מרימים את ה"גלגל" ומעמידים אותו, ואז במקום לגלגלו סביב צירו הם מפילים אותו לצד השני ושוב מרימים אותו מצדו השני וכך "מגלגלים" אותו בניצב לכיוון הנכון, תוך כדי קריאות שמחה.
ברור שזה לא זה . . .
''מכונות תבוניות'' 460229
תבונה זה אחד התופעות שקל לנו לזהות באופן אינטואיטיבי, אבל קשה מאד להבין או להגדיר - בדומה למספרים רנדומיים, או הומור. מצד שני, יש לנו כבר מכונות שמחוללות מספרים רנדומיים, ואין מחלוקת על כך שלמחשבים יש חוש הומור משובח שמתבטא בעיקר בנטיה להתקלקל ברגעים הכי גרועים.

לגבי הקידום של האנושות, אני חושב שאין שום ספק בפונטציאל של מכונות תבוניות "לעזור לנו ולהקל על חיינו". הדבר הזה מודגם באין ספור יצירות מד"ב, אבל בעיקר ע"י ידידינו בעלי החיים שעזרו ועדיין עוזרים לבני האדם. אני אתן דוגמא שנתן לי מרצה באוניברסיטה לפני הרבה שנים. אנחנו אף פעם לא רואים בסרטים איש רוכב על סוס, והסוס רץ רץ רץ ומתנגש בעץ. למה? מפני שבניגוד למכונית, סוס מספיק נבון בכדי להבין שלא רצוי להתנגש בעצים. יותר מזה, הוא יודע לבד להשאר על הנתיב הנכון. אילו היתה למכונית תבונה של סוס זה כבר היה נותן תועלת עצומה. אבל אנחנו רחוקים מאד משם. והתבונה של סוס היא דוגמא מאד טובה לסוג המכונות שאנחנו מחפשים - כלומר יכולת להתמודד עם העולם, כולל עם מצבים לא מוכרים, ולהגיע ליעד שמציבים לו. אם תרצה, מה שמעניין זה מבחן התוצאה. האם קיימת מכונית שיודעת לנהוג לבד, וזה לא משנה אם ימכרו אותה בתור מכונית חכמה או נבונה או דור 3.

דרגה אחת מעבר לסוס, זוהי תבונה גנרית יותר ועם הרבה יותר פוטנציאל. רובוט תבוני, כמו בספרים של אסימוב, יוכל להחליף את בני האדם בעבודות הפשוטות והמשעממות. למשל: נקיון, שמירה, חקלאות. בניגוד לסוס, לא מדובר במומחה, אלא ברובוט שניתן לאמן אותו לעשות כל משימה בתנאי שהיא מספיק פשוטה (במקרה, כלבים עוסקים בשתיים מהמשימות שהזכרתי). גם כאן, מעניין מבחן התוצאה.

אפשר להזכיר גם מכונות עוד יותר תבוניות, אבל אני מרגיש שאני נסחף.
''מכונות תבוניות'' 460235
אחזור בקצרה על דברים שעניתי לטל כהן.
גם אתה וגם הוא מביאים רשימה של משימות שעל ה"מכונה התבונית" יהיה להתמודד עמן. נראה שהדמיון של שניכם הוא לא משהו, ובעצם הבאתם רק דברים שלפחות ממבט ראשון הם ממש בהשג יד, ואני מאמין שיימצא להם פתרון תוך זמן לא ארוך.
למשל תכנת שח שהצליחה לנצח את אלוף העום בשח היא משהו שנשמע הרבה יותר מלהיב ממכונית שלא מתנגשת בעצים (1), ובמשימה הזאת האנושות עמדה.
דעתי היא שפתרונות לבעיות כאלה יושגו ע"י זה שיתמקדו בבעיה וימצאו לה פתרונות. לבנות "מכונה תבונית" שתעשה בבת אחת את כל מה שצריך נראה לי משהו שאינו לעניין.

(1)היום מטוסים נוחתים באופן אוטומטי לגמרי, וכטייס חובב [בדימוס] אני יכול להעיד שנחיתה היא תרגיל לא פשוט,מורכב הרבה יותר מאשר לא להתנגש בעץ.
''מכונות תבוניות'' 460245
"לבנות "מכונה תבונית" שתעשה בבת אחת את כל מה שצריך נראה לי משהו שאינו לעניין." למה לא לעניין? ברור שזה יותר קשה מלעשות משהו ספציפי. אבל גם הרווח הפוטנציאלי (ואני מדבר על רווח דולארי) הוא הרבה יותר גדול.

בין כל המשימות האלו יש קווים משותפים - והזכרתי אותם בקצרה. למעשה, משתמשים בהן באותה "משפחה" של אלגוריתמים. כל משימה כזו שמושלמת, מעשירה את המשפחה של האלגוריתמים, ותורמת ישירות או בעקיפין להשלמת המשימות האחרות - ובסופו של דבר יתרמו למכונות תבוניות יותר ויותר גנריות.

יש לי מטאפורה בשבילך. היום, זה די ברור שלפני שאפל המציאה מכשיר סלולרי עם מצלמה שגם גולש באינטרנט, כולל gps וכו' וכו' אז צריך היה להמציא את המחשב הראשון ואת המרכזיה הטלפונית הדיגיטלית, ולשלוח את הלווין הראשון לחלל ועוד ועוד. אתה דומה בעיני לדוור (בדימוס) שחי ב 1931 ואומר: כן, כן. כל הדברים האלו הם נשמעים ממש בהישג יד. טלפונים יש כבר היום וגם מצלמות. אבל אני לא מבין למה לערבב את כל המכשירים האלו ביחד, זה לא לעניין. מי יקנה את זה?
''מכונות תבוניות'' 460250
אם אתה רוצה שהמכונית שלך גם לא תתנגש בעצים וגם תדע לשחק אתך שח, אין לי התנגדות.
אבל אני לא דברתי על דבר כזה או על מכשיר טלפון סלולרי שהוא עוד הרבה דברים שהומצאו קודם.
אלה שמדברים על "מכונה תבונית" מדברים על מאמץ פיתוחי בכוון מסויים (כיוון שלי הוא לא ברור, ולדעתי כלל לא מוגדר), שכאשר יצליח, ימצאו לפתע פתרונות פלא להרבה בעיות שימושיות בבת אחת, שעד כה לא נמצא להן פתרון.
אני אומר: הבה נמצא פתרון לכל אחת מהבעיות האלה בנפרד. אחר כך אם זה יהיה שימושי לאחד את חלקם למכשיר אחד, למה לא. אם זה שימושי מאמץ האיחוד כדאי. הוא פותר עוד בעיה שכדאי לפתור.
''מכונות תבוניות'' 460352
בוא ננסה כיוון חדש.

לפעמים יש בעיות שבאמת יש להן מכנה משותף, ויש איזשהי אפליקצית קסם שעשויה לפתור הרבה בעיות כאלו בבת אחת, ועוד בעיות שאנחנו לא מצליחים לחשוב עליהם כיום. קח לדוגמא את ההנדסה הגנטית. להנדסה גנטית יש יישומים גם בחלקאות, גם ברפואה, בתעשיית הפלסטיק, ובטח בעוד הרבה תחומים שאני לא מכיר. רק מי שלמד הנדסה גנטית, יכול להבין מה המשמעות של ייצור חלבונים באופן סינתטי (לדוגמא), ואיזה דברים חלבונים כאלו יכולים לעשות ולא יכולים לעשות. ההנדסה הגנטית נתנה לנו כלים חדשים לגמרי. כלים שלעולם לא היינו מקבלים אילו היינו מנסים למצוא פתרון לכל בעיה בנפרד.

נגיד שמגיע איזשהו פרופסור מפוזר ממכון וייצמן, ויגיד: "אני צריך ככה וככה מיליונים לטובת הנדסה גנטית - אבל תדעו שזה לא מחקר טהור, כי יש לו יישומים גם בזה וגם בזה וגם בזה." עכשיו נניח שאתה אדם מהרחוב שהחלבון היחידי שהוא מכיר זה מה שעושים ממנו חביתה. אז הוא יגיד מה לעזאזל הקשר בין תנובת הפירות של עץ התפוז, לבין תרופה לסרטן. אם אתה רוצים לחפש תרופה לסרטן לכו לבית חולים, ואם אתם רוצים יותר תפוזים אז לכו לפרדס, אבל לא יכול להיות שיש כיוון מסויים שפותר את 2 הבעיות האלו.

עכשיו, יש כל מיני פרופסורים למדעי המחשב, שטוענים שיש איזשהו מכנה משותף גם לבעיה של קריאה אוטומטית של טקסט, וגם לבעיה של מכונית שנוסעת בעצמה, ולעוד הרבה בעיות אחרות. ויש תחום מחקר, בשם בינה מלאכותית. שיש לו יישומים גם בזה וגם בזה. אתה, כלל לא מסוגל לזהות את המכנה המשותף הזה ואין לך מושג על מה התחום הזה מדבר. לכן, בעיניך, הקשר בין שתי הבעיות שהזכרתי זה כמו הקשר בין מחט לתחת, ולא ייתכן שיש איזשהו פתרון קסם לשתיהן. לדעתי אתה צריך להכיר בכך שאתה בור בעניין זה (בניגוד לעניניים אחרים..). הטענה שלך שעדיף למצוא פתרון לכל בעיה בנפרד, מבוססת בעיקר על חוסר ידע.
''מכונות תבוניות'' 460354
אגב, הגישה של מינסקי עפ''י ההרצאה שהזכרתי דוקא טוענת שמדובר בהרבה בעיות נפרדות, ו''הפתרון'' יהיה מורכב מהרבה פתרונות נפרדים לכל אחת מהן. כך, לטענתו, פועל גם המוח שלנו.
פתרון לכל אחד מהבעיות בנפרד 486862
לא יודע למה נזכרתי בזה.

אבל הנה מכשיר שהוא "מאמץ פתוחי בכיוון מסויים שהוא לא ברור (למי שלא עוסק בתחום). אבל כאשר יצליח, יימצאו לפתע פתרונות פלא להרבה בעיות שימושיות בבת אחת".

אפשר לראות גם כמה המכשיר הזה הוא שונה מהגישה שדב הציג: "הבה נמצא פתרון לכל אחת מהבעיות האלה בנפרד, ואז נאחד את כולן למכשיר אחד".

פתרון לכל אחד מהבעיות בנפרד 486882
מדהים! זה הזכיר לי את הדחיק סליק.
פתרון לכל אחד מהבעיות בנפרד 486891
איזה פחד.. דומה יותר ל''זבוב'' של קרוננברג.
פתרון לכל אחד מהבעיות בנפרד 486897
לזבוב יש יותר רגליים ( אבל לא ראיתי את הגרסה של קרוננברג).
פתרון לכל אחד מהבעיות בנפרד 486900
הרושם הכללי דומה.
''מכונות תבוניות'' 460260
אפל המציאה? מעט דברים אפל המציאה, ובטח שלא את הטלפונים סלולרים עם מצלמה שגם גולשים באינטרנט, כולל gps וכו' וכו' שהיו לפני שאפל נכנסה לשוק. אפל בכלל מתמחה בעיצוב ויחסי ציבור, לא בטכנולוגיה.
''מכונות תבוניות'' 460242
שתי הערות קטנוניות: קשה מאוד - למעשה בלתי אפשרי - לבני אדם ליצור ואפילו לזהות סדרת מספרים אקראיים. מחשבים הרבה יותר מוצלחים בזה מאתנו.

כלבי שמירה אני מכיר. אבל כלבי ניקיון וכלבי חקלאות? תמהתי.
''מכונות תבוניות'' 460247
''מכונות תבוניות'' 460248
לגבי המספרים האקראיים אתה צודק. אבל אם תראה לבנאדם ציור, הוא יגיד לך באופן מיידי אם מדובר בסדרת כתמים אקראית, או בציור ''כלב דלמטי בשלג''. למחשב זה משימה לא קלה בכלל.

לגבי חלקאות, התכוונתי לכלבי רועים.
לגבי נקיון, כלבים רק עושים את המצב יותר גרוע בתחום הזה.
''מכונות תבוניות'' 460554
הפעם הגזמת ממש. מאז שהכלב שלנו נפטר אנחנו חייבים לטאטא את הריצפה אחרי כל ארוחה!
"חתול ניקיון" מילא, אבל כלב?
''מכונות תבוניות'' 460295
טוב, כידוע יש אנשים שלא מאמינים אפילו בקיומם של אטומים, כך שמן הסתם אתה צודק. גם אחרי שמכונות אינטליגנטיות להפליא יחברו שירים, יוכיחו משפטים במתמטיקה (רימן וגולדבך יוכלו סוף סוף להרים כוס תירוש בגן עדן), יגלו את תורת השדות המאוחדת (היית מאמין שאחרי כל ההו-הה מתברר שהעולם הוא דוקא דו-ממדי?),ימצאו תרופה לאלצהיימר, יוכיחו שאולמרט אשם ויתווכחו באייל אם בני האדם הם "יצורים תבוניים", יהיו מי שיצעקו שהמלך עירום.

ניסוי מחשבתי: SETI מזהה, בשעה טובה, שדרים מהחלל. השדרים מפוענחים ומכילים מידע על העולם שנבדק ונמצא אמיתי, וכן את הדברים הטובים מהפיסקה הקודמת. האם תדרוש הוכחה לכך שהכותבים מתבססים על כימיה אורגנית כדי להעניק להם את התואר "יצור תבוני"?

למתעניינים - שעה ומשהו של מרוין מינסקי בשאלות דומות במקצת: http://mitworld.mit.edu/play/482/
''מכונות תבוניות'' 460351
שכחת להוסיף לרשימת היכולות המדהימות של אותן מכונות שתהיה להן גם יכולת בחירה ורצון חופשי. אז הם יהיו יצורים על תבוניים כי, כידוע, לאדם עצמו לא יכול להיות דבר כזה. . .
''מכונות תבוניות'' 460353
זה אכן משעשע עד מאד, אבל לא ענית לי לגבי הניסוי המחשבתי שהצעתי.
''מכונות תבוניות'' 460355
כרגע, חוץ מלשעשע, אבדתי את החשק לחזור ולדון בעניין, ואני מסתפק במה שאמרתי עד כה.
''מכונות תבוניות'' 460913
אם תיבנה מכונה שתעשה את כל הדברים שמנית, מבלי שמאמצי הפיתוח של המפתחים יתרכזו בכל אחד מהנושאים האלה בנפרד, אלא במשהו ''תבוני'' כללי, מבלי שהמפתחים ידעו בכלל איזה בעיות אמורה המכונה שלהם לפתור, אני חושב שאהיה בין אלה שיאמרו שהאנושות הצליחה לפתח מה שקרוי ''בינה מלאכותית'', אבל איני מאמין שהדבר הזה יקרה.
למען האמת הספקות שלי בקשר לטיב ההגדרה התרכזו בעיקר ב''מבחן טורינג'', אחרי ששמעתי עליו, ולא להגדרה כפי שאתה הצגת בחלק הראשון של דבריך.
אשר לניסוי המחשבתי, הרי לא מדובר במשהו שפותח ע''י אדם אלא על ''חייזרים'' נבונים, וזה נושא לגמרי אחר.
אני גם לא מאמין שיש יצורים כאלה, אך אם תהיה הוכחה לקיומם בודאי היותה או אי היותה של כימיה האורגנית שבונה אותם, תהיה בלתי רלוונטית.
''מכונות תבוניות'' 460962
הפיסקה הראשונה שלך לא שונה בהרבה ממבחן טיורינג. כדי שהמכונה תוכל לעמוד במבחן היא תצטרך לענות על כל מה שעולה בדעתו של הבודק, והמתכננים שלה ודאי לא יכלו לדעת אילו שאלות היא תישאל, כך שללא ספק "המפתחים [לא] ידעו בכלל איזה בעיות אמורה המכונה שלהם לפתור".
''מכונות תבוניות'' 460983
אבל במבחן טיורינג לא מוגדר אפילו זמן שבו על המבחן להיערך. שניה תספיק ?
אני מוכן להסכים לדבר כזה (אולי אפילו בסתירה לדברים שאמרתי קודם): נעזוב את ההגדרות. אם תהיה לפנינו מכונה כזאת (ותעשה בין השאר את כל הדברים שמנית בתגובתך הקודמת או אפילו חלק) כולנו נדע שהיא ישנה.
''מכונות תבוניות'' 461018
מבחן טיורינג, כפי שטורינג הגדיר אותו, נערך כאשר ה"בוחן" משוחח עם שתי ישויות – אדם, ושאינו אדם; והוא מסתיים כאשר ה"בוחן" יודע לומר מי מהם הוא אדם (או מודיע שאינו יכול להחליט).
''מכונות תבוניות'' 461044
עדיין להרגשתי אין די בכך כדי שזה יהיה מוגדר היטב, אבל מאידך גיסא איני רואה טעם להתחיל להתמקח, בנוסח: ואם הבוחן יהיה עייף, או מה מידת האינטילגנציה שלו עצמו, או שסתם לא יתחשק לו להתאמץ, והוא יחליט להפיל גורל וכדומה.
''מכונות תבוניות'' 461023
ארוע נדיר: אני מסכים איתך לחלוטין. אני חושב שכאשר ניתקל ביצור תבוני, לא תהיה לנו שום בעיה לדעת זאת.
''מכונות תבוניות'' 461538
שאלה לא פחות מעניינת היא אם אנחנו מבינים איך פועלת האנושות בסביבת "מכונות תבוניות"? כמה ימים היינו מצליחים להתקיים אם כל העולם המודרני היה מתמוטט פתאום?
רובנו כבר מזמן לא מתפקדים ממש לבד. קידמה או לא, מים לשתות לא יהיו לנו.

חזרה לעמוד הראשי המאמר המלא

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים