אובר משעה את ניסוייה בכלי רכב אוטונומיים לאחר פגיעה קטלנית בהולכת רגל 3835
הולכת רגל נהרגה אתמול (ב') באריזונה מפגיעת מכונית אוטונומית השייכת לחברת "אובר". כתוצאה מכך, השעתה אובר את כל ניסוייה בכלי רכב אוטונומיים בכמה ערים בצפון אמריקה בהן ניסויים אלה התנהלו.

איליין הרצברג, בת 49 ותושבת העיר טמפה באריזונה, חצתה כביש בשעת חשיכה שלא במעבר חצייה, כאשר פגעה בה המכונית. בזמן הפגיעה המכונית פעלה באופן אוטונומי, אולם נכח בה נהג בטיחות אנושי אשר אמור היה לפקח על פעולתה. ככל הידוע, זהו המקרה הראשון שבו נהרג הולך רגל מפגיעת מכונית אוטונומית.
קישורים
בגלל תאונה קטלנית: אובר מפסיקה את כל הניסויים במכוניות האוטונומיות - TheMarker
אישה נהרגה: "אובר" השהתה את ניסויי הרכב האוטונומי - ynet
פרסום תגובה למאמר

פרסומים אחרונים במדור "חדשות"


הצג את כל התגובות | הסתר את כל התגובות

מקרה מעניין.. 698157
מקרה טרגי..

ומצד שני זה ממש נשמע כמו פרק של חוק וסדר: https://www.theverge.com/2018/3/20/17142672/uber-dead...
בהתחלה מפקדת המשטרה מצהירה שאובר כנראה לא אשמה: הקורבן "קפץ לכביש" - בהתבסס על המצלמה ברכב ועל עדות הנהגת האנושית (שהיתה בתפקיד פיקוח).
בנוסף, היא אמרה שזה מסוכן לחצות את הכביש שלא במעבר חציה.
אח"כ מגיבים בטוויטר מתרעמים על כך שמפקדת המשטרה מאשימה את הקורבן.
אח"כ המשטרה מפרסמת הצהרת הבהרה.
אח"כ מגיבים אחרים מפרסמים שהמקום שבו אירעה התאונה הוא מבלבל מבחינת הולכי רגל ומועד לפורענות.
ובסוף מתברר שהנהגת האנושית עבריינית מרושעת שישבה בכלא (!). [הקורא מוזמן להשלים את הקונספירציה בעצמו]

מחכה לפיתול הבא בעלילה..
וידאו 698185
התפרסם הווידאו ממצלמות הרכב בזמן התאונה ובשניות שלפניה: https://youtu.be/pO9iRUx5wmM
וידאו 698186
מה ראיתי:
1. המבט של נהג הבטיחות היה על הכביש רק 25% מהזמן.
2. לא נראה שהמערכת ביצעה נסיון התחמקות או בלימת חירום אפילו בשניה האחרונה, כאשר לעין אנושית היה כבר ברור מקרה החירום. בלימת חירום, אפילו במשך שניה אחת, לא היתה מונעת את התאונה אבל היתה עשויה להפוך אותה ללא-קטלנית. זה באג רציני.
וידאו 698198
ובנוסף:
- לא מעבר חציה ולא נעליים, היא חוצה באמצע כביש מהיר ולא מואר.
- משהו מוזר בפנסים של הרכב, נראה שהם מופנים כלפי מטה ו/או שהטווח שלהם קצר, ואז הולכת הרגל נראית רק בשנייה האחרונה. בזמן כזה גם נהג אנושי לא היה מספיק להגיב.
- נהג ה"בטיחות" נראה כזה dude.
וידאו 698214
מכונית אוטונומית צריכה בכלל תאורה? הליידאר ושאר החיישנים שלה לא אמורים לעבוד גם בחושך? מזה ומזה נשמע לי שכן.
וידאו 698216
ומדוע רכב אוטונומי צריך הגה?
פנסים יכולים להעיד על שימוש במצלמה/ות.
וידאו 698217
הפנסים הם לא רק כדי לראות בחושך אלא גם כדי להראות בחושך (או בדמדומים, בערפל, באובך, בגשם...)
וידאו 698225
ברור. חשבתי שהטענה היא שהמחדל של המכונית כאן הוא שהיא לא ראתה את הולכת הרגל, לא שהיא לא נראתה להולכת הרגל. אבל נכון, גם זה.
וידאו 698218
אחמ אחמ, לא היית מעדיף שהמכונית האוטונומית שנוסעת מולך בלילה תדליק פנסים?

עד כמה שידוע לי, המון אלגוריתמים מסתמכים בשעות היום על תאורה. וגם אם בלילה יש עזרים נוספים, הייתי מניח שהם לא תחליפיים לגמרי לתאורה, ואולי לא באותה רמת דיוק וזיהוי.
מצד שני, לא ברור לי בכלל שדרישת הבסיס ממכונית אוטונומית צריכה להיות לראות דברים שנהג אנושי לא רואה. כמו למשל לראות בלילה בלי פנסים.
וידאו 698224
וכמובן שגם מכוניות אחרות (גם לא אוטונומיות) צריכות לראות את הרכב (האוטונומי) בלילה.
מהפוזיציה 698268
Lidar טיפוסי אינו מבחין טוב (או בכלל) בגוונים ולכן אינו רגיש לקווי נתיב ולשילוט, בוודאי שלא לרמזורים.
מותר האדם 698200
יש לי פריוס 2017. במכונית הזאת ישנה מערכת אוטונומית חלקית. אפשר לנסוע בה על כביש 2 מחיפה לתל אביב כשבכל הקטע שמהיציאה הדרומית של חיפה ועד הרמזור הראשון בתל אביב שתי הרגלים נמצאות על רצפת המכונית מבלי לנגוע בדוושות. זה בתנאי שתנאי הדרך לא גורמים למערכת לעצור את המכונית עצירה מוחלטת‏1. אם יש עצירה כזאת די בנגיעה קלה על דוושת הגז כדי שהמכונית תשוב להיות נשלטת על ידי מערכת השיוט. אין בה תכונה כמו ב ionic שהרכב שומר על עצמו גם במרכז הנתיב, ועל ההגה שולט כל הזמן הנהג.
שמתי לב שעדיין המערכת הזאת יש לה חסרון אחד מאד בולט יחסית לנהג אנושי. כשאני נוהג ומתקרב למכונית שנמצאת לפניי, ואני רואה שהיא מתחילה לעבור לנתיב שכן איני מאט כי ברור לי גמרי (או בעצם לאינסטינקטים שלי כי אין כאן מהלך מחושב), שכאשר אגיע אליה היא כבר לא תהיה בנתיב שלי ולא תפריע לי. לעומת זאת המערכת במכוניתי, כל עוד אפילו חלק מהרכב שלפני נמצא בנתיב, היא מתייחסת אליו כמכונית שנמצאת בנתיב ומאטה באופן מוגזם, ורק כאשר המכונית הזאת נמצאת כולה מעבר לקו הגבול בין הנתיבים היא שבה ומאיצה. וגם ההפך נכון. היא לא מתייחסת למכונית שנמצאת בנתיב שכן שמתחילה לסטות לכיוון הנתיב שלי, ובוואדי לא מתייחסת לאיתות שלו, ומתחילה להתייחס אליה רק כשהיא מתחילה לחצות ממש את הקו. אם רכב "חותך" אותי בצורה כזאת כשאנו קרובים מאד המערכת לא מספיקה להגיב כלל ורק התערבות הנהג תמנע התנגשות. מכונית רחוקה שנמצאת לפנים באותו נתיב וממש עומדת, לא נקלטת במערכת הזאת כמכשול. גם אין האטה לפני סיבוב, למשל ביציאה מנתיב ראשי אם אין לפנים מכונית אחרת שמאטה. אצל מי שרק החל ללמוד לסמוך עליה ועדיין לא מכיר את כל תכונותיה אלה מצבים די מפחידים.
ברור שבמכוניות אוטונומיות מליאות לפחות חלק מהמגבלות האלה כבר אינו קיים. עובדה שהן קיימות ופועלות.

1 האטה למהירות מאד איטית אינה עצירה מוחלטת לצורך זה. המכונית יודעת להאט אפילו ל 1 קמ"ש ואחר כך להאיץ כשמתאפשר ללא התערבות הנהג.
מותר האדם 698202
זה נשמע יותר כמו בקרת מהירות ומניעת התנגשות אוטומטיות,ופחות כמו נהיגה אוטונומית ממש.
הייתי מנחש שכמות המצלמות מוגבלת (1?) ושדה הראייה מוגבל (קדימה).
מותר האדם 698203
עשיתי נסיעת מבחן בלקסוס עם כל העזרים. הרכב שומר היטב על המרחק מהרכב לפניו, בלי דרמות, מתריע על סטיה מנתיב (מעצבן אם שכחת לאותת לפני עקיפה) וכשהיה נדמה לו שאני לא בולם מספיק חזק לפני רכבים שעמדו ברמזור הוא חיזק לי את הבלימה (מי שאל אותו?).
לא התלהבתי מהחצי-חצי. אם כבר אוטונומי אז עד הסוף. מה שכן, התראת הסטיה מנתיב בטיחותית לעילא כשהנהג מנקר. אני משוכנע שנהגים מנקרים אחראים ללא מעט מהתאונות העצמיות וזו בהחלט פונקציה שתציל חיים.
מותר האדם 698204
נהגים שמתעסקים בטלפון אחראים ליותר תאונות..
מותר האדם 698208
נכון, ונראה לי שהעזרים יכולים לסייע במידת מה גם בזה.
מותר האדם 698220
נכון, אבל אז הם גם נושאים באשמה. אם נהג אוטומטי דורס מישהו זה כבר סיפור אחר לגמרי, האשמה היא של יצרן הרכב. ספק אם הם יכולים להרשות לעצמם את זה.
מותר האדם 698206
לפי התיאורים שלך מדובר כנראה במערכת דומה לזו שינה בפריוס. ב iunic שבה עשיתי נסיעת מבחן לפני שקניתי את הפריוס יש, כפי שתיארתי קודם, גם מערכת ששומרת על הנתיב באופן עצמאי, וזה כמו שאומרים הצעירים די "מדליק". כאן ישנה רק התרעה לסטייה, ולא מדובר בחלק מבקרת השיוט האדפטיבית. אל תשכח לאותת.
מותר האדם 698205
קוראים לזה בקרת שיוט אדפטיבית. אבל ללא קשר לשם ברור שגם במכוניות אוטונומיות מליאות יש מערכות דומות. אני חושב שהיא מבוססת על רדאר ולא על מצלמות. יש במכונית מערכת נפרדת למניעת תאונות שמתריעה על מצבים מסוכנים. לפעמים האחרונה ''לא מרוצה'' מהנהיגה של הראשונה ומתריעה כשהמרחק ומהירות ההתקרבות למכונית שלפנים מסוכנים לדעתה, אבל אם המערכת האדפטיבית קלטה את הרכב שנמצא לפנים ומגיבה לו, היא תמיד מצליחה לבלום גם כשמערכת הבטיחות משתוללת.
מותר האדם 698219
מעניין. חשבתי על זה לאחרונה ויש לא מעט סיטואציות שלדעתי נהג אוטומטי יתקשה מאד להתמודד איתן. למשל - אתה נכנס למעגל תנועה, לפי החוקים היבשים יש לתת זכות קדימה לתנועה הבאה משמאלך (אלה שכבר בתוך המעגל). אממה, יש מצבים שמעגל התנועה פקוק ואנשים נוסעים בו לאט, ואז אין לך ברירה אלא לנסות לשייט לאט לאט לתוך המעגל, ביותר או פחות אגרסיביות, עד שמישהו ייתן לך להכנס או עד ששייטת כל כך עמוק שאחד הנהגים חייב לעצור ולתת לך להכנס למעגל (לא סגור מה החוק היבש אומר על מקרים כאלה, אבל אין אפשרות אחרת, אם תחכה עד שהמעגל יהיה פנוי לגמרי כבר אפשר להשאיר את האוטו וללכת). מה נהג אוטומטי יעשה במקרה כזה? לפי איך שאני מבין, מבחינתו המעגל לא פנוי, אז אי אפשר להכנס... ויש עוד הרבה דוגמאות כאלה. כל אחד פה שהוא כבר נהג מנוסה מבין כמה התנועה בכביש היא דבר חי ונושם, איך שלכביש יש מין היגיון פנימי משלו שקשה מאד לנסח במילים - זה משהו שמבינים אחרי כמה שנים של נהיגה. יש בנהיגה אלמנט משמעותי שלא מבוסס על כללים של אם X אז Y, אלא על אינטואיציה, על שיקול דעת, על קריאת "שפת הגוף" של הרכבים סביבך. אני חושב שעניין הנהג האוטומטי יכול לעבוד באופן מיטבי רק אם כל הרכבים על הכביש הם אוטומטיים - זה ללא ספק מצב אידיאלי. השילוב של האנושי עם האוטומטי על הכביש ייצור בעיות (לא יודע אם יותר או פחות גדולות מהבעיות שיש לנו כרגע עם נהגים אנושיים בלבד).
מותר האדם 698221
אני מייצג כאן רק את המכונית שלי, ואצלה הפתרון הוא די פשוט. כשהיא רואה כיכר היא נותנת שלושה צפצופים כאילו אומרת לי (בלשון הטייסים) "אתה לוקח", ומפסיקה את הפעולה של בקרת השיוט. לא במקרה הבאתי כדוגמה לפעולתה את הנסיעה על כביש 2 ממבואות חיפה למבואות תל אביב. אין בקטע הזה לא ככרות ולא צמתים ורמזורים, ולכן היא יכולה לפעול עצמאית בכל הדרך (וכבר הוכחתי שהיא עומדת בכך), אם כי כפי שספרתי לא תמיד בצורה האופטימלית. איני יודע איך פותרים בעיה כזאת במכוניות האוטונומיות ממש, אבל אני מניח שבסופו של דבר אם חושבים (כלומר המתכנן האנושי חושב. לא המערכת ששתלו בה מה שקוראים "בינה מלאכותית") אפשר לפתור גם בעיות סבוכות כאלה.
תשע (מליון) בכיכר ביום שישי 698222
נהג אוטומטי יעשה מה שאתה (הם/אנחנו) מוכנ/ים ללמד אותו לעשות.
אם הציפייה תהיה "החוק היבש" (שזה התסריט שלך), סביר להניח שהוא ייתקע בכיכר. ולכן זו לא ציפייה סבירה.
אם הציפייה היא "תעשה מה שנהג אנושי סביר עושה בלי לגרום לתאונה" - תצלם לו אלף כיכרות עם עשרות אלפי מכוניות שנכנסות אליהן, תתייג לו מהי כניסה "טובה/מותרת" ומהי כניסה "רעה/אסורה", ויהיו לו עשרות מיליוני דוגמאות ללמוד מהן.
מכאן והלאה הוא יטחן את כל הדוגמאות האלה עם רשת נוירונים עמוקה (זה מה שכולם עושים היום), וידע לנהוג כמוך וכמו אני ויואל ומשה גמליאל וגד, שלא עושים תאונות.
תשע (מליון) בכיכר ביום שישי 698227
אני חושב שבמקרים כאלה חלק מהאינטראקציה נוצר כתוצאה מקשר עין בין הנהג שרוצה להיכנס לנהג שאמור לתת לו להיכנס., כשהשני אמור לתת מחווה מסוימת שאומרת לראשון שהוא יכול להיכנס. לא ברור לי איך זה אמור לעבוד שרק אחד מהצדדים הוא בן אדם.
תשע (מליון) בכיכר ביום שישי 698228
בדיוק. זה חלק ממה שהתכוונתי אליו כשאמרתי שצריך לקרוא ''שפת גוף'' של הרכבים סביבך, חלק מהעניין הוא קשר עין עם הנהג, תקשורת בלתי מילולית איתו.
תשע (מליון) בכיכר ביום שישי 698229
אני בכלל לא בטוח. תקן אותי אם אני טועה, אבל בסופו של דבר מחשב לא יכול להבין משהו שהוא לא "אם X אז Y". בני אדם לעומת זאת, עובדים גם לפי אינטואיציה. ואינטואיציה זה משהו שכמעט בלתי אפשרי להסביר במילים, לא כל שכן ללמד מחשב. זה קצת מזכיר את הסאגה של גארי קספרוב נגד תוכנת כחול עמוק. המתכנתים הצליחו לפתח תוכנה שיכולה לחשב אולי מאות צעדים קדימה, הרבה מעבר ליכולות של מוח אנושי. אבל קספרוב אמר שהוא לא מתעסק בלחשב צעדים קדימה, הוא פשוט מבין את ההיגיון של המשחק ומשחק לפי אינטואיציה. וזה משהו שמחשב עדיין לא יכול לעשות. גם המתכנתים של כחול עמוק הודו שלאינטואיציה אין נוסחא.

אני לא בטוח שאני מבין את הפתרון שלך. תכניס למחשב דוגמאות של כניסה מותרת - הוא יבין למה היא מותרת? מה בדיוק הופך אותה למותרת? הוא יבין איך ליישם את זה כשהוא עצמו נוהג בכביש? אני לא בטוח. בכל אופן, ככה לא נוהגים. סליחה על הנימה המיסטית - אבל נוהגים על ידי כך שמרגישים את הכביש. ואני לא בטוח שאפשר ללמד מחשב לעשות את זה.
תשע (מליון) בכיכר ביום שישי 698232
לעומת זאת, אם בונים מכונית כמו שצריך, קל מאוד להוסיף לה עוד כמה נורות איתות או אפילו שלטי איתות. היא יכולה לספק הרבה יותר מידע לנהגים אנושיים שכנים. וגם לאוטומטים שכנים.
תשע (מליון) בכיכר ביום שישי 698233
אין לי מושג למה אתה קורא אינטואיציה, בין השאר כי בצורה שאני מבין את המילה, נהיגה היא ממש לא מהפעולות שמצריכה אותה. כמות (וכימות) הנתונים להם אני זקוק כדי להיכנס לכיכר קטנה למדי לפי הערכתי, הרבה יותר קטנה למשל מהנסיון להעריך האם משפט שאמרתי מוצא חן בעיני זוגתי לשולחן ארוחת הערב. אז במקרה הכיכר, כמו שאני מלמד את בתי לגבי חציית כבישים, האלגוריתם מאד קרוב ל"אם X אז Y". ואת זה אפילו לשיטתך מחשב יכול לעשות.
יתירה מזו, מסתבר שכיום מחשב יכול לעשות הרבה יותר מאשר לפני חמש שנים - כמו למשל לזהות פרצופים יותר טוב ממך, לסווג עצמים בתמונות יותר טוב ממך, ושאר מטלות סבוכות מאד שאולי אתה חושב שמצריכות "אינטואיציה".

מה שאירוני בזה - אם נניח לרגע בצד את המיסטיקה - זה שצורת הלמידה החישובית של השנים האחרונות מזכירה את המונח 'אינטואיציה': רבים יאמרו שהאינטואיציה שלך, "הרגשת הכביש" שלך, היא פשוט התוצאה הנצברת של אלפי שעות נהיגה על הכביש, והיא לא היתה קיימת כלל בשלוש השעות הראשונות שבילית על הכביש. עם זאת, הצטברות המידע הזאת במערכת החושית והמוטורית שלנו כבר כל כך סבוכה ועמוקה, שלעיתים אין לנו אין היכולת לומר "למה" החלטנו להאיט פתאום או מאיזה סיבה בדיוק חשדנו ברכב לפנינו שהוא הולך לחתוך אותנו. ואז אנחנו קוראים לזה "תחושת בטן" ושאר מושגים כאילו-לא-רציונליים.
מהפכת הלמידה החישובית שאנחנו בעיצומה משתמשת ברשתות נוירונית "עמוקות" - המונח "עמוקות" מציין שלעיתים יש בהן מאות רבות או אלפי שכבות, ובכל שכבה אלפי או אף מיליוני נוירונים (או קשרים בין נוירונים). לכן, אחרי שהרשת בעלת מיליוני הנוירונים "למדה" לזהות אלף אובייקטים מתוך מיליוני תמונות - ובדיוק מדהים שעולה על היכולת האנושית מ-‏2015 לערך - כמעט בלתי אפשרי להבין "למה" היא החליטה שתמונה 154,667 היא של כלב ותמונה 154,668 היא של חתול.
אם פעם אלגוריתמי מכונה סיווגו תמונות לפי תכונות של צבע (חום או ג'ינג'י), טקסטורה (מפוספס או חלק), גאומטריה (אורך שפם, מרחק בין עיניים וכו'), חלוקה לתת-אובייקטים (מספר השיניים) ושאר ירקות שיכלו לתת תשובה ל"למה תמונה 154,668 היא של חתול" - כי הוא ג'ינג'י, מפוספס, שפמו ארוך, שיניו קטנות וחדות, והוא ממש חמוד - הרי כיום, התשובה היחידה ל"למה חתול?"‏1 היא שמיליון, חמש מאות אלף ומאתיים עשרים ושבעה נוירונים כלשהם מהרשת הלומדת שלך "ירו" חזק יותר כשהם ראו אותו. או בניסוח אחר - *אין לנו שום מושג "למה"*. או - לא יותר מושג מאשר לומר שזאת התוצאה של אלפי שעות לימוד על מיליוני תמונות מהעבר. ובין זה לבין ה"אינטואיציה" של מאתיים מיליון הנוירונים בקיבה שלך ששידרו אות אזהרה כימי כשהרכב לפניך זגזג שני מילימטר המרחק נראה כבר קטן יותר מיום ליום.

כחול עמוק שהביס את קספרוב הוא הדוגמה שלך למותר האדם על המחשב? תמהני.

1 נו, התקבלת.
תשע (מליון) בכיכר ביום שישי 698241
איך שהבנתי את זה, כחול עמוק ניצחה את קספרוב בזכות רמאות. המתכנתים ניצלו הפסקה במשחק כדי לתכנת את המחשב מחדש כך שימנע מהמלכודת שקספרוב הוביל אותו אליה, אחרת המחשב לא היה מסוגל להתחמק מהמלכודת. אבל זה לא באמת משנה. שים לב שכשאני מדבר על בני אדם ומחשב אני לא מדבר על עליונות ונחיתות, אני מדבר על שוני. אני משוכנע שנהג ממוחשב יכול להיות טוב יותר מנהג אנושי - בתנאי שכל שאר הנהגים גם הם ממוחשבים ומתקשרים אחד עם השני. השילוב של הממוחשב והאנושי הוא הבעייתי.

בסופו של דבר, המחשב מתכנן מהלכים קדימה. קספרוב פועל לפי אינטואיציה. מהי האינטואיציה הזאת? היא מושרשת בניסיון, כמובן, אבל האם יש כאן בסך הכל מיליארד שכבות של "אם X אז Y"? או האם יש באופן פעולת המוח משהו נוסף שאנחנו עדיין לא יודעים להגדיר? למיטב ידיעתי אנחנו עדיין רחוקים מאד מלהבין איך המוח פועל, איך מתבצעת למידה.
תשע (מליון) בכיכר ביום שישי 698243
בקיצור האם אפשר לצמצם את כל תהליך הלמידה האנושי להמון המון שכבות של "אם X אז Y"?
תשע (מליון) בכיכר ביום שישי 698251
וואי,זאת האמא של על אנשי הקש. אני אמרתי משהו על *כל* תהליך הלמידה האנושית?
דיברתי על המשימה הפשוטה למדי של להביא קופסה עם גלגלים מנקודה א' לנקודה ב' על נתיב ידוע מראש
(קוראים לזה ווייז, המצאה בת עשר), בלי להתנגש בקופסאות אחרות בדרך.
כל טמבל בן 17 יודע לעשות את זה, לא דיברנו על לכתוב את תורת היחסות, להלחין פוגה של באך, לצייר את המונה ליזה או לשחק את המלט.
בין המשימות שהאדם הממוצע עושה, נהיגה היא מהפשוטות והישירות ביותר. כל כך פשוטה, שבעצם אתה יכול לעשות אותה בצורה אוטומטית כמעט לגמרי. אני לא מרגיש שום צורך בתחושת בטן מיוחדת או מודעות על כדי לנהוג.
תשע (מליון) בכיכר ביום שישי 698254
במטוסי נוסעים מודרנים הזמן שהטייסים בשליטה יכול להיות קצר עד כדי 4 דקות מכלל הטיסה.http://www.news.com.au/travel/travel-updates/how-pil...
תשע (מליון) בכיכר ביום שישי 698257
זה בין השאר בגלל שיש בקר תעופה אנושי שמבטיח להם מסלול.
תשע (מליון) בכיכר ביום שישי 698347
זה שאתה יכול לעשות פעולה באופן אגבי לא הופך אותה לפשוטה לביצוע עבור מחשב. אני בטוח שאתה יכול לנהל שיחה פילוסופית די עמוקה תוך כדי שאתה מכין חביתה. זה לא אומר שגם מחשב יכול לעשות את זה. נהיגה היא פעולה מורכבת מאד שדורשת אינטואיציה רבה, גם אם אתה עושה אותה באופן אוטומטי.
תשע (מליון) בכיכר ביום שישי 698348
שיחה פילוסופית עמוקה היא פעולה פי מיליון יותר מורכבת מנהיגה‏1, אני אפילו לא יכול להתחיל לחשוב על כמות הפרמטרים שהיא מצריכה. אני הסברתי לך למה נהיגה היא יחסית פשוטה (המטרה שלה ברורה, הדרך ממקום א ל-ב ידועה כבר עשור לטלפון הנייד שלך, בגדול אתה מתקדם על וקטור חד ממדי ומטרתך העיקרית או המסובכת ביותר היא כנראה לא להתנגש). זה שאתה תענה לי ב"נהיגה היא פעולה מורכבת מאד שדורשת אינטואיציה רבה" לא מקדם אותנו לשום מקום.
יש לך איזה נימוק למה היא מורכבת? למה היא דורשת "אינטואיציה"? למה היא יותר מורכבת מבחירה של נתיב ושמירה על מרחק מהרכב שלפניך, שתי פעולות קלות לכימות ולמדידה? כשכל הפרמטרים שאתה שולט בהם זה שני סקלרים (עוצמת הלחיצה על דוושות הגז והברקס) ווקטור אחד (זוית ההגה נניח)?
אתה יודע בכמה פרמטרים אתה צריך לשלוט כדי לנהל שיחה כלשהיא, שלא לומר שיחה פילוסופית מעמיקה?

1 הצעה למדד אמפירי - כמה אנשים בעולם עושים את הראשונה, וכמה את השנייה?
תשע (מליון) בכיכר ביום שישי 698354
בסדר, הטענה שלי הייתה שזה שאתה עושה משהו באופן אגבי - לא בהכרח הופך את המשהו הזה לפשוט ללמידה עבור מחשב.

להגיד שנהיגה זה בסך הכל ללחוץ על גז ולסובב את ההגה - זה כמו להגיד שלנהל שיחה זה לעשות הברות עם הפה. זו רדוקציה. הסברתי למה נהיגה זה דבר מורכב. למשל - עניין הכיכר העמוס. זה מצריך להבין מתי הנהג בתוך הכיכר מאפשר לך להכנס ומתי הוא לא - במידה רבה זה מצריך קריאה של הבעת פניו של הנהג. לפעמים זה מצריך ממך לבקש באופן לא מילולי ממישהו שיתן לך להכנס - אין לי מושג איך מחשב אמור לעשות את זה. עוד דוגמא - הולכי רגל שקופצים לכביש. כרגע הנהג האוטומטי יודע בעיקר לעצור כשהוא מזהה שהבנאדם כבר בתוך הנתיב שלו (ואפילו את זה הוא עדיין לא עושה טוב כמו שראינו בידיעה המקורית של הת'רד). נהג אנושי יודע לזהות אדם שמתכוון להכנס לכביש עוד הרבה לפני שהוא נכנס. לפעמים נתיב נחסם ואין ברירה אלא לעלות קצת על מדרכה כדי לעבור למרות שזה לא חוקי (אחרת תעמוד שם שבוע). המחשב ידע מתי זה מותר ומתי זה אסור? יש אור ירוק והנהג לפניך לא נוסע - מה המחשב יעשה? יעמוד כמו גולם עד שהבעיה תפתר איכשהו? אולי הנהג חטף התקף לב? אולי הוא פשוט החליט ללכת לקנות לעצמו קפה? בכל מקרה צריך להגיב אחרת. למיטב זכרוני אפילו בספר של התאוריה כתוב שבמקרה של בעיות כאלה על הנהג לפעול בהתאם למיטב שיקול דעתו (כי בלתי אפשרי לנסח כללים לכל סיטואציה). עזוב דוגמאות ספיציפיות - הנקודה שלי היא שיש המון סיטואציות על הכביש שמצריכות - כן כן - חשיבה יצירתית כלשהי, אינטואיציה כלשהי, שלדעתי מחשב מאד יתקשה לצלוח. אולי יום אחד, כן? אבל טוען בתוקף שזה הרבה יותר מורכב ממה שאתה מנסה להציג כאן כאילו כל הנהיגה מסתכמת בשמירת מרחק ולפנות בזווית נכונה. זה הרבה, הרבה יותר מזה.
תשע (מליון) בכיכר ביום שישי 698364
א. להבין מתי הנהג מתכוון להיכנס - לא יודע מה איתך, אני מבין את זה מהמהירות, הכיוון והתאוצה של הרכב שלו, ואלה הפרמטרים העיקריים שאני מחליט עליהם, וזמינים לכל רכב אוטונומי.
ב. בקשר להולכי הרגל - עומר כבר נתן לך את התשובה הכללית, אבל ספציפית אני אענה כדי לסתור כמה הנחות יסוד שגויות שלך:
- הרכב האוטומטי יכול ראות לכל הכיוונים. לא רק לנתיב המסוים קדימה כמו שאתה מתאר.
- כיון שכך, הוא רואה את האדם ש"מתכוון" להיכנס לכביש לפחות כמו שאתה רואה אותו‏1.
- כל זיהוי כוונה שנובע מתנועה פיזית של האדם, במהירות וכיוון מסוים, לא רק שהוא אפשרי למכונית האוטומטית, היא יכולה לחשב כמה דברים הרבה יותר ממך באשר לתוצאה של תנועות כאלה ולאן יביאו את האובייקט הנע.
- גם זיהוי של שפת גןף והבעות פנים זה דבר שמערכות לומדות עושות היום לא רע, ומשתפרות.

ג. המקום היחיד שאני קצת מסכים איתך - אבל בטוח שהטכנולוגיה תפתור זאת בעתיד הקרוב - זה אירועים מאד חריגים, כמו נתיבים חשוסים, מכשולים לא צפויים על הכביש, גשרים נופלים ושאר ירקות‏2. רק שאירועים כאלה קורים פעם בשנה אולי, אפילו אם הנהג ישאל אותך פעם בשנה מה לעשות עכשיו, זה נראה לי זניח.

1 אצלי, למשל, לפעמים האיש הזה דוקא מוסתר על ידי המסגרת/קורה שבין החלון הקדמי לחלון הימני.
2 יש אור ירוק והנהג לפניך לא נוסע? - הרשה לי לפחפח, הוא יעשה בדיוק מה שאני עושה - בין כלום לבין צפצוף אזהרה שאומר לא להוציא את הראש מהסמארטפון שלו. ממש אלגוריתם מתוחכם ועילאי.
תשע (מליון) בכיכר ביום שישי 698371
נראה לי שהוא מדבר על מצב בו הכיכר פקוקה לגמרי, ז"א המהירות לא מספיקה על מנת להבין מה הנהג הולך לעשות (משום שאין מהירות) ואתה צריך להעריך על סמך יצירת קשר עין הדדי‏1.

1 נראה לי שהבעיה של להעריך מה הנהג האנושי הולך לעשות על סמך פרצופו דווקא קלה יותר למחשב מאשר הבעיה להבהיר לנהג האנושי מה אתה הולך לעשות ללא פרצוף, אבל זאת בעיה של ממשק משתמש ולא של לימוד‏2.
2 באמת הגיע הזמן להוסיף עוד שיטות איתות מאשר ימינה, שמאלה ובלימה, הטכנולוגיה קיימת ולא יקרה, ונראה לי שגם הצורך קיים.
תשע (מליון) בכיכר ביום שישי 698373
כן. מתי כבר ישים מישהו על מכסה המנוע ועל מכסה הבגאז' שלטים שעליהם הוא יכול בלחיצת כפתור לכתוב „מניאק!״ (כמובן שברירת המחדל לשלט האחורי תהיה „<משהו> אבל לפניך״).
תשע (מליון) בכיכר ביום שישי 698379
עדיף על צפירה וסנוור.

אבל נראה לי שעדיף לתת רק מספר מוגבל של טקסטים (בשביל למנוע מנהגים לנסות לכתוב את הטקסטים תוך כדי נהיגה ובשביל לאפשר לתרגם את הטקסטים לשפות אחרות). אני גם לא בטוח שמכסה המנוע הוא המקום הטוב ביותר, עדיף על לוח השעונים של הנהגים הקרובים (או של הנהג הספציפי).
תשע (מליון) בכיכר ביום שישי 698249
למען האמת הייתי לגמרי סקפטי כאשר קראתי את מה שכתבת על רשתות נוירוניות "עמוקות". זה פשוט נשמע מחריד, להפקיד את ניהול מכונות המשחית על הכביש בידי מערכת פסבדו-אקראית, שאינה מבוססת על אלגוריתם אנליטי לפתרון הבעיה, ושהראתה בעבר הרחוק (בעת הופעתה) יכולות מוגבלות מאד שהגבילו את ישימותה לתחומים מאד ספציפיים (שלהם איכשהו התאימה). אבל מה לעשות שאלו העובדות ולפחות הרכב של גוגל משתמש בזיהוי אובייקטים ויזואליים ע"י ראיית מכונה.
נראה שהתשובה לספקנות שלי היא כפולה. ראשית מי יכל לנחש שדוקא זיהוי אובייקטים ויזואליים בכביש יתגלה כאחד התחומים הספציפיים שבהם רשתות נוירונים בכל זאת מצליחים. ושנית נראה שמדובר בטכנולוגיית רקע כאשר את עיקר העבודה (עקיבה אחרי תואי הכביש וזיהוי מכשולים) עושים טכנולוגיות יותר פשוטות ויותר מובנות. בכלל נראה שאין פיתרון טכנולוגי מובהק של בעיית הנהיגה האוטונומית ומשתמשים בכלאיים של סנסורים וטכנולוגיות שונות (hybrid navigation). הויקיפדיה מדברת על אלגוריתם SLAM המשמש למיזוג online, של אינפורמציה מכמה מקורות (LIDAR, ראדאר, ראיית סטראו, GPS ומערכת נווט אלקטרוני) כדי לעדכן מפת סביבה (offline), תוך כדי מעקב אחר תנועת המערכת במפה. ראיית המכונה, אני משער, משלימה בהנתן מספיק זמן, את תמונת הסביבה לגבי אובייקטים חדשים שאינם חלק ממפת הסביבה הקבועה.
במילים פשוטות, מי שאמור להתריע על מכשול התנגשות בנתיב יהיו סורק הלייזר ו/או איזשהו אלגוריתם עיבוד תמונת מצלמה כמו במערכות האוטונומיות הנמצאות כבר היום ברכבים (mobileye וחברותיה) ולא איזושהי מערכת כבדה ואיטית של ראיית מכונה.
למה אני מתקטנן על נקודה זו? יש לכך שתי סיבות. הסיבה הראשונה היא שיש כאן תשובה חלקית לשתי שאלות שעלו בעבר פה. ראשית, נראה לי כי מספר התאונות של רכבים אוטונומיים יהיה מאותו סד"ג כמו ברכבים רגילים וקרוב לודאי שבתקופת ההסתגלות הראשונית (חפיפה עם רכבים רגילים, נהג משגיח, שכלול ואדפטציה של המערכות) יהיו כנראה יותר תאונות ולא פחות. שנית, נראה לי ברור שעם מערכת ניהוג מורכבת כזו ברור שרכב אוטונומי יעלה יותר מרכב רגיל (מובן שתדרש מערכת מיחשוב די חזקה ויקרה שלא להזכיר את מערכות החישה השונות ואמצעי הגנה מוגברים נגד התנגשויות) והשאלה היא רק כמה יותר.
הסיבה השנייה מתיחסת לתאונה של רכב האובר שהרגה את איליין הרצברג (2018). אני לא בא כאן להמליץ על דחיפת אופניים בשעת חשיכה על פני כביש בין 6 נתיבים, אבל דריסת עוברת הדרך חסרת המזל היא בדיוק סוג המצבים בהם מערכות אוטונומיות אמורות להיות טובות יותר מנהגים אנושיים. הגברת לא קפצה לפני המכונית (מפני שהתאונה ארעה בנתיב השלישי) אלא עברה לפניה במהירות שצריכה להחשב סבירה להולך רגל. למצלמה היה די זמן לצלם אותה במשך זמן שבמונחים של מערכות ממוחשבות הוא די ארוך. לכן אני מצטרף לדעתו של אריק שלפחות למכונית הזו יש בעיה חישובית-בטיחותית מאד גדולה. אם מה שקרה כאן אינו מאפשר זמן מספיק לסורק הלייזר (LIDAR) לזהות את הולך הרגל והאופניים ולפחות להתחיל בבלימת הרכב, הרי שהמערכת חסרת ערך מול המקרים הדי נפוצים של קפיצת הולכי רגל/בעלי חיים/חפצים/כלי תנועה לכביש.
לסגירת המעגל, אשאל מה קורה עם מערכת ראיית מכונה ממוחשבת במקרה שזו היתה המרכיב הראשי של הניהוג. במקרה של תאונה כזו, זה כל מה שאפשר לעשות הוא להוסיף את סצנריו התאונה למאגר המאמן (training) את ראיית המכונה ולקוות שבפעם הבאה יהיה טוב יותר (שהרי אף אחד לא יכול לדעת מה השתבש בזיהוי המצב, אלא אם כן מדובר בפחות מדי זמן עבור החישוביות הכבדה של המערכת הזו).
תשע (מליון) בכיכר ביום שישי 698250
רק תיקון מהיר: הכובד החישובי של רשת נוירונים הוא בזמן האימון/למידה. מרגע שהרשת סיימה את הלימוד, היישום שלה בזמן אמיתי מהיר מאד.
ועוד הערה - הפסקה הראשונה שלך היתה אולי קרובה למציאות בסוף האלף הקודם, היום היא כבר לא רלבנטית. השימושים של למידה עמוקה מקיפים כיום כמעט את כל התחומים של לימוד מחשב ו"אינטליגנציה מלאכותית". זיהוי תמונות, תרגום, זיהוי שפה, אפליקציות רפואיות, חיזוי תבניות, רובוטיקה, You name it.
לומר היום שזה טוב לשימושים ספציפיים זה כמו לומר בשנות התשעים שמחשבים טובים רק בעיבוד תמלילים וגליונות אקסל.
תשע (מליון) בכיכר ביום שישי 698253
אם ניחשת שהפסקתי לעקוב אחרי הנושא של רשתות נוירונים בערך בסוף האלף, צדקת. יחד עם זאת, מה שמטריד אותי הוא שדווקא בתחום הזה של "הבנת תמונה" (מעבר למקרים פשוטים יחסית כמו זיהוי כתב), רשתות הנוירונים לא הצטיינו. יכול להיות שהוספת שכבות נוספות שנתה משהו מהותי, ואז שאלה טובה היא, מה?
לגבי החישוביות ומשך הזמן, אני יכול להאמין לך. ועדיין אני משער שאם אתה צריך רשתות נוירונים (ועוד עמוקות) וראיית המכונה, לא מדובר במיקרו-פרוססורים שהיה נהוג להשתמש בהם בתעשיית הרכב אלא במחשב של ממש ובעל ביצועים די משופרים. מעניין גם, שבתקשורת הפופולארית, לא ראיתי שהוזכר תהליך הלימוד של המחשב שהוא מרכיב כל כך מרכזי של רשתות הנוירונים ושמן הסתם צריך להיות אדפטיבי למפות (לנתיבים) שבהן משתמש הרכב.
תשע (מליון) בכיכר ביום שישי 698255
אם כבר בחומרה עסקינן, החומרה החביבה על רשתות נוירונים נקראת gpu - מעבד גרפי - והיא כיום חלק אינטגרלי בכרטיס המסך של כל מחשב בערך שאתה נתקל בו.
בין השימוש העיקרי של הכרטיסים האלה נמנים משחקי המחשב הפופולריים, ובעצם הכיוון ההיסטורי הוא הפוך: ההתפתחות של כרטיסי המסך ויחידות ה-gpu שלהן (שבעיקרן הן מעבד מקבילי בעל אלפי מעבדים זעירים), בעיקר כדי לתמוך ברזולוציות העולות של משחקי המחשב, היתה מרכיב מכריע במהפכת הרשתות העמוקות, כי היא אפשרה מימוש חומרתי יעיל של הרשתות האלה בגלל המקביליות הגבוהה של המעבדים הגרפיים הללו.
תשע (מליון) בכיכר ביום שישי 698273
"לא ראיתי שהוזכר תהליך הלימוד של המחשב שהוא מרכיב כל כך מרכזי של רשתות הנוירונים ושמן הסתם צריך להיות אדפטיבי למפות (לנתיבים) שבהן משתמש הרכב."

למה? רשתות הנוירונים שצריך כדי "להסתדר בכביש" יכולות להיות קבועות (אולי להתעדכן פעם בשנתיים כדי להישאר בעניינים בעולם המשתנה; בדוגמה ששמעתי לא מזמן, דפוס חזותי שלא היה קיים לפני עשר שנים והיום נפוץ מאוד הוא אנשים שמסתובבים על המדרכה, וחלילה גם חוצים כביש, כשמבטם מרותק לחפץ מלבני קטן שהם אוחזים בידם ועושים עליו תנועות משונות באצבעות). וכשהן קבועות, כמו שכתב הפונז, הן לא דורשות משאבי מחשוב כבדים (לא יודע על "לא מיקרו-פרוססורים... אלא מחשב של ממש", בכל מקרה מעבד שגם אם הוא חזק הוא מוצר מדף זמין וזול יותר מהמערכות המכניות ברכב, מהפח שלו, ואולי גם מהחיישנים שלו). את הניווט עושים באמצעים מיושנים כמו וייז (+ מפות מאוחסנות במחשב הרכב למקרה של אובדן תקשורת, ומתעדכנות פעם ביום). כלומר, את לימוד המפות והתאמתן לשינויים עושים בענן ולא במכונית. לי נראה שאלו שתי משימות בלתי תלויות. לא?
תשע (מליון) בכיכר ביום שישי 698289
התכוונתי לכך שאין טעם ללמד מחשב שינהג רכב במדבריות אריזונה ע"י תמונות שצולמו בכבישים של בוסטון. בדיוק כפי שוויז ברכב ישראלי לא צריך את המפות של איסלנד.
למיטב הבנתי, מפות התנועה של רכב אוטונומי צריכות להיות הרבה יותר מפורטות וכבדות מן המפות של וויז. לפי מה שצויין המפה היא גם ב-offline, כך שכל ה- buzzwords על עננים וסייבר לא שייכים.
מוזר לי שרבים מתיחסים כאן למאמר על הרדיולוגיה ואף אחד לא מזכיר שהמסקנה של המאמר היא שהרדיולוגים האנושיים הם כאן לעוד הרבה זמן.
ועוד הייתי רוצה להוסיף, שתחום הרדיולוגיה הוא דוקא תחום שכבר לפני הרבה שנים הוכר כאחד התחומים הבודדים שבו לרשתות הממוחשבות היה יתרון מסויים. כבר אז שמו לב שבראייה דיגיטלית אפשר להבחין בשינויים וחריגות ביולוגיות שהעין האנושית כלל אינה מבחינה בהם. עניין "הבנת תמונה" הכולל זיהוי ושיוך אובייקטים ויזואליים כמו בני אדם, כלי תנועה, תוואי דרך, תמרורים ומכשולים שונים הוא עניין הרבה יותר סבוך, ולכן האנלוגיה בין שתי התחומים היא ענייה.
לאריק הייתי רוצה להזכיר את הסיפור הידוע על המכוניות שהיו צריכות לפתור את בעיות זיהום הסביבה שנגרמו ע"י הכרכרות הרתומות לסוסים.
אין ספק שהטכנולוגיה המשתנה במהירות משנה את חיינו. השאלה אם כל או רוב השינויים הללו הם לטובה היא שאלה יותר שנוייה בויכוח.
תשע (מליון) בכיכר ביום שישי 698267
אני רוצה להתעלם לרגע מה"איך", ולהתמקד ב"מה".

הרי הטכנולוגיה תמיד מוצאת בסוף פתרון לכל בעיה חישובית- גם לשלוח אדם לירח (עם מליונית מכח המחשוב בן זמננו) וגם לשתף סרטונים של חתולים עושים שטויות. ה"איך" ייפתר בצורה כלשהי, והפתרון יהיה יציב ובטיחותי.

אני רוצה לדבר על התוצאה של מכונית אוטונומית.
מה שיהיה בסופו של דבר הוא להערכתי צי של מכוניות אוטונומיות שמסוגלות לנסוע עצמאית מנקודה א' לנקודה ב' ללא תאונות, לתקשר ביניהן בטווחים קצרים ולשתף פעולה בסגנון של להקת ציפורים נודדות. התוצאות תהינה‏1:
1. שמירת מרחק קטן מאוד בין כלי הרכב בנתיב תחבורה בין עירוני, ומתוך כך אפשרות להעמיס על אותו נתיב פי כמה וכמה מכוניות- פתרון מלא לפקקים.
2. לאחר הוכחת העדר התאונות תבוא עם הזמן הפחתה באמצעי המיגון הפסיבי שתתרום לפישוט של כלי הרכב והפחתה משמעותית במשקלו.
3. לצרכים עירוניים כלי הרכב האוטונומי יהיה מינימליסטי - למשל כלי רכב חשמלי בעל שני מושבים ותא מטען מצומצם, טווח של 100 ק"מ בלבד בין טעינות, ומהירות מירבית של 60 קמ"ש. כלי כזה יוכל לשמש להסעה אוטונומית של הילדים לבית ספר, לחוגים ולחברים, וגם למבוגרים לקפוץ לבית הקפה השכונתי, למכולת או לסרט, בזמן שהכלי הבינעירוני בטעינה.

אני יכול לדמיין משפחה סטנדרטית של 4.5 נפשות שמחזיקה 4 כלי רכב אוטונומיים- 2 עירוניים מינימליסטיים, 1 בינעירוני דו מושבי ו 1 בינעירוני בגודל מלא. הוצאות הדלק והתחזוקה של הכלים העירוניים נמוכות עד מגוחכות, ושל הכלים הבינעירוניים קרובות יותר לאלו של כלי רכב דהיום, אך עדיין נמוכות יותר (פחות משקל- פחות דלק).

זה המצב הסופי. בדרך אליו נצטרך לעבור שינוי רגולטורי מקיף- בשלב ראשון, כדי לנצל את הפוטנציאל של הכלים האוטונמיים תצטרך לחול הפרדה בינם לבין כלים נהוגים. אני חושב על נתיבים יעודיים כמו נת"צ, בקליפורניה למשל. כמו שיש עכשיו נתיב ל Carpool.
בשלב השני פשוט יורידו את הכלים הנהוגים מהכביש. מי שירצה לנהוג ידנית יתכבד ויסע בכבישים משניים ולא באוטוסטרדה, ובסופו של דבר רק בשמורה (מסלול מירוצים).

____________
1 ניקח את המקרה הקל- בהעדר נהגים אנושיים, ותיכף נדבר על זה
תשע (מליון) בכיכר ביום שישי 698272
למה אתה חושב שתמשיך להיות בעלות פרטית על רכבים אוטונומיים?
האם לא סביר יותר שיהיו רק מוניות אוטונומיות במודל של השכרה לפי צורך?
תשע (מליון) בכיכר ביום שישי 698281
1. שעות העומס- כל המכוניות האוטונומיות לוקחות את ילדי היסודי לבית הספר באותה שעה, אתה לא יכול להרשות לעצמך פספוס מקרי שלא תהיה מכונית פנויה.
2. זמינות מיידית- אם החלטתי לקפוץ לסופר השכונתי ברגע זה למה לחכות?
3. שיקולי סטטוס (לרכב הראשי) כמו היום.

אני מניח שיכול לצמוח מודל השכרה (אובר אוטונומי) במקביל, ואפילו יכול להיות מאוד יעיל ב Car pool של הנסיעה בבוקר לעבודה, אבל כמו היום- רוב האנשים יעדיפו לנסוע ברכבם הפרטי.
תשע (מליון) בכיכר ביום שישי 698287
1. אז תזמין מראש. גם היום באותה שעה אתה תלוי בפקק המקרי בשכונה ליד בית הספר שיכול בקלות לעלות לך בעוד עשר דקות איחור.
2. חלק ניכר מעם ישראל שאין לו חניות פרטיות, הסופר השכונתי קרוב לעיתים יותר מהחנייה האקראית בשכונה. מצוקת חנייה זה אחד הדברים הראשונים שיפתרו על ידי מכוניות אוטונומיות.
3. תחלוק את המרצדס האוטונומית שלך עם עוד שלושה עשירים שממילא נוסעים בה רק עשירית משעות היום. או שתזמין מונית מרצדס ולא קאיה, אם זה מה שמשנה לך.
תשע (מליון) בכיכר ביום שישי 698293
4. תחושת הביתיות במכונית שלך, עם הצעצועים של הילדים שלך שזרוקים למרגלות המושב האחורי בין פירורי הבמבה (שמעצבנים אותך, אבל בשכורה לא היית יכול בכלל להרשות להם לאכול במבה), הטישו שלך שנוח לך שיהיה שם, ומשקפי השמש שנחסך ממך לקחת איתך בתיק. שלא לדבר על דברים כבדים יותר (טיולון!).

זו סביבה שאתה נמצא בה די הרבה זמן ביום, אני מנחש שרוב האנשים יהיו מוכנים לשלם לא מעט בכל מיני היבטים אחרים תמורת היכולת לעשות אותה שלהם.
תשע (מליון) בכיכר ביום שישי 698297
הבה נחזק את זה - יש המשתמשים ברכב בתוך מחסן קטן, בערכים של דירות בתלאביב זה חוסך אלפי שקלים בשנה.
תשע (מליון) בכיכר ביום שישי 698314
אבל... גם השטח של החניה עולה כסף, למכונית ממוצעת יש שטח איכסון אפקטיבי די נמוך (600 ליטר זה הרבה כל זמן שלא מקפלים את המושב האחורי) לעומת השטח שחייבים לשחרר על מנת לאפשר לה לחנות (שתי חניות למכונית, כל אחת שלוש מטר על שש מטר) ז"א, אם אני לא מתבלבל, אם על כל חניה שנחסוך נבנה מחסן בגובה של שני מטר מויתור על כל מכונית נקבל שטח אכסון של יותר ממאה מכוניות.
במבה ברכב 698312
כל הכבוד לך על ההתחשבות בזולת, אבל אני חושש שלא כולם יהיו כמוך. למעשה, זכרון מאוד לא נעים מהקיבוץ היתה תחושת הקבס שתקפה אותי בכל פעם שנכנסתי לרכב שיתופי. בעיה אחת היתה ענן אפר הסיגריות שבקע מהמזגן, ועל האחרות לא ארחיב מטעמי גועל נפש.
במבה ברכב 698332
ברור; זה עוד יותר מוריד מהאטרקטיביות של השיתופי.
תשע (מליון) בכיכר ביום שישי 698313
1.
א. אני לא רואה איך רכב שיתופי מרע את המצב, בכל מקרה, סה"כ מספר כלי הרכב (פר אדם) שצריך על מנת לקיים מודל של רכב שיתופי באופן שיעמוד בשעת העומס צריך להיות קטן ממספר כלי הרכב שצריך על מנת לקיים מודל של רכב שיתופי באופן שיעמוד בשעת העומס (באוכלוסיה גדולה מספיק תמיד יש מישהו בחופשה או ילד חולה), מספר המושבים פר כלי רכב (אחרי הכל, במודל של רכב שיתופי אפשר להעמיד צי עם יותר מחצי מכלי הרכב בבלי רכב חד מושביים, ועוד הרבה כלי רכב דו מושביים) יהיה קטן משמעותית מזה שמצריך המודל של כלי רכב פרטיים, ומספר מקומות החניה (פר אדם) יהיה קטן משמעותית במודל השיתופי (ז"א, גם מספר כלי הרכב יהיה קטן יותר, גם הגודל שלהם יהיה קטן יותר, גם פחות מהן יעמדו בחניה, וגם את חלקן אפשר יהיה "לקפל".
ב. אין שום חוק טבע (למיטב ידיעתי) שמחייב את כל בתי הספר להתחיל באותה השעה, למעשה, מניסיון, במדינות בהן הילדים משתמשים בתחבורה ציבורית על מנת להגיע לבתי הספר לכל בית ספר יש שעת פתיחה שונה במקצת.
2. אני חושב שאפשר לחלק את הערים המודרניות בעולם המערבי לשני מודלים, מודל אחד הוא המודל של לוס אנג'לס (נגיד) עם 1.6 כלי רכב לבית, והמודל השני הוא המודל של ניו-יורק (נגיד) עם 0.6 כלי רכב לבית (מקור). במודל אחד המכונית היא המלכה, בשני הולך הרגל הוא המלך, בראשון על מנת לקנות חיתולים אתה צריך להגיע לסופר שנמצא, לפעמים, במרחק של מייל מהבית, בשני אתה יכול לקפוץ למכולת הפינתית, במודל הראשון באמת אין סיכוי למודל של רכב שיתופי, אבל כמה מהערים המוצלחות בעולם (לדעתי - ניו יורק, ברלין, אמסטרדם, טוקיו, לונדון, קופנהגן...) מקיימות את המודל השני, ובהן בהחלט אין צורך במכונית לקפוץ למכולת השכונתית, פשוט מפני שהיא קרובה ויש לך מדרכות כל הדרך אליה, והרבה אנשים באמת חיים ללא מכונית פרטית.
3. גם עניבה זה מודל סטטוס והרבה יותר זול... סמל הסטטוס הזה עולה הרבה כסף, ומעבר לעלות הראשונית זה יש ביטוח, דלק, חניה, מוסף, ומלבד מקרים נדירים, הערך של הרכב עצמו יורד באופן די חד עם הגיל והשימוש. כשסמל הסטטוס היקר הזה גם פוגע באיכות החיים, פוגע בסביבה, מעיק, פוגע בבריאות ומסכן את חייך נראה לי, אני מקווה, שכשיבוא היום וזה יהיה אפשרי רוב האנשים יבחרו בו. אין לי ספק שזה מה שאני אעשה (אבל יש פה קצת פרדוקס העדר, בשביל המודל יהיה כדאי צריך מאסה מספיק גדולה שתבחר בו). כדאי לציין שרוב האנשים לא בוחרים ברכב שהוא סמל סטטוס ממש (פורשה, טסלה, מרצדס...).
תשע (מליון) בכיכר ביום שישי 698317
2. בינתיים ישראל מתמלאת בפרוורים מהסוג הראשון.
תשע (מליון) בכיכר ביום שישי 698258
לעניין זיהוי תמונה על ידי מחשב, זה נכון שמחשב יודע להחליט אם תמונת פרצוף מתאימה לתמונת פרצוף שנמצא במאגר הנתונים שלו, אבל אני בספק אם מחשב יוכל להחליט, מה שלאדם מאד קל, אם תמונת פרצוף היא של גבר או של אישה. נתקלתי גם באפליקציה שמזהה יצירה מוסיקלית אבל לתדהמתי גיליתי שהיא יכולה לזהות את היצירה רק אם אותו ביצוע ממש נמצא במאגר הנתונים שלה, ואם ישמיעו לה את היצירה בביצוע אחר היא לא תזהה אותה. זיהוי עצם בתמונה כמו טנק מרוחק הוא בעייתי למכונה ואת הדבר הזה עושים היום בני אדם ולא מחשב. הדבר הזה נכון גם כשמדובר בזיהוי תאים סרטניים בפתולוגיה. הניסיון להטיל את המשימה הזאת על מחשב נכשל עד כה לחלוטין, ומי שעושה זאת הם בני אדם מומחים, דבר שגורם לתורים ארוכים לתוצאות הבדיקה. כלומר, קיימות משימות שלאדם הן מאד קלות, ובמחשב הן בעיות לא פשוטות. אני מניח שבעתיד יצליחו להתגבר על הבעיות האלה, אבל אנו עדיין רחוקים מאד מכך.
תשע (מליון) בכיכר ביום שישי 698262
"הניסיון להטיל את המשימה הזאת על מחשב נכשל עד כה לחלוטין"...

(מאחר ואתה לא אוהב לקרוא טקסט ארוך באנגלית, אצטט רק משפט אחד מהפתיחה: "Researchers have developed deep learning neural networks that can identify pathologies in radiological images such as bone fractures and potentially cancerous lesions, in some cases more reliably than an average radiologist").
תשע (מליון) בכיכר ביום שישי 698264
אני מכיר את הנושא הזה מחבר שהיה שנתיים בארצות הברית בחברה שמנסה לפתח את הנושא, ולדבריו התוצאות מאד עלובות. זה היה לפני כשלש שנים. אני בספק גדול אם הייתה פריצת דרך בנושא. מכל מקום אם היום תידרש לבדיקה כזאת אצלנו, אין שום מקום שבו עושים את זה דרך מחשב, ותצטרך להמתין בסבלנות לתוצאות.
תשע (מליון) בכיכר ביום שישי 698265
בשלוש השנים האחרונות הושגה התקדמות לא מבוטלת, מה שנותן מקום לאופטימיות מסוימת. מכל מקום ''נכשל לחלוטין'' ממש לא מבטא את המצב (המחקרי) העכשווי.
תשע (מליון) בכיכר ביום שישי 698266
אם זה כך אני שמח. זה חשוב.
תשע (מליון) בכיכר ביום שישי 698270
חזרתי שוב וקראתי גם את מה שאני כתבתי בעניין זה. כתבתי טקסט קצר מאד בעברית: "זיהוי תאים סרטניים בפתולוגיה". בשיטות הדימות השונות לא מדובר בהגדלה כדי להתבונן בתאים ולזהותם.
תשע (מליון) בכיכר ביום שישי 708033
משהו בכיוון: https://www.docwirenews.com/docwire-pick/deep-learnin...
מה שהפתיע אותי המיוחד הוא גודל - ליתר דיוק קוטן - הקובץ ששימש ללימוד: בסך הכל פחות מ-‏1400 תמונות של גידולים (nodules) חשודים. אני בטוח שבקצת מאמץ ניתן לקבל הרבה יותר נתונים ממוסדות רפואה שונים (אולי תמורת הנחה במחיר התוצר המוגמר) ולמיטב הבנתי זה כמעט מבטיח את שיפור התוצאה (אם לא, אלון מאסק זורק המון כסף לפח).

דגדגן: "Researchers have recently created a deep learning algorithm that matches, and occasionally exceeds, the performance of expert radiologists in determining whether a thyroid nodule requires biopsy".

ובהזדמנות זאת, למה לא לבדוק את מצב התרגום האוטומטי של גוגל:
"חוקרים יצרו לאחרונה אלגוריתם למידה מעמיק התואם, ולעיתים אף עולה על הביצועים של רדיולוגים מומחים בקביעת האם יש צורך בגידולי בלוטת התריס בביופסיה". כמה סמלי שהכשל העיקרי בתרגום הוא של המונח deep learning (בנוסף לטעות בסמיכות ובסידור לא נכון של חלקי המשפט האחרון).
תשע (מליון) בכיכר ביום שישי 708037
לא זוכר איפה קראתי או שמעתי, יחסית לאחרונה, שרדיולוגים מבינים שהם חיים על זמן שאול, ושעוד לא הרבה שנים תוכנות יידעו לפענח צילומים יותר טוב מהם באופן מוחץ.
תשע (מליון) בכיכר ביום שישי 708051
אולי גם טייסים מבינים שהם חיים על זמן שאול, עוד לא הרבה שנים מטוסים ימריאו וינחתו יותר טוב מהם באופן מוחץ... אה... רגע.
תשע (מליון) בכיכר ביום שישי 708055
קראתי איפשהו שבטיסות טרנסאטלנטיות (או אולי ארוכות טווח?) הטייס מטיס בממוצע 11 דקות.
תשע (מליון) בכיכר ביום שישי 708059
הזמן נטו שבו הטייסים יושבים פיזית ליד ההגה הוא זמן שבו מחשבים לא יכולים עדיין להחליף אותם. מניח שזה כולל שלב המראה ושלב נחיתה, או מצבים של סכנות לא חזויות, ועוד.

כמו כן, בהטסה ממוחשבת לטייסים יהיה זמן פנוי שבו הם יתמודדו עם בעיות טיסה שאינן מחייבות אותם לשבת על ההגה, למשל בחירת מסלול טיסה מבין מספר מסלולים אופציונלים.

כלומר - צפויה בעתיד הקרוב הטסה תמוכת מחשב, לא חלופה שמייתרת את הטייס.
תשע (מליון) בכיכר ביום שישי 708068
הנחיתה היום היא אוטומטית (אולי לא בכל שדה או סוג מטוס). המראה, אגב, זה שלב מסוכן יותר, אני חושב שדב יוכל לתקן אותי.
תשע (מליון) בכיכר ביום שישי 708069
במטוס נוסעים לא לוקחים סיכון שיכולים לקחת במטוס קטן, קל וחומר סיכון למטוס זעיר.

חברת בוינג עתידה להפסיד סכומי עתק (סדר גודל של אלפי מטוסים מהסוג שכשל, שלא ימכרו בשנים הקרובות). בגלל מטוס הנוסעים שלה שהתרסק לאחרונה כי חברות תעופה לא מוכנות לספוג תאונות שיבריחו מהן נוסעים.

לפי זכרוני במטוסי נוסעים עיקר ההוצאות הן דלק ולא עלות הטייסים.
אם בלילה חורפית 708071
גישה, נחיתה והסעה אוטומטית של מטוס נוסעים Airbus A320.
תשע (מליון) בכיכר ביום שישי 708087
אכן ההוצאה על דלק היא כ 40% מסך כל הוצאות חברת התעופה וגדולה בהרבה מכל הוצאה אחרת. בדוח של ראיינאייר (חברה יעילה במיוחד) לשנת 2018 (בה מחירי הדלק היו נמוכים) היו ההוצאות על דלק 35% מסך ההוצאות התפעוליות, כפליים מההוצאה הבאה- עלויות נמלי תעופה. ההוצאה על שכר העובדים התפעוליים היתה רק השלישית בגודלה, כ 13.5% מסך ההוצאות התפעוליות.
תשע (מליון) בכיכר ביום שישי 708118
אני מסכים לגמרי, הטייס נמצא שם כיום רק לצרכי חירום - אבל צרכי החירום הללו הם קריטיים, כי מלבד המרטה ונחיתה או אפילו פגעי מזג אויר, יכולות לקרות עוד עשרות תקלות לא צפויות, כמו כשל מנוע, שאז החלטות של שניות יהיו ההבדל בין חייהם ומותם הוודאי של מאות אנשים (וכמו שנאמר כאן - הפסד כלכלי נגרר עצום לחברת התעופה).
אצל הרדיולוגים, לעומת זאת, מספיק שנחזיק 5 אחוז מכמותם היום, בשביל מקרים חריגים שהמחשב לא יוכל לאבחן היטב,והם יקבלו את הקובץ באימייל ביום יומיים אחרי האבחון האוטומטי, כדי לתת מענה טוב וסביר וסיכון של אבחנה שגויה.
הדחיפות ומכפלת הסיכונים בהשוואה לטייס קטנות בשני סדרי גודל, ולכן לדעתי החשש לפרנסה של הרדיולוג מוצדק פי מאה יותר משל הטייס.
תשע (מליון) בכיכר ביום שישי 708137
מעניין מה יעלם קודם: הטייסים או חגורות ההצלה המתנפחות. האם היה מקרה שחליפות ההצלה הללו הצילו אנשים בטיסות אזרחיות?
תשע (מליון) בכיכר ביום שישי 708077
לפי מה שנמסר לי מפי קברניט אל על (אבל זה היה לפני כעשר שנים או יותר ואני לא יודע מה המצב היום) החלק היחיד של הטיסה שנעשה בידי אדם הוא ההמראה. זאת משום שבהמראה המטוס מלא דלק וזה נחשב מסוכן. כטייס של מטוסים קלים לשעבר, אין ספק שהנחיתה היא תרגיל הרבה יותר קשה מההמראה. (במקרה שלי אפילו במבחן הניווט, הבוחן אמר בסופו שהבעיות שלי בניווט הן הנחיתות. . .). מל''טים גם גדולים מאד ממריאים כמובן ללא טייס אנושי (שקופץ במצנח אחרי ההמראה). נראה לי שההקפדה על המראה אנושית היא יותר עניין של איזו מסורת בטיחות שעתידה לפקוע מתי שהוא אם זה עדיין לא קרה.
תשע (מליון) בכיכר ביום שישי 708232
מאידך גיסא, לרגל 50 שנה לנחיתה על הירח הזכירו לנו שבהליך הנחיתה הסופי המחשב קרס וניל ארמסטרונג הנחית את הנחתת ידנית. מעניין שגם ב"בראשית" ההתרסקות נגרמה בסופו של דבר מקריסת המחשב, ולו היה שם ארמסטרונג הוא ככל הנראה היה מצליח להשלים את הנחיתה. במקרה שמעתי אתמול הרצאה מפי מישהו שהתאמן יחד עם אילן רמון בקבוצת האסטרונאוטים. פרט מאד מעניין בהרצאה היה תיאור המחשב שהיה להם שם, מחשב שלא היה מעז להראות את פרצופו ליד סמארטפון פשוט של ימנו מרוב בושה. ולמרות הזינוק האדיר בהתפתחות המחשבים מאז, דווקא בן אדם היה אולי מציל את המצב ב"בראשית".
תשע (מליון) בכיכר ביום שישי 708233
המידע שיש לי הוא דוקא הפוך. שמה שריסק סופית את החללית זו פקודה שנשלחה מהקרקע ברגעים המכריעים. עדיף היה להשאיר אותה על מוד אוטומטי ולקוות לטוב.
וכמובן, בן אדם 'בתוך' בראשית זה מופרך לחלוטין עקב גודלה.
תשע (מליון) בכיכר ביום שישי 708234
הייתי בהרצאה קצרה של מישהו שהיה מעורה מאוד בפרויקט ואמר דבר דומה. הוא אמר שכאשר כשל הרכיב, הבקר שאחראי עליו נתן פקודת אתחול למערכת ואלמלא הפקודה הזו יתכן ש''בראשית'' היתה משלימה את הנחיתה.
תשע (מליון) בכיכר ביום שישי 708236
זה לא הפוך. לא אמרתי שניל אמסטרונג היה יכול להנחית את החללית מחדר הבקרה. הוא היה צירך להיות עליה. אבל כמו שאתה אומר הוא גדול מדי.
ומהמקורות שלי שאיני מצליח דרך הטלפון השבור להעביר אליהם שאלות, אבל תשובות לשאלות אחרות אני כן מקבל דרך אותו טלפון שבור, נמסר לי שהמחשב אתחל את עצמו ללא התערבות אנושית, לא רק לפני אחד התמרונים הראשונים כפי שסופר בתקשורת, אלא מספר פעמים ובהם כמה פעמים תוך תהליך הנחיתה.
תשע (מליון) בכיכר ביום שישי 708237
במהלך משימה חללית (או לווינית), זה לא נדיר מאד שמחשבים מאתחלים את עצמם - בדיוק בגלל זה בונים כלים כאלה עם יתירות חזקה ומהירה (עד כדי שני מחשבים שרצים במקביל, וכשאחד מהם מגלה תקלה, מיד מעבירים משני הראשון מאתחל את עצמו וחוזר חלילה).
אחת הסיבות לתכנון שכזה, בניגוד למערכות על כדור הארץ, היא שמחשבי חלל חשופים לחלקיקים וקרינה אנרגטיים לאין שיעור מאלה שאנו חווים מתחת לאטמוספירה הנוחה שלנו. אי לכך, אפילו עם אמצעי הגנה פיזיים מתאימים, תמיד יש סיכוי שחלקיק יעבור דרך ביט זכרון או רגיסטר כלשהו, ויקלקל/ירסט/יהפוך אותו.
לגבי הנחיתה עצמה, עשה מה שעשה המחשב, הפקודה מהקרקע היתה מה שמנע ממנו כל אפשרות נחיתה. ייתכן כמובן שגם לללא הפקודה היה כשל אחר מפסיק את תהליך הנחיתה.
תשע (מליון) בכיכר ביום שישי 708238
איני זוכר שדווח שהסיבה לאתחול שתואר בתקשורת הייתה השפעה חיצונית של קרינה או משהו דומה. בדיוק כמו הסיבה שנמסרה לקריסת המחשב בנחתת של אפולו 11, הסיבה שנמסרה הייתה עומס יתר. לכן קצת תמהתי בגלל המהפכה שעברו המחשבים מאז.
תשע (מליון) בכיכר ביום שישי 708114
כן, טייסים - רוב הזמן - לא מפעילים את המטוס. ובכל זאת, אני לא מדמיין שנעלה בקרוב על מטוס ללא טייס, למרות שהטכנולוגיה מאפשרת זאת. הסיבה היא מגבלות חוקיות, אבל גם רגשיות וחברתיות. כיון שאלו לא הולכות להפתר, גם אותם רדיולוגים ישארו הסמכות האחרונה - גם המשפטית במקרה של תקלות - אם וכשהמחשבים יחליפו אותם לחלוטין. אני לא דואג לרדיולוגים כמו שאני לא דואג לטייסים. אולי באמת יש יותר סיכוי שיהיו במטוס ''טייס וכלב'', מאשר שלא יהיו בו טייסים בכלל.
תשע (מליון) בכיכר ביום שישי 708121
אם ב''מגבלות רגשיות וחברתיות'' אתה מתכוון לקושי של אנשים לסמוך על המחשב כשאובייקטיבית כן מוצדק לסמוך עליו, אני חושב שהקושי הזה יקרוס באותה מהירות שבה קרסה המוטיבציה של אנשים לנווט בנסיעה ללא עזרת מחשב.
תשע (מליון) בכיכר ביום שישי 708135
זה לא "לסמוך על המחשב", זה לסמוך *אך ורק* על המחשב. בלי בנאדם שיהיה שם, כגיבוי.
לעורך דין מכני שלשלתי אסימון 708145
אוקיי. אני רוצה, בלי קשר לחידוד המוצדק שלך, לשנות את הניחוש שלי. הניחוש המעודכן שלי: התחושה הציבורית תלויה בחוזקה בסמכות. רשויות התעופה הן סמכות מקצועית חזקה ומכובדת, ואם הן יאמרו שזה בסדר - וחזקה עליהן שתהיה לזה הצדקה אובייקטיבית איתנה - הציבור הרחב יסמוך עליהן בלי למצמץ.

ממילא זה לא הולך למשאל עם בינארי. בהינתן אישור של רשויות התעופה, הכדור יעבור לשוק החופשי. שוק התעופה האזרחית הוא תחרותי מאוד על מחיר; אנשים מאוד מחפשים טיסות זולות, וחברות התעופה מנסות לחסוך בכל דרך. הנוסעים הספקנים יצטרכו לממן את הספק. אני מנחש שמהר מאוד יימצאו חברות הלואו-קוסט שינסו לחוש את הדופק הצרכני עם פיסת החיסכון הזו; ויימצאו גם מספיק נוסעים שלא יהססו, או כן יהססו אבל לא ירצו לשלם עוד עשרים-שלושים דולר בגלל ספק שהסמכות אמרה שהוא לא מוצדק. ממילא אנשים רבים חשים לא לגמרי בנוח - למעשה, לגמרי לא בנוח - לעלות על גוש הפלדה הכבד הזה, שהשד יודע איך הוא מחזיק באוויר - אבל עולים בכל זאת. אני מנחש שלסמוך על הטייס האוטומטי הוא מחסום קל יותר. אם הטיסות הראשונות של הלואו-קוסט יעברו בשלום, שאר השוק ייענה מהר. מה אם באחת הטיסות הראשונות דווקא יתרסק מטוס? אני מנחש שזו תהיה רק מכה קטנה בכנף. הרשויות יעצרו את הטיסות הלא-מאוישות עד לחקירה ממצה של המקרה ותיקון הולם של הטעון תיקון, זה ייקח כמה חודשים, הרשויות יודיעו שאפשר שוב, והציבור יסמוך עליהן.

אבל מה צריך כדי שרשויות התעופה יאמרו שזה בסדר? פה אין לי ניחוש. מי בכלל משפיע שם יותר? מדענים ומהנדסים, טייסים בדימוס, או נציגי חברות תעופה (אילו)? מהם השיקולים החזקים יותר בהחלטות - שיקולי בטיחות אובייקטיביים, כסת"ח או כלכלה? צפריר הזכיר לי שעדיין משקיעים משאבים לא מבוטלים, וניג'וס לא מבוטל לנוסעים ולדיילים, בציוד ונהלים לחילוץ ממטוס בים, עד כמה שאני מבין בגלל אילוץ הרשויות, ואני מתקשה לדמיין שיש לזה איזושהי הצדקה של ממש.

יש פה שני הבדלים מעניינים ממכוניות אוטונומיות. בתחבורת כביש אין סמכות מקצועית חזקה - יש משרדי ממשלה שנהנים מהרבה פחות שליטה והרבה פחות אמון מאשר רשויות התעופה. הבדל שני, ההחלטות הצרכניות הן ברזולוציה הרבה יותר קטנה - אם הממשלה או הרשות המקומית מאשרת, כל צרכן יכול להחליט עבור עצמו, בעוד שבתעופה חברות מעטות יחסית צריכות להחליט עבור נוסעים רבים, ותלויות בתגובות של נוסעים רבים.
לעורך דין מכני שלשלתי אסימון 708161
אני חושב שכיום בארה''ב האישור לנחיתה אוטומטית ניתן בצורה פרטנית לחברת תעופה שמבקשת אישור למטוס מסוים שמותקנות בו מערכות מסוימות שנוחת בשדה תעופה מסוים שיש בו מערכות מסוימות, ושמטיס אותו טיים עם הכשרה ספציפית.
לעורך דין מכני שלשלתי אסימון 708175
השאלה היא בעצם, למה זה לא קרה עד היום. בהינתן טייס אוטומטי שעושה, כבר היום, פעולות טובות יותר מבן האנוש - מדוע עדיין הקוקפיט מאוייש, ולעיתים ע"י מספר טייסים? מדוע אנחנו סומכים על המחשבים שיעשו א'/ב'/ג' ולא ד'/ה'/ו'? במקרה של מטוסים‏1, אני יכול לדמיין שבעיקר מדובר בשלושה גורמים:
1. מגבלות הפסיכולוגיה האנושית - בעיקר מחשבות כמו "מה יקרה אם המחשב ישתבש, מי ינהג?", אותם מקרה קצה שאנחנו רוצים שיהיה גיבוי אנושי ש"משגיח" על המכונה.
2. המגבלות המשפטיות - צריך שיהיה מישהו שאפשר יהיה להפיל עליו את האחריות, שיש שוט - כמו כלא, קנס, או מבוכה חברתית - שבאמת מאיים על מי שטועה. מה נעשה עם המחשבים, נאיים עליהם במינוס מאה נקודות ל Fitness function שלהם?
3. מגבלות של בטיחות - האקרים באמת יכולים להרוס מערכות ממוחשבות. מעליות צריכות להתמודד עם הגרביטציה בלבד, אין "מרוץ חימוש" מול כדור הארץ, משוואות ניוטון לא מנסות לחבל באופן אקטיבי במעלית. מהנדסי-המטוסים דואגים שפגעי הזמן לא יגרמו להתרסקות, אבל הזמן אינו מתנסה שיטות חדשות לרסק מטוס. מערכות אחרות, למשל מערכת הצבעה ממוחשבת, מנסות להתמודד מול בני אנוש שמנסים לחבל בהן - התייחסו לזה קצת ב xkcd.

1במקרה של מעליות, הסיבה היא שראינו כבר בשנות ה 60-70 שבן האנוש לא באמת "נוהג" במעליות החדשות דאז, אלא פשוט לוחץ על הכפתור - ומכאן הובן שלא צריך אותו. הוא לא גיבוי, הוא לא זה שיכול להציל אותך אם המערכת מתקלקלת והמעלית נופלת. להבדיל - הנהג של המטוס והרכבת, או הרדיולוג לצורך העניין, באמת מהווים רשת בטחון למחשב (עד כמה הרשת הזו אמיתית, זה דיון בפני עצמו).
תשע (מליון) בכיכר ביום שישי 708058
במטוסי העתיד הצוות יכלול טייס וכלב. תפקיד הכלב יהיה לשמור שהטייס לא יגע בשום דבר.
תשע (מליון) בכיכר ביום שישי 708064
בינתיים התוכנות לא מספיק טובות. התאונות של ה 737 מקס קרו כנראה בגלל השתלטות של תוכנה על ההגאים שלא אפשרה לטייסים להציל את המטוס.
ראה גם תגובה 547602 שאושררה בדיעבד ע"י חקירת המקרה
תשע (מליון) בכיכר ביום שישי 708066
במקרה של ה 737 מקס הייתה, לדעתי, תקלה בתכנון שלא הייתה צריכה לקרות. פעם לא היו תכנות שמשחקות שח. אחר כך היו אבל את אלוף העולם לא הצליחו לנצח, והיום הן כן. אני מניח שתוך זמן קצר אפשר יהיה לסגור את כל הפערים בהפעלה אוטומטית של המטוס ברמת בטיחות גבוהה מאד. הרי גם היום מסתובבים מלטים בטווחים עצומים ממקום ההמראה, וכמעט אין התרסקויות.
מה אושרר בדיעבד לעניין החקירה על הנחיתה על ההדסון? אגב, ראיתי את הסרט "סלי", אני כמעט בטוח שלא כך התנהלה החקירה, ויש לי גם הערות לגבי התסריט שם.
תשע (מליון) בכיכר ביום שישי 708070
הסימולציות אישרו שהנסיון לחזור ולנחות בלה גווארדיה או בטיטרבורו לא היה מבטיח.
תשע (מליון) בכיכר ביום שישי 708073
בתגובה אליה הפנית כתוב שהטייס לא פעל לפי הנהלים וחשבתי שזה מה שאתה אומר שאושרר. מה שרציתי עוד להוסיף הוא שגם אם בדיעבד הסימולציות היו מראות שהיה ניתן להגיע לאחד משני שדות התעופה האלה, בפרוש אי אפשר היה להאשים את הטייס ברשלנות אלא לציין לשבח את האופן שבו תפקד. כי בכל מקרה מדובר במקרה גבולי, ולטייס לא היו מחשבים וסימולטורים שהיו מספקים לו תשובה חד משמעית. וכשיש ספק אין ספק. זה הפריע לי מאד בסרט ''סלי''. את מה שקורה כאשר מנסים לחזור בכל מחיר ראינו במקרה מטוס אל על שהתרסק בהולנד על בניינים וכל אנשי הצוות נספו, ומזל שזה היה מטוס מטען ללא נוסעים.
תשע (מליון) בכיכר ביום שישי 708079
אתה מודע לכך שבהתרסקות נהרגו 39 אנשים שלא היו במטוס? להם לא היה הרבה מזל.
בלי קשר לכך, עד כמה שידוע לי לא היתה שום דרך להנחית את המטוס בשלום. הפער בין המהירות המינימלית שבה למטוס היה עדיין עילוי ובין המהירות המקסימלית, שבה מטוס 747 עם הרבה מטען יכול לנחות, היה פשוט גדול מדי.
תשע (מליון) בכיכר ביום שישי 708082
אתה מדבר על התרסקות מטוס אל על באמסטרדם? כי אנו דברנו על המקרה של הנחיתה על ההדסון. הזכרתי באחת התגובות את המקרה הזה כמקרה שבו המטוס חזר לנחיתה בשדה. קראתי עכשיו את התאור בויקיפדיה. זה נראה כאילו לא הייתה בעיה לחזור מבחינת מהירות וגובה, אלא שבהדרגה אבדה השליטה על המטוס בגלל התנתקויות המנועים ולא ניתן היה להגיע לנחיתה על המסלול.
תשע (מליון) בכיכר ביום שישי 708083
אני מדבר על התרסקות מטוס אל על ליד אמסטרדם. ציינת שלמרבה המזל נהרגו רק אנשי צוות המטוס, אך למעשה נהרגו גם הנוסעת היחידה ו-‏39 אנשים על הקרקע. ההתרסקות לא נבעה מההחלטה לחזור לשדה ולנחות שם. לא הייתה שום דרך למנוע את ההתרסקות.
תשע (מליון) בכיכר ביום שישי 708086
לא זכרתי שנהרגו אנשים בבניינים שלתוכם התרסק המטוס, ומהתיאור בויקיפדיה אני גם מסכים שלא הייתה דרך למנוע את ההתרסקות. אני מניח שלו היה הצוות מחליט לנחות על הים הוא היה מונע את מותם של האנשים שעל הקרקע, אבל כיוון שלא היה ניתן לצפות מראש את התנהגות המטוס בהמשך ההחלטה לחזור לשדה הייתה בכל זאת נכונה.
תשע (מליון) בכיכר ביום שישי 708072
מסכים שב 737 מקס היתה תקלה בתכנון (התוכנה!) שלא היתה צריכה לקרות.
העניין הוא שכדי שתהיה תוכנה ממש טובה למטוס אוטונומי צריך להושיב בסימולטור סאלי כזה, או כמה סאלי-ים, להתקיל אותם בכל המקרים והתגובות, ולאפשר לתוכנה ללמוד את התגובות המוצלחות.
גם אז אני לא משוכנע שאני רוצה שתוכנה תנסה להנחית בחירום מטוס על ההאדסון.
תשע (מליון) בכיכר ביום שישי 708075
אילו במטוס של סאלי היה מחשב דומה לזה שבעזרתו בצעו את החקירה בסרט, והשליטה הייתה בידיו הוא היה מחזיר מיד מיד את המטוס לנחיתה בלגררדייה והנוסעים היו נשארים יבשים. אילו היה מדובר בגובה ומהירות נמוכים מעט מאלה שהיו הוא היה אומר מיד לטייס שאי אפשר, והטייס היה מנחית את המטוס על ההדסון מבלי להתלבט הרבה. יכול להיות (איני מכיר את הנושא) שנחיתה אוטומטית על ההדסון לא פחות בטוחה מנחיתה בידי טייס, וזה גם תלוי מי הטייס. כשצופים לעתיד ברור שהמכונה תנצח. במקרים כאלה זה תמיד היה כך.
תשע (מליון) בכיכר ביום שישי 708081
גם אני מניח שהמכונה תנצח בסוף. אני חושב שבעוד 20-25 שנה יהיו כבר מטרופוליטנים בעולם שהכניסה אליהם עם מכונית שאינה אוטונומית תיאסר. אני רק מפנה את תשומת הלב לבעייתיות שבהסתמכות על תוכנה שנוהגת כלי תחבורה באופן אוטונומי. בעיקר משום שקשה לסגור הרמטית את כל הפרמטרים שמגדירים מה שהיא צריכה לעשות (מקרים ותגובות). לדוגמה- כאשר הנתיב חסום (נגיד מערבל בטון שמתחיל לפרוק באתר בניה בניצב לכביש) נהג אנושי יעבור קו לבן כדי להמשיך בדרכו. מתי תגיד לתוכנה האוטונומית לעבור קו לבן? נראה לי שיהיה קל מדי לגוף זדוני לגרום לפקקים איומים ונוראים באותו מטרופולין עתידני. כל מה שצריך זה כמה ארגזי קרטון גדולים.
מקרי ה 737 מקס מפנים זרקור אל הבעייתיות הזאת.
תשע (מליון) בכיכר ביום שישי 708084
הערתי בדבר ניצחון המכונה התייחסה איך ורק לחשש שלך מנחיתה אוטומטית על ההדסון.
תשע (מליון) בכיכר ביום שישי 708088
תוכנה לא היתה עושה את זה כי זה לא היה בנהלים. אולי בעקבות המקרה זה כן יכנס לנהלים, אבל אז יהיה מקרה אחר שהתגובה הנכונה לו לא תהיה בנהלים.
הי קפטן התחכמות, הוא באמת ידע למות 708102
את מקרי הקצה שבהם תוכנת הטייס תיכשל בגלל נסיבות בלתי צפויות צריך לקזז מול המקרים שבהם הטייס האנושי מרסק את המטוס בכוונה - לפחות שני מקרים בשנים האחרונות, וכנראה גם המטוס המלזי.

הכלב שדב דיבר עליו בהחלט היה עוזר כאן.
הי קפטן התחכמות, הוא באמת ידע למות 708112
יש לי הרגשה שיהיו מספיק דרכים לרסק את המטוס בכוונה. איפשהו יש קלטים ותמיד אפשר להתערב בהם (סתם לדוגמה: המקבילה של פקק התנועה). אז יכול להיות שיידרש מגדל פיקוח עוין. או משהו אחר. או אולי שיבוש הקשר למגדל(י) הפיקוח.
הי קפטן התחכמות, הוא באמת ידע למות 708138
אבל זה רק יפיל את המטוס, לא יהווה התאבדות של גורם השיבוש (אלא אם מדובר בפקח טיסה מספיק מוכשר כדי לקלוע את המטוס בדיוק אל מגדל הפיקוח שבו הוא נמצא. כן, הוא יראה לטייסים איך עושים את זה באמת בגדול). ואז זה כבר סתם טרור, וטייסים ונהגים אוטומטיים כוקטור טרור זה נדוש.
הי קפטן התחכמות, הוא באמת ידע למות 708142
יש עוד נקודה מעניינת: בעקבות החטיפות ב־9/11 הרבה יותר קשה לנוסעים להיכנס לתא הטייס בניגוד לרצון הטייס. אבל בריסוקים האחרונים שציינת הטייס ניצל בדיוק את זה וניצל ככל הנראה רגע שהוא היה לבד בתא כדי להשתלט על המטוס (המלזי עשה משהו עוד יותר דרסטי, לפי השחזור המקובל: טיפס לגובה רב וכך חנק את כל הנוסעים).

יהיה מקום שממנו יש אפשרות לשלוט על המטוס ולכן גם לרסק את המטוס.
הי קפטן התחכמות, הוא באמת ידע למות 708143
היכן מסופרים הסיפורים ובהם השערות שמדובר במעשה התאבדות מכוון של הטייסים במטוס המלזי? לא נתקלתי בכך עד כה. האם יש לך מקור? אגב, נדמה לי, אם כי איני בטוח, שאי אפשר להעלות את המטוס לגובה כזה שבו מערכת הדיחוס לא נותנת לחץ מספיק כדי לאפשר חיים, וגם יש לנוסעים מסכות חמצן. אני זוכר שב 1967 בהיותי חייל סדיר טסתי במטוס מסוג "סטרטוקרוזר" שחיל האוויר הפעיל אז. זה היה מטוס נוסעים גדול מאד מהראשונים של בואינג עם ארבעה מנועי בוכנה, והיה בו דיחוס. לטייסים היה שעון ובו שני מחוגים: גובה המטוס (שנמדד באמצעות מדיד לחץ אוויר), ו"גובה הקבינה", מדיד לחץ דומה שהוצב בתוך המטוס, ולפעמים הקברניט היה מחליט להנמיך קצת משום ש"גובה הקבינה" היה עולה. ואם כבר נזכרים בחוויות מהעבר, ברבות מאד מהטיסות האלה אחד המנועים היה דומם, והיינו חוזרים מיד לנחיתה עם שלושה מנועים. מצעד יום העצמאות אחרי מלחמת ששת הימים נערך בירושלים, וחיל האוויר הציג גם קבוצת מטוסים מהסוג הזה. כשהם עברו אמרתי לאחי שלא ייתכן שכל המנועים עובדים. הבטנו היטב למעלה וראינו שבאמת אחד הפרופלורים באחד המטוסים לא מסתובב. . .
הי קפטן התחכמות, הוא באמת ידע למות 708147
קישרתי למעלה לכתבה על המטוס המלזי. זהירות, זו כתבה ארוכה והפואנטה מגיעה רק לקראת הסוף. בעצם זה ''בהארץ'' - נדמה לי שהקריאה בתשלום ואתה מעדיף לא לשלם להם. אני אגלה לך רק את מקור הסמכות. הכתבה מתורגמת מ''אטלנטיק'', וההשערות המוצגות שם הן לא מתוך הדו''חות הרשמיים, שעדיין אומרים ''לא יודעים'', אלא מסקנות של מומחי תעופה חובבים מרחבי מהעולם שהתפרסמו בבלוגים, מתוך הנתונים שכן התפרסמו רשמית. אין שום אקדח מעשן שאומר התאבדות. אבל הם מסבירים בפרוטרוט למה האפשרות הזו מסתדרת מצוין עם הנתונים הידועים, וכל השערה אחרת ממש לא מסתדרת. הם אומרים גם שהדו''חות הרשמיים לא אומרים התאבדות, כי זה ממש לא נוח, לא לחברת התעופה ולא לרשויות, כך שבהיעדר אקדח מעשן הן מעדיפות לומר ''לא יודעים''.
תשע (מליון) בכיכר ביום שישי 708160
"עשינו הערכת יתר להגעתם של כלי רכב אוטונומיים" אומר מנכ"ל פורד.
ההבטחה הגדולה של תעשיית הרכב ליצור מכונית ללא נהג שיכולה לנסוע לכל מקום תהייה "בעתיד הרחוק", אומר מנכ"ל ארגו (פורד ופולקסוואגן משתמשים בטכנולוגיה שלה).

הגורם לדחייה - התנהגות בני האדם.

התנהגות לא צפויה קוראת כל היום. למשל, מכונית אוטונומית שנתקלת ברוכב אופניים שנוסע בניגוד לתנועה ברחוב סואן בין כלי הרכב. או מטאטא רחוב שמבצע בפיתאומיות סיבוב מעגלי שלם בצומת וחוצה את כל המסלולים כולל אלה עם רמזור ירוק.

בעיה אחרת היא "מיקרו שינויים" בנהיגה כמו ליד מכונית שמנסה לחנות, ואיך לעשות את זה בלי ללחוץ כל הזמן על המעצורים או לנסוע במהירויות נמוכות וסופר-זהירות.

במאמר אחר שקראתי דיברו על הקשיים המשפטיים, ביטוחיים ורגולטיבים. למשל, על מי נופלת האחריות בזמן תאונה? על התוכניתן? המהנדס? בעל הרכב? הנוסע ברכב? על הרכב הפוגע או הרכב הנפגע?
תשע (מליון) בכיכר ביום שישי 708165
לדעתי הקשיים המשפטיים לא שונים במיוחד מהיום. גם היום רכבים כוללים הרבה תוכנה, חלק מהתאונות קשורות לבאגים כאלו ואחרים ותעשיית הרכב לא פעם נתבעת.
נאמר זאת אחרת.. ברגע שחברות הביטוח יקלטו שרכב אוטומטי לא משחק בטלפון תוך כדי נהיגה, הקושי המשפטי יהיה אצל נהגים אנושיים ולא אצל נהגים אוטומטיים. למשל, על מי נופלת האחריות בזמן תאונה? על נהג חדש בן 18 שקיבל הודעה בוואטספ? מי ששלח לו את ההודעה? אבא שלו שהתקצן לקנות רכב עם נהג אוטומטי?
רכב אוטונמי אבל קצר ראיה 709807
"הבעיה העיקרית היא שהראיה של רכב אוטונומי עדיין לא מספיק טובה לנהיגה בטוחה במצבי תנועה כבדה או לראות רחוק מספיק כדי להתמודד עם התנאים בכבישים מהירים בכל מזג אוויר". הטכנולוגיה המודרנית של מצלמות, רדאר, חיישנים אולטראסונים ולייזר עדין לא אמינים מספיק או מתוחכמים מספיק כדי להבדיל למשל בין תינוק וחרוט תנועה.
רכב אוטונמי אבל קצר ראיה 709813
מעניין. באיזה מקום בעולם העניין הזה של ײלהבדיל בין תינוק לחרוט תנועהײ הוא בעיה מעשית? אני מניח שמדובר בחניה של בית חולים ליולדות.

אבל צחוקים בצד, יש לי 2 הערות:
א. שמעתי שהרכבים האוטונומים מתבססים על היתוך של חיישנים, בדיוק כדי להתגבר על המגבלות של כל חיישן בפני עצמו. עדיין מגניב לשמוע על החידושים בתחום החיישנים.
ב. מצבי קצה (ראות לקויה, תינוקות על הכביש וגו) משפיעים לרעה גם על נהג אנושי. לכן מספיק לחכות ליום שבו מכונית אוטומטית תהיה קצת יותר טובה מהנהג האנושי הממוצע. כי ביום הזה, מכונית אוטונומית תתחיל להציל חיי אדם (כל זאת כמובן בלי לבטל את הצורך לשפר את הבטיחות עוד עוד).
רכב אוטונמי אבל קצר ראיה 709814
אם א לא ברור, הכוונה בהיתוך חיישנים היא: שילוב מידע בזמן אמת המגיע מכמה חיישנים. אין הכוונה לחיבור שלהם בעזרת מרתך לגג של מסחרית בסגנון צוות לעניין.
תשע (מליון) בכיכר ביום שישי 708123
ומצד שני: יש כיום בעולם לא מעט רכבות שפועלות בדרגות שונות של עצמאות, כולל עצמאות מוחלטת - List of automated train systems [Wikipedia].
תשע (מליון) בכיכר ביום שישי 708128
ואפילו מעליות!
תשע (מליון) בכיכר ביום שישי 708148
יפה!
מעניין איפה הפער התפיסתי גדול יותר- בין מעלית ללא נהג לבין רכבת ללא נהג או בין רכבת ללא נהג לבין מטוס ללא נהג?
אצלי הפער מרכבת למטוס גדול יותר. אני יכול להתייחס לרכבת כמו מעלית לרוחב, בגלל המסילה.
תשע (מליון) בכיכר ביום שישי 708158
מעלית ללא נהג? במעלית כל אחד הוא הנהג. הנהיגה אסורה למי שלא הגיע לגיל 14 או לכפתורים.
תשע (מליון) בכיכר ביום שישי 708159
Eleven
תשע (מליון) בכיכר ביום שישי 708521
התכוונת לזה?
תשע (מליון) בכיכר ביום שישי 708537
כן
תשע (מליון) בכיכר ביום שישי 708046
כבר לפני שנתיים לפחות שמעתי הרצאות בכנסי ראייה מממוחשבת שהראו ביצועים עודפים בסיווג של פגמים פיזיולוגיים וחיזוי בעיות, יחסית לרופאים אנושיים.
זכורה לי במיוחד עבודה שנעשתה על צילומי רשתית העין, כשלמרבה האירוניה אחד האתגרים המרכזיים במחקר היה לקבל דוקא את סיווגי הרפרנס (סליחה, אשמח להצעות) האנושיים לתמונות. האתגר נבע מכך שרופאים אנושיים - גם מומחים בתחומם - נתנו סיווגים שונים מאד זה מזה, ונדרש מיצוע של כ-‏7 רופאים אנושיים לכל תמונה במדגם כדי לקבל נתונים קוהרנטיים וללמוד לפיהם.
תשע (מליון) בכיכר ביום שישי 708101
"רפרנס" בהקשרים כאלה הוא "ייחוס", לא?
תשע (מליון) בכיכר ביום שישי 698269
חזרתי למאמר כדי לקרוא אותו ומסתבר שאנחנו לא מדברים כלל על אותו דבר. במאמר מדובר על פענוח תמונות של דימות צילומי רנטגן סי טי אם אר אי וכדומה, והמטרה היא להחליף את המקצוע שנקרא ''רדיולוג''. לא על כך דיברתי. אני התכוונתי לעבודתם של פתולוגים שמסתכלים דרך מקרוסקופ על תאים בביופסיה שנלקחה מהרקמה. זה גם קשור ברפואה אבל משהו אחר.
תשע (מליון) בכיכר ביום שישי 698271
אני חושב שפתולוגיה על-ידי מחשב עדיין לא נפתרה, אבל די בטוח שזה עניין של שלוש שנים בערך. אני לא חושב שיש שם אתגר מהותי שלא פתרו כבר.
תשע (מליון) בכיכר ביום שישי 698275
אותו חבר עליו ספרתי בתגובה 698264 שהוא אדם לא טיפש כלל וזכויותיו ומעשיו רבים, יצא לדרכו בדעה דומה לשלך וחזר בדעה ש"הם" (הפתולוגים) לא יודעים שום דבר וכל השיטה שבה מסתמכים על איזה "גורו" שווה ל. . . כי אם אי אפשר לעשות את זה בעזרת מחשב אין שם שום דבר. אז תיזהר שלא תשלים את הדרך כמוהו. אנו מסתמכים על "גורואים", ובדרך כלל השיטה הזאת מוכיחה את עצמה למרות שיש מדי פעם טעויות. שנים רבות עוסקים בהטלת המשימה הזאת על מחשב וזה לא הולך. איני יודע מה המיוחד בשלש השנים הקרובות.
תשע (מליון) בכיכר ביום שישי 698278
אני לא בטוח אם שלוש השנים הבאות מיוחדות, אבל שלוש השנים הקודמות (מאז שיחתך עם חברך) ראו קפיצות מדרגה בפתרון בעיות דומות (ר' אבחון באמצעות רשתית בתגובה של צפריר).

צריך אולי להבהיר שה"הבטחה" שלי היא שמחשב יהיה טוב כמו מיטב המומחים האנושיים, ויותר טוב ממרבית המומחים. להבטיח שהוא יהיה יותר טוב ממיטב המומחים זה כבר סיפור אחר. זה אפשרי רק אם אתה מלמד את המחשב לא לפי תיוגים של מומחים אלא לפי מה קרה לפציינט בסוף (אבל אז אני מניח שהזיהוי לא יהיה של סוג הסרטן, אלא רק "מצב קטלני/מצב יציב בהינתן טיפול X"). אבל זה אולי יותר קשה, לפחות מבחינת השגת הנתונים.

במקרה עוד יותר קיצוני, שאולי אתה רומז אליו בביקורת של החבר שלך על הפתולוגים, פשוט אין אינפורמציה של ממש שמקודדת במראה התאים במיקרוסקופ - ואז זו בעיה. במילים אחרות, אני לא חושב שמחשב יכול להיות טוב באסטרולוגיה. אבל זיהוי סרטן ממורפולוגיה של תאים היא אלף בית של אונקולוגיה, לא?
תשע (מליון) בכיכר ביום שישי 698282
תזכורת: לפני שלוש שנים אלוף העולם במשחק גו היה בנוי מתרכובות פחממניות, וכמעט כל המומחים ניבאו שזה לא הולך להשתנות בקרוב. מאז לא רק שהוא הוכה, גם התוכנה שניצחה אותו - AlphaGo - הובסה מאז בתוצאה 100:0 ע"י גירסה מתקדמת יותר שלה, שלא מתבססת על לימוד של משחקים של בני אדם. המצב שונה מפתולוגיה כי במקרה של גו קל לדעת אם ניצחת או הפסדת בכל אחד מטריליון המשחקים שאתה משחק נגד עצמך, אבל אני חושב שיש מספיק מידע על מהלך המחלה של חולים כדי להשאיר מקום לאופטימיות.

שאלה למבינים: האם יש קושי עקרוני להפעיל את השיטות הקיימות של deep learning על הבעיה של תכנון רשתות טובות יותר, או שהסינגולריות כבר (כמעט) כאן?
תשע (מליון) בכיכר ביום שישי 698294
למה בדיוק אתה מתכוון ב"תכנון רשתות טובות יותר"? אני חושב שברוב הבעיות האתגר הוא לא תכנון הרשת - רשת עצבית הוא דבר גנרי למדי - אלא הניסוח המתאים של הבעיה, מציאת דוגמאות הלימוד, סטנדרטיזציה שלהן, תיוגן על-ידי אנשים, וכן הלאה - בזה יש עוד עבודה לאנשים כמה וכמה שנים. בעצם אלו בכלל לא בעיות למידה.
תשע (מליון) בכיכר ביום שישי 698298
האמת היא שאני יודע בערך כלום על רשתות נוירונים, עמוקות או רדודות, אבל דומני ש-AlphaGo, DeepBlue ו-Watson אינן בדיוק אותה ארכיטקטורה/תוכנה.

אולי צריך לשאול שאלה אחרת: האם יש הוכחה שרשת נוירונים גדולה אחת יכולה לעשות כל מה שהרבה רשתות שמחוברות זו לזו ברשת-על יכולות, ובאותו סדר גודל של מספר חישובים? אני שואל כי המוח שלנו בטח דומה יותר לארכיטקטורה השניה. טוב, אני עומד לשמוע את מיכאל גלעד, אולי לפני שהוא מתחיל לכפול וקטורים מימין ומשמאל אצליח להבין משהו.
תשע (מליון) בכיכר ביום שישי 698310
כשאתה מדבר על "מה יכולה רשת נוירונים לעשות" אני לא מבין. אני אסביר מה אני כן מבין (ההשכלה שלי היא לא הרבה מעבר לאותה סדנה בת יומיים, ששילבה תיאוריה עם פרקטיקה).

לרשת נוירונים נתונה יש מספר נתון של נוירונים במספר נתון של שכבות. בהתחלה היא לוח חלק. ואז מאמנים אותה על הרבה קלטים, כולם מאותו סוג, במטרה לטפל ממש ממש טוב בקלטים דומים. בסוף מקבלים רשת מאומנת, שעושה (בשאיפה) ממש טוב את אותה משימה מצומצמת. זה הסוג הנפוץ ביותר של רשתות עצביות, ומה שהוא יודע לפתור זה בעיות סיווג (איזה סוג מכונית בתמונה), או מתן ציונים (עד כמה הפודל הזה יפה).

יש סוג אחר, דוגמת אלפא גו, שיודע לפתור את הבעיה "מה המהלך הבא האופטימלי". ויש סוג שלישי, שמזינים לו קלטים בלי לתת להם ציונים, והוא מצליח אולי לזהות בהם תבניות (אבל לא לומר בעצמו משהו סמנטי עליהן). בכל הסוגים, רשת נתונה שעברה אימון יודעת לפתור בעיה אחת מצומצמת ומוגדרת. חשוב לשים לב שחלק מהמשימות שהמוח האנושי עושה לא ניתנות בקלות לרדוקציה לאחד משלושת סוגי הבעיות שרשתות עצביות יודעות עקרונית לעשות. אני לא מדבר אפילו על רגש או על תכלית, אלא למשל על הוכחת משפטים במתמטיקה, או משימות תכנות.

חזרה למונחים שדיברת עליהם: כשאתה שואל "מה יכולה רשת הנוירונים לעשות", השאלה אם אתה מדבר על רשת בתולה (יש לה פוטנציאל מגוון מאוד, אבל בינתיים היא לא יכולה לעשות כלום), או על רשת מאומנת (יכולה לעשות מצוין (לפעמים) משהו אחד מצומצם).

בכל הסוגים, יש סיכוי מסוים שרשת עם יותר נוירונים ביותר שכבות תצליח יותר טוב (אני מנחש שאין לזה הוכחה, כי לא יודעים להוכיח כלום ברשתות עצביות. אני מניח שבקירוב מסוים זה נכון, הסתברותית).

אני לא חושב שמישהו יודע לומר משהו אינטליגנטי על "רשתות שמחוברות זו לזו בעל-רשת".
תשע (מליון) בכיכר ביום שישי 698324
תודה.

אחרי ששלחת את השאלה עלתה במוחי המחשבה הטריביאלית שבעצם רשת אחת גדולה מכילה באופן אינהרנטי "הרבה רשתות שמחוברות ברשת-על" (פשוט ע"י איפוס הפרמטר של עוצמת הקשר בין הנוירונים מרשת אחת לאחרת) בכל רמה או בחלק מהן, כך שהשאלה שהעליתי אולי די מטופשת. עדיין יש לי הרבה שאלות בעניין, בעיקר בשאלות הקשר בין רשתות נוירונים לבין דפוס הפעולה של המוח (מערכת הראיה מן הסתם פועלת די דומה לר"נ, אבל כפי שציינת ייתכן שהמצב שונה לגמרי לגבי פעולות חישוביות אחרות) אבל חושבני שלא אטריד בכך את הציבור עד שלא אבין קצת יותר בעצמי, אם בכלל.

למעונינים, לדעתי סדרת הסרטונים שמתחילה כאן מהווה נקודת פתיחה טובה.

חקסמח.
תיקון 698326
צ"ל: "אחרי ששלחתי את השאלה...".
תשע (מליון) בכיכר ביום שישי 698333
משפט ששמעתי משני מרצים שונים על רשתות עצביות, אבל אני לא יודע לנמק אותו לעומק, הוא שהקשר בינן לבין המוח האנושי הוא משהו שבהתחלה חשבו שקיים, או שהיה השראה עמומה, אבל היום אף אחד לא חושב ברצינות שזה דומה.
תשע (מליון) בכיכר ביום שישי 699823
אולי זה עומד להשתנות
תשע (מליון) בכיכר ביום שישי 707809
אם למישהו יש שעתיים להשקיע בראיון פוקח עיניים בשאלה זאת, אני בהחלט ממליץ.

אחחח, אילו הייתי היום בן 21...
תשע (מליון) בכיכר ביום שישי 707810
אילו היית היום בן 21...? מה? מה היית עושה? אל תשאיר אותי במתח.
תשע (מליון) בכיכר ביום שישי 707812
זה לא ברור מנוסח ההודעה? הייתי הולך ללמוד מדעי המוח.
תשע (מליון) בכיכר ביום שישי 707816
למד מדעי המוח לפני שמדעי המוח ילמדו עליך
תשע (מליון) בכיכר ביום שישי 707811
גם אני במתח. אנא ספר.
תשע (מליון) בכיכר ביום שישי 698445
או, עוד מישהו שמכיר את הסרטונים של 3blue1brown! הבנאדם גאון פדגוגי-מתמטי. סידרת הסרטונים שלו על אלגברה לינארית פתחה לי כמה צ'קרות.
תשע (מליון) בכיכר ביום שישי 698447
באמת משובח!

ועכשיו אני סקרן לדעת - איך מכינים אנימציה שכזאת בתקציב סביר?
תשע (מליון) בכיכר ביום שישי 698450
הכל אצלו מתוכנת בפייתון (!), ואפשר להוריד את כל הקוד מ-github, לגמרי בחינם. הוא לא רק גאון אלא גם נשמה טובה (ואני גאה לתמוך בו ב-patreon).
תשע (מליון) בכיכר ביום שישי 698452
באמת יפה מאוד!
תשע (מליון) בכיכר ביום שישי 712059
ביום שיותר אנשים יידעו מי זה גראנט סנדרסון מאשר מיהו דני סנדרסון נדע שהמשיח הגיע. ולא שיש לי משהו נגד דני סנדרסון.
תשע (מליון) בכיכר ביום שישי 712066
תנוח דעתך, הדור הצעיר לא יודע מי זה דני סנדרסון, כך שזה נעשה קל יותר משנה לשנה.
תשע (מליון) בכיכר ביום שישי 712070
לערוץ שלו יש 2.3 מיליון עוקבים. אני לא אתפלא אם היום שהזכרת כבר הגיע.
תשע (מליון) בכיכר ביום שישי 712071
:-)

שכחתי את קיומם של 7 מיליארד גויים ימ"ש.
תשע (מליון) בכיכר ביום שישי 698325
למה אתה מתכוון בזה:

ײחשוב לשים לב שחלק מהמשימות שהמוח האנושי עושה לא ניתנות בקלות לרדוקציה לאחד משלושת סוגי הבעיות שרשתות עצביות יודעות עקרונית לעשות. אני לא מדבר אפילו על רגש או על תכלית, אלא למשל על הוכחת משפטים במתמטיקה, או משימות תכנות.ײ

קצת מוזר לי בהנתן שסוגים מסויימים של רשתות הן turing complete, אני מניח שהנקודה המעניינת היא ײבקלותײ. אתה יכול להרחיב?
תשע (מליון) בכיכר ביום שישי 698334
אני לא בטוח למה הכוונה ברשתות שהן טיורינג-שלמות. אם אתה רוצה תפרט, אבל בכל מקרה, אין לנו אלגוריתם להוכחת משפטים במתמטיקה או לתכנות ברמה שמתחילה אפילו לדגדג בני אדם (מומחים), אז מה עוזר אם רשת עצבית היא טיורינג-שלמה?

אני לא כל כך יודע מה מעניין בטענה שלי שהבעיות האלו לא ניתנות בקלות לרדוקציה לבעיית סיווג או דירוג או איפטום-המהלך-הבא או זיהוי תבניות בקלט. זו לא טענה מלומדת. אם למישהו יש רעיון איך לעשות רדוקציה כזו, או קישור למחקרים שעשו זאת, זה יהיה מעניין.

הוספתי "בקלות" כי אם מתעלמים מבעיות סיבוכיות או רמות אבסטרקציה אז זה קל. רוצה תוכנית שמסדרת רשימת מספרים, או תוכנית למשחק אנגרי בירדז? קל מאוד כבעיית סיווג: ייצר הרבה תוכניות אקראיות (או אפילו בצורה חצי-אינטליגנטית עם היורוסטיקות), תן למתכנת (או לקוד מחשב שאינו רשת עצבית) לסווג אותן ל"תוכנת אנגרי בירדז"/"לא תוכנת אנגרי בירדז". מצא פרמטרים רלוונטיים‏1 והזן לתוכנת רשת עצבית. אמן את הרשת העצבית, וכשהיא מוכנה הזן לתוכה עוד יותר הרבה תוכניות אקראיות. ברגע שהיא תודיע על אחת מהן "אה, זו בהסתברות גבוהה תוכנת אנגרי בירדז", עצור. הנה קיבלנו מערכת מחשב שעיקרה רשת עצבית והיא מתכנתת אנגרי בירדז (בסבירות גבוהה).

1 מה הבעיה למצוא פרמטרים רלוונטיים? כזכור, אני מתעלם מבעיות סיבוכיות או רמות אבסטרקציה, אז לצורך העניין נתייחס לקוד המחשב בקלט כמחרוזת של תווים. הפרמטרים הרלוונטיים הם (1) התו הראשון במחרוזת, (2) התו השני במחרוזת, (3)...
כן, אני יכול לחשוב בעצמי על האופטימיזציה המופלאה של להתייחס ל-tokens בשפת התכנות במקום לתווים.

אוקיי, "רדוקציה בקלות" היא לא המילה הכי מתאימה כאן. מה שאנחנו רוצים הוא "רדוקציה סבירה", בלי לרדת יותר מדי רמות אבסרטקציה ולעלות יותר מדי סדרי גודל ברמת הפירוט.
תשע (מליון) בכיכר ביום שישי 698337
אוקי, תודה על התשובה.

אני חושב שצריך לדייק במשפט ײאין לנו אלגוריתם להוכחת משפטים במתמטיקה או לתכנות ברמה שמתחילה אפילו לדגדג.. ײ. אם מדובר על אלגוריתם שיכול להוכיח כל משפט, או לתכנת כל דבר - זה משהו שגובל בבינה כללית, לא? (בלשון המעטה. זה קשה גם למומחים אנושיים). ברור שאנחנו רחוקים מזה.

אבל אם מדובר בהוכחת משפטים ספציפיים במתמטיקה, זה דווקא תחום מאד וותיק במדעי המחשב ועם הישגים (כלומר, הצליח להוכיח משפטים שבני אדם לא הצליחו). לגבי הקשר של רשתות עצביות לתחום: אני משאיר כאן קישור למאמר שהכותרת שלו היא Deep network guided proof search.

לגבי תכנות.. תחשוב על האלגוריתם שמאמן רשתות ניורונים. זוהי משימת תכנות פרופר (לייצר קוד שמסווג משהו). רק כאן, דווקא המומחה האנושי לא מדגדג את ההישגים של הרובוט המאמן.

בהקשר לײאפטמום המהלך הבאײ - אם אני חושב על machine learning ועל תת התחום supervised learning - הוא נשמע לי כמו בעיית אופטימזציה קלאסית. יש לך אוסף כלים כלשהו (לוח וגיר, דוגמאות אימון, פרמטרים של רשת הניורונים, מה שתרצה) ובעזרתם אתה צריך לגרום לתלמיד לקבל ציון כמה שיותר טוב - ותוך זמן סביר. כלומר אתה צריך לבחור בתבונה מה הכלי הבא אותו אתה מפעיל. דווקא נשמע לי מתבקש להשתמש ברשת נירונים כדי לתכנת (כלומר לאמן) תוכנות אחרות.
תשע (מליון) בכיכר ביום שישי 698340
אפטום המהלך הבא הוא אחד מסוגי הבעיות שהתחייסתי אליהן כבעיות מתאימות לרשת נוירונים.
תשע (מליון) בכיכר ביום שישי 698341
אבל התייחסת לתכנות כאל בעיה בלתי מתאימה.
הראיתי איך היא כן - אפשר להשתמש ברשתות ל supervised learning
תשע (מליון) בכיכר ביום שישי 698353
אז לא הבנתי את כוונתך, ואני עדיין לא. "עבודה של מתכנת" היא (לצורך העניין) קבלת מפרט לתוכנה בשפה אנושית, והפקת קוד מחשב שיבצע את המפרט. האם אתה יכול להראות איך מגיעים באמצעות למידה מפוקחת לרשת נוירונים שתעשה את זה?
תשע (מליון) בכיכר ביום שישי 698357
''מפרט לתוכנה בשפה אנושית'' הוא להבנתי בעיית בינה כללית.
''מפרט למסווג שיודע לזהות הונאות כרטיס אשראי בהתבסס על אוסף דוגמאות'' הוא בעיני גם בעיה תכנות, רק בעייה ספציפית שבעבר העסיקה מתכנתים אנושיים. וכאן יש אלגוריתם שמשאיר אבק למתכנתים אנושיים.
תשע (מליון) בכיכר ביום שישי 698359
אוקיי, ברור. כשכתבתי ''משימות תכנות לא ניתנות בקלות לרדוקציה לאחד משלושת סוגי הבעיות שרשתות עצביות יודעות עקרונית לעשות.'' לא התכוונתי שאף משימת תכנות אינה ניתנת וגו' - הרי כל רשת עצבית פותרת משהו שאפשר היה לממש (פחות טוב) כמשימת תכנות קלאסית. התכוונתי שמגוון משימות התכנות שמתכנת אנושי ממוצע יכול לעשות לא ניתן וגו'.
תשע (מליון) בכיכר ביום שישי 699786
הרעיון שגם תהליך הלמידה של הרשת לא מחייב התערבות אנושית נשמע לי מגניב בהחלט. אני מתאר לעצמי שבלב הבא יוותרו על השתתפות אנושית גם בנסיעות עצמן. מכוניות אוטונומיות ללא נהג ונוסעים ישוטטו להן בדרכים בשעה שאנחנו נתפנה לדברים חשובים יותר כמו שיגור תגובות לאייל.
תשע (מליון) בכיכר ביום שישי 699798
רעיון נחמד, אבל מי ישלם על הדלק?
תשע (מליון) בכיכר ביום שישי 699805
אח, אתה בטח זוכר שלאפרים קישון זכות יוצרים על רעיון דומה. קומביין שחורש, זורע, קוצר, טוחן, אופה ואוכל.
תשע (מליון) בכיכר ביום שישי 699820
בארור.

יותר קרוב לנושא שלנו, כשהוא שמע שיש מחשבים שמשחקים שח הוא אמר שהוא יקנה שניים שישחקו זה עם זה והוא יוכל ללכת לראות סרט. ברוח הדברים, פעם הדפסנו חומר כל כך סודי שהצענו לחבר את המדפסת ישירות למגרסה (קישון הציע שילוב של עיפרון ומחק לקבלת תוצאה דומה עבור מסמכים ידניים).
תשע (מליון) בכיכר ביום שישי 699825
ברוח הימים האחרונים, צריך לפתח מכונה שמוחקת את זכרונם של אנשים מסוימים מיד כשהם שומעים חומרים סודיים ביותר.
בעצם, אולי זה כבר בפיתוח, כרגע נראה רק שהמכונה מוחקת תפקודים מוחיים אחרים ולאו דוקא את הזכרון.
תשע (מליון) בכיכר ביום שישי 698284
(מצטרף לדיון במקום אקראי)

בלי להמעיט מהחשיבות ומהפוטנציאל של למידה עמוקה, יש פה אולי עוד שותפים לסנטימנט שלי, שרשתות נוירונים הן אובייקט מתמטי משעמם ומגושם?
תשע (מליון) בכיכר ביום שישי 698286
א. כן, יש.
ב. יש כאלה שמנסים בכל זאת למצוא את התיאוריה המתימטית האסתטית יותר שעומדת מאחורי ערימת החוטים המשעממת ומגושמת - ראה למשל ההרצאה הזאת של מיקי אלעד שמנסה לקשר רשתות נוירונים עמוקות לייצוגים ספארסיים‏1 של תמונות.
ההרצאה מומלצת גם כי היא שוטפת ומעניינת והמרצה עושה מלאכתו נאמנה, אבל אני מזהיר מראש (אחרים, לא את יובל כמובן) שבניגוד לקישור אחר ששמתי כאן, היא הופכת לטכנית די מהר ומכפילה מטריצות ווקטורים על ימין ועל שמאל‏2.

1 אשמח למילה עברית טובה יותר בשביל Sparse.
2 הכנס בדיחה אולטרה-גיקית על מתי זה מותר כי מרחבים דואליים, קו-וקטורים ובלה בלה בלה.
תשע (מליון) בכיכר ביום שישי 698288
תודה, אצפה בהרצאה הזו מאוחר יותר.

התרגום המקובל ל-sparse בהקשר של מטריצות הוא "דליל", אבל אולי כאן יותר יתאים "חסכוני".
תשע (מליון) בכיכר ביום שישי 698291
קרוב לודאי שאתה טועה בגדול. רשתות עצביות הן נושא מרתק ומהפכני שטומן בחובו מתמטיקה מרגשת וחדשנית. מי ששם לעצמו יעד של להגיע להבנה מעמיקה של התחום, יגלה שיש כאן נושא מורכב וקשה מאד שלפחות בעבר רב היה בו הנסתר על הנגלה.
הבעייה הכמעט יחידה של התחום בעבר (נניח לפני חילופי האלף), היו ההישגים והביצועים המאכזבים ממש. אומרים לי כאן שהתמונה השתנתה ומשתנה בימים אלו ממש.
אומרים לי שהתשובה טמונה ב"העמקת" הרשתות. לי הדבר היחיד שזה אומר, זה הגברת הסיכוי ל- overfitting. אבל מן הסתם אני טועה. השכבות הנוספות של הרשתות יכולות לגלם בתוכן אלגוריתמים מתמטיים ופיזיקליים חזקים המסייעים לפיתרון הבעיות. אשרי המאמין.
ההרצאה שממליצים עליה כאן אולי תוכל לעזור. בכל מקרה גם בעבר הלא כל כך אופטימי של התחום, אף אחד לא טען שמדובר בנושא משעמם וחסר פוטנציאל.
תשע (מליון) בכיכר ביום שישי 698295
יכול להיות שאני מזדהה, אבל האם זה משמעמם ומגושם באופן שונה ממערכות לפתרון נומרי של משוואות?
תשע (מליון) בכיכר ביום שישי 698322
בהסתייגות שאני לא מבין גדול ברשתות נוירונים או באנליזה נומרית (אבל בכל זאת מבין משהו), אז כן - רשתות נוירונים נראות לי יותר משעממות מהזווית המתמטית, כי למיטב ידיעתי כיום, בפועל, הן בעיקר אוסף של יוריסטיקות. אשמח להתבדות אחרי שאצפה בעיון בהרצאה של מיקי אלעד.
תשע (מליון) בכיכר ביום שישי 698335
למה אתה מתכוון? כארכיטקטורה כוללת, רשתות עצביות הן מנומקות היטב מבחינה מתמטית, להבנתי - כלומר, מובן היטב ברמה מתמטית למה תהליך האימון של רשת עצבית מעלה את ההסתברות שלה לסווג נכון, וזה אפילו לא לגמרי טריוויאלי אם כי גם לא מאוד מסובך, כך שאני מניח שאפשר לראות פה יופי.

הבחירה של אבני הבניין לרשת (איזו פוקנציה בכל נוריון, ועוד כמה פרמטרים כאלה) היא באמת אוסף היוריסטיקות לא מנומקות. במובן הזה אני מסכים, זה מכוער.
תשע (מליון) בכיכר ביום שישי 698451
זה לא רק הבחירה של אבני הבניין, אלא גם השימוש ב-gradient descent (סטוכסטי או לא) בתור שיטת האופטימיזציה בלב תהליך הלמידה. זאת אחת היוריסטיקות היותר מבאסות, לטעמי.
תשע (מליון) בכיכר ביום שישי 698296
בלי להמעיט מהחשיבות ומהפוטנציאל של למידה עמוקה, יש פה אולי עוד שותפים לסנטימנט שלי, שהכנת רשת עצבית היא משימה תכנותית (במובן רחב של "תכנותית") משעממת ומכוערת?

עדיין לא עשיתי את זה ממש. הייתי לאחרונה בסדנה שנתנה טעימה מזה, ונורא לא בא לי לעשות את זה ממש.
(אני יכול לפרט יותר אם זה מעניין מישהו.)
תשע (מליון) בכיכר ביום שישי 698299
עד כמה שאני מבין אתה כבר מזמן לא מתכנת את הרשת שלך לבד, בכמה רמות:

א. אף אחד כבר לא מתכנת נוירונים, קישורים לנוירונים אחרים, ואת המתימטיקה עצמה של קידום קדימה ואחורה של הרשת כדי לשנות את ערכי הקשרים. אתה משתמש בחבילות תוכנה מוכנות (Tensorflow של גוגל כדוגמה אופיינית) שאתה מספר להן כמה שכבות יש לרשת, בוחר פונקציות הפסד (loss functions) ידועות, מספר להם איפה יושבות תמונות האימון והתיוג שלהן שלך על המחשב, ומכאן אתה כמעט במרחק לחיצת כפתור מלגרום לרשת לרוץ בעצמה ולהתאמן על המידע שנתת, עד לקבלת רשת שעובדת בדיוק מסוים.

ב. רמה למעלה - אפילו על סעיף א' כבר הרבה מדלגים. אתה רוצה רשת לזיהוי לטאות ירוקות עם קרניים בתמונות? אתה לוקח רשת *מוכנה* מהאינטרנט, רצוי זו שהיא מדינת-האמנות בתחום של זיהוי אובייקטים בתמונה בשנה האחרונה. עכשיו אתה לא נוגע בה, אלא רק מאמן את השכבה האחרונה שלה (טוב, אולי כמה כאלה) על תמונות הלטאות הירוקות שלך. קוראים לזה transfer learning וכבר הגיגול הקצר הזה מראה לך כמה הפרקטיקה הזאת פופולרית‏0.

ג. אכן, ברמה מסוימת זו משימה הנדסית ולא תיאורטית, כפי שהיא מיושמת ברוב החברות היום.

ד. מה, ולכתוב עוד פעם איזה אוביקט סי-פלוס-פלוסי‏1 עם כל פונקציות הגישה והפעולות עליו זו לא משימה תכנותית משעממת ומכוערת? הרשה לי לגחך‏2.

0 על קצה המזלג - ההנחה המובלעת היא שכשהרשת המקורית למדה על זיליון תמונות מבסיסי הנתונים הידועים, המידע שטמון ברוב השכבות הראשונות שלה הוא בעיקר איך לפרק תמונות לחלקים/תכונות שטובים עבור סיווג עצמים כאלה ואחרים. משזה נעשה, עכשיו רק צריך לבחור בסוף אילו תכונות כאלה מאפיינות תמונות של לטאות ירוקות ולא של כרובים סגולים.
1 השפה שכיעור ושעמום הם מעמודי התווך שלה, על פי דעתי הלא מלומדה.
2 לפחפח בשפה העכשווית.
תשע (מליון) בכיכר ביום שישי 698311
לך יצא לעשות במו ידיך משימה של אימון רשת עצבית, אבל לא תרגיל מוכן אלא באמת משימה שלא נעשתה קודם?

מי שקורא את א' ו-ב' שלך יכול לתהות למה עדיין מהנדסי תוכנה מבריקים עובדים על רשתות עצביות - ואני לא מדבר על שיפור הארכיטקורה של הכלים, אלא על בעיות סיווג נתונות, עם קלטים נתונים. מהנדסים מבריקים עובדים עליהן קשה ולא תמיד מצליחים.

ממה שאני הבנתי (כאמור לא מנסיון יד ראשונה, אבל זה מה שאמרו במפורש אנשים שעשו את זה כמה וכמה פעמים), במשימה כזו העבודה היא ניסוי וטעייה עם פרמטרים שונים, ניקוי והתאמה של הקלטים, ואם התוצאות לא טובות, שבירת הראש מה לא עבד ואם זה משהו שקל לתקן, או שפשוט הקלטים שלך לא מספיק טובים, ואולי אתה דווקא צריך לנסות את הקומבינציה ההיא של הפרמטרים שעדיין לא ניסית. כמו כן, "הצלחה" או "אי הצלחה" הם לא חד משמעיים - גם כשיש לך הצלחה מסוימת, ואפילו רבה, אתה יכול לנסות לשפר עוד ועוד, אבל זה כל הזמן בניסוי וטעייה. הניסיון נותן לך קצת היורסטיקות מה לנסות, והמנהל אולי אומר לך מתי להפסיק, אבל תשובות חד משמעיות אין.

משימה תכנותית מהסוג שכיף לי היא "תממש פונקציונליות כזו וכזו". ואז אתה כותב קוד שאמור לפתור את זה, וכמו במקרה של הרשת העצבית הוא לא מיד עובד נכון. אבל אתה יודע שזה אפשרי, ושזה בידיך; אתה יודע שתצליח בסוף. כשיש בעיה יש לך כלים להתמקד עליה, ולהתקדם באופן שאתה יכול להיות בטוח שאתה מתקדם. וכשאתה מצליח, אתה יודע חד משמעית שהצלחת. באמת יש מידה רבה של חזרה על אותן בעיות בכל משימה, אבל לי זה כיף.

ברור לי לחלוטין למה אנשים מסוימים מעדיפים את סוג המשימה של לימוד רשת עצבית. אולי אפשר לומר שתכנות אולד-סקול כמו שאני אוהב זה לחלשים. אותי הסוג האחדש מרתיע. לגמרי עניין של טעם.

אגב, יכול להיות שתוך שנים מעטות אופי העבודה עם רשתות עצביות ישתנה - האתגרים שציינתי מריחים כמו בעיות שעוד קצת שפשוף של הטכנולוגיה אולי יעלים אותן. אני מחכה, בתקווה שגם כך נותרו לי עדיין כמה חודשי רלוונטיות...
תשע (מליון) בכיכר ביום שישי 698292
אני לא ממש מתמצא בנושאים האלה, אבל בגדול אני חושב שהצלחה בפתרון בעיה אחת לא בהכרח מוכיחה שתהיה הצלחה גם בבעיה אחרת. כל בעיה היא בעיה.
אגב, נושא ההבחנה בין איש לאישה לפי הפרצוף עלה על דעתי כנימוק בוויכוח עם אותו חבר, כדי להראות שלא כל מה שקל לאדם קל למכונה‏1. חשבתי אז שלו היו מטילים עלי לפתור בעיה כזאת לא הייתי יודע מניין להתחיל ולכן הבאתי את הדוגמה הזאת. לא תיארתי לעצמי שמישהו יחשוב שפתרון הבעיה הזאת הוא כל כך חשוב ששווה להשקיע בו, והוא אף ייעשה זאת ואפילו יצליח. לעומת זה ההבחנה הפתולוגית נראית לי ממש חשובה, ואם תהיה הצלחה בה היא תביא להקלת נטל עצום ולחסכון כלכלי אדיר.

1 שהתקיים, אגב, לא לפני כשלוש שנים, כשהחבר עסק בכך, אלא לא מזמן.
תשע (מליון) בכיכר ביום שישי 698280
עשרים הדקות הראשונות של ההרצאה הזאת למשל נותנות מבוא קל לצפייה שבין השאר מסביר מה מיוחד בשלוש השנים האחרונות.
תשע (מליון) בכיכר ביום שישי 737258
חפשתי את התגובה הזאת משום שבעוונותי אני זקוק לשירות הזה ונאמר לי שהתשובה תגיע בערך אחרי חודש וחצי (מאתמול). ואני רואה שהתגובה נכתבה לפני יותר משלוש שנים, ודומה שאם השתנה משהו הוא שהתורים רק התארכו, ומן הסתם השיטות אותן שיטות וזמנו של המחשב כפתולוג עדיין לא הגיע.
תשע (מליון) בכיכר ביום שישי 737263
עיקר הבעיות כעת אינו בתחום המחקרי אלא היישום בפרקטיקה.

אלמלא הימנעותך המוצהרת מקריאת מאמרים באנגלית הייתי מציע לך לקרוא את הסקירה הזאת.

דגדגנים:

* The establishment of the entire industry of computational pathology requires far-reaching changes of the three essential elements connecting patients and doctors: the local laboratory, the scan center, and the central cloud hub/portal for data processing and retrieval.

* The Camelyon Grand Challenge 2016 (CAMELYON16 challenge), is a worldwide machine learning-based program to evaluate new algorithms for the automated detection of cancer in hematoxylin and eosin (H&E)-stained whole-slide imaging (WSI), has achieved encouraging results with 92.4% sensitivity in tumor detection rate. In contrast, a pathologist could only achieve 73.2% sensitivity
(הדגשות שלי)
עיקר שכחתי: 737264
תהיה בריא!
עיקר שכחתי: 737267
תודה. אני לא מודאג.
תשע (מליון) בכיכר ביום שישי 737266
קשה לי להאמין.
לו זה היה כך האם אינך חושב שקופות החולים המופלאות שלנו (בזכות כצנלסון) שכל כך הצטיינו במבצע החיסונים, לא היו מאמצות שיטה שהייתה חוסכת להן הון עתק ומשרתות נאמנה את לקוחותיהן?
תשע (מליון) בכיכר ביום שישי 737269
מבצע החיסונים דרש יכולות שונות לגמרי של קופות חולים - בעיקר אדמיניסרטיביות.

קופות החולים לא יכולות להרשות לעצמן ליישם טכנולגיות מהפכניות באמת לפני שיש לכך תמיכה פוליטית/ציבורית. הציבור מוכן לקבל טעות רופא, אבל פספוס של אבחנה בגלל טעות מחשב עלולה לעלות לקופה הרבה כסף כפיצויים, שלא לדבר על הזעם ציבורי. אותה מכשלה גורמת לכך שמטוסי נוסעים עדיין מונחתים ע"י טייסים בשר ודם.
תשע (מליון) בכיכר ביום שישי 737273
מטוסי נוסעים לא מונחתים על ידי טייסים בשר ודם אלא על ידי הטייס האוטומטי כבר המון שנים. אבל, לפחות עד לפני מספר שנים, ההמראה במטוסי נוסעים הייתה נעשית תמיד על ידי טייסים בשר ודם (לדעתי, מסיבות לא ענייניות: המטוס עמוס בדלק, וכו', אבל לא מסיבה של בעיה בדעת הציבור)‏1.
לפי מה שציטטת הסיכוי לפספוס במחשב קטן יותר. איני חושב שלאור זאת יהיה למישהו קייס חזק יותר מאשר אם השגיאה הייתה שגיאת אדם.

1 אני הטסתי פעם מטוסים קלים, אבל המידע הזה ידוע לי מדברים ששמעתי לפני מספר שנים מגיסי ושהוא שמע מאח של כלתו, שהוא קברניט באל על, ללא קשר לכישורי הטייס שלי.
תשע (מליון) בכיכר ביום שישי 737275
למיטב ידיעתי אתה טועה בעניין הנחיתות (מלבד יוצאים מן הכלל כמו נחיתה בתנאי ראות גרועים ביותר).

"הסיכוי לפספוס" הוא לא משהו שעושה רושם רב מדי על לקוח טיפוסי שמשפחתו נהרגה בגלל טעות מחשב, וכך גם על המדיה שתעשה מזה צימעס. בדומה, הסיכוי לתאונת דרכים צריך להיות קטן *באופן ניכר ביותר* מהסיכוי של נהג בן אנוש לתאונה, לפני שהרגולטורים יאשרו מכונית אוטונומית לחלוטין.
תשע (מליון) בכיכר ביום שישי 737285
והא ראיה- תאונה של מכונית אוטונומית עושה כותרות מסביב לעולם, אבל תאונות של מטומטמים על ההגה קורות באלפיהן וזוכות לכל היותר לסרטון ביוטיוב.
תשע (מליון) בכיכר ביום שישי 737293
ובכל זאת כמעט כל הטיסה במטוס נוסעים (למעט ההמראה לפחות עד לפני כמה שנים) מתנהלת על ידי טייס אוטומטי ולא שמעתי על שום טענות או תביעות בעניין הזה.
תשע (מליון) בכיכר ביום שישי 737298
כל תאונת מטוס מקבלת כותרות, אבל התאונות בגלל ה MCAS קיבלו פי עשר.
תשע (מליון) בכיכר ביום שישי 737339
זה נכון, אבל הטייס האנושי מוכן לקחת פיקוד במידת הצורך (אלא אם הוא גאון שנותן לילד שלו לשחק עם ההגאים). לו הטייסים היו הולכים לישון והמטוס היה מתרסק בגלל בעיית מחשב היית שומע טרוניה או שתיים ממשפחות הנוסעים.
תשע (מליון) בכיכר ביום שישי 737344
זה נכון, והאמת היא שחשבתי על כך קודם. ברור שאם ניתן לבן אנוש ''לפקח'' על פעולת הפיענוח, לא נחסוך זמן, והעניין יהפוך למיותר. לכן, באמת, ההשוואה עם טיסה אוטומטית היא השוואה לא מוצלחת.
תשע (מליון) בכיכר ביום שישי 737347
זה לא לגמרי נכון, כפי שהעיר צפריר; הדעת נותנת שיש מקרים פשוטים בהם הסיכוי לטעות מחשב נמוך עד כדי כך שאפשר לתת תשובה בלי להטריד את הפתולוג האנושי בכלל. אני לא יודע מה הכמות של מקרים בהם אין (כמעט) שום חשש לפתולוגיה בין אלה שנבדקים, אבל אני מוכן לנחש שהיא אינה זניחה.
תשע (מליון) בכיכר ביום שישי 737349
ישנו פרוייקט של חברת מדטרוניק שמיצרת מצלמה זעירה שנבלעת על ידי הפציאנט ומשדרת תמונות במהלך סיורה בתוך מערכת העיכול. יש שם תכנה שאמורה לבחור מתוך כל התמונות את אלה שימסרו למפענח האנושי. אבל במקרה הזה פשוט אי אפשר אחרת כי מדובר במספר עצום של תמונות.
תשע (מליון) בכיכר ביום שישי 737353
מנסיוני בתחום דומה - רוב רובן של התמונות מסוננות במקרים כאלה כי הן ממש דומות לתמונות שנלקחו לפניהן. ובשביל זה לא צריך רשת חכמה מדי (או רשת בכלל).
תשע (מליון) בכיכר ביום שישי 737363
אל תזכיר לי את המצלמה הארורה הזאת!
תשע (מליון) בכיכר ביום שישי 737366
?
תשע (מליון) בכיכר ביום שישי 737368
כשיש פתולוגיה רצינית, לפעמים היא נתקעת לה באיזו לולאת מעי מיותר למרות שהגלולה שניתנת לפני כן לוודא שזה לא יקרה (ומתמוססת בלי נזק אם כן נתקעת) עברה בהצלחה את מסלול המכשולים. זה גורר ניתוח.
תשע (מליון) בכיכר ביום שישי 737369
טוב לדעת.
תשע (מליון) בכיכר ביום שישי 737346
נזכרתי במה שאמר "אלוף ההפלות" של חייל האוויר - אפשטיין, שבתכנית טלוויזיה שנעשתה עליו תיאר את עבודתו בקברניט באל על‏1 כעבודה שהוא לא היה קורא לה עבודה: "לשבת ולהשגיח על המחשב. . ."

1 כתבתי בהתחלה "קברניט באייל", ותקנתי כשראיתי זאת ב"תצוגה מקדימה". מנפלאות המוח האנושי. . .
תשע (מליון) בכיכר ביום שישי 737348
בעקבות מה שכתבת על נחיתה אוטומטית קראתי קצת על הנושא ולמדתי שהטייסים טוענים שיותר קל להם להנחית את המטוס ידנית מאשר לפקח על הטייס האוטומטי מבצע את הנחיתה.
תשע (מליון) בכיכר ביום שישי 737351
אני שמעתי לפני שנים רבות מטייס באל על (קרוב משפחה של אשתי, אבל לא אותו טייס מהתגובה הקודמת), שבאל על מכריחים אותם להשתמש בשרותיו של הטייס האוטומטי‏1 כדי שיתרגלו לצורת הטסה כזאת.

1 אבל איני זוכר בשיחה ההיא התייחסות להמראה או נחיתה, אם כי מאד ייתכן שדובר גם על כך.
תשע (מליון) בכיכר ביום שישי 737352
בחומר שקראת, האם כתוב איך בדרך כלל מתבצעת הנחיתה? ידנית או אוטומטית?
תשע (מליון) בכיכר ביום שישי 737364
ידנית, לכן כתבתי לך שלמיטב ידיעתי אתה טועה.
תשע (מליון) בכיכר ביום שישי 750779
סקוט אהרונסון חושב כמוני בעניין זה:

"Unfortunately, it’s become clear that, even after self-driving cars become safer than humans, regulatory and psychological barriers will slow their adoption or maybe even prevent it entirely. A huge part of the reason is that, even if self-driving cars can soon cause (say) 10x fewer fatalities per mile than human drivers do, when they do cause fatalities, it will be salient and scary and weird—the AI mistaking a pedestrian’s shirt pattern for a green light or whatever."
תשע (מליון) בכיכר ביום שישי 737302
אם כך היישום המתבקש היא מערכת שמנתחת ניתוח ראשוני של תמונה ועוזרת לשפר את התפוקה של הרדיולוג.
תשע (מליון) בכיכר ביום שישי 737312
הנושא הפעם הוא פתולוגיה ולא רדיולוגיה.
תשע (מליון) בכיכר ביום שישי 737318
אותו דבר. כלומר, מערכת שמצביעה על אזורים מעניינים ומעלה ניחושים.
תשע (מליון) בכיכר ביום שישי 737327
אבל מה הקלט של המערכת שלך?
תשע (מליון) בכיכר ביום שישי 737340
שיקופיות.

עכש"ז זאת היתה אחת הבעיות בשעתו: המערכת התאמנה על קלט שהגיע ממכונה מסוימת, ומכונות אחרות (בשטח) אינן מוציאות תמונות בדיוק באותו הסטנדרט. הייתי מצפה שיצליחו להתגבר על זה בזמן שחלף מאחר ואפשר לכלול בבסיס הנתונים לאימון מגוון רחב של קלטים ממכונות שונות עובדה שהמערכות לזיהוי פנים עובדות יפה עבור מצלמות ותנאי תאורה שונים). אבל מה אני מבין, אולי נדרשת רמה הרבה יותר גבוהה של איכות הקלט כדי למצוא שינויים זעירים.
תשע (מליון) בכיכר ביום שישי 737358
בגלל הקורונה ימ״ש יש יותר שימוש בדרכים שונות שלא דורשות מפגשים של פציינט עם רופא. מה שאומר שהרבה יותר דברים כבר עוברים בצורה דיגיטלית, וחלק מהם גם נשמרים. מה שנשמר אולי גם מנותח.
תשע (מליון) בכיכר ביום שישי 737338
אכן, מתבקש. בשעתו היו בעיות לא פשוטות ואני לא עוקב אחרי ההתפתחויות כך שאינני יודע מה המצב לאשורו כרגע. אולי עומר יוכל לעזור כאן.

מכל מקום, אני מסכים עם רוח התגובה של דב: לפני שלוש שנים הייתי יותר אופטימי בשאלה איפה נהיה היום מהבחינה הזאת.
תשע (מליון) בכיכר ביום שישי 737362
אני גם תחת הרושם שחזון המכוניות האוטונומיות איבד משהו מהתנופה שלו, לא? לפני כמה שנים כולם אמרו שזה אוטוטו קורה.
תשע (מליון) בכיכר ביום שישי 737365
לכל הפחות איבד הרבה מההייפ, שניזון בשעתו מהצהרות אופטימיות מאד כמו אלה של אלון מאסק.
תשע (מליון) בכיכר ביום שישי 737545
כאילו לפי הזמנה, הנה משהו ישר מהתנור שקשור לענייננו.

דגדגן: " Trained to see patterns by analyzing thousands of chest X-rays, a computer program predicted with up to 80 percent accuracy which COVID-19 patients would develop life-threatening complications within four days, a new study finds."

מצד שני, מי יכול לסמוך על AI כאשר התרגום של גוגל לאותו משפט נראה כך:

"מחקר חדש גילה כי תוכניות מחשב ניבאו לראות דפוסים על ידי ניתוח אלפי צילומי רנטגן בחזה, וחיזו אותם עד 80 אחוזי דיוק אשר חולי COVID-19 יפתחו סיבוכים מסכני חיים"?
תשע (מליון) בכיכר ביום שישי 737403
אני לא משוכנע. מכיר את סיפור הTherac-25 [Wikipedia]? באג תוכנה במכשיר הקרנה שהרג שלושה מטופלים ופגע קשה בעוד שלושה לפחות, לפני כ-‏35 שנה? אני שמעתי עליו פעם אחת, בעברי במחקר הנדסת תוכנה. רוב מהנדסי התוכנה לא שמעו עליו, ורוב הציבור הרחב על אחת כמה. עברו הלאה. אני חושב, בלי הוכחה, שהציבור בשל לקבל מקרים של שגיאות טכנולוגיה, בכלל זה קטלניות, בטיפול רפואי, כשם שהוא מקבל (בקושי) שגיאות אנוש, ובהתחשב בכך שהמשאבים ממילא לחוצים עד כלות וקל להציג את המצב (ובצדק) כבחירה בין החלטות ממוכנות תוך שעתיים בחינם לבין החלטות אנושיות בתוך שבועיים וביוקר. למעשה, יש לי הרגשה אינטואיטיבית שיהיה קל יותר רגשית לקבל אסון רפואי בגלל טעות מחשב מאשר בגלל טעות אנוש. הסיכון בתביעות הנזיקין ממילא מועבר לחברות ביטוח, כלומר למספרים גדולים, ואני לא רואה כאן בעיה.
תשע (מליון) בכיכר ביום שישי 737401
אכן, אני מצטרף בבושה למועדון (המכובד, יש לציין להגנתי) של אופטימיים-מדי טכנולוגית. עכשיו אני כבר לא חושב שזה יהיה אפילו שלוש שנים מעכשיו.
אני לא מציין להגנתי את מה שציין שכ"ג, שהאתגרים הם יותר מנהלתיים/ציבוריים מטכנולוגיים, זה היה ברור ונתון גם לפני שלוש שנים, ושקללתי את זה בניחוש שלי.
תשע (מליון) בכיכר ביום שישי 699824
לפי המחקר הזה שילוב של בני אדם עם מערכות ממוחשבות נותן תוצאות אופטימליות. ציטוט: "Combining our deep learning system's predictions with the human pathologist's diagnoses increased the pathologist's AUC to 0.995, representing an approximately 85 percent reduction in human error rate". כלומר נחסכו לא פחות מ- 85% מטעויות אנוש שהרופאים עשו!

כאשר הניסוי הזה נערך ביצועי המערכת הממוחשבת לבדה היו נחותים בהשוואה לרופאים (7.5% שגיאות לעומת 3.5% שגיאות רופאים) אבל לפי כתבה ב CNBC לאחר שהמערכת הממוחשבת המשיכה ללמוד היא הצליחה להשיג תוצאות טובות יותר מהרופאים!

אם הייתי סטודנט לרפואה, לא הייתי בוחר פתולוגיה בתור ההתמחות שלי.
Not so elementary, Watson 701187
שגיא כהן שופך ב ynet קצת מים קרים על ההתלהבות שלי, לפחות בכל הקשור לווטסון.

המאמר ב WSJ כאן אם למישהו יש דולר מיותר.
תשע (מליון) בכיכר ביום שישי 698277
לאחרונה אלגוריתם שפותח בגוגל מצליח לאבחן פגיעות ברשתית כתוצאה מסכרת טוב יותר מרופא עיניים מומחה.
יתירה מזאת, כשנתנו לרשת לומדת מספיק תמונות רשתית, הן הצליחו ללמוד מהן נתונים כמו לחץ דם, גיל, מגדר ונטייה למחלות שונות שלרופא העיניים לא היה מושג בכלל שהם מקודדים ברשתית.
תשע (מליון) בכיכר ביום שישי 698283
וזה מה שנקרא רפלקסולוגיה דיגיטלית.
רפלקסולוגיה בלי הכיף 698285
רק חסר פה המסאז' לרשתית אחרי האבחון.
תשע (מליון) בכיכר ביום שישי 698276
אז אתה יכול להסיר את הספק - מחשב ברמת הסמארטפון שלך מסוגל היום לזהות גבר/אישה מתמונה בכמעט מאה אחוזי הצלחה.
תשע (מליון) בכיכר ביום שישי 698240
רק אני רוצה להוסיף על מה שהפונז כתב.

כל הדברים האלו.. אינטואציה, להרגיש את הכביש, להבין למה הכניסה מותרת - דברים נהדרים. אבל זה לא בדיוק מה שבני אדם (בד"כ) צריכים מאמצעי תחבורה. נכון, לפעמים אנחנו נוהגים רק בשביל הכיף. אבל ברוב המקרים אנחנו רוצים שאמצעי התחבורה יקח אותנו מנק' A לנק' B מהר ובבטחה‏1.

תחשוב על מעלית.. לא מעניין אותך שהיא "מבינה" מה זה קומה 3 או "מרגישה" את זה שהיא עולה. כל מה שאתה צריך זה להגיע לקומה 3 בלי תאונות... אגב, במעליות עתיקות, הנוסע היה צריך ללחוץ על ידית שמזיזה את המעלית ו"להבין" בעזרת האינטואציה שלו שהוא הגיע לקומה הנכונה ואז "להרגיש" מה הנקודה המדוייקת שבה צריך לשחרר את הידית כדי שהמעלית תעצור בדיוק ברגע הנכון. היום זה נראה לנו מגוחך.

בקיצור זה בסה"כ בעיה של עיבוד מידע - לקלוט מידע מסנסור (הכפתור שלחצת עליו והמיקום הנוכחי של מעלית) ולפלוט מידע אחר (האם צריך להניע את המעלית ובאיזה כיוון). אז נכון, מעלית היא פשוטה בהרבה ממכונית, אבל העקרון דומה מאד. גם מכונית צריכה לתרגם מידע מסנסורים לפלט של פעולות (האטה, האצה, פניה וכו'). זו בעיה שאין שום מניעה שמחשב יפתור. ואגב, יש מחקר שאומר ש מכוניות אוטונמיות כבר הגיעו לרמה של נהג אנושי . ואם עדיין לא, אז זה רק עניין של זמן.

-----
1 קרדיט קצר: יובל נוח הררי כתב דברים דומים בספר "ההיסטוריה של המחר".
תשע (מליון) בכיכר ביום שישי 698242
גם כדי להגיע מנקודה A לנקודה B דרושה אינטואיציה והרגשת הכביש, אם אני לא ארגיש את הכביש אני אעשה תאונה ולא אגיע לנקודה B. אי אפשר לנהוג בלי להרגיש את הכביש. השאלה היא האם אפשר ללמד מחשב להרגיש את הכביש - האם מדובר בסך הכל במיליון שכבות של "אם X אז Y", או מדובר במשהו אחר.

הררי כתב את הדברים בהתייחס לשאלה לשם מה בכלל התפתחה תודעה. הרי אנחנו רואים שמכונות יכולות לבצע משימות מורכבות גם מבלי לפחד מכישלון, מבלי לסבול כאב במקרה של פגיעה, ומבלי להיות מאושרות במקרה של הצלחה - הם פשוט מבצעות את הפעולה כי כך תוכנתו, למה אנחנו לא פועלים כך? לשם מה כל הסרח העודף הזה של תודעה, תחושות, רגשות? אבל שים לב - אני טוען שעל הכביש, הבעייתי הוא שילוב של אנושי עם ממוחשב. אם כל הכביש היה מלא במכוניות ממוחשבות אני די בטוח שהמצב היה טוב בהרבה ממה שהוא עכשיו.
תשע (מליון) בכיכר ביום שישי 698248
"גם כדי להגיע מנקודה A לנקודה B דרושה אינטואיציה והרגשת כביש.."

ויש במשפט הזה כמה בעיות.

1. אמרת ואני מצטט: "אינטואיציה זה משהו שכמעט בלתי אפשרי להסביר במילים" וזה נשמע לי חשוד. בדיוק כמו מישהו שיגיד לי שנשים לא יכולות לנהוג כי הן קלות דעת. אבל בעצם אני לא יכול לספר לך מה זה קלות דעות, הן פשוט ככה וזהו ומישהו קל דעת לא יכול לנהוג - ולכן נשים לא יכולות לנהוג.
2. זה כשל לוגי - אם X יודע לעשות משהו, ול X יש תכונה מסויימת, זה לא אומר שכדי לעשות את אותו משהו חייבים את התכונה הזו. אם יש רק גברים טייסים, זה לא אומר שכדי להטיס מטוס מנקודה A לנקודה B אתה חייב להתגלח פעם ביום, נכון? מצד שני זאת הכללה שסביר לעשות אם אתה לא מכיר מחשבים ומה הם מסוגלים לעשות. כלומר, מי שחיי בשנות ה-‏50 לא יכול לדמיין שאי פעם שמכונת חישוב אלקטרונית תדע לכתוב מוזיקה או לנצח את אלוף העולם בפוקר.

אבל (וזו הנקודה העיקרית שלי) לאור המציאות אתה חייב לחשב מסלול מחדש. הרי מחשבים כל הזמן עושים עוד ועוד דברים שבעבר רק בני אדם עשו - והם עושים את זה טוב יותר (במבחן התוצאה).
-פעם לא חשבו שמחשבים יכולים לנצח את אלוף העולם בשח, כי אין להם אינטואיציה. זה כבר ממזמן לא נכון.
-פעם חשבו שמחשב לא יכול לנצח אלוף אנושי בטורניר פוקר - כי הוא לא יודע לקרוא את היריב שלו. גם זה כבר לא נכון.
-פעם חשבו שמחשב לא יכול לזהות פנים אנושיות. היום מחשבים עושים את זה יותר טוב מבני אדם (לפרטים, הסתכל ב Google Photos)
-פעם חשבו שמחשבים לא יכולים לנהוג במכונית, בטח לא בעיר, בטח לא עם נהגים והולכי רגל אנושיים בסביבה. אבל גם זה כבר לא נכון, ובמבחן התוצאה (כמות התאונות פר קילומטר) - נראה שהם כבר מתקרבים לרמה של הנהג האנושי הממוצע ואפילו עוברים אותה. פרטים בלינק הקודם שלי.

בקיצור לאור המציאות הזו, המשפט "גם כדי להגיע מנקודה A לנקודה B דרושה אינטואציה.." נשמע כמו אמירה עתיקה, משהו שכבר ממזמן לא רלוונטי.
המחשב אשם 698256
יש כאן רק נקודה אחת שחשובה לי: האם בעלי המחשב האנושיים יכול להבין מספיק טוב את התנהגות המחשב כדי לקבל אחריות על מעשיו?

אחריות:
* התחייבות לתת שירות
* פיצויים ואחריות פלילית במקרה הגרוע

ברור לי שמי שמשקיעים כאן כסף חושבים שהתשובה חיובית. לא לגמרי ברור לי איך.
המחשב אשם 698259
הרשה לי לחלוק עליך על ההנחה שהנהלת החברה מתיימרת להבין את הנהגים שעובדים אצלה, אנושיים או לא אנושיים. מה שמעניין אותה זה סטטיסטיקה. מספיק שנהג ממוחשב יהיה קצת יותר טוב (בממוצע) מנהג אנושי, כדי שישתלם מאד מאד לכל חברה מוניות או אוטובוסים להחליף את כל הנהגים האנושיים שלה. הרי נהגים ממוחשבים הם זולים בהרבה.

ואגב.. בחברות התעופה הגדולות, כבר במשך שנים חלק גדול מזמן הטיסה מתבצע עײי טייס אוטומטי. והוא כבר עשה תאונות.. עדיין הן לוקחות אחריות על תאונות כאלו.
המחשב אשם 698260
מתנצל על העברית הקלוקלת..
המחשב אשם 698261
אתה מניח משום מה שסטטיסטיקה זה רק הממוצע. אם 99% מהרובוטים הם נהגים יעילים אבל האחוז הנותר מדי פעם מתבלבל באופן מוזר, תקבל הרבה נוסעים לא מרוצים.

כאמור, לטייס אוטומטי יש משימה פשוטה בהרבה מזו של נהג, מכיוון שהוא לא צריך לבחור לעצמו נתיב (הוא לא צריך להחליט איך מגיעים מ־A ל־B). הוא צריך לשמור על הנתיב שנבחר. והטייס האוטומטי אינו רשת נוירונים. לא זכור לי ששמעתי על תאונת טיסה שנגרמה בגלל שמחשב הטיסה טעה. זכור לי במעומעם מקרה של תקלה בנושאת מטוסים בגלל המחשב המרכזי.
המחשב אשם 698263
בסדר, אז אחוז אחד מהרובוטים מתבלבלים באופן מוזר. השאלה היא איך משווים את זה לאחוז הנהגים האנושיים המתבלבלים. הפתעה: גם אנשים עושים טעויות.

דרך פשוטה להשוות היא לעשות סוג של ממוצע, לא? כי זה לא תלוי בכמות הרובוטים או בהתפלגות התאונות בינהם. באופן פשטני, מחשבים את כמות התאונות לקילומטר, ואז אם נהג אנושי עושה 5 תאונות למיליון קײמ בממוצע, ורובוט עושה 4, אז קל מאד לחברה לחשב כמה תאונות בשנה יהיה לה.. בקיצור ירידה של 20 אחוז בתאונות. אותו דבר אפשר לעשות לגבי כל מדד אחר של שביעות רצון: איחורים, אדיבות הנהג וכו וכו.

לגבי טייס אוטומטי: הוא כן כושל או טועה לפעמים, ואז הטייס אמור לנתק אותו ולעבור לטיסה ידנית. אבל אני מקבל את הנקודה שלך. אם אני מבין אותך, אתה אומר שרובוט נהג זה טכנולוגיה יותר מסוכנת, חדשה, לא מוכחת. יש טעויות והתבלבלויות שבכלל לא הספקנו להתקל בהם.

אבל גם טייס אוטומטי היה טכנולוגיה מסוכנת, חדשה, ולא מוכחת בעבר. אז באופן אנלוגי כבר אפשר לנחש שיהיה תהליך שבו יאסף עוד ועוד מידע ואז כמה אמיצים יאמצו את הטכנולוגיה (נניח מדינות פתוחות יותר לחידושים) ואז יגהצו את הבאגים החדשים שיתגלו והבטחון בה ילך ויגבר ובסופו של דבר כולם יקפצו על הקרון הזה.
המחשב אשם 698349
למה לקחת את זה לכיוון של חברת הסעות? היום, אני קונה פורד אסקורט ודורס מישהו בטעות - אני אשם, פורד לא קשורה לזה. אבל אם אני קונה את אותה פורד עם נהג אוטומטי והוא זה שדורס מישהו - אז החברה אשמה. זה סיכון די גדול עבור חברה למכור מיליוני רכבים ממונעים אוטומטית כשהיא האחראית הבלעדית לכל התאונות שיגרמו. זה שיעשו פחות תאונות מנהגים אנושיים זה לא מספיק טוב לחברה - יעשו פחות תאונות, אבל האחריות תהיה על החברה ולא על הנהגים.
המחשב אשם 698355
במה זה שונה מהסיכון שפורד לוקחת שכשל מכני יעלה בחיי אדם, וכבר היו דברים מעולם?
(עקרונית יש מקום לחשש שכשל מכני בסדרת יצור מסוימת יגרום לסדרת תאונות לפני שיספיקו להבין מה קורה ולקרקע את הצי.)
המחשב אשם 698356
נקודה מעניינת, רק שבפעול הרבה מאד חברות רכב משקיעות ברכב אוטונומי: http://www.businessinsider.com/the-companies-most-li...

אני מניח שהסיכון שתפשוט רגל, כי פשוט יפסיקו לקנות את הרכבים שלך, הוא הרבה יותר גדול מהסיכון שאתה מציין. ולגבי המימון של נזקי אותן תאונות שעדיין יתרחשו - בשביל זה יש ביטוח חובה (כלומר אני לא יודע אם זה קו המחשבה של חברות הרכב.. אני רק מנחש). רק מה, חברות הרכב לא פריאריות, הן יגלמו את עלות ביטוח החובה במחיר הרכב. חשבון קצר מראה שזה ייקר את הרכב האוטונומי ב 10000 ש"ח לכל היותר, וגם את הסכום הזה אפשר להקטין משמעותית (פרטים למטה). מכיוון שרכב אוטומטי עושה פחות תאונות, גם הביטוח המקיף יהיה זול יותר. וזה איזשהו גזר קטן שהלקוח מקבל בתמורה לזה שהוא קונה רכב יותר יקר.

---

בדקתי עלות ביטוח חובה של פורד 2018 (אתה אמרת פורד..). ניסיתי למלא את הטופס בתור "נהג אוטומטי". נתקלתי בקושי קל כי בטופס ביקשו ממני להצהיר אם הנהג הוא זכר או נקבה, ולא ידעתי איך בדיוק מציצים למחשב בתוך התחתונים. קושי נוסף היה לרשום בן כמה הנהג ואיפה הוא גר. לפחות הסעיף "האם היו לך תביעות קודמות" היה פשוט. בסופו של דבר, קיבלתי הצעות של 900 עד 1000 ש"ח. נתעלם שניה מהעובדה שחברת פורד יכולה לקבל הנחה גדולה בהשוואה ללקוח פרטי - אז העלות של הביטוח מבחינת פורד הוא כ 1000 ש"ח לשנה. אם פורד מפסיקה לקחת אחריות על רכב אוטונומי אחרי 10 שנים (נשמע לי זמן מוגזם. הרי על מנוע היא נותנת פחות אחריות. אבל נניח) אז 10*1000 = 10000 ש"ח פר רכב.
עוד דרכים להקטין את הסכום הזה:
1. פורד בכלל לא צריכה לממן את חברות הביטוח. היא יכולה לשלם את נזקי התאונה מכיסה ולחסוך עמלות. ובניגוד לחברות הביטוח - היא לא צריכה שהנהגים האוטומטיים שלה יממנו את כל הנהגים האנושיים הגרועים.
2. בניגוד לנהג אנושי, פורד יכולה לשדרג את הנהג האוטומטי בכל פעם שהרכב מבקר במוסך (יתרה מכך, הרכב יבקר במוסך בעצמו. לא צריך לסמוך על אנשים עצלנים). זאת אומרת שבכל שנה כל הנהגים האוטומטיים של פורד עושים פחות תאונות - לפיכך עלות הביטח גם היא תקטן משנה לשנה.
המחשב אשם 698358
הביטוחים בישראל נמוכים משמעותית יחסית לעולם, והשוק הישראלי הוא לא גדול מספיק על מנת להשפיע על שוק היצרנים... עלות הביטוח לרכב ממוצע בארה"ב הוא 1,700$ (מקור) בעשר שנים זה יוצא 17,000 דולר, שזה, במקרה אוט שלא במקרה, כמעט המחיר של פורד פוקוס חדשה (מקור).
המחשב אשם 698369
מעניין, אבל במחשבה שנייה מה זה משנה. תחשוב שאתה אבא ואתה קונה רכב לבת שלך. או שאתה משלם 1700 דולר לשנה למישהו, והבת שלך נוהגת. או שאתה משלם 1400 דולר לשנה (סתם הערכה) למישהו אחר (פורד) והמחשב נוהג והוא גם נוהג בטוח יותר מהבת שלך כי היא נהגת חדשה.
חסכון נטו של 300 דולר, מבלי להתייחס לחסכון על ביטוח מקיף.
השאלה אם אתה משלם את הכסף מראש או פר שנה היא לא מעניינת, הרי גם היום אתה יכול לשלם על מכונית מקדמה קטנה ואז תשלום חודשי.
המחשב אשם 698370
נראה לי שאתה צודק.
תשע (מליון) בכיכר ביום שישי 698244
אבל יש לפחות שלב ביניים שבו חלק מההגדרה של „להגיע מנקודה A לנקודה B מהר ובבטחה״ זה גם לנסוע באותה דרך עם נהגים אנושיים.

ואם כבר מעליות: לשם השוואה: יש כיום נהגים ברכבות (וזה תמוה בעיני).
תשע (מליון) בכיכר ביום שישי 698245
בפריז יש קו מטרו ללא נהג.
תשע (מליון) בכיכר ביום שישי 698230
שלא לדבר על משה פלתיאל וערן.
תשע (מליון) בכיכר ביום שישי 698231
אל תקלקל לי את האבטיח!
מותר האדם 698226
''החוק היבש'' אומר שאם הכיכר פקוקה הנוסעים בכיכר צריכים להתחשב במי שרוצים להיכנס לכיכר (כמו בכל כביש פקוק אחר).
היו בעיות לפני התאונה 698213
האם הפרוייקט היה בעייתי עוד לפני התאונה? בהשוואה ל- Waymo, הרכב האוטונומי של גוגל שטענה שנדרשה התערבות של נהג רק אחרי 9000 ק"מ של נסיעות מבחן, הרכב של אובר בקושי עמד ביעד של התערבות נהג כל 20 ק"מ. ג'נרל מוטורס דיווחה שבמכונית האוטונומית שלה הנהג התערב כל 2000 ק"מ.
היו בעיות לפני התאונה 698215
נשמע שגם הרגלוטורים של אריזונה היו פזיזים, ודרשו מהיצרניות פחות או יותר כלום. אבל מהכתבה בני''ט משתמע שגם מדינות שדרשו יותר, סמכו על נתוני היצרניות, וזה נשמע לי בעייתי משהו. הייתי מצפה שלפני שיתנו לרכב אוטונומי לעלות על כביש אמיתי הוא יעבור נסיעות מבחן של הרגולטור.
היו בעיות לפני התאונה 698223
אילו הבקר האנושי היה עם עיניים על הכביש 100% מהזמן וידיים מרחפות מעל ההגה, ועוד בקר לצידו, כשהם מתחלפים מדי רבע שעה או משהו, כפי שאני מבין שהיו צריכים להתבצע הניסויים, לא היה בעצם צורך לסמוך על הרכב והניסויים היו מתבצעים בבטחה לפחות כאילו נהג אנושי נוהג.
אבל בחיים כמו בחיים.
היו בעיות לפני התאונה 698234
(בקר אנושי הוא זה שמי שהורג אותו הוא נאצי?)
היו בעיות לפני התאונה 698235
מי שנוסעים ברכבת בשעות העומס.
היו בעיות לפני התאונה 698236
אני לא יודע איך הניסויים מתוכננים אבל אני מניח שהמטרה היא לנסות רכב אוטונומי שיפעל בסביבה שבה רוב הרכבים האחרים הם עם נהג אנושי. סביר שהתכנון והניסויים של רכב אוטונומי שיפעל בסביבה של רוב או רוב מוחלט של רכבים אוטונומיים יהיו שונים לגמרי.
ועכשיו אנחנו מחכים 698237
לרובוט הראשון שיידרס ע''י מכונית אוטונומית.
ועכשיו אנחנו מחכים 698239
אני לא בטוח שהתנגשויות עם רמזורים נכנסות לסטטיסטיקה.
ועכשיו אנחנו מחכים 698246
אני לא בטוח שזה יהיה מעניננו (האנושיים), שיפתרו את הבעיות שלהם בעצמם.
ועכשיו אנחנו מחכים 698247
רובוטים הורגים רובוטים ומאשימים אנשים? שרובוטים יטפלו בזה.
רשתות נוירונים - AMA 698327
הדיון כאן מלא באי-דיוקים, שגיאות גסות ותפיסות שגויות בכל הקשור ל-"למידה עמוקה". דאנינג-קרוגר אול-ארונד :)

אני עוסק באינטנסיביות משתנה, אך ברציפות, ברשתות-נוירונים החל מבערך 2010. אני מכיר לא-רע גם את הזירה המחקרית וגם את זו המסחרית, גם את התאוריה וגם את הפרקטיקה. אתם מוזמנים לשאול אותי מה שבא לכם, ואשתדל לענות.

בינתיים, קצת היסטוריה ורקע: Deep Learning הוא המיתוג האחרון של נושא שראשיתו בשנות החמישים. במובן מסויים, לא המון השתנה מאז. ההישג הגדול והראוי לציון של השנים האחרונות הוא שלמידה ממוחשבת חזרה למקומה הטבעי: מתישהו לאורך הדרך התחום נגרר להיות "אלגוריתמים אדפטיביים לסטטיסטקאים", למרות שמראשיתו הוא נועד להיות "אלגוריתמים אדפטיביים לבינה מלאכותית".

לפי ההיסטוריוגרפיה המקובלת 50-60 השנה האחרונות מחולקות לשלוש תקופות (לפעמים מדברים על "שלושה גלים"): התקופה הראשונה מתחילה קצת לפני 1960 ומסתיימת קצת אחרי 1970, התחום מותג אז כ-"connectionism", והתמקד בעיקר בפרספטרונים (שהן מעין "רשתות" של נוירון אחד). המודל החישובי עצמו של הפרספטרון הומצא עוד הרבה לפני כן, ב-‏1943 (McCulloch–Pitts neuron). בערך מהיום הראשון כבר ידעו לומר שכמודל-חישובי רשתות נוירונים הן Turing-complete, אך רק ב-‏1958 התחילו לצוץ אלגוריתמי למידה עבורו. התחום יצא מהאופנה בתחילת שנות השבעים, מסיבות לא לגמרי ברורות. האגדה האורבנית מספרת שהגורם המרכזי לכך הוא הספר perceptrons שיצא לאור ב-‏1969 ועסק רבות במגבלותיהן של ארכיטקטורות מסויימות. לרוב מציינים את הוכחתו לכך שרשתות של נוירונים לינארים אינן יכולות לייצג אפילו פונקציות פשוטות כמו xor כגורם שדיכא את המוטיבציה לכולם. לי קשה להאמין בכך, כי (א) דא! ו-(ב) כאמור, באותו זמן כבר ידעו כמה עשורים שרשתות פשוטות קצת אחרות הן בעלות כוח חישובי אוניבריסלי. בכל מקרה, בסביבות שנות השבעים אנשים איבדו עניין (לא רק ברשתות נוירונים, אלא בלמידה ממוחשבת בכלל).

הלמידה-הממוחשבת זכתה לפריחה מחודשת בתחילת שנות השמונים, והעניין בה שוב דעך במהירות. אך הפעם במקביל לדעיכה הכללית בעניין שעוררה הלמידה הממוחשבת, התעורר עניין רב (יחסית...) ברשתות-נוירונים, ואת הגל השני נהוג לזהות עם השנים שבין כ-‏1985 לכ-‏1995. בתקופה זו המיתוג העיקרי של התחום היה תחת הכותרת Artificial Neural Networks, והוכח המניע העיקרי של הגל השני היה "גילויו" של "אלגוריתם" ה-backpropagation שאפשר לאמן באופן שיטתי רשתות היררכיות עם כמה שכבות (כל המרכאות קודם נועדו להבהיר שמדובר ברעיון מאד פשוט ומוכר היטב, ִשרק חיכה שמישהו ישתמש בו בהקשר המתאים). רעיון אחר, סופר-מגניב ואורתוגונלי לחלוטין שהיווה תשתית לרעיונות סופר-מגניבים אחרים הוא של רשתות Hopfield (מ-‏1982) שהמוצאו כדרך למדל מתמטית "זיכרון אסוציאטיבי" במובן הפסיכולוגי. עוד הרבה רעיונות שהיום לפעמים מדברים עליהם כאילו הם חידושים מרעישים (כמו autoencoders או תאי LSTM) הומצאו למעשה בתקופה הזו. הסוף המר הגיע באשמת ופניק שבבסביבות 1992 המציא את ה-SVM שמשך אליו את כל הייפ. היה לו "סוג-של" ביסוס תאורטי (במונחים של PAC למי שמכיר) וביצועים פרקטיים מצויינים לאותו-הזמן, וההתגבשה הדיעה שרשתות-נוירונים הם רעיון מגושם שעבר-זמנו.

כמעט כולם חשבו ככה, אבל לא כולם כמובן. ג'ופרי הינטון, שחלק גדול מהקרדיט לגל-השני מגיע לו (הוא אחד מהחתומים על ה-backpropagation) שמר על אמונתו, והביא במו-ידיו גם את הגל השלישי - הפעם תחת המותג Deep-Learning. ב-‏2002 הוא מצא אלגוריתם יעיל לאמן מודלים (מהמודלים הסופר-מגניבים שקשורים לרשתות Hopfield) שנקראים Restricted Boltzmann Machines (או בקיצור, RBMs). אפשר לחשוב עליהם כרשת-נוירונים שטוחה מאד בעלת שכבה יחידה שמאומנת באופן לא מפוקח (unsupervised learning) כדי ללמוד generative models (כלומר מודל שיודע להמציא "דוגמאות חדשות" שנראות כאילו הן נלקחו מתוך אוסף של דוגמאות נתונות). האלגוריתם (הידוע בשם Contrastive-Divergence algorithm), ביחד עם תוצאה נוספת של הינטון מ-‏2006 שהסבירה איך אפשר לשרשר הרבה RBMs ולקבל רשת עמוקה עם הרבה שכבות שאותה אפשר לאמן באופן מפוקח (supervised learning) היווו את הבסיס לצמיחה המחודשת של התחום (עד לפני כמה שנים זו הייתה בערך הדרך היחידה לאמן רשתות-עמוקות, אבל היום כבר אף אחד לא משתמש בה). אם אתם זוכרים את התחרות של Netfix שהציעו ב-‏2009 פרס של מיליון דולר למי שיצליח לשפר את אלגוריתם ההמלצה שלהם, אז RBMs היו מרכיב משמעותי באלגוריתם שזכה בפרס.

באותה שנה (2009) - אחרי שרשתות נוירונים כבר התחילו לתפוס תאוצה משמעותית - התחילו להשתמש ב-GPUs כדי לאמן אותן. אבן דרך חשובה נוספת התרחשה ב-‏2012, אז רשת (קונבולוציה) בשם AlexNet (שוב הינטון היה מעורב...) זכתה בתחרות ראייה-ממוחשבת מפורסמת, והביסה לראשונה (ובהפרש ניכר) אלגוריתמים מבוססי SVM. מאז ועד היום כל התחום של ראייה ממוחשבת עבר מהפכה מוחלטת, וכמעט כולו נשען היום על רשתות קונבולוציה. בהמשך לתימת ה-"אין חדש תחת השמש" אציין שרשתות-קונבולוציה קיימות בשימוש מסחרי עוד מ-‏1989, ושלמרות המיתוג החזק שלהן, מדובר ברשות-נוירונים רגילות לחלוטין מהוסג הפשוט ביותר (feedforward networks).

הרבה דברים שאף אחד לא האמין שאפשר יהיה להשיג לפני שנשיג AI מלא נוסח אסימוב או דאטא ממסע בין כוכבים, הושגו. רשתות נוירונים טובות יותר מבני האדם הכי טובים במשחקים מורכבים כמו Go או פוקר, ובמשימות בהן היה אפשר לחשוב שאנחנו מוצלחים במיוחד כמו זיהוי-פנים או אפילו זיהוי רגשות מתוך הבעות פנים. ויש עוד (הרבה מאד) דוגמאות אחרות, mind-blowing במידה דומה. כל הדיון לעיל על הצורך ב-"אינטואיציה אנושית" בנהיגה הוא די קומי :)

לפני סיום, יש שלושה נושאים אליהם אני רוצה לומר משהו:

(1) יש שם תאוריה\עומק\עניין? מלא. אני לא יודע מאיפה להתחיל. קודם כל, והכי פחות מעניין, "רשתות נוירונים" הן יותר פרספקטיבה על למידה-ממוחשבת מאשר "משפחה ספציפית של מודלים". למשל גם SVMs וגם מודלים לינארים מוכללים (כמו רגרסיה לוגיסטית) הן "סוג של" רשתות נוירונים. אז כמושא מחקרי הן עשירות לפחות כמו התחום כולו. שנית, יש מגוון עשיר ומאד מורכב של רשתות נוירונים. התאוריה המתמטית מאחורי energy-based models ו-attractor-networks כמו מכונות בולצמן היא מאד עשירה (וקשורה אינטימית ל-mean-field theory וגיאומטריה סימפלקטית למשל), וכך גם התאוריה (המתגבשת) מאחורי הדינמיקה של אימון GANs (שאותה אפשר לפרמל כמשחק סכום-אפס של שני סוכנים אדפטיביים, שמתכנסת - או שלא - לשווי-משקל נאש). שלישית, התחום מלא בִשאלות תאורתיות פתוחות ומאד מסקרנות. הגדולה מכולן היא כמובן "למה זה עובד?". כלומר, למה stochastic gradient descent מתכנס לנקודות אופטימום לוקליות כל-כך מוצלחות (יותר מוצלחות מאלגוריתמי-אופמיזציה מוצלחים יותר, נגיד קוואזי-ניוטונים) מנקודת המבט של generalization. הכיוון המסתמן קשור ככל הנראה לגיאומטריה של משטחי-השגיאה ובפרט לעקמומיות הלוקלית סביב הפיתרונות המתקבלים (כל מיני מושגים של flatness), שלהן יש גם אינטרפטציה (אולי שקולה) במונחים של תורת-האינפורמציה (נגיד, ה-information bottleneck של תישבי שאולי מוכר לחלק מהקוראים כאן - הרעיון בקצרה הוא שרוב המאמץ באימון כנראה לא מושקע במיקסום האינפורמציה-המשותפת בין התצפיות לבין ערך-המטרה, אלא דווקא במיזעור האינפורמציה המשותפת בין התצפיות לבין הייצוג הפנימי שלהן).

(2) זה וודו! לאף אחד אין מושג מה הוא עושה! זה סתם ניסוי-וטעייה! במובן מסויים, כן. אבל אפשר להבין זאת כבעיה רק אם ממסגרים לא נכון את הסיטואציה. המסגור הנכון הוא פשוט זה: הצד המעשי של "שימוש ברשתות ניוירונים" זה סוג של הנדסה. ובדיוק באותו מובן הנדסת-תוכנה זה "וודו וניסוי טעייה"; מתי לאחרונה המתכנתים כאן השתמשו בתורת החישוביות בעבודה שלהם, או הסתמכו על הוכחות פורמלית כאשר הם עסקו בעיצוב או ארכיטקטורת תוכנה?. ובאותו מובן גם למידה-ממוחשבת "קלאסית" היא "וודו וניסוי טעייה"; מתי לאחרונה ראיתם מישהו נותן הצדקה פורמלית לבחירת ה-kernel וההיפר-פרמטרים של ה-SVM שלו, ומה זה בדיוק feature engineering אם לא ה-epitome של "ניסוי וטעייה"? אם כבר, אז העבודה עם רשתות-נוירונים קרובה הרבה יותר למדע או להנדסה-מסודרת מאשר האלטנרנטיבות. ואגב, יש ראיות תאורטיות חזקות לכך שלנצח זה יהיה המצב (כלומר, לא יהיה אף פעם "אלגוריתם למידה אולטמטיבי" שאפשר יהיה לעבוד איתו כמו קופסה שחורה באופן מכני לחלוטין).

(3) סקיינט הגיעה, והאנושות אבודה שאלה פתוחה :) ואפשר להבין אותה בכל מיני מובנים. בתור התחלה, ישנן הרבה עבודות שכנראה יעלמו מהעולם בקרוב (נהגים כמובן, אבל כנראה שגם הקריירה של חלק מעורכי-דין ולפחות חלק מהרופאים למשל חיה על זמן שאול). האם זה טוב או רע? נחיה ונראה (אין אפילו טעם להתווכח על זה... זה פשוט יקרה, וסביר שדי בקרוב). חוץ מזה, אנשים מסויימים מפחדים מתרחיש "יום הדין" בסגנון שליחות קטלנית, בו המכונות יצאו נגדנו (למשל החבר'ה מmiri). אני לא שותף לחשש הזה (בקצרה: סיבה אחת היא שאין שום סיבה ש-AI מלא ו-agency יהיו כרוכים יחדיו, וסיבה שניה היא שמן הסתם לא תיהיה AI אחת, אלא יהיו הרבה).

ולפינת הספקולציה הטהורה: יש תרחיש אחד שכן מפחיד אותי, וראינו ניצנים שלו עכשיו בפרשת Cambridge Analytica. שחקני גו מובילים ששיחקו (וכמובן הפסידו) מול רשת-נוירונים תיארו את החווייה כ-"משחק מול חייזר". הם לא הבינו מה הצעדים שהרשת עושה ולאן היא חותרת, ואז פתאום כבר היה מאוחר מידי והם הפסידו. שחקני פוקר מובילים ששיחקו (והפסידו כמובן) מול אלגוריתם תיארו חוויה דומה (וזו סביבה אולי מעניינת יותר, בגלל המרכזיות של "בלופים" ו-false signaling בתוכה). אם מחברים את האופן היעיל עד-כדי-שיתוק בהם "שחקני בינה-מלאכותית" מסוגלים לפעול, יחד עם כמות המידע באשר לתקשורת אנושית והרזולוציה שלו (לא רק רשתות חברתיות! גם במשימות כמו "תמלול של דיבור" או "קריאת שפתיים" רשתות נוירונים כבר טובות יותר מבני-אדם), זו תהיה הפתעה אם לא יהיה אפשר לבצע מניפולציה עדינה ואפקטיבית בעמדות ודיעות של אנשים בהיקף נרחב. אני לא מדבר על "תעמולה", "פייק-ניוז" או שיטות גסות כאלה. אני מדבר על השפעה עצומה על דיעות של אנשים שקולים ומיושבים בדעתם (כמוכם וכמוני, הייתי רוצה להאמין) באמצעות הדגשה והצנעה מחושבת של אינפורמציה, שליטה עדינה במסלולי ההפצה שלה, משחקי ניסוח קלים וכדומה. דברים בלתי-מורגשים שאת האפקט שלהם קשה (לבני אדם) לאמוד וקשה (לבני אדם) לתמרן או להעריך את משקלן, אך אלגוריתמים מתוחכמים דיים כנראה יוכלו לעשות בקלות (כמו הצעדים המסתוריים של התוכנה ב-go או הבלופים של התוכנה בפוקר), ולתמרן באוכלוסיה כולה תוך ניצול החולשות הקוגנטיביות הטבועות בכולנו מבלי שאף אחד בכלל ירגיש. אני לא חושב על איזה "המון נבער" אלא מסתכל על עצמי, אדם יחסית מושכיל, רציונלי ומודע - ואני משוכנע שאפשר לשחק בי בקלות בשיטות כאלה. גם בכם. כאמור, אני לא חושש שאיזו בינה-מלאכותית תעשה זאת על "דעת עצמה" אלא שבעלי-אינטרס ישתמשו בבינה מלאכותית באופן הזה כדי לקדם את עצמם.
רשתות נוירונים - AMA 698331
תודה רבה על התגובה המושקעת.

תוכל בבקשה לפרט איך רגרסיה לוגיסטית, למשל, היא מקרה פרטי של רשת נוירונים?
רשתות נוירונים - AMA 698342
הצורה הפונקציונלית של רגרסיה לוגיסטית היא הרכבה של העתקה-אפינית עם פונקציית סיגמואיד, ואפשר לייצג אותה בקלות על ידי "רשת" בעלת נוירון יחיד עם אקטיבציה סיגמואידית. אימון של הרשת תוך שימוש ב-cross-entropy כפונקציית שגיאה, תוביל בדיוק לאומדן הנראות המירבית של מקדמי הרגרסיה. רשתות גדולות המשמשות לקלסיפיקציה בינארית אפשר להבין כהרכבה של חלק מסובך שלומד ייצוג מוצלח של התצפיות, עם חלק פשוט ששקול לרגרסיה לוגיסטית הקושרת בין הייצוג הנלמד לערך המטרה.
רשתות נוירונים - AMA 698446
ואללה, הסיגמואיד של פונקציית logit באמת יכול בדיוק להתלבש על פונקציית האקטיבציה של נוירון, אז זה מסתדר. אבל מה עם מודלים לינארים מוכללים אחרים, למשל רגרסיה פואסונית? או אפילו עם רגרסיה לינארית רגילה? איך מתמודדים ברשתות נוירונים עם פונקציות שהטווח שלהן לא חסום?
רשתות נוירונים - AMA 698513
כאשר ערך-המטרה אינו חסום (כמו במקרה של רגרסיה לינארית) המצב פשוט במיוחד: לא משתמשים באף פונקציית אקטיבציה, והשכבה האחרונה (והיחידה, במקרה של רגרסיה לינארית) היא רק פונקציה אפינית.

ככלל אצבע, כאשר מדובר ברשתות-נוירונים - ייצוג הוא אף פעם לא בעיה. הדימוי של רשת נוירונים כ-"אוסף של פונקציות זהות מסודרות בשכבות" הוא מאד מטעה. רשתות feed-forward (אני מתאר לעצמי שעליהן אתה חושב כשאתה חושב על רשתות-נוירונים) מייצגות פונקציות באמצעות מבנה (computational graph) שיכול להיות מורכב מאד, הרבה יותר מסתם "שכבות". וכאמור רשתות feed-forward הן רק חלק מהסיפור, ובהחלט לא הסיפור כולו.

אבל אפילו אם מגבילים אותן למבנה של שכבות, ואפילו אם מגבילים את מספר השכבות ל-‏2 - הן עדיין יכולות לייצג כל פונקציה.
רשתות נוירונים - AMA 698336
תודה גם בשמי, על החלקים שהבנתי (שהם בעיקר מילות יחס).

בעניין החשש שלך מפני השפעות לא מודעות, האם לא ניתן יהיה להתגונן בפני אותן "חולשות קוגניטיביות" ע"י רשתות ידידותיות שבניגוד לנו כן יוכלו לזהות את המניפולציות? אולי יתפתח עוד מירוץ של תוקפים ומגנים כמו אלה שאנחנו מכירים בהרבה שטחים, אלא שהשחקנים הפעם יהיו רשתות נוירונים.
רשתות נוירונים - AMA 698343
אני לא יודע, אבל אני מנחש שאפשר (וכנראה יש גם עוד פתרונות אחרים, טכנולוגים וחוקיים). הבעיה הגדולה היא שמהערכת התמריצים בעולמנו צפויה להפנות הרבה יותר משאבים ואנרגיה לחבר'ה הרעים מאשר לטובים. לכולם יש אינטרס לתמרן אותך.
רשתות נוירונים - AMA 698339
תודה!

"מתי לאחרונה המתכנתים כאן השתמשו בתורת החישוביות בעבודה שלהם, או הסתמכו על הוכחות פורמלית כאשר הם עסקו בעיצוב או ארכיטקטורת תוכנה?"

(אני מניח שהפסקה הזו היא תשובה במידה רבה לתגובה 698311 שלי) כמעט אף פעם לא, אבל מה שאנחנו עושים הוא כמעט אף פעם לא וודו - אנחנו חותרים באופן מובנה, תכליתי ומנומק לכל מטרת משנה (פתרון באג נתון). פעם בכמה ימים יש רגעים של וודו, בעבודה מול מערכת אחרת שאתה לא רוצה להשקיע ימים בלהבין אותה לעומק ומוצא משהו שעובד בלי שאתה מבין למה. אבל זה חלק קטן מאוד בעבודה.
רשתות נוירונים - AMA 698345
אני חושב שהמצב בהנדסת תוכנה ובפיתוח רשתות-נוירונים מאד דומה. בסופו של דבר, כאשר יושבים אנשים ובונים רשת-נוירונים, הם יודעים מה האלטרנטיבות שעומדות מולן בהנתן בעיה ספציפית, ואיך לשקול אותן. הם יודעים למה לצפות, ויודעים להבין את הבעיות הצפויות. הם יכולים להמנע מראש מחלקן, ולזהות את האחרות שבכל זאת צצות. והם מכירים best practices כדי לפתור אותן. יש לרשותם מתודולוגיה עשירה, הנשענת בחלקה על ידע תאורטי וחלקה (הגדול יותר) על ניסיון מעשי. והמתודולוגיה כמובן משתנה עם הזמן, גם בזכות ידע שהולך ונצבר, וגם בשל אופנות וטרנדים.

בפיתוח תוכנה, נכון שכאשר מדובר ביישום של אלגוריתמיקה או business logic אין בכלל וודו באופן עקרוני, אבל כמעט תמיד הוא נמצא שם באופן מעשי, בגלל מנגנונים (עם סייד-אפקטס מורגשים) שמסתתרים מאחורי אבסטרקציה שאותה המתכנת לא ממש מכיר (ה-cache replacement policy של המעבד, ה-congestion control בראוטר, אופטימיזציות של הקומפיילר וכו'). הדרך להתמודד עם זה היא כמובן לדבוק בשיטות-פיתוח בדוקות ומקובלות בתקווה שהכל פשוט יעבוד, ולעבור לווריאציות של ניסוי-וטעייה כשזה לא עובד. וכאשר מדובר בעיצוב תוכנה - אז כבר כמעט כל ההחלטות נשענות על היוריסטיקות ומורשת קרב. זה אולי לא "וודו", אבל זה עונה לתיאור "מובנה, תכליתי ומנומק" רק במובן מאד רחב, שתקף באותה מידה גם לבנייה ואימון של רשתות נוירונים.

ואולי בכלל השוואה "הוגנת יותר" היא בין פיתוח רשתות-נוירונים לבין פיתוח פתרונות במסגרת "למידה ממוחשבת קלאסית" (באמצעים כמו gradient boosting או SVMs). שם אני חושב שהמצב לא שקול, אבל בכלל שלרשתות-נוירונים יש יתרון מתודולוגי ברור.
רשתות נוירונים - AMA 698346
מעניין, תודה.
רשתות נוירונים - AMA 698350
תגובה נאה.

בקשר למשפט האחרון שלך, בעלי-אינטרס משתמשים כבר היום בבינה "באמצעות הדגשה והצנעה מחושבת של אינפורמציה, שליטה עדינה במסלולי ההפצה שלה, משחקי ניסוח קלים וכדומה" כדי "לתמרן באוכלוסיה כולה תוך ניצול החולשות הקוגנטיביות הטבועות בכולנו". רק שזו אינה בינה מלאכותית, קוראים לזה פוליטיקאים‏1, ולמרות הבוז שנפוץ לחוש להם, גם כאן באתר, חלקם עושים זאת במיומנות שלא היתה מביישת שחמטאי רב אמן.
אז למה אתה מוכן לקבל את זה אבל מפחד דוקא מבינה מלאכותית?

1 או פרסומאים, ויש עוד כמה.
רשתות נוירונים - AMA 698351
עם כל הכבוד ליכולת המניפולציה שהפוליטיקאים והביליונרים שמאחוריהם מפגינים היום, הפער בין היכולת שלהם לשחק בדעת הקהל לבין היכולת הפוטנציאלית של בינה מלאכותית לעשות זאת מגמד את הפער בין היכולת שלהם לשחק שחמט לבין היכולת של בינה מלאכותית לעשות זאת.

החשש שלי הוא מהבדל כמותי כ''כ גדול, שהוא הופך להבדל איכותי, שמאפשר לא ''מניפולציה'' אלא כמעט ''שליטה'', ולא ב-''המונים'' אלא בכמעט כולם. מערכת שתוכל לגרום לדב אנשלוביץ לתמוך במרץ ולארז לנדוור לאמץ את מצע הבית היהודי (ולשניהם לקנות המון קולה, כמובן).

אבל כאמור, זו ספקולציה מוחלטת, והיא לא ממש קשורה לכל שאר הדיונים כאן. אז לא ארחיב עוד על איך אני חושב שזה אפשרי.
רשתות נוירונים - AMA 698352
הבעיה שלי עם זה - למה שאלגוריתם הבינה המלאכותית של הליכוד יהיה חזק מזה של העבודה? יחסית למצב הנוכחי, בו ביבי הקוסם מסובב את כולם על האצבע, דוקא הגישה של כולם לאלגוריתמים כאלה היא סוג של דמוקרטיזציה של המניפולציה. באגע שלכולם יש את הכלים האלה, הרבה יותר קשה למניפולטור יחיד לקחת את כל הקופה.
רשתות נוירונים - AMA 698360
לפני כמה שנים נחשף שפייסבוק ערכה בחשאי ניסויים בהשפעה של חדשות על רגשות המשתמשים.
רשתות נוירונים - AMA 698363
ובאשר ל"לקחת את כל הקופה" - יש לנו דוגמה היסטורית אחרת לתהליך דומה: המסחר האלגוריתמי. שנראה לי שדי מדגים את הטענה שלי.
בטרם קיום המסחר האלגוריתמי, עיוותים והזדמנויות פז שנוצרו בשוק נוצלו על ידי בינות לא-מלאכותיות חדות עין וחושים כדי לגרוף הון ממסחר ולהפוך ל"גאון פיננסי" - המקבילה ל"קוסם פוליטי" מהתחום לעיל.
כיום האלגוריתמים האלה מזהים בחלקיקי שניות כל סטייה שכזו וסוגרים אותה מיד, מה שמקטין מאד את היכולת של סוחרים אנושיים בודדים לגרוף רווחים ממסחר ספקולטיבי (וגם אחר מן הסתם). וכך "הפסדנו"‏1 מאות גאונים-פיננסיים-של-המאה-‏20 שמסתובבים בינינו כאנשים פשוטים של המאה ה-‏21 שאולי מתפרנסים בכבוד אבל לא יותר מזה.

1 ואולי הרווחנו?‏2
2 למען ההסתייגות אומר שלמסחר האלגוריתמי יש יתרון מובנה שיטתי ובזוי - לא, לא המהירות שלו - שנותן לו פור לא הוגן כלפי שאר הסוחרים, שזה העמלות האפסיות שלו, בסדרי גודל מתחת לכל סוחר אחר. אבל על זה כבר התלוננתי כאן לא מעט וזה לא נושא הדיון.
רשתות נוירונים - AMA 698367
במסחר במטבעות דיגיטליים נפוץ מאד שימוש בבוטים שמייצרים המון הודעות סרק שנועדו להפיל בפח את המשקיעים (מהמרים?) הפשוטים. כך, האלגוריתמיקה יכולה לעקוב לא רק אחרי נתוני המסחר אלא גם אחרי ההפצה של ההודעות האוטומטיות (והרבה פעמיפ לא אמיתיות או מטעות) ולםי זה לנווט את הפעילות של מי ששולט במנגנונים האלה.
רשתות נוירונים - AMA 698413
החשש הוא לאו דווקא מזה שגוף אחד יקח את כל הקופה; עצם זה שאני נתון למניפולציות כאלה, גם אם הן בסוג של "תיקו" בין גורמים יריבים, הוא מטריד מאין כמוהו.
(אנלוגיה: בחשש הנושן, שלמדנו איכשהו לחיות איתו ואולי אינו כה כבד, שמפרסמים שוטפים לנו את המוח, לא מנחם אותי במיוחד אם פפסי וקוקה שוטפות את מוחי בשיווי משקל.)
רשתות נוירונים - AMA 698414
כן, אבל:
- במה זה שונה ממה שכבר קורה היום?
- בפוליטיקה למשל שטיפת מח הדדית קצת מבטלת את האפקט, מהסיבה הפשוטה שהמקרר שלך סובל בקבוק פפסי ליד בקבוק קולה אבל מעטפת ההצבעה שלך בקלפי לא.
רשתות נוירונים - AMA 698426
ההבדל מהיום הוא לא בהכרח הבדל קטגורי, אבל יכול להיות הבדל כמותי של סדר גודל, מבחינת מידת השליטה בי והמידה שזה מצמצם, במובן מסוים, את הערך שלי והרצון החופשי שלי. לפחות כך אני מבין את החשש של עומר.
רשתות נוירונים - AMA 698361
כדי לגרום לי לתמוך במרץ תצטרך המערכת לדעת לשנות את חוקי הטבע.
ואפרופו, חשבתי דווקא על בעיית הכיכר שהציג נדב בתגובה 698219 עניתי לו שכפי הנראה אם נחשוב הרבה נוכל בסופו של דבר לפתור את הבעיה הזאת. אחר כך באמת חשבתי, והגעתי למסקנה שהפתרון אכן יימצא ואפילו די בקלות אבל הוא יהיה חייב להיות על ידי הגמשת חוקי התנועה‏1 כי אין שום פטנט שמאפשר את פתרון הבעיה כשמקפידים על חוקי התנועה כלשונם. קשה לי לחשוב איך החלטה על רשות לשנות את חוקי התנועה יכולה להגיע ממערכת ממוחשבת ואפילו המשוכללת ביותר. בסופו של דבר צריך שאיזה אדם ייתן לה את הרשות לעשות זאת. הרי היא לא תעבור על הסמכויות שהעניקו לה, ואילו האדם "באופן אינטואיטיבי" מרשה זאת לעצמו.

1 אני חושב שבעולם שבו יהיו רק מכוניות אוטונומיות לא יהיו בכלל חוקי תנועה, או שלפחות לא יקראו לזה כך. יהיה איזה אלגוריתם שמסדיר את התנועה.
רשתות נוירונים - AMA 698362
הבעיה הזו, כמו בעיקרון כל הבעיות האחרות עם רכבים אוטונומיים, כבר נפתרה. מזמן. מזה כמה שנים (אני לא בטוח כמה הפיתרון לבעיה הספציפית הזו עתיק; המספר הוא בין 5 ל-‏25 שנים) מכוניות אוטונומיות יודעות להתמודד עם כיכרות בתנאים "טבעיים" (כלומר בחברת מכוניות עם נהגים, ותחת חוקי-התנועה הנוכחיים).

אני לא רוצה ליצור את הרושם שנהיגה-אוטונומית זו בעיה קלה (היא לא), אבל היא ככל הנראה הרבה יותר קלה ממה שחלק מהאנשים כאן חושבים. הנה וידאו עם הדגמה והסבר קצר על הנושא, משנת 1997, המציג פרוייקט שייצר מכונית אוטונומית כבר בשנת 1986.
רשתות נוירונים - AMA 698403
תודה על התגובה המושקעת.
ברצוני לשאול על משהו שעורר את סקרנותי. לי נראה מובן מאליו שכל אלגוריתם המנסה ל"הבין" סרט על בסיס של סדרת תמונות בודדות הוא שגוי מיסודו. לראיה, אפשר לקחת סדרת תמונות ולערבב אותה. ברור שרוב הסידורים החדשים יהיו חסרי ערך כסרט רציף.
האם ריבוי השכבות כולל בתוכו גם השהיית תמונה בין שכבה לשכבה, כך שכל תוצאה של העיבוד היא בהשהיה מסויימת תוצאה של תמונה מסוימת ועוד הרבה תמונות לפניה שנמצאות באותו זמן במערכת (בשכבות השונות)?
כמה כבדה מערכת "הבנת תמונה" על בסיס רשת נוירונים עמוקה? האם מערכת כזו יכולה לזהות מכשול מסוכן/לא מסוכן בסקאלת זמן של מאיות שנייה?
רשתות נוירונים - AMA 698405
הרחבת השאלה של שוקי: האם יש גם רשתות נוירונים עם מצבים פנימיים שיכולים לבטא במידה כלשהי את ההקשר? בעיקרון אני יכול לדמיין רשת עם משוב, כלומר שחלק מהפלט שלה מצטרף אל הקלט של האיטרציה הבאה אבל יש לי הרגשה שאני not even wrong.
רשתות נוירונים - AMA 698409
not even wrong? תיארת בגדול את הסכמה הנפוצה ביותר להתמודד עם הסיטואציה.

לרשתות כאלה - שמופעלות איטרטיבית ובכל צעד הקלט שלהן כולל בין השאר (בנוסף לתצפיות, בד"כ) גם קידוד של "המצב הנוכחי", והפלט שלהן כולל בין השאר (בנוסף לתחזיות, בד"כ) גם את הקידוד של "המצב החדש" - קוראים RNNs (ר"ת של Recurrent Neural Networks). אפשר לחשוב עליהן בתור הכללה של מודלי state-space קלאסיים כמו ה-Kalman filter או Hidden Markov Models. האימון והתכנון שלהן נוטה להיות טריקי; הן באופן כללי צריכות גם ללמוד כיצד ה-latent state קשור לתצפיות, וגם ללמוד את הדינמיקה בה ה-latent-state משתנה עם הזמן (זאת בנוסף לאתגרים טכניים אחרים שהן מציבות). אבל יש סט-גדול של טכניקות סטנדרטיות (יותר או פחות) לעשות זאת, והן בהחלט מעשיות.

רשתות מהסוג הזה הן מאד שימושיות, ולא רק עבור נתונים עם מבנה טמפורלי ברור. אפשר להשתמש בהן למשל גם כדי לנתח תמונות ע"י סריקה סדרתית של חלקים מתוכן, או כדי לנתח משפטים בשפות טבעיות ע"י סריקה של סדרת המילים.

באופן כללי, הרשתות הפשוטות והמוכרות ביותר מתנהגות כמו "פונקציה מתמטית": הן מפה בין קלט לפלט. אך ישנן ארכיטקטורות אחרות שאינן כאלה, שהן stateful, ופעולתן אולי דומה יותר להרצה של תכנית מחשב. RNNs למינהן (כפי שהצעת) הן הסוג הנפוץ ביותר של רשתות כאלה, אך יש גם סוגים אחרים.
רשתות נוירונים - AMA 698519
אתה יכול להוסיף או לתת הפניה לשימוש ב RNN ב NLP?
רשתות נוירונים - AMA 698526
זה נושא מיינסטרימי. הבעיה אינו למצוא רפרנס, אלא לברור ביניהם, ולצערי אין לי איזה "רפרנס אולטמטיבי".
תוכל למצוא סקירה טכנית עם הרבה הפניות נוספות בפרק העשירי כאן, וספציפית, בהקשר של NLP, אני מניח שתתעניין בעיקר ב-sequence to sequence models.
רשתות נוירונים - AMA 698528
תודה.
רשתות נוירונים - AMA 698410
רשתות שעובדות על וידאו לא מתייחסות לכל פריים כבלתי תלוי באחרים.

נניח לצורך הפשטות שהקלט הוא רצף של תמונות בשחור לבן (בפועל, במערכת כמו רכב אוטונומי, כנראה שבכל פיקסל יהיה מקודד מידע עשיר בהרבה מסתם בהירות, כמו מידע על צבע ועל עומק, והמערכת לא תתמודד רק עם רצף של פריימים ממצלמה אחת אלא עם פיוז'ן של אותות המגיעים מסנסורים רבים, חלקם מצלמות וחלקם לא).

ונניח גם שנרצה לנתח את הקלט באופן קזואלי (כלומר שהניתוח בכל נקודת זמן יעשה רק על סמך אינפורמציה הזמינה באותה נקודת-זמן או לפניה). זה בד"כ המצב במערכות זמן-אמת (כמו רכב אוטונומי), אך לא במערכות הפועלות אופליין (כמו למשל בניתוח סמנטי של סרטונים המועלים ליוטיוב).

דרך מקובלת אחת לקחת בחשבון את הקונטקסט, היא באמצעות קונבולוציות. במקרה של וידאו מדובר יהיה בקונבולוציות על בלוקים של מרחב-זמן (בניגוד לקונבולציות הפעולות רק במרחב, כמו במקרה של תמונות). זה קצת דומה למה שהצעת (אם אני מבין נכון את כוונתך ב-"השהיית תמונה בין שכבה לשכבה"), אבל זו טכניקה שבפני עצמה היא מאד מוגבלת, מכיוון שהיא מסוגלת לקחת בחשבון רק אינפורמציה מאד לוקלית (דברים שקרו לאחרונה). דרך מקובלת אחרת לקחת בחשבון את הקונטקסט, היא באמצעות RNNs כפי שמתואר בתגובה שכתבתי לשכ"ג, המאפשרות גם לקחת בחשבון אירועים רחוקים יותר בזמן ולהבין באופן הוליסטי יותר הסיטואציה שלפניהן. וכמובן שאפשר (ורצוי, ומקובל) לשלב את שתי הגישות.

לגבי זמני-תגובה: האימון של רשתות מורכבות הוא משימה מאד כבידה מבחינת המשאבים החישוביים והזמן הנדרש. אך השימוש בהן, לאחר האימון, הוא משימה כבדה בסדר-גודל רבים פחות (היא עדיין עשויה להיות יחסית כבדה, תלוי ברשת ובבעיה הסציפית). שיפור הביצועים בהרצת רשתות מאומנות זה מדע בפני-עצמו (למשל באמצעות pruning של חלקים מהרשת, או רדוקציה של הייצוג המספרי של הפרמטרים, או ביזור, או קירוב וכו' וכו'), ואני לא חושב שלגוגל למשל (שבונה את הרכב כולו, ויש לה שליטה מלאה על מערך החיישנים, החומרה והתוכנה) יש בעיה לעמוד בזמני התגובה הנדרשים.
רשתות נוירונים - AMA 698416
הערה צדדית: החלק שהכי מרשים, או מפתיע, אותי הוא שאפשר לקבל את משאבי החישוב הדרושים במחיר סביר. במחשבה נוספת, יותר מרשים מזה הוא שהמוח שלנו עושה משהו דומה עם מעבדים איטיים בהרבה.
רשתות נוירונים - AMA 698417
ובמחשבה שלישית: אבל מספר המעבדים שונה...
רשתות נוירונים - AMA 698427
אתה מדבר על משאבי החישוב בלמידה או ביישום? כי אלה סדרי גודל שונים מאד.
רשתות נוירונים - AMA 698428
לא בטוח שהמוח שלנו עושה משהו דומה.

אלנ"ב (אני לא נוירו-ביולוג), אבל למיטב ידעתי את האנולוגיה בין "רשתות נוירונים" בלמידה-חישובית לבין "רשתות נוירונים" בנוירוביולוגיה צריך לקחת בערבון מאד מוגבל.

אין ספק שישנה הפרייה הדדית בין שני התחומים, אבל בד"כ האנלוגיות נשברות די מהר. למשל, היסטורית אחת המוטיבציות המרכזיות מאחורי פונקציית האקטיבציה הנפוצה ביותר היום (ה-rectifier, כנראה מוכרת יותר בשם ReLU) היא מעבר-הפאזה האמפירי שנצפה בניורונים ביולוגים (כלומר: רק אם סך הפוטנציאלים הקדם-סינפטיים גדול מאיזשהו סף, נוצר פוטנציאל פעולה). זאת לעומת ההתנהגות של פונקציית האקטיבציה שזכתה למירב הפופלריות לפני כן בלמידה עמוקה (ה-hyperbolic tangent הסימטרית). אבל מצד שני, מעבר לסף, הפעולה של ה-rectifier פרופורציונאלית לקלט, בעוד שאצל נוירונים ביולוגיים (בד"כ) היא קבועה. ובכלל, הסיבה המרכזית להצלחה של ה-rectifiers (בניגוד לאקטיבציות אחרות שגם הן א-סימטריות, כמו סתם thresholds או פונקציית ה-softplus) בעליל לא קשורה למוטיבציה ביולוגית כזו או אחרת, אלא היא טכנית לגמרי וקשורה להתנהגות הנחמדה של הנגזרת שלה בהקשר של אלגוריתמי האופטימיזציה הנפוצים (ווריאציות של SGD) ויעילות המימוש שלה. ככל הנראה לסיבה הזו אין שום קשר לביולוגיה.

דוגמאות אחרות (ומעניינות יותר) להפרייה הדדית הן למשל הרעיון של למידה הביאנית שפותח בהקשר של נוירוביולוגיה, והתגלגל לאלגוריתמי הלמידה הראשונים שפותחו לפרספטרונים ואח"כ ללמידה במודלים מבוססי-אנרגיה, או למשל רשתות הופפילד שפותחו כמודל לזיכרון-האנושי, ומהן נגזרו תאוריות מעניינות ואלגוריתמים שימושיים בלמידה-חישובית, או למשל ה-wake-sleep algorithm שנמצא על קו-התפר בין נוירולוגיה-תאורטית, למידה-בייסאנית ולמידה-עמוקה ומצד אחד מהווה תאוריה נוירוביולוגית מעניינת לכך שבעלי-חיים באופן כללי נוטים לישון מידי פעם, ומצד שני משמש כאלגוריתם לאימון משפחה מסויימת של מערכות-לומדות, או למשל הדמיון בין רשתות-קונבולוציה בראייה-ממוחשבת לבין המבנה של ה-visual cortex ההתאוריה הנוירוביולוגית של receptive fields (צפייה מומלצת: ניסוי החתולים של Hubel ו-Wiesel).

אבל למרות כל זאת, ההבדלים בין התחומים עולים בהרבה על הדמיון. כמובן, החומרה מאד שונה. וההתנהגות של מודלים דינמיים של נוירונים ביולוגיים (כמו Hodgkin–Huxley model) שונה מאד מזו של "נוירונים" בלמידה-חישובית, ואפילו המודלים הדינמיים האלה בעצם שונים מאד מהמכניקה הביולוגית (תעלות ומשאבות יונים, מוליכים עצביים, וכל זה). ולמרות שהמוח הוא בברור מערכת מאד אדפטיבית, היא גם מערכת עם התמחויות מאד ספציפיות שחווטו במהלך האבולוציה. לא ממש ברור מה "הדרך הנכונה" למדל בכלל את האופן שבו המוח הוא אדפטיבי (זה כנראה יותר בכיוון המאד כללי של reinforcement learning מאשר supervised learning), ולא ממש ברור איך פועלת מערכת המשוב של האדפטציה הזו. גם אם גרסה כלשהי של backpropagation ו-SGD משחקת תפקיד בלמידה הביולוגית, היא כנראה שונה באופן ניכר מהגרסה המשמשת בלמידה חישובית.

אני חושב שזו אחת הסיבות שאנשים התרחקו מהטרמינולוגיה של "רשתות-נוירונים" והמותג "למידה-עמוקה" התחזק (ומעניין מה יקרה לו אם יתברר בהמשך שהעומק לא משחק תפקיד נורא-חשוב...).
רשתות נוירונים - AMA 698449
עלה בדעתי שחלק (קטן) מהפופולריות של למידה עמוקה אולי נובע מהשימוש בתואר "עמוקה" בשם המותג. זאת פשוט מילה מצוינת, שמשדרת כובד ראש ו... עומק. ע"ע תיאוריית הקונספירציה deep state, וכן deep structure של חומסקי.

אפרופו הסוגריים האחרונים אצלך: נדמה לי ששמעתי פעם שאחד החלוצים של רשתות הנוירונים כתב באחד המאמרים המכוננים של התחום שאי אפשר להשיג שיפור משמעותי ע"י הוספת הרבה שכבות, כל הקהילה פשוט קיבלה את דעתו (הבלתי מנומקת), ולכן לקח הרבה שנים עד שגילו - יחסית לאחרונה - שעומק דווקא מאד עוזר. מוכר לך הסיפור הזה, או שאני משבש/הוזה?
רשתות נוירונים - AMA 698469
בתור מתמטיקאי (אתה) אני מתפלא על הנימוק הזה. משתמשים בזה כי זה עובד. וזה לא סתם עובד, זה אחושלוקי עובד. זה עובד כל כך טוב שאלפי בעיות שעד לפני 2012 היו בעיות מאד קשות (תיאורטית או פרקטית), הפכו לפירות תלויים נמוך‏1 - כל כך נמוך, שכל "טמבל" שאוסף מספיק מאגר נתונים ללימוד עבור בעיה כזאת שעוד לא ניסו עליה "למידה עמוקה" קופץ ישר לראש הטבלה בנושא הזה (או מצליח לשכנע מישהו להשקיע בו כמה מיליוני דולרים).
באותה מידה יכולת לומר שבגלל שהשם "רוג'ר פדרר" מתגלגל על הלשון יותר מ"דודי סלע", זה כנראה מסייע לחלק (קטן) מהפופולריות שלו.

1 נו, Low hanging fruits
רשתות נוירונים - AMA 698476
אני דווקא מסכים עם יובל. גם רשתות מרקוביות עובד אבל פחות טמבלים ישמעו על זה. כדי שמשהו יצליח אפילו בעולם של החנונים, צריך איזשהו באזז ראשוני. משהו שעיתונים ישמחו לפרסם, שיהיה מלכודת קליקים, ושאנשי שיווק של חברות כמו גוגל או אמזון ישמחו לגלגל על הלשון כשהם מדברים.
לך תדע כמה בעיות היו כבר פתורות אם רשתות מרקוביות היו נקראות גרף גמיש או הימור חכם או קשקוש אחר.
רשתות נוירונים - AMA 698479
או שזה קורה באופן טבעי? כשיתגלה שרשתות רסקולניקוב הן הדבר החם הבא, מישהו כבר ימצא להן שם פשוט וקליט יותר.
רשתות נוירונים - AMA 698480
מה זה רשת רסקולינקוב? זה גרסא מתקדמת יותר של רשת אנטיגונה?
אני עוד אחזור! לבד, בחושך. 698481
רשת רסקולניקוב תשמש כבסיס הנוירוני של הטרמינייטור הבא: היא מחסלת אנשים, אבל אחר כך יש לה מלא רגשות אשם.
רשתות נוירונים - AMA 698514
ב-"רשתות מרקוביות" אתה מתכוון ל-MRFs ו-CRFs, נכון?

אם כך, הדוגמה שלך אירונית. כל ההייפ הנוכחי של הלמידה העמוקה התחיל בדיוק סביב מודלים כאלה.

ראשית, כבר כתבתי זאת, אבל אני מתאר לעצמי שזה מסר מורכב, אז אכתוב זאת שוב (ושוב): deep larning זו פרספקטיבה על למידה חישובית, לא משפחה ספציפית של מודלים. בפרט, למידה-עמוקה היא (במובן מעשי) "הדרך הנכונה" לחשוב על מודלים גרפים (מרבית החלק השלישי בספר הבינוני-אך-מפורסם של bengio et al עוסק בדיוק בכך).

בסקירה ההיסטורית הקצרה קודם, סיפרתי שראשית הגל-החדש של רשתות-הנוירונים התחיל כאשר הינטון המציא את אלגוריתם ה-CD, וגילה כיצד לשרשר RBMs. במה בעצם מדובר? Boltzmann machines הן סוג של Markov Random Field, והמאמר האמור של הינטון ב-‏2006 גילה איך להשתמש בהן כדי לאמן Deep Belief Networks שהן וריאציה של Conditional Markov Field.

זו הייתה פריצה דרך, כי מודלים גרפיים הם אמנם מאד אלגנטיים כמודלים, אבל הם נוראיים בכל הנוגע לאלגוריתמיקה הקשורה בהם (כמו אימון או הסקה) - ולראשונה הוצעה הדרך מעשית לעשות זאת, והיא זו שהובילה לפריחה של הלמידה-העמוקה.

ובכלל, זו הגזמה להכריז "זה עובד" על רשתות-מרקביות. אפילו בהקשר של רשתות-נוירונים הפופולריות שלהם מאז דעכה מאד (כי דברים אחרים עובדים טוב יותר), ושלא בקונטקסט-של-רשתות נוירונים הם (למיטב ידעתי) עובדים רק במקרים מאד מנוונים (נגיד, HMMs) או רק על הנייר (כל מה שקשור belief propagation...).

יש סביב הנושא הרבה הייפ, וכפועל יוצא הרבה אנשים עושים הרבה שטויות - אבל לכשעצמן, רשתות-נוירונים הן הצלחה אמיתית עם הישגים מאד מרשימים, ונכון להיום, אין להן תחרות אמיתית. זה לא טריק שיווקי.
רשתות נוירונים - AMA 698520
לא. התכוונתי ל HMM וזה בדיוק העניין. לא משתמשים בזה הרבה, אולי אם היה לזה שם יותר קליט אז היו משתמשים בזה יותר. וכמובן שם קליט בלבד זה לא מספיק, זה צריך להיות רלוונטי לבעיה
רשתות נוירונים - AMA 698527
טוב, כאן מן הסתם אין לי תימוכין חוץ מ-"נראה לי", אבל הרושם שלי הוא שמשתמשים ב-HMM היום (היכן שהגיוני לעשות כך) בערך במידה בה השתמשו בו לפני 20 שנה.

אבל האפלקטיביות של המודל מוגבלת: צריך מרחב-מצבים יחסית קטן, וצריך להתחייב על משפחה ספציפית של ההתפלגויות, וצריך שהמשפחה תהיה עם ייצוג פרמטרי מאד נוח (כמעט תמיד נורמלית או מיקס-גאוסני, קורה שפואסנית, ואני לא זוכר שראיתי דוגמאות אחרות). וכמובן, צריך שהמודל יתפוס את הדינמיקה של המערכת עליה עובדים. רשתות-נוירונים מאפשרות לפתור בעיות דומות בצורה הרבה יותר רובוסטית, ולתפוס דינמיקה הרבה יותר מורכבת, והרבה בעיות שלא היו פתירות לפני 20 שנה באמצעות HMMs נפתרו או שופרו משמעותית בשנים האחרונות (דוגמא קלאסית: text to speech).

(וחוץ מזה, אלגוריתמים כמו Viterbi או EM שימושיים גם מחוץ להקשר של HMMs).
רשתות נוירונים - AMA 698529
hmm זה דוגמא ולא העקרון.

שמעת על בסיס הנתונים 1010data? גם אני לא, עד לפני 5 דקות. יכול להיות שהוא היה מדהים והקדים את מתחריו ב 3 שנים לפחות בשנת 2002. אילו רק היה לו שם יותר קליט הוא היה ממריא.
רשתות נוירונים - AMA 698530
איבדתי אותך.
רשתות נוירונים - AMA 698531
הנה השתלשלות הפתיל כפי שאני רואה אותה.

יובל: עלה בדעתי שחלק (קטן) מהפופולריות של למידה עמוקה נובע מהשם המוצלח
פונז: מתפלא עליך, משתמשים בזה כי זה עובד
אח של: דווקא מסכים עם יובל. הנה נימוק בלה בלה והנה דוגמא לטכנולוגיה שהיא לא פופלרית במיוחד אבל אולי היה לה יותר פוטנציאל עם שם יותר טוב.
עומר: כן אבל יש עוד סיבות שהטכנלוגיה הזו לא פופולרית ולמידה עמוקה כן
אח של: הדוגמא לא עקרונית, הנה דוגמא אחרת למשהו כזה

ואני מזכיר שיובל כתב: חלק קטן
רשתות נוירונים - AMA 698532
אתה בטח מבין שדוגמא למשהו שלא הצליח עם שם גרוע לא מוכיחה כלום, בערך כמו דוגמה לשחקן הלא ידוע יוסי כהן שכנראה לא הצליח כי האות השלישית בשם שלו היא ס'. או אולי כי האוזניים שלו קצרות מדי. או אולי כי הוא מזל סרטן עם אופק לשור.
רשתות נוירונים - AMA 698533
רודני דנג'רפילד מספר איך שם יכול להיות בעייתי.
רשתות נוירונים - AMA 698538
מי דיבר על הוכחה? זאת היתה דוגמא. אילוסטרציה.
רשתות נוירונים - AMA 698540
כן, אפילו בתור דוגמה לא הבנתי למה היא תופסת, ראה מזל שור.
רשתות נוירונים - AMA 698542
טוב, יכול להיות שהדוגמא רק מקשה על הנקודה ולא תומכת בה. עזוב את הדוגמא.

הנה נימוק ללא דוגמא.

לאנשים יש העדפה (תת מודעת) לשמות מסויימים על פני אחרים, זה מעוגן בכל מיני תופעות אמפיריות מוכרות. למשל name bias, name letter effect.

[אני יודע שזה גם ביזנס גדול של כל מיני חברות ייעוץ לאיך לבחור את שם המותג שלך. והרבה פעמים ההצעות שלהן לא שוות את הכסף, בלשון המעטה. אבל יש לזה בסיס אמפירי.]

מה שאני אומר זה ששם מוצלח גם יכול לתרום תרומה קטנה להצלחה של טכנולוגיה מסוימת. בכל זאת גם גיקים הם אנשים והם לא חפים מהשפעות כאלה. ואני חושב שלמידה עמוקה זה שם מוצלח - אבל אין לי הוכחה אמפירית. בעיני זה מוצלח. אולי זה שם גרוע והטכנולוגיה הצליחה למרות השם הזה.
רשתות נוירונים - AMA 698543
טוב, מה אני יודע, כשהתחלתי להתוודע לטרנד הזה עוד קראו לזה רשתות נוירונים קונבולוציוניות מרובות שכבות.
כבר אז התוצאות נראו נאות.
רשתות נוירונים - AMA 698549
גם זה ששמעת על זה כבר אז, זה לא הוכחה לכלום.
רשתות נוירונים - AMA 698535
שמות נהדרים כמו קסנדרה או מונגו די בי (Mongo DB)?
רשתות נוירונים - AMA 698539
טובים בהרבה. הרבה יותר זכירים ופחות גנרים.

וכהקדמת תרופה למכה: ברור ששם זה לא קריטריון יחיד, אפשר להצליח גם עם שם גרוע.
רשתות נוירונים - AMA 698510
זאת באמת שאלה טובה האם שם מוצלח לשיטה (מדעית) יכול להגדיל, ולו בקצת, את הפופולריות שלה. אני לא מוכן להתחייב שבמקרה של למידה עמוקה התרומה של השם היא אפס עגול (אבל חושב שאם היא חיובית, היא קטנה מאד).

באוטוביוגרפיה (המרתקת) של סטן אולם, שכבר הזכרתי כמה פעמים באייל, הוא כתב על שיטת מונטה קרלו (שהוא היה אחד ההוגים שלה): "It seems to me that the name Monte Carlo contributed very much to the popularization of this procedure".

אני תוהה לאיזה שיטות מדעיות יש שם שמצלצל במיוחד גרוע. הכי טוב (כלומר גרוע) שמצאתי בחצי דקה של חשיבה זה Expectation Maximization.
רשתות נוירונים - AMA 698517
לא ממש מה שתמהת לגביו, אבל הנה פינת האסוציאציות החופשיות שלי:

1. המפץ הגדול, שם שהוצע ע"י פרד הויל כדי להגחיך את הרעיון ולא ממש הצליח לו.

2. שיטה דיגיטלית (יה! יה!) לדיאגנוזה של סרטן הערמונית. אחרי שתמהתי על מה מדובר התברר לי שמדובר ב digit במובן המקורי של המילה, כלומר אצבע (אתם יכולים לנחש בעצמכם לאן הרופא דוחף אותה).
רשתות נוירונים - AMA 698536
Simulated annealing .

רשתות נוירונים - AMA 698512
זו אולי מסביר את ההצלחה של המותג "למידה עמוקה" (נדמה לי שהשם עלה לראשונה כעשור או שניים לפני שהוא באמת תפס). התחום עצמו לא צריך מטא-הסבר להצלחתו.

יש המון "משפטי-אוניברסליות" מהצורה "כל רשת עם רק 2 שכבות (+אותיות קטנות) יכולה לייצג כל פונקציה", שמהן אפשר בטעות להבין שלא צריך עומק. אבל השאלה של ייצוג (capacity) היא לרוב לא באמת מעניינת, ויכולת-ההכללה היא הנקודה החשובה - וכאן כנראה שלעומק יש תפקיד חשוב. חלק גדול מזה מובן תאורטית ומתמטית, אבל השאלה אם נגיד 10 שכבות הן די והותר, או האם כל-המרבה-הרי-זה-משובח עדיין פתוחה.

הסיבה שרשתות עם יותר מ-‏2-3 שכבות הפכו לפופלריות בשנים האחרונות היא לא כי גילו שעומק עוזר, אלא פשוט כי סופסוף גילו איך אפשר (אלגוריתמית) לאמן כאלה רשתות.
רשתות נוירונים - AMA 698577
הייתי בהרצאה בת יומיים וחצי של מומחית לסטטיסטיקה וללמידה חישובית, שמחלקת את זמנה וגם את הרצאתה בין שני התחומים, ולפחות כמרצה היא תותחית-על. אחת ההבחנות שלה היתה שאלו שני תחומים דומים, וההבדל העיקרי הוא שסטטיסטיקאים קוראים לדברים בשמות משמעממים/שמרניים ואילו אנשי הל"ח קוראים לדברים בשמות מגניבים/יומרניים.

פונז - זה שקראו לזה בהתחלה "רשתות נוירונים קונבולוציוניות מרובות שכבות" הוא אולי דוגמה נגדית. אבל אולי דוגמה מחזקת? עובדה ש"הגניבו" את השם...
מדבר מה(סופר)פוזיציה 698578
זו קצת שאלת ביצה ותרנגולת, כי אולי השם "הוגנב" רק אחרי שהטרנד התפשט ממעבדות המומחים כמו אש בשדה קוצים?
ואז, מרגע שהיה צורך במאמרים פופולריים יותר במדיה הציבורית שמתארים את התופעה החדשה, הומצאו מושגים קליטים יותר שיתאימו לתיאור הזה?

רוצה לומר, "החתול של שרדינגר" הומצא יותר מעשור אחרי שהפיזיקאים כבר טחנו משוואות דיפרנציאליות של גלים ומטריצות הרמיטיות של אופרטורים שהצליחו לתאר את העולם בצורה חדשה ונפלאה מבלי להידרש למטאפורות מגניבות על חיות מחמד נפוצות.
רשתות נוירונים - AMA 698851
נכון מאד. טרבור הייסטי מאונ' סטנפורד, אחד האלילים של הלמידה הסטטיסטית‏1, נתן הרצאת keynote בכנס של האיגוד הישראלי לסטטיסטיקה לפני שנתיים. הוא אמר שם שהרבה מאד מהרעיונות החדשים לכאורה, שהופצו ע"י מדעני למידה עם שורשים במדעי המחשב, הם בעצם רעיונות ידועים היטב בסטטיסטיקה כבר משנות השמונים והתשעים, והוא מתפלא שרק בשנים האחרונות התפוצץ כל ההייפ הזה.

מותר לשאול מה שמה של המומחית?
____________________
1. בין השאר, אחד ממחברי the Elements of Statistical Learning.
רשתות נוירונים - AMA 698861
קאסי קוזירקוב.
רשתות נוירונים - AMA 699747
יש לה בלוג חדש, עם פוסט יחיד בינתיים שהוא הסבר קצרצר להדיוטות על מה זה למידת מכונה.
רשתות נוירונים - AMA 699748
כשנתקלתי באחת הכותרות שלה בהסבר ללמידת מכונה: Explain with examples, not instructions, נזכרתי במשהו שרציתי לכתוב כאן מזמן בקשר לויכוחים ארוכים בנושא אחר לגמרי - "מהי אמנות".
מהלך אופייני בויכוח כזה הוא שלבסוף מתכנסים לאמירה שמאחר ואתה לא יכול *להגדיר* מהי אמנות, כל ויכוח לגבי האם תערוכה או מוצג כזה או אחר הם 'אמנות' נידון לכשלון בגלל שאנחנו לא מצליחים לנסח הגדרה מדויקת מספיק למהי אמנות.
באה למידת המכונה ומבהירה לנו שהדרישה להגדרה (=תיאור מילולי קצר=תיאור אלגוריתם לסיווג אמנות/לא אמנות=instructions בציטוט לעיל) היא ארכאית בערך כמו הדרישה לקרוא 'דואר' רק למשהו שיש עליו בול ודבק או הדרישה להגדיר 'טלפון' כמשהו שיש לו חוט שקשור לקיר.
אומרת למידת המכונה - סיווג שנלמד על פי דוגמאות ולא על פי הוראות/הגדרות/עצי החלטה פשוטים, הוא לגיטימי לא פחות מהסיווג הישן, וממשיכה ומלמדת אותנו ה'למידה העמוקה' שסיווג כזה הוא הרבה יותר מדויק ומוצלח מהישן.
לך לרשת הנוירונים העמוקה המובילה היום בסיווג תמונות ל'כלב' ו'חתול' ותשאל אותה על תמונה מסוימת 'למה החלטת שזה חתול' - שזה מקביל אולי לשאלה 'לאיזה "הגדרות" של חתול היא מתאימה' - והיא תצחק לך בפנים, תכנת פורטרן מהאייטיז שכמוך, ואם תתעקש תענה לך בטבלה ארוכה ומפורטת של עשרות מיליוני המשקלות ברשת שהם אלה שמחליטים שזה חתול.

אז לסיכום, אם לא הובנתי עד כה, מה שלמדנו מלמידת מכונה זה שקיום 'הגדרה' למושג כלשהוא איננו תנאי הכרחי לסיווג לגיטימי ובר סמכא של אותו מושג, ושהמשפט הנושן לגבי פורנוגרפיה, ואולי גם אמנות - אני לא יודע להגדיר לך את זה, אבל כשאראה את זה אדע - לא מראה על מגבלת הידיעה שלנו, אלא להיפך, על התוקף הלגיטימי והמוצק של ידיעה שמבוססת על דוגמאות אינספור.
יש לך ספק אם יצירה מסוימת היא אמנות? תראה לי אותה ובוא נתווכח, ואל תתחמק בטיעונים פילוסופיים של חוסר הגדרות. אלא אם בא לך לכתוב פורטרן על מיין פריים, סטייה לגיטימית אבל ארכאית למדי.
רשתות נוירונים - AMA 699749
יפה. אתה יכול להשתמש בזה כדי לשים בצד את חיפוש ההגדרה לאמנות כשהוא לצורך הבנת אידיאת האמנות, או כדי להסביר למה החתונה בכנא היא אמנות. אבל במקומות כמו "האייל" מחפשים הגדרה לאמנות יותר מכל כדי לנסות לשכנע שברודווי בוגי ווגי הוא כן או לא אמנות, כשהסיבה לויכוח היא שזו יצירה על אזור הגבול של התיחום הקונצנזואלי. אני חושב מזמן שהשאלות מהסוג הזה לרוב לא מעניינות, ושניסיון לענות עליהן לפי הגדרה הוא סרק, אבל לא ברור לי שרשתות עצביות הן טיעון חזק בעניין.
רשתות נוירונים - AMA 699760
אם אתה כבר מניח ש''ניסיון לענות עליהן לפי הגדרה הוא סרק'', אז אכן הטיעון שלי לא מוסיף לך הרבה.
למי שעדיין חושב שסיווג על פי הגדרה הוא קריטריון חשוב ומעלה את הטיעון הזה בויכוח, אותו הטיעון שלי אמור ללמד שכדאי שיחשוב שנית.
רשתות נוירונים - AMA 699750
>> סיווג שנלמד על פי דוגמאות ולא על פי הוראות/הגדרות/עצי החלטה פשוטים, הוא לגיטימי לא פחות מהסיווג הישן

אבל שורש הבעיה הוא שיש דוגמאות שהסיווג שלהן שנוי במחלוקת, לא? יש מי שחושב שמשתנה היא אמנות, ויש מי שלא, אז איך תסווג (בשלב האימון) משתנה?
מה משתנה הלילה הזה 699761
שים לב שהטיעון העיקרי שלי הוא לא שיש לי פתרון לשאלת "האם משתנה היא אמנות", אלא שמי שטוען שאי אפשר לדון בשאלה הזאת לפני שהגדרנו "אמנות" טועה.

ספציפית לגבי השאלה שלך, אולי בכלל מה שראוי לשאול הוא - בהינתן לימוד על היסטוריה ענפה (בטרם משתנה), מה תאמר הרשת על משתנה.
ויטענו אנשי ה-AI הקשה: אבל זה בדיוק הניסוי שעשינו, נתנו לאלפי רשתות כאלה (משוכנות היטב במוחות אנושיים) שלמדו על דוגמאות עד כה, את הדוגמית החדשה - משתנה - ושאלנו אותן האם זו אמנות. חלק טענו שכן, וחלק שלא.
אולי טענת משנה חלשה יותר שעולה מהטיעון שלי, היא שטיעונים כמו "מאחר שהדוגמית החדש דומה למוצג שראיתי לפני שנתיים כאן ואכן, ולזה שראיתי לפני 4 שנים כאן וכאן וגו', ולכן גם זו אמנות" הם תקפים ומשמעותיים יותר מאשר "לפי מילון שטיינוביץ'-ולדיסימוביץ' לאומנות פלסטית לדורותיה, המשתנה עומדת בקריטריונים 2.א ו-‏4.ב.(3), ולכן מקומה אומנותה".
מה משתנה הלילה הזה 699841
אז אני מצטרף לטיעון של "אנשי ה-AI הקשה".
מה משתנה הלילה הזה 699847
ואני חוזר לטענה העיקרית שלי, מסכים שטענת המשנה לא מכריעה את השאלה.
מה משתנה הלילה הזה 699852
מסכים איתך שרשתות נוירונים יצרו דרך שמאפשרת (עקרונית) להכריע האם אובייקט מסוים הוא אמנות או לא, בלי לנסח הגדרה מדויקת ל''מה זה אמנות''. אני רק אומר שהדרך החדשה הזו לא שווה הרבה בעיניי במקרי הקצה, נוסח המשתנה של דושאן, שעליהם בני האדם ממשיכים להתווכח.
מה משתנה הלילה הזה 699856
אני מסכים שהדרך החדשה לא פותרת את בעיית הסיווג, היא רק ''פותרת'' או מורידה מהשולחן טיעון מקובל בקשר לבעייה, שמסיט את הדיון (הראוי לטעמי) במקרי הקצה להתפלספויות לא רלבנטיות.
מה משתנה הלילה הזה 699874
אין לי דרך להראות את זה אבל ההרגשה שלי שמי שעדיין מתווכח על המשתנה של דושאן זה בעיקר הקישונים של העולם, השוליים הנוקשים. והקישונים הם בעצם מהמילייה האומנותי.
רשתות נוירונים - AMA 698856
בצעתי חיפוש באתר ונראה לי שאת האנקדוטה הזאת עדיין לא ספרתי‏1, ולכן אספר אותה עכשיו. זה היה בשנות ה 60. קבוצה של סטודנטים נחה על הדשא באוניברסיטה העברית בירושלים. סטודנטית התקרבה לקבוצה ופנתה אליהם: אתם לומדים במקרה סטטיסטיקה? אחד הסטודנטים (לימים פרופסור עוזי סמילנסקי) השיב: אנחנו בכוונה לא לומדים סטטיסטיקה. (אני מקווה וגם בטוח שאיש לא נעלב.)

1 כיוון שמלאי האנקדוטות שאני זוכר בוודאי אינו אין סופי, כל פעם שאני עומד לספר אחת מהן אני בודק אם לא ספרתי אותה כבר, כי מאד סביר שכן.
רשתות נוירונים - AMA 698404
אתה יכול להסביר קצת יותר בעניין ה-xor? מהן אותן "רשתות של נוירונים לינארים" ומה הבדל ביניהן לבין הרשתות המודרניות?

(זכור לי שבשעתי גם אני התאכזבתי מאד כשקראתי איפשהו על המגבלה ההיא).
רשתות נוירונים - AMA 698411
(זה באמת נושא *הרבה* יותר פשוט מהרושם שההסבר המסורבל שלי כאן עשוי ליצור...)

פונקציית ה-xor היא פונקציה בוליאנית פשוטה שאת טבלת-האמת שלה אפשר לראות כאן XOR_gate [Wikipedia]. נגיד שרוצים ללמוד אותה: הקלט יהיה טבלת האמת שמופיעה בערך (בסה"כ 4 דגימות), ואחרי האימון - אם הוא נעשה בהצלחה - תוכל להציג לרשת זוג של ערכים בוליאנים, היא תחזיר את התוצאה של הפעלת xor עליהם (למשל עבור הקלט (0,0) היא תחזיר 0, ועבור הקלט (0,1) היא תחזיר 1).

אפשר לחשוב על הבעיה כבעיית קלאסיפיקציה, בה על הרשת להתאים לזוג-סדור של ערכים בוליאניים את התווית "0" או את התווית "1". מודל קלאסיפקציה לינארי, הוא כזה שינסה לפתור את הבעיה על ידי מציאת "מישור מפריד" במרחב הקלט שמצד אחד שלו מצויים כל הקלטים להם מתאימה התווית "0" ומצידו אחר מצויים כל הקלטים להם מתאימה התווית "1". פונקציות בוליאניות כמו and או or אפשר ללמוד באופן הזה, אבל את הפונקציה xor אי אפשר (המחשה).

"מסתבר" שאם מרכיבים הרבה מודלים לינארים קטנים (לא משנה כמה מהם, ולא משנה איך מרכיבים אותם) - התוצאה המתקבלת היא מודל לינארי. לכן רשתות מסובכות וגדולות כרצונך המורכבות אך ורק מ-"נוירונים לינאריים" לעולם לא תוכלנה ללמוד פונקציה פשוטה כמו xor.

הנושא והמציאות ההיסטורית קצת מורכבים יותר: פרספטרונים - גם בשנות השישים - הם לא "נוירונים לינארים", למרות שבפני עצמם הם כן "מודלים לינארים". אז רשת של פרספטרונים בעלת-שכבה אחת לא יכולה ללמוד את פונקציית xor, אבל רשת בעלת שתי שכבות של פרספטרונים כן יכולה - ולמעשה יש "משפט אוניברסליות" שאומר שרשת כזו יכולה ללמוד כל פונקציה סבירה.
רשתות נוירונים - AMA 698415
שוב, תודה רבה.
Deep Dream 701713
אני מנצלת את הדיון לשאלה לגבי Deep Dream, אפשר? Deep Dream היא התוכנה של גוגל שהופכת תמונות לציורים סוריאליסטים עם פרצופי כלבים שצצים בכל מקום. התוכנה הזאת מבוססת על Deep Learning שבבסיס הלמידה שלה היה מאגר גדול של תמונות כלבים ולכן היא רואה כלבים בכל דבר. אבל המושג של Deep Learning איך נראה כלב שונה מאד מהמושג שלנו, וכשמדפיסים תמונות של הפיקסלים של המשקלות שהביאו אותה להחלטה שזה כלב, בתמונות האלה אין שום דבר שמזכיר לנו כלב. איך Deep Dream יודעת לצייר כלב שגם אנחנו מזהים?
Deep Dream 701719
מאד בגדול:
ככל הנראה יש כאן שימוש ברשתות נוירונים שנקראות GAN - Generative adversarial network.
רשת שכזו היא מעין מנגנון "מתחרה" לרשת נוירונים קלאסית - הרשת הקלאסית מאומנת לסווג תמונות ('כלב', 'חתול,' או 'כרוב'), ורשת ה-GAN מאומנת ביצירת תמונות. עכשיו, עושים ביניהן סוג של אימון הדדי, כשהרשת היוצרת מייצרת תמונה, הרשת המסווגת נותנת לה ציון ('כמה קרובה התמונה שיוצרה לתמונת כלב'), ולאור הציונים הרשת יוצרת התמונות מתעדכנת ולומדת שוב ושוב, עד שהיא מייצרת תמונה שציון ה'כלביות' שלה מספיק.
שלא במפתיע, מאחר והרשת המסווגת למדה לסווג על פי תמונות אמיתיות של כלבים‏1, אכן התמונות שנוצרות בסוף תהליך הלימוד-יצירת תמונה-סיווג-לימודיצירת תמונה-סיווג-... מכילות תמונות או תתי תמונות שמאד דומים לכלבים.

רק כדיסכליימר - אכן יש ענף כיום שמשתמש באותן רשתות GAN, כדי "לרמות" את הרשת המסווגת - ז"א ליצור תמונות ש*לא* מכילות כלבים, אבל יזוהו ככלבים, או ליצור תמונות של כלבים שיזוהו כדובי פנדה וכדומה.

1 נשאיר רגע בצד הטכני את הדיון ב"המושג של Deep Learning איך נראה כלב שונה מאד מהמושג שלנו" - אחרי שהרשת למדה, היא ממש טובה בזיהוי כלבים‏2.
Deep Dream 701736
הגיוני שיש שם משהו שיודע לצייר. מצד שני ראיתי עכשיו עוד תמונות מתוך השכבות והן הרבה יותר טובות ממה שראיתי קודם ואפשר להבין מה רואים, אז ההנחה שלי לא הייתה כל כך נכונה. יכול להיות שנכנסים לאחת השכבות הקודמות, וכל עצם שהיא זיהתה אומרים לה ''נכון, לכי על זה''.
רשתות נוירונים - AMA 702458
סיפור קצר, משעשע ומטריד, בהקשר לסכנות הכרוכות בבינה-מלאכותית: Sort by Controversial.
רשתות נוירונים - AMA 702462
סכנות מרשת נוירונים? בינתיים דברים כאלו נעשים בצורה ידנית ויעילה מספיק. המחשבים כאן הם לא מה שמדאיג אותי. מהבחינה הזו הסיפור לא נשמע אמין.
רשתות נוירונים - AMA 702477
לא מספיק קצר, משעשע בתחילתו, ואז מורח את הרעיון הרבה יותר מדי.
הוא כן סיפק לי לפחות הפתעה לא שגרתית - לראות את 'מנה מנה, תקל ופרסין' באמצע סיפור באנגלית היה מאד לא צפוי.
רשתות נוירונים - AMA 702546
אני הופתעתי לגלות את הביטוי באמצע שיר בגרמנית.
(דלגו ל-‏3:30 אם אין לכם סבלנות לחפירה הצלילית - לא מהמעניינות ביצירות הלהקה. הנה המילים הקצרות, עם תרגום לאנגלית, למי שרוצה לנסות לפרשן מה קשורה הכתובת על הקיר. אני לא מבין.)
''אתם מוזמנים לשאול אותי'' 708414
כמעט 100 מיליארד דולרים הושקעו עד כה בפיתוח מכונית אוטונומית, ואפשר לשער שעד לפיתוח מכונית עצמאית ממש (מה שנקרא שלב 5) הסכום יוכפל פי כמה וכמה (שאלה ראשונה: פי כמה, להערכתך? ומה הניחוש לך ללו"ז?‏1). הסכום הזה לא מאד מפתיע אותי כי הבנתי שמדובר על בעיה קשה באמת (ותודה ללקס פרידמן על הפודקסטים).

בעיה שנראית להדיוט כמוני פשוטה מזאת בסדרי גודל היא ויסות דינמי‏2 של רשתות הרמזורים באזורים עירוניים. אני יודע שכמה חברות מתעניינות בנושא, וכבר ב 2014 טענו באונ. טורונטו שהבעיה פתורה מה שמשאיר אותי תמה למה היישום לא נראה בשטח. כך, לדוגמא, בעקבות google maps ובעיקר מאז רכישת waze יש לגוגל מאגר מידע עצום עבור שלב האימון של המערכת, ונראה שהם היו יכולים במאמץ יחסית קטן לייצר משהו בעל ערך גבוה לציבור, וערך מוסף עצום לגביהם כאשר המכוניות האוטומטיות שלהם תגענה לכבישים עם קצת ידע פנימי על ההתנהגות הצפויה של הרמזורים. ואם לא גוגל, ודאי שמחלקות ה-AI באוניברסיטאות וגופי מחקר יכולות לרכוש הרבה יוקרה - וחשוב יותר: ומענקים - אם יקלו במשהו על העומס הבלתי נסבל של התנועה העירונית. אמנם בניגוד לגוגל אין להם נתוני אמת, אבל נראה לי שזה תחום בו סימולציות יכולות להפיק את הנתונים באמינות גבוהה מאחר שיש הרבה פחות גורמים לא צפויים מאשר במכונית האוטונומית, כך שחלק גדול מתקציב הפיתוח - איסוף הנתונים לאימון, נחסך. שאלה שניה: אני צודק?

אני מבין שההשקעה הציבורית הנדרשת כדי לחבר את כל הרמזורים לרשת אינה קטנה, אבל גם חיבור של חלק מהרמזורים יכול לעזור כך שהיישום יכול להיעשות בהדרגה, כשהמערכת היא זאת שממליצה על סדר חיבור הרמזורים (ברור שיש כאלה שמשפיעים יותר על נפח התנועה הכללי). מאחר וכל המחשבות האלה אינן באות לידי ביטוי במה שאני רואה סביבי - ויש לי הרבה זמן להסתכל סביב כשאני תקוע בפקק - השאלה השלישית שלי היא איפה אני טועה כלומר, איפה מסתתרים הקשיים.

השאלה הרביעית שלי קשורה רק בעקיפין: מאיפה מגיעה החוצפה של נתיבי איילון להפיק את תשדירי הפרסומת שלהם לגבי העתיד, עם המסלולים המתחלפים, החניונים מחוץ לערים ונת"צ שאו-טו-טו יהפכו את חייה של נתי קלוגר לטובים יותר, בשעה שבעבר ובהווה הם לא מצליחים אפילו לתחזק את התמרורים המוארים שלהם? יש גם שאלה חמישית: איך זה שהפרסומאים עוד לא הבינו שחוכמות מאולצות כמו "אתה הבנת, יציאה.. איילון..." הופכות להיות מעיקות ממש בפעם השבע מאות שאתה נתקל בהן, כשכל מה שרצית הוא לראות את פתיחת החדשות, אבל דומני שהטרדתי אתכם מספיק לפעם אחת.

למותר לציין שהשאלות אינן מופנות דווקא לעומר...
______________
1- אולי אפשר להציע למערכת שאחד הסקרים הבאים יהיה ניחוש של התאריך, ובעוד X שנים יוכרז הזוכה.
2- אני לא רוצה להאריך, אבל "דינמי" יכול להיות דינמי ממש בין אם מדובר בגוגל, כי הם מקבלים בזמן אמת נתונים מוויז ובין אם מדובר במצלמות שיפוזרו בצמתים מסויימים, או "חצי דינמי" בהתאם לשעות היממה, רחובות חסומים, הפגנות וצרות דומות. מי יודע, אולי יתגלה אפילו שחסימה של איזה כביש יכולה להביא תועלת (ע"ע תגובה 428114)?
''אתם מוזמנים לשאול אותי'' 708422
רק לגבי אחת מהשאלות שלך - פתרונות רשתיים לניהול תעבורה עירונית (לרבות מה שקורה במימד השלישי של רחפני המשלוחים המתרבים) סובלים משתי בעיות עיקריות: הגנת סייבר ומקרי קצה של בטיחות תעבורה (בפרט לכאלה שאינם חלק מהמערכת או "קואופרטיביים").
''אתם מוזמנים לשאול אותי'' 708446
חשבתי שכבר היום יש פיקוח רשתי על פעילות הרמזורים אלא שהוא מתבצע ידנית וההתערבות היא ארוע נדיר. יש קושי אינהרנטי בהקמת VPN או איזשהו קשר מאובטח אחר שיקשר רמזורים עם המרכז?

לא הבנתי את העניין של הבטיחות במקרי קצה. בכל מקרה הרמזורים צריכים להיות מסוגלים לקבל פקודה שתחזיר אותם לעבודה במצב ברירת המחדל שלהם - כלומר לעשות מה שהם עושים היום - אם מתעוררת בעיה רצינית.
''אתם מוזמנים לשאול אותי'' 708425
אני לא מבין ב AI אבל מבין בסכומים.
אף עסק אמריקאי לא ישקיע מיליארדים במשהו שייתן פירות בעוד חמישים שנה. אפילו לא אילון מאסק.
לכן לפי האינדיקציה הכספית יש להם וודאות גבוהה שהמכונית האוטונומית כבר תישא פרי בעוד 15 שנה לכל היותר, וסביר מאוד שפחות.
כיוון שנראה לי שמכוניות אוטונומיות יתפקדו בצורה הטובה ביותר כאשר כל שאר המכוניות בכביש הן אוטונומיות, אני מהמר שבעוד 20-25 שנה כבר יהיה לפחות מטרופולין אחד בעולם שכניסת מכוניות נהוגות בידי אדם אליו תאסר‏1.

_____________
1 תגובה 708081 ההימור שלי הוא על סינגפור
''אתם מוזמנים לשאול אותי'' 708428
נראה שאילון מאסק מתקשה גם לצפות שנה קדימה. בדיוק לפני שנה הוא צייץ שהוא שוקל להפול את טסלה לחברה פרטית בשווי $420 מליון, ויש לו מימון בטוח.
''אתם מוזמנים לשאול אותי'' 708433
כשאמרתי אילון מאסק התכוונתי לחזון המאדים שלו.
אגב- ההתיחסות שלך לכשלון לא נכונה.
הכשלון הוא חלק משמעותי ובלתי נפרד מהנסיון להצליח. סטיב ג'ובס לא נכשל? הוא נכשל בענק! אבל בסופו של דבר הוא עשה מהפכה במוצרי האלקטרוניקה הניידים.
''אתם מוזמנים לשאול אותי'' 708623
לא $420 מליון, אלא $420 למניה.
''אתם מוזמנים לשאול אותי'' 708492
אני מסכים ש''אף עסק לא ישקיע מיליארדים במשהו שייתן פירות בעוד חמישים שנה'' אבל בניגוד לפוליטיקאים עסקים עלולים לטעות.
''אתם מוזמנים לשאול אותי'' 708488
"אולי אפשר להציע למערכת שאחד הסקרים הבאים יהיה ניחוש של התאריך [של פיתוח מכונית עצמאית ממש], ובעוד X שנים יוכרז הזוכה"

רק שנצטרך סקר מקדים על מה ייחשב בדיוק למאורע המכונן. מצד אחד, בכמה מקומות בעולם כבר נוסעות על כבישים רגילים כמה מכוניות אוטונומיות לחלוטין, דה פקטו, כך שלא מופרך לומר שזה כבר קרה. מצד שני, נשמע לי סביר שעוד 15 שנה עדיין תהיה איזו מדינה מתוקנת בעולם שתדרוש נהג אנושי לפחות כגיבוי, וזה ייחשב מיושן אבל לא לחלוטין בלתי-מובן, ובמצב כזה לא יהיה מופרך לומר שזה עדיין לא קרה.
''אתם מוזמנים לשאול אותי'' 708490
מקורותי המקורבים לתחום הרבה יותר פסימיים ממך. על פיהם, לא סביר שתוך 15 שנה תהיה אפילו מדינה מתוקנת אחת שבה רכב אוטונומי יהיה הנורמה.
''אתם מוזמנים לשאול אותי'' 708491
זה לא נראה לי קושי של ממש.

המערכת יכולה להחליט מה יהיה הסף המכריע, למשל: מכירת המכונית המיליון בעולם המערבי שמותר לה לנסוע בכל דרך סלולה ללא נהג בעל רישיון (אני מניח שהנתון הזה יתפרסם ברבים עם הרבה רעש וצלצולים) או משהו דומה. אגב, יהיה נחמד אם נגיע למצב בו לילד מתחת לגיל 14 מותר לנסוע במכונית לבדו, אבל כשהוא מגיע הביתה הוא צריך לחכות למבוגר אחראי שיסיע אותו במעלית!
''אתם מוזמנים לשאול אותי'' 708493
מאיזה גיל סומכים על ילד שייסע באוטובוס לבד?
''אתם מוזמנים לשאול אותי'' 708494
באוטובוס יש תמיד לפחות מבוגר אחד (ליד ההגה) כך שאין הגבלת גיל אמיתית לנוסעים (זאת המסקנה שלי מהסעיף: "ילדים עד גיל 5 פטורים מתשלום עבור נסיעה באוטובוסים, *כאשר הם נוסעים בליווי נוסע בעל כרטיס נסיעה תקף*".
''אתם מוזמנים לשאול אותי'' 708496
"אגב, יהיה נחמד אם נגיע למצב בו לילד מתחת לגיל 14 מותר לנסוע במכונית לבדו", אולי אם נהיה באוטופיה כזו שהאפשטיינים שרוצים להשביח את הגזע האנושי לא יעסיקו האקרים.
תגובה מהירה 708781
הפיקסלים ששלחתי בקושי הספיקו להתייבש, וכבר אני קורא שהרעיון קרוב למימוש.
תגובה מהירה מאד 711030
ובעניין דומה : קראתי בידיעות של סוף השבוע תיאור של עבודת המפעילים של כיפת ברזל (ההדגשות שלי):

- - - ציטוט - - -
... המכ"מ מזהה את המטרה מרגע השיגור שלה. צוות המנ"י, מרכז ניהול יירוט, מתחיל בתהליך הערכת מצב. הם יושבים בקרון קפוא עם מזגנים מעל הראש, לבושים במעילים וכובעי גרב מחממים, מול מסכים עם מטרות מרצדות שנעות מכיוון עזה לעברנו, ויש להם שניות ספורות לקבל החלטה מה לעזאזל לעשות. כל שיגור והמאפיינים שלו. למשל, כמות המטרות, כלומר הטילים ששוגרו לעבר ישראל. האם הם נעים לשטחים מיושבים או מתקנים חיוניים? מה תצורת המעוף הבליסטי? המחשבים מספקים נתונים והם נקראים במהירות. בסוף, מפקד המנ"י מחליט אלו מטרות ליירט. כל מטרה והמספור שהמחשב נתן לה. "מטרות 6 ו־2 נדרשות ליירוט", הוא אומר בקול שקט, והחייל המיירט שם את העכבר על המטרה, לוחץ קליק ימני, בוחר באופציית היירוט ולוחץ קליק שמאלי. טיל היירוט משוגר מאחד ממשגרי הסוללה הפרוסים בשטח, הרחק מכאן, ומכאן והלאה אפשר רק להחזיק אצבעות. "עד עכשיו, רביעי בערב", אומר סרן בן־עזרי, "היו לנו 18 יירוטים, שזה 94 אחוז מסך המטרות שנדרשנו ליירט. עשינו את זה עם 32 מיירטים".

"הסיפוק עצום", הוא אומר, "כי כל אחד מבין מה המשימה ומה המשמעות של חדירת טיל. וכשזה קורה, כשיש החטאה, זליגה, נפילה ויש נפגעים, זה מתסכל מאוד. אבל אסור לנו להתבלבל. אנחנו יושבים דרוכים מול המסכים בקרון, לא מורידים מהם את המבט לרגע, כל שנייה שאיבדת שם במעקב אחר המטרה היא שנייה שלא תחזור. משמרות סביב השעון, בלילה, לפנות בוקר, וגם כשיש פספוס אסור לנו להיות מושפעים. אנחנו נדרשים להמשיך, לא לעצור, כי שם המשחק הוא דריכות, חדות ומיומנות. שלוש־ארבע שעות כל משמרת וכל הזמן הזה עיניים על המסך. זמני התגובה הם של שניות בודדות, כך שצריך רמת ריכוז גבוהה מאוד. תבין, זו מערכת מעולה, משוכללת, חכמה, אבל היא לא פועלת על אוטומט. אתה לא יכול ללחוץ על 'הפעל' וללכת לישון. היא בנויה על שיקול דעת אנושי. האנשים פה הם אלו שעושים את ההבדל"...
- - - סוף ציטוט - - -

וחשבתי על האנכרוניזם המשווע: בימים בהם deepmind מנצחת את טובי השחקנים ב starcraft ii, המשחק "צינורות נפץ מעופפים" שפשוט ממנו בכמה וכמה סדרי גודל‏1 עדיין משוחק בידי תרכובות פחמן על שלל הבעיות החישוביות המוכרות שלהן, וזאת למרות שמחיר ההפעלה במונחי כ"א איכותי הוא גבוה, והטעויות עלולות לעלות בחיי אדם. AI יכול להיות יעיל לא רק בקשר לקבלת ההחלטות בסוללה אחת, אלא גם בקשר לתיאום וחלוקת האחריות בין כמה סוללות ואפילו בין מערכות יירוט שונות כמו בין כיפת ברזל לשרביט קסמים.

סיבות אפשריות שעולות על דעתי:

* הבעיה הפסיכולוגית: לפי מדגם קטן מאד‏2 יש לאנשים רתיעה כמעט אוטומטית מהרעיון גם אחרי שאני מזכיר שחמט, גו, פוקר וסטארקראפט, וזה עוד לפני שחושבים על השאלה איך להסביר לציבור שהטיל שמחק גן ילדים שלם לא יורט מסיבות שקשה להבין אותן. נראה לי שגם אם הסטטיסטיקה תוכיח ששיעור היירוטים המוצלחים עלה מ-‏90% ל-‏95% או אפילו ל-‏98% זה לא יעזור, ומי שמודע להתנגדות הציבורית לתחנות כוח גרעיניות בטח מבין למה אני חושב כך. משום מה שטויות בנוסח המקובל לפיהן "כל מי שנהרג, נהרג במאה אחוז" מתקבלות טוב ע"י ציבור רחב, להפתעתי כולל אנשים משכילים.

* הבעיה האתית: העברת האחריות להגנה על חיי אדם למערכת AI, ובייחוד לכזאת ששיקוליה לא תמיד ברורים, היא מהפכה שזקוקה לבחינה מעמיקה למבחינה אתית, וקשה לדעת אם אסא יגיד כשר.

* היסטורית-מדינית: מהסיבה הקודמת ישראל לא רוצה להירשם בספרי ההיסטוריה בתור הראשונה שהעבירה את האחריות להגנה על חיי תושביה ל-AI, או כמי שהיתה הראשונה שהשתמשה ב-AI לקבלת החלטות צבאיות מבצעיות, גם אם לצרכים הגנתיים לחלוטין.

* סיבה טכנית: אין מספיק נתונים בשביל מאגר טוב לאימון המערכת, וגם צה"ל, כמו משרד התחבורה, לא מאמין בסימולציות (מהעיניים האלה אולי הסבב האחרון לא נבע מהעלבון האישי של מר נתניהו על הירי לעברו באסיפת פעילי הליכוד באשדוד, אלא הוא יועד לצרכי איסוף מידע עבור קובץ האימון. הבעיה היא שכמה מאות טילים עלובים לא ממש יעשו את העבודה, כך שכנראה החמאס טרף את הקלפים כשנמנע מלתרום כמות נתונים משמעותית יותר. מניאקים).

אלה הסיבות שעולות בדעתי, אך הן לא לגמרי משכנעות אותי, כך שכנראה יש סיבות טובות יותר. קדימה, נא האירו את עיני.

בפרק הבא: פרוייקט "מחט בערימת שחת": איך AI יכולה לזהות אתרי שיגור טילים ע"י סריקות תצ"א (ואגב כך פותחת פרק מלהיב במירוץ נגד הטעיות מכוונות - אלא שכאן התגובה אינה צריכה להיות מיידית, כך שהמערכת תסתפק בהמלצות לבחינה נוספת ע"י עין אנושית, אולי אחרי צילום ברזולוציה מקסימלית של הנקודות המסומנות כחשודות ע"י התוכנה). זאת בעיה אקוטית לעתיד הנראה לעין, וההישג כביכול בסבב האחרון בחיסול כמה חוליות שיגור לא משנה שום דבר מהותי. הוא (כמעט?) לא השפיע על השיגורים, ובכל מקרה אפשר לצפות שעד הסבב הבא גם הג'יהאד יגלה את המחיר הזול של טיימר בעלי אקספרס; החמאס והחיזבאללה כבר יודעים זאת - פחות מ-‏3 דולר מחיר קמעונאי. אחרי הפרויקט הזה יגיע גם פרוייקט "תצפיתניות - למטבח!" שהוא בעל סיכויי יישום גבוהים מכל השאר בגלל תמיכה גורפת של הרבנים ממכינת עלי.
ֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹֹ_______________
1- שיחקתי משהו מאד דומה באטארי באמצע שנות השמונים. על ההישגים שלי אומר רק שלמזלם של תושבי העוטף אני לא אחד מאלה שצריכים ללחוץ על העכבר.
2- ההודעה הזאת היא במידה רבה ניסיון להגדלת המדגם.
תגובה מהירה מאד 711031
אני מאד מופתע שההחלטה איזה טיל ליירט נקבעת ידנית/אנושית.
נראה לי שזה קצת פרמטר נגזר של אופי הבעייה - לו היתה מערכת שמיירטת מרגמות/קסאמים בעוטף עזה (שזמן ההתרעה שלהם פחות מעשר שניות למיטב הבנתי), היה ברור מראש שאלו זמני החלטה קצרים מדי עבור מחליט אנושי, ואז היו מוציאים אותו מהלופ. דוקא בגלל שיש מספיק זמן 'ספייר' לבזבז, נותנים למפעיל האנושי אכן לבזבז אותו.
תגובה מהירה מאד 711032
אני מסכים בהחלט עם הבעיה הפסיכולוגית והבעיה האתית. הרתיעה הפסיכולוגית לדעתי נובעת מהלא ידוע. מערכת שתקבל החלטות בחיי אדם לפי שיקולים לא ידועים זה באמת משהו שקל לפחד ממנו. פוטנציאל הנזק במקרה של תקלה לא ידוע, ומהלא ידוע מפחדים.
אני אחליף את הבעיה ההיסטורית-מדינית בבעיית הכסת"ח- לבעיה זו שתי רמות: ברמה התפעולית וברמה המנהלית.
ברמה התפעולית אם המפעיל האנושי שגה "הוא רק בנאדם", ואם AI שגתה אז האשמה עולה בסולם הדרגות. אבל זו הבעיה הקטנה יותר.
הבעיה הגדולה ברמת האחריות היא שמישהו צריך לאשר את הפרוייקט, ואף אחד לא יהיה מוכן שחתימתו תתנוסס על משהו שלא נוסה מעולם ושיש לו פוטנציאל לנזק לא ידוע.
אני חושב שהפתרון יכול להיות מערכת AI שעושה את כל העבודה, אבל המערכת האנושית נמצאת שם במקביל כל הזמן עם האצבע על הכפתור ומוכנים לקחת ממנה את השליטה בכל רגע. אחרי שכולם יתרגלו שה AI עושה את העבודה, בסוף יוותרו על המפעילים האנושיים.
בהתחלה ה AI יכולה רק להמליץ, והנוהל שציטטת ממשיך לעבוד כרגיל.
אחרי שמתרגלים שה AI מקבל את ההחלטות מהר יותר ונכון יותר משלבים אותו בתוך המערכת, והמפעיל האנושי הוא עדיין חוליה בתהליך, אבל רק מאשר את ההחלטות של AI, ובעצם לוחץ על ההדק.
אחרי שמתרגלים לזה, אולי אפשר לעשות את הקפיצה למערכת אוטומטית במלואה, ואולי לא. אני חושב שמכל הבחינות שציינו- פסיכולוגית, אתית וכסת"חית- זה השלב הבעייתי ביותר.
תגובה מהירה מאד 711091
אפשר לעשות משהו קצת אחר: להמשיך עם המערכת האנושית, אבל במקביל להזרים את הקלט ל-AI, לתת לו להחליט "על יבש". אחרי כל שיגור אפשר לנסות להעריך בנחת אם היה נכון ליירט או לא, ולבדוק מי משני היריבים (האדם והמכונה) טוב יותר.
תגובה מהירה מאד 711093
אני קצת מופתע אם באמת צריך משהו בנוסח רשת עצבית כדי לקבל הכרעה כזו. הפרטמרטים שמוזכרים בתגובה שלך נראים לי ניתנים לחישוב (הסתברותי, כמובן) - למעשה כנראה שהחיילים מקבלים אותם אחרי חישוב כזה - ואת השקלול שלהם נראה לי פשוט למדי לעשות לפי נוסחה שנקבעת מראש. מה אני מחמיץ?
תגובה מהירה מאד 711098
מסכים מאד, כל ז'רגון ה'AI' נראה לי מוגזם מאד בהקשר הזה.
בסה"כ יש כאן מטח של מספר רקטות קטן מעשר, שחלקן אמור להיות לכיוון שטחים פתוחים (גם את זה המחשב יודע טוב מהאדם), ואלה שלא כדאי ליירט.
גם לא ברור לי כמה הדיר/רובסטי/יציב/מילה-טובה-יותר-בעברית התהליך שבו בארבעים שניות מפקד סוללה אמור להכריז איזה 2 מעשר מטרות צריך להשמיד. זה נשמע לי מאד מבקש טעויות תקשורת ואחרות, שמערכת אוטומטית תתמודד איתם בקלות.
כדאי גם לזכור שהמחיר של false positive לא כזה גבוה, אז מותר גם להחמיר קצת את ספי ההחלטה.
תגובה מהירה מאד 711136
רובסטי - חסין.
תגובה מהירה מאד 711099
מה שאתה מחמיץ זה גרחחחחחחחחחגחחזחחגחחחרחרחחחשחזחזזזחזחחח‏1.

___
1. תרגום: קצת אחרי הטירונות, בשבוע שדאות שמדמה חוליה בעורף האוייב, המ"מ הצעיר הכריח אותנו לשמור עם שפורפרת מכשיר הקשר צמודה לאוזן והמכשיר במצב רועש‏2 כי משום מה הוא החליט שככה המכשיר מבזבז פחות סוללה. הבריאות הנפשית שלנו, וגם חוסר היכולת המבצעית לשמור בלילה עם הרעש מורט העצבים הזה באוזן, היו חשובות לו הרבה פחות מחיסכון מפוקפק של רבע בתולה. מאז אני מאמין לכל סיפור שמספרים לי על צה"ל - ולא משנה עד כמה הוא הזוי. וזה בהחלט כולל את הרעיון שכל האלגוריתמיקה המדהימה שאצורה בטכנולוגיה של כיפת ברזל תלויה בחייל עייף עם אצבע על הכפתור שנאסר עליו להוריד את העיניים מהמסך.
2. מנפלאות מ"ק 77, רק בקליק השני הוא עבר לשקט.
תגובה מהירה מאד 711124
החמישיה הקאמרית בעניין זה.

_____
משחק מופתי כרגיל אצלם, אבל ב-‏1:15 יש רגע של דיוק משחקי עילאי במיוחד של שי אביבי.
תגובה מהירה מאד 711148
דווקא שם נראה לי שהוא לא מצליח להבליע שבב חיוך זעיר, כאילו, כמוך, גם הוא מרגיש ששיחק אותה. אנחנו צריכים מערכת AI שתכריע בשאלה מי משנינו צודק.
תגובה מהירה מאד 711187
אני חושב ששבב החיוך הזה הוא מכוון, כי דמותו של מפקד ח''א מרגיש סוג של שיחוק מזה שהפיתוח הוא ''משלנו''. הוא אפילו מדגיש את זה עם פאוזה קטנה. הזעירות של החיוך הזה היא ההישג של אביבי.
תגובה מהירה מאד 711200
אתה אדם טוב ממני.
תגובה מהירה מאד 711212
נותן בקיפלינג. סחה!
תגובה מהירה מאד 711219
מאיזה ספר? מי אמר למי?
תגובה מהירה מאד 711232
גונגה דין
תגובה מהירה מאד 711235
פעם נוספת אני פוער את פי (אחרי גאליבר), כשגיליתי שגונגה דין הוא בשורוק ולא כמו שכל בני דורו של יוסי בנאי אמרו.
תגובה מהירה מאד 711236
פורמאלית זה כנראה גאנגה (ג' שנייה סגולה). כמקובל בבריטניה, זה משתנה לפי המבטא.
תגובה מהירה מאד 711239
מישהו בשם האמנותי Tom O'Bedlam לא מסכים איתך בקשר לג' השניה, אבל לפי ההערה הראשונה שם כנראה הצדק איתך בקשר להגייה בהודית - מקור השם הוא הנהר הידוע. מצא לו עם מי להתווכח :-)

אזהרה: נסיון להתחקות אחר מקור שמו של הקריין יטביע אותך בים של שירה אנגלית ועלול לגזול ממך את חמש הדקות שאתה מקדיש לתשבצי ההגיון של סוף השבוע.
תגובה מהירה מאד 711242
אתה צוחק? אאז"נ השיר של טום תורגם ע"י אלתרמן ונכלל בספרו "בלדות ישנות ושירי זמר של אנגליה וסקוטלנד".

תשבצי הגיון אני פותר כפעמיים-שלוש בשנה. רק כדי לוודא שאני עדיין מסוגל.
תגובה מהירה מאד 711243
ועוד משהו שמשום מה לא שמתי לב אליו עד היום: האם הדמיון בין ההתרחשויות בגונגה דין ובבלדה לחובש מקרי?
תגובה מהירה מאד 711244
למי צלצלו הפעמונים ששמע נתניהו, לפי הבנאי?
תגובה מהירה מאד 711292
לא יודע, לכן אענה לך בחידה שהיא אולי בעלת תאריך תפוגה קרוב: דיין טמבל אבל חי (5,8).
תגובה מהירה מאד 711295
התשובה בתגובה לה הגבתי (הנחתי שכולם ניחשו, ולכן לא טרחו לענות לי).
ובאשר לשאלתך‏1 - דומני שהיא קשורה לשאלה "מי ידיין את הדיינים" שעלתה לאחרונה.

1 המוצלחת מאד - סוף סוף חידה שאני מצליח לפתור כאן.
תגובה מהירה מאד 711300
וואו.
אסוציאציות חופשיות 711410
מרים נאור מצטרפת לפסימיות בדבר חיי המדף של החידה הקודמת :-)
תגובה מהירה מאד 711299
יפה מאוד. ניצחת את ההגדרה שלי (תגובה 703017).
תגובה מהירה מאד 711249
על פי מה שקראתי, יש שבע עשרה תנועות באנגלית אמריקאית בת ימינו. ואין שום קשר בינן לבין הארבעה שמלמדים בבתי הספר בישראל. הייתי תובע את משרד החינוך על הטעייה (כולל הוכחת נזק) אלמלא משרד החינוך היה יכול לתבוע אותי בחזרה על הפרת חוק חינוך חובה.
תגובה מהירה מאד 711251
נכון מאד, כשהגעתי להבנה הזו לפני שנים - אבל באיחור רב - המבטא שלי השתפר פלאים.
תגובה מהירה מאד 711254
גם אני חשבתי שהמבטא שלי השתפר פלאים, אבל אז עשיתי את הטעות של הקראת "גנבת הספרים" לפרופסורית אמריקאית חיננית במיוחד עם בקשה מפורשת לתקן לי את טעויות ההיגוי. הוי הענווה!! את לא מוערכת מספיק!
תגובה מהירה מאד 711256
אין לי שום מידע, ודאי לא אישי לגביך, על הסיטואציה המוזכרת, אבל בדמיוני דוקא להצגת שלל טעויות שדורשות תיקון פרופסורי מדוקדק עשויים להיות יתרונות כאלה ואחרים.
תגובה מהירה מאד 711106
ההנחה שלי היתה שההחלטה אינה פשוטה, אחרת השאלה לגבי המרכיב האנושי שממשיך להיות מעורב בתהליך קבלתה מחריפה עוד יותר. אבל מובן שאינני יודע, כך שבהחלט ייתכן שאתה והפונז צודקים.
תגובה מהירה מאד 711123
(מדגדג לי לחשוב שהחלק הזה בכתבה הוא דיסאינפורמציה, ובפועל החיילים רק מסתכלים וכוססים ציפורניים (או שכבר התרגלו ומשחקים סוליטייר) בזמן שהמחשב מחליט. אבל אני לא מצליח למצוא מוטיבציה ברורה לדיסאינפורמציה כזו.)
תגובה מהירה מאד 711132
גם לי זה עבר בראש. מוטיבציה אפשרית - שימור המוטיבציה לגיוס אנשים לכיפת ברזל, גאוות יחידה וכו'.
תגובה מהירה מאד 711149
צריך לשמר מוטיבציה למי שתפקידו לשחק סוליטר? מזכרוני הרעוע מימי המילואים שלי זאת היתה הפעילות היחידה שלא סבלה משום בעיית מוטיבציה.
תגובה מהירה מאד 711157
ההנחה שלי היא פחות צינית.
לפיה, תפקיד האנשים ביחידה הוא כמו תפקידם של טייסים במטוסי נוסעים היום - ב-‏99% מהזמן, הטייס האוטומטי יכול לבצע הכל בעצמו. עדיין נשאר אותו אחוז אחד (חמישה? עשרה?) שבו קורה משהו חריג - מנוע מתחיל לבעור, ברקים, ציפורים, תקלה אחרת - שאז נוכחות הטייס/מפעיל אנושי היא קריטית. המוכנות, הכשירות והנכונות של הצוות עבור אותם תסריטים הם בהחלט בעלי חשיבות. ועבורם, מה שאמרתי לעיל בהחלט תקף, שלא כמו עבור סוליטר.
תגובה מהירה מאד 711163
האמת היא שגם לגבי מטוס נוסעים אני לא לגמרי מבין את ההיגיון‏1, אבל מה יכול לקרות במערכת כיפת ברזל שמצריך נוכחות קבועה של חיילים שיושבים בחדר קפוא ונועצים עיניים במסך? לא מספיק טכנאי או שניים לכל הסוללה? אבל אם באמת תיתכן מורכבות בלתי צפויה במקרי תקלה אנחנו חוזרים למה שפתח את הפתיל הנוכחי: AI.
______________
1- הטייס יכול לשבת בסימולטור שמחובר בקשר (משולש!) עם המטוס, ולקבל את כל ההחלטות בראש שקט כשהוא שותה קפה ומזעיק עם הטייס הראשי במקרה הצורך. אם אובד הקשר (המשולש!) למטוס או שהמערכות שצריכות לספק את הנתונים לא מתפקדות המטוס מתוכנת לנחות עצמאית בשדה התעופה הקרוב ביותר, ואם גם המערכת שאמורה לטפל בזה נכשלת יש להניח שנוכחות הטייס במטוס ממילא לא היתה מועילה המיוחד. במקרה זה במקום מסכות החמצן משתלשלים מהתקרה ספרי תהילים קטנים, ואם גם זה לא עוזר אין הרבה מה לעשות.
תגובה מהירה מאד 711166
1 נראה לי שכאן היתרון האמיתי של השיטה הנוכחית הוא בדיוק ענין המוטיבציה האישית.
תגובה מהירה מאד 711167
אהמממ. כן, שמעתי שיש אנשים שמצב חירום גורם לשיפור התפקוד שלהם. אצלי זה בדיוק להיפך: אני קופא לחלוטין או חוזר שוב ושוב על אותה פעולה בלתי מועילה בעליל.
טייס הכפר הגלובלי 711168
ולכן לא עברת קורס טיס, כנראה :)
תגובה מהירה מאד 711171
לגבי מטוס נוסעים, אני ממליץ על הסרט "סאלי- נס על ההדסון" בכיכובו של ה"כלאדם" טום הנקס. סאלי לא היה יכול לעשות את מה שעשה מתוך סימולטור.
ומתבקש להזכיר כאן את תאונות ה 737 מקס, שם התוכנה גם ריסקה את המטוסים וגם מנעה מהטייסים את האפשרות להציל את המצב.
תגובה מהירה מאד 711172
מספר מקרים קיצוניים אינם נימוק משכנע.

השאלה צריכה להיות: מה אנחנו מרוויחים, ובאיזה מחיר.

מה המחיר, מבחינת תכנון המטוס, של קיום תא הטייס?

* משקל של שני נוסעים לא מועילים נוספים
* מקום
* אילוצי תכנון של יחידות הבקרה(?)

כיום הטייס מתפקד גם כמנהל המטוס. טייס הוא בדרך כלל דמות סמכותית, ובמטוס אנשים נמצאים בסביבה מבודדת עם ריבונות לא בהכרח ברורה. כמה מסובך להעביר את התפקיד הזה למישהו אחר? טייס המשנה נותן לתפקיד יתירות.

ולגמי מה שמרוויחים: האם יש נתונים טובים לגבי המקרים שבהם טייסים היו צריכים להתערב ולגבי המקרים שבהם ההתערבות הייתה מועילה?
תגובה מהירה מאד 711174
אני לא זוכר מה בדיוק טום הנקס עשה שחייב נוכחות פיזית במטוס, אבל בסדר, נניח שזה אחד מאותם מקרים בהם יש יתרון לטייס במטוס. לגבי ה-‏737, עכש"י מה שריסק את שני המטוסים היתה האינטרקציה אדם-מכונה, אבל לא נתקטנן, נוסיף עוד שניים לצד הזה של המשוואה. נדמה לי שהיו עוד כמה מקרים בהם האוטומציה הביאה נזק ולא תועלת אבל אני לא זוכר בדיוק איפה ומתי, ודומני שגם שם היתה בעיה עם אינטרקציה אנושית.

מהצד השני היו כמה וכמה מקרים של התרסקות מכוונת ע"י הטייס או הקצין הראשון (האחרונה שעולה בזכרוני היא טיסה 370 ממלזיה - המטוס הנעלם), וגם לא מעט התרסקויות בגלל שהטייס היה עייף או לא כשיר (למשל הטייס הרוסי שנתן לילד שלו לשחק עם ההגאים כי שכח שהטייס האוטומטי מתנתק אם מישהו נוגע בהם), בשעה שטייס מבולבל, שיכור או סתם אהבל שנמצא על האדמה קל יותר להחלפה מיידית ובכלל, ברגע שיש מצב חירום הטייס הטוב ביותר באזור מגיע לטפל בו ממש כמו בחדר מיון במדינות מתוקנות (על פי השמועה). אם תוסיף לזה את ארועי החטיפה, ובמיוחד את ה 11/9, נראה לי שהתוצאה ברורה גם בלי לכלול את כל ההרוגים ממלחמת אפגניסטן שהיתה תוצאה ישירה שלה.
תגובה מהירה מאד 711175
כן, אבל: אם יש אפשרות לשלוט על המטוס מרחוק, יש דרכים להשתלט על המטוס.
תגובה מהירה מאד 711201
אתה רוצה להגיד שהפרוטוקול RSA עם מפתח ארוך מספיק ניתן לפריצה? חשבתי שאם זה כך כך הרי שמלחמה גרעינית היא רק שאלה של מתי ההאקר ההוא מאוקראינה יתעורר עם מצב רוח רע.
תגובה מהירה מאד 711205
הרבה פעמים פריצות למערכות מחשב עוקפות את הקידוד ולא מפצחות אותו ישירות ברמת האלגוריתם. אז כמו שקל יותר לפרוץ למיליון חשבונות גוגל/אנדרואיד (ולהדליף משם סרטים ומידע אישי) מאשר לגשת אישית לבית של כל סלב ולגנוב לו את אלבום התמונות, אפשר לתהות אם הקושי בפריצה ממוחשבת עולה על זה של לצייד 12 אנשים בסכינים יפניים ולגרום להם להגיע לתא הטייס דרך כל מערכות הבטחון האחרות.
בייחוד אחרי שהשיטה הנ"ל כבר לא תעבוד יותר.

וזה לפני ש(לא) פתרנו את הקושי המהותי של מערכות לומדות להתמודד עם תרחישים חריגים שהן לא אומנו לגביהן.
תגובה מהירה מאד 711177
אני חושב שאפילו סאלי עצמו לא היה מצליח לקבל את אותה החלטה מתוככי סימולטור שממנו הוא מטיס את המטוס.
אבל באופן ישיר מה שחייב נוכחות פיזית במטוס הוא הפיקוד על חילוץ הנוסעים אחרי הנחיתה.
תגובה מהירה מאד 711202
אחרי הנחיתה? בשביל זה אולי מוטב שבמטוס יהיה מציל, לא טייס :-) ובאותה רוח אולי גם מומחה להישרדות, למקרה שתהיה נחיתת חירום על האנדים או משהו.
תגובה מהירה מאד 711207
לפי הסרט סימולציית מחשב הראתה שהמטוס היה יכול להגיע לאחד משני שדות התעופה טטרבורו ולגרדיה. המסקנה היא שלו היה במחשב הזה טייס אוטומטי שהיה מפוקח על ידי מחשב דומה, כולם היו יוצאים יבשים. למרות זאת החלטת הטייס הייתה נכונה בכל מקרה, וקצת הרגיז אותי הקטע בסרט (קשה לי להאמין שכך היה במציאות) שהובע פקפוק בהחלטת הטייס עקב הסימולציה הזאת, והסימולציות שכללו טייסים אנושיים. כשבפני הטייס ישנו מקרה גבולי כגון זה, ואין לו מחשב לבדיקה, ברור לגמרי מה הבחירה הנכונה.
תגובה מהירה מאד 711226
תיקון: צ"ל "לו היה במטוס"
תגובה מהירה מאד 711916
הסרט עושה קצת דרמטיזציה של הסיפור, אך מעבר לכך הוא די מדוייק.
סאלנברגר אכן נחקר ע"י ועדת בדיקה, אבל זה נוהל שגרתי לאחר תאונה. אכן נבדקו סימולציות של נחיתה בלה גרדיה או בטטרבורו. אני חושב שבניגוד למה שהראו בסרט, אף אחד לא הסתיר שרק חלק מן הסימולציות הצליחו לנחות בשלום, כך שהדיון לא היה ממש דרמטי. בדיוק כפי שהראו בסרט, טייסי הסימולטור "רימו" קצת. הם פנו לכיוון השדות מייד לאחר ההתנגשות. כאשר הוסיפו לסימולטור השהייה של 35 שנ' להיסוס לפני פנייה כפי שדרש סאלי, אף סימולציה לא הצליחה.
תגובה מהירה מאד 711918
אנחנו אומרים כמעט אותו הדבר. וועדת בדיקה בוודאי הייתה ולא טענתי אחרת. אחרי כל תאונה עושים בדיקה. אבל הקטע שהרגיז אותי הוא שהסימולציות האלה יצרו תוך כדי הדיון רגעים שבהם היה ברור לכל חברי הוועדה שההחלטה לנחות על ההדסון הייתה שגוייה, ורק הטייס היה שם הכי חכם ובחכמתו הצליח לשכנע את כולם לשנות את דעתם. אם זכור לך, בסרט, אחרי שהוסכם שצריך להוסיף עוד זמן עד לפנייה, הסימולציה הראתה שהמטוס התרסק על מבנה גשר כזה שבנוי שם על הים בהמשך ציר המסלול בלה גרדיה, כלומר קרוב מאד למסלול, וכמעט הגיע. כלומר לו היו מאפשרים לו איזה 5 שניות פחות או שהרוח הייתה משנה עצמה וכיוון לטובתו הוא היה מצליח. זה מאד גבולי . אז מה זה אומר? כפי שאמרתי לטייס לא היו אמצעים מחשביים לבדוק את הסיכוי להגעה למסלול, והוא העריך על סמך ניסיונו ותחושתו שלא יצליח להגיע למסלול, ובחר בחירה נכונה בנחיתה על המים.
תגובה מהירה מאד 711919
אני רואה את החלק החשוב ביותר, ומה שעשה את סאלי גיבור בעיני, בדגש מסוים שהשמטת.
הוא העריך על סמך ניסיונו שלא יצליח להגיע למסלול, ובחר בניגוד לנהלים בחירה נכונה בדיעבד בנחיתה על המים.
סאלנברג לקח על עצמו אחריות אדירה על שלומם של הנוסעים והצוות בכך שבחר לפעול בניגוד לנהלים. זה החומר שגיבורים עשויים ממנו.

הדרמטיזציה שעושה הסרט כאילו הועדה השתכנעה בהתחלה שההחלטה לנחות על המים היתה מיותרת, אם לא שגויה, משרתת את הסרט, גם אם היא חוטאת לאמת, ואני לא מוצא סיבה להתרגז עליה. זה לא העיקר לדעתי. הסרט אינו דוקומנטרי אלא דרמה קולנועית, ואני מקבל סטיות מסוימות מהאמת העובדתית שמשרתות את העלילה.
אני מתאר לעצמי שגם באפולו 13 העניינים התנהלו באופן קצת פחות דרמטי ממה שהסרט מתאר, וזה לא מפחית מזה שהוא סרט טוב‏1.

________________
1 אני חוזר על ההמלצה שלי על הסרט מעבר לכוכבים (סרט, 2017) [ויקיפדיה] שמציג דרמה דומה מהצד הרוסי של המרוץ לחלל
תגובה מהירה מאד 711920
מה "הנהלים" אם המטוס מאבד מנועים מיד לאחר ההמראה בגובה 100 מטר? לפתוח מיד את ספר תהלים וחוץ מזה לא לעשות שום דבר? אני זוכר היטב את תרגולי הנ"א (נחיתת אונס) בשנים שבהם היה לי רישיון טיס. ה"נהלים" אומרים בפרוש שצריך להוריד אף ולחפש מקום שבו אפשר לנחות. ואם אין שדה תעופה שניתן להגיע אליו לחפש מקום אחר כמה שיותר נוח כמו שדה חקלאי ולתכננן את ההנמכה והנחיתה אליו. הניסיון לחזור ולנחות על מסלול שממנו יצאת אם עדיין לא צברת מספיק גובה יביא בהכרח לאסון כי בסיבוב 360 מעלות המטוס מאבד המון גובה, וכבר היו הרבה אסונות בגלל הנטייה לחזור. זה נכון שאם מדובר במטוס נוסעים גדול, הסיכוי שלא יארע אסון אם ינחת על שדה חקלאי הוא די נמוך, אבל בנסיבות מסוימות זה הדבר הטוב ביותר שאפשר לעשות, ואני מניח שכך זה גם ב"נהלים" של מטוסים גדולים.
אגב מצאתי תגובה ישנה שלי בנושא, תגובה 536816 . שם כתבתי שלא מדובר בגיבור אלא במקצוען.
תגובה מהירה מאד 711922
זהו, שהוא לא איבד מנועים בגובה 100 מטר. לפי החבר שלי, שהוא טייס מסחרי בארה"ב, סאלי לא פעל לפי הנוהל.
סאלי היה ללא ספק מקצוען מהמעלה הראשונה, לנוסעים היה הרבה מזל שסאלי היה הקפטן. לפי החבר שלי הרמה של טייסים מסחריים בארה"ב היא הרבה הרבה מתחת לזה. גם להצליח בנחיתה כזאת בלי אבידות בנפש זו מקצוענות ברמה גבוהה מאוד.
בעיני חוץ ממקצוען ברמה גבוהה הוא גם היה גיבור, ואני מדבר על שלב ההחלטה. מבחינתי לקחת אחריות על חיי עשרות רבות של אנשים ולעשות את הדבר הנכון גם אם הוא בניגוד לנהלים זו עוד רמה מעבר למקצוענות גרידא.
תגובה מהירה מאד 711923
אז מה לפי החבר שלך "הנוהל"? להתרסק על בתים?
עוד מקרה של יכולות הטסה 712301
אני לא יודע אם טוויטר מאזין לאייל אבל באחד הפידים עלתה הפנייה לארוע בו הקברניטה ברנדה רייפסאמה וואסינק הנחיתה בבריסטול בואינג 757 בטיסה על הצד נגד רוחות עזות.
עוד מקרה של יכולות הטסה 712305
זה לא קשור במה שאמרתי כי מדובר בנחיתה בשדה תעופה, בוודאי לא על בתים, אבל אין ספק שזה סרט מאד מעניין, ואיני יודע מדוע לא בחרה הטייסת לחפש שדה תעופה אחר, במסלול מקביל לכיוון הרוח. אולי הייתה קצרה בדלק. מכל מקום מדובר כאן בוודאי בנחיתה מאד מיוחדת. כאשר יש רוח צד צריך גם אז להישאר מקבילים לציר המסלול ולהוריד את הכנף שבכוון שממנו מגיעה הרוח. עושים זאת על ידי הטית ה"סטיק" לכוון הרוח והגה הכיוון לכיוון הנגדי. כך נשאר המטוס מקביל לציר המסלול כשהוא "מחליק" לכיוון הרוח, והרעיון הוא שההחלקה הצידה תהיה בדיוק במהירות הרוח, כך שהוא יישאר כל הזמן על ציר המסלול‏1. שמעתי פעם שבמטוס מסוג B52 בגלל מוטת הכנפיים הגדולה שלו, יש סכנה שהטיית הכנף תגרום לכנף לנגוע במסלול ולכן הגלגלים שלו מחוברים כמו בעגלת סופרמרקט באופן שהוא יכול לנוע הצידה, והנחיתה נעשית כמו שהטייסת הזאת עשתה כלומר, עם כיוון נחיתה אל הרוח. אבל בנחיתה הזאת המטוס לא היה B52, והחבר של אריק היה בטח אומר שהיא פעלה נגד הנהלים. אבל לפי מה שרואים בסרט הרוח הייתה כל כך חזקה שהמטוס נחת כמעט בניצב למסלול, ולו הייתה מנסה לנחות לפי "הנוהל", הכנף הייתה "חורשת" את המסלול וקרוב לוודאי שלא היה נשארת נפש אחת חיה מתוך אלה שהיו במטוס. לכן, במקרה הזה, אם באמת אין ברירה וחייבים לנחות דווקא במסלול הזה, ה"לא נוהל" הופך בדיוק לנוהל , בדיוק כפי שהיה על ההדסון.

1 יצא לי פעם לנחות כשהייתה רוח צד די חזקה וגם אשתי הייתה אז לצדי במטוס. כנראה היה אז שינוי חריף במזג האוויר כי לא הייתי מעז לצאת כשיש רוח כזאת. ודווקא במקרה הזה זה יצא לי לא רע, אבל לקח הרבה זמן עד שהלב שלי חזר לקצב רגיל.
תגובה מהירה מאד 711924
חיפשתי קצת באייל וגיליתי שאת הוויכוח הזה כבר התווכחנו, כולל ''הטייס המסחרי'' מארצות הברית. זה היה אצלי היכן שהוא בקצה הזיכרון אבל באופן די קלוש.
תגובה מהירה מאד 712307
ראשית צריך לנטרל את מבחן התוצאה שהוא כמובן חד משמעי במידה שמקשה מאד לעשות זאת.

שנית צריך להבין שהנוהל מבוסס על נסיון של הרבה מקרים דומים (רובם, אני מקווה, בסימולטורים, שכן משרד התחבורה הישראלי לא השתתף בקביעתם). מהמעט שידוע לי על תאונות אוויריות שהתרחשו בפועל הסיכוי לנחיתה מוצלחת על מים הוא קטן מאד. מתעניינים חרוצים ממני מוזמנים לעבור על הרשימה למשל אצל הדודה: Water_landing . [Wikipedia]

שלישית צריך לברר אם ההחלטה לא לפעול לפי הנוהל היתה מבוססת על שיקולים נכונים, למשל על ידיעה שהכישורים הספציפיים של הקברניט והצוות מאפשרים פעולה טובה יותר מהמומלצת בנוהל, שמטבע הדברים מתייחס לטייס ממוצע, או שהתנאים הסביבתיים היו כאלה שהיה נכון לחשוב שהנוהל אינו מתאים להם. האם הנוהל מתחשב בכלל בנזק הסביבתי האפשרי שכרוך בנסיון לא מוצלח להגיע לשדה התעופה? האם היו סיבות אחרות לחשוב שהנוהל לא מתאים?

והצד השני של המטבע: האם ההחלטה לא נבעה ממצ'ואיזם והערכת יתר של כישורי הטיסה שרק במקרה הצליחה? האם טייס שנמצא בעיצומו של מקרה חירום יכול בכלל לסמוך על שיקול דעתו ולפעול לא בהתאם לנוהל? מ"תעופה בחקירה" אני זוכר רק מקרים בהם חריגה מהנהלים הובילה לאסונות, ומלבד הנס על ההדסון לא זכורים לי מקרים בהם היא התבררה כצעד הנכון (לבורים שלא מכירים את הסידרה: הם מראים שם גם מקרים שמסתיימים בשלום).

כצופה של הסרט אני כמובן בעד טום הנקס ולכן אני שמח שהוחלט ששיקוליו היו נכונים. מעניין אם הוועדה היתה מגיעה לאותה מסקנה אם הנחיתה היתה מסתיימת אחרת. ניחוש: לא ולא.
תגובה מהירה מאד 712311
אתה "זורם" עם אריק במלים: "ההחלטה לא לפעול לפי הנוהל". מה, לפי המידע שבידיך, ה"נוהל" במקרה הזה?

אגב, אם תבדוק ב google earth את סביבת האירוע תגלה שמדובר בשטחים צפופי בנייה, ואין שם בכלל שדות חקלאיים. גם מה שנראה ירוק, את תתקרב תראה שמדובר ברבעי מגורים עם בתים קטנים.
תגובה מהירה מאד 712314
המממ. נראה ששזרתי בהודעה צרור של זיכרונות שגויים מכל המקרה. עכשיו קראתי בויקי את הפרטים, בין השאר שסאלי היה בעל נסיון רב כולל בדאיה, כך שללא ספק היה נכון מצידו לפעול בהתאם לשיקול דעתו ולא בהתאם לעצה של פקח הטיסה (ולא "נוהל" כפי שזכרתי בטעות).
תגובה מהירה מאד 712315
וכן. אני מאשים את אריק!
תגובה מהירה מאד 712323
פקח הטיסה אין תפקידו לתת עצות‏1. במקרה כזה עליו לדאוג לפינוי מסלולים ולאישור לנחות בהם בהתאם לבקשת הטייס. הטייס הוא זה שמחליט בלעדית את כל ההחלטות, וגם אחראי לתוצאות החלטותיו. אשר לניסיון בדאייה, בעצם כל טייס בזמן הקורס מתרגל אפשרות שהמנוע מפסיק לפעול. זה נעשה על יד כך שמעבירים את המנוע להילוך סרק, ומכוונים את המטוס לשדה הכי בטוח האפשרי, בדאייה. איני בטוח שניסיון בדאייה בדאון קל יכולה להוסיף הרבה במקרה הזה. כל כלי טייס מתנהג אחרת, ומטוס נוסעים גדול מתנהג שונה מדאון.

1 ואם בכל זאת הוא נותן עצות, הרי לא מדובר בשר משפטים ויועץ משפטי במדינת ישראל, שבה הראשון חייב לקבל את עצות האחרון, שאם לא כך ייעשה, בג"ץ יחליט שהחלטה בניגוד לעצה הזאת אינה "סבירה", ולכן הוא לא היה רשאי להחליט אותה.
תגובה מהירה מאד 712363
דיברתי עם החבר שלי פעם נוספת כדי לברר את עניין הנוהל.
הוא אומר שיש נוהל מה לעשות כשמאבדים מנוע. הנוהל מתאים לאיבוד מנוע בגובה גבוה, וכולל הנמכה בנסיון להניע אותו מחדש. אין נוהל לאיבוד מנוע בגובה נמוך‏1. ובעקרון הנוהל כשיש מקרה חירום מיד אחרי ההמראה הוא לחזור לשדה שהמראת ממנו.

לעניין פרטי המקרה הספציפיים הוא אומר- למזלו של סאלי הראות היתה טובה. אילו היו עננים בגובה נמוך הוא לא היה רואה בכלל את ההדסון כדי לכוון אליו. אכן האזור כולו בנוי, וגם להגיע לים הוא לא היה מספיק.
סאלי היה בעברו טייס קרב (אאז"נ גם עשה נחיתת אונס עם מטוס קרב), ודואה בתחביבו. הנסיון בדאיה עזר לו מאוד להעריך נכון את טווח הדאיה ולהבין מיד שלא יוכל לחזור לשדה ממנו המריא (שים לב באיזו מהירות הוא עונה Unable כשמגדל הפיקוח מציע לו לחזור), וגם עזר לו לבצע את נחיתת האונס כמו שצריך. החבר שלי אומר שבסימולטורים הבקר מחזיר לך את המנוע בגובה נמוך מאוד (100 רגל אאז"נ) ולכן כאשר טייסים היו צריכים לבצע נחיתות אונס בפועל הם בדרך כלל פספסו את היעד (overshoot) כי הם רגילים שהתרגיל נגמר שם, לפני הנגיעה בקרקע.

_____________
1 ואחת המסקנות מהמקרה של סאלי היתה לעשות נוהל כזה, כי הנוהל לאיבוד מנוע ארוך מדי, ואם סאלי היה ממשיך אותו הוא סתם היה מתרסק.
תגובה מהירה מאד 712366
בתרגילי נ"א שאני עשיתי ההנמכה הייתה מתבצעת עד גובה 500 רגל, וכשמגיעים לגובה זה "הולכים סביב", כלומר פותחים מנוע ואוספים גובה. מתחת לגובה 500 רגל יכולים להיות כל מיני כלי טיס כמו מטוסים זעירים שאין להם בכלל קשר עם הבקרה. אחד המדריכים, דווקא בחור מבוגר ממני, הראה לי פעם "דוגמא אישית" והמשיך בהנמכה עם שגלגלי המטוס כמעט נגעו בצומח מתחת.
איני יודע איך זה במטוסי נוסעים, אבל במטוסים הקלים שאני הטסתי יש נוהל עבור כל מקרה. אם מאבדים מנוע מיד לאחר ההמראה הנוהל אומר שאסור תחליט האיסור לנסות להסתובב חזרה אלא לחפש מקום מלפנים, ואני זוכר שני מקרים כאן בארץ, אחד בחיפה (שבו נספה גם גמלאי טרי של רפאל), ואחד בהרצליה, של ניסיונות לחזור שהסתיימו במות כל הנוסעים. חזרה למסלול במצב כזה הוא אסון בטוח. אבל כאשר המטוס בגובה רב יותר, למשל בגובה 800 רגל באמצע "עם הרוח" כלומר במקביל למסלול בכוון הפוך לכיוון הנחיתה, יש נוהל כיצד להגיע למסלול, ומתרגילים אותו (עד כמה שזכור לי רק עם מדריך).
כפי שכתבתי בתגובה אחרת איני חושב שניסיון בדאייה יכול לעזור במקרה הזה, משום שאיבוד הגובה בדאון שונה לגמרי ממטוס גדול. רפול הצליח פעם להגיע משדה מגידו לאילת בדאון תוך ניצול כל מיני רוחות עולות. אני מניח שלא היה עולה על דעתו לעשות זאת במטוס איירבוס גם לו הייתה לו דרגת מרשל.
תגובה מהירה מאד 712370
אגב, כשאני קורא שוב את דבריך, אני רואה שהם קצת סותרים את מה שכתבת קודם. כי קודם כתבת בפרוש, וזה קצת הרגיז אותי, שהטיס פעל בניגוד לנוהל. עכשיו אתה אומר שאחת המסקנות מהמקרה היא לעשות נוהל לגובה נמוך, כלומר מן הסתם המקרה הזה היה בקטגוריה של "גובה נמוך"‏1, כך שממילא הטיס לא פעל בניגוד לנוהל אלא פעל במציאות שלכאורה אין נוהל לגביה.

1 כפי שאמרתי, בקורס הטיסה למטוסי נוסעים שאני עברתי יש נוהל לגבי כל מקרה. חלוקת המקרים לפי "גובה גבוה" ו"גובה נמוך" היא חלוקה לא נכונה. כתבתי קודם שאפשר להגיע למסלול אם אתה בגובה 800 רגל באמצע "עם הרוח", אבל אם אתה בגובה אפילו 40000 רגל באמצע האוקיינוס האטלנטי אל תנסה להגיע לשדה התעופה הסמוך אלא נסה לנחות באופן ה"חלק" ביותר שאתה יכול על הים. לשם כך יש במטוס ציוד של חגורות הצלה ודוברות מתנפחות, כפי שרואים בסרט. אלה שהחליטו שציוד כזה צריך להיות במטוס לקחו בחשבון שהוא עלול להגיע למים, וברור שאם יגיע לשם כדאי שיגיע באמצעות נחיתה ולא באמצעות נפילה.
תגובה מהירה מאד 712371
אוי וי. ''בקורס הטיסה למטוסים קלים'' כמובן, ולא למטוסי נוסעים, כפי שכתבתי.
תגובה מהירה מאד 712443
אם כבר אוי וי, ''תחליט האיסור'' אסור בתכלית.
תגובה מהירה מאד 712449
?
תגובה מהירה מאד 712450
ר’ תגובה 712366.
תגובה מהירה מאד 712453
ואו. גם על כך באמת צריך להגיד אוי ויי. מזל שיש שוטה.
תגובה מהירה מאד 712374
היה נוהל לאובדן מנוע. הנוהל הזה לא התאים לסיטואציה. סאלי התחיל אותו, ונטש אותו ברגע שהבין שאין טעם להמשיך אותו. בוא נגיד שמטוס אוטונומי היה ממשיך עם הנוהל שלא התאים לסיטואציה ומתרסק, וזה, אגב, כנראה מה שקרה בתאונות ה 737 מקס.

>> עכשיו אתה אומר שאחת המסקנות מהמקרה היא לעשות נוהל לגובה נמוך

זה שהנוהל הקודם לא היה טוב ומשפרים אותו לא אומר שלא היה נוהל.
תגובה מהירה מאד 712376
אני חושב שאם הסימולציות שראינו בסרט אכן היו במציאות, מטוס אוטונומי היה נוחת בשלום או בלה גרדיה או בטטרבורו. לו היה מעל אמצע האוקיאנוס האטלנטי (או השקט. לא משנה.) הוא היה נוחת על המים. ולו היה במצב שבמקרה שלנו אבל במהירות יותר נמוכה או בגובה יותר נמוך כך שהמחשב היה מגלה שאי אפשר להגיע לשדה תעופה קרוב הוא היה נוחת על ההדסון. מה שהיה ב 737 מקס הוא איבוד שליטה על המטוס, בגלל תכנון לקוי של המטוס, מקרה שונה לחלוטין.
תגובה מהירה מאד 712407
>> מטוס אוטונומי היה נוחת בשלום או בלה גרדיה או בטטרבורו.

אני לא מסכים. הוא היה מצליח לעשות את זה רק אם היה כתוב לו הנוהל הנכון, ולא היה.

>> מה שהיה ב 737 מקס הוא איבוד שליטה על המטוס, בגלל תכנון לקוי של המטוס

כנראה בעיקר בגלל תכנון לקוי של התוכנה של המטוס, שהמשיכה להוריד את האף ולא אפשרה לטייס לקחת שליטה ידנית ולמשוך למעלה. הכנה לפשלות שנראה מכלי רכב אוטונומיים בעתיד?
תגובה מהירה מאד 712408
אתה יכול לשגע פילים עם הנוהל שלך. מה צריך לעשות כשהשעון ברכב מראה שיש מעט דלק? לנסוע לתחנת הדלק נכון? אבל נניח שיש לך שעון מדויק ואתה מגלה לפתע פתאום שבעוד 200 מטר ייגמר לך הדלק לחלוטין? תעצור באמצע הכביש בגלל שאין נוהל? ומה היה עושה רכב אוטונומי, אם שעון הדלק שלו היה מושבת זמנית, ולפתע היה מסתדר ומורה שעוד 200 מטר ייגמר הדלק לחלוטין? לא ממש אותו דבר? איפה כתוב שמתכנני כלי רכב אוטונומיים חייבים להיות מטומטמים?
תגובה מהירה מאד 712413
אם זה מה שיצא לגאונים שתכננו את ה 737 מקס, קשה לי להיות אופטימי.

מעניין כמה שורות קוד צריך לכתוב כדי שמכונית אוטונומית תצליח להתמודד כהלכה עם פנצ'ר על הכביש המהיר 405 בלוס אנג'לס בשעות העומס.
תגובה מהירה מאד 712417
אני הבנתי שהתוכנה נועדה לפצות על בעיה הנדסית של מיקום חדש של המנועים שנועד לספק צורך שיווקי של מטוס עם צריכת הדלק טובה משל האיירבס המתחרה וקיצור זמן הספקה.
תגובה מהירה מאד 712418
בכל מקרה, היא לא כל כך הצליחה.
תגובה מהירה מאד 712421
לדעתי מכונית אוטונומית לחלוטין תפעל תמיד עם תקשורת מול מוקד כלשהו שבמקרה הצורך יוכל לקחת את הפיקוד. אם מתעורר מצב שדורש פתרון ברמה של שניות היא תעשה מה שנהג יעשה: תנסה כמיטב יכולתה לבלום ולהגיע לעצירה בשטח שאינו נתיב נסיעה, ומשם תקרא לחילוץ. אני מניח גם שתהיה לה אפשרות לתקשר ישירות גם מול שרותי החירום.
תגובה מהירה מאד 712423
גם אני חושב שזה מה שהיא תעשה.
אני רק לא יודע אם הקוד שיגיד לה לעשות את זה יהיה מספיק טוב.
לא חשבתי שיכול להיות מצב שבו התוכנה של מטוס נוסעים יכולה למנוע מהטייס לשלוט בסטיק, גם כשהמטוס עומד להתרסק כתוצאה מכך. עובדה, קרה פעמיים.
תגובה מהירה מאד 712432
לא נראה לי שבמקרי התאונה המדוברים לא היה ניתן לנתק את הטייס האוטומטי. יש לך מקור שמאשש את הטענה הזאת?
תגובה מהירה מאד 712456
מערכת MCAS‏1 שגרמה לתאונות לוקחת מהטיס את השליטה במייצב הגובה. ניתוק המערכת מתבצע רק על ידי שני kill switch שמכבים את החשמל לכל מערכת מייצב הגובה וכך מבטלים גם את השליטה בלשונית הקיזוז (trim tab) שנמצאת על הסטיק. עדיין אפשר לשלוט ידנית במייצב הגובה דרך גלגל הקיזוז (trim wheel) שנמצא ליד ברכו של הטייס.
בהתרסקות של אתיופיאן איירליינס (ההתרסקות השניה של 737 מקס) החיישן של זווית ההתקפה (AOA) בחרטום התקלקל, כנראה נפגע מציפור מיד בהמראה. MCAS לא נכנסה מיד לפעולה, כי היא מתוכננת לא לפעול בזמן המראה, אבל ברגע שהטייסים הרימו מדפים MCAS נכנסה לפעולה, קיבלה נתונים שגויים מהחיישן והורידה את החרטום. הטייסים משכו בכח בסטיק, אבל לא הצליחו להרים את האף בעזרת הגה הגובה בלבד. הם ניתקו את ה kill switch, אבל ככל שהתאמצו לא הצליחו פיזית לסובב את גלגל הקיזוז בגלל הכוחות האווירודינמיים החזקים על מייצב הגובה. אחרי מספר דקות הם התעייפו מאוד מלמשוך את הסטיק וניסו להחזיר לרגע את החשמל כדי לאפס את מייצב הגובה, MCAS שוב השתלטה על המערכת והורידה את החרטום לאדמה. המטוס צלל ופגע באדמה במהירות של יותר מאלף קמ"ש.

________
תגובה מהירה מאד 712460
זה נשמע תכנון ממש לקוי. למה שאי אפשר יהיה לחזור למצב שבו אותו MCAS לא שולט כפי שזה בהמראה? מן הסתם המתכנן לא חשב שיש צורך בכך, ואולי חשש משטויות שייעשו הטייסים בהטסת המטוס בעל המבנה המיוחד.
תגובה מהירה מאד 712468
נכון, תכנון לקוי מאוד. MCAS גם אמורה לפעול רק במהירויות נמוכות, כשיש סכנת הזדקרות. המטוס של אתיופיאן היה במהירות המקסימלית שלו ומהנדסי התוכנה לא חשבו שזה משנה.
תגובה מהירה מאד 712470
אני לא חושב שמדובר כאן בתוכנה ובמהנדסי תוכנה. יש כנראה צוות שמחליט איך המטוס צריך להתנהג, והוא זה שפישל. המתכנתים בסך הכל בצעו את הדרישה של הצוות הזה. ''באג'' לא היה כאן.
תגובה מהירה מאד 712473
מסכים עם דב, התנהגות אלגוריתם כזה מוכתבת על ידי הדרישות ממהנדסי המערכת ומהנדסי המוצר, המתכנתים עוקבים אחרי הדרישות ולא מחליטים בעצמם, או לפחות כך זה אמור להיות בנוהל פיתוח תקין, וודאי כזה שמערב מכונות מסובכות שמסכנות חיי אדם.

חוליה נוספת בשרשרת הפיתוח שסביר שכשלה כאן היא בקרת האיכות ומהנדסי ניסויי הטיסה - זו שתפקידה להריץ תרחישים אפשריים ולבדוק שהמערכת לא כושלת בהם.
תגובה מהירה מאד 712475
ואם בחברה כל כך מכובדת כמו בואינג זה לא הצליח, עם כל הבקרות של רשויות הטיסה, למה שזה יצליח עם מכונית אוטונומית מתוצרת סין?
תגובה מהירה מאד 712476
האמת, זו דוגמה נהדרת ל-ai המהוללת ומגבלותיה.
תגובה מהירה מאד 712495
האם השתמשו בכלל בלמידה עמוקה? לפי הניתוחים שאני קורא נראה לי שמדובר בתכנות פונקציונלי סטנדרטי ("אם זוית ההתקפה ואם הגובה... אז...").
תגובה מהירה מאד 712513
די ברור שלא היתה כאן למידה עמוקה (כנראה שום שמוש בלמידת מכונה בכלל). אני לא בטוח שלמידה עמוקה זה מה שנדרש במערכת כזו, אבל בכל מקרה לא זו היתה הבעיה. עד כמה שאני מבין, הלוגיקה הפנימית של המערכת היתה בסדר, אבל הטעות החמורה היתה בקריאת הנתונים ממד זווית התקפה אחד (במקום שניים או שלושה), שגם מועד להתקרחות או היסתמות וגם עלול סתם להיות תקול. במצב שבו הזווית המועברת לא נכונה, לוגיקה תיתן תשובה לא נכונה - אלא אם כן יש ללוגיקה דרך לנתח את הנתונים שהיא מקבלת ולקבוע שאין לסמוך עליהם. Garbage in, garbage out. היו עוד הרבה כשלים בתהליך; למשל, בשלב של בקורת הבטיחות על תכנון המטוס המערכת נועדה להוריד את אף המטוס בחצי מעלה בלבד. בשלב מאוחר יותר החליט מי שהחליט להגדיל את תחום הפעילות שלה ולאפשר לה להוריד את האף בעד שתי מעלות. בשלב הזה אף אחד לא חשב שזה שינוי שמחייב בקורת בטיחות חדשה. אפשר לכתוב על הדברים שקרו שם ספר שלם - ואין לי ספק שספר כזה אכן ייכתב (ואולי כמה, סביר להניח שכבר היום הם בשלבי כתיבה מתקדמים).
תגובה מהירה מאד 712526
למרות כל הלחצים לזרז ולהוזיל את הפיתוח, ממש מדהים שאפשרו single point of failure כזה. ולנו יש את החוצפה להתלונן על גשר המכביה או תקרת פלקל.
תגובה מהירה מאד 712558
אכן. מה גם שאפשר לבדוק גם נתונים שמגיעים מחיישן אחד. אפשר קודם-כל לראות האם הם עקיבים ללא קפיצות והתנהגויות מוזרות. סביר להניח שהפלט של חיישן כזה הוא בכל מקרה רועש למדי (אם יצא לך פעם לראות את הפלט הלא מפולטר של החיישנים בטלפון שלך אז אתה יודע על מה מדובר) ותמיד צריך לנקות אותו, אבל אחרי הניקוי אתה מצפה להתנהגות סבירה. זה יכול לכסות שגיאות אקראיות, אבל לא שיטתיות. גם את השגיאות השיטתיות אפשר היה, לדעתי, לזהות. זווית ההתקפה חייבת להיות בקורלציה הדוקה עם הזווית הכללית של גוף המטוס (pitch, עִלְרוּד בעברית תקנית). הזווית הזו ידועה - אני מניח שהיא נמדדת גם על ידי חיישנים שמבצעים דגימה רגעית וגם בעזרת מערכת אינרציאלית (ג'ירוסקופים). אז אפשר בעזרתה לבדוק האם הנתונים של זווית ההתקפה מהחיישן סבירים. אם ממש רוצים אז סביר להניח שאפשר להסיק את זווית ההתקפה מהמידע על תנועת המטוס - אם יש לך מודל של התנהגות המטוס ואתה פותר את המשוואות כך שבמקום שזווית ההתקפה תהיה חלק מהקלט היא הופכת להיות הפלט. אני משער שחלק מתיקון התוכנה המדובר כולל אלמנטים הדברים האלה.

ולגבי החוצפה - בכל זאת, כמי שהמציאו את החוצפה יש לנו זכות להשתמש בה כרצוננו.
תגובה מהירה מאד 712477
מה לא הצליח? המקרה המצער הזה הוא הדבר היחיד שקרה בבואינג? אתה זוכר את הגג באולמות ורסאי? אז בגלל זה אסור לנו לסמוך על שום גג? האם בגלל אסון אולמות ורסאי אתה נמצא כל הזמן בחרדה שהתקרה בביתך תקרוס עליך או שתעוף יחד עם הרצפה בביתך אל השכנים שמתחתך? ואת הגשר להולכי רגל על הירקון שקרס יחד עם ספורטאי המכבייה אתה זוכר? אז זה אומר שיש בעיה בגשרים בארץ? היו אסונות בגלל תכנונים לקויים. אבל צריך לראות את התמונה הרחבה.
תגובה מהירה מאד 712486
לפי מה שאני זוכר שקראתי, הבעיות בבואינג יותר עמוקות ורחבות, ולא רק ב-‏737. היה גם מהנדס בטיחות שהתריע וגם חשף התנהלות רשלנית בחברה, וגם העיד בקונגרס. אאז"נ, וצריך לחפש לינקים מתאימים. בנוסף לבעיות התכנוניות והבטחת האיכות של ה-‏737, היה גם לחץ לזרז את הייצור שגרם לכל מיני קיצורי דרך ורשלנות בייצור. גם במטוס ה-‏787 שי בעיות שקשורות לזה שבואינג הקימה מהר מפעל חדש בדרום קרולינה ששם אין עובדים מיומנים בתעשייה וכוח האדם שגויס לא היה מיומן ובעל נסיון בעבודה בסביבה של ייצור מטוסים. על זה התווסף לחץ הנהלה לזרז את הייצור שגם פה הביא למקרים של רשלנות מדעת או מחוסר דעת, קיצורי דרך ועיגול פינות גם בסרטיפיקציה של המטוסים שיוצרו בדרום קרולינה. עד כמה שאני זוכר, המהנדס סיפר על כלים שהושארו בתוך חללי המטוס, כולל סולם שהושאר בתוך הגה הזנב, חתימה על טפסי בקרת איכות בלי ביצוע בקרה, השארת פסולת מהעבודה במטוס ועוד. אני זוכר שבסוף הוא אמר שהוא לעולם לא יעלה על 787 שיוצר בדרום קרולינה.
תגובה מהירה מאד 712500
אני לא אפסיק לטוס בגלל התרסקויות ה 737 מקס, אבל כנראה אעדיף איירבס בשביל השקט הנפשי שלי. היום צנח עוד 737, לא מקס כמובן, אבל יש הרגשה שהם נופלים כמו זבובים.

הבעיה עם בואינג היא שאחרי ההתרסקות הראשונה היה ברור שה MCAS בעייתי. בואינג העבירה אותו את הרגולציה עם מניפולציה כלשהי שגרמה לו להיחשב לשינוי פחות קריטי ממה שהוא, וגם לא הכניסה אותו ל Manual של המטוס כמו שצריך, אבל אחרי ההתרסקות הראשונה דגל האזהרה כנראה לא התנופף מספיק חזק אצלם, והם העדיפו לא לשנות את ה MCAS, אלא רק לחדד נהלים (וכך הצוות של אתיופיאן כבר ידע לסגור מהר את ה Kill switches, והצליחו לשמור שליטה כלשהי במטוס לזמן מה)
תגובה מהירה מאד 712504
אני נוטה לנחש בזהירות שה 737 800 לא התרסק בגלל בעיה טכנית. אולי בגלל טעות אנוש ואולי אפילו בגלל איזה טיל טועה שפגע בו. יצא לי לטוס בדגם הזה באל על הרבה פעמים, ועובדה היא שעד כה אני לגמרי שלם.
תגובה מהירה מאד 712505
מעיון חולף בידיעות על המטוס האוקראיני גיליתי שהאיראנים מסרבים למסור את הקופסאות השחורות שלו, וכן שהאוקראינים לא גורסים עוד שמדובר בתקלת מנוע. יש כאן רמזים בכיוון שניחשתי.
תגובה מהירה מאד 712546
נראה שצדקתי.

'כשאתה אומר "הם נופלים כמו זבובים" האם יש איזה טיעון הגיוני מאחורי זה שאתה לא משתף אותו, או שזו אינטואיציה, תחושת בטן?'

ה 737 800 ו 900 הם מטוסים מרבי התפוצה בתעופה האזרחית והם מאד אמינים. אני מניח שעוד יצא לי לטוס בהם, ואיני חושש.
תגובה מהירה מאד 712552
אני לא כתבתי: "הם נופלים כמו זבובים".
אני כתבתי: "יש הרגשה שהם נופלים כמו זבובים."

עכשיו כשאנחנו יודעים מה כתבתי אני חושב שיהיה לך קל לנחש לבד- יש איזה טיעון הגיוני מאחורי זה שאני לא משתף אותו, או שזו אינטואיציה, תחושת בטן, הרגשה?
תגובה מהירה מאד 712555
לגבי המטוס האוקראיני שהתרסק באירן. יש כמה עיתונאים שמתחילים לבדוק למה האצבע האירנית על הדק סוללת הטילים היתה עצבנית.

הם מתבססים על התוכנית של שון האניטי בפוקס ניוז ששודרה בסביבות הזמן שהמטוס נפל. שון האניטי הוא יועץ של טראמפ והם מדברים כמעט כל יום, וטראמפ ידוע כמי שמגלה סודות לכל מיני אנשים (למשל, האורחים באתר הגולף שלו ידעו על ההתנקשות) ומשתמש ברטוריקה של הפחדה והתרברבות.

האניטי כבר קרא בתוכנית שלו לטראמפ להשתמש בכל הכוח. בתוכנית ששודרה בזמן ההתרסקות הוא אמר בשפה של דיווח עיתונאי על 3 מתקני זיקוק שעומדים לעלות באש, שמתקנים גרעיניים עומדים להיות מושמדים, שמטוסים אמריקאים יתקפו הלילה, F35 הוזנקו לתקיפה, B52 בדרך, ושכדאי למנהיגים האירנים להתחבא בבונקר.

הם שואלים את עצמם אם זה לא סביר שהאירנים, שגם מכירים את מערכת היחסים ההדוקה בין טראמפ להאניטי, מקשיבים לתוכנית שלו ושדבריו העלו אצלם את רמת העצבנות?

מעניין יהיה לראות מה יעלה התחקיר הזה, ואיך הארועים ימופו על ציר הזמן.
תגובה מהירה מאד 712565
דיווחים דומים מהתוכנית שלו התממשו בסבירות מספיק גבוהה? כלומר: האם למודיעין האיראני היה טעם להקשיב לאיומים שנאמרו בתוכנית שלו?
תגובה מהירה מאד 712566
כלומר אתה נותן הנחות לא רק לארז אלא גם לעצמך. אני חש מקופח ומוותר על המחמאה.
תגובה מהירה מאד 712588
ואם מישהו פקפק גם האיראנים מודים עכשיו בטעותם.
תגובה מהירה מאד 712490
יהיו כשלים וגם תאונות גם במכוניות אוטונומיות, בוודאי בשנים הראשונות. אבל אגלה לך מה שרבים בתעשיה יודעים: גם במכוניות לא אוטונומיות יש כשלים ותאונות, ותוכנת הנהיגה שלהן גם היא לא מושלמת. יש יסוד להניח שכאשר האוטונומיות תשוחררנה לשימוש כללי הן כבר תהיינה בטוחות יותר מהרגילות בצורה מובהקת.

אגב, נקודה שפחות מזכירים אותה היא שהפיתוח של האוטונומיות גורר אתו מערכות בטיחות שרבות מהן מוצאות ותמצאנה את דרכן למכוניות הרגילות (ע"ע מובילאיי). באופן הזה כבר היום המכוניות האלה משפרות את הבטיחות של כולנו. סביר להניח שבשנים שתחלופנה עד שנראה אוטונומיות על הכביש נושא הבטיחות כבר יהפוך לקצת פחות מדאיג.
תגובה מהירה מאד 712502
מסכים בעקרון. אני רק מצביע על מה שנראה לי כמו בעיה, שתקלות תוכנה הן הרבה יותר קשות לתיקון מתקלות חומרה.
כשלטויוטה התגלתה בעיית דוושת התאוצה היא פתרה את הבעיה תוך שבועות, עשתה ריקול למיליוני מכוניות ותוך מספר שבועות המשיכה למכור את דגמיה כרגיל.
תגובה מהירה מאד 712503
כשאתה כותב שלדעתך תקלות תוכנה הן הרבה יותר קשות לתיקון מתקלות חומרה, "האם יש איזה טיעון הגיוני מאחורי זה שאתה לא משתף אותו, או שזו אינטואיציה, תחושת בטן?"
אני, למשל, בטוח בדיוק בהפך, שהרבה יותר קל פשוט ומהיר לפתור בעיות תכנה מאשר בעיות חומרה, וזה כל כך מובן מאליו שכל "טיעון הגיוני" במקרה זה ממש מיותר.
ואני גם חוזר על מה שכתבתי קודם, שאותה תקלה ב737 מקס אינה תקלת תכנה.
תגובה מהירה מאד 712507
אני משווה בין המקרים.
טויוטה "קרקעה" את המכוניות שלה לשבועיים. ה 737 מקס מקורקע כבר 10 חודשים.

אם זו תקלה בתכנון התוכנה מבחינתי ודאי שזו תקלת תוכנה. לדוגמה- ה MCAS לא אמור לפעול בכלל במהירויות גבוהות ושתי ההתרסקויות קרו במהירות גבוהה.

בואינג הודיעה אחרי חודשיים מהקרקוע שהיא השלימה את עדכון התוכנה. מסתבר שהיו בעיות נוספות, כמו זה שהאימון של טייסי המקס להבדלים בינו לבין הדור הקודם היה בדיחה, אבל התקלה עצמה היתה בזה שהתוכנה לא היתה טובה.
תגובה מהירה מאד 712510
ההשוואה שאתה עושה עם מקרה טויוטה היא השוואה מופרכת מכמה סיבות. אתה רואה את התקלה ב 737 מקס כמייצג של תקלת תכנה. אני לא מסכים אתך בעניין זה כפי שאמרתי מספר פעמים אבל ניחא. נניח שבנקודה זו אתה צודק, ובאמת מדובר בתקלת תכנה (קשה לי לומר זאת אפילו כהנחה, אבל מילא). אבל כשאתה משווה שני סוגי תקלות לא רק סיווג התקלה כתכנה או חומרה משחק תפקיד אלא גם גודלה. יכולה להיות תקלת חומרה ענקית ותקלת חומרה קטנה ופשוטה. ויכולה להיות תקלת תכנה ענקית (נניח מה שחשבו על באג 2000 מי שחשבו), ותקלת תכנה פשוטה. אין שום מקום להשוואה. אבל המופרכות עוד יותר בולטת בכך שאתה לוקח שני מקרים מכל סוג ומהם מסיק מסקנות. זה כמו לעשות מדגם על תוצאות בחירות לפי אדם אחד, ולקחת את המפלגה שלה אמר שיצביע ולהגיד שמפלגה זו תקבל את כל המנדטים. טעות היא להסיק מסקנות בצורה כזאת.
תגובה מהירה מאד 712512
אני מסכים עם דב, וחוץ מזה יש עוד דבר - ההבדל בין תעשיית התעופה לתעשיית הרכב מבחינת רגולציה ומהרבה בחינות אחרות לא מאפשר להשוות ביניהן. אם בכל זאת אתה מתעקש להשוות אז אתה יכול להשוות את תקלת המקס לתקלה בכריות האוויר של חברת טקאטה Takata Corporation [Wikipedia]. תחילת הקריאה לריקול של מכוניות שצוידו בכריות החברה היתה עוד ב-‏2013 ועד היום הזה היא לא הסתיימה - אפילו רשימת המכוניות שנזקקות לריקול עדיין לא סופית ורק בחודש הקודם הוספו לה עוד כמיליון וחצי מכוניות. תוך כדי התהליך החברה גם פשטה את הרגל. זה מצב מאד נדיר שבו אחד מהספקים הישירים של מודולים ליצרני הרכב (ספק Tier 1 בעגה המקצועית) מפשל כך שיש צורך לבצע ריקול למכוניותיהם של עשרות יצרנים, אבל בכל מקרה הוא מראה לך כמה קשה לטפל בתקלת חומרה רצינית.
תגובה מהירה מאד 712514
מסתבר שבינתיים מתגלים עוד ליקויים ב7371, חוץ מנושא התוכנה. בואינג בודקת קובץ כבלים שעלולים לקצר ולגרום לקטטסטרופה. הכבלים מעבירים פקודה ממחשב המטוס למנוע ששולט במייצב האחורי כדי להרים או להוריד את האף. הם גם בודקים אם בעיה דומה קיימת בדגם הקודם 737NG עם 6800 מטוסים בשרות (למקס יש הזמנות ל-‏5000 מטוסים).

1 בכתבה במובייל יש יותר פרטים
תגובה מהירה מאד 712515
אני מנחש שבכמעט כל מטוס שהיה נבדק ברמת הדקדקנות שבה המקס נבדק עכשיו היו מתגלים ליקויים. מערכות מודרניות - מטוסים, מכוניות, ספינות, כמעט כל דבר שאפשר לדמיין - הן כל-כך מורכבות שאין למעשה יכולת לעלות על כל הבעיות שעלולות להיות קריטיות, או לפחות אין יכולת לעשות זאת בזמן ותקציב סבירים.

כאן למשל אפשר לקרוא על מערכת שהצי האמריקאי התקין בספינותיו והיתה אמורה להביא למודרניזציה של השליטה בספינות. המורכבות של המערכת, הלוגיקה הלא ברורה ולא שקופה שלה וההכשרה והנסיון הלקויים של רבים מאלה שהפעילו אותה הביאו להתנגשותה של ספינת הצי ג'ון מקיין בספינת סוחר ולמותם של עשרה מלחים. אגב, זה התחקיר המפורט השני של אתר פרופובליקה על תאונות בצי; התחקיר הקודם שלהם היה על התנגשותה של הספינה פיצג'רלד בספינת סוחר, שגם היא נבעה בחלקה ממערכות מורכבות שלא תפקדו נכון ברגע האמת. שני התחקירים מפורטים ומרתקים (וגם ארוכים, מה לעשות).
תגובה מהירה מאד 712516
בקשר ליכולת לערוך בדיקות בתקציב סביר, אני אומר בזהירות (כי אני לא מומחה מיסים) שנראה שאולי לבואינג יש כסף לשכור עוד כמה מומחים לנושא. לדוגמא, בניתוח הזה החברה שילמה 8.4% מס פדרלי על כמעט $55 מליארד רווח 2008-2017 (להזכיר שאחרי זה היתה הפחתה משמעותית במס חברות).
תגובה מהירה מאד 712517
האמירה לגבי הזמן והתקציב היא אמירה כללית לגבי כל מערכת מודרנית, לא רק המקס. בדיון אחר עסקנו בחריגות הזמן והתקציב האדירות בכורים גרעיניים: זה מה שקורה כשמתעקשים על הליכי בקרת בטיחות סופר-מפורטים וסופר-דקדקניים. דוגמה אחרת לכך היא תהליכי פיתוח תרופות. בכורים גרעיניים ותרופות מובן למה זה חיוני (אם כי גם בהם יתכן שהגענו להגזמה). בתחומים אחרים נראה שהאנושות מוכנה לקבל מעט תאונות בתמורה להתקדמות טכנולוגית ומחירים כספיים נסבלים.

לגבי המקס - ברור שיש להם כסף, כפי שגם ברור שהקרקוע של המטוסים עולה להם הרבה יותר מאשר היה עולה לשכור עוד אלף מומחים (לו היו אלף מומחים לבטיחות מטוסים שניתן לשכור אותם). אם צריך הם גם היו מוצאים כסף למרכיבים אחרים של בדיקות - סימולציות מחשב, בדיקות מעבדה בתנאים שונים וכן הלאה, כל מה שנעשה מן הסתם אבל אפשר היה לעשות יותר. אבל זמן הוא הפקטור השני, ובמקרה של המקס הוא היה פקטור קריטי. המטוס הזה יועד להקדים את איירבוס עם פתרון לשוק מסוים, ותהליך בדיקות ממושך היה מונע את זה. והאמת היא שהם כנראה כלל לא הבינו שעלולה להיות בעיה: נוציא עוד גרסה קצת יותר גדולה ל-‏737 כפי שאנחנו עושים כבר חמישים שנה, יהיו שינויים קלים אבל שום דבר דרמטי, לא צריך הסמכה חדשה לטייסים, נסמן וי ונתחיל לעשות קופה. יתכן מאד שאילו היו מקדישים טיפה יותר מחשבה למערכת הספציפית הזו זה גם היה מצליח, ובעוד עשר שנים היית רואה אלפי מקסים טסים עם רקורד בטיחות מצוין. ללמדך שרקורד בטיחות מצוין לא מהווה הוכחה לתכנון ובקרה מדוקדקים.
תגובה מהירה מאד 712518
אכן, אלא שהגבתי ספציפית לעניין המגבלות התקציביות על בקרת האיכות והאמינות. בתגובה אחרת התייחסתי גם לפקטור הזמן ותרומתו השלילית. אלא שעד כמה שאני יודע בתעשיית התעופה מדברים (ועושים) בשנים האחרונות על מושג ''אפס פגמים''.
תגובה מהירה מאד 712559
אבל אין דבר כזה אפס פגמים. לפני שנים רבות למדתי איזשהו קורס של שנה א' במדעי המחשב. המרצה הביא סטטיסטיקות לגבי באגים בתוכנה. לפי הטענה אז, בתוכנה מסחרית ממוצעת אתה יכול למצוא באג בסדר גודל של אחד למאה שורות קוד, ובתוכנה איכותית אחד לאלף; בתוכנה שנבנתה ונבדקה עבור מערכות קריטיות יש בממוצע באג אחד לעשרת אלפים שורות. בתוכנה של מעבורת החלל, כך הוערך שם, יש באג אחד למיליון שורות קוד; בהתאם לכך, התוכנה הזו גם עלתה למשלם המסים האמריקאי אלף דולר לשורה. הבעיה היא שבתוכנה של המעבורת היו עשרה מיליון שורות קוד (אגב, בסטנדרטים של היום זה מעט מאד לפרויקט גדול; אין לי ספק שעל המקס רצות הרבה יותר שורות קוד). אתה לא יכול לאפס פגמים, רק להקטין הסתברויות - ואני מנחש שעל כל אפס שתוסיף אחרי הנקודה בהסתברות אתה תוסיף אפס לפני הנקודה במחיר.
תגובה מהירה מאד 712564
תוכנה זה רק חלק קטן יותר בתשומות שכרוכות בתהליכי הפיתוח ובעיקר, תהליכי הייצור וההרכבה של מטוס. וגם, ופה כהדיוט בנושא אני מסכים עם דב שנראה שהבעיה הספציפית הייתה נעוצה בתכן ובבדיקות. זאת אומרת כנראה בממשק בין הנדסה, ידע מקצועי של טייסים, ומפתחי תוכנה.

ובכל מקרה, אם התעשייה הזו מדברת על מטרה של אפס פגמים, אפשר לצפות שהתודעה הזו תחלחל ותנחה את כל התהליכים, כולל למשל שיווק וכספים, שלא לדבר על פיתוח תוכנה, במטרה להשיג אותה או להתקרב אליה כמה שיותר.
תגובה מהירה מאד 712606
אפס פגמים בתוכנה הוא כמו אפס פגמים בחלקים אחרים של השרשרת: אותו כלל בסיסי פועל בכל מקום. כלל פארטו: אתה יכול להשיג 80% מהתוצאה ב-‏20% של המאמץ (זמן, אנשים, כסף). גם על ה-‏20% האלה חל אותו כלל וכן הלאה. לכן בסופו של דבר היחס בין המאמץ השולי שאתה משקיע למספר הפגמים שאתה עדיין יכול להצליח למצוא הופך גבוה מדי.

אפס פגמים זה בדיוק סוג המטרות שמנהלים אוהבים לדבר עליהן אבל ברגע האמת הן מתקשות לעמוד מול הלחצים העסקיים. אני בטוח שפולקסווגן כוללת בערכים שלה אמירת אמת והוגנות וגם שמירה על איכות הסביבה, אבל כשהם לא הצליחו לעמוד במבחני הפליטה הם רימו. אם בואינג יודעת שהשתהות של עוד שנה בפיתוח תעלה ב-‏300 מטוסים שאיירבוס תמכור במקומה, ובהתחשב בזה שהם לא באמת מאמינים שיש פגם מהותי בסחורה שלהם, אז הם ינסו לקצר תהליכים. כתבתי קודם שלדעתי זה לב הענין: כמו שחיל הים לא האמין ב-‏2006 שלחיזבאללה יש באמת יכולת לסכן את הספינות שלו, כך בואינג לא באמת האמינה שתהיה בעיה אמיתית עם המטוס החדש. היה לה אפילו אינטרס ישיר לא להאמין בכך: היא שאפה שכל טייס שהוסמך על גרסאות 737 קודמות יוכל לקבל הסמכה למקס ללא סימולטור. גם זה גורם משיכה משמעותי מבחינה עסקית. ברגע שאתה מאמין שאין הרבה בעיות אתה לא משקיע הרבה מאמץ בחיפוש אחרי מה שלא קיים.
תגובה מהירה מאד 712625
בתעשייה המודרנית בכלל ובתעשיית תעופה (וחלל) בפרט מדברים על אפס פגמים. למשל, במקרים מסוימים הגיעו לפגם אחד למליון חלקים (אני זוכר דוגמה מייצור מנועי סילון). ברור שהאתגרים שונים בתחומים שונים של השרשרת אבל זהו כיוון אליו שואפים, כמו שאומר למשל המנשר הזה של תוכנית הוריזון 2020 של האיחוד האירופאי.
תגובה מהירה מאד 712799
אתה יכול להסתכל למשל על רשימת הבאגים האינסופית בפרויקט כמו ה-F-35 כדי לראות שבמערכת כל-כך מורכבת אין אפשרות מעשית להגיע לאפס פגמים. אתה יכול לעשות את זה בתתי-מודולים, אבל ככל שהמערכת גדלה ונעשית מורכבת מספר האפשרויות לפגמים באינטראקציה בין הרכיבים שלה ומספר התרחישים האפשריים לפגמים מבחינת תנאי סביבה ותפעול גדל אקספוננציאלית. אפשר להוריד את ההסתברות להופעת פגמים לרמה נסבלת (ויכול להיות שמה שנגדיר "נסבל" היום הוא נמוך בסדר גודל מאשר מה שהיינו מגדירים לפני עשר או חמש-עשרה שנה), אבל אי אפשר להעלים אותם.
תגובה מהירה מאד 712800
אתה שב וחוזר לתוכנה וכבר הערתי שהתוכנה היא רק מרכיב אחד מהמערכת הכללית - מטוס במקרה הזה - ולמעשה זאת מערכת של מערכות. כפי שכתבתי מקודם, ברור שלמערכות שונות יש אתגרים וקשיים שונים כשמדובר באמינות, יציבות, ביצועים וכו'.
תגובה מהירה מאד 712803
הבעיות ב-F-35 הן לא רק בתוכנה ואני לא הזכרתי כלל את המלה תוכנה. בכל מקרה, אם המטוס הוא מערכת של מערכות אז הדבק שמחבר את כל המערכות האלה הוא התוכנה, והמקום שבו בעיות באינטראקציה בין המערכות אמורות להפתר הוא התוכנה. אבל קח לדוגמה את הסיפור של המקס: אם המערכת מקבלת מהחיישן נתונים נכונים אז היא פועלת כשורה. אם החיישן מעביר נתונים שגויים היא עלולה להפיל את המטוס. זו בעיה בחומרה שעשויה להפתר בעזרת חיישן אמין יותר, או בעיית תוכנה שעשויה להפתר בעזרת תוכנה חכמה יותר שמנתחת את תפקוד החיישן ומזהה חריגות, אבל מבחינה הנדסית טהורה היא לא זה ולא זה - היא בעיה יסודית בתכנון מערכת שיש בה נקודת כשל קריטית ללא יתירות. ככל שיש יותר מערכות תהיינה יותר נקודות כשל כאלה; לחלקן ישימו לב, אבל לא לכולן. ככל שיש יותר מערכות המספר האפשרי של אינטראקציות ביניהן גדל אקספוננציאלית והופך בדיקה יסודית של כל אינטראקציה לבלתי אפשרית.

אתן לך דוגמה מתחום אחר לגמרי: יש לנו ידע אמיתי על האינטראקציה בין מספר קטן מאד של תרופות - הנפוצות ביותר, באופן טבעי - וגם שם, הידע הוא בעיקר על אינטראקציות בין זוגות של תרופות כאילו בחלל ריק. אם אתה אדם מבוגר שבולע מדי יום כדורים מחמישה סוגים שונים אז קודם כל, יש סכוי לא זניח שאתה האדם היחיד בעולם עם הקומבינציה הספציפית הזו, אבל גם אם לא - לא הרופא או הרוקח שלך ולא אף אחד אחר יודע להגיד לך איך התרופות האלה מגיבות לקומבינציה הזו. הם יוצאים מהנחה שאין ביניהן אינטראקציה וזהו. ברור שקיימות אינטראקציות שאיש אינו מודע להן, וחלקן מסוכנות - ובכל זאת לא מעשי לבדוק הכל.
תגובה מהירה מאד 712818
שזה לא ישמע חלילה מעליב, אבל הפירוט שהבאת לא באמת מחדש. מה שאני ניסיתי לספר זה על המאמצים שמושקעים בקידום תפיסה ומתודולוגיות של אפס-פגמים. זה לא אותו דבר כמו אפס תקלות.

בהקשר של המקס קראנו שזה נגע לתהליכי התכנון, פיתוח, טסטים, ובקרת איכות שבלשון המעטה נפלו בהם פגמים. כפי שכתבת, אלו לא פגמים מסוג הלא-ידוע-שלא-ידוע בתחם המקצועי (כל התחומים שמעורבים בפרוייקט), אלא פגמים שמקורם כנראה בהחלטות ניהוליות-עסקיות. אם יש קידום של תודעת אפס-פגמים לא היית מצפה שתהליכ הניהול גם יהיו מוכוונים לזה?
תגובה מהירה מאד 712819
בדיוק. בואינג האיצה את הפיתוח והייצור תוך שהיא מתעלמת מאזהרות עובדים מסיבות עסקיות.
יש למטוס שני חיישנים מהסוג שכשל, אבל המערכת השתמשה רק באחד בכל טיסה, וזה למרות שיש לחיישנים האלה היסטוריה בעייתית. תיקון התוכנה שבואינג עשתה אחרי התאונה השניה מפעיל את ה MCAS רק אם הקלט משני החיישנים מתאים, אבל המנכ"ל (שכבר פוטר) אמר שזו לא הודאה באיזה כשל או פגם תכנוני. פחחח.
תגובה מהירה מאד 712875
בנסיון שלי עם חברות מסחריות לא ראיתי שתהליכי ניהול מכפיפים את עצמם למתודולוגיות שמעמידות מטרה כמו אפס פגמים מעל כל שיקול עסקי. במקרה של המקס, סביר להניח שאם היה רצון אמיתי להגיע לאפס פגמים לא היו מתכננים את המטוס הזה מלכתחילה. הרי יש לנו בסיס שתוכנן בשנות הששים (כשמטוסים התבססו על הידראוליקה ושליטה ידנית בכל פרט ולא על חשמל ושליטה ממוחשבת) כמטוס הרבה יותר קטן, שהוגדל כמה וכמה פעמים. ההגדלה הנוכחית חייבה מנועים גדולים יותר, הם מצדם שינו את מרכז הכובד והביאו לפגיעה באיזון האירודינמי, וכדי לפצות על כך נוצרה מערכת ה-MCAS. אז יש לנו טלאי על גבי טלאי על גבי טלאי על גבי טלאי - ברור מאליו שצורת עבודה כזו לא יכולה להסתדר עם חשיבה של אפס פגמים. אם אתה רוצה לתכנן משהו עם אפס פגמים אתה יכול לעשות את זה על פלטפורמה חדשה, אבל לא על פלטפורמה עתיקה. גישת אפס פגמים אמיתית מחייבת תכנון מלכתחילה למטרה הזו.
תגובה מהירה מאד 712880
אני לא ממוחה לתעופה אבל אני יכול לחשוב על מטוסים אחרים שיש להם דגמים משודרגים שתוכננו מחדש.

לאחרונה חיה"א קיבל את הדגם החדש J של ההרקולס, גם ה-F15 עבר שדרוג, אאז"נ B52, וישנן התאמות של מטוסים למשימות ספציפיות כמו הסבה למטוסי תדלוק או רדאר, SUPER GUPPY של נאס"א, ובטח יש עוד.

אולי דב יודע יותר.
תגובה מהירה מאד 712991
ודאי, מטוסים כל הזמן מקבלים שדרוגים. בחלק מהמקרים זה אפילו מוגדר מראש - ב-F-35 למשל מוגדר אילו מטוסים יהיו Block 3 ואילו יהיו Block 4 שיבואו עם יותר יכולות (כאשר בהמשך לפי התכנון ישודרגו המטוסים מהבלוק הקודם). במקרה הזה מדובר בעיקר על עדכוני תוכנה אבל בהחלט לא רק. אחרי הכל מטוס לא מתכננים כמו מכונית, עבור אורך חיי דגם של שמונה שנים עם "מתיחת פנים" באמצע, אלא לעשרות שנים, והשדרוג זה חלק מהענין. אבל זה לא אומר שההרקולס J או המטוסים המוסבים נבנים במתודולוגיה של אפס פגמים. כפי שהערת בצדק בתגובה 712910 כדי לעבוד בגישה של אפס פגמים צריך לתכנן לכך מהבסיס, לא בהטלאה (אגב, זה נכון גם בתוכנה). לכן כתבתי שאילו המטרה היתה אפס פגמים לא היו בונים מטוס על בסיס פלטפורמה שהיא מראש מלאה בפגמים ובאילוצים.
תגובה מהירה מאד 712884
אני חושב שאתה מקצין את זה.
לא חייבים גישה של אפס פגמים כדי להקשיב למנהל קו ייצור שאומר שיש לו חששות כבדים לגבי הבטיחות של המטוסים שהוא מוציא תחת ידו.

אני מניח שיתירות במערכות קריטיות היא אלף בית של תעופה אזרחית. לכן השימוש של ה MCAS בחיישן אחד בכל פעם נראה לי או כתוצאה עקיפה של הנסיון להשחיל את המקס כשינוי פעוט מדגמים קודמים כדי לזכות בהקלות רגולטוריות, או תוצאה ישירה של רשלנות פושעת, וכנראה שילוב של שניהם.
שחרור קיטור חצי קשור 712896
אחת הרעות החולות של תעשיית ההיטק שאני חווה בשנים האחרונות - ואולי היא גם חלקן של תעשיות אחרות - היא התייחסות ל-QA כאל סרח עודף וחצי מיותר, שמביא לקיצוץ אכזרי בכמותו, איכותו ומשאביו בכל מצב שצריך לחסוך תקציבים.

המגמה הזו כל כך מובהקת, שאני נתקל אפילו במתודולוגיות שחורטות אותה על דגלן, בטענה ש'כל מפתח צריך להיות אחראי לעצמו ולתקינות המוצר שלו ולא לסמוך על רשת הבטיחות של בדיקות האיכות'.

הבאגים של ה-‏737 היו יכולים להתגלות בכמה שלבים, מבדיקות תוכנה קפדניות ועד ניסויי טיסה קפדניים, כמו גם באגים אחרים.
שחרור קיטור חצי קשור 712898
המוטו של פיתוח התוכנה בחברה שאני עובד בה: תניח שמי שבודק את הקוד שלך אחריך, זה הלקוח.
זה לא שאין סוג של QA, זה שאין להם מספיק כוח אדם, משאבים פיזיים וזמן לבדוק את מה שאנחנו מפתחים לפני שזה מגיע ללקוח.
יש גם אידאולוגיה מאחורי זה: Agile, כלומר לתת ללקוח גרסה חדשה כל שבועיים או כל חודש, ברגע שיש משהו להראות, ולא משנה אם זה באמת מוכן או לא.
שחרור קיטור חצי קשור 712899
אז המוטו מטומטם, וגם האידיאולוגיה שמאחוריו.
אם אין לך כח אדם ותקציב להוציא מוצר טוב ויציב, אתה מוזמן לבחור מקצוע אחר ולא לפתוח חברת תוכנה.
את שאר טענותיי על הAgile הקדוש אשמור לדיון אחר.

אגב, מנסיוני בעשרים האחרונים גם ראיתי בעין איך האידיאולוגיה הזו מביאה לכשלונות גדולים, פגיעה באמון הלקוחות ופגיעה מהותית במוצרים וגם בשוק.

וברור אגב לחלוטין, בהקשר של הדיון, שמטוס נוסעים הוא לא משהו שיוצא עם עדכון תוכנה כל שבועיים, והמסקנה בהתאם.
שחרור קיטור חצי קשור 712903
המוצר שלנו הוא חומרה, לא תוכנה.
אנשים בכירים ממני (ואולי גם חכמים ממני) הגיעו למסקנה שהלקוח מעדיף לקבל מוצר עם פונקציונליות חלקית כבר היום ועדכונים בכל חודש מאשר לקבל מוצר מוגמר בעוד שנה.
כמובן שאין שום דרך שמחלקת QA תהיה מסוגלת לבדוק גרסת תוכנה חדשה כל שבועיים ואפילו לא כל חודש, בעיקר כאשר התוכנה רצה על עשרות גרסאות חומרה שונות, כאשר במעבדות הבדיקה יש אולי 10% מהן.
וכמובן, שאנחנו לא מייצרים מטוסי נוסעים או אפילו מכוניות אוטונומיות, אבל בפעם הבאה ששיחת טלפון מתנתקת בפתאומיות, שהסרט שאתה רואה מקרטע, או המשחק שלך לא מצליח להתחבר לשרת המרכזי, תקלל אותנו (לא אותי אישית, למיטב ידיעתי אין לנו לקוחות בארץ).
שחרור קיטור חצי קשור 712906
האידאולוגיה אולי מטומטמת, אבל מצליחה. אני צריך להגיד מיקרוסופט ומסך המוות הכחול?
שחרור קיטור חצי קשור 712934
כמו שאולי נרמז בתגובה שלי, בחברות שאני הכרתי ומכיר - שהמוצרים שלהם יותר דומים עקרונית למטוס מאשר לתוכנה גרידא, גם אם פחות מסובכים - האידיאולוגיה הזו הובילה לפגיעה ממשית בתוצאות החברה, ללקוחות מעוצבנים שנותנים לך על הראש ולתוצאות עסקיות כושלות.

אולי ככה זה כשהלקוחות שלך משלמים הרבה כסף על כל מוצר.

אין לי ספק שמייקרוסופט עושים המון בדיקות איכות.
https://www.youtube.com/watch?v=heCrp9EYJw4 712911
אנקדוטה:

אני מכיר מישהו עם נסיון רב שנים בפיתוח תוכנה וניהול פרוייקטים, שלעת זיקנה יחסית עבד כבודק תוכנה בחברת הזנק שנסגרה לאחר כשנתיים, חברה אליה הגיע כתוצאה מקשרים אישיים עם הבעלים. לאחר הסגירה הוא רצה להמשיך לעבוד בתחום, ושלח קורות חיים לעשרים או שלושים מקומות עבודה פוטנציאליים אליהם הגיע בעיקר דרך alljobs, בהם ציין במפורש שהוא מוכן לעבוד בכל רמה שתידרש, החל מבדיקות תוכנה פרופר בהתאם למפרט מוגדר ע"י המפתחים (לא שזאת פרקטיקה מומלצת, אבל כידוע היא נפוצה למדי) וכלה בנטילת חלק פעיל בתכנון הבדיקות בהתבסס על ניסיונו העשיר.

יתר על כן, הבחור, שהוא בעל מיומנות מסוימת בכתיבה‏1, ניסה סגנונות שונים, כולל כאלה שגרמו לו לזוז באי נוחות מסויימת על הכסא בנוסח "אתם ודאי מחפשים סטודנט צעיר למדעי המחשב, אבל אני מציע לכם לחשוב מחוץ לקופסה בעניין זה בדיוק כפי שאתם מנסים לעשות בפיתוח המוצרים שלכם..." בלה-בלה-בלה. "גם אם אתם סקפטים" כתב בחלק אחר מהמכתבים "אם תזמינו אותי לראיון אתם מסכנים רק כמה דקות מזמנכם, בעוד התועלת האפשרית ממהלך כזה יכולה להתבטא בשנים של תרומה לחברה". לאחר שראיון עבודה אחד אליו הגיע דרך קשרים אישיים נגמר בלא כלום בגלל החשש מ"כישורי יתר", הוא התייחס לזה והסביר לכמה מקומות עבודה שאם הם חוששים מכך חששם אינו מוצדק, שכן המניע העיקרי שלו אינו כלכלי כך שהוא לא יהיה חשוף לפיתויים, ולראיה השנתיים בהן עבד בתפקיד זה. פניות אחרות היו ענייניות לחלוטין בלי שום נימה אישית או חריגה מפורמליות.

התוצאות: התעלמות מוחלטת. אפילו לא תשובה שלילית (שזאת, אם תשאלו אותי, סתם נבזות. מה הבעיה לשלוח אימייל מוכן מראש עם "אנחנו מצטערים אבל..."?‏2). אני משער שרוב המכתבים נזרקו לפח הוירטואלי כבר באיזו חברת כ"א שביצעה את הסינון הראשוני בהתאם לקריטריונים קשוחים שאסור לקרוא להם בשמם, אבל תרשה לי לפקפק בכך שיש מצוקה אמיתית של כ"א בתחום.

לפחות בתצוגה המקדימה הכותרת אינה קישור. אם אתם מספיק סקרנים תתאמצו קצת :-)
__________
1- אגב, גם כתיבה טכנית. הוא די גאה במדריך טכני שכתב פעם ובו שילב, תחזיקו חזק, קצת הומור; המוטו המוביל היה מה שהוא כינה "החוק הראשון של כתיבה טכנית" לפיו גם המדריך הטוב ביותר לא שווה הרבה אם לא קוראים אותו.
2-וכן, הוא מודה שכשהוא היה בצד השני של הטרנזקציה מעולם לא התעניין במשרד כ"א איתו עבד אם הם טורחים לעשות זאת, כך שמוסרית הוא לא יכול להתלונן יותר מדי. אני מקווה שאתם אנשים טובים יותר, או לפחות שתהיו כאלה להבא.
https://www.youtube.com/watch?v=heCrp9EYJw4 712917
אני לא טוען שיש מצוקת כוח אדם בתחום, אני טוען שיש מצוקת כוח אדם אצלנו, בין השאר, כי רק החודש פיטרו כשליש מאנשי הבדיקות. Agile, אתה יודע. למה צריך אנשי בדיקות אם במילא הם בקושי יכולים לבדוק משהו, כשהם מקבלים את הגרסה החדשה ביחד עם הלקוח?
שחרור קיטור חצי קשור 712910
כמו שהערתי לתשע נשמות, נראה שעולם הייחוס שלכם הוא עולם התוכנה, ומה שנקרא בהכללה היי-טק. בעולמות הפיתוח והייצור - שכוללים כמובן גם תוכנה - נושא האמינות מקבל מימדים שונים מאד. למשל, בעולם הסטארטאפיסטי/תוכנה מקובלת, בנוסף לפיתוח agile, גם תפיסה של פיתוח mvp. בנוסף לזה שהוא מכוון פיתוח מהיר בסבבים מהירים של פונקצונליות חלקית, הוא יכול להיות גם מוכוון, במודע, לפיתוח פונקציונליות שגויה או שתזרק לפח. כשאתה מייצר מכונות, תרופות, צעצועים, משחות שיניים וכיוב', תפיסת העבודה שונה. QA מגיע מאוחר מדי, קצת לפני דלת היציאה. המטרה היא להבטיח (בניגוד לאבטחה) איכות ואמינות עוד בשלבי התכנון והפיתוח.
שחרור קיטור חצי קשור 712919
אם לקוח מוכן לשלם פחות כסף תמורת מוצר איכותי פחות, למה זה "רעה חולה"‏1? בנוסף לאיכות במוצרים שונים יש חשיבות שונה, יש הבדל - למשל - בין מערכת שיווי המשקל למערכת בידור באותו מטוס. אם מערכת ההפעלה של הטלפון הנייד שלי תתקע, אני אאתחל אותו, אם מערכת ההפעלה של חברת החשמל תתקע, לא יהיה חשמל למאות אלפי אנשים. כל זמן שהלקוחות מודעים לעובדה שהחיסכון נובע מהחיסכון בבדיקת האיכות והחיסכון בבדיקת האיכות לא מתבטא בסיכון בבריאות או בחיים, זה נשמע לי בהחלט לגיטימי ולפעמים אפילו מבורך.

המתודולוגיה שגורסת שכל מפתח (למעשה, צוות של מפתחים) צריך להיות אחראי לשירותים שהוא מספק לא באמת שייכת. ז"א גם מי שמשתמש במתודולגיה הזאת יכול לדרוש במקביל בדיקת איכות גבוהה (או נמוכה), רק שמדובר בצוות אחד שעושה את הכל במקום שני צוותים שונים. במקומות בהם ראיתי את זה מתממש העבירו אנשים מבקרת האיכות לצוותי הפיתוח ולא פיטרו אותם.

1 מלבד לרעה הברורה שבאובדן העבודה למי שהתמחה בבקרת איכות.
שחרור קיטור חצי קשור 712930
יש תחומים שבהם זה "למה לא".
הטלפונים הסלולאריים של נוקיה היו עמידים באופן לא רגיל. היתה שאלה פילוסופית כמו השאלה אם אלוהים יכול לברוא עצם שהוא לא יוכל להזיז- האם צ'אק נוריס יכול לשבור נוקיה?
עכשיו העולם התרגל שאם מחליק לך הטלפון מהיד על הרצפה תגיד לו שלום. בתמורה המחיר של הניידים הסינים די מצחיק, ואם אתה בכל זאת רוצה לשמור על המכשיר שלך אתה קונה לו הגנות. למה לא?
יש איזו סינוסואידה של התכנסות לאופטימום כלשהו בכל מיני מכשירים- בהתחלה המוצרים בנויים לתלפיות, אחר כך בתהליך מזורז הם הופכים לזבל מתפרק, ואז חוזרים לאיכות סבירה. כתבתי פעם על מכונות כביסה, סוללות וכו' בתגובה 645919

אבל מטוס נוסעים? סליחה? מישהו חסר משאלת מוות יטוס במטוס שידוע שהוא זבל מתפרק?
שחרור קיטור חצי קשור 712933
מטוס נוסעים זה מערכת מאד מורכבת. אם מישהו יציע לי הנחה של 40% בכרטיס הטיסה בידיעה שהאיכות של מערכת הבידור לא נבדקה עד הסוף ואולי אאלץ לאתחל אותה מידי פעם או חס ושלום לקרוא ספר, הייתי הולך על זה בלי להסס. אם זה יהיה במערכת חיונית, לא רק שלא הייתי הולך על זה, אלא הייתי דורש להעמיד את יצרני המטוס לדין. נראה לי שאנחנו מסכימים.
שחרור קיטור חצי קשור 712960
שחרור קיטור חצי קשור 712936
הלקוחות שאני מדבר עליהם לא היו מוכנים למוצר טוב פחות. ולכל בעיה שהם גילו היו השלכות משמעותיות, כולל רכבות אויריות של מהנדסים ומפתחים לאתר הלקוח שעולות הון זמן וכסף.

חגבי הפסקה האחרונה - הסיבה שמפתח לא יכול לבדוק לחלוטין את המוצר שהוא פיתח.
החל מזה שאף אחד לא רואה את הדבשת שלו, ועד לזה שמפתח הוא לא משתמש, והוא רואה את החלק שלו ולא מכיר הרבה פעמים אפילו את כל המןצר הסופי, ומעטפת השימוש שלו. קל וחומר כשמדובר במערכת מולטידיסציפלינרית, שבסוף הפיזיקה והמכמיקה והתוכנה והחומרה שלהן תלויות הדדית.
כמו שטייס לא יכול להכיר את כל הקוד במטוס שלו, כותב תוכנה לא יכול להכיר את כל התרחישים בזמן טיסה. זה בדיוק התפקיד של בקרת האיכות.
שחרור קיטור חצי קשור 712941
בדיוק. ולכן התוכנה לא כללה את הדבר הפשוט ביותר- ניתוק של המערכת (שמטרתה למנוע הזדקרות, כן?) מעל מהירות מסויימת.
שחרור קיטור חצי קשור 712943
ומאיפה ההנחה שבבקרת איכות היו חושבים על הדבר הזה שנראה לך עכשיו כל כך מתבקש בדיעבד?
שחרור קיטור חצי קשור 712945
המטרה של בקרת איכות היא בדיוק זו - בניית סט תרחישים, מהרגילים ועד אלו שבקצה מעטפת הטיסה, כולל תאונות, תקלות, תקלות חיישנים ושאר ירקות.
עם ההסתייגות הטריויאלית שתמיד יהיה תרחיש חריג ומוזר שיימלט מעיני מישהו.

ולכן גם ההכשרה הנדרשת מאנשי בקרת איכות - וניסןיי טיסה במקרה הזה - היא לגמרי אחרת משל מהנדסי התוכנה. מהרבה. בחינות, אנשי בקרת האיכות צריכים להיות קרובים יותר לטייסים (המשתמשים באופן כללי יותר), ולידיעת אופני השימוש של המערכת, מאשר למהנדסי התוכנה שצריכים להתמצא במערכות הפעלה, שפות תכנות, לוגיקה חישובית ושאר ירקות.

ככאלה - מציאת תרחישי קצה היא בלב הדרישות מאיש בקרת איכות, וודאי במערכות קריטיות כמו מטוסים, ציוד רפואי, מערכות חלל, וכמובן מכוניות בואכה אוטונומיות.
אי אז בתחילת ימי הג'יפיאס, הייתי שותף לבחינת המערכות המבצעיות הראשונות במסוקים. בין השאר, לא היססנו להגדיר תצורות טיסה קיצוניות, כולל טיסה הפוכה ותמרונים שממש לא אופייניים למסוקים, כדי לבחון מתי מתנתקת הקליטה של המערכת.

איש בקרת איכות/ניסויי טיסה שהחמיץ תרחיש, שקול לאיש תוכנה שאיפשר גלישת זכרון וקריסה של האפליקציה שלו. המקצועיות של שניהם נשפטת בדיוק על פי סיכולם של מקרים כאלה.
מי שמצפה מאיש תוכנה למלא את תפקידו של איש בקרת איכות, שרוי באותה פנטזיה כמו מי שמצפה ממהנדס ניסויי טיסה להיות אחראי לשחרור פוינטר ביציאה מפונקציה.
שחרור קיטור חצי קשור 712946
לא. אבל מה המניעה שאנשי בקרת איכות יהיו באותו הצוות שמפתח?

בכל מקרה, זו דרך פיתוח ששימושית במצבים מסוימים, אבל דווקא בואינג לא השתמשה בה. לכן גם אם בדרך הפיתוח של בואינג היו בעיות, זו לא הייתה בעיה בדרך הפיתוח שלהם. לכן לא מועיל לערבב בין הנושאים.
שחרור קיטור חצי קשור 712947
מה המניעה שאנשי חומרה יהיו בצוות תוכנה ולהיפך?
כי אלה למדו הנדסת חשמל, ואלה למדו הנדסת תוכנה.
זה שאתה סתם שם את הקו במקום אחר זו פיקציה.
הטענה המקורית היתה שמבטלים את מחלקות הqa, ומנסחים אידיאולוגיה לפיה אנשי התוכנה יבדקו את עצמם, לא שמעבירים את אנשי הבדיקות תחת שם אחר למחלקת פיתוח התוכנה.

והרי התמרוץ העיקרי של מנהל לצמצום מחלקות הqa הוא שהוא מפטר אנשים וחוסך כסף - את זה רואים ישר בדוחו'ת הרבעוניים - לא שהוא מעביר אנשים ממקום למקום. על זה הוא לא יקבל שום תגמול.
שחרור קיטור חצי קשור 712951
מה המניעה שבאותו הצוות יהיה גם איש חומרה אחד? אם הצוות צריך לפתח חומרה, יהיה שם גם מפתח חומרה אחד.

בכל מקרה, כמו שצוין, מה שמנסים להשיג כאן הוא האצה של תהליכי הפיתוח, ומקבול שלהם.
שחרור קיטור חצי קשור 712952
נראה לי שאתה מפספס את כל הטיעון שלי, לא יודע איך לענות לך.
ברור שמנסים להאיץ את הפיתוח, הטענה שלי היא שזה על חשבון האיכות, ומנהל שאומר אחרת מרמה את החברה ואולי את עצמו.
שחרור קיטור חצי קשור 713005
יש בשיטה הזאת הרבה בעיות - אבל פגיעה באיכות? למה?
שחרור קיטור חצי קשור 712958
אני מתקשה לרדת לעומק הדיון בינך לבין הפונז, אבל אני חושב שהפרטים הם לא העיקר. העיקר הוא סדר העדיפויות, בעצם התרבות התאגידית של החברה.
כאשר הרווח הרבעוני בראש סדר העדיפויות מעגלים פינות כדי להעביר את המטוס מה שיותר מהר דרך הרגולציה, וכדי למנוע הוצ. "מיותרות" של הכשרת הטייסים. כנראה שגם לא עושים את ה QA כמו שצריך.
במקרה קיצון, כמו פולקסווגן, פשוט מרמים.

כאשר המוניטין והגאווה המקצועית של החברה הם בראש סדר העדיפויות, לא תהיה שום פשרה בנושאי בטיחות של מטוסים.

סולם הערכים והתרבות התאגידית הנגזרת ממנו של בואינג היו שונים בעבר. אותם מהנדסים ומנהלי ייצור שהתריעו על הבעיות מחזיקים עדיין בתרבות התאגידית הישנה של בואינג. אחד מהם עזב את החברה, מה שמוכיח את השינוי בסולם הערכים של החברה.
שחרור קיטור חצי קשור 712969
ובינתיים, טיסה ראשונה של בואינג 777X, שנכנס "לשלב הבא בתהליך הבדיקות הקפדניות".

777X הוא שידרוג של ה-‏777 ושילוב טכנולוגיות מתקדמות מה-‏787.
שחרור קיטור חצי קשור 713004
אם הלקוחות לא מודעים להורדה באיכות והחיסכון לא מתבטא בהוזלה במחיר אלא רק בהגדלת הרווחים זאת כבר רמאות לשמה. אני לא מכיר את התופעה הזאת (לא אומר שהיא לא קיימת).

ברור שמפתח לא יכול לבדוק את המוצר שהוא פיתח, הטענה היא שצוות שכולל מפתחים ובודקים יכול לפעול בצורה טובה יותר מאשר שני צוותים נפרדים. מנסיוני, לפעמים זה באמת עובד, לפעמים לא, זה תלוי במוצר, בתרבות הארגונית, בעובדים ובהנהלה.
שחרור קיטור חצי קשור 713010
אנחנו לגמרי מסכימים לגבי הפסקה האחרונה, היא רק לא דומה לתהליכים שראיתי שקורים במציאות, שבהם מקצצים באנשי הבדיקות ולא סתם מעבירים אותם מקום ישיבה, מהסיבות שציינתי.
שחרור קיטור חצי קשור 713018
לא רק בצורה טובה יותר אלא גם בעלות מופחתת; איש QA משתכר פחות מאיש פיתוח.
תגובה מהירה מאד 712527
ייתכן שזה באמת היה הלך הרוח, אבל בדיעבד תמוה מאד שכאשר הגירסה החדשה מחייבת העתקת המנועים לפנים, ולכן שינויים של מרכז המסה מרכז העילוי, עדיין מתייחסים אליה כאל "עוד גרסה קצת יותר גדולה ל-‏737 כפי שאנחנו עושים כבר חמישים שנה". לדעתי הם קנו את התכנון החדש בעלי אקספרס.
תגובה מהירה מאד 712530
אני מפנה בפעם השניה תוך שבוע לפסקה השניה ב תגובה 712177
תגובה מהירה מאד 712536
אני מתפלא על התאגיד עצמו שלקח סיכון עצום, בלי קשר לרגולטור. הייתי בודק אם כמה ממקבלי ההחלטות לא היו ב short על החברה :-)
תגובה מהירה מאד 712539
איזה סיכון? מישהו נכנס לכלא?
אחרי שנה של ניהול כושל של המשבר הדירקטוריון החליט ש"צריך שינוי בהנהגה" והמנכ"ל הלך הביתה לפני שבועיים.
תגובה מהירה מאד 712541
סיכון של כמה עשרות מיליארד דולר, לא?
תגובה מהירה מאד 712542
לא לנושאי המשרה.
המנכ''לים מסכנים את הטווח הארוך של החברות שלהם תמורת מחיר המניה בטווח הקצר, שנוגע ישירות לכיס שלהם.
תגובה מהירה מאד 712560
קנו את התכנון בעלי אקספרס, השאלה באיזה מטוס הטיסו אותו משם.
בשעתו אחרי אסון המכביה אמר מישהו ''לא יודע למה אומרים שחיפפנו. דווקא עשינו תכנון מפורט של כל האלמנטים של מבנה הגשר עם שרטוטים מדויקים, ואז תלינו את השרטוטים מצד לצד של הירקון''.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712583
מסמכים של תכתובות פנימיות שבואינג העבירה לקונגרס מגלים עובדי חברה שהביעו אי אמון במקס עוד בזמן פיתוח הסימולטורים ב 2017-18 ואפילו מוקדם יותר ב-‏2013. "האם תעלה את המשפחה שלך על מקס שהטייסים עברו אימון בסימולטור שלו? לא אני".
תוכנן ע''י ליצנים, נוהל ע''י קופים 712607
מעניין, בפרט בהתחשב בכך שכפי שכתבתי אחת המטרות העסקיות היתה להגיע להסמכה ללא סימולטור כלל עבור טייסים שכבר הוסמכו ל-‏737. שעת סימולטור היא עסק יקר מאד וחברה שצריכה להסמיך עשרות ואף מאות טייסים באמצעות סימולטור תשלם מיליונים רבים של דולרים. הטייסים בתאונות הקטלניות לא עברו כל הסמכה על סימולטור לדגם הזה.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712608
למה אגב שעת סימולטור היא כל כך יקרה?
מרגע שהוא נבנה, הוא לא חורף דלק או משאבים כמו מטוס, אז מה הבעייה?
תוכנן ע''י ליצנים, נוהל ע''י קופים 712609
שאלה טובה. חיפוש קצר לא העלה תשובה איכותית. אמנם בניה של סימולטור היא עסק יקר (נדמה לי שהוזכרו עלויות של כמה עשרות מיליוני דולרים עבור מרכז הסימולציה החדש שחיל האוויר התחיל להפעיל לא מזמן) אבל לכאורה התחזוקה של המכניקה והתוכנה והעלויות של צוות ההדרכה לא צריכות להיות יקרות מאד. למרות זאת, לפי הערכת אנליסטים ארוע המקס יעלה לבואינג חמישה מיליארד דולר נוספים אם היא תחייב הסמכה על סימולטור לכל הטייסים. חלק מהסכום הוא גם פיצוי על כך שההכשרה תדחה את חזרת המטוסים לשרות. בארה"ב כולה יש כתריסר סימולטורים של המקס, מהם שישה בבואינג עצמה והיתר אצל לקוחותיה.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712610
אני חושב שהעלות לא מתמקדת רק בשעת הסימולטור, אלא בכך שטייסים שצריכים לעבור הכשרה מלאה למטוס חדש מקבלים שכר בזמן שהם בקורס של כמה ימים, והחברה צריכה לשלם על הקורס הספציפי- מתקנים, אש''ל, מדריכים וכו', או לקבלן משנה שיעביר אותו.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712616
הם מקבלים שכר כל הזמן, אני מניח, אז לא ברור למה ימי הקורס צריכים להתווסף כשכר נוסף.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712619
כן, אבל בימים של ההדרכה הם לא מטיסים אז צוותים אחרים צריכים להטיס במקומם.
אם אתה רוצה, מתברר שיש כמה מקומות שבהם אתה יכול להטיס בסימולטור ברמה של חברות תעופה.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712623
עד כמה שאני יודע, טייסים לא עובדים חמישה ימים בשבוע. אז בחלק מהימים שהם לא טסים הם יכולים על אותו שכר גלובלי ללכת לימי סימולטור, בלי לפגוע בלוח הטיסות.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712801
אני לא יודע מה מבנה השכר של טייסים בחברה אמריקאית, אבל לדעתי טייסים בטיסות פנים עובדים סדר גודל של חמש משמרות בשבוע וטייסים בטיסות בינ''ל נהנים מימי מנוחה בין הטיסות שמוגדרים היטב בחוזים של האיגודים המקצועיים שלהם ואולי מעוגנים בתקנות. אין להם איזה מין ''תפקיד בטייסת'' כמו שיש לטייסים בחיל האוויר. העבודה שלהם היא לטוס, כל דבר אחר לא מכניס כסף לחברה. לדעתי גם הסמכה כזו היא לא ענין של לעשות ימי סימולטור פה ושם. כאמור, יש מספר קטן מאד של סימולטורים. לחברה כמו יונייטד יש סימולטור אחד. אז זה אומר שהטייס מגיע לשם נגיד לשבוע או שבועיים, נמצא במלון ועובר הדרכה ובחינה רציפה עד להסמכה. תכפיל בכמה מאות טייסים וזה לא מעט כסף.

אגב, גם לצוות התפעול של הסימולטורים יש מן הסתם עלות לא פעוטה. אני מניח, למשל, שבצוות כזה, מעבר לתפעול הטכני, יש שניים-שלושה טייסים מנוסים ומיומנים שמכירים היטב את המטוס המסומלץ. האנשים האלה אחראים על בניית התרחישים, על התדרוך והתחקור של הטייסים לפני ואחרי סימולציה ועל בלת''מים שהם מכניסים תוך כדי ההטסה. אנשים כאלה עולים הרבה כסף.
תוכנן ע''י ליצנים, נוהל ע''י קופים 712809
כמה כסף כבר עולים שניים-שלושה מפעילי סימולטורים? מיליון דולר בשנה? זה בוטנים. והם גם עולים למפעילת הסימולטור, לא לחברות התעופה.
והם בונים פעם אחת את חבילת התרחישים, וחוזרים עליה שוב ושוב מאות פעמים מול המתאמנים. זה לא שעל כל טייס הם מתחילים הכל מחדש.
תגובה מהירה מאד 712529
אגב רקורד בטיחות, ה 787 לא הרג אף נוסע ב 10 השנים בהן הוא בשירות. כך גם ה 747-8 (הגרסה האחרונה של 747, 8 שנים), 717 (פיתוח של ה DC-9 הידוע לשמצה, בשירות 20 שנה), וכן אירבאס A340 (בשירות 17 שנים) A380 (בשירות 12 שנים) A350 (חמש שנים) A220 (שלוש שנים), כל משפחת A320neo (ארבע שנים: A319neo, A320neo ו A321neo), ובמפתיע גם משפחת Embraer ERJ הברזילאי Embraer ERJ family [Wikipedia] שבשירות כבר 22 שנה ומ 2003 מיוצרת גם בסין.

מסתבר שהמטוסים הפופולריים ביותר הם גם מהבטוחים ביותר:
גם משפחת ה A320 (שכוללת את A318 A319 A320 ו A321, בשירות 31 שנים, טסה יותר מ 100 מיליון טיסות, יותר מ 9000 נבנו), היא בטוחה ביותר, וגם משפחת ה 737NG (שכוללת את 737-600/700/800/900, בשירות 22 שנים, טסה יותר מ 100 מיליון טיסות, יותר מ 7000 נבנו).
בשתי המשפחות הנפוצות הללו בערך 1 ל 10 מיליון טיסות הרגו נוסעים, וצריך לקחת בחשבון שחלקן היו מטעויות אנוש פרופר.

הדגמים הישנים יותר 747-100/200/300 , 737-100/200, 727, איירבוס A300 ו A310, פחות בטוחים בשני סדרי גודל. סדר גודל אחד בכמות התאונות הקטלניות, וסדר גודל נוסף במספר ההרוגים פר תאונה. כולם כבר לא מיוצרים אבל עדיין בשירות.

הנתונים מאתר Airsafe ומויקיפדיה.
תגובה מהירה מאד 712561
מה שאתה בעצם אומר הוא שבעשורים האחרונים ענף התעופה הרבה יותר בטוח. כמו בכבישים, חלק מהשיפור אפשר לייחס לכלי וחלק לשיפורים בהכשרה, בתחזוקה, בפיקוח האווירי, בסביבה הרגולטורית וכדומה. אני מנחש שאם תבדוק היטב תגלה שגם התאונות של הדגמים הישנים התרחשו ברובן בעשורים שקדמו לשנות האלפיים.

יש גם נקודה אחרת שנוגעת למחזור החיים של מטוס. חברה לאומית במערב קונה מטוסים חדשים והטייסים שלה בדרך כלל זכו להכשרה טובה, היא גם מתחזקת את המטוסים היטב וכו'. לעומת זאת, מטוסים ותיקים מוטסים על ידי חברות קטנות יותר בדרך כלל, פחות מקצועיות ולעתים קרובות במדינות שבהן הרגולציה חלשה מאד. הם כבר עם הרבה מיילים על הספידומטר והם עשויים לעבור הסבה לתצורה של יותר מושבים לטובת טיסות צ'ארטר ולואו-קוסט או אולי לתצורת מטען, זה לא מוסיף להם בריאות - בקיצור, יש את כל הסיבות לכך שהמטוסים הישנים האלה יפלו גם אם התכנון הבסיסי שלהם היה מוצלח.

כמובן, אין גם ספק שמטוס שתוכנן בשיטות של שנות הששים יהיה בעל ''תקרת בטיחות'' נמוכה יותר ממטוס שתוכנן בשנים האחרונות - העולם למד על בטיחות לא מעט בעשורים האלה, וכלי התכנון והבדיקה השתפרו לאין ערוך.
תגובה מהירה מאד 712579
מסכים עם הכל, עם מספר הסתייגויות.

- נראה לי שהדגם יותר חשוב מאשר הגיל של המטוס. למשל- ה A320 תוכנן היטב לנחיתה על המים, מה שתרם להעדר אבידות בנפש בנחיתה המפורסמת על ההדסון. אותו מטוס היה בן 10 ועם 16,000 המראות באמתחתו. במכוניות, בהן אני מבין יותר מאשר במטוסים, לדגם חשיבות בטיחותית הרבה יותר גדולה מאשר לגיל. אישוש חלקי לכך אני מוצא בכך שבדגמים הגרועים גם כמות ההרוגים פר תאונה גדולה בסדר גודל שלם מאשר בדגמים המוצלחים.
- לאור התכנון ההרבה יותר בטיחותי של הדגמים החדשים, ה 737 מקס מזדקר עוד יותר לרעה.
- אין ספק שהתחזוקה, איכות הטייסים, איכות בקרי הטיסה וכו' כולם גורמים תורמים, ובכל תאונה אחד מהם יכול להיות הגורם המכריע. בדרך כלל תאונה מורכבת מכמה תקלות מצטברות- גם טכניות וגם אנושיות. טייס מנוסה ואיכותי יכול להתגבר לפעמים על תקלות טכניות קשות‏1, וצוות אנושי גרוע יהפוך תקלה מינורית להתרסקות פטאלית‏2

________
1 סאלי על ההדסון. אחרי שקראתי על התרסקות טיסת אתיופיאן (ההתרסקות השניה של ה 737 מקס) קיבלתי את הרושם שלו סאלנברגר היה שם על ההגאים יש סיכוי טוב שהמטוס היה נוחת בשלום.
2 לדוגמה Pakistan International Airlines Flight 268 [Wikipedia] שהיתה יכולה להמנע בקלות גם על ידי צוות הטיסה וגם על ידי בקרי הטיסה.
תגובה מהירה מאד 712581
לפי התיאור שלך ב תגובה 712456 של מה שקרה שם גם סאלי לא היה מועיל. מה שעשה על ההדסון היה מעשה ממש מתבקש, ואני חושב שרוב הטייסים שצברו הרבה שעות ניסיון זה בדיוק מה שהיו עושים. לעומת זה לפי התיאור של האירוע באתיופיאן לא הייתה שום דרך לשלוט במטוס. אני חושב שגם קורס מיוחד למקרה כזה אם יקרה לא היה מועיל. אם אחרי שאתה מנתק את המערכת שכשלה אתה מגיע למצב שבו אי אפשר להזיז את הגה הגובה מה תעשה? תפקוד על כל הנוסעים לרוץ לזנב המטוס? (מדגדג לי באצבעות להכניס כאן שוב את הציטוט מדבריך אלי, שנראה לי כאן דווקא מאד מתאים, אבל אני מניח שמיציתי את העניין הזה, ואתגבר הפעם ומכאן ואילך על הדחף הזה.)
תגובה מהירה מאד 712585
לפי תיאור התאונה בויקי Ethiopian Airlines Flight 302 [Wikipedia] הטייסים השאירו בלי כוונה את המנועים בכוח מלא של המראה, מה שהגביר את הכוחות האווירודינמיים על מייצב הגובה אשר מנעו מהם לסובב את הגלגל. לו היה שם איזה סאלנברגר אני מנחש שהוא היה מוצא איזה פתרון. אני לא טייס ואולי אני מדבר שטויות, אבל אולי אפשר היה להוריד כח מנוע ולהוציא מחדש מדפים?
תגובה מהירה מאד 712586
אנחנו נכנסים כאן לשאלות שאיני יודע את התשובה להם. אמרת שאי האפשרות לנתק את הגה הגובה מהמערכת האוטומטית מתרחש עם העלאת המדפים, אבל האם הורדתם גורמת להחזרה של האפשרות הזאת? האם המידע הזה אמור להיות ידוע לטייסים? המנועים פועלים בכוח מלא (או כמעט מלא) מההמראה ולכל אורך הטיפוס עד שהמטוס מגיע לגובה השיוט. האם הסילון שלהם פונה לכיוון הגה הגובה ומגביר את הכוחות שמקשים על הזזתו ממצב שווי המשקל? ואם כן, האם די במצב שבו אין הם פועלים כדי לתת אפשרות להזיזו? במצב רגיל של טיסה כאשר רוצים להגביה את אף המטוס מוסיפים כוח למנוע. אולי במקרה הזה כאשר התברר לטייסים שבגלל חוסר אפשרות לשלוט בהגה הגובה האף מתעקש לא לעלות, היו צריכים להוריד את כוח המנוע וגם להוריד מדפים אפילו ללא קשר לשאלה אם זה יעזור להם לחזור ולשלוט בהגה הגובה, ואולי אפילו להפעיל את מעצורי האוויר כדי להקטין את מהירות הצלילה. איני יודע את התשובות לשאלות האלה, ולכן אולי נחפזתי באמירתי שגם טייס מקצועי יותר לא היה מועיל. המטוס הזה, לפי התיאור, תוכנן להתנהג בצורה מוזרה ביותר, אך איני מכיר את כל פרטי המוזריות שלו.
תגובה מהירה מאד 712582
האם יש לך מידע לפיו ה A320 תוכנן היטב לנחיתה על המים, או שאתה מסיק זאת מתוצאות האירוע הספציפי?
תגובה מהירה מאד 712584
מתוך water landing [Wikipedia]
Some aircraft are designed with the possibility of a water landing in mind. Airbus aircraft, for example, feature a "ditching button" which, if pressed, closes valves and openings underneath the aircraft, including the outflow valve, the air inlet for the emergency RAT, the avionics inlet, the extract valve, and the flow control valve. It is meant to slow flooding in a water landing.
תגובה מהירה מאד 712587
כתבתי באיזו שהיא תגובה שהעובדה שבתוך המטוס ישנו ציוד הצלה של חגורות הצלה ודוברות מתנפחות מצביע בפרוש על כך שהמתכננים מביאים בחשבון אפשרות שהוא יגיע למים, והציוד הזה יעזור להציל חיים. המידע שהבאת עכשיו מוסיף עוד חיזוק לטענה הזאת. התכנון נעשה תוך מחשבה להגדיל את הסיכוי לשרידות המטוס אם ייאלץ לנחות על המים. הטייס אמור להכיר את תכונות המטוס וייתכן שסאלי היה מודע למידע הזה.
אני בכל זאת רוצה לחזור לדבריך הראשונים לפיהם הטייס פעל בניגוד לנוהל. שאלתי בתגובה קודמת מה היה על הטייס לעשות לו המטוס היה בגובה 100 מטר ואמרת שהוא לא היה בגובה כזה. אבל נניח שכן היה. האם נחיתה על המים במקרה כזה היא "בניגוד לנוהל"? קשה לי להאמין שתענה שלפי הנוהל הוא צריך לעשות איזה משהו אחר. ונניח היה בגובה 200 מטר? כמדומני גובה המטוס במקרה שלנו היה 600 מטר והטייס העריך על סמך ניסיונו שהסיכוי להגיע לשדה תעופה קרוב לא קיים. אם הטיס מעריך כך את הסיכוי, הוא צריך לבחור מקום אחר לנחות בו. לו היה איזה כביש רחב וישר קרוב אליו, אולי הוא היה צריך לנחות עליו, וכבר היו דברים מעולם, אם כי ככל היודע לי לא עם מטוס גדול. אבל מה שיש שם זה רק שכונות מגורים. המקום הכי נוח לחיתה הוא על המים ועובדה (שהתחזקה עתה) היא שמתכנני המטוס נתנו את דעתם למקרה של נחיתה על המים. לכן הנחיתה על המים הייתה במקרה זה בדיוק הנוהל.
תגובה מהירה מאד 712591
לשאלתך על כביש רחב, יש שני כבישים מהירים ורחבים מערבית להדסון שעוברים סמוך לשדה התעופה (הקטן) טיטרבורו. כביש 80 מזרח-מערב, וכביש 95 (NJ Turnpike שמופיע בפתיח של פרקי הסופראנוס) צפון-דרום. משניהם אני חושב ש-‏95 הוא הכי ישר באזור אבל זה כביש עמוס ביותר, עם המון משאיות.
תגובה מהירה מאד 712593
מה יעזור כביש רחב כשיש לך שתי דקות שלא מספיקות לפנות אותו ממאות מכוניות?
כדי לסכן עוד מאות אם לא אלפי אנשים בהתרסקות של מטוס מלא דלק על הראש שלהם?
תגובה מהירה מאד 712595
אז הלכתי לדו"ח התאונה של ה NTSB

ראשית עניינו אותי תוצאות הסימולציה (עמ' 49-50):
הסימולציות בוצעו בין 14-16 באפריל, שלשה חדשים אחרי התאונה, ולא כפי שתואר בסרט, במרכז האימונים של איירבאס בצרפת. הסימולטורים תוכנתו לחקות במדויק את תנאי הטיסה הספציפית. הטייסים תודרכו מראש לגבי התמרון שיצטרכו לבצע טרם כניסתם לסימולטור. בזמן הסימולציה הטייסים ביצעו את הצ'קליסט של אבדן שני מנועים אחרי שאיבדו דחף, והסתמכו על הכשרתם וניסיונם כדי להשלים את המבחן.
בוצעו שלשה תסריטים:
1. נחיתה רגילה על מסלול 4 בלה גרדיה שמתחילה מגובה 1000 ו 1500 רגל.
2. ניסיון נחיתה בלה גרדיה או טיטרבורו אחרי פגיעת הצפורים, גם כשהסימולציה מתחילה מכל תהליך ההמראה ממסלול 4 בלה גרדיה, וגם כאשר הסימולציה מתחילה מנקודה קצת לפני פגיעת הצפורים.
3. נסיונות נחיתה על ההדסון כשהסימולציה מתחילה מגובה 1500 רגל במהירות 200 קשר‏1.

בתסריט הראשון כל הטייסים הצליחו להנחית את המטוס.

בתסריט השני בוצעו 20 ניסיונות מהנקודה קצת לפני פגיעת הצפורים, מהם חמישה נזרקו בגלל נתונים לא טובים או תקלות בסימולטור. מ 15 הנסיונות שנותרו
ב 6 הטייס ניסה לנחות על מסלול 22 בלה גרדיה- מתוכם רק 2 הצליחו.
ב 7 הטייס ניסה לנחות על מסלול 13 בלה גרדיה- מתוכם 5 הצליחו.
ב 2 הטייס ניסה לנחות על מסלול 19 בטיטרבורו- מתוכם אחד הצליח.
בנסיונות האלה הפניה המיידית שביצעו הטייסים לא שיקפה את את תנאי העולם האמיתי, בהם נדרש זמן כדי להכיר בהיקף אבדן הדחף ולהחליט על כיוון פעולה.

ניסיון אחד בוצע לנחות על מסלול 13 בלה גרדיה עם השהיה של 35 שניות מרגע פגיעת הצפורים, כדי להתאים לתנאי העולם האמיתי, והנחיתה לא היתה מוצלחת.

14 נסיונות בוצעו בתסריט השלישי, מהם 2 נזרקו בגלל נתונים גרועים.
12 הנסיונות הנותרים בוצעו שווה בשווה בשלוש קונפיגורציות מדפים שונות, כולל זו שסאלי בחר.
ב 11 מתוכם זוית מסלול הטיסה בזמן הנחיתה היתה בין 1.5%- ל 3.6%- (של סאלי היתה 3.4%-), גדולה מהזווית המוצעת של 0.5%- בנוהל הנחיתה במים. רק באחת, שבוצעה ע"י טייס המבחן של איירבאס, ובה הוא השתמש בטכניקה מיוחדת של איזון המטוס בגובה מטר או שניים מעל המים וניצול אפקט הקרקע להורדת מהירות, היתה זווית של 0.2%- בלבד.

המסקנות שלי:
- אם טייסים שתודרכו מראש ופנו מייד עם פגיעת הצפורים הצליחו לנחות בשלום רק במחצית המקרים, נראה שהנסיון הבודד עם השהיה של 35 שניות היה רק לצורך סימון וי, כי אם ללא השהיה רק מחצית הנסיונות הצליחו ברור שאחרי ההשהיה אין סיכוי להגיע בשלום לאחד ממסלולי הנחיתה.
- לאור הגבוליות של המקרה, אני חושב שטייס פחות מנוסה, ובלי נסיון בדאיה, היה יכול בקלות להעריך שהוא יכול לחזור, ולהתרסק.
- לאור תוצאות הסימולציה נראה לי שיש סיכויים גבוהים שגם אותו טייס אוטונומי מתגובה קודמת שלך לא היה מצליח להנחית את המטוס בשלום על אחד המסלולים.

לגבי הצ'קליסט (הנוהל) של אבדן שני מנועים (עמוד 52):
איירבוס אמרה שהיא תכננה את הנוהל לאבדן שני מנועים לגובה של 20 אלף רגל, ולא תכננה צ'קליסט לאיבוד מנועים בגובה נמוך (הפגיעה במנועים היתה בגובה 2818 רגל). הצ'קליסט כולל שלשה חלקים. בגלל הגובה הנמוך וקוצר הזמן הטייסים של טיסה 1549 הצליחו להשלים רק את רוב שלבי החלק הראשון.

המסקנה שלי:
אתה צודק. ההחלטה לנחות על ההדסון לא היתה בניגוד לנוהל, וההחלטה לנטוש את הנוהל ולהתמקד בנחיתה היתה טבעית.

למרות שלא הגיע לשלב הזה בנוהל, הקפטן הצליח לשמור על מהירות קרובה למהירות הגלישה האופטימלית, ולקבל החלטות נכונות נוספות (להפעיל גנרטור, מדפים שלב 2, מהירות מתאימה אחרי הורדת מדפים)

לגבי הציוד של המטוס לנחיתה על המים:

המטוס הספציפי היה מצויד באמצעי נטישה על המים (רפסודות הצלה וחגורות הצלה) שלא היה מחוייב בהם לפי התקנות כי נתיב הטיסה שלו לא היה ברובו מעל מים. עם זאת מתוך 150 הנוסעים רק 5 נוסעים לקחו איתם את חגורות ההצלה שמתחת המושב שלהם, עוד 5 לקחו חגורות הצלה ממושבים אחרים, ועוד 21 קיבלו חגורת הצלה מהמטוס אחרי הנטישה.

לגבי ההחלטה של הטייס לא לחזור ללה גארדיה:

בראיון בפני ה NTSB הטייס אמר שעל בסיס הנתונים של מצב המטוס הוא החליט שלא ניתן לחזור ללה גרדיה. כן הוא ציין שהחלטה לחזור ללה גרדיה היא בלתי הפיכה, ואם היה מנסה לחזור ללה גרדיה ולא מצליח לא היו לו אפשרויות נחיתה אחרות. הוא לא היה יכול להרשות לעצמות לקבל החלטה שגויה, והיה לו בטחון שהוא יוכל להנחית את המטוס בהצלחה על המים.
לגבי טיטרבורו הקפטן אמר שהם היו "רחוקים מדי, נמוכים מדי ואטיים מדי".

___________________
1 מטרת הנסיונות האלה היתה לבחון האם טייסים מצליחים להנחית את המטוס על ההדסון לפי הנחיות הנחיתה על המים, שהיו אמורות לשמור על גוף המטוס שלם. בפועל עקב זווית גדולה יותר, נפגע החלק האחורי של המטוס וקיבל מים, ולא ניתן היה לפתוח ולהשתמש במגלשות האחוריות.
תגובה מהירה מאד 712596
אני חושב שבמידע שהבאת הפרט הכי חשוב הוא אותה אי הפיכיות שעליה דיבר הטיס בראיון, שעליה גם כתבתי באחת מתגובותיי בנושא. עליו לקבל החלטה מידית. הוא לא יכול לעשות סימולציות, ואין לו מחשב שקובע במהירות את הסיכוי להגיע לאחד המסלולים. הוא צריך להעריך את הסיכוי על סמך ניסיונו ותחושותיו. אם יחליט לחזור והתברר שאי אפשר, אין לו מקום מתאים לנחיתה. לכן החלטתו הייתה נכונה. נראה לי שבסרט ניסו לעשות דרמה כדי להפוך אותו למעניין, בכך שבנקודת זמן מסוימת בחקירה הובע פקפוק בהחלטתו. קשה לי להאמין שכך באמת היה, והקטע הזה בסרט, כפי שכבר כתבתי, די הרגיז אותי.
אגב, בגווגל ארת' יש פליית סימולטור וניסיתי לראות אם אני מצליח לנחות ללא מנוע לאחר המראה ממסלול 4 ופנייה שמאלית עד גובה 3000, בערך מהמקום שבו דווח על פגיעת הציפורים. אפשר בסימולטור הזה לבחור אחד משני מטוסים, האחד מטוס קל והשני f16‏1 שבו בחרתי. במהירות 300 קשר‏2 אני מצליח לנחות הן במסלול 22‏3 הן במסלול 13 והן בטטרבורו או במסלול 19. מסתבר ש 35 שניות הן בסימולציה הזאת כמו נצח. אם המטוס ממשיך בפנייה המתונה שמאלה כמתוכנן אי שום סיכוי להגיע חזרה ללגרדיה. לעומת זה בטטרבורו זה לא משנה כי ממילא מדובר באותו כיוון, והזמן הזה לא משנה שום דבר בניגוד למה שמוצג בסרט.

1 יצא לי פעם "לטוס" בפליית סימולטור של f16 של חיל האוויר, וממש לא מדובר באותן תכונות כמו בסימולטור הזה.
2 זו מהירות הרבה יותר גבוהה מהמהירות שבה היה אותו מטוס במקרה שלנו, אבל מדובר במטוס עם תכונות אחרות וזה אולי מסביר.
3 זה בעצם אותו מסלול ממנו המריא המטוס (4) אבל בכיוון הפוך.
תגובה מהירה מאד 712597
את ציוד ההצלה במטוס הזכרתי לא כדי לבדוק עד כמה עזר במקרה שלנו אלא כדי להראות שמביאים בחשבון אפשרות שהמטוס ימצא בסופו של דבר את מקומו במים.
תגובה מהירה מאד 721021
החזרת אותי לפתיל הזה ואני לא יודע אם אנחנו לא מסכימים על העובדות או רק על התיוג שלהן.
הנה הסיפור כפי שאני מכיר אותו:
איירבאס השיקה את פרויקט הדור החדש של משפחת 320 - ה 320neo - בדצמבר 2010. המיקוד של הדגם החדש היה על חסכון בדלק ועלויות אחזקה לעומת הדגם הקודם (ואכן בפועל הראה שיפור משמעותי של 15% בצריכת הדלק ובעלויות האחזקה), בעיקר על ידי שימוש במנועים חדשים.
ביוני 2011 קיבל הדגם החדש כבר יותר מ 1000 הזמנות, מספר שיא למטוס מסחרי חדש.
בואינג נכנסה לעמדת נחיתות בתחרות מול איירבאס והכריזה על השקת פרויקט מקביל עבור ה 737 באוגוסט 2011. תכנון של מטוס חדש מדף חלק, שנשקל ונדחה במשך כמה שנים, נזנח.
כיוון שהחלה באיחור מול המתחרה, בואינג שאפה לקצר ככל האפשר את זמני הפיתוח והאישור על ידי הרשויות. בתהליך האישור המטרה העיקרית של בואינג היתה שהמקס יקבל את אותו Type rating [Wikipedia] של הדגמים הקודמים של 737. Type rating חדש היה דורש אימון ארוך של כל הטייסים שמיועדים להטיס את הדגם החדש, והיה מייקר את העלות שלו באופן שהופך אותו ללא תחרותי.
המנועים הגדולים יותר של המקס מותקנים גבוה יותר וקדימה יותר מאשר בדגם הקודם. זה גרם להתנהגות האוירודינמית של הדגם החדש להיות שונה, מה שהיה מחייב Type rating חדש. על מנת שהדגם יקבל את אותו Type rating בואינג התקינו תוכנה שתגרום לו לחקות את ההתנהגות האווירודינמית של הדגם הקודם‏1. זוהי ה MCAS [Wikipedia] הידועה לשמצה. בואינג התייחסו ל MCAS כחלק ממערכת בקרת הטיסה והשמיטו אותה מה manual של המטוס ומחומרי ההדרכה, שוב על מנת שטייסים לא יצטרכו לעבור אימון מיוחד.
בתהליך היישום והאישור של ה MCAS למקס היו מספר כשלים, שבמצטבר הפכו את ה MCAS לגורם סיכון גדול וחבוי במטוס, בלי שהטייסים שמטיסים אותו יידעו על קיומו.
1. בניגוד לגרסה המוקדמת, שקיבלה את אישור ה FAA, ה MCAS על המקס נכנסה לפעולה גם בכוחות G נמוכים.
2. התוכנה קיבלה מידע מחיישן זווית התקפה בודד בכל טיסה, מהשניים שמותקנים במטוס. תקלה בחיישן גרמה להפעלת ה MCAS באופן שגוי ולהתרסקויות.
3. התוכנה לקחה את השליטה מהטייס מבלי לאפשר ניתוק פשוט שלה, גם זה בניגוד לגרסה המקורית של המערכת שהותקנה במטוס קודם (KC-46, מטוס תדלוק של חיל האוויר)

אלה העובדות הידועות לי. ועכשיו השאלה היא האם אנחנו מסכימים עליהן, ורק לא מסכימים על התיוג של הכשל כ"תקלת תוכנה".

__________
1 במקום הפתרון של שינוי אוירודינמי במטוס, שהעדיף טייס המבחן של בואינג. פתרון שאולי היה ארוך ויקר יותר לבואינג ואולי גם מסוכן לה מבחינת ה Type rating.
תגובה מהירה מאד 721026
הוויכוח בפתיל היה על שני עניינים.
הראשון הוא האם אכן אפשר להגדיר את הכשל ב737 מקס ככשל בתוכנה כפי שטענת.
העניין השני הוא האם באופן כללי תקלות תכנה קשות יותר לתיקון מתקלות חומרה כפי שטענת.
התגובה האחרונה שלי עסקה בעניין השני, בהנחה (שאיני מסכים לה) שאתה צודק בעניין הראשון. אמרתי שגם אם אתה צודק בעניין הראשון זה לא גורר את זה שאתה צודק בעניין השני, כפי שניסית להסביר, וזאת גם בגלל שטעות היא להסיק מסקנות על סמך מקרים ספורים.
איני מבין מדוע מצאת לנכון לספר את כל הסיפור מהתחלה.
תגובה מהירה מאד 721031
אתה צודק. ההשוואה עם טויוטה לא היתה במקומה, וקשה ללמוד מהמקרה הספציפי על הכלל.
כשסיפרתי את הסיפור מחדש התחוור לי שהתקלות בתכנון התוכנה, שהן מה שריסק בפועל את המטוסים, לא עמדו בפני עצמן אלא היו תוצאה של הבעיה העיקרית. הבעיה העיקרית היתה שהמטרה העליונה של בואינג היתה להכניס את התכנון של המקס לסד של "שמירת הדגם" הרגולטורית, וכל שאר השיקולים הפכו למשניים.
בואינג לא ניסתה לעשות את המטוס הכי טוב שהיא יכולה, אלא את המטוס הכי טוב שהיא יכולה בלי לחרוג ממסגרת ה type rating של ה 737 הקודמים, וממסגרת הזמן. התוצאה היתה קטלנית.
אז לקרוא לבעיות של המקס "תקלת תוכנה" כנראה נכון טכנית, אבל מגמד את האחריות של התאגיד לתהליך הפיתוח והאישור הרשלני שהביא לכשל.
תגובה מהירה מאד 721032
לגזור ולשמור לפעם הבאה שמבקשים מכם תאימות באגים (bug to bug compatibility).
תגובה מהירה מאד 721038
לעניות דעתי "תקלת תוכנה" נשמעת כמו באג. אבל באג הוא רק סוג אחד של תקלות תוכנה - כשהתוכנה *לא* מבצעת את מה שהיתה אמורה לבצע.
מהמעט שקראתי כאן בפתיל, נראה שהכשל המדובר הוא לא מהסוג הזה - התוכנה ביצעה את מה שהיתה אמורה לבצע, אבל תכנון התוכנה והגדרת הדרישות שלה לקו בחסר.

אני לא קורא למצב כזה תקלת תוכנה - מאחר ובמקרה כזה של כשל בהגדרת הדרישות, הוא היה מיתרגם לכשל מערכתי (קטלני כמובן) בלי קשר לשפת התכנות, או אפילו למימוש, ויהא זה מימוש תוכנתי, חומרתי, עם כבלים מנחושת, עם גלגלי שיניים, עם מחשב קוונטי, וואטאבר.
תגובה מהירה מאד 721040
אז כשל תכנוני?
התוכנה ביצעה מה שהגדירו לה לבצע, וזה ריסק שני מטוסים (ועוד כמה כמעט-ים). ללא התוכנה לא היו התרסקויות. הכניסו אותה בתור קונץ-פטנט כדי לדמות את התנהגות הדגמים הקודמים של המטוס, במטרה להתחמק מאישור נרחב וארוך יותר של דגם חדש.
אילו התוכנה היתה מקבלת הזנת נתונים משני חיישני זוית ההתקפה ביחד, משווה ביניהם וזורקת את הנתון של המקולקל, לא היתה בעיה. כמה זמן לדעתך אמור לקחת עדכון תוכנה כזה?
תגובה מהירה מאד 721042
בהחלט כשל תכנוני.
לגבי השאלה האחרונה - זה לא נשמע עדכון מסוכך, אבל בדרך כלל עדכון תוכנה במערכות קריטיות מצריך סבב בדיקות מחדש שיכול להימשך שבועות או חודשים.
(ומי שתכנן מערכת שלא עושה את זה מלכתחילה קצת התרשל, בוא נאמר).
תגובה מהירה מאד 721047
יש לך באג.. כאשר יש שני חיישנים שלא מסכימים ביניהם, אי אפשר לדעת מי מהם הוא המקולקל.

בכל מקרה ממה שכתוב כאן נראה שהתוכנה כן קיבלה מידע משני החיישנים והיתה אמורה להתריע אם יש אי הסכמה בינהם. המחדל הוא מורכב יותר.
תגובה מהירה מאד 721053
אני משוכנע שהמוחות המבריקים בבואינג יוכלו לתת לתוכנה פרמטרים לזהות מי החיישן התקול.

התוכנה קיבלה מידע רק מחיישן אחד בכל פעם.
היתה מערכת שבואינג מכרה כאופציה, שרק מתריעה אם יש חוסר הסכמה בין החיישנים (כוסות רוח למת).
While it has defended its design, Boeing is working on an update for the 737 Max that will make the MCAS software less intrusive and will take a reading from more than one sensor...
a Boeing spokesperson defended the decision to use a single sensor to CNN: "Single sources of data are considered acceptable in such cases by our industry."
תגובה מהירה מאד 721041
אצלנו אומרים: “באג בדיזיין, זיין בדיבאג”.
תגובה מהירה מאד 721046
כל הוויכוח --- סמנטיקה.
תגובה מהירה מאד 713228
אני תוהה אם התפרקות המטוס עקב נחיתה קשה לא מרמזת על תכנון מכני לקוי. אבל גם אם לא היה כאן תכנון מכני לקוי והמטוס בכוונה לא תוכנן לעמוד בעומסים כפי שהיו בתאונה הזאת הבה נניח שגוף המטוס כן היה אמור לעמוד בעומסים כאלה, ורק אירוע התאונה הוכיח למתכננים שקיים ליקוי כזה במטוס. האם אפשר להעלות על הדעת שיימצא פתרון לבעיה ותוך זמן קצר "יימצא מזור" לכל המטוסים מאותו דגם? הרי לא מדובר בבעיית תוכנה. . .
תגובה מהירה מאד 713229
וואו, ה-‏737 מתחיל להזכיר את קללת הDC-10 משנות השמונים (כמדומני).
תגובה מהירה מאד 713238
יש מעט מאד פרטים מה בדיוק קרה, והמעטים סותרים זה את זה. במקום אחד ראיתי שהמטוס ''החטיא את המסלול'', ובמקום אחר שהחליק, וגם הידיעה שהיו שם רוחות גביות לא כל כך ברורה, כי במקרה כזה הפקח צריך להפנות את המטוס לאותו מסלול בכיוון ההפוך ואז הכל בסדר. כך או אחרת התמונה של המטוס ללא חלקו הקדמי ועם שבר ענק ליד הזנב מאד מרשימה. נראה שזה בדיוק סוג המטוס שגם אל על משתמשת בו ואני מרבה לטוס בו בטיסות לאירופה. אני מקווה מטעמים אנוכיים שלא מדובר בכשל במבנה המטוס.
תגובה מהירה מאד 713240
בבחירת טיסה בטוחה צריך לקחת בחשבון כמובן את דגם המטוס, אבל גם את איכות חברת התעופה. זו מתבטאת בשלשה פקטורים- גיל המטוסים, רמת התחזוקה ואיכות הטייסים. השניים האחרונים נראים לי הרבה יותר משמעותיים מהראשון. אנקדוטלית- כנראה שבתחזוקה טובה יותר טיסת אתיופיאן לא היתה מתרסקת, ולעומת זאת הנחיתה על ההדסון התבצעה במטוס זקן, אבל עם צוות מיומן.
תגובה מהירה מאד 713246
טיסת אתיופיאן לא הייתה מתרסקת לו הייתה שם תחזוקה טובה יותר? עד כמה שהבנתי סיבת ההתרסקות הייתה קשורה בתכנון המטוס ולא בתחזוקה, אבל אולי ישנם פרטים שפורסמו שלא ידועים לי.
לעניין ההשוואה שאתה עושה עם הנחיתה על ההדסון, כל פעם שאתה עושה זאת זה מפריע לי מחדש. כלל לא ברור אם באמת סאלי היה מצליח למנוע את ההתרסקות באתיופיאן לו היה שם, וכלל לא ברור אם הצוות באתיופיאן לא היה מנחית את המטוס על ההדסון בשלום לו היה שם. בניגוד לך אני חושב שההחלטה של סאלי לנחות על ההדסון התבקשה מאליה ורוב הטייסים המנוסים כך היו עושים, וגם מצליחים לבצע את הנחיתה עצמה באותה הצלחה.
תגובה מהירה מאד 713249
אני לא בטוח אם זה היה באתיופיאן או בליון (המקס השני שהתרסק), אבל בהחלט היו כשלים בתחזוקה של המטוס בכלל והחיישנים הבעייתיים בפרט.
לעניין ההשוואה שעשיתי עם הנחיתה על ההדסון- הפעם לא עשיתי שום השוואה כזו. רק אמרתי שהנחיתה על ההדסון היתה עם מטוס זקן אבל צוות מיומן, מה שמעלה בעיני את חשיבותו של פרמטר הצוות ומוריד בעיני את חשיבותו של פרמטר הגיל של המטוס.

אני לא יודע אם סאלי היה מצליח להנחית את הטיסה של אתיופיאן, אבל אני מאמין שכן. הצוות של הנחיתה על ההדסון היה מנוסה, קר רוח, וקיבל החלטות מהירות ונכונות תחת לחץ. לטייס המשנה של סאלי היו יותר מ 20 אלף שעות טיסה ולטייס המשנה של אתיופיאן היו רק שלוש מאות.
תגובה מהירה מאד 713239
זה היה 737-800 שהוא אחד הדגמים הבטוחים יותר, תאונה קטלנית אחת ל 10 מיליון טיסות תגובה 712529. קשה לי לקרוא לזה תכנון לקוי. ייתכן שדגם ישן יותר ופחות בטוח היה גורם ליותר הרוגים בתנאים דומים.
לבטח תכנון דגמים חדשים יותר צריכים לקחת בחשבון תאונות קודמות ולהיות בטוחים יותר. יש דגמים שלא עשו תאונות קטלניות בכלל, כולם חוץ מאחד חדשים יחסית.
תגובה מהירה מאד 713245
לא אמרתי שזה ליקוי כי איני יודע. לא ברור כלל ממה שפורסם מה בדיוק קרה, והסברתי זאת. ברור לכל שאם מטוס פוגע בקרקע במהירות אנכית גדולה (כמו במטוס האתיופי) גוף המטוס לא יעמוד בעומסים. מה משמעותה של אותה "נחיתה קשה"? עד כמה הייתה רחוקה מנחיתה חלקה לכיוון ההתרסקות? ללא הפרטים האלה אי אפשר להכריע בשאלה הזאת. כתבתי שאני מקווה שאין ליקוי, כלומר שהנחיתה הייתה כה קשה, שאיש לא התכוון לתכנן גוף מטוס שיעמוד בנחיתה כזאת.
תגובה מהירה מאד 713247
אגב תגובה 713228 שבה פתחתי את הפתיל כוונה להתייחס לתזה שלך לפיה תקלות תוכנה קשות למציאת פתרון ולתיקון ואילו תקלות אחרות קלות ומהירות יותר לתיקון. דווקא לנושא שבגללו כתבתי את התגובה הזאת לא התייחסת.
תגובה מהירה מאד 712446
לא בהכרח המון שורות קוד, אבל נראה שנסיעה של שני מיליארד מייל עדיין לא מספיקה לאימון. לא נורא, תוך שנתיים הניסיון כנראה יוכפל.
תגובה מהירה מאד 712444
אתה חושב של-deepmind יש נוהל כתוב איך לשחק נגד הגנה צרפתית? אין לו.
תגובה מהירה מאד 712445
התכוונתי ל-Alphazero. החברה המייצרת היא Deepmind.
תגובה מהירה מאד 712471
אני מעדיף בינתיים שימשיך לשחק שח
תגובה מהירה מאד 712496
קישון כתב פעם, דומני בשמו של ארבינקא: שמעתי שיש מחשב שיודע לשחק שח, וזה מצויין. אני אקנה שניים שישחקו זה נגד זה ואלך לראות סרט. זה בקירוב מה שהמפתחים של Alphazero עשו.
תגובה מהירה מאד 712543
A start-up inventor named Gene
Invented a screwing machine
Concave and convex
It served either sex
And it played with itself in between.

(And oh, what a bummers to clean!)
תגובה מהירה מאד 712568
:-)
תגובה מהירה מאד 711917
תגובה מהירה מאד 711178
1מה עם ההשייה בתקשורת בין תחנת הקרקע למטוס?
תגובה מהירה מאד 711188
ובאופן כללי יותר - האם יש לנו היום טכנולוגיית תקשורת שמתקרבת בכלל לרמת האמינות (כפול רוחב פס) הנדרשת כאן, בין כל נקודה באוויר לבין חדר הבקרה?
אם לא, אני מניח שזה פתיר עקרונית, אבל מצריך השקעה של שנים.
תגובה מהירה מאד 711189
מטוסים נוהגים להציע שירותי אינטרנט. משמע, יש מספיק רוחב פס עבור סדר גודל של לפחות עשרים נוסעים (סתם מספר שזרקתי) שמשתמשים בכך בו־זמנית.
תגובה מהירה מאד 711190
כן, אבל האם הוא מספיק אמין לצרכים קריטיים?
תגובה מהירה מאד 711203
אני לא בקיא ברזי הטכנולוגיה (חשבתי להוסיף כאן "העכשווית" אבל who am I kidding?) אבל זאת לא נראית לי בעיה שקשה לפתור; כזכור האינטרנט כולו נולד כדי לתת לה מענה.

אבל מהדיון הקטן שהתפתח כאן אני מסיק שאולי באמת אין בזה טעם. כל מה שצריך הוא לאמן AI על איזה מדמה טיסה ולתת לה לצפות בכל הפרקים של "תעופה בחקירה", וזהו.
____________
בהערת אגב אישית תרשו לי לשתף אתכם בתהליך נפשי שאני עובר עם ההזדקנות: יותר ויותר אני מוצא את עצמי תוהה אם חידוש טכנולוגי מובטח יתממש לפני שעבדכם הנאמן יפסיד בקרב ההתשה נגד האנטרופיה. נראה לי שמעולם לא היו כל כך הרבה שינויים מהותיים, חלקם טובים מאד וחלקם נוראים, ממש קרובים להבשיל. סקרנות היא הסיבה העיקרית בגללה אני מעדיף להישאר כאן עוד קצת, אם אפשר.
תגובה מהירה מאד 711199
נראה לי שגם אם חצי שניה היא זמן ארוך מדי למצבי חירום מסוימים, אפשר לפתור את הבעיה עם starlink או רשת דומה של לווינים במסלול נמוך. אולי אפשר אפילו להשתמש במטוסים עצמם גם כתחנות מיתוג, מאחר ובכל רגע נתון יש כמה אלפים מהם באוויר.
תגובה מהירה מאד 711411
__________
החבר'ה בטכניון לא מאבדים זמן: עשרה ימים לקח להם לבוא עם הצעה מעשית!
תגובה מהירה מאד 711128
מתוך כיפת ברזל [ויקיפדיה]:

"מערכת השליטה והבקרה מזהה באופן אוטומטי את הרקטה ואת מקום נפילתה האפשרי, ומשגרת לעברה טיל מיירט, אך מפעילי המערכת יכולים להפעיל שיקול דעת ולהתערב בשיגור על ידי הפעלה יזומה."

ההימור שלי הוא שיש סוללות שהן על אוטומט כי הן מגנות על איזור עירוני; וסוללות על חצי אוטומט כי הן למשל מגנות על איזור חקלאי שעשוי ריק בשעות מסוימות ורוצים לחסוך מיירטים. ויכול להיות שבזמן רגיעה יש סוללות הן במצב ידני לגמרי כי אחרת, יהיו הרבה false alarms (באופן יחסי). אבל במצב ידני לגמרי עדיין יש מטחים מפתיעים ולכן דווקא אז סומכים על ערנות אנושית.
תגובה מהירה מאד 711146
טיל מיירט? חשבתי שמשגרים שניים.

קשה לי לראות איך חייל - ואפילו קצין! - יכול לקבל החלטה מושכלת שמדובר בהתרעת שווא טוב יותר ממערכת ממוחשבת, אבל אולי צריך שיהיה מבוגר אחראי בסביבה למקרים שהמערכת משתגעת, כלומר אם היא מגיעה למסקנה בלתי סבירה לחלוטין לכל בר דעת בגלל תקלה, או שיש סיטואציות יוצאות דופן בהן אלגוריתם ההחלטה נכשל (אופס, הרגנו את סופרמן). קשה לי לחשוב על כאלה כי נראה שמדובר באמת על החלטה די פשוטה עם מעט פרמטרים, אבל אולי בכל זאת מסתתרת שם איזו מורכבות שאני לא מכיר.
תגובה מהירה מאד 711152
לא הורגים את סופרמן עם כיפת ברזל, אבל אולי אפשר עם תפילין קריפטוניום.
תגובה מהירה מאד 711154
ההחלטה מאוד פשוטה בהנחה שהכללים לא משתנים. אבל בצד השני יש ממזרים שישמחו לשנות את הכללים בלי לספר לך.
תגובה מהירה מאד 711164
אתה יכול לבנות סצנריו של שינוי פתאומי כזה של הכללים שבו בני אדם יוכלו לטפל טוב יותר ממערכת ממוחשבת, כשמדובר בהחלטה מהירה? הדבר היחיד שעולה בדעתי הוא שאדם יכול להחליט להשבית את המערכת אם משהו רע מאד מתרחש מול עיניו, אבל בשביל זה לא צריך להחזיק את טובי בחורינו בחדר קפוא.
תגובה מהירה מאד 711266
בינתיים שמעתי ראיון אוהד (וארוך!) עם אחד המייסדים של viz.ai, חברה שמפתחת ניתוח מהיר של תוצאות סריקת CT של חולי שבץ בתקווה לאתר מהר את אלו מהם שיש סיכוי לנתח בצנתור.

רק איפשהו לקראת סוף הראיון הם מתייחסים לאחוזי הדיוק.
תגובה מהירה מאד 711277
יש די הרבה חדשות ממערכות סריקה של מכשירי הדמיה שונים, כך ששעה וחצי זה די הרבה זמן להקדיש לאחת מהן. למה לא תכתוב לנו מהם אותם אחוזי דיוק ואם הם משווים אותם עם אלה של מומחים אנושיים? אגב, אסטרטגיה חדשה יחסית של שימוש ב AI לדיאגנוזה היא לא להסתפק במקור מידע יחיד (CT למשל) אלא לבחון את התיק הרפואי כולו (בדיקות דם, אמצעי הדמיה שונים, גנטיקה) כדי להגיע לאחוזי הצלחה גבוהים יותר.
תגובה מהירה מאד 711280
הם לא הזכירו בכלל מספרים. הם לא טוענים שהם מדויקים יותר ממומחים אנושיים אלא שהם מהירים (וחלק מהמהירות: זמינות) יותר ממומחים אנושיים ומדובר על מקרה שבו המהירות חשובה: אנשים שמגיעים לבית חולים עם שבץ.
תגובה מהירה מאד 711281
אני מחכה ל-AI שיצליח לחזות מראש שבץ מוחי ולמנוע אותו. היום, על פי מה ששמעתי, אפילו בדיקת אא"ג במאמץ ודומותיה ייכשלו בחיזוי התקף לב קרוב בעשרות רבות של אחוזים מהמקרים.
תגובה מהירה מאד 711283
דווקא בקשר לאק"ג והתקף לב ממשמש יש מקום לאופטימיות מסוימת.
תגובה מהירה מאד 711286
בהקשר משיק, הייתי בטוח שנזכה לשלל סרטונים במתכונת הזאת בכיכובם של ביבי ו/או גנץ. האם חסרונם מעיד על כך שעוד אין מערכת שיודעת לעשות את זה בעברית?
תגובה מהירה מאד 711296
אצלנו עוד עובדים על האנטי-מחיקון.
תגובה מהירה מאד 754908
רופאה רדיולוגית באיכילוב סיפרה לי שהם נעזרים ב-AI (לא יודע של איזו חברה) באופן שגרתי. הוא מבצע עבורם טריאג' לצילומים ומדליק נורות אזהרה במידת הצורך. היא מאד מרוצה מהתוצאות.
תגובה מהירה מאד 754952
אנקדוטה משעשעת לגבי אבחון רפואי עם AI:
מסתבר שליצור Ground truth בשביל אימון הרשתות זו משימה מסובכת מהמצופה - בגלל שלצורך זה מגייסים כמה וכמה רופאים שיתייגו את המקרים הרלוונטיים, אבל חוסר ההסכמה בין הרופאים גדול מאד.
על אותה תמונה שלושה רופאים שונים נותנים שלושה סיווגים שונים.

כשחושבים על זה לעומק - מה זה אומר היום ובלי קשר ל-AI - זה בעצם יותר מפחיד ממשעשע.
תגובה מהירה מאד 754994
וכתבה היום במוסף הארץ על אבחוני בינה מלאכותית.
למקרא הכתבה אני מרגיש במפתיע כמו בעמדה של עומר - שהכותב חי לפחות שני עשורים אחורה מבחינת ההערכה שלו את יכולות האבחון המלאכותי.
תגובה מהירה מאד 755050
עם יותר סבלנות, ה-ground truth יכול להיות ניתוחים לאחר המוות (ובתקווה שהפתולוגים יותר מסכימים זה עם זה). אני מקווה שכבר התחילו לאסוף את הדאטה.
תגובה מהירה מאד 755057
נראה לי שזה נתון שמראה משהו, אבל בחלקו כבר לא רלבנטי לזיהוי המןקדם מלפני שנים רבות.
כדאי מאד שיהיה משהו יותר מדויק בטווח יותר קצר. הינדוס-לאחור של סיבת המוות לעשרות שנים נראה לי סיגנל מאד מאד רועש שיכול להיות מוטה ומטעה.
תגובה מהירה מאד 755116
אוקיי, בשלב ראשון - ניתוחים לאחר המוות, שניתנים לרופא אנושי עם ממצאי הדימות X שנים קודם, ותמצית היסטוריה קלינית בין שתיהן. הרופא האנושי יאמר אם בדימות היתה כבר אינדיקציה לבעיה / היעדר בעיה, וייקח בחשבון את X. זה כנראה הרבה יותר עבודה גם מממצאי ניתוח לאחר המוות בלבד וגם מהערכת מומחים לבדיקה/דימות בלבד; אבל הרבה יותר מדויק, אני מניח, ואני מקווה שיותר קונצנזואלי. צריך מן הסתם להתגבר על ההטייה שיש לרופא מזה שהוא יודע את התוצאה הסופית. אולי צריך קודם לבקש ממנו הערכה לדימות כשלעצמו, ואז לחשוף מה קרה אחר כך ולשאול אם לאור זה הוא משנה את מה שהוא חושב על מה שהדימות מראה. אני מניח שיש לשיטה איזשהו מקום בטרייד אוף, אם כי פרטים יגידו אם יתרון הדיוק שלה מספיק אפקטיבי כדי לשלם על העבודה היתרה. בכל אופן, זה יועיל לשלב ביניים, כשבטווח הרחוק יהיה לנו כל כך הרבה מידע "סופני" שהוא כבר יתגבר על הרעש.
תגובה מהירה מאד 755117
אם למישהו יש סרטן שנתיים אחרי הדימות, זה לא סיגנל עדיף על זה שהוא מת או לא אחרי 22 שנה (משפעת\אלצהיימר\מערכת חיסון חלשה)?
תגובה מהירה מאד 755344
סיגנל עדיף לאיזו שאלה? זה סיגנל עדיף לשאלה אם צפוי סרטן בהינתן הדימות. זה לא בהכרח סיגנל עדיף לשאלה מה תוחלת החיים שלו עם או בלי טיפול כזה או אחר.
תגובה מהירה מאד 755352
תוחלת החיים שלו תלויה בעוד מאה גורמים אחרים, שמתרבים ככל שהמוות מתרחק מתאריך הדגימה.
הסרטן שיתפרץ שלושה חודשים אחרי הדגימה הרבה יותר מובהק, וגם יותר קריטי לגילוי וטיפול.
תגובה מהירה מאד 755443
זה שהסרטן יותר קריטי זו כבר הנחה חיצונית שלך (של רופאים), שאולי מבוססת היטב על המדע והדאטה אבל אולי לא - אלו מסוג השאלות שאנחנו רוצים שהביג דאטה ורשתות הנוירונים יענו לנו עליהן באופן אובייקטיבי. והם הרי יוכלו לעשות זאת בהינתן מספיק דאטה ומספיק סבלנות. זה שהמובהקות כאן מידללת זו הסיבה שצריך יותר דאטה (הרבה הרבה יותר דאטה, ברור, לרגע לא חשבתי שרק קצת יותר).
תגובה מהירה מאד 728277
נראה ש"הפרק הבא" שהבטחתי כבר די קרוב.
תגובה מהירה מאד 728278
בינתיים מסתבר דוקא שfalse positive יכול להיות כלי פוליטי נהדר - אופס, ברק.
תגובה מהירה מאד 728282
בינתיים המאמר נישמע כמאמר למטרת קידום מכירות.
תגובה מהירה מאד 728283
אכן.
ויוה לאס וגאס! 711288
בבירת המהמרים כל פקק מקטין את הכנסות בתי הקזינו, וכשיש מוטיבציה יש תוצאות. אני משער שהסנונית הזאת דווקא כן מבשרת את בוא האביב ותוך 30 שנה זה יגיע אפילו לאומת הסטארטאפ שבינתיים שוקדת על הגדלת היתרון הטבעי שלה ביצירת פקקים דווקא.
''אתם מוזמנים לשאול אותי'' 743751
גוגל הרימו את הכפפה:

"יש גם חידוש של גוגל שפותח בישראל: מערכת בקרת רמזורים מבוססת בינה מלאכותית, שמנתבת את התנועה כך שמרבית המכוניות ימתינו פחות ככל האפשר באור אדום. המערכת פותחה על ידי צוות בגוגל ישראל, ונמסר כי היא מבוססת על עקרונות ניהול התנועה ברשתות מחשבים, שגוגל מתמחה בהם. במקום לתזמן ידנית את זמני הרמזורים ואז לנסות ולהתאים ביניהם, צוות הפיתוח השתמש במודל בינה מלאכותית שאומן על בסיס נתונים ממרבית הצמתים בערים שונות בעולם, והנתונים האלה אפשרו אופטימיזציה של הצמתים הלא יעילים."
ההפתעות שמחכות לנו... 698792
אפשר לנחש ששנות הילדות של המכונית האוטונומית יביאו איתן גם מקרים משונים ביותר שאף אחד לא חזה במהלך הניסויים. המקרה הזה שמביא רועי צזנה ממחיש את הרעיון. נזכרתי שבאליפות העולם הראשונה (או השניה) בשחמט למחשבים, תוכנה אחת הגיעה למצב זכוי של מט בשני מהלכים, מצב שהיא זיהתה נכון, אבל במקום לעשות מה שכל בן אנוש היה עושה היא החליטה שמצב כזה הוא לא פחות טוב מניצחון ולכן לא ביצעה את המהלך הדרוש אלא מהלך אחר שהותיר את המצב של מט בשניים על כנו. אחרי עוד כמה מסעים המשחק הסתיים בתיקו.

בעולם של אז היה מדובר בבאג קל לאיתור ולתיקון, בעולם של רשתות נוירונים זה עלול להיות יותר מסובך.
ההפתעות שמחכות לנו... 698800
נדמה לי שזה מקרה פרטי של בעיה יותר עקרונית שנקראת value learning problem - איך לגרום לתוכנה לעשות מה שאנחנו "התכוונו" שהיא תעשה, מבלי תוצאות בלתי צפויות ובלתי רצויות - כמו לפגוע באנשים אחרים בדרך, להתאבד וכו'. זה נושא יחסית חדש, יש כמה פתרונות מעניינים כמו cooperative inverse reinforcement learning שזה, ממש בקצרה, מעין "משחק" שבו התוכנה מנסה להסיק מה המורה האנושי שלה מעריך, ע"י התבוננות בתגובות שלו לפעולות שלה.
ההפתעות שמחכות לנו... 698814
אה, זה בדיוק מה שרשת הנוירונים האנושית עושה בדייט, הלא כן?
ההפתעות שמחכות לנו... 698816
דוגמא יפה, כי אנחנו לא באמת יודעים מה נשים רוצות. ומתי מה שאמרת זו טעות איומה.. אנחנו רק יכולים להעריך לפי התגובה..
עוד בינה מלאכותית בפעולה 703328
מערכת "פורבס" מפעילה מזה כמה חודשים תוכנה שממליצה לכתבים על נושאים לכתבות ועוזרת להם למצוא כותרות ותמונות עבורן. מערכת מתקדמת יותר, שגם מייצרת טיוטה ראשונית של הכתבה, נמצאת בפיתוח. פרטים.
עוד בינה מלאכותית בפעולה 703333
השועל האירוני פה הוא שהכתבים במו עטם מלמדים את הבינה המלאכותית איך להחליף את משלח ידם היקר.
מכונית פגעה ברובוט 703444
מכונית אוטונומית של טסלה פגעה ברובוט של Promobot.
מכונית פגעה ברובוט 703445
מצחיק. הזכיר לי ידיעה שהתפרסמה פעם במדור הסאטירי "סימני נפט" של מעריב, אחרי רצף של כמה מקרי נפילה של פעוטות ממקומות גבוהים: "תינוק שנפל מהקומה ה-‏14 פגע בתינוק שנפל מהקומה ה-‏8, וניצל בנס".
מכונית פגעה ברובוט 703447
אולי האשמה ברובוט? אולי הוא לא הסתכל לפני שירד לכביש? אולי הוא תוכנת לגרום לתאונה על ידי חברה מתחרה כדי לפגוע במוניטין של טסלה? Rabotage!
משורה ישחרר רק המוות 703449
לפי המתואר בכתבה הוא ניסה לחרוג מן הנתיב בו צעדו שאר הרובוטים. יהא זה לקח לכולנו.
משורה ישחרר רק המוות 703452
צב"ר!
משורה ישחרר רק המוות 703453
צעיר, בריא, רענן? לא נשמע לי תואם את מצבו של הרובוט.
משורה ישחרר רק המוות 703458
צב"ר = "צוחק בקול רם", יעני LOL. כל הזכויות שמורות לאביב י..

ועוד יותר טוב: שע"ר ויקטו"ר של ראובן.
משורה ישחרר רק המוות 703461
שער ויקטור זה נהדר, בעיקר למי שיצא לו לבלות חלק מזמנו ליד השער המקורי.
מכונית פגעה ברובוט 703457
פייק ניוז?
מכונית פגעה ברובוט 703460
ספק אם זה פייק.
למה המכוניות האוטונומיות נכשלו? 755981
בפוסט בבלוג "המדריך לעתיד" סוקר ד"ר רועי צזנה את כשלונה המתמשך של המכונית האוטונומית. בקצרה, זה מה שידוע זה מכבר - יכולת הכללה בלתי מספקת אל מול זנב ארוך, תדיר וקטלני.

זאת למרות אימון על מידע ויזואלי (בלבד?) שנלקח מיותר מ-‏70 מיליון שעות כביש. מאחר ולאדם נדרש אך שבריר מכמות חשיפה זו, ייתכן שהמזור טמון בהבנה מקדימה ומעמיקה של העומד בבסיס המראות, למשל פסיכולוגיה אנושית ופיסיקה בסיסיות, כדוגמת אלו שצצו ב-GPT3, עם העלייה בכמות הפרמטרים והשימוש במאגרים כלליים נרחבים ואיכותיים המספקים הבנה מורכבת של המציאות.
למה המכוניות האוטונומיות נכשלו? 755990
אני קצת מאוכזב - בתור מי שעתידנותו אומנותו, הייתי מצפה שיכתוב את התחזית הזו כבר לפני 8 שנים.
הגניזה המקפיצה 756669
גניזת חלום המכונית האוטונומית הקפיצה את מניית מובילאיי - כלכליסט.
האם זוהי גם יריית הפתיחה לכינונו של שוק סחר בחלומות? כמה מקבלים על שבע פרות רזות?

חזרה לעמוד הראשי פרסום תגובה למאמר

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים