בתשובה לדב אנשלוביץ, 10/05/21 13:56
תשע (מליון) בכיכר ביום שישי 737269
מבצע החיסונים דרש יכולות שונות לגמרי של קופות חולים - בעיקר אדמיניסרטיביות.

קופות החולים לא יכולות להרשות לעצמן ליישם טכנולגיות מהפכניות באמת לפני שיש לכך תמיכה פוליטית/ציבורית. הציבור מוכן לקבל טעות רופא, אבל פספוס של אבחנה בגלל טעות מחשב עלולה לעלות לקופה הרבה כסף כפיצויים, שלא לדבר על הזעם ציבורי. אותה מכשלה גורמת לכך שמטוסי נוסעים עדיין מונחתים ע"י טייסים בשר ודם.
תשע (מליון) בכיכר ביום שישי 737273
מטוסי נוסעים לא מונחתים על ידי טייסים בשר ודם אלא על ידי הטייס האוטומטי כבר המון שנים. אבל, לפחות עד לפני מספר שנים, ההמראה במטוסי נוסעים הייתה נעשית תמיד על ידי טייסים בשר ודם (לדעתי, מסיבות לא ענייניות: המטוס עמוס בדלק, וכו', אבל לא מסיבה של בעיה בדעת הציבור)‏1.
לפי מה שציטטת הסיכוי לפספוס במחשב קטן יותר. איני חושב שלאור זאת יהיה למישהו קייס חזק יותר מאשר אם השגיאה הייתה שגיאת אדם.

1 אני הטסתי פעם מטוסים קלים, אבל המידע הזה ידוע לי מדברים ששמעתי לפני מספר שנים מגיסי ושהוא שמע מאח של כלתו, שהוא קברניט באל על, ללא קשר לכישורי הטייס שלי.
תשע (מליון) בכיכר ביום שישי 737275
למיטב ידיעתי אתה טועה בעניין הנחיתות (מלבד יוצאים מן הכלל כמו נחיתה בתנאי ראות גרועים ביותר).

"הסיכוי לפספוס" הוא לא משהו שעושה רושם רב מדי על לקוח טיפוסי שמשפחתו נהרגה בגלל טעות מחשב, וכך גם על המדיה שתעשה מזה צימעס. בדומה, הסיכוי לתאונת דרכים צריך להיות קטן *באופן ניכר ביותר* מהסיכוי של נהג בן אנוש לתאונה, לפני שהרגולטורים יאשרו מכונית אוטונומית לחלוטין.
תשע (מליון) בכיכר ביום שישי 737285
והא ראיה- תאונה של מכונית אוטונומית עושה כותרות מסביב לעולם, אבל תאונות של מטומטמים על ההגה קורות באלפיהן וזוכות לכל היותר לסרטון ביוטיוב.
תשע (מליון) בכיכר ביום שישי 737293
ובכל זאת כמעט כל הטיסה במטוס נוסעים (למעט ההמראה לפחות עד לפני כמה שנים) מתנהלת על ידי טייס אוטומטי ולא שמעתי על שום טענות או תביעות בעניין הזה.
תשע (מליון) בכיכר ביום שישי 737298
כל תאונת מטוס מקבלת כותרות, אבל התאונות בגלל ה MCAS קיבלו פי עשר.
תשע (מליון) בכיכר ביום שישי 737339
זה נכון, אבל הטייס האנושי מוכן לקחת פיקוד במידת הצורך (אלא אם הוא גאון שנותן לילד שלו לשחק עם ההגאים). לו הטייסים היו הולכים לישון והמטוס היה מתרסק בגלל בעיית מחשב היית שומע טרוניה או שתיים ממשפחות הנוסעים.
תשע (מליון) בכיכר ביום שישי 737344
זה נכון, והאמת היא שחשבתי על כך קודם. ברור שאם ניתן לבן אנוש ''לפקח'' על פעולת הפיענוח, לא נחסוך זמן, והעניין יהפוך למיותר. לכן, באמת, ההשוואה עם טיסה אוטומטית היא השוואה לא מוצלחת.
תשע (מליון) בכיכר ביום שישי 737347
זה לא לגמרי נכון, כפי שהעיר צפריר; הדעת נותנת שיש מקרים פשוטים בהם הסיכוי לטעות מחשב נמוך עד כדי כך שאפשר לתת תשובה בלי להטריד את הפתולוג האנושי בכלל. אני לא יודע מה הכמות של מקרים בהם אין (כמעט) שום חשש לפתולוגיה בין אלה שנבדקים, אבל אני מוכן לנחש שהיא אינה זניחה.
תשע (מליון) בכיכר ביום שישי 737349
ישנו פרוייקט של חברת מדטרוניק שמיצרת מצלמה זעירה שנבלעת על ידי הפציאנט ומשדרת תמונות במהלך סיורה בתוך מערכת העיכול. יש שם תכנה שאמורה לבחור מתוך כל התמונות את אלה שימסרו למפענח האנושי. אבל במקרה הזה פשוט אי אפשר אחרת כי מדובר במספר עצום של תמונות.
תשע (מליון) בכיכר ביום שישי 737353
מנסיוני בתחום דומה - רוב רובן של התמונות מסוננות במקרים כאלה כי הן ממש דומות לתמונות שנלקחו לפניהן. ובשביל זה לא צריך רשת חכמה מדי (או רשת בכלל).
תשע (מליון) בכיכר ביום שישי 737363
אל תזכיר לי את המצלמה הארורה הזאת!
תשע (מליון) בכיכר ביום שישי 737366
?
תשע (מליון) בכיכר ביום שישי 737368
כשיש פתולוגיה רצינית, לפעמים היא נתקעת לה באיזו לולאת מעי מיותר למרות שהגלולה שניתנת לפני כן לוודא שזה לא יקרה (ומתמוססת בלי נזק אם כן נתקעת) עברה בהצלחה את מסלול המכשולים. זה גורר ניתוח.
תשע (מליון) בכיכר ביום שישי 737369
טוב לדעת.
תשע (מליון) בכיכר ביום שישי 737346
נזכרתי במה שאמר "אלוף ההפלות" של חייל האוויר - אפשטיין, שבתכנית טלוויזיה שנעשתה עליו תיאר את עבודתו בקברניט באל על‏1 כעבודה שהוא לא היה קורא לה עבודה: "לשבת ולהשגיח על המחשב. . ."

1 כתבתי בהתחלה "קברניט באייל", ותקנתי כשראיתי זאת ב"תצוגה מקדימה". מנפלאות המוח האנושי. . .
תשע (מליון) בכיכר ביום שישי 737348
בעקבות מה שכתבת על נחיתה אוטומטית קראתי קצת על הנושא ולמדתי שהטייסים טוענים שיותר קל להם להנחית את המטוס ידנית מאשר לפקח על הטייס האוטומטי מבצע את הנחיתה.
תשע (מליון) בכיכר ביום שישי 737351
אני שמעתי לפני שנים רבות מטייס באל על (קרוב משפחה של אשתי, אבל לא אותו טייס מהתגובה הקודמת), שבאל על מכריחים אותם להשתמש בשרותיו של הטייס האוטומטי‏1 כדי שיתרגלו לצורת הטסה כזאת.

1 אבל איני זוכר בשיחה ההיא התייחסות להמראה או נחיתה, אם כי מאד ייתכן שדובר גם על כך.
תשע (מליון) בכיכר ביום שישי 737352
בחומר שקראת, האם כתוב איך בדרך כלל מתבצעת הנחיתה? ידנית או אוטומטית?
תשע (מליון) בכיכר ביום שישי 737364
ידנית, לכן כתבתי לך שלמיטב ידיעתי אתה טועה.
תשע (מליון) בכיכר ביום שישי 750779
סקוט אהרונסון חושב כמוני בעניין זה:

"Unfortunately, it’s become clear that, even after self-driving cars become safer than humans, regulatory and psychological barriers will slow their adoption or maybe even prevent it entirely. A huge part of the reason is that, even if self-driving cars can soon cause (say) 10x fewer fatalities per mile than human drivers do, when they do cause fatalities, it will be salient and scary and weird—the AI mistaking a pedestrian’s shirt pattern for a green light or whatever."
תשע (מליון) בכיכר ביום שישי 737302
אם כך היישום המתבקש היא מערכת שמנתחת ניתוח ראשוני של תמונה ועוזרת לשפר את התפוקה של הרדיולוג.
תשע (מליון) בכיכר ביום שישי 737312
הנושא הפעם הוא פתולוגיה ולא רדיולוגיה.
תשע (מליון) בכיכר ביום שישי 737318
אותו דבר. כלומר, מערכת שמצביעה על אזורים מעניינים ומעלה ניחושים.
תשע (מליון) בכיכר ביום שישי 737327
אבל מה הקלט של המערכת שלך?
תשע (מליון) בכיכר ביום שישי 737340
שיקופיות.

עכש"ז זאת היתה אחת הבעיות בשעתו: המערכת התאמנה על קלט שהגיע ממכונה מסוימת, ומכונות אחרות (בשטח) אינן מוציאות תמונות בדיוק באותו הסטנדרט. הייתי מצפה שיצליחו להתגבר על זה בזמן שחלף מאחר ואפשר לכלול בבסיס הנתונים לאימון מגוון רחב של קלטים ממכונות שונות עובדה שהמערכות לזיהוי פנים עובדות יפה עבור מצלמות ותנאי תאורה שונים). אבל מה אני מבין, אולי נדרשת רמה הרבה יותר גבוהה של איכות הקלט כדי למצוא שינויים זעירים.
תשע (מליון) בכיכר ביום שישי 737358
בגלל הקורונה ימ״ש יש יותר שימוש בדרכים שונות שלא דורשות מפגשים של פציינט עם רופא. מה שאומר שהרבה יותר דברים כבר עוברים בצורה דיגיטלית, וחלק מהם גם נשמרים. מה שנשמר אולי גם מנותח.
תשע (מליון) בכיכר ביום שישי 737338
אכן, מתבקש. בשעתו היו בעיות לא פשוטות ואני לא עוקב אחרי ההתפתחויות כך שאינני יודע מה המצב לאשורו כרגע. אולי עומר יוכל לעזור כאן.

מכל מקום, אני מסכים עם רוח התגובה של דב: לפני שלוש שנים הייתי יותר אופטימי בשאלה איפה נהיה היום מהבחינה הזאת.
תשע (מליון) בכיכר ביום שישי 737362
אני גם תחת הרושם שחזון המכוניות האוטונומיות איבד משהו מהתנופה שלו, לא? לפני כמה שנים כולם אמרו שזה אוטוטו קורה.
תשע (מליון) בכיכר ביום שישי 737365
לכל הפחות איבד הרבה מההייפ, שניזון בשעתו מהצהרות אופטימיות מאד כמו אלה של אלון מאסק.
תשע (מליון) בכיכר ביום שישי 737545
כאילו לפי הזמנה, הנה משהו ישר מהתנור שקשור לענייננו.

דגדגן: " Trained to see patterns by analyzing thousands of chest X-rays, a computer program predicted with up to 80 percent accuracy which COVID-19 patients would develop life-threatening complications within four days, a new study finds."

מצד שני, מי יכול לסמוך על AI כאשר התרגום של גוגל לאותו משפט נראה כך:

"מחקר חדש גילה כי תוכניות מחשב ניבאו לראות דפוסים על ידי ניתוח אלפי צילומי רנטגן בחזה, וחיזו אותם עד 80 אחוזי דיוק אשר חולי COVID-19 יפתחו סיבוכים מסכני חיים"?
תשע (מליון) בכיכר ביום שישי 737403
אני לא משוכנע. מכיר את סיפור הTherac-25 [Wikipedia]? באג תוכנה במכשיר הקרנה שהרג שלושה מטופלים ופגע קשה בעוד שלושה לפחות, לפני כ-‏35 שנה? אני שמעתי עליו פעם אחת, בעברי במחקר הנדסת תוכנה. רוב מהנדסי התוכנה לא שמעו עליו, ורוב הציבור הרחב על אחת כמה. עברו הלאה. אני חושב, בלי הוכחה, שהציבור בשל לקבל מקרים של שגיאות טכנולוגיה, בכלל זה קטלניות, בטיפול רפואי, כשם שהוא מקבל (בקושי) שגיאות אנוש, ובהתחשב בכך שהמשאבים ממילא לחוצים עד כלות וקל להציג את המצב (ובצדק) כבחירה בין החלטות ממוכנות תוך שעתיים בחינם לבין החלטות אנושיות בתוך שבועיים וביוקר. למעשה, יש לי הרגשה אינטואיטיבית שיהיה קל יותר רגשית לקבל אסון רפואי בגלל טעות מחשב מאשר בגלל טעות אנוש. הסיכון בתביעות הנזיקין ממילא מועבר לחברות ביטוח, כלומר למספרים גדולים, ואני לא רואה כאן בעיה.

חזרה לעמוד הראשי

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים