 |
|
 |
||
|
||||
 |
איני חושב שיש סכנה לכך שהגולם יקום על יוצרו. אומנם ההשכלה שלי אינה בתחום הנדסי אבל נוכחתי שמרבית המכונות מעשי ידי האדם נוטות להתקלקל וגם הטובות שבהן מלאות בפגמים. מאחר וקל יותר להרוס מאשר לבנות (עניין של אנטרופיה) אני מניח שתמיד ניתן יהיה לנצל פגמים במכונות וטכנולוגיות מעשי ידי האדם כדי להשביתן בעת הצורך. בפרספקטיבה של זמן האדם הוא יצור שורד וכפי שלמד להתמודד עם האש בימי קדם למרות הנזקים שגרמה, ילמד להתמודד גם עם הכוח הגרעיני. אכן בנאי עלול ליפול ולההרג מגג בניין שבנה במו ידיו, כפי שמטוס עלול להתרסק חרף כל המאמצים להופכו לבטיחותי, אבל אין בכך גולם הקם על יוצרו אלא שימוש לקוי בטכנולוגיה. מכאן שזאת לא הטכנולוגיה אלא כמו תמיד הטבע האנושי, ובהתחשב בעובדה שהעולם מלא באנשים ומספרם גדל בהתמדה, כנראה שאפשר לבטוח בבני האדם שהם יודעים לשרוד. אם האדם למד ''להסתדר'' (פחות או יותר) עם בני אדם אחרים שום טכנולוגיה אינה אתגר כבד מדי עבורו. |
 |
 |
 |
|
|
|
||
|
||||
|
"להשביתן בעת הצורך"? אני חושב שזה אחד הכשלים הכי נפוצים בסיפורי המד"ב האפוקליפטיים על מלחמת האדם במכונות: הרעיון שהמלחמה תהיה על התקע. מה שהוכיחה ההיסטריה של באג אלפיים הוא שאם נגיע ליום בו יתעורר קונפליקט בין מכונות לאנשים, שום חברה אנושית לא תוכל להרשות לעצמה להלחם במכונות, יותר משאתה יכול להלחם במיטוכונדריה שלך: התלות גדולה מדי. |
|
|
|
|
|
|
||
|
||||
|
מוזר. אני תמיד חשבתי שבאג אלפיים הוכיח בעיקר את חוק ''האנרציה של הפלצנות''. ואת המרחק העצום שקיים לפעמים בין התחזיות האפוקליפטיות של ''מומחים'' למיניהם, לבין אחיזתן במציאות. | |
|
|
|
|
|
||
|
||||
|
Experts are people who know a great deal about very little and who go along learning more and more about less and less until they know practically everything about nothing.
|
|
|
|
|
|
|
||
|
||||
|
הוא הוכיח כל מיני דברים, אבל החשוב מכולם (לטעמי) הוא שכבר מזמן עברנו את נקודת האל-חזור ביחסינו עם המחשבים, וזה קרה בלי שאף אחד יכול להצביע על הנקודה הזאת (שהיא, כמובן, בכלל לא נקודה אלא אזור דמדומים שלם), ובלי שמישהו שם לב. ובאשר לתחזיות אפוקליפטיות: כשאתה חוזר הביתה בארבע בבוקר שיכור כלוט ועייף עד מוות אחרי שנהגת במהירות 200 קמ"ש בכביש העירוני הסמוך, תהיה זאת טעות גדולה מצידך לבטל את התחזית האפוקליפטית לפיה היית עלול למות בדרך. |
|
|
|
|
|
|
||
|
||||
|
ובבואך לנהוג כשאתה עירני ופיכח בקטע כביש טוב שיש בו פניות מעטות ומתונות בלבד בצהרי היום כשהתנועה דלילה, מה אתה עושה עם התחזיות האפוקליפטיות שטוענות שאתה אמור למות אם תנהג במהירות של 130 קמ"ש ? אולי קטונתי, ואני לא יכול להגיד שהתעמקתי, אבל עד היום לא הבנתי על סמך מה בדיוק התבססו התחזיות האפוקליפטיות של באג אלפיים. אני מודה שזה מאוד סובייקטיבי, אבל אני הכרזתי עליהן כמקרה של עקרון "האנרציה של הפלצנות" כשחבר שלי קינח מונולוג אפוקליפטי ארוך שהוא פצח בו בעקבות דברים שהוא קרא באינטרנט, ודוקלם פחות או יותר באותו הטון שבו הוא מספר לי על הסרט המדע-בדיוני החדש שעומד לצאת, שהוא קרא עליו באינטרנט, במילים: "... ואתה *יודע* שמחשב, איך שהוא מחלק באפס - הוא קורס ! אתה *יודע* את זה !". החלק העצוב הוא שהחבר הזה גם הוא אמור להיות מתכנת. |
|
|
|
|
|
|
||
|
||||
|
אולי צריך לשאול מתכנתים וותיקים כדי להבין את בעיית 2000 (לא בדיוק באג)? | |
|
|
|
|
|
||
|
||||
|
בספר "אפס" של אחד, צ'רלס זייף, מספרים איך משחתת גדולה הושבתה פעם בגלל חלוקה באפס שהייתה בתוכנת הבקרה שלה. ומה לעשות, תוכנות באמת קורסות כשהן מנסות לבצע חלוקה באפס, ואם אלו תוכנות שאמורות לרוץ בלי הפסקה ולוקח זמן להפעיל אותן מחדש (וייתכן גם שהן לא שמרו את כל הנתונים שלהן), יש כאן בעיה. אגב, אי אפשר להגיד שלא נעשתה עבודת הכנה לקראת באג 2000. אולי בגלל זה התוצאות של הבאג לא היו מורגשות? |
|
|
|
|
|
|
||
|
||||
|
אבל זה בדיוק העניין. מידת העמידות של <מערכת X> לבאג אלפיים הייתה שילוב של גורמים: הגיל של התוכנה, הגיל של החומרה והמודעות של המתכנתים לבעיה בזמן כתיבת הקוד. כל זה מבלי להתייחס לתיקונים שנעשו לתוכנות אחרי שהבאג עלה לתודעה. התחזיות האפוקליפטיות התבססו על זה שהכל ישן, כולם מטומטמים, ואף אחד לא יעשה שום דבר בקשר לזה, כי כולם מטומטמים ולאף אחד לא איכפת. פחות או יותר. במציאות לא כולם היו מטומטמים (מנהלים, מתכנתים), לא כל המערכות הפיננסיות/התחבורה האווירית/הכורים האטומיים נכתבו בשנות השבעים, ולמספיק אנשים היה אכפת מספיק, כדי ליזום בדיקה וטיפול הולם במספיק מהמערכות שכן. להעלות את העניין לתודעה הציבורית/החוגים הרלוונטים זה דבר אחד. הפלצנות הייתה בהמשך הלעיסה של התחזיות האפוקליפטיות גם לנוכח העובדה שמערכות רלוונטיות כן התייחסו לעניין בכבוד הראוי. בעיקר ההתעסקות עם "האסון הקרב" מצד כל אדם פשוט ששמע או קרא משהו איפשהו, אל מול העובדה שאף אחד מהאנשים האלו לא טרח להתכונן ליום האפוקליפסה בשום צורה נראית לעין, או הפגין פחד כנה מכל העניין. היו תחזיות של משיכת כסף המונית מבנקים שתגרום לקריסה של מערכות כלכליות. אני מת לדעת כמה מכל האנשים ש"האמינו בבאג 2000" הוציאו כסף מהבנק בימים האחרונים שלפני הבאג. ברוב המחצית השנייה של העשור האחרון, באג אלפיים היה ונשאר בתחום שיחות סלון או אולי יותר מתאים לתייק אותו בתור סיפור רפאים מודרני. הקשר בין הגרסה הסלונית של באג 2000 לגרסה המציאותית שלו היה רופף. בזמן שהשני העסיק בעיקר אנשי מקצוע ונשאר בגודל סביר, הראשון העסיק בעיקר כאלו שלא, ועיקרון "האנרציה של הפלצנות"1 ניפח אותו למימדים אבסורדיים. _________ 1 אני מקווה שברור שהמצאתי את העיקרון הזה לפני שתי תגובות. |
|
|
|
|
|
|
||
|
||||
|
אתה טועה. התחזיות לא הניחו שכולם מטומטמים, אלא טענו שמספיק מיעוט של כמה מטומטמים כדי לגרום נזקים גדולים. אני משכתי מהכספומט כסף בכמות שהיתה מאפשרת לי להתקיים במשך שבוע. |
|
|
|
|
|
|
||
|
||||
|
''מספיק מיעוט של כמה מטומטמים כדי לגרום נזקים גדולים'' ואני לא מבין על מה זה מבוסס. זה נשמע לי אובר-פסימי. |
|
|
|
|
|
|
||
|
||||
|
אני לא משכתי כסף לפני ולא הוצאתי רישום של מצב החשבון ולמעשה לא עשיתי שום דבר חריג. הנחת העבודה שלי היתה שלא יקרה כלום, אם יקרה משהו, זה יהיה משהו קטן ושולי שיקח לכל היותר 24 שעות לתקן אותו ואם יקרה משהו באמת רציני, אז גם מליון שקלים במזומן לא יהיו שווים יותר מאשר חומר בערה לחימום הבית. | |
|
|
|
|
|
||
|
||||
|
כמי שמכיר מערכות בנקאיות מצד השמן והגריז, היה מקום לדאגה, אם כי מוגבלת. מן הבחינה שאם היתה מתעוררת בעיה אחרי כל המאמץ לארגן את אינוונטר התוכנות ולתקן אותן, אז לא היה צריך לקחת יותר מדי זמן (ימים?) לתקן בעיה מוגבלת ברדיוס ונפח ההשפעה. | |
|
|
|
|
|
||
|
||||
|
המקרה של "באג 2000" עצמו פחות מעניין אותי. הפחד שלי הוא שיילמדו ממנו לקחים לא נכונים, כפי שאנשים מזלזלים היום בסצנריו של החורף הגרעיני בגלל שקרל סאגאן הזהיר מפני אפקטים דומים אם יבערו הרבה בארות נפט במלחמת המפרץ (הראשונה) והתבדה. בגלל זה הספר האחרון של מייקל קרייטון מתועב בעיני. |
|
|
|
|
|
|
||
|
||||
|
טוב, כיון אחר. מה לדעתך הוביל את מומחי המודיעין שהגיעו למסקנה הזאת, למסקנה שלסאדאם יש כלי נשק להשמדה המונית ? |
|
|
|
|
|
|
||
|
||||
|
מה הבעיה? אתה רק צריך לבחור מהגישות הנפוצות באייל. 1. קונספירציה של אוליגרכיות כדי לשלוט במחיר הנפט ובשיקום עיראק. 2. כך המומחים קונים לעצמם מעמד, עושים עצמם לנחוצים ומתפרנסים ("האינטלקטואלים אוהבים סוציאליזם כי אז המעמד שלהם גבוה"). |
|
|
|
|
|
|
||
|
||||
|
עד כמה שאני מבין - וזה לא הרבה - הם הסתמכו על מה שהיה ידוע בקשר ליכולת הייצור, על ההערכות בקשר למוטיבציה לייצר, ןעל הקשיים שהוא הערים על הפיקוח. אני גם לא אופתע אם ההערכות המודיעיניות היו פחות נחרצות ממה שהובא לידיעת הציבור. |
|
|
|
|
|
|
||
|
||||
|
במחשבה שנייה זאת דוגמא לא טובה. תשכח מזה. | |
|
|
|
|
|
||
|
||||
|
ההיסטריה של באג 2000 הייתה מקרה פרטי של ההיסטריה של שנת 2000 בכלל, שהייתה מקרה פרטי (אם כי אולי קיצוני) של היסטריית סיום האלף (שהיא מקרה פרטי, אם כי אולי קיצוני, של היסטריית סיום המאה). הנוצרים המאמינים מצד אחד, אנשי ה"new age" (תרתי משמע) מצד שני, ואווילים כלליים בתווך - כולם נתפסו לנבואות שחורות ומלאות חוררבן, משיחים, אחרית הימים ומה לא. מה זה מוכיח? לישו פתרונים. | |
|
|
|
|
|
||
|
||||
|
לא מסכים עם הניתוח ההיסטורי שלך. ההיסטריה של באג 2000 לא היתה קשורה קשר ישיר1 לשום מיסטיקה אפוקליפטית או אפוקליפסה מיסטית, אלא לעניינים ארציים מאד. אני בהחלט נופל בקטגוריה של "אויל כללי בתווך", אבל לא נתפסתי לשום נבואה שחורה על מלחמת גוג ומגוג, אלא לנבואות שחורות הרבה יותר קונקרטיות ומעוגנות במציאות, נבואות שאומרות, בפשטות, שמתוך מליוני רכיבי התוכנה שמסתובבים בשטח, לא מעטים יתנהגו מוזר מאד כשהם ייתקלו באדם שגילו אפס או שלילי2. נכון, היו גם מי שפיזרו אזהרות על מה עלול לקרות לפצצה בת 100 מגהטון שיושבת לה באיזה מחסן נשכח ומגלה פתאם שכבר 100 שנה היא לא קיבלה את האות המרגיע שאומר לה "זה בסדר, אפשר להמשיך לישון". לשמחת כולנו אותם חוזי שחורות התבדו, כנראה הטמטום האנושי לא הגיע לדרגה של פצצות עם ברירת ברירת מחדל שאומרת להתפוצץ אלא אם כן מתקבלת הוראה אחרת, אבל צריך לזכור שאותם נביאי חורבן היו מיעוט קטן למדי. בכלל, הדיבורים על ה"היסטריה של שנת 2000 בכלל" מוגזמים מאד. מספיק להסתכל על מדדי הבורסות בעולם, מחירי הזהב ויציבות הבנקים כדי לראות שאותה היסטריה המונית כביכול היתה בעיקרה ספין תיקשורתי. ______________ 1- תמיד אפשר לטעון שהאוירה הכללית השפיעה באופן לא מודע על הלך הרוח, אבל את זה אפשר לטעון בכל מצב ועל כל עניין. 2- עצם ההיתקלות של תוכנה עם אנשים בגילים כאלה לאחר שהנת אלפיים היא לא "נבואה" בכלל, היא עניין ודאי. |
|
|
|
|
|
|
||
|
||||
|
אתה צודק. צ"ל: ההיסטריה של באג 200 בקרב ההומו סאפיינס (בניגוד להומו-קומפיוטרניקוס) נופחה מאוד בהיותה מקרה פרטי של...וגו'. מאידך גיסא, כיוון שכולנו - כדבר המימרה השחוקה -"ניזונים מהתקשורת" - "נביאי החורבן" לא היו מיעוט קטן כל כך, כמדומתני. (2) - כיוון שיש אנשים רבים שגילם שלילי מאוד בעיניהם, אולי רצוי שהתוכנה תיתקל בתופעה זו, כעוד דבר אנושי שלא יהיה זר לה. |
|
|
|
|
|
|
||
|
||||
|
קראי נא שוב את הפיסקה האחרונה בהודעה הקודמת שלי (גם הלא-חרדי-לא עורךדין-לא עיתונאי התייחס לאותו עניין). | |
|
|
|
|
|
||
|
||||
|
בדיוק לפיסקה זו התייחסתי ב(2). פשוט רציתי להצביע על יתרון אפשרי של הבאג :) | |
|
|
|
|
|
||
|
||||
|
"אכן בנאי עלול ליפול ולההרג מגג בניין שבנה במו ידיו, כפי שמטוס עלול להתרסק חרף כל המאמצים להופכו לבטיחותי, אבל אין בכך גולם הקם על יוצרו אלא שימוש לקוי בטכנולוגיה." לא בהכרח. "גולם קם על יוצרו" זו מטאפורה ציורית שבאה לתאר איך מעשה ידיו של האדם חוזר ופוגע בו. בין אם מדובר בשימוש לקוי בטכנולוגיה או "מעשה ידי אדם" שהתעורר לתחיה (לתבונה?) וחוזר לנקום בבוראו. אסון צ'ירנוביל גם נופל לאותה קטגוריה. למזלנו אסון צ'ירנוביל כמו שאר הדוגמאות שהזכרת הן בעלות השפעות מקומיות (פחות או יותר). אבל מה עם קטגוריית "המעשים החד-פעמיים והבלתי צפויים שאינם ניתנים לביטול בעלי השפעה גלובלית" ? נכון לזמננו כל מה שנימצא בקטגוריה הזו הוא עדיין בתחום המדע הבדיוני אז אני כרגע רגוע |
|
|
|
|
|
|
||
|
||||
|
נראה לי שהמטאפורה של הגולם מתייחסת בעיקר למצב שבו הענקת ליציר כפיך מעין יכולת מסדר שני. כלומר, כל טכנולוגיה שהיא יותר מסתם כלי פשוט אלא שיכולה גם לקחת החלטות. ברגע שרצית שהיא תחסוך ממך גם את לקיחת ההחלטות, אז יש סכנה שההחלטות שהיא תיקח לא ישרתו את האינטרסים שלך. (2001 אודיסיאה בחלל, מטריקס ועוד רבים מדגימים את זה יפה). אבל זה לא חייב להיות טכנולוגיה. הרי ישנם מעשי אדם שהם כמו מכונות שלוקחות החלטות בשבילך, אבל הם לא באמת מכונות. אני מתכוון לשיטות. למשל המוסד האקדמי שהוא מרכזי מאוד בעולם המערבי של היום, מבוסס על שיטה שהמציא האדם. זה התחיל בשיטה להיסק שמערבת מימד אינדוקטיבי ומימד דדוקטיבי. אבל כדי לקיים את השיטה הזאת היה צורך להרחיב את המנגנונים שלה. עוד ועוד אנשים הצטרפו לשיטה במטרה ליצור גוף עצום של ידע שמתרחב כל הזמן. כל תחום חדש דרש מתודה קצת שונה ומתבסס על נתונים מסוג שונה. העסק הזה הלך ותפח ועכשיו לאף אחד אין בראש תמונה כוללת של עולם האקדמיה. לא נראה לי שיש מישהו שיודע מהם כל החוגים שיש באוניברסיטאות השונות, לא כל שכן הידע גופא. השיטה היא כבר בפני עצמה. היא נועדה במקור לשרת את האדם ולייצר עבורו ידע. אבל מתוקף אופייה כיצרנית של ידע, האדם עלול להיתלות בה כדי להחליט במה להאמין. ויכול להיות שהשיטה הזאת, ביום מן הימים, תהיה מורכבת מספיק כדי שתהליכים פנימיים ייקרו בה שיגרמו לה לשקר לבני אדם ולגרום להם, על ידי גרימת אמונות מוטעות, להזין ולקיים אותה עצמה על חשבונם. גם זה יהיה מקרה של גולם קם על יוצרו. |
|
|
|
|
|
|
||
|
||||
|
הדוגמא שנתת על המוסד האקדמי כמקרה של גולם הקם על יוצרו היא מעולה. אבל לעניות דעתי גם היא נופלת לקטגוריית "שימוש לקוי בטכנולוגיה". לטכנולוגיה זו יש שם: בירוקרטיה. |
|
|
|
|
|
|
||
|
||||
|
תודה. אבל מעבר לשימוש הלקוי בביורוקרטיה (ואתה צודק כאן מאוד כמובן), ניתן לדמיין מנגנונים אוטומטיים פנימיים במערכת הזו. אולי מנגנונים שנועדו להקל על המנהלים והמובילים של המערכת, ואולי כאלה שנועדו להגן על המערכת מפני חולשותיהם האנושיות של החברים בה. וההמשך כבר נתון לדמיון... |
|
|
|
| חזרה לעמוד הראשי | המאמר המלא |
| מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים | |
 RSS מאמרים |
כתבו למערכת |
אודות האתר |
טרם התעדכנת |
ארכיון |
חיפוש |
עזרה |
תנאי שימוש
|
© כל הזכויות שמורות |