מלחמת המטא-אנליזות 3903
מאמרים שיצאו בשנה האחרונה כופרים במהימנות היתרה המיוחסת למתודולוגיה שאמורה היתה לסיים ויכוחים מדעיים
החל בשנות התשעים החלו לכבוש את מקומם בקידמת הבימה המדעית מאמרים הסוקרים מטא־אנליזות - מחקר המבוסס על מיזוג תוצאותיהם שכל מספר גדול של מחקרים קודמים הנוגעים לאותה סוגיה מדעית. כאשר הדבר נעשה היטב, מסוגל שילוב המחקרים לנטרל בעיות אפשריות של כל אחד מן המחקרים בנפרד, ולקבל תוצאה מאוזנת ומובהקת יותר סטטיסטית.

מטא־אנליזות גילו למשל שספירת הזרע בקרב המין האנושי (בעיקר גברים) נמצאת בירידה חדה; שאחוז משמעותי מקרב הסובלים מדיכאון אינם מגיבים לטיפול תרופתי וכן שלסטטינים ישנה השפעה מיטיבה על חולי סוכרת 2.

המונח מטא־אנליזה נטבע עוד בשנת 1976 על־ידי הסטטיסטיקאי ג'ין גלאס, שביקש לבחון את יעילותם של טיפולים פסיכואנליטיים. הוא הגדיר תהליך בחירה של מחקרים רלוונטיים ומיזוגם, באופן שאמור למנוע הטיות שונות מצד מבצעי הפעולה. תוצאות המטא־אנליזה שביצע גלאס, יש לציין, תמכו בטענתו שפסיכואנליזה אפקטיבית, מה שזיכה אותו ואת השיטה שהציג בקיתונות של בוז מצד חסידי הזרם ההתנהגותי בפסיכולוגיה.

אולי בעקבות הביקורת הראשונית, חלפו כחמש עשרה שנה עד שהחל זרם מתגבר של מטא־אנליזות להגיע לכתבי העת המדעיים, וכיום מתפרסמות יותר מעשרת אלפים מהן בשנה, כשליש מהן, אגב, מסין. המטא־אנליסט ג'ון יואנידיס, האחראי לאחד המאמרים החשובים בתחום המטא־אנליזה ובכלל: "Why most research findings are false", מסביר את הפופולריות של מאמרים מסוג זה בכך שמחד אין הן דורשות משאבים כספיים, ומאידך הן "הימור בטוח" מבחינת הסיכוי להתפרסם בכתבי עת מובילים.

עם הגידול בכמות, החלה גם לגבור הביקורת על האיכות, ובעצם על השיטה כולה.

אחת הבעיות הקשות בפירסומים מדעיים באופן כללי, ובמטא־אנליזות במיוחד היא אפקט המגירה. במאמר שפורסם באפריל של השנה היוצאת, טוענים טום ג'פרסון ולארס יורגנסן שמסיבה זו לא ניתן להסתפק באיסוף תוצאות מחקרים שכן התפרסמו, ויש לאסוף מידע מכל המקורות האפשריים, כולל דיווחים שלא פורסמו, ואף כאלו שלא נשלחו כלל לפרסום, ועליהם להוסיף דוחות רגולטוריים שהוגשו לרשויות המדינה. הם מדגימים זאת בשאלה ספציפית במאמר נפרד.

גישה דומה לזו של ג'פרסון ויורגנסן נקט צוות חוקרים, שביקש לסיים אחת ולתמיד את הויכוח באשר לקשר האפשרי שבין משחקי וידאו אלימים להתנהגות אלימה באמצעות מטא־אנליזה, בעוד צוות אחר מבצע גם הוא מטא־אנליזה של אותה הסוגיה, אך בוחר בשיטה אחרת לגמרי. מאמר שהתפרסם לאחרונה בכתב העת "Science" מתאר זאת.

בעוד הצוות הראשון טורח להעשיר את אוסף הנתונים הידועים בנתונים מתוך מחקרים שלא פורסמו, או אף הופסקו באמצע, כמו גם בחלקים עלומים של עבודות דוקטורט, קיזז הצוות השני את החוסרים הנובעים מאפקט המגירה באמצעים מתמטיים על־ידי "איזון התפלגויות" הנתונים שכן פורסמו.

התוצאות היו שההעשרה שביצע הצוות הראשון איששה את הקורלציה המבוקשת, בעוד שהאנליזה שביצע הצוות השני העלימה אותה כמעט לגמרי. מי שהכריע היה גורם שלישי - הפסיכולוג ג'וזף הילגרד, שתוך שימוש בכלים סטטיסטיים חדשניים, הגיע למסקנה שהתוצאה של הצוות השני מהימנה, כלומר שאין קשר הדוק בין משחקי וידאו אלימים לבין התנהגות אלימה, בעוד שבזו של הראשון, שטרח להשיג מידע שלא פורסם, נתגלו כשלים מהותיים, מה שהוביל להסרת כמה מפרסומיו של מי שהוביל את המחקר.

דוגמא נוספת: בספרו "Doctoring Data: How to sort out medical advice from medical nonsense", שתוקף כמעט כל נדבך בממסד הרפואי, מתייחס ד"ר מלקולם קנדריק למטא־אנליזה שהשפיעה רבות על ההמלצות באשר למתן סטטינים. המטא־אנליזה שביצעו החוקרים נועדה להעריך את השפעתה של נטילת סטטינים על חולי סכרת מטיפוס 2. אלא שדווקא את שני המחקרים הגדולים היחידים שהתרכזו בקבוצת חולים זו, שאגב הגיעו למסקנות הפוכות מאלו של מחקרים לא ספציפיים, נמנעו המטא־אנליסטים מלכלול בטענה שתוצאות שני המחקרים הללו "אינן נראות מבטיחות".

גם אירגונים כמו Cochrane, שמנסה, בין השאר, לבחון ולערוך מטא־אנליזות ללא משוא פנים, נאלץ להתגמש – למשל, מאחר שלמומחים בהם הוא נעזר יש עמדה, ולא פעם גם מאמרים בתחום מומחיותם, הדבר משפיע על תהליך הבחירה שהם מבצעים.

האם יש בכלל טעם במטא־אנליזות? הרי במקרים רבים, במקום לערוך מטא־אנליזה הכוללת תהליך בחירה ששנוי במחלוקת של מחקרים שאף אחד מהם אינו מובהק או מהימן דיו, אפשר פשוט לבצע מחקר נוסף, מוקפד מבעבר, כדי לענות על השאלה העומדת על הפרק. כך למשל הופרכו מיתוסים "מבוססים" כדוגמת סינכרון המחזור החודשי אצל נשים.

הפילוסוף של המדע ג'ייקוב סטגנגה מסביר את האכזבה החלקית ממטא־אנליזות: "יש כאן פרדוקס; כאשר הראיות הן בבירור לכיוון מסויים, אין צורך במטא־אנליזה, וכאשר ישנן תוצאות לכאן ולכאן, מטא־אנליזה לא תסיים את הויכוח." גישה קונסטרוקטיבית לסוגיה הציגה הפסיכולוגית חנה רוטנשטיין: "נהגנו לערוך מטא־אנליזות באופן אובייקטיבי ככל הניתן. עכשיו אנחנו מנסים לעשות אותן שקופות ככל הניתן. כל מי שלא מסכים עם החלטות מסויימות יוכל לקבל החלטות מחדש ולראות כיצד הן משפיעות על התוצאות."
קישורים
מטא־אנליזות - ויקיפדיה
Why most research findings are false - מאמרו של איאונידיס
אפקט המגירה - ויקיפדיה
Redefining the ‘E’ in EBM - מאמרם של ג'פרסון ויורגנסן
The metawars - Science
Doctoring Data: How to sort out medical advice from medical nonsense - ספרו של מלקולם קנדריק
מטא־אנליזה על השפעת סטטינים על סוכרת 2 - The Lancet
Cochrane
הפרכת מיתוס סינכרון המחזור - כאן מסבירים
פרסום תגובה למאמר

פרסומים אחרונים במדור "מדע"


הצג את כל התגובות | הסתר את כל התגובות

מטא-אנליזות זה נושא מעניין 703358
אני בעצמי עורך מטא-אנליזות וקורא לא מעט מאמרים שמבוססים עליהן והתאור שניתן פה די מדויק. כמה הערות ותובנות: אחת הסיבות המרכזיות לקיומן של מטא-אנליזות הוא הצורך לסכם מחקרים עם עוצמה סטטיסטית נמוכה (כאלו שיש להם מספר נבדקים קטן). יכול להיות שבתחום מסוים יש הרבה מחקרים, אבל כל אחד מהם עם 20-30 נבדקים והתוצאות שלהן לא אמינות במיוחד. כשמבצעים מטא-אנליזה פתאום הרבה מחקרים שלא מצאו שום אפקט מובהק הופכים למובהקים כשהם מסוכמים ביחד.

מטא-אנליזות נהפכו לפופולאריות ב-‏20 השנה האחרונות בעיקר בגלל מחשבים. זה לא שמסובך לחשב אותן והנוסחאות די פשוטות בסך הכל, אבל בשביל לחשב מאגר נתונים גדול צריך הרבה עבודה, וזה בנוסף לעבודת הקידוד וחיפוש המחקרים.

יש כמה בעיות מרכזיות שאני מאתר בשיח על מטא-אנליזות ובביצוע שלהם. צריך להבין שלמרות שלא אוספים נתונים חדשים מטא-אנליזות כנראה יותר מסובכות ממחקרים רגילים. הסיבה היא שהחוקר צריך לקבל עשרות, אם לא מאות החלטות, בכל שלב של המחקר. החל מאלו משתנים בכלל לבדוק, אלו קריטריונים יהוו את החתך להכללת מחקרים, איך מתבצע החיפוש אחרי המחקרים וכלה בשיטת הניתוח עצמה. כל החלטה כזו יכולה לשנות מהותית את התוצאות. כמובן שחוקרים צריכים להצדיק כל החלטה אבל הרבה פעמים בחירות יכולות להיות שרירותיות ולהצביע על הטיות של החוקרים. גם כשמכלילים מחקר מסוים לא תמיד הנתונים שבו ברורים וצריך לקבל החלטות אלו נתונים הם קבילים. גם הרבה נתונים ממחקרים שלא פורסמו דורשים ניתוח נוסף. רוב האנשים שקוראים מטא-אנליזה מתרכזים בשורה התחתונה אבל הרבה יותר חשוב לבדוק את השלבים השונים של המחקר. מעטים מאוד קוראים את פרק השיטות והחישובים השונים כי זה גם דורש מומחיות וזמן שאין לכולם (מחקרי מטא-אנליזות נוטים להיות ארוכים מאוד). הבעייה היא שבניגוד למחקר קונבנציונלי שקל יחסית לשחזר, מטא-אנליזות מסובכות לשיחזור. לך תבצע עכשיו חיפוש על אלפי מאמרים ותוציא נתונים מכמה מאות מהם רק כדי לבדוק שהמחקר נעשה כהלכה.

עם זאת, חשוב לזכור שיש גם שיטות סטטיסטיות לבדוק כל מיני הטיות כמו אפקט המגירה, ואפשר לחשב למשל כמה מחקרים שלא פורסמו צריכים להתקיים כדי לבטל את האפקט שנמצא במטא-אנליזה. אם המספר הזה גדול אז סביר שהמטא-אנליזה טובה. שיטה אחרת שמקובלת לאחרונה בפסיכולוגיה היא פשוט לבצע מחקר זהה במעבדות רבות ולהריץ עליהם מטא-אנליזה. ככה לא צריך לחפש מחקרים ישנים, יש בקרה על המחקרים הקיימים ומדגמים גדולים ובלתי תלויים.

אבל אם יש דבר אחד שאני הייתי מתמקד בו זה הקריטריונים לבחירת מחקרים ומה נעשה כדי לחפש אותם. שם בעיקר נמצאות רוב ההטיות.
מטא-אנליזות זה נושא מעניין 703361
"לבצע מחקר זהה במעבדות רבות ולהריץ עליהם מטא-אנליזה" - לא הבנתי. אם אתה מבצע מחקר זהה, למה מטא אנליזה ולא אנליזה מסדר ראשון על הנתונים הראשוניים מכל המעבדות?
מטא-אנליזות זה נושא מעניין 703363
הסיבה היא שלמרות שמנסים להשתמש בדיוק באותו הפרוטוקל המדגמים לא זהים ולכן יש שונויות טבעיות וטעויות ייחודיות לכל מדגם. ניתוח ראשוני אפשרי אבל יהיה פחות אמין ומדויק ולכן מטא-אנליזה הכי מתאימה. הנה דוגמא מהעת האחרונה: https://journals.sagepub.com/doi/full/10.1177/2515245...
מטא-אנליזות זה נושא מעניין 703364
מעניין, תודה.
משבר המטא אנליזה 703386
נראה שמשבר הסאב פריים נבע מכך שגופי השקעות התייחסו לאגח מגובה משכנתאות כמטא אנליזה על הרבה משכנתאות עם סיכונים גבוהים מתוך הנחה שהסיכון של כל אגד הלוואות הוא בלתי תלוי באגדים האחרים.
משבר המטא אנליזה 703390
נראה לי שנייט סילבר היה מסכים איתך. בספרו "The signal and the noise" הוא מתאר את כשלון המודלים של האג"חים ההם באופן דומה.
משבר המטא אנליזה 703394
זה אכן חלק חשוב מהתמונה של המשבר ההוא. רמת הטמטום של ההנחה הזו, עבור מי שלא הסכים איתה באותה עת (והיו ממש בודדים כאלה), היתה עצומה.

חזרה לעמוד הראשי פרסום תגובה למאמר

מערכת האייל הקורא אינה אחראית לתוכן תגובות שנכתבו בידי קוראים