כיצד מדע בדיוני הפך לכלי המחקרי החדש של המדע

מה משותף ל"דו"ח מיוחד", "מראה שחורה" ו"היא"? כולם לא רק בידור, אלא כלים במעבדה חדשנית. חוקרים מובילים מציגים שיטה חדשה ומהפכנית: שימוש במדע בדיוני כדי לחקור את ההשלכות האנושיות של טכנולוגיות כמו בינה מלאכותית וזיהוי פנים.

במשך עשרות שנים, סופרי מדע בדיוני שימשו כנביאי הזעם והאופטימיות של העידן הטכנולוגי. הם חזו עולמות שבהם מכוניות מעופפות, רובוטים חושבים ובינה מלאכותית מנהלים את חיינו. לרוב, התייחסנו לסיפורים אלה כאל בידור אינטליגנטי, אזהרות ספקולטיביות או בריחה מהמציאות. אך מה אם סיפורים אלה אינם רק פנטזיה, אלא כלי מחקר רב עוצמה? מה אם בניית עולם בדיוני היא הדרך הטובה ביותר להבין את ההשלכות האמיתיות - האנושיות, החברתיות והאתיות - של הטכנולוגיות שאנו מפתחים ברגעים אלה ממש?

זוהי בדיוק ההצעה המהפכנית של צוות החוקרים איאד רחואן (Iyad Rahwan), עזים שריף (Azim Shariff) וז'אן-פרנסואה בונפון (Jean-Franc Bonnefon). במחקר חדש הם מציגים מתודולוגיה סדורה המכונה "השיטה המדעית של המדע הבדיוני" (The Science Fiction Science Method), ומציעים למדענים, למפתחים ולקובעי מדיניות דרך חדשה לחשוב על העתיד: לא רק לשאול "מה הטכנולוגיה יכולה לעשות?", אלא "מה היא תעשה לנו?".

שלושת החוקרים אינם זרים לעיסוק בצומת שבין טכנולוגיה, פסיכולוגיה ומוסר. הם הצוות שעומד מאחורי "ניסוי מכונת המוסר" (Moral Machine), אחד הניסויים החברתיים הגדולים והמפורסמים ביותר בהיסטוריה. בניסוי זה, מיליוני אנשים מרחבי העולם התבקשו להכריע בסדרה של "בעיות קרונית" היפותטיות עבור מכוניות אוטונומיות - את מי על המכונית להרוג במקרה של תאונה בלתי נמנעת? הניסוי לא רק מיפה לראשונה את ההעדפות האתיות הגלובליות בנוגע לבינה מלאכותית, אלא גם הדגים עיקרון חשוב: כדי לדון בהשלכות של טכנולוגיה עתידית, צריך להציב אנשים בתוך סיטואציה קונקרטית, גם אם היא בדיונית. כעת, במחקרם החדש, הם לוקחים את העיקרון הזה צעד אחד קדימה ומנסחים אותו כשיטת מחקר מקיפה. "השיטה המדעית של המדע הבדיוני", הם טוענים, היא הכרחית בעולם שבו קצב ההתפתחות הטכנולוגית עוקף באופן דרמטי את קצב ההתפתחות של הרגולציה והדיון האתי.

השיטה שהם מציעים מורכבת משלושה שלבים מרכזיים. השלב הראשון הוא זיהוי הפרדיגמה. בשלב זה, החוקרים מנתחים יצירות מדע בדיוני קיימות - ספרים, סרטים וסדרות - כדי לזהות את "הדילמות הגדולות" או "הפרדיגמות המוסריות" שטכנולוגיה מסוימת מעלה. לדוגמה, הסרט "דו"ח מיוחד" (Minority Report) אינו רק סיפור על חיזוי פשעים; הוא מציג פרדיגמה שלמה על המתח בין ביטחון לחופש הפרט, ועל הסכנות שבענישה על כוונות ולא על מעשים. הסרט "היא" (Her) אינו רק רומן בין אדם למערכת הפעלה; הוא בוחן את הפרדיגמה של אינטימיות מלאכותית, ושואל מה קורה להגדרות שלנו של אהבה ומערכות יחסים בעולם שבו בינה מלאכותית יכולה לספק קשר רגשי. על ידי מיפוי שיטתי של תרחישים אלה, מדענים יכולים לקבל "ספרייה של עתידים אפשריים" ולזהות את נקודות הכשל האתיות הפוטנציאליות של טכנולוגיות כמו זיהוי פנים, הנדסה גנטית או בינה מלאכותית יוצרת.

השלב השני הוא כימות האינטואיציות. כאן, החוקרים לוקחים את הדילמות המופשטות מהסיפורים והופכים אותן לניסויים אמפיריים שניתן למדוד. "ניסוי מכונת המוסר" הוא הדוגמה המושלמת לכך. הוא לקח רעיון קלאסי מפילוסופיה ומדע בדיוני (מכונה שמקבלת החלטה של חיים ומוות) ו"כימת" אותו לסדרה של בחירות מדידות, שאפשרו ניתוח סטטיסטי של העדפות מוסריות. באופן דומה, ניתן לבנות ניסויים שבודקים את תגובותיהם של אנשים לתרחישים הלקוחים ישירות מ"מראה שחורה" (Black Mirror). למשל, כיצד אנשים ישפטו מערכת דירוג חברתי כמו זו שהוצגה בפרק "Nosedive"? באילו תנאים הם יסכימו להשתמש בטכנולוגיית זיכרון המאפשרת להם לצפות מחדש בכל רגע בחייהם, כמו בפרק "The Entire History of You"? ניסויים כאלה מאפשרים למדענים לעבור מדיון פילוסופי מופשט למדידה כמותית של פסיכולוגיה מוסרית, ולחשוף את האינטואיציות, הפחדים וההטיות של הציבור כלפי טכנולוגיות חדשות.

השלב השלישי והאחרון הוא בחינת הפתרונות הרגולטוריים. לאחר שזוהו הבעיות וכומתו התגובות האנושיות, השלב האחרון הוא להשתמש בתובנות אלה כדי לדמות ולהעריך פתרונות רגולטוריים שונים. למשל, לאחר שהבנו מ"מכונת המוסר" כיצד תרבויות שונות מתעדפות משתנים שונים (למשל, צעירים מול מבוגרים, הולכי רגל מול נוסעים), ניתן לבחון איזה סוג של רגולציה על מכוניות אוטונומיות יזכה לאמון הציבור הרחב. האם הציבור יעדיף כללים שנקבעו על ידי הממשלה, על ידי היצרנים, או אולי הגדרות אישיות שכל בעל רכב יוכל לקבוע בעצמו? באמצעות הצגת תרחישים רגולטוריים שונים לנבדקים, ניתן לבדוק איזו גישה נתפסת כהוגנת, יעילה ורצויה ביותר. שלב זה הופך את "השיטה המדעית של המדע הבדיוני" מכלי דיאגנוסטי לכלי פרואקטיבי - דרך לעצב מדיניות וחוקים שאינם רק מגיבים לבעיות לאחר שהן צצות, אלא מנסים למנוע אותן מראש.

היופי בשיטה של רחואן ועמיתיו הוא שהיא מכירה במגבלות החשיבה האנושית. קשה לנו לדמיין באופן שיטתי את ההשלכות המורכבות והבלתי צפויות של טכנולוגיה חדשה. מדע בדיוני, במיטבו, עושה בדיוק את זה. הוא אינו מתמקד רק בהמצאה עצמה, אלא במערכת האקולוגית האנושית שצומחת סביבה. הוא מספר לנו על מקומות העבודה שנעלמים, על מערכות היחסים שמשתנות, על הפערים החברתיים שנוצרים ועל הדילמות החדשות שצצות. כפי שהחוקרים מציינים, ועדות אתיקה מסורתיות, המורכבות לרוב ממומחים שדנים בעקרונות מופשטים, עלולות לפספס את ה"חיכוך" של הטכנולוגיה עם החיים האמיתיים. מדע בדיוני, לעומת זאת, זורק אותנו ישירות לתוך עולם שבו הטכנולוגיה הזו היא עובדה קיימת, ומאלץ אותנו להתמודד עם המציאות המבולגנת שהיא יוצרת. עם זאת, לצד החדשנות והפוטנציאל הגלום בשיטה, חשוב להכיר גם במגבלות ובביקורות האפשריות כלפיה. אחת הביקורות המרכזיות נוגעת להטיית הבחירה. רוב יצירות המדע הבדיוני, ובמיוחד אלו הזוכות לפופולריות, הן דיסטופיות מטבען. האם התמקדות בסיפורי אזהרה אפלים לא תוביל מראש להטיה שלילית וחרדתית כלפי כל טכנולוגיה חדשה? יתרה מכך, מי בוחר אילו יצירות לנתח? הבחירה עצמה עלולה לשקף את הטיות החוקרים יותר מאשר את מכלול האתגרים האפשריים. ביקורת נוספת נוגעת לכוח הניבוי המוגבל של הז'אנר. מדע בדיוני, לעיתים קרובות, משקף את הפחדים והתקוות של התקופה שבה נכתב יותר משהוא חוזה במדויק את העתיד. ייתכן שההשלכות הבעייתיות והמשמעותיות ביותר של טכנולוגיה מסוימת יהיו דווקא אלו שאיש, גם לא סופרי המדע הבדיוני המבריקים ביותר, לא הצליח לדמיין. הכרה במגבלות אלו אינה שוללת את חשיבות השיטה, אך היא מדגישה את הצורך להשתמש בה ככלי אחד מני רבים בארגז הכלים המחקרי, ולא כנבואה שיש לקבלה ללא עוררין.

השיטה הזו אינה קוראת למדענים להפוך לסופרים, אלא לאמץ את החשיבה הנרטיבית והמערכתית של המדע הבדיוני כחלק מתהליך המחקר והפיתוח. היא קוראת ליצירת שיתופי פעולה בין מהנדסים, מדעני חברה, אתיקאים, ואפילו סופרים ותסריטאים. בעולם שבו חברות טכנולוגיה ממהרות להשיק מוצרים מהפכניים מבלי לחשוב עד הסוף על השלכותיהם - מרשתות חברתיות שמשפיעות על הדמוקרטיה ועד לבינה מלאכותית שמאיימת על שוק העבודה - "השיטה המדעית של המדע הבדיוני" מציעה מפת דרכים חיונית. היא מציעה לנו דרך לדמיין את העתיד לא כדי לברוח ממנו, אלא כדי שנוכל לבנות אותו בצורה אחראית, מודעת ואנושית יותר. במקום לחכות שהעתיד יפתיע אותנו, השיטה הזו מזמינה אותנו לכתוב אותו בעצמנו, ולבחון את כל הטיוטות האפשריות לפני שאחת מהן הופכת למציאות של כולנו.

המחקר:

The Science Fiction Science Method