top of page
הרשמו לידיעון המקוון שלנו

קבלו עידכונים על מאמרים חדשים והתרחשויות אחרות

תודה על הרשמתך

השתתפו במסע אופן הזמן

Ofan Logo a.png

מסע רב חושי בנבכי הזמן, שבו המרבד העשיר של הציוויליזציות הקדומות מתעורר לחיים ושואב אותנו אל תוכו.  

האם ההומו ספיאנס עומד בפני הכחדה כשיוחלף ע"י מין אדם חדש?

עודכן: לפני 4 ימים

בשנת 1903, האחים רייט הציגו לעולם את הטיסה הממושכת הראשונה. תוך פחות משישים שנה, יורי גגארין הפך לאדם הראשון בחלל והקיף את כדור הארץ.


בשנת 1993, טים ברנרס-לי פרסם את קוד המקור של "הרשת הכלל עולמית" ("World Wide Web"). שלושים שנה מאוחר יותר, הכל, מהמקררים שלנו ועד השעונים שלנו, מחובר לרשת.


בשנת 1953, רוזלינד פרנקלין, ג'יימס ווטסון ופרנסיס קריק גילו את הסליל הכפול של ה-DNA. תוך חמישים שנה מיפינו את הגנום האנושי. עשרים שנה מאוחר יותר, אנו משתמשים בקריספר (CRISPR) כדי לערוך DNA.


ב-1992, גארי קספרוב צחק על כמה מביך יריבו המחשב בשחמט. תוך חמש שנים הוא הובס על ידי אחד.

לטכנולוגיה יש הרגל להתרחק מאיתנו. כאשר מתרחשת פריצת דרך או נפרץ סכר, צמיחה נפיצה ואקספוננציאלית מופיעה לעתים קרובות. ולפי העתידן ריי קורצווייל, אנחנו במרחק רגע היסטורי בלבד מ"סינגולריות".


רוב האנשים מכירים את מבול אפליקציות הבינה המלאכותית שנראה שנועדו להפוך אותנו ליעילים ויצירתיים יותר. יש לנו אפליקציות שלוקחות פורמפט טקסט ומייצרות תמונה או מוזיקה, ואת ChatGPT, שמעלה שאלות רציניות לגבי מקוריות, מידע מוטעה וגניבת דעת. למרות החששות הללו, בינה מלאכותית הופכת להיות יותר ויותר חודרנית וטורדנית. זו הטכנולוגיה העדכנית ביותר שתשנה את חיינו באופן בלתי הפיך.


האינטרנט והסמארטפונים היו דוגמאות נוספות. אבל בניגוד לטכנולוגיות הללו, פילוסופים ומדענים רבים חושבים שבינה מלאכותית יכולה יום אחד להגיע לחשיבה בסגנון אנושי (או אפילו מעבר). אפשרות זו, יחד עם התלות הגוברת שלנו בבינה מלאכותית, עומדת בבסיסו של מושג שנקרא "סינגולריות טכנולוגית".


המונח הזה קיים כבר זמן מה, לאחר שזכה לפופולריות באמצעות סופר המדע הבדיוני האמריקאי ורנור וינג'י לפני כמה עשורים. כיום, ה"סינגולריות" מתייחסת לנקודת זמן היפותטית שבה התפתחות בינה מלאכותית חזקה (AGI) – כלומר בינה מלאכותית עם יכולות אשר שוות לבינתו של אדם, או אף עולות עליה – הופכת כל כך מתקדמת שהיא תשנה באופן בלתי הפיך את הציוויליזציה האנושית.


זה יסמן את שחר אי הנפרדות שלנו ממכונות. מאותו רגע, לא נוכל לחיות בלעדיהן מבלי להפסיק לתפקד כבני אדם. אבל אם תגיע הסינגולריות, האם בכלל נבחין בה?


הסינגולריות, עבור קורצווייל, מוגדרת כ"תקופה עתידית שבמהלכה קצב השינוי הטכנולוגי יהיה כה מהיר, השפעתו כה עמוקה, עד שחיי אדם ישתנו באופן בלתי הפיך". הרעיון הוא שגילוי והתקדמות "יתפוצצו בזעם בלתי צפוי". לעתים קרובות אנו לא מצליחים להעריך מה בעצם המשמעות של "צמיחה אקספוננציאלית" ובאיזו מהירות היא מביאה לשינוי. לדוגמה, אם היינו מכפילים את כוח העיבוד של מחשב מדי שנה, תוך שבע מה"הכפלות" הללו, כוח המחשבים שלנו היה גדל פי 128.


יש היום יותר ממציאים ומדענים, ויש להם שיטות וכלים יעילים יותר. המסקנה שקורצווייל מסיק היא שהקדמה הטכנולוגית "כעת מכפילה את עצמה בכל עשור" (אם כי הוא לא מצליח לצטט מקור לכך). לדבריו, אנחנו נמצאים רק כמה עשורים מהנקודה שבה דברים באמת ממריאים - כשאנחנו נכנס לעולם חדש, פתאומי ועוצר נשימה ושונה לחלוטין.


עבור חלק, הסינגולריות הזו תהיה אוטופיה. עבור אחרים, זה יהיה סיוט בסגנון 'שליחות קטלנית'. קורצווייל הוא ללא ספק מהראשונים. קורצווייל רואה את החולשה בשבריריות האנושית שלנו, או במה שהוא מכנה "גופים ביולוגיים 1.0" (“1.0 biological bodies”). כן, יש לנו את רמברנדט, ניוטון וסן-סנס, אבל זה גם נכון ש"הרבה מחשבה אנושית היא מועתקת, קטנונית ומוגבלת". וזו הסיבה שהסינגולריות לא יכולה להגיע מהר מספיק. הגיע הזמן לנטוש את שקי הבשר המגושמים האלה של ברבריות אלימה.


קורצווייל רואה את היקום במונחים של שישה "עידנים" גדולים. הם מתחילים בפיזיקה ובכימיה היוצרים את היקום. לאחר מכן, תרכובות המבוססות על פחמן נעשו יותר ויותר מורכבות, עד שהופיעו חיים. בסופו של דבר, האינטליגנציה התפתחה, כמו גם המוח האנושי, שאיפשרו לנו ליצור טכנולוגיה גדולה יותר ויותר.


וכך, אנו מגיעים לרגע העידן "שלנו". הקפיצה הגדולה הבאה ליקום תהיה כאשר בני האדם והטכנולוגיה יתמזגו. זה לא אומר להשתמש במפות גוגל כדי למצוא את הדרך הביתה; זה אומר שעצם הביולוגיה שלנו תתמזג בטכנולוגיה שאנו יוצרים. זה עידן הביוניקה. ככאלה, המכונות שאנו מייצרים יאפשרו לנו "להתעלות מעל למגבלות המוח האנושי של מאה טריליון חיבורים איטיים ביותר" ולהתגבר על "בעיות אנושיות עתיקות יומין ולהגביר לאין ערוך את היצירתיות". זו תהיה אנושות טרנסצנדנטית, בשלב הבא, עם סיליקון במוח שלנו וטיטניום בגופנו. אם זה אומר אליטה מרושעת, דמוית אלוהים, המשעבדת את כולנו או איזו אידיליה מאד נעימה, קורצווייל אינו בטוח (באופן לא אופייני).

עד כמה כל זה סביר? הרעיון הראשון לאתגר הוא עד כמה סביר שהטכנולוגיה תתקדם בצורה שתוביל לבינה מלאכותית חזקה או לשיפורים ביונים מתוחכמים במוחנו שלנו. רוב ההערכות של קורצווייל (כמו גם אלה של עתידנים אחרים כמו אליעזר יודקובסקי) בנויות על פיתוחי חומרה קודמים וקיימים. אבל, כפי שטוען הפילוסוף דיוויד צ'אלמרס, "צוואר הבקבוק הגדול ביותר בדרך ל-AI הוא תוכנה, לא חומרה". קיום מוח, או אינטליגנציה אנושית חזקה, כרוך בכל מיני שאלות נוירו-מדעיות ופילוסופיות מסובכות (ובלתי ידועות), כך ש"אקסטרפולציה של חומרה היא לא מנחה טוב כאן". להיות בעל תודעה הוא סוג של צעד אחר לגמרי; זה לא כמו הכפלת נפח זיכרון של דיסק און קי.


שנית, אין סיבה הכרחית שתהיה צמיחה אקספוננציאלית מהסוג שבו נתלים עתידנים. ההתקדמות הטכנולוגית בעבר אינה מבטיחה התקדמות דומה בעתיד. יש גם חוק "תפוקה שולית פוחתת". יכול להיות שלמרות שיש לנו יותר אינטיליגנציה קולקטיבית שעובדת בצורה יעילה יותר, אנחנו עדיין מרוויחים מזה פחות. אפל, כיום, היא החברה העשירה בעולם עם המוחות הטובים ביותר במדעי המחשב שעובדים עבורה. עם זאת, רואים בבירור שמכשירי ה-iDevices העדכניים ביותר פחות מרגשים או חדשניים מהקודמים שלהם.


קורצווייל ותומכיו עשויים להשיב שעולם של "אינטיליגנציה משופרת" - שבו אנו עשויים לראות עלייה של 20% באינטליגנציה - הוא בוודאי מחוץ לתחום "תפוקה שולית פוחתת". כפי שצ'אלמרס מציין, "גם בקרב בני אדם, נראה כי הבדלים קטנים יחסית ביכולות התכנון (נניח, ההבדל בין טיורינג לאדם ממוצע) מובילים להבדלים גדולים במערכות המתוכננות". אולי יש מכסה או תפוקה שולית פוחתת למה שהאינטליגנציה האנושית הקיימת יכולה להשיג, אבל מה לגבי מתי נוכל לשפר זאת?


התנגדות שלישית היא שיש הרבה מכשולים של מצבים או אירועים שניתן להעלות על הדעת שיפריעו לסינגולריות. יכול להיות שתהיה מלחמה עולמית איומה והרסנית. או מגיפה אחרת שעלולה לחסל את רובנו. אולי הננוטכנולוגיה הופכת את המוח שלנו לעיסה. אולי AI יחולל אסונות איומים על העולם. או שאולי פשוט יגמרו לנו המשאבים הנדרשים כדי לבנות ולפתח טכנולוגיה. לכל אחד מאלה עשוי להיות סיכוי זעיר, אך כשמקבצים את האפשרויות למבוי סתום וכישלונות אפשריים, אפשר לשאול עד כמה הסינגולריות באמת ידועה מראש.


ועכשיו אחרי שהבנו למה לא בטוח שאנחנו בדרך לסינגולריות, אז בואו נבין למה אנחנו לגמרי בדרך וזה נראה בלתי נמנע. כדי להבין מדוע זה לא סיפור מהאגדות, אנחנו רק צריכים רק להסתכל עד להתפתחויות האחרונות בממשקי מוח-מחשב (BCI). ממשקי מוח-מחשב הם התחלה טבעית לסינגולריות בעיני עתידנים רבים, מכיוון שהם ממזגים מוח ומכונה באופן שאף טכנולוגיה אחרת לא הצליחה עד כה.


חברת ניוראלינק (Neuralink) של אילון מאסק קיבלה בשנת 2023 אישור ממינהל המזון והתרופות האמריקני (FDA) להתחיל בניסויים בבני אדם עבור טכנולוגיית ממשקי מוח-מחשב שלה. זה יכלול השתלת מחברים עצביים במוחם של מתנדבים כדי שיוכלו לתקשר הוראות על ידי חשיבה עליהם. ב-30 בינואר 2024 הכריז אילון מאסק כי שבב מוחי של ניוראלינק הושתל לראשונה בבן אדם, לפי דבריו השבב יאפשר לשלוט בטלפון, במחשב או בכל מכשיר אחר - באמצעות המחשבה בלבד.

ניוראלינק מקווה לעזור לאנשים משותקים ללכת ולעיוורים לראות שוב. אבל מעבר למטרות האלה יש שאיפות אחרות. מאסק אמר כבר לפני זמן רב שהוא מאמין כי שתלי מוח יאפשרו תקשורת טלפתית, ויובילו לאבולוציה משותפת של בני אדם ומכונות. הוא טוען שאם לא נשתמש בטכנולוגיה כזו כדי להגביר את האינטלקט שלנו, אנו מסתכנים בהימחקות על ידי AI סופר אינטליגנטי.


מובן שמאסק אינו הבחירה של כולם למומחיות טכנית. אבל הוא לא לבד בחיזוי צמיחה מסיבית ביכולות הבינה המלאכותית. סקרים מראים כי חוקרי בינה מלאכותית מסכימים באופן גורף כי בינה מלאכותית תשיג "חשיבה" ברמת אדם במאה הזו. מה שהם לא מסכימים לגביו זה האם זה מצביע על תודעה או לא, או שמא זה בהכרח אומר שבינה מלאכותית תגרום לנו נזק ברגע שהיא תגיע לרמה הזו.


חברת טכנולוגית ממשקי מוח-מחשב בשם סינכרון (Synchron), יצרה שתל פולשני זעיר שמאפשר לחולה עם טרשת אמיוטרופית צידית (ALS) לשלוח מיילים ולגלוש באינטרנט באמצעות מחשבותיו. מנכ"ל סינכרון, טום אוקסלי (Thomas Oxley), מאמין ששתלי מוח יכולים בסופו של דבר ללכת מעבר לשיקום של תותבות ולשנות לחלוטין את האופן שבו בני אדם מתקשרים. בשיחה עם קהל ב- TED, הוא אמר שהם עשויים יום אחד לאפשר למשתמשים "לזרוק" את הרגשות שלהם כדי שאחרים יוכלו להרגיש את מה שהם מרגישים, ו"אז הפוטנציאל המלא של המוח ייפתח".


ניתן לטעון כי הישגים מוקדמים בממשקי מוח-מחשב יכולים להיחשב לשלבים הראשונים של הסינגולריות המשוערת, שבה האדם והמכונה הופכים לאחד. זה לא חייב לרמוז שמכונות יהפכו ל"חושיות" או ישלטו בנו. אבל האינטגרציה עצמה, ובעקבותיה התלות שלנו בה, יכולים לשנות אותנו באופן בלתי הפיך. ראוי גם להזכיר שמימון הסטארט-אפ של סינכרון הגיע בחלקו מהסוכנות הצבאית לפרויקטים מחקריים מתקדמים (DARPA), זרוע המחקר והפיתוח של משרד ההגנה האמריקני שסייע לעולם במתנת האינטרנט. זה כנראה חכם להיות מודאג מהיכן DARPA שמה את כספי ההשקעה שלה.


לדברי קורצווייל, בני אדם עם מוחות משופרי בינה מלאכותית עלולים להיזרק אל האוטובאן של האבולוציה - לזנק קדימה ללא הגבלת מהירות. בספרו מ-2012 How to Create a Mind, קורצווייל מתאר את קליפת המוח - החלק במוח שנחשב כאחראי ל"תפקודים גבוהים יותר" כגון תפיסה חושית, רגש וקוגניציה - הוא מערכת היררכית של מזהי תבניות אשר, אם מכונה תחקה אותה, עלולה להוביל לבינת-על מלאכותית.


הוא צופה שהסינגולריות תהיה איתנו עד 2045, וחושב שהיא עשויה להביא לעולם של בני אדם סופר-אינטליגנטים, אולי אפילו ה"על-אדם" הניטשאי: מישהו שמתקדם מעבר לכל האילוצים הארציים כדי לממש את מלוא הפוטנציאל.

אבל לא כולם רואים בבינה מלאכותית חזקה (AGI) דבר טוב. הפיזיקאי התיאורטי המנוח, סטיבן הוקינג, הזהיר כי בינה מלאכותית סופר אינטליגנטית עלולה לגרום לאפוקליפסה. בשנת 2014, אמר הוקינג ל-BBC:

הפיתוח של בינה מלאכותית חזקה יכול להוות את סופו של המין האנושי. […] זה ימריא מעצמו ויעצב את עצמו מחדש בקצב הולך וגובר. בני אדם, המוגבלים על ידי אבולוציה ביולוגית איטית, לא יכלו להתחרות, והם יוחלפו.

עם זאת, הוקינג היה תומך של ממשקי מוח-מחשב.


רעיון נוסף המתייחס לסינגולריות הוא זה של "מוח כוורת" התומך בבינה מלאכותית. מילון וובסטר מגדיר מוח כוורת כך:

הפעילות המנטלית הקולקטיבית המתבטאת בהתנהגות מורכבת ומתואמת של מושבה של חרקים חברתיים (כגון דבורים או נמלים) הנחשבת כדומה למוח יחיד השולט בהתנהגותו של אורגניזם אינדיבידואלי.

תיאוריה פותחה על ידי מדען המוח ג'וליו טונוני (Giulio Tononi) סביב תופעה זו, הנקראת תאוריית המידע המשולב Integrated Information Theory (IIT). היא מצביעה על כך שכולנו הולכים לקראת מיזוג של כל המוחות וכל הנתונים.


הפילוסוף פיליפ גוף (Philip Goff) עושה עבודה טובה בהסבר ההשלכות של הרעיון של טונוני בספרו "שגיאת גלילאו" ("Galileo’s Error"):

תאוריית המידע המשולב (IIT) צופה שאם צמיחת הקישוריות מבוססת האינטרנט תביא אי פעם לכך שכמות המידע המשולב בחברה תעלה על כמות המידע המשולב במוח אנושי, אז לא רק שהחברה תהפוך למודעת אלא שהמוח האנושי 'ייספג' לתוך אותה צורת תודעה גבוהה יותר. מוחות יפסיקו להיות מודעים בפני עצמם ובמקום זאת יהפכו לגלגלי שיניים בלבד בישות המגה-מודעת שהיא החברה כולל הקישוריות מבוססת האינטרנט שלה.

ראוי לציין שיש מעט עדויות שדבר כזה יכול להתממש. אבל התיאוריה מעלה רעיונות חשובים לא רק על ההאצה המהירה של הטכנולוגיה (שלא לדבר על האופן שבו מחשוב קוונטי עשוי להניע זאת) - אלא על טבעה של התודעה עצמה. באופן היפותטי, אם יופיע מוח כוורת, אפשר לדמיין שזה יסמן את קץ האינדיבידואליות והמוסדות הנשענים עליה, כולל הדמוקרטיה.

חברת OpenAI (החברה שפיתחה את ChatGPT) פרסמה פוסט בבלוג המאשר את מחויבותה להשגת בינה מלאכותית חזקה. אחרים ללא ספק ילכו בעקבותיה. חיינו הופכים מונעים אלגוריתמית בדרכים שלעתים קרובות איננו יכולים להבחין בהן, ולכן איננו יכולים להימנע. מאפיינים רבים של סינגולריות טכנולוגית מבטיחים שיפורים מדהימים לחיינו, אך החשש הוא שהבינות המלאכותיות הללו הן תוצרי התעשייה הפרטית.


הן כמעט לא מפוקחות, ובמידה רבה בגחמותיהם של "טכנופרנורים" ("Technopreneurs") אימפולסיביים עם יותר כסף מאשר לכולנו ביחד. לא משנה אם אנו מחשיבים אותם למשוגעים, נאיבים או בעלי חזון, יש לנו זכות לדעת את התוכניות שלהם (ולהיות מסוגלים להדוף אותן). אם העשורים האחרונים הם משהו שאפשר ללמוד ממנו באשר לטכנולוגיות חדשות, כולנו נושפע.


איך אתם מתייחסים לסינגולריות יהיה תלוי במידה רבה בהטיות הקיימות שלכם - ואולי כמה מדע בדיוני קראתם. זה בהחלט נכון לומר שהטכנולוגיה במאה האחרונה צמחה בקצב הרבה מעבר לזה של מאות ואלפי השנים האחרונות. העולם של שנות ה-20 של המאה ה-21 לא ניתן לזיהוי בהשוואה לזה של שנות ה-20 של המאה ה-20. הסבים-רבא שלנו היו מסתכלים על העולם היום כפי שהיו מסתכלים על רומן של הרברט ג'ורג' ולס.


ויש עוד שאלה מאד מסקרנת, שתשובה עליה כנראה שלא נקבל במהלך חיינו - האם מין ההומו ספיינס מודרני אנטומית (Anatomically Modern Homo Sapiens (AMH, עומד לפני הכחדה? כאשר יוחלף ע"י מין אדם חדש, אולי מין שיקרא (Anatomically Artificial Intelligence Modern Homo Sapiens (AaiMH ?

מקורות:

95 צפיות0 תגובות

Comments


בקרו בחנות שלנו

הגמל המעופף מביא לכם פריטים יוצאי דופן ומותרות של ימי קדם אל מפתן דלתכם, כמו גם כלים ועזרים למסעות מחקר והרפתקה.

Site banner copy_edited.png
bottom of page