top of page
הרשמו לידיעון המקוון שלנו

קבלו עידכונים על מאמרים חדשים והתרחשויות אחרות

תודה על הרשמתך

השתתפו במסע אופן הזמן

Ofan Logo a.png

מסע רב חושי בנבכי הזמן, שבו המרבד העשיר של הציוויליזציות הקדומות מתעורר לחיים ושואב אותנו אל תוכו.  

שלושת חוקי הרובוטיקה של אייזק אסימוב - וחוק אחד מכריע שהוא החסיר

מקור: bigthink


מי שידע כוח כל חייו ישנא את הרעיון של לאבד אותו. אם נולדתם לתוך פריבילגיה, עם הון בצד שלכם, אתה תזעמו נגד הרעיון שהוא עלול להילקח מכם. אם אמרו לכם שאתם הכי מבריקים, הכי חזקים והכי טובים מאז שאתם זוכרים את עצמכם, יכאב לכם לגלות שאתם מתחת לממוצע. אף אחד מאיתנו לא אוהב להיות מושפל. אף אדם לא רוצה להרגיש נחות. כולנו, ביחד, גדלנו עם הידיעה שאנחנו הטורף העליון. כולם מאמינים באופן אינסטינקטיבי כי הומו סאפיינס, עם האינטליגנציה העצומה והכישרון המדהים שלנו להמצאות, הגיע ביושר ובצדק לשלוט בעולם. אנחנו המלך והבוס - הדבר הטוב ביותר שהאבולוציה יכלה ליצור אי פעם. משתחווים בפני המוצרטים והאיינשטיינים שלנו!

Image by Alexandra_Koch

זו הסיבה שאנשים רבים מוצאים בינה מלאכותית (AI) כל כך מפחידה. פתאום, מוצגת לנו האפשרות שאנחנו כבר לא הטובים והמבריקים ביותר. במהירות הבזק במאה ה-21, עברנו משיאה של כל חוכמה ויצירתיות לקופים מגושמים שמגששים בעזרת כלים מיושנים. הרעיון הזה הוא שמהווה את הבסיס לאחד מסיפוריו הטובים ביותר של אייזק אסימוב: "ותחשבהו". (“That Thou Art Mindful of Him") יש פתגם ידוע שאומר, "קודם הם מתעלמים ממך, אחר כך הם צוחקים עליך, אחר כך הם נלחמים בך, ואז אתה מנצח." זה נאמר על רעיונות ותנועות מהפכניות, וזה משהו שנכון גם לאופן שבו אנו רואים בינה מלאכותית. יש לנו מחשבים כבר זמן רב. רוב האנשים שקוראים את הפוסט גדלו איתם. הם היו מנגינת הרקע בכל מקום בחיי היומיום שלנו במשך חצי מאה. אנחנו עובדים על מחשבים ניידים ואנחנו נושאים סמארטפונים; אנו משתמשים במחשבונים, בגיליונות אלקטרוניים ובבנקאות באינטרנט; אנחנו מדברים עם עוזרים קוליים ונותנים לאפליקציות להוביל אותנו בדרך המהירה ביותר הביתה. כל אלה מקובלים. הם מועילים ויעילים, באופן שכלל אינו מאיים. ברור, אנחנו לא יכולים לחשב חישובים כמו שהמחשבון שלנו יכול, אבל המחשבון שלנו לא יכול לנהל שיחה. כן, אנחנו לא יכולים לדעת אם יש תנועה בכביש המהיר, אבל ה-GPS שלנו לא יכול ליצור יצירת אמנות. המצאות טכנולוגיות הן בסדר כל עוד הן אינן מהוות איום קיומי על חיינו. הן בסדר כגימיקים או כבידור, או אם הן מפגינות אינטליגנציה מבודדת וצרה, כי החיים יכולים להימשך, לרוב, כרגיל. אנחנו יכולים להתעלם מהן או לצחוק מאיך שסירי לא מבינה את המבטא שלנו. עם זאת, אנחנו על סף שינוי עצום. כמעט בן לילה, הבינה המלאכותית פרצה בפרץ גדול ומטלטל. היא יוצרת אמנות וספרים, מוזיקה וסרטים. היא מקיימת שיחות ומזהה פרצופים. בינה מלאכותית, בקיצור, עושה את כל הדברים שאנחנו חושבים שאנחנו הכי טובים בהם. במקרים מסוימים, היא למעשה עושה את זה טוב יותר. תוך מספר חודשים, בני האדם עברו ממרכז היקום למשהו שמזכיר מאד גרסת בטא. את הרעיון הזה חקר אסימוב בסיפורו הקצר, "ותחשבהו". בעולם שלו, בני האדם מפוחדים וחשדנים כלפי כל הרובוטים והבינה המלאכותית. הם משדלים ממשלות ותאגידים כדי שלעולם לא ייצרו שום דבר בעל עוצמה רבה או משנת חיים. וכך, אחד מהתאגידים הללו מתחכם. הוא גורם לשניים מהבינות המלאכותית המרשימות ביותר שלו ליצור תוכנית גאונית כדי לגרום לבני אדם לבטוח בהן: הציגו רובוטים שאינם מהווים איום כלל, אך הם שימושיים. הביאו בינה מלאכותית לעולם האנושי בצורה חיונית, אך לכאורה בלתי מזיקה. בקשו מאנשים להתחבר למכונה. עם הזמן, ניתן יהיה להציג רובוטים מתוחכמים יותר ואינטליגנציות כלליות יותר - הכל בתנאי שהם נמצאים בפיקוח אנושי מוחלט. זה לא שבני אדם דואגים כל כך להיות שניים, אלא מזה שהם לא בשליטה. זו לא הנחיתות שחשובה, אלא חוסר האונים. כל ספריו של אסימוב נוטים להסתובב סביב "שלושת חוקי הרובוטיקה" שלו. החוקים, בעצם, הם מנגנונים לשמור על בני אדם בשליטה על דברים. הם אומרים שרובוטים חייבים תמיד לציית ולעולם לא לפגוע בבן אדם. במלואם, הם:

  1. לא יפגע רובוט לרעה בבן אדם; ולא יניח, במחדל, שאדם ייפגע.

  2. רובוט חייב לציית לפקודותיו של אדם, ובלבד שפקודות אלו אינן עומדות בסתירה לחוק הראשון.

  3. רובוט חייב להגן על קיומו, ובלבד שהגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני.

Creator: v i p e z

הסיפורים של אסימוב עובדים בצורה מבריקה כמדע בדיוני, אבל גם כדי להראות לנו כמה קשה עד בלתי אפשרי, אפילו, ליצור חוקים חסרי בעיות לשליטה על כל אינטליגנציה. תמיד תהיה פרצה או חריגה. כל החוקים צריכים מרחב פעולה וגמישות, אחרת הם ישברו (או ישברו את אלה שהם מנסים להגן עליהם). כפי שנאמר במאמר שפורסם לאחרונה בכתב העת, Science Robotics, סיפוריו של אסימוב, "מתריעים מפני חוסר הסבירות של להמציא מערכת קטנה של כללים פשוטים לתכנון או וויסות הולם של מכונות מורכבות, בני אדם והאינטראקציות ביניהם". ב"ותחשבהו", הטוויסט של הסיפור רואה את הנולד. הרובוטים מפרשים "אנושי" כבעל "פסגת האינטליגנציה". בני אדם הגדירו את עצמם כנפרדים ממינים אחרים על ידי דברים כמו יצירתיות ואינטליגנציה גבוהה. אם בינה מלאכותית טובה יותר מבני אדם בתכונות הללו, האם יש לה טיעון חזק יותר להיות "אנושית"? האם לתוך העולם הזה, עולם שבו בני אדם נדחקים לנחיתות, "אנושי" פשוט אומר שיש לו גנום של הומו סאפיינס? אם או כאשר תגיע בינה מלאכותית כללית, זה יותר מסתם איום על דרך החיים שלנו. זה איום על האופן שבו אנו מבינים את האנושות. ככל שאנו עוברים לעולם של בינה מלאכותית שעושה דברים אנושיים טוב יותר מבני אדם, רובנו עדיין נרצה לדעת מה נוצר ומה לא נוצר על ידי אדם. חשוב לנו שהרומן שאנו קוראים נכתב על ידי אדם. כנראה שחשוב לנו אם שיר, פזמון או יצירת אמנות נוצרו על ידי רובוט. אולי אסימוב החמיץ חוק רביעי חיוני: רובוט חייב להזדהות. יש לנו את הזכות לדעת אם אנחנו מקיימים אינטראקציה עם אדם או בינה מלאכותית.


226 צפיות0 תגובות

Kommentare


בקרו בחנות שלנו

הגמל המעופף מביא לכם פריטים יוצאי דופן ומותרות של ימי קדם אל מפתן דלתכם, כמו גם כלים ועזרים למסעות מחקר והרפתקה.

Site banner copy_edited.png
bottom of page