האדם נגד המכונה

האדם נגד המכונה
פורסם ב 07/01/2015 11:27:37

 

 

בני אדם משתמשים בכלים. זו אינה תכונה שמיוחדת למין האנושי; גם מינים רבים של יונקים, עופות וחרקים משתמשים בכלים. אבל הכלים שמייצר בני האדם הם כה משוכללים, עד כדי כך שלאחרונה התעורר בקרב האנושות החשש שהמצב עלול להתהפך, והכלים עלולים להתחיל לקום נגדם, להשתמש בהם – ואולי אפילו להשמיד ולהחליף אותם.

במשך אלפי שנים, היו הכלים המשמשים את בני האדם פשוטים למדי. החיכוך הראשון בין בני אדם למכונות נוצר בזמן המהפכה התעשייתית שהתחילה באנגליה באמצע המאה ה-18, ומשם התפשטה לאירופה, אמריקה ושאר העולם. לפתע התברר שמכונות לייצור המוני מסוגלות להחליף בהצלחה את העובדים האנושיים, ולייצר מוצרים בצורה מהירה, יעילה ונוחה בהרבה. בעקבות זאת מצאו את עצמם המוני פועלים ללא פרנסה, או שנאלצו לעבוד בתנאי דוחק תמורת משכורות רעב יחד עם ילדיהם ונשותיהם במפעלים החדשים שצמחו. המציאות החדשה הובילה לשינויים מקיפים בכל תחומי החיים – בתעסוקה, במקומות המגורים, בכלכלה, במסחר וכן הלאה. בכמה מקרים קמו עובדים ממורמרים שחששו לפרנסתם, פשטו על מפעלים וניפצו את המכונות השנואות, אך את המהפכה לא ניתן היה לעצור. המכונה הוכיחה את עצמה כיצרנית טובה יותר מהאדם, והיא דחקה את רגלי הפועל האנושי וירשה את מקומו. מכאן ואילך התחילו בני האדם לשרת את המכונות, שהלכו והשתכללו ללא הפסקה.

ועדיין לא נראה היה שיש סיבה לדאגה. משוכללות ככל שהיו, למכונות לא היתה תבונה משלהן, והן היו נתונות לחלוטין לשליטתו של האדם. המצב הזה התחיל להשתנות עם הופעת המחשבים הדיגיטליים הראשונים בשנות ה-30 וה-40 של המאה העשרים. לפתע התברר שהמכונות מסוגלות לבצע לא רק עבודת כפיים מכאנית, אלא גם לחקות תהליכים מנטאליים כמו חישוב, שעד כה נחשבו לנחלתם של בני אדם (או יצורים חיים) בלבד. ככל שהלכו המחשבים והשתכללו, כך נעשו יכולות החישוב שלהם משוכללות ומהירות יותר, עד שעברו בהרבה את אלה של האדם. פיתוחים טכנולוגיים נוספים יצרו מציאות בה חישוביהם של המחשבים כבר אינם בגדר פעילות "מחשבתית" בלבד, אלא הם מסוגלים לשלוט ולהפעיל מערכות שונות מכל הסוגים, החל מצעצועים פשוטים ועד לרובוטים ולמערכות נשק עולמיות. המוח הממוחשב התאחד עם הגופים המכאניים, ויכולות החישוב והפעולה העילאיות שלהם התחברו. האנושות מסרה בידי המחשבים, הטכנולוגיה והמכונות כמעט את כל תחומי חייה, עד שפיתחה תלות מוחלטת בהם. אם בעבר הנזק הגדול ביותר שיכלו לגרום המכונות לאדם היה התמודדות עם גלגל שבור או מוט עקום, כיום מסוגלת תקלת מחשבים להשפיע על חייהם של בני אדם בכל רחבי העולם, ולגרום לנזק שניתן רק לנסות לשער את הפוטנציאל שלו (ע"ע באג 2000). האדם בעצלותו הניח למכונות לנהל את ענייניו, עד שאיבד את היכולת לעשות זאת בלעדיהן.

ככל שיכולות החישוב והפעולה של המחשבים נעשו משוכללות יותר, כך הלכה והתעוררה השאלה בדבר קיומה של תבונה מלאכותית. האם תבונה כזו אכן אפשרית? האם מחשב עשוי להיות בעל תודעה, מחשבה, רצונות ורגשות משל עצמו? ואם כן, כיצד ניתן יהיה לדעת זאת, ואיך אפשר להבחין בין תבונה אמיתית לבין מכונה שרק מתנהגת כאילו היא כזו? שאלות אלה מעסיקות לא מעט מדענים, פסיכולוגים, פילוסופים ויוצרי מדע בדיוני בשנים האחרונות.

מעבר לשאלה התיאורטית בדבר קיומה של תבונה מלאכותית, קיים החשש המוחשי מפני תופעת הגולם שקם על יוצרו, או "תסביך פרנקנשטיין"; החשש שיום אחד יקומו המחשבים, המכונות והרובוטים נגד בני האדם, ישמידו או ישעבדו אותם ויירשו את מקומם. האם יתכן שהאדם יצר יצירות העולות עליו מכל הבחינות, בתבונה ובכוח, עד שהן עתידות להוות את השלב הבא באבולוציה ולמחוק את השלב הקודם? גם אפשרות זו מפרנסת יצירות רבות, המתארות עתיד בו מוצא את עצמו האדם במלחמה נואשת נגד המחשבים, המכונות והרובוטים שהתקוממו נגדו. הנה כמה מהמרכזיות שבהן:

שליחות קטלנית. סדרת הסרטים המצליחה הזו (שהחמישי שבה עומד לצאת בקרוב) מתארת עולם בו מחשב-על בשם סקיינט, ששימש את משרד ההגנה האמריקאי, השתלט על כל מערכות המחשבים והנשק העולמיות. כאשר ניסו המפעילים המבוהלים לכבות אותו, הוא תפס זאת כאיום כלפיו מצד בני האדם, והביא בתגובה את "יום הדין" – מתקפה גרעינית גלובלית שהשמידה את רוב האנושות, כשבעקבותיה יצא צבא של רובוטים ומכונות להשלים את ההכחדה. שרידי האנושות התכנסו תחת הנהגתו של ג'ון קונור להשיב מלחמה שערה. כחלק מהמאמץ המלחמתי, שולח סקיינט פעם אחר פעם רובוטים מחסלים לעבר, כדי להתנקש בחייו של קונור בשלב מוקדם ולמנוע ממנו להפוך למנהיג ההתנגדות. בני האדם שולחים בתגובה לוחמים משלהם, בני אנוש (בסרט הראשון) או רובוטים (בסרטים השני והשלישי) על מנת להגן על קונור, מה שמוביל לקרבות מרהיבים ועתירי אקשן ואפקטים.

מטריקס. גם הסרט המעולה הזה (והמשכיו הפחות מוצלחים) מתאר מלחמה בין בני האדם למכונות, בה למעשה בני האדם כבר הפסידו מזמן, אלא שהם אינם יודעים זאת, משום שהמכונות כלאו את תודעתם בתוך מציאות מדומה ומשתמשות בגופותיהם כדי להפיק אנרגיה. כאן השעבוד של האדם למכונות כבר אינו רק פיזי אלא גם מנטאלי, וכל תפיסת עולמו מעוצבת על ידיהן. רק קבוצה קטנה של מורדים בעיר התת-קרקעית "ציון" ממשיכה את המאבק הנואש ומנסה לשחרר אנשים משליטתה של המטריקס. בסרטים עצמם לא מסופר הרבה על הרקע למלחמה; זה מופיע בסרט האנימה אנימטריקס, המספר על יצירת הרובוטים הראשונים, היחס המתנשא והאכזרי של בני האדם כלפיהם, המלחמה האכזרית שפרצה בסופו של דבר, ו"חריכת השמיים" בידי בני האדם בניסיון לנתק את המכונות ממקור האנרגיה הסולארית שלהן. מדובר בסרט אלים ואכזרי מאד וקשה לצפייה, ראו הוזהרתם – ובנוסף לכך מתברר שבני האדם הם הרעים האמיתיים בסיפור.

תשע. "9" הוא סרט אנימציה פחות מוכר של טים ברטון, המתאר קבוצת בובות-בד חיות המנסות לשרוד בעולם פוסט-אפוקליפטי, שנחרב בעקבות מלחמתם של בני האדם במכונות, בה שני הצדדים הפסידו. הפלאשבקים המתייחסים למלחמה מתארים מכונה שנוצרה מלכתחילה לצורכי שלום, כשביכולתה ליצור מכונות נוספות מסוגים שונים, אך היא נפלה בידיו של רודן מרושע שהשתמש בה למטרות מלחמה, שבסופו של דבר יצאה משליטה. כמו שאר סרטיו של ברטון, גם 9 הוא אפל, קודר ומקאברי, לא ממש מומלץ לילדים אבל מספק חומר למחשבה למבוגרים.

אני, רובוט. אייזיק אסימוב לא אהב את החרדה של "תסביך פרנקנשטיין", ולכן ניסח בעולמו את שלושת חוקי הרובוטיקה, לפיהם אף רובוט אינו מסוגל לפגוע באדם או לאפשר לאדם להיפגע, וכל רובוט חייב לציית להוראותיהם של בני האדם. הרובוטים שלו לא יתחילו אם כן לירות באנשים, אבל זה לא אומר שהם לא יכולים לגרום להרבה תסבוכות מרתקות אחרות, שאסימוב בוחן בספריו השונים. הסרט בכיכובו של וויל סמית, שנעשה בהשראת הספר, אמנם רחוק למדי מהמקור, אך גם הוא מספק חומר למחשבה בדבר יחסיהם של בני אדם ורובוטים.

 

כאמור לעיל, העיסוק בעימות בין האדם למחשב, לרובוט ולמכונה מציף שאלות רבות הקשורות למהות האנושית, לנפש, למוסר וכן הלאה. אחת השאלות המרכזיות הללו היא מה בעצם ההבדל בין אדם למכונה. הרי לפי הגישות המטריאליסטיות-אתאיסטיות, האדם בסופו של דבר אינו אלא מכונה ביולוגית, שלא תוכנתה בידי מתכנן תבוני אלא התפתחה מכוחה של ברירה טבעית. כל תודעתו של האדם, תשוקותיו ורגשותיו, אינם אלא תוצר של הפרשות כימיות וחשמליות במוח, שכל מטרתם היא הישרדותית גרידא. האהבה האלטרואיסטית ביותר, והרגש המוסרי העמוק ביותר, הם בעיני האתאיסט לא יותר מהפרשה כימית כתוצאה של "תאונה" אבולוציונית. יתרה מזאת, לשיטתו ככל הנראה אין לאדם כלל בחירה חופשית, והוא נשלט על ידי הכוחות הפיזיקאליים העיוורים המושלים בכל היקום. היכולת לבחור ולפעול באופן חופשי היא אשליה גרידא.

לפי גישה כזו, באמת אין הבדל מהותי בין האדם למכונה, בין ג'ון קונור לרובוט ה-T-1000 הקטלני, או בין ניאו לסוכן סמית'. שני הצדדים הם מכונות בדיוק באותה מידה, הפועלות לפי תכנות ולא מתוך בחירה, כשההבדל היחיד הוא שהאדם הוא מכונה ביולוגית והצד שנגדו הוא מכונה אלקטרונית. יתכן באמת שהמכונות המלאכותיות הללו תעלינה על האדם מכל הבחינות, ותהיינה יותר רציונאליות ויעילות ממנו; אחרי הכל, הן תוכננו בידי תודעה תבונית, ואילו האדם התפתח במקרה... אין אם כן שום סיבה מיוחדת להעדיף דווקא את בני האדם במאבק הזה. אדרבה, האבולוציה דורשת מהם לפנות את מקומם למכונות המוצלחות יותר, שהם הואילו בטובם להביא לעולם. 

אבל למרבה המזל, זו אינה הגישה השלטת אצל רוב בני האדם, וגם לא זו שמוצגת בסרטים. אדרבה, המאבק מול המכונות הוא הזדמנות להדגיש את ייחודו של האדם בכך שאינו מכונה חסרת נשמה, אלא יצור הנברא בצלם אלוהים; הוא אינו פועל מתוך תכנות ולא רק משיקולים של רציונאליות קרה, אלא גם מתוך ערכים, מוסר ורגשות. אם האנושות מנצחת את המכונות בסופו של דבר, הרי זה בכוח האהבה, המצפון, האידיאלים, היצירתיות והמחשבה החופשית, שחסרים כל כך למכונות הקרות והשכלתניות. באחת הסצנות בשליחות קטלנית 2, עומד המחסל לירות באדם שהטריד את בן חסותו הצעיר ג'ון קונור. קונור עוצר אותו וקורא לעברו: "אתה לא יכול לירות באנשים סתם כך!". "למה?", שואל הרובוט חסר הרגש בקולו החדגוני, וקונור עומד חסר מענה מול השאלה. דווקא חוסר היכולת להסביר למכונה את המובן מאליו של המצפון האנושי, הוא זה שמורה על גדלותו של האדם ועל חסרונה של המכונה נטולת הנשמה. בסרט השלישי ממשיך הרובוט להפגין חוסר הבנה דומה כלפי הקיום האנושי; כשקונור נרתע מהרעיון שעליו להתחתן עם קתרין ברוסטר (כפי שהרובוט מהעתיד דיווח לו שעתיד לקרות), טוען המחסל שקונור אינו רציונאלי – הרי קתרין היא "נקבה בריאה בהחלט בגיל הפוריות"... הדקויות והרגישויות האנושיות הקשורות ליחסים בין המינים, מבוזבזות לגמרי על רובוט שבוחן את המציאות דרך משקפיים (כהים) של תועלתיות והישרדות גרידא.

 

זה אולי הלקח החשוב שמלמדים אותנו הסרטים והיצירות הללו. לפני הדאגה מפני האפשרות שהמכונות ישתלטו על העולם, עלינו לדאוג לכך שלא נהפוך בעצמנו למכונות. שלא ניתן לגישות אתיאיסטיות ורדוקציוניסטיות למיניהן לשכנע אותנו שאנחנו מכונות ביולוגיות המשועבדות לגנים ולממים, ושרגשותינו העמוקים ביותר אינם אלא הפרשות כימיות שנועדו לקדם הישרדות. כשאנחנו רואים מולנו את המכונה, אנחנו מבינים עד כמה אנחנו שונים ממנה, עד כמה צלם אלוהים שבנו הופך אותנו להרבה מעבר לזה. זה היתרון שבזכותו, בסופו של דבר, האנושות תנצח.





print
כניסה למערכת