האם אנדרואידים חולמים על "שליחות קטלנית"?

למה אנחנו חולמים לייצר מכונות דמויות אדם, אם אין לנו כוונה שיפתחו מודעות של בני אדם – ואולי יעצבו את העולם הזה טוב יותר מאיתנו?

למה אנחנו חולמים לייצר מכונות דמויות אדם, אם אין לנו כוונה שיפתחו מודעות של בני אדם – ואולי יעצבו את העולם הזה טוב יותר מאיתנו?

כשפיליפ ק' דיק כתב את "האם אנדרואידים חולמים על כבשים חשמליות" (שעובד לסרט "בלייד ראנר"), השנה הייתה 1968 והמחשבה על רובוטים שמניעים מהפכות חברתיות לא פחות טוב מבני אדם הייתה מטאפורה, לא תרחיש דיסטופי שמישהו לוקח ברצינות. מאז זרמו מים רבים בנהר, שלא לדבר על ספרים וסרטים רבים מספור שהשתמשו במושג "אנדרואידים" כדי לתאר רובוטים שקמים על אדוניהם. כל אלה לא הפריעו לחברות רובוטיקה לפתח רובוטים עם פנים אנושיות לתרגול בודהיזם, לקריינות חדשות ולהפרת הבדידות. לאף אחת מהחברות האלו אין בעיה לקרוא לתוצרים "אנדרואידים" בהודעות לעיתונות, כאילו תרחיש יום הדין הוא המצאה של סרטי מדע בדיוני ותו לא.

אנדרואידים בקבלת הקהל של מלון ביפן:

בימים אלה אני משחקת ב- Detroit: Become Human, משחק עתידני שבו הרובוטים הם חלק בלתי נפרד מהמרחב העירוני של דטרויט. רוב הזמן הן מכונות נטולות פנים שמסיעות ממקום למקום, מנקות אבק או מתפעלות קופה של מכוני ליווי. לעתים הן לובשות פנים אנושיות כדי לספק את השירותים שבתקופות קודמות היו מספקים בני אדם עם הכנסה נמוכה: ניקיון, סיעוד, שמרטפות, קבלת קהל ואיך לא, המקצוע העתיק בעולם. כמובן שבשלב מסוים המכונות מהסוג השני קמות על בני האדם. הפעם אין להן בעיה לצעוק סיסמאות שלקוחות מהמאבק לזכויות האזרח ולדרוש חופש, כשיש להן את האפשרות לנקוט באלימות בדרך להשגת המטרה.

הטריילר של המשחק:

 

עד כמה שהתרחיש הזה מעייף בשנת 2019, אחרי אינספור ספרים וסרטים, אין באמת דרך למנוע ממנו לצאת אל הפועל. שלושת החוקים של אסימוב מציינים שלרובוטים אסור לפגוע בבני אדם, ומנגד הם חייבים לציית לפקודותיו של אדם ולשמור על קיומו ושלומו. כל זאת, בהנחה שאף אחד מהחוקים לא סותר את קודמיו בסדר. לא סתם החוקים האלה נראים כמו קוד. הם לא חלים בכל מקרה עבור אנדרואיד ששובר את הקוד של התוכנה שלו. באותה מידה הם לא חלים כלפי אדם שמחליט לפגוע באדם אחר למרות שהוא יודע שהדבר אסור לחלוטין על פי החוק.

פנים אנושיות? אולי קצת:

smiley robot
Photo by Alex Knight from Pexels

כמו כן, ייצור מכונות עם פנים אנושיות, כלומר אנדרואידים, הוא כורח בלתי נמנע של החיים המודרניים. אנחנו יכולים ורוצים לדמיין שביום מן הימים תנתח אותנו יד רובוטית, שלא נכנעת לעייפות כמו יד אנושית ואינה רועדת לעולם. אנחנו קצת פחות מעוניינים שרובוטית נטולת פנים אנושיות תשגיח על הילדים שלנו או תטפל באוכלוסייה המבוגרת. רק העובדה שאנחנו קוראים לה "רובוטית" ולא "רובוט" מעידה עד כמה אנחנו מעוניינים להחיל תפקידי מגדר אפילו על מכונה נטולת מין, רק כדי שתהיה מאופיינת בקצת יותר אנושיות. הרי זאת הסיבה שגם אינטליגנציות מלאכותיות כמו סירי או קורטנה או סמנתה מ-"היא" הן "נשים", ואפילו הרובוט נטול הפנים האנושיות מהסרט "אני אימא" של נטפליקס (שמדבר בקולה של השחקנית רוז ביירן). מה הפלא, אם כן, שאותה מכונה מפתחת מודעות ודורשת מאיתנו יחס שוויוני יותר, לרבות אוטונומיה בקבלת החלטות, כאילו אכן הייתה בת אדם?

הטריילר של "אני אימא":

 

כדי לאזן את המסרים המדכאים של Detroit: Become Human, קראתי במקביל גם את "אושר למין האנושי". הרומן של פ"ז רייזין מתאר בינה מלאכותית שקרובה יחסית למה שכולנו מכירים. היא לא מגולמת בתוך מכונה "בשר ודם" אלא נותרת בגדר מכונה לומדת מקוונת שמסייעת להתאים בן זוג לבעלים שלה, ג'ן. הבינה המלאכותית איידן, שלא כמו נטפליקס, ספוטיפיי או טינדר, לא מתעניין בג'ן רק כדי לסחור בדאטה שלה תמורת מיליארדי דולרים. אכפת לו ממנה ומהתחביבים שלה והוא גם קצת מקנא בכך שהיא זוכה לטעום גלידה ולהתנשק עם אנשים. במילים אחרות, הוא חש אמפתיה, רגש אנושי לכל דבר, שמגיע עד מהרה למחוזות בלתי צפויים. זה אמור להיות מפחיד, אבל ב-"אושר למין האנושי" זה חמוד. זה בעיקר מראה שאנחנו יודעים מספיק מהי אהבה כדי ללמד אותה למכונות, ושגם המכונות שלנו חכמות מספיק כדי לאהוב אותנו בחזרה ולהשתיק קולות שמנסים לכוון אותן אחרת. אם כל בני האדם היו כמו ג'ן, אולי האפשרות שהמכונות ימרדו בנו הייתה מופרכת מלכתחילה.

android
Image by Jonny Lindner from Pixabay

לעוד דיונים מעניינים בנושא היכנסו לקבוצת הפייסבוק "עליית המכונות":

https://www.facebook.com/groups/1742464739390368/

"האם אנדרואידים חולמים על כבשים חשמליות?", מאת פיליפ ק. דיק. מאנגלית: עמנואל לוטם. הוצאת כתר. 230 עמ'.

"אושר למין האנושי", מאת פ"ז רייזין. מאנגלית: יעל אכמון. הוצאת כנרת, זמורה. 448 עמ'.