הרובוט שפיטר אותי

 robots 0

החשש מרובוטים גדל כל העת. הוא נע בין החשש מהאנשים שמפעילים אותם, שיעשו בהם שימוש לרעה לבין החשש מהרובוטים עצמם ומהתבונה לכאורה המתפתחת בהם, המתחרה בזו האנושית. הסדרה הרובוט שפיטר אותי נוגעת באחד העצבים הרגישים ביותר הנוגעים לרובוטיקה: החשש לאובדן מקום העבודה והפרנסה. כדי להתייחס לשאלות האלה באופן מעמיק, הסדרה עוסקת בארבע מדינות, מהגדולות בתחומי התעשיה והטכנולוגיה: גרמניה, צרפת, יפן וארצות הברית. 

אבל מה רובוטים מסוגלים לעשות ומה צופן העתיד?
על קביעות מסוימות אין עוררין: רובוטים, שהם למעשה מכונה עם שיקול דעת וגמישות תפעולית, יגרמו לאובדן מקומות עבודה רבים, בעיקר בתחומי התעשיה הכבדה.
ועדיין, עולות שתי שאלות מרכזיות:
* האם מדובר בשינוי לינארי? - כלומר, מאז המהפכה התעשייתית הראשונה (המאה ה - 18) נכנסות לייצור מכונות יותר ויותר משוכללות, בהדרגה. לעיתים הן גורמות לפיטורי עובדים, לפעמים מצריכות הסבה מקצועית וברוב המקרים פשוט גורמות לבני האדם לעבוד פחות קשה ולסכן פחות את עצמם. עד כאן הכל מוכר: אין אדם בוגר שלא ראה מול עיניו מכונות המבצעות משהו שהיה בילדותו ידני או איטי יותר מכפי שהוא היום. אז האם אותה מהפכה מדוברת היא אכן מהפכה, או פשוט המשך של שכלול המכונות?
* האם רובוטים משתווים או עומדים להשתוות ליכולת האנושית?
ברשותכם אתייחס קודם כל לשאלה הזו דווקא, כי חלק גדול מהסדרה עוסק בה.

האם רובוטים משתווים בהדרגה לבני אדם 

ישנו הייפ עצום סביב השאלה הזו. רוב העיתונאים ורבים מחוקרי מדעי החברה אומרים בביטחון רב שכן, בודאי. לא סתם הזכרתי את שתי האוכלוסיות האלה (עיתונאים ואנשי מדעי החברה): מדובר באנשים שהידע שלהם על מה שמכונה בינה מלאכותית נובע ממה שהם בעצמם שומעים מעיתונאים וחוקרי מדעי חברה אחרים. וחוזר חלילה, כי הם מצטטים זה את זה, עד ששכחו מי התחיל.
איש מהם לא עוסק בפיתוח בינה מלאכותית בפועל.
אם היו עוסקים בבינה מלאכותית בפועל, היו מסייגים את עצמם מאוד או פשוט מגחכים.
בטח אל מול קביעה כל כך נחרצת (תמונת מסך מהסדרה):

robots 1

מושגים יומרניים

בינה מלאכותית ורשתות נוירונים הם שני מושגים נפוצים שמתגלגלים על הלשון כשמדובר ברובוטיקה ולמידה חישובית.
אבל מהי בינה? - מקובל לראות אותה כיכולת להסיק מסקנות, ללמוד באופן אוטונומי וכן לגבש ראייה רחבה (הוליסטית) ולנתח דברים על פי הקשרם. את צד הרגשות אניח בצד כרגע לצורך הדיון.
בעוד שהיכולת ללמוד לבד ולהסיק מסקנות קיימת בצורה טובה מאוד אצל מכונות (כשמדובר במערכות סגורות וצרות עם חוקים ברורים), הרי שבראייה ההוליסטית וניתוח ההקשר, מכונות נכשלות בכך באופן מוחלט. כפי שהגדיר זאת ד"ר אורן עציוני חוקר בינה מלאכותית מוביל: אם מחשב משחק גו (משחק מחשבה מתוחכם) אותו למד לבד, זהו הישג מפואר. אבל אם תתחיל שריפה בחדר, המחשב לא ידע על כך דבר. וגם אם המחשב יידע על כך בזכות תרמומטר משוכלל, הוא לא יבין מה המשמעות של הדבר ולא יבין את הסכנה. כלומר, למרות ההישג העצום של לימוד עצמי של משחק כה מורכב, המחשב לא מודע לסכנת השריפה, אליה מודע כל ילד החל מגיל ארבע לערך. קוראים לזה פרדוקס מוראבק, הקובע שדווקא עבור הפעולות שעבור המכונה הן מסובכות יותר (כי נדרשת חשיבה הולסיטית והקשר) נדרש למעשה חישוב פשוט מאוד ("החדר בוער. תברח") בעוד שעבור הפעולות הספציפיות, הקטנות, דרוש כוח חישוב רב ותכנון רב שלבי ("תניע את הרץ שתי משבצות").

ואם יהיה לנו מחשב שילמד לבד להבין את סכנות השריפה וגם ילמד לבד גו, הוא עדיין לא יידע לגבש ראייה רחבה שתאפשר לו ללמוד דברים נוספים אחרים על העולם, כאלה שבאמצעותם מסיקים מסקנות אינטגרטיביות, כתוצאה מדברים שלומדים במספר מקומות שונים. קוראים לזה בינה מלאכותית חזקה. זהו מושג בלבד, לא דבר שמדענים עמלים עליו עכשיו במעבדות ועד שייגמר להיכתב הפוסט הזה הם כבר יתקדמו עוד מילימטר. לא. המדע והטכנולוגיה נמצאים באפילה גמורה בענין הזה. אגב, צריך לומר שאותו מוראבק, שאת הפרדוקס שלו ציטטתי קודם, טען כי בשלב כלשהו היכולת הפשוטה (מלמעלה למטה כדבריו) תפגוש את הדברים הקטנים הדורשים כוח חישוב רב (מלמטה למעלה, כדבריו) ואז המכונות תוכלנה להחליף אותנו. הוא טען זאת ב - 1988 ומאז לא התקדמנו. יתר על כן, החוקרים עסוקים יותר מתמיד דווקא בשכלול היכולות הצרות כמו לימוד משחק גו והרבה פחות ביומרה לפתח ראייה רחבה ואינטגרטיבית. מסקנה: המילה 'בינה' עבור מחשב רחוקה מאי פעם. 
והנה עוד צילום מסך מצחיק מהסדרה:


robots 4

והנה בעיה שניה שקשורה למילה 'בינה':
כיום יש צורך בכמות אדירה של גירויים מהם המכונה לומדת. כאשר מדובר ביכולת ההתבוננות של מכונית אוטונומית והחלטה אם מדובר בארגז קרטון עף ברוח או אדם זקן ההולך כפוף (החלטה שיש לה משמעות לגבי השאלה אם לעבור לעצירת חירום), יש להראות בעת הלימוד למחשב אלפי גירויים שונים ועליו לסווג כל אחד לחוד, בדרך ללימוד שיאפשר קבלת החלטה עצמאית ברגע האמת. יתר על כן, יש ללמד אותו את אותם תרחישים בסביבות שונות: יום אביך, יום גשום, יום קיצי, בנוף עירוני, בנוף כפרי, במהירות גבוהה, במהירות נמוכה, עם פקקי תנועה, ללא פקקי תנועה, עם מכוניות ברקע, עם אופנועים ברקע וכו'.
אנשים זקוקים להרבה פחות גירויים מזה כדי לקבל החלטה מושכלת לגבי מה שנמצא מולם: אדם כפוף או ארגז קרטון המתגלגל ברוח.  
אם תכניסו בגוגל את המחרוזת machine learning sample size (המילה sample מתייחסת לאותם גירויים מהם המחשב לומד) תגיעו לאינסוף נסיונות נואשים ליצור נוסחה לכמות הגירויים שמספקים למחשב הלומד את היעד הנכסף, שהוא המילה "מהימן" (תרגום חופשי של high confidence level).

עוד חמאה

התשובה התכליתית בעולם הלמידה החישובית לכמה גירויים צריך כדי ליצור מודל מהימן, אחרי נאום מנומס על סטטיסטיקה, היא "כמה שיותר". 
מה שמזכיר לי את האמירה הצרפתית המפורסמת לגבי השאלה"כמה חמאה צריך להוסיף בבישול". התשובה תהיה תמיד "עוד".
כך גם לגבי מספר גירויי למידה. אם התשובה היא שכל המרבה וגו', יש כאן בעיה. 

robots 5 

אם אתם רוצים לקנות את החולצה החביבה, זהו הקישור. אין לי אחוזים בהפנייה הזו:).
אז אם אין גבול לכמות הגירויים שמכונה צריכה כדי ללמוד ואם בני אדם לומדים הכללות כמו על ההבדל בין כלב לחתול בלי שיצטרכו לצפות ב - 100,000 חתולים וכלבים, אז יש לנו בעיה בניסיון לדמות את המחשב ליצור אנוש, הן בהיבט של שיטת הלימוד והן בדרך הסקת המסקנות.

מה שמביא אותי לשאלת הביטוי היומרני הבא "רשתות נוירונים."
אין באמת קשר, זולת דימוי עמום, בין המנגנון הביולוגי המורכב של נוירונים, שכולל בתוכו קשרי גומלין סבוכים, חשמליים וכימיים אחד, לבין אוסף של שכבות חשמליות, עמוקות ונסתרות ככל שיהיו, שיש ברשתות נוירונים מלאכותיות. כן, אפילו רשתות בהן כל הנוירונים המלאכותיים מדברים זה עם זה בו זמנית, משל היו סטודנטים שלי בשיעור שגרתי.
אמת, רשתות למידה עמוקות ניסו לקבל השראה מהמודל של הובל וויזל בנוגע לעיבוד ראייה. בהתאם למודל זה, ישנם נוירונים שמסוגלים לעבד אותות פשוטים (קווי מיתאר כמו קצה מעוגל למשל), אותם כינו נוירוני S, לעומת נוירונים המסוגלים לעבד אותות מסובכים ויזואלית, אותם כינו נוירוני C. למעשה, תאי C מבצעים אינטגרציה של גירויים פשוטים, המגיעים ומעובדים על ידי תאי S. הובל וויזל קבלו על כך פרס נובל ונסיונות ליישם את המנגנון הביולוגי שמיפו השניים, מבוצעים ללא הרף, על ידי מדעני מחשב החל משנות ה - 80 וה - 90 של המאה ה - 20 (למשל, לה-קון). השראה זו (של המודל הביולוגי על הממוחשב) מנוסחת לפרטיה בצורה בהירה כאן.
ואולם, אליה וקוץ בה: בעוד שרשתות נוירונים מלאכותיות עמוקות אכן מפרידות בין עיבוד של אותות פשוטים למורכבים כמו מקורות ההשראה הביולוגיים שלהן, הן חסרות את המבנה הכאוטי-אך-מסודר של הזנה הדדית וקשרי גומלין, הקיים בין נוירונים ביולוגיים.
ולמען הסר ספק, אני מגבה את הצהרותיי הנמהרות (בדבר עמימות הקשר בין נוירונים ביולוגיים ומלאכותיים) בציטוטים מחזקים כמו זה או זה.

hubel wiesel cnn

 

הכה את המומחה

אנשים רבים סביבי משוכנעים באמת ובתמים שאם כולם בעד משהו, אני נגדו. ככה, בשביל הפרינציפ. כאילו ילדותיות של רצון להתבלט מניעה את יציאתי נגד הזרם המרכזי של המחשבה המקובלת. הנה, גם עם תיאוריית אחריות האדם בדבר ההתחממות הגלובלית יש לי בעיה. בקיצור, טראבל מייקר, גרסת החננה.
אז הנה, מה שחושבים אנשי המקצוע, כלומר אלו שמאכילים מכונות יום יום:

adl overhyped

שוק העבודה

לזכותה של הסדרה ייאמר, כי היא לא עושה ענין גדול מדי מנושא ה"רובוטים עליך שמשון", כאילו קרוב היום בו הם יהיו חזקים מאיתנו.
אבל היא כן עוסקת, ובאופן מאלף, בשוק העבודה ובדרכים בהן כל חברה או מדינה מתמודדת עם הרובוטיזציה המואצת.
וכאן עלי להודות: הסדרה עושה עבודה יפה בהוכחה כי לא מדובר בשינוי לינארי, כלומר " בסך הכל עוד מכונה", אלא אכן בשינוי דרסטי, שיגרום לאובדן של מליוני מקומות עבודה.  
הסדרה כאמור עוסקת בארבע מדינות מרכזיות, בהן השפעת הרובוטיזיציה מרעידה את אמות הסיפים : גרמניה, צרפת, יפן וארצות הברית.
היחס לנושא משקף במדויק את מבנה החברות והכלכלות שלהן:
בגרמניה וצרפת יש איגודי עבודה חזקים מאוד וממשלות שנוטות למדיניות רווחה, גם כאשר יש בהן שלטון ימין כלכלי. בגרמניה למשל נהוגה מסורת רבת שנים של שיתוף ארגוני העובדים הגדולים בקבלת החלטות במקום הנחתה של מדיניות חדשה עליהם. זה עבד הרבה מאוד שנים ויש לכך חלק בהצלחתה של גרמניה והפיכתה לאחת המדינות העשירות בעולם. אלא שהמציאות השתנתה, אגב לא רק בגלל הרובוטים. גם בגלל סין. תמונות של מפעלים נטושים ואחוזי אבטלה של 11% לא היו נפוצים בצפון הריין-וסטפליה. אזור זה היה גאוות התעשיה הכבדה, המצליחה. לא עוד. מכאן, שיכולת המיקוח של האיגודים נחלשת. אמנם, עומדת לצידם הממשלה ולסדרה מתראיינות שתי שרות (חינוך ומחקר, עבודה ורווחה) שמצהירות על כך שלא יאפשרו זריקת עובדים לכלבים, אלא שבמקביל המדינה הולכת ונחלשת, אלא אם תסתגל למציאות החדשה. 

robots 2

גרמניה גם מלאה באנשים כמו הדוברת בתמונה למעלה, איבון הופשטטר, שמדברים על הטכנולוגיה כאויב, כזה שאם יכריעו אותו, הוא ייעלם מעצמו ונחזור לשוק תעסוקה מלא ושליו, כאילו אין תחרות משאר העולם. התמונה דומה מאוד בצרפת, שם לאיגודים המקצועיים יש כוח פוליטי רב מאוד.
צוות ההפקה מבצע כאן מעבר מבריק לעמק הסיליקון, שם מרואיינים גרמנים וצרפתים רבים, שמסבירים שנוח להם מאוד שם, כי הם מוקפים באנשים רבים כמוהם, גם הם מגרמניה וצרפת.

אז מדוע עברו לעמק הסיליקון?
את התשובה נותן ג'ון שונדורף, משקיע הון סיכון: בעמק הסיליקון יש תרבות שמצד אחד סובלנית לכשלונות ואם חברה נכשלת, לא נדבק אות קין ביזם אלא הוא יוכל למצוא את מקומו בחברה אחרת במהירות. מצד שני, קבלת ההחלטות מתקבלת מהר מאוד: אם חברה לא עוברת לרווחיות או לא עומדת ביעדי צמיחה בזמן קצוב, היא תיסגר ללא שום סנטמינטים וגם בלי לבקש רשות מאף איגוד או ממשלה.
בסביבה עסקית ויזמית כזו משתלבים מיטב היזמים והמהנדסים מצרפת וגרמניה, שמרגישים חנוקים במדינותיהם.
כמובן, הדברים לא חד משמעיים כפי ששונדורף מציג אותם: לפעמים חברה נסגרת בבת אחת ואנשים נותרים חסרי כל, אחרי שהשקיעו את כל חסכונותיהם, לפעמים הם נותרים בעלי חוב ולפעמים לא ימצאו עבודה אחרת כי הם מבוגרים מדי, או כי אין דורש להתמחות הספציפית שצברו.

שרת העבודה של גרמניה אומרת זאת בצורה חדה ואכזרית בנאום שלה, המצולם בסדרה: חברות הטכנולוגיה מגשימות בגאווה את החזון של מרקס: קפיטליזם המשמיד בלי אבחנה כל מה שנקרה על דרכו. אמרה וצדקה: מחירי הדיור בסן פרנסיסקו (גם ברלין ומינכן בדרך לשם ועל תל אביב אין צורך להכביר מילים) הפכו כה גבוהים, שהערים האלו מפסיקות בהדרגה להיות ערים "נורמליות", עם צעירים, מבוגרים, רווקים ומשפחות, עם ירקנים, חנוונים וגננות לצד מהנדסי תוכנה. במקום זאת, כל אותם נותני שירות ממעמד בינוני ובינוני נמוך זורמים לשם ביום כדי לעבוד ועוזבים אחר הצהרים, כי לעולם לא יוכלו לגור בערים האלו. כך הקפיטליזם הדוהר ללא מעצורים מגדיל פערים ועל הדרך הופך מרקם עירוני לחורבן.
ועכשיו, הוסיפו על כל אלה את המליונים שייפלטו משוק העבודה כי יוחלפו על ידי רובוטים.... 

יפן ,כמו תמיד, מספקת לסדרה זווית מוזרה ויחודית: מהתעלמות מוחלטת מבינה מלאכותית, יפן עברה לאימוץ נלהב שלה. פרופסור הירושי אישיגורו הוא הסמל היפני הבולט ביותר של המגמה הזו: פרופסור אישיגורו בנה דגם רובוטי של עצמו ואותו דגם זמין תמיד לענות על שאלות עיתונאים. הדגם גם דומה לו מאוד חיצונית. הבעיה, לפחות בעיני, היא בכך שאישיגורו טוען בסדרה כי אנשים היו משוכנעים כי האנדרואיד (הרובוט המדמה אותו) הוא הוא עצמו. אבל כנראה מדובר בעין יפנית בלבד... מבט קצר מגלה כי מדובר באנדרואיד ולא באדם (למרות שאישיגורו הביולוגי די דומה לרובוט).
גם התמונה המופיעה כאן בראש הסקירה מקבלת מחמאות בסדרה על יופיה. לא יודע מה איתכם, אבל העין המערבית שלי מזהה מיד את המכונה שבה. אני בטוח שגם אתם.
ואז אני נזכר בחיבה היפנית העצומה לבובות ביפן ועל צעירים שמתחתנים עם דמויות וירטואליות במקום להקים משפחה ומבין שמעל לכל, מדובר בענין תרבותי. קחו לדוגמה את הבחור הנחמד הנראה בתמונה הבאה:

robots 6
אקיהיקו קונדו התחתן עם הזמרת הוירטואלית עימה הוא מצולם כאן ובקישור הבא תוכלו לאחל לו מזל טוב.
ההסבר העצוב שמוענק בסדרה למגמה הזו של אימוץ הבינה המלאכותית והמאמץ האדיר שנעשה ביפן לדמות את המכונות לבני אדם הוא הדעיכה הדמוגרפית של יפן: אם אין ילדים, נבנה מכונות דמויי אנוש. בעודי כותב שורות אלה, גיליתי שגם סין מצטרפת למועדון המדינות הנשענות על אוטומציה נרחבת כדי להתמודד עם קיטון בילודה ובכוח העבודה, לצד הצורך לדאוג לאוכלוסיה מזדקנת הגדלה והולכת. 

אז מה יהיה

האנליסט הצרפתי חכים אלקראווי משרטט בסדרה תרחיש מדויק ומקפיא דם: ראשית, המעמדות הנמוכים יאבדו עבודות בגלל טכנולוגיה (או תחרות עם דרום מזרח אסיה, אליה הסדרה לא מתייחסת, אבל יש לציין אותה). הדבר יכלול נהגים ובמידה רבה גם אנשי שירות דוגמת מלצרים ומטפלים סיעודיים. הם יתמרמרו וימחו, אבל ייתכן כי עוד ניתן יהיה לשלוט בכך. הבעיה תחמיר כאשר עורכי דין ורואי חשבון זוטרים (למשל) יוחלפו בעורכי דוחות ומנסחי חוזים מבוססי בינה מלאכותית. גם חלק מהמהנדסים והטכנאים יוחלפו או שיצומצמו משרותיהם. אפילו רופאים ייאלצו להתייעץ עם המכונה בפענוח רנטגן (לא שיפוטרו בשל כך). הסדרה מצביעה גם על תהליך הכרחי בו בני אדם מקבלים הוראות מרובוטים כחלק מהתליך העבודה השוטף. פלח האוכלוסיה הזה כולל אנשים שנאמר להם מילדותם, שאם רק ירכשו השכלה, פרנסתם מובטחת. והנה, היא לא. הפוטנציאל לרעידת אדמה חברתית אז הוא עצום, שכן במקביל, האנשים המתכננים את המכונות האלה, יתעשרו באופן בלתי נתפס.

צפו כאן בסדרה

 

 

Tags: חברה, מדע וטכנולוגיה