אינטליגנציה מלכותית

פורסם במקור בגיליון פברואר 2013 של "בלייזר" (עריכה והמון עזרה – תומר קמרלינג)

התרבות שלנו מלאה בחזיונות אפוקליפטיים של מכונות שמנהלות לנו את החיים, אבל האמת היא שמחשבים הם מקבלי החלטות הרבה יותר יעילים ורציונליים מאיתנו. ואם כך, אז יש לי מחשבה רדיקלית: אולי הדבר הכי טוב שיכול לקרות לנו זה אפוקליפסה עכשיו?

הנחת יסוד: אנחנו יצורים אמוציונליים, ולכן אנחנו חושבים רק אחרי שאנחנו מרגישים. בעיה: כולנו, ראשי ממשלה או נהגי מוניות, נדרשים לקבל החלטות. מסקנה: את ההחלטות החשובות בחיינו צריך לקבל מישהו אחר. מישהו שכלתני. נגיד מחשב. ברור, זה לא יכול ולא צריך לקרות מחר בבוקר. אולי גם לא בעשור הזה. אבל הגיע הזמן לחשוב על זה, ובוודאי שלא צריך לפחד מזה. נהפוך הוא; אנחנו, בני האדם, צריכים להיות גאים בעובדה שיציר כפינו, הגולם מסיליקון, מסוגל להגיע להחלטות יותר רציונליות מאלה של בני התמותה מבוססי הפחמן.
אחת האסמכתות המבוססות אשר לחסרונותיו של האדם כמקבל החלטות היא כבר בת יותר מעשור: בשנת 2002 קיבל הפרופסור הישראלי דניאל כהנמן את פרס נובל לכלכלה לאחר שהוכיח כי בני האדם מקבלים החלטות כלכליות בצורה לא רציונלית. אנשים, גילה כהנמן אחרי שנים של מחקרים, לא אוספים מידע בצורה שיטתית וסטטיסטית; הם מקבלים החלטות לפי הרגשות או תחושות בטן.
בערך בנקודה הזאת אמור הטבע האנושי להתמרד נגד הרעיון כולו. אחרי הכל, מי אמר שתחושת בטן זה רע? מי קבע שקבלת החלטות על בסיס רגשי או פסיכולוגי מובילה בהכרח לבחירה באופציה הפחות טובה? ובכלל, האם הייחודיות הזאת שיש לנו כבני אדם היא לא בעצם היתרון היחסי שלנו על פני עצמים דוממים? לפני שמנסים להשיב על השאלות האלה כדאי להסתכל מסביב ולהבין שאנחנו כבר נותנים למחשבים להחליט במקומנו בלא מעט אספקטים של חיינו, ושאנחנו אפילו אוהבים את זה.
נניח שיש לכם פגישה עסקית ברחוב אגריפס בירושלים. אין בעיה: מזינים את הכתובת למכשיר הניווט, מציינים שלא מעוניינים לעבור בשטחי הרשות הפלסטינית, וזהו. יש בעיה בדרך? פקק בלתי צפוי? המכשיר יחשב מחדש את המסלול ויחליט איך עדיף להתקדם, ואתם תעשו מה שהוא אומר מתוך הנחה שהוא יודע יותר מכם. במילים אחרות, אתם סומכים על מכשיר שמיוצר בסין, מריץ תוכנה מישראל ומקבל נתונים מלוויינים אמריקאיים שיביא אתכם לפגישה עסקית חשובה בירושלים. ואם ככה, למה שלא תיתנו למחשב שמקבל נתונים מהבורסה להחליט מתי למכור או לקנות מניה ספציפית, או על מחשב שהוזן בנתונים על הגוף שלכם להחליט במה אתם חולים ומה הטיפול המתאים? ואם כבר, למה שלא תיתנו למחשב שמקבל נתונים מודיעיניים על מצב תוכנית הגרעין האיראנית להחליט אם ומתי לתקוף?

המדע של הכדור המסובב

אוקיי, מחשב במקום ראש ממשלה אולי נשמע כמו רעיון מרחיק לכת. אבל משחקי מלחמה הם קודם כל משחקים, ובכל משחק לוגי או אסטרטגי שתעלו בדעתכם יכול המחשב לנצח אתכם. אין מה לעשות בעניין הזה: למחשבים יש יכולת חישוב הרבה יותר גבוהה משלנו. אפילו אם ניקח את השחמט — שבו לא ניתן לחשב את כל הלוחות הסופיים האפשריים כי מספרם גדול ממספר האטומים ביקום — עדיין יש למחשב יתרון שהוא יכול לחשב כמות בלתי מבוטלת של צעדים קדימה. המספרים עובדים ככה: בלוח שחמט יש 16 כלים לבנים ו־16 שחורים. אם נניח שבכל תור יכול שחקן לבחור 20 צעדים אפשריים, אז שלושה צעדים קדימה זה 8,000 לוחות, ארבעה צעדים זה 160 אלף וחמישה זה 3,200,000. בכל פעם שהמחשב מגיע ללוח סופי הוא נותן לו ציון, כך שגם בחישוב של חמישה מהלכים קדימה הוא בוחר את הצעד שמוביל ללוח עם הציון הגבוה ביותר. עכשיו תראו לי מוח אנושי שיכול להשוות בין 3,200,000 אופציות.
כל זה מסביר למה משחקים נגד המחשב מסודרים בדרך כלל בדרגות קושי, ולמה זמן ההמתנה למהלך של המחשב הוא תמיד קצר יותר בדרגה הקלה יותר: זה פשוט בגלל שצריך לחשב הרבה פחות. מצד שני, בניגוד אלינו, מחשבים לא לומדים מניסיון ההפסדים והניצחונות של עצמם. אבל גם זה נכון רק אם לא מלמדים אותם ללמוד.
מה יקרה אם המחשב יזכור את כל מה שקרה בכל משחק שהוא ישחק? אם הוא ישמור את כל מהלכי השחמט שגרמו לו להפסיד, הוא יגרע מהציון שלהם בפעם הבאה בדיוק כפי שבני האדם לומדים על סמך הניסיון המצטבר שלהם. מספיקות כמה נסיעות בדרך הקצרה אך הפקוקה מהבית לעבודה לגרום לנו להעדיף דרך אחרת, אפילו ארוכה יותר, שמביאה אותנו ליעד מהר יותר. אנחנו גם לומדים שאם חבר מספר לנו על מישהי עם אישיות נהדרת, סביר להניח שהיא פחות יפה ממה שאנחנו מקווים. אנחנו מבינים את זה על סמך הידע האנושי שהצטבר בקומדיות רומנטיות או על סמך מה שקרה לנו בעבר. במקום לזכור הכל אנחנו מייצרים לנו חוקים, וזה בדיוק מה שעושים בתכנות: מבקשים מהמחשב לייצר חוקים.
ככל שניתן למחשב מדגם מייצג גדול יותר, כך תגדל הסבירות שהוא ימצא את החוקים הנכונים. זה שוב בגלל כוח החישוב המאפשר לנתח ולשקלל כמות אדירה של נתונים ולהגיע למסקנות. אם ראיתם את הסרט מבוסס־המציאות "מאניבול", אז זה בדיוק זה. שנים האמינו בספורט האמריקאי שבניית קבוצה היא משהו שנע בין אלכימיה לוודו, ופתאום בא בחור עם מחשב והפך את כל הבייסבול על הראש.
זה המקום לסייג ולומר שגם למדגמים יש מגבלות, כי המחשב שצריך לשמור אינפורמציה חייב להקצות לה שטח אחסון, ויש מחיר גם לזמן גישה לנתונים, אבל שטח האחסון נעשה זול יותר ויותר, והגישה נעשית זמינה ומהירה יותר. מהר מאוד אפשר להגיע למצב שהמחשב מנסח לעצמו סט של חוקים, אבל היתרון האמיתי שלו טמון במקום אחר: הוא תמיד פועל לפיהם, כי הוא אף פעם לא עייף או רעב או עצבני או מתרגש, או כל דבר אחר שגורם לנו בני האדם לעשות את מה שמוגדר בתחקירי תאונות כטעות אנוש.

הבאת פלט מהרופא?

ב־16 בדצמבר 2012 הכריזה חברת Playsight הישראלית על גיוס הון ראשוני בסך 1.5 מיליון דולר. לכאורה עוד הצלחה לתעשיית ההייטק הישראלית — ובטח לא הצלחה חסרת תקדים — אבל מסקנה מרחיקת לכת מציגה את עצמה ברגע שמנתחים את מה שעושה החברה הזאת.
היינו בספורט, ואנחנו עדיין שם: Playsight מפתחת מערכת שמשלבת מצלמות ותוכנה ומאפשרת לנתח בזמן אמת אירועים במגרשי טניס, גם לצורכי שיפוט וגם לצורך ניטור פעולות של ספורטאים. המוצר המרכזי של החברה נקרא SmartCourt, והוא מנתח את תנועותיו של השחקן ומעלה אותן לאתר של החברה. המערכת משתמשת בנתונים ובתמונות שאספה כדי לאפיין אירועים שונים על המגרש ולהציג אותם לספורטאים לצד נתונים סטטיסטיים ומספריים; המערכת יכולה למשל להעביר לטניסאים נתונים בזמן אמת על מהירות ההגשה שלהם. אבל מכל מה שנאמר פה, שתי המילים האופרטיביות הן "לצורכי שיפוט".
הרבה שנים מוצבות במגרשי הטניס מכונות שקובעות אם הכדור עבר או לא עבר את הקו בהגשה, והפיתוח של Playsight מוכיח שזה רק עניין של זמן עד שמחשבים יוכלו לתפוס פיקוד על כל האספקטים השיפוטיים בספורט הלבן (לרבות רובוטים חרוצים שיאספו את הכדורים במקום ילדי המקהלה האלה). בשלב הטבעי הבא ייווצרו מערכות שיפוט אוטומטיות בשאר ענפי הספורט, וטעויות של שופטים — שלא לדבר על פרשות מהסוג של "שופטים באדום" — ייעלמו מהעולם. אבל בעוד שהיכולת לעשות את כל זה היא באמת רק שאלה של זמן, השאלה האמיתית היא מתי ואם בכלל נהיה מוכנים לוותר על האדם שמאחורי המשרוקית. כלומר, תראו כמה מהר מאמץ הכדורגל טכנולוגיות סופר־חדשניות כגון מצלמות טלוויזיה.
במבט־על אפשר לראות שכל פעולות האבחון הקודמות לקבלת החלטה מבוססות על שילוב בין ידע לניסיון. זה נכון בספורט, במכונאות רכב, בשוק ההון, בחיזוי מזג האוויר וגם ברפואה. כשאתה בא לרופא הוא שואל מה כואב לך ובודק את הנתונים הפיזיולוגיים שלך. בהסתמך עליהם, על שנות הלימוד שלו ועל מקרים שראה בעבר או קרא עליהם בספרות המקצועית נותן הרופא את האבחון שלו ומחליט על דרך הטיפול המומלצת. את כל האינפורמציה הזאת אפשר להזין בקלות למחשב שיאבחן חולים בדיוק כמו הרופא. תיקון, יותר טוב ממנו: למחשב אפשר להזין לא רק את הידע של רופא אחד אלא את הניסיון המצטבר של כל הרופאים במדינה או בעולם ולקבל דיאגנוסטיקן אדיר שיש לו יכולת לבחון את מצב החולה באופן כללי, ולא להתמקד רק בבעיה הספציפית שעליה הוא מתלונן.
דוקטור האוס מכני זה לא עתידנות; כבר עכשיו יש תוכנות המזהות סימנים ראשונים של פרקינסון, בין היתר בהאזנה לקולו של אדם. יש גם תוכנות החושפות את הסבירות שחולה נתון סובל מהתעללות בבית על בסיס נתוני האשפוז הקודמים שלו. השאלה היחידה היא אותה שאלה: האם אנחנו, בני האדם, מוכנים לקבל אבחון של מכונה. פעם התשובה הייתה לא, אבל היום זה משתנה. מחקרים אחרונים הראו שיש עליה חדה במספר האנשים שמשתמשים באינטרנט כדי לאבחן מה הבעיה הרפואית שלהם באתרים כמו WebMD וזונחים את הרופא שלהם ממגוון של סיבות. סיבות כמו: הרופא לא זמין, הרופא מאד יקר, הרופא טעה בעבר והביטחון באתרים שקיימים כבר מעט שנים ושכל החברים מסביב משתמשים בהם.
אז אם הצלחנו אט אט להשתכנע במערכות מומחה רפואיות כדי לטפל בדבר הכי חשוב לנו, הבריאות, מה הלאה? האם בשלב הבא נצליח לעכל את הרעיון של מחשב כמקבל החלטות מדיניות? אם מחשבים שהוזנו בכל פרטי ההיסטוריה העולמית והאזורית ימצאו מתווה לוגי להסכם עם הפלסטינים, האם נאמץ אותו? אם שבב סיליקון יקבע שצריך להעלות או להוריד את קצבאות הילדים, האם נעשה ונשמע? כי אם כן, זאת תהיה הגשמה של הצירוף שנעשה כל כך פופולרי כאן בבחירות האחרונות: פוליטיקה חדשה.

 עוד חלקיק אלוהי

בסוף אפריל 2011 הציעה אמזון לגולשיה לקנות ספר במחיר של 23.6 מיליון דולר. כתב אותו פיטר לורנס, ושמו הוא The Making of a Fly: The Genetics of Animal Design. הסיבה למחיר האסטרונומי לא קשורה לסופר או לנושא הספר, אלא לשתי הוצאות ספרים שמוכרות אותו דרך אמזון. שתיהן השתמשו במחשבים שתמחרו את הספר בצורה אוטומטית על פי המחיר של ההוצאה האחרת; הראשונה תמחרה אותו פי 1.270589 מהמחיר של השנייה, והשנייה פי 0.9983 מהמחיר של הראשונה. זה גרם לפינג־פונג אינסופי שהעלה שוב ושוב את מחיר הספר, מה שהתגלה ותוקן רק כעבור כמה ימים. זאת דוגמה קלאסית לכישלון של מחשב בקבלת החלטות.
יש עוד המון דוגמאות כאלה, מהשטות של תוכנת הניווט Waze שכיוונה נהגים לנתיבי איילון למרות שהיו סגורים עקב הצפה ועד לצניחת מדד הדאו ג'ונס בגלל מסחר של ברוקרים אוטומטיים (וזה עוד בלי לספור באגים שגרמו לטילים להתפוצץ או למכונות רנטגן לנפק מנה קטלנית של קרינה לחולים). אבל כל התקלות האלה פתירות. במקרה של הספר היה צריך רק ללמד את המחשב מהו גבול התמחור העליון, ואת Waze יש צורך לחבר למחשבי משרד התחבורה כדי שתקבל עדכונים על מצב הכבישים לא רק מהנהגים. ואחרי כל זה, באגים בתוכנה הם בדרך כלל טעויות של מתכנתים. של בני אדם.
רוב תושבי כדור הארץ מאמינים באלוהים ובזה שהוא יודע מה טוב לנו, גם אם לפעמים טוב לנו מבול שמשמיד את כל האנושות ומשאיר רק משפחה אחת של צדיקים ושתי חיות מכל סוג. אלוהים די נעלם מהסצנה ב־2,000 השנה האחרונות, אבל זה לא מפריע למי שמאמין לחכות ליום שישוב למרכז הבמה ויחליט בשבילנו מה טוב. אני פתחתי את הטקסט הזה בהנחה שנשמעת מופרכת לגמרי, אז רק טבעי שאסיים בעוד אחת: מה אם אלוהים יופיע בפנינו אחרת ממה שמקובל לחשוב? מה אם המשיח לא יגיע על חמור לבן אלא יישלף ממעבדת מחקר אחרי שנבין טוב יותר את מבנה המוח האנושי, ואחרי שכוח החישוב יגיע לרמה שתעלה בעוצמתה על זאת של כל המוחות האנושיים ביחד?
תחשבו על זה רגע, סתם לצורך השעשוע האינטלקטואלי: מחשב אלוהי שיחליט, ממש כמו האל המקורי, שהדבר הכי טוב לנו זה מבול שישמיד את המין האנושי מפני שהיעדר היכולת לחשוב באופן רציונלי גרם לנו ליצור ציוויליזציה מוכת מלחמות, עוני וחוסר צדק. מצד שני, המחשב האלוהי יהיה מאוד חכם. אולי הוא ימצא דרך להציל את הכדור הזה בלי להשמיד אותנו. כל שנותר הוא לחכות ולראות, ובינתיים אולי לשחרר קצת שליטה ולאצול את הסמכות לקבוע מתי צריך לשרוק לנבדל.