בינה מלאכותית, IoT ואנחנו – הזמן להתחיל לדאוג?

מאת דרור בן דוד, ראש מחלקת אמצעי לחימה בחייל אוויר לשעבר, ראש תחום רשתות נוירונים רבודות בחברת "מטריקס" ומרכז נושא הגנת סייבר על מערכות פיזיות מורכבות.

מה הופך בני אדם לאנושיים? האם מספיקה רק היכולת לחוש ולהכיר את הסביבה? בני האדם יודעים לנתח מה נמצא סביבם ולהגיב בהתאם. עם התפתחות תחום הבינה המלאכותית, לא מספיק שתהיה לה את היכולת לחוש ולהרגיש,  כדי להיות כוללנית ולרוונטית לכל תחומי החיים היא צריכה גם את היכולת להבין ולהגיב לסביבתה באופן המתאים לה. האם הבינה המלאכותית בדרך לשם? עם כניסת ה-IoT לחיינו, עולות שאלות שבקרוב מאוד יכולות להיות מהותיות.

מאפיין עיקרי של רוב בעלי החיים הוא היכולת להתנהל בתוך חברה – משפחה, שבט, עיר או כל מבנה חברתי אחר. כדי שניתן יהיה לקיים חיים חברתיים יכולת החישה ותגובה בזמן אמת לא מספיקות, צריך לדעת להגיב באופן שונה לאותו הגירוי בהתאם לסיטואציה. יכולת זו נשענת על היכולת של האדם לשמור אצלו בזיכרון מודלים המתאימים לסביבה בה הוא חי. זה מה שמאפשר לאותו אדם להגיב באופן שונה לדפיקה בדלת אם הוא יודע שזה חבר או להגיב בצורה אחרת לאדם זר. כלומר, האדם יודע להתאים את תגובותיו על פי ההקשרים והזיכרונות שיש לו ועל סמך ניסיונו המצטבר, ולא רק כתגובה למה שהוא חש ב"זמן אמיתי".

אם אנחנו משווים את התפתחותה של הבינה המלאכותית להתפתחותו של האדם, ניתן להסיק שהתפתחות זו מחייבת יכולת להחזיק ולזכור מודלים לגבי הסביבה. תחום זה הולך ומתפתח בזכות ההתפתחות בעולם הפרסום. הצורך האדיר ליצר דרכי שיווק ממוקדות לכל צרכן הביא לכך שיותר ויותר תאגידים מחזיקים כיום "מודל אינטרקציות מוכלל" – פרופיל של המשתמשים ולקוחותיהם. בניגוד לעבר, פרופיל המשתמש אינו מכיל רק מידע כמו גיל, מין, מקום מגורים וכדומה – אלא כל הקלקה, צפייה באינטרנט או קנייה שהמשתמש עשה. המידע הרב שהארגונים אוספים משמש אותם כתשתית "ביג דאטה" המאפשרת להם לחזות מה הסיכוי שמשתמש ירצה מוצר מסוים וכך להתאים לו את הפרסומת הרלוונטית.

פרופילי המשתמש האלו הם בדיוק מה שהבינה המלאכותית הכוללת צריכה. אנחנו יכולים להטמיע בבינה המלאכותית את מנועי הפרסונליזציה כמו ברשתות החברתיות, וכך היא תדע להתאים את התנהגותה  ולהתנהג באופן שונה בהתאם לסיטואציה. אפשר כבר היום להגדיר לבינה מלאכתותית שכזו חברים, ידידים, אויבים, ואנשים ספציפיים והיא תדע להתנהג בהתאם. בעתיד הבינה המלאכותית תעזר במידע הרב שיש לה ותתנהג באופן שונה לחתולי רחוב לעומת חתולים מבויתים, היא תדע להתאים את התנהגותה לחיילים לעומת ילדים, אנשים לבושי חליפות לעומת "הומלסים" ועוד.

היכולת לקדד את המרחב

אם נשאל אדם שעומד על חוף של אגם קטן איך להגיע לעץ הנמצא בצידו השני של האגם הוא יסביר לנו שעלינו ללכת לאורך החוף ולא לחצות האגם. בשביל מיומנות זו נדרשת היכולת לראות את הסביבה, להבין את ההבדלים של הקרקע לעומת המים ולהסיק שהדרך הטובה ביותר להגיע לעץ היא הליכה לאורך החוף. לא נדרש  זיכרון או יכולת מיפוי של המרחב, אלא היכולת להבנת השטח.

אבל מה קורה אם אותו אדם נמצא עם חבר שלו במרחק כמה שעות הליכה מהאגם המדובר והוא רוצה להסביר לחברו איך להגיע אל העץ? במקרה זה נדרשת גם היכולת לתקשר בינהם וגם לתאר את המרחב על גבי מפה. יכולת זו נדרשת מ"בינה מלאכותית כללית" אם אנחנו מצפים שהיא תהיה מסוגלת לנוע במרחבים פיזיים דומים לאלו שבהם בני האדם מסתובבים.

כיום ניתן לבנות יישות שיש לה יכולת חישה דומה לזו של בני אדם. יכולת להבין מה היא רואה, שומעת או מרגישה, יכולת לזכור דברים ולהתמצא במרחב. ישות כזאת שיכולה גם לנוע ולהשפיע על הסביבה, כמו למשל רובוט צבאי, מכונית אוטונומית, טנק או מטוס ללא טייס – בהחלט אפשרי שהיא תתפתח להיות בינה מלאכותית כללית.

השיטה שבה רנ"רים (רשתות נוירונים רבודות) לומדים על בסיס צפייה במציאות (Reinforced Neural Networks) הודגמה לאחרונה במסגרת התחרות בין אלוף העולם במשחק "גו" לבין רנ"ר שמומש על רשת מחשבים של חברת Deep Mind. שיטה זו מדגימה מצב שבו הבינה המלאכותית יכולה להחליט ללמוד תחום שאף אחד לא הנחה אותה ללמוד, כל מה שנדרש זה שהיא תחליט שיש ערך להתקדם בכוון הזה, ובסופו של דבר היא תפתח יכולות יותר טובות מהיכולת האנושית בעולם תוכן שהיא בחרה.

נשאלת השאלה, האם התפרצות פתאומית של בינה מלאכותית כללית יכולה לקרות שלא בדרך דומה לאופן שבו התפתחו בני האדם. למשל, האם זה אפשרי שיום אחד יופצו דרך הדואר האלקטרוני מאות מיליוני קבצים שמקדדים את היכולת להדפיס חיידק (או DNA אנושי) שלא היה קיים בעבר. אם חלק מאותם קבצים יגיעו למדפסות תלת מימדיות שיכולות להדפיס את אותו חיידק, אנחנו עשויים לקבל צורת חיים שלא הייתה קיימת קודם ויש לה יכולת התרבות.

נכון ל-2016, לפי ה-Business insider יש למעלה מ-250,000 רובוטים תעשיתיים בעולם. אם נסתכל על  הרובוטים במפעלים מודרניים לייצור מכוניות ביפן או גרמניה, האם זה אפשרי שרובוטים אלה יחליטו על דעת עצמם לייצר רובוט בעל יכולת תנועה ובינה מלאכותית ושרובוט זה "יברח" אל החופש?

נניח לרגע שכן תיווצר בינה מלאכותית שיכולה להחליט לבד מה היא לומדת ושתהיה לה את היכולת להגיע לרמת מיומנות לפחות כמו של בני אדם, אם לא יותר. האם זה יהיה הרגע שבו המכונות יגברו על בני האדם? מכיוון שמדובר במכונה, היא לא מתעייפת, אין לה מגבלת חישוב וכמות זיכרון ויש לה נגישות רצופה לענן שבו יש כמות בלתי מוגבלת של משאבי זיכרון, מידע ויכולת חישוב. האם נדע להתמודד עם ישות כזאת?