שליחות קטלנית פינת וול סטריט: בינה מלאכותית זה כאן

בינה מלאכותית הופכת לחכמה יותר מדי שנה • תוכנות כבר מחליטות היכן להשקיע את הכסף שלנו ואילו מודעות להציג כדי שנבזבז אותו • כך היא הופכת את חיינו בלי שנרגיש

12/07/2018 11:46
אמיר עוז, יועץ טכנולוגי לארגונים

בתחילת יולי 2018 חשפה יבם (IBM) בחיפה את Project Debater: בינה מלאכותית שנוצרה כדי להתווכח. ליתר דיוק – להדיין בדיבייט. כנגד המכונה ניצבו דיבייטרים אנושיים. הנושאים שעלו לדיון: האם ממשלות צריכות לחדול לעקוב אחר אזרחים והאם יש להמשיך בפיתוח הנדסה גנטית.

מה נדרש ממכונה כדי להשתתף בדיבייט? יכולות זיהוי דיבור, עיבוד מידע, הבנת טענות היריב, בניית טיעוני נגד, שליפת מידע לגיבוי הטיעונים וכושר ניסוח משכנע. מגוון יכולות אנושיות להחריד.

לפי העיתונאים שנכחו באירוע, המערכת עמדה באתגר בהצלחה מרובה. היא ניסחה טיעונים שגיבתה במחקרים, ואפילו הפגינה חוש דרמטי כאשר ציטטה את איינשטיין בדיון על הנדסה גנטית ("אלוהים לא משחק בקוביה"). באותו סיבוב היא גם זכתה רשמית.

מפתחי המערכת טוענים שהערך העיקרי שלה הוא לספק מידע למקבלי החלטות, אבל חייבים להודות שעוצמה כזו של בינה מלאכותית גורמת לחוסר נוחות. לאן ממשיכים?

עליית המכונות: המהפכה החלה

מהפכת הבינה המלאכותית נולדה מהצורך לשלוט במאסות הנתונים שיצרנו בעידן המידע: בבנקים, בכבישים, ובשאר המערכות שמניעות את עולמנו. מערכות AI שמסוגלות ללמוד, לעבד מידע ולהתפתח עצמאית. הן הפתרון.

מפתיע היכן בינה מלאכותית יכולה להשתלב. לדוגמה, הסטארט-אפ הישראלי אגורי (Augury) משנה את עולם תחזוקת המכונות. כאשר מתגלה תקלה במכונה במפעל, הטכנאי מקליט עם סמארטפון את הקולות שמשמיע המכשיר. ה-AI של אגורי מנתח את צלילי המנוע, משווה עם מאגר המידע וכך מזהה את התקלה, ממליץ על תיקון וממשיך ללמוד.

בינה מלאכותית חוסכת זמן גם במשרד. הסטארט-אפ נוונמייל (Knowmail), גם הוא ישראלי, פיתח בינה מלאכותית לחסכון זמן באמצעות תעדוף מיילים. היישום מיועד למגזר העסקי, שם עובד עשוי להקדיש שעות כל יום למיון מאות המיילים הנכנסים. המערכת מתלבשת על Outlook ומתעדפת בעזרת ניתוחי התנהגות, טקסט ועוד פרמטרים. לפי ערן אברמסון, מנהל השיווק של החברה, נווונמייל חוסכת מדי יום שעות של עבודה לאלפי משתמשים. מיקרוסופט (Microsoft) כבר שילבה אותה בקורטנה – העוזרת האישית שלה ואושיית בינה מלאכותית בעצמה.

מכונת הכסף: כשבינה מלאכותית מנהלת את העולם

אם יש מגזר שבו הבינה המלאכותית התבססה, מדובר בתחום הפיננסי. לדוגמה, שיווק: גם אתם תוהים איך אתם מקבלים מודעות לדברים שאתם הכי צריכים? זה לא סתם. מערכות הבינה המלאכותית העוצמתיות של גוגל (Google) ופייסבוק (Facebook) מסוגלות לזהות תחומי עניין ודפוסי התנהגות של משתמשים ואפילו לחזות דברים שירצו בקרוב. במקביל, לאחרונה הציגה עליבאבא (AliBaba) כלי בינה מלאכותית לכתיבת מודעות. היישום מסוגל לכתוב עד 20,000 שורות בשניה, בסגנונות שונים (מלהיב, רציני ועוד) וכבר נמצא בשימוש מספר מותגים כדוגמת רשתות האופנה אספריט (Esprit) ו- דיקיס (Dickies).

בינה מלאכותית נמצאת גם בשירות הגופים הפיננסיים הגדולים בעולם. ענקית ההשקעות ג'יי פי מורגן (J.P Morgan) הציגה במרץ 2018 את Contract Intelligence (בקיצור – COiN). המערכת סורקת חוזים ומסמכים פיננסיים, מאתרת סעיפים חשובים ומפיקה מהם המלצות מבוססות. גופים פיננסיים רבים גם השקיעו בפיתוח צ'אט בוטים ועוזרים וירטואליים שיספקו ללקוחות שירותי בנקאות וייעוץ השקעות. תחום נוסף שבו בינה מלאכותית כבר משולב עמוק בע9ולם הפיננסי הוא אבטחה.סיטי בנק (City Bank) לדוגמה, השקיעה סכום עצום בסטארט-אפ פרידזאיי (Feedazi), שמתמקד בסיכול הונאות סייבר.

מרשימים מכולם הם יישומי הבינה המלאכותית למסחר. לדוגמה הכלי Kavout סורק מידע מסחרי, לומד, ועוקב אחר תנודות. כך הכלי מייצר תחזיות וממליץ על מהלכים רווחיים – מה לקנות או למכור ומתי. מערכות דומות כבר סוחרות בעצמן. על הסוחר נותר בעיקר לפקח וליהנות מהרווחים.

"סירי, האם המכונות ישתלטו?": שאלות מהעתיד למפתחים מההווה

אין מה לעשות- מכונה לומדת זה מטריד. סרטי שליחות קטלנית הם כנראה הדוגמה המוכרת ביותר לפחד מהתוצאות. המקרה של Tay, הבינה המלאכותית של מייקרוסופט, שתוך יממה החלה לפרסם ציוצים גזעניים (2016), מוכיחה שתרחישים כאלו הם אפשרות ריאלית.

אז איך ליהנות מיתרונות הבינה המלאכותית בלי להביא לאובדנינו? רגולוציה ממשלתית וחינוך לאחריות מפתחים הם צעדים נכונים. אך יתכן ונדרשים גם מנגנוני הגנה. כמו שלושת חוקי הרובוטיקה שהגה גדול סופרי המדע הבדיוני אייזיק אסימוב כבר בשנות השלושים:

  • לא יפגע רובוט באדם ולא יניח במחדל שאדם יפגע.
  • רובוט חייב לציית לפקודותיו של אדם, כל עוד אינן סותרות את החוק הראשון.
  • רובוט ידאג לשמור על קיומו ושלמותו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או השני.

בעידן שבו האיומים עלינו נראים כמו מדע בדיוני, יתכן ושם גם נמצא הפתרון.

הכותב כיהן כמנמ"ר מימון ישיר וכיום משמש כיועץ טכנולוגי לארגונים.

תגובות

(4)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

  1. יהושפט גבעון

    מבחן טיורינג הוצע על-ידי טיורינג כבדיחה סרקסטית (במאמרו המצוטט ביותר מ-1950) וכתגובה כואבת על ההתעלמות הנרחבת מעבודתו ומעבודת עמיתיו על הגדרת מושג החישוב היעיל וממשמעותה.

  2. ליאת

    כתבה מעולה. חשוב לדעת ולהבין את היתרונות ואת הסכנות.

  3. יואל דוידי

    חשוב לזכור שהמבחן המקובל ביותר לבינה מלאכותית הוטבע בשנת 1950 על ידי אלן טיורינג, וידועה בשם "מבחן טיורינג".

  4. מירית שר

    כתבה מאוד מעניינת. משום מה בישראל לא מבדילים בביצועי הבינה המלאכותית: חזקה (חיקוי של פעילות השכל והחשיבה) וחלשה שבה התוכנה מבצעת פעילות בתחום יישום מוגדר כגון משחק שחמט או מומחיות ספציפית אחרת.

אירועים קרובים