"האתגר: כיצד לגרום למודל ה-AI להכיר את המידע הארגוני"

"לגוגל יש היצע עשיר בעולם שרותי ומודלי ה-AI. אלא שבסופו של יום, אלה מודלים שאומנו על ידע כללי. כשאנחנו באים לארגונים, ובתוכם לארגוני ציבור וממשל, או לכאלה שלא רוצים לחשוף את המידע הפנימי שלהם לעולם החיצוני, לאינטרנט – האתגר הוא כיצד לגרום למודל להכיר את המידע הארגוני ולתת תשובות חכמות, שרלוונטיות לארגון". את הדברים הללו אמרה שרון מנדל-ברין, ארכיטקטית, מומחית ענן ו-AI ב-נס קלאוד, קבוצת הענן של נס.

מנדל-ברין השתתפה בוובינר שנערך שלשום (ג'), שבו הוצגו היכולות של גוגל קלאוד בתחום ה-AI. המפגש הווירטואלי נשא את הכותרת Google Cloud – GenAI in Action (גוגל קלאוד – בינה מלאכותית יוצרת בפעולה).

לדבריה, "היצע שירותי הבינה המלאכותית ולימוד המכונה של גוגל הוא רחב – ממודלים 'מהקופסה' ועד לאימון מודלים מאפס. יש כל מיני סוגים של מודלים, המתמחים בשפה, בווידיאו, בתמונות… – כחלק מהשירותים שגוגל מציעה לארגונים שרוצים להטמיע יכולות AI באפליקציות שלהם".

"בשבוע שעבר", אמרה מנדל-ברין, "גוגל הכריזה על Gemini 2.0 – גרסה חדשה של משפחת מודלי הבינה המלאכותית שלה, שכוללת גם יכולות חדשות סביב סוכנים חכמים, שמקדמים אותנו לעולם שבו התוכנה היא הרבה יותר עצמאית. יכולות מתקדמות אלה ילוו אותנו ב-2025".

שילוב של חיפוש סמנטי מתקדם וחיפוש מבוסס הקשרים

"כדי שארגונים יממשו את מלוא הפוטנציאל של היכולות המתקדמות של גוגל וחברות אחרות", ציינה מנדל-ברין, "אנחנו מציעים פתרון RAG (ר"ת Retrieval Augmented Generation), שמשלב את המידע הארגוני בהקשר שמועבר למודל הבינה המלאכותית היוצרת – וכך מבטיח שהתשובות שמתקבלות יהיו רלוונטיות לארגון".

"החיבור בין המודל – שמכיר שפה, תמונות ו-וידיאו – למידע הספציפי בארגון נעשה על בסיס שירותי RAG. אנחנו יודעים לשלב את שתי היכולות – חיפוש סמנטי מתקדם של גוגל וחיפוש מבוסס הקשרים – עם היכולת למענה על בסיס שליפת מידע רלוונטי מהארגון, ואז ליצוק לתוכו הקשר (קונטקסט) עם מודל חכם של GenAI. זה מביא לכך שמתקבלת תשובה פרטנית, מדויקת ורלוונטית – על בסיס המידע הארגוני, ולא זה שבאינטרנט", הוסיפה.

היא נתנה כדוגמה "חברת ביטוח שרוצה לצייד את המוקדנים ביכולת להציע הצעה ספציפית, לגבי פוליסה מסוימת וסעיפים בתוכה. פתרון ה-RAG יודע לבחור את המידע המדויק והרלוונטי משלל הפוליסות של החברה. לפי השאלות, שנשאלות כטקסט חופשי, הפתרון יודע לזקק ולשלוף מהמערכת את הפוליסות והסעיפים הרלוונטיים בהן, ולספק תשובה מדויקת, שתואמת את נהלי הארגון".

כך, הסבירה, "ניתן לספק מענה ממוקד, רק מתוך המידע הפנים ארגוני, עם הצעה ספציפית ללקוח. בנוסף, הפתרון שם דגש על מתן מענה לאתגרי אבטחת המידע והגנת הפרטיות: המידע הארגוני לא יוצא החוצה, אלא נשאר בענן הפרטי של הארגון. עוד מובטח שהמודל לא יאומן על נתוני הארגון ופרטיות המידע מובטחת בכל חלקי הפתרון".

מנדל-ברין הוסיפה ש-"מערכת RAG טיפוסית בנויה משלוש תתי-מערכות: האחת טוענת את המידע הארגוני ומסדרת אותו כך שיהיה קל לשליפה חכמה, עם חיפוש מבוסס הקשרים ואסוציאציות בין מילים, בדומה לחיפוש שפה טבעית; השנייה יודעת לקחת את השאלה ועל בסיסה לשלוף את המידע, להעבירו כהקשר למודל ה-GenAI ולקבל ממנו תשובה; והשלישית מספקת שירותי מדידה וניטור ייחודיים ל-AI – למשל, מי שאל מה".

לסיכום אמרה מנדל-ברין כי "הארגון הוא זה שמחליט האם המודל והמידע שבו יצאו החוצה. כשרוצים לשמור על מערכת סגורה לגמרי – אם מנסים לאתגר את המודל עם שאלות שלא מתוך המידע הארגוני, הוא ישיב שהוא לא יכול לעשות זאת. כך אנחנו מאפשרים למודל להכיר את הארגון, הנהלים והחוכמה הארגונית, עם מעטפת של פרטיות ואבטחה".

זאב שניר, מוביל תחום גוגל ב-נס קלאוד. צילום: יח"צ

"מספר הפרויקטים שנבצע בעולמות ה-AI והדאטה יצמח ב-2025"

דובר נוסף במפגש הווירטואלי היה זאב שניר, מוביל תחום גוגל ב-נס קלאוד. הוא אמר כי "גוגל מובילה בעולם ה-AI. עם ההכרזה על Gemini 2.0 הוכרז גם Gemini 2.0 Flash, שמחליף את הקודם, Flash 1.5. הוא מהיר עד פי שניים ומסוגל לבצע משימות מורכבות יותר באופן עצמאי, כולל בעת שילוב עם אפליקציות ושירותים שמציעות חברות צד שלישי. המודל יכול לקלוט נתונים בכמה פורמטים, ואז להפיק באמצעותם תמונות שכוללות טקסט ואודיו – ובמגוון שפות".

הוא ציין כי "אנחנו שותף מוביל של גוגל, כולל במסגרת הענן הממשלתי, נימבוס. אנחנו עורכים פרויקטים רבים בעולמות ה-AI והדאטה. כבר השנה ראינו לא מעט פרויקטים שכאלה, ואנחנו מעריכים שמספרם יצמח ב-2025".