"המשילות – רכיב מפתח בעולם ה-AI"

"מהפכת הבינה המלאכותית אינה 'עוד' מהפכה, כדוגמת השינויים בעולמות התוכנה או הווירטואליזציה. ארגונים עוברים כיום משלב הפיילוט לייצור, ומשלבים את ה-AI במערכות ה-IT שלהם. אז עולה סוגיה מרכזית: המשילות בתחום. הריבונות בעולם ה-AI מעניינת מאוד: יש מדינות שמתערבות בפעילות ענקיות הטק ומחליטות למי ניתן לשחרר מודלי שפה גדולים ולמי לא. המשילות, הרצון לשלוט במשאבי הנתונים, נועדה למנוע מצב שבו נתוני הארגון הרגישים נמצאים בסיכון. נדרשת בקרה על סוגי הנתונים שבהם נעשה שימוש, על היקף הנתונים שהעובדים מעלים ועל היעד שאליו הם מועברים", כך אמר בני מלכה, CTO ומוביל תחומי AI ואסטרטגיה עסקית בדל ישראל.

מלכה דיבר בפורום E-Gov מבית אנשים ומחשבים, שנערך בשיתוף דל ישראל. כותרת האירוע הייתה "Cyber Resilience & AI – בונים חוסן לאומי בעידן של איומים משתנים", והוא התקיים בשבוע שעבר במלון ממילא בירושלים. את המפגש הנחה יהודה קונפורטס, העורך הראשי של הקבוצה.

"אנו מטמיעים שתי שכבות IT נוספות: חוסן אבטחה וקיימות"

לדברי מלכה, "בכל שלושת שדות הפעילות של החברה – סביבת שולחן העבודה, הדאטה סנטר והסביבה מרובת העננים, וכן ב-AI – אנו מטמיעים שתי שכבות IT נוספות: חוסן אבטחה וקיימות".

עוד לדבריו, "סוגיה נוספת בתחום היא העלויות. כשהארגון מאפשר למודלים לפעול באופן עצמאי, הוא עלול לגלות בסוף החודש חשבונית של מאות אלפי דולרים, גם עבור טוקנים שלא נעשה בהם שימוש בפועל. אלו עלויות משמעותיות שמובילות לתמחור בעייתי. אחת החלופות היא עבודה עם מודלים פתוחים, שיכולה להביא לחיסכון. החלופה מתכתבת עם מהפכת הענן מלפני יותר מעשור: לאורך השנים ראינו שתמיד יש מקום למערכות שחלקן בענן וחלקן און-פרם. ה-AI, במובן זה, לא פחות 'נפיצה' מהענן"

"אנו מציעים סביבת עבודה אחודה לניהול ולהגנה על הנתונים, לצד הפעלת עומסי AI באופן עקבי, ללא תלות במיקום הנתונים", ציין מלכה.

"דל (Dell Technologies) מספקת שילוב של פלטפורמות ענן, תשתיות נתונים ויכולות AI מקצה לקצה. באמצעות Dell AI Factory with NVIDIA, ארגונים יכולים להקים ולהפעיל AI מקצה לקצה בסביבתם, תוך מענה לריבונות המידע, עמידה ברגולציה והבאת ה-AI אל הנתונים עצמם. כך ה-AI בונה הקשרים, מספקת תוצרים, נותנת מענה לאתגרי תחנות הקצה – והכל תחת מעטפת אבטחה".

"העיר אמרילו ממוקמת בצפון-מערב טקסס, וחוותה בשנים האחרונות כמה אסונות טבע, ובהם הצפות", סיפר מלכה. "במהלך השנים השתנתה אוכלוסיית העיר והפכה למגוונת יותר, כך שכיום תושביה דוברים יותר מ-60 שפות, וכרבע מהם אינם דוברי אנגלית. אנשי דל, בשיתוף העירייה, בנו עוזרת אישית וירטואלית לטובת רווחת התושבים ושירותם. הייחוד שלה הוא בהתאמה האישית של העוזרת מבחינת גזע, מראה, שפה ומבטא בהתאם למקבלי השירות. הפרויקט הוביל לגידול בהיקף צריכת השירותים מצד התושבים ולהעמקת הקשר בינם לבין העירייה. עוד התברר כי תושבים מבוגרים משוחחים עם העוזרת במשך זמן רב בשעות הבוקר. פרויקט דומה ביצענו גם עבור שירות הדואר של ארצות הברית (United States Postal Service), עם 'קלרה': עוזרת אישית וירטואלית שחושפת מידע ונתונים על כלל שירותי הדואר, מועדי פתיחת סניפים ועוד".

"ארון פתרון"

"אנחנו יודעים להגיע עם 'ארון פתרון' להרצת מודלים עם דאטה", אמר מלכה. "במעין מערכת צ'אט פנימית, קיימת יכולת לתשאל נתונים בכלל השכבות – דאטה, מחשוב קצה, אחסון, רישות וניהול. עליהן ניתן לבנות יישומים נוספים, וכך נוצר AI Factory. כל זאת, בלא שימוש אפילו בטוקן אחד, ובמטרה לייצר חיסכון. אנבידיה (NVIDIA) מספקת פלטפורמת קוד פתוח, NemoClaw, שמאפשרת לארגונים להפעיל סוכני AI המבצעים משימות עבור עובדים בתוך מערכות ארגוניות. הסוכן מחולל שינוי אמיתי, מבצע עבודות חכמות וצריך רק להביא בחשבון את עלויות הטוקנים".

"AI היא ארכיטקטורה, לא אפליקציה", סיכם מלכה. "היא כאן כדי להישאר, ואנו מספקים באמצעותה רמות ערך גבוהות. את ה-AI צריכה להביא אל הדאטה – ולא להפך. אם לא נזין אותה בדאטה, היא תהיה 'רעבה'. נדרשת ארכיטקטורה קרובה ל-GPU ובמקרים רבים נכון יותר למקם אותה בקרקע. עלות האנרגיה הופכת לאתגר משמעותי מאוד, ולכן חשוב להבין כיצד לעשות זאת נכון".