"LLM זה לא לדפוק עם פטיש ולקוות שזה יעבוד"

"ארגונים רבים משתמשים בלי ידיעתם במודלי השפה הגדולים (LLMs) כפטיש ובכל פרויקט כמסמר שאם 'נדפוק עליו' עם מודל שפה, אז הוא יעבוד. אלא שלפעמים זה עובד והרבה פעמים לא – מדברים על מספר כואב ונמוך של 20% הגעה לפרודקשן", כך אמר אסי דהן, סמנכ"ל מדעי נתונים ובינה מלאכותית ב-ONE datAI מקבוצת וואן טכנולוגיות.

דהן דיבר בכנס Cloud for Startups של Lynx מבית אנשים ומחשבים, שנערך באחרונה בבורסה בתל אביב. הוא הזמין אנשים ללמוד את כללי האצבע שמביאים את צוותו להצלחה.

ONE datAI הוא שמה החדש (החל ממאי האחרון) של חטיבת ONE BI. החלפת השם מדגישה את המיקוד של החברה בעולמות האנליטיקה, הנתונים והבינה המלאכותית. החטיבה משרתת לקוחות רבים מתעשיות וענפים מגוונים, ומציעה פתרונות הוליסטיים בתחומים שבהם היא עוסקת. אלה כוללים פיתוח ויישום אסטרטגיות ופלטפורמות דאטה, תשתיות טכנולוגיות, ניתוחים אנליטיים ופתרונות בתחומי הבינה המלאכותית ומדעי הנתונים. זאת, על מנת לספק מענה אינטגרטיבי, מדויק ומותאם לצרכים הייחודיים של כל ארגון.

דהן העלה בדבריו כמה שאלות: איך לבחור ולמדוד ב-LLM? מתי לפתח משהו מתוחכם יותר ומתי מספיק להשתמש ב-API בלבד? ומתי להשתמש בלמידת מכונה ישנה וטובה? לפעמים ה-LLM עובד, אך הוא יקר מדי, איטי מדי או שהוא לא מספיק טוב לפרויקט הספציפי – ועדיין, עובדים ומנהלים בארגונים מנסים להמשיך לעבוד איתו, במקום לפנות לפתרונות אחרים". הוא ציין שבעצם צריך לבחור עבור כל פרויקט את הכלי שמתאים לו. כך, למשל, לא פותחים בורג עם פטיש.

הוא דיבר על תהליך Dev – כלומר, מחזור החיים של יצירת תוכנה או אפליקציה. מדובר בשרשרת שלבים מובנים, שנועדו להפוך רעיון למוצר עובד, איכותי ויציב. דהן הציג את המשולש, שאיתו בוחרים פרויקט. "חשוב להתחיל מהצורך העסקי ומשם לוודא שהדאטה שיש לארגון מאפשרת פתרון לבעיה הזו, וכמובן זמן ועלויות פיתוח", אמר. "ברגע שהכול מובן ומתכנס, רק אז יש להעביר את זה למי שאמורים לבצע את המחקר והפיתוח. בזמן הפיתוח יש להשתמש במשולש השני – להתייחס לעלות השוטפת, לזמן התגובה של כל מודל ולאחוזי הדיוק שאפשר לקבל מכל מודל/דאטה".

"ה-GenAI – רכיב אחד בעולם ה-AI"

בהמשך שאל דהן: "האם GenAI זה AI? לא. AI היא כל פעולה חכמה שהמכונה יכולה לבצע, כולל למידת מכונה ובתוך זה למידה עמוקה, שמבוססת על רשתות נוירונים. רשת ניורונים ענקית יוצרת את ה-GenAI/LLM, שהיא רק רכיב אחד בתוך עולם שלם".

טל דגן, מייסד משותף ומנכ"ל קלאודי. צילום: ניב קנטור

דובר נוסף באירוע היה טל דגן, מייסד משותף ומנכ"ל קלאודי. הוא אמר כי החברה היא "שותף Tier-1 במיקרוסופט. קלאודי מציעה פתרונות בכל עולמות הענן, לרבות המעבר לענן והעלאת המוצר למרקטפלייס. אנחנו חברה שמהווה One Stop Shop לענן ולסטארט-אפים, והכוח שלנו הוא בזה שאנחנו עובדים מול השותפים הנכונים".

"בין היתר", אמר דגן, "אנחנו מספקים שירותי ייעוץ, עם תוכנית ייעודית לסטארט-אפים בענן. אנחנו נותנים במסגרת התוכנית קרוב ל-100 שעות ייעוץ בחינם. האינטרס שלנו הוא שיתוף פעולה ארוך טווח עם הסטארט-אפים".

"ההתפתחות הבאה שלנו היא הבינה המלאכותית", הוסיף. "היא פוגשת אותנו יום יום. אצלנו, ה-AI היא לא רק מילת באזזז. אנחנו נמצאים בעולמות הבינה המלאכותית הסוכנית (Agentic AI) וה-Vibe Coding. אנחנו מסייעים לחברות בביצוע Vibe Coding. לטובת הפעילות הזאת יש לנו את הפתרון Cloudi Code, שהתחיל כפיתוח פנימי שלנו. הוא בא לעזור לדלוור יותר מהר".