AI בארגון: מדריך משפטי למקבלי ההחלטות הטכנולוגיים

כמנהלי מערכות מידע אתם כבר יודעים שבינה מלאכותית היא לא עוד "טכנולוגיה עתידית". היא כאן – בצ'טבוטים של שירות לקוחות, במערכות HR שמסננות קורות חיים, באלגוריתמים שמנהלים שרשראות אספקה, ובכלי ניתוח נתונים שמניעים החלטות עסקיות. השימוש המואץ בטכנולוגיות ה-AI שחדרו לחיינו בסערה, יוצר מהפכה של ממש בתחומי פעילות רבים. אבל בזמן שאתם מיישמים פתרונות AI מתקדמים, יש משהו שלעיתים נשכח: כל החלטה טכנולוגית היא גם החלטה משפטית. המסגרת המשפטית המסורתית לא תוכננה לעולם של AI והכללים – משתנים בזמן אמת. עם תחילת השנה החדשה וחדירת הטכנולוגיה לחיינו, השאלה היא: האם אתם מוכנים?

המציאות המשפטית החדשה מציבה שאלות שלא התמודדנו איתן בעבר. כאשר אלגוריתם מקבל החלטות אוטומטיות – מי נושא באחריות כשהוא טועה? כאשר מערכת למידת מכונה מעבדת נתוני לקוחות – איך מוודאים עמידה בחוק הגנת הפרטיות? וכאשר ספק AI מבטיח "פתרון מושלם" – מה באמת כתוב בחוזה ומי אחראי כשהמערכת קורסת או מפרה זכויות?

אלו אינן שאלות תיאורטיות. בשנים האחרונות ראינו חברות שנתבעו בגלל אלגוריתמי גיוס מפלים; צ'טבוטים שסיפקו תשובות שגויות והחברה נאלצה לשאת באחריות; חברות שנתבעו בשל הפרת זכויות יוצרים או הפרת הפרטיות ועוד. הסכומים? מיליוני ואף מיליארדי דולרים בקנסות, בפיצויים או בהסדרים – ונזק מוניטין שקשה לתקן.

אלו אינן שאלות תיאורטיות. בשנים האחרונות ראינו חברות שנתבעו בגלל אלגוריתמי גיוס מפלים; צ'טבוטים שסיפקו תשובות שגויות והחברה נאלצה לשאת באחריות; חברות שנתבעו בשל הפרת זכויות יוצרים או הפרת הפרטיות ועוד. הסכומים? מיליוני ואף מיליארדי דולרים בקנסות, בפיצויים או בהסדרים – ונזק מוניטין שקשה לתקן

האחריות המשפטית על ביצועיה היא של הארגון. ה-AI. צילום: ג'מיני

האתגרים שלפניכם

האתגר הראשון – אתר ראשון שכל ארגון מתמודד איתו הוא חוזים ואחריות. כאשר אתם רוכשים כלי AI, החוזה עם הספק הוא קו ההגנה הראשון שלכם. אבל חוזים סטנדרטיים לא תמיד מתאימים ל-AI. שאלות חשובות שצריך להתייחס אליהן הן, בין היתר, מי אחראי כשהמודל מייצר תוצאה שגויה? מה קורה אם האלגוריתם מפר זכויות צד שלישי? האם יש לכם זכות לבדוק את המודל? מה קורה למידע שהזנתם למערכת? רוב ההסכמים מעבירים את כל האחריות אליכם; כלומר, אתם חשופים. חשוב לבדוק כל הסכם עם עורך דין שמבין בתחום הבינה המלאכותית, להוסיף סעיפי אחריות ברורים, דרישות ביקורת, והתחייבויות לעמידה ברגולציה.

אתגר שני – האתגר השני הוא פרטיות ואבטחת מידע. מערכות AI "רעבות" לנתונים – ולעיתים קרובות, הנתונים האלה רגישים: מידע אישי של עובדים, נתוני לקוחות, מידע רפואי או פיננסי. שימוש בכלי בינה מלאכותית, צריך להיעשות בכפוף לעקרונות דיני הגנת הפרטיות ולכללים שמיועדים ליישם אותם. כאשר אתם מעבירים את הנתונים לספקי בינה מלאכותית, אתם חשופים למספר בעיות מרכזיות, לרבות הפרת פרטיות אם הנתונים דולפים או משמשים שלא כדין, וכן הפרת החוק הישראלי אם לא קיבלתם הסכמה מתאימה. לפיכך, יש לפעול באופן זהיר ומבוקר בכל הנוגע לעיבוד מידע אישי באמצעות כלי בינה מלאכותית, וזאת בפרט במקרים בהם העיבוד כולל מידע אישי ורגיש, כמויות גדולות של מידע אישי, או קיימים סיכוני אבטחת מידע.

אתגר שלישי – שאלה שלישית ומורכבת במיוחד היא אלגוריתמים מפלים. אם אתם משתמשים ב-AI בגיוס עובדים, בניהול ביצועים, באישור הלוואות או במיון לקוחות – צריך להיות זהירים במיוחד. אלגוריתמים יכולים להפלות, לפעמים בלי שתבינו למה. מודלים שאומנו על נתונים היסטוריים עלולים "ללמוד" דעות קדומות קיימות. התוצאה המשפטית היא שאתם עלולים להפר את חוק שוויון הזדמנויות בעבודה, איסור הפליה, או דיני הגנת הצרכן. מומלץ לוודא שמאגרי הנתונים הם מייצגים ולא מוטים, ולקבוע מדדי הוגנות; לבצע בחינת השפעה אלגוריתמית לפני היישום; לוודא שיש הסבר אנושי להחלטות, ולא להסתמך באופן אוטומטי על ההמלצות של ה-AI. מומלץ לשמור על Human in the Loop: משמע, אדם שמאשר החלטות קריטיות, ואשר נתפש כמונע יעיל של כשלי מערכת אלגוריתמית.

אתגר רביעי – אתגר נוסף שלעיתים מופתעים ממנו הוא קניין רוחני. אם עובדיכם משתמשים ב-AI כמו ChatGPT, GitHub Copilot או מידג'רני (Midjourney) כדי ליצור קוד, תוכן או עיצובים – מי הבעלים על התוצאה? הדין לא לגמרי ברור, והפסיקה מתפתחת. הבעיה היא שגם אם יש לכם זכויות, ייתכן שה-"AI למדה" מתוכן מוגן של אחרים, ואתם עלולים להיתבע על הפרת זכויות יוצרים. חשוב להגדיר מדיניות שימוש ברורה בבינה מלאכותית, לחייב עובדים לגלות שימוש ב-AI ולבדוק שהתוצרים אינם מפרים זכויות צד שלישי.

האתגר החמישי – האתגר האחרון שיש להתייחס אליו הוא רגולציה עתידית – שכבר כאן. האיחוד האירופי כבר העביר את ה-EU AI Act, החוק המקיף הראשון בעולם. מדינות נוספות עובדות על רגולציה דומה. החוק האירופי מחלק מערכות AI בהתאם לרמות סיכון, ומטיל דרישות שונות, חלקן מחמירות: שקיפות, ביקורת אלגוריתמית, הערכת סיכונים, ודיווח לרגולטור. גם אם החברה אינה ממוקמת באירופה, אך משווקת ללקוחות באיחוד האירופי – הרי שהיא תהא כפופה לחוק. חשוב להתחיל להיערך עכשיו: למפות את כל השימושים ב-AI בארגון, לסווגם לפי רמת סיכון ולבנות מסגרת ממשל בינה מלאכותית (AI Governance).

אז מה עושים?

בהתחשב בכל זאת, יש מספר צעדים פרקטיים שכל ארגון צריך לבצע.

ראשית, מיפוי: רשמו את כל מערכות ה-AI שבשימוש או בפיתוח בארגון – כן, גם Copilot ו-ChatGPT.

שנית, הערכת סיכונים: זהו היכן יש חשיפה משפטית – פרטיות, אפליה, אחריות, קניין רוחני.

שלישית, מדיניות ונהלים: כתבו AI Usage Policy, הדריכו עובדים, ועדכנו חוזים.

רביעית, ממשל בינה מלאכותית: מנו אחראי AI בארגון, והקימו ועדת AI שמשלבת טכנולוגיה, משפט ועסקים. 

חמישית, ביקורת שוטפת: תחום הבינה המלאכותית מתפתח בקצב מסחרר. בדקו באופן קבוע האם המערכות עומדות בדרישות והאם יש שינויים ברגולציה.

המסר המרכזי הוא שבינה מלאכותית היא כלי עוצמתי – אבל היא גם אחריות משפטית. ההחלטה להטמיע AI היא לא רק טכנולוגית או עסקית – היא משפטית. התעלמות מהממד המשפטי עלולה לעלות לארגון במחיר יקר מאוד – בכסף, במוניטין ובחופש פעולה. הידע הטכנולוגי שלכם חיוני, אבל הוא לא מספיק. שתפו פעולה עם יועצים משפטיים שמבינים  ומתמחים בתחום הבינה המלאכותית,  ובנו תהליכים שמשלבים שיקולים משפטיים מההתחלה, לא בדיעבד. כי בסוף, השאלה היא לא רק "האם זה עובד?" אלא גם "האם זה חוקי, בטוח ואחראי?" וזו השאלה שתקבע את ההצלחה שלכם בעידן החדש.

הכותב הוא שותף וראש תחום ה-AI במשרד עורכי הדין ש. הורוביץ