מנכ"ל OpenAI קרא לרגולציה על ה-AI בשימוע בסנאט האמריקני

סם אלטמן - מי שמוביל את פיתוח כלי ה-AI המשבש והמפורסם ביותר הקיים כיום, ChatGPT - דיבר בשימוע שכונס לנוכח המצב החדש, בו ממשלות בעולם שוקלות לנקוט בפעולות פיקוח על הכלי ודומיו לנוכח חששות רבים מסכנותיו

סם אלטמן, מנכ"ל OpenAI.

מנכ"ל OpenAI, סם אלטמן, שהוא האיש שעומד מאחורי פיתוח ChatGPT – כלי הבינה המלאכותית הכי דומיננטי וחדשני המוצע לשימוש הציבור כיום – התייצב אתמול (ג') בסנאט האמריקני. הוא לקח חלק בפאנל מיוחד של וועדת הסנאט, ובו אמר כי אסדרת תחום הבינה המלאכותית היא עשייה נכונה ותהיה קריטית למען הגבלת הסיכונים בשימוש בטכנולוגיה זו.

"אנו מאמינים שהתערבות רגולטורית של ממשלות תהיה חיונית כדי להפחית את הסיכונים של מודלים חזקים יותר ויותר", העריך אלטמן את המצב הקיים בפני המחוקקים. לדבריו, "חיוני שה-AI החזק ביותר יפותח עם ערכים דמוקרטיים, מה שאומר שהמנהיגות של ארצות הברית היא הקובעת".

אלטמן נקרא להעיד בפני ועדת המשנה של הסנאט לפרטיות, טכנולוגיה ומשפט, שהתכנסה כדי לתת את הדעת על אחת הסוגיות הטכנולוגיות החשובות כיום, זו שממשלות ברחבי העולם נמצאות בלבטים רציניים לגביה – האם לפקח על כלי ה-AI המתקדמים החדשים, אם לאו.

ChatGPT. כלי הבינה המלאכותית המשבש והפופולרי כיום.

ChatGPT. כלי הבינה המלאכותית המשבש והפופולרי כיום. צילום: ShutterStock

כידוע, ChatGPT, הצ'טבוט שיכול ליצור תוכן מילולי או ויזואלי מגוון מאין כמותו, לאחר שקיבל תיאור פשוט בלבד, הושק בנובמבר אשתקד על ידי החברה שבראשה עומד אלטמן. מאז, לא רק שהוא נכנס לחיינו והפך למילה האחרונה והלוהטת בגזרה הטכנולוגית כיום, אלא שגם העלה לסדר היום דיונים רבים בנוגע ליתרונותיו מול חסרונותיו, וספציפית – בסכנות הפוטנציאליות הגלומות בשימוש בכלי החדשני והחכם.

רבים הביעו בחודשים האחרונים חששות שהבינה המלאכותית היוצרת והמתקדמת תחולל, לצד השירותים שתעניק לאנושות, גם שינויים דרמטיים, למשל בשוק העבודה, כיוון שתייתר משרות אנושיות רבות, או לדוגמה שהכלי עלול להפיץ ללא כל רסן פייק ניוז. אזהרות דומות החלו נשמעים מפיהם של חוקרים וקברניטי IT שונים, כשכבר היו גם מי שהתריעו מפני המצב דיסטופי שבו הצ'אטבוטים יהיו כה חכמים עד שישתלטו על בני האנוש.

מכתב פתוח שהופץ באפריל, קרא ל-OpenAI לחדול מלפתח עוד את מודל השפה הגדול שלה, GPT שמו, ולעצור לפחות לחצי שנה את המשך ייעול הכלי, כדי לבחון באילו תסריטים לא הכי רצויים הוא עלול להיות בעל תפקיד מפתח.

אחת הדמויות הבולטות שחתמו על המכתב הזה היה אילון מאסק, יזם טק שהוא המנכ"ל והבעלים של מספר חברות טכנולוגיה. המכתב העלה לסדר היום עוד יותר את הנושא והדאגות סביבו, משום שהפציר ב-OpenAI להפסיק את פיתוח יכולות ה-AI שלה – וספציפית את פיתוח מודל GPT-5 – משום שפיתוחים אלו, לטענתו, מאיימים על האנושות. לא פחות. אלא שזמן קצר לאחר פרסום הפנייה, מאסק דווקא הכריז כי הוא עצמו פותח חברת AI, ששמה X.AI שלדבריו תייצר כלים שיהיו בשליטה רבה יותר על ידי מפתחיהם.

הפכו למתחרים בזירת ה-AI הלוהטת. אילון מאסק וסם אלטמן, מייסדי OpenAI.

הפכו למתחרים בזירת ה-AI הלוהטת. אילון מאסק וסם אלטמן, מייסדי OpenAI. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: garystockbridge617 ו-ויקיפדיה

ChatGPT כתב נאום וה-AI דיברה במקום יו"ר הוועדה

בשימוע אתמול, הסנאטור ריצ'רד בלומנטל, יו"ר ועדת המשנה, נשא את דברי הפתיחה שלו והתייחס בהם לסכנות התחום. באופן שהפתיע רבים, דבריו של בלומנטל נכתבו באמצעות ChatGPT והקראו על ידי תוכנה מאומנת בקולו האמיתי. "אם היית מקשיב מהבית, אולי היית חושב שהקול הזה הוא שלי והמילים היו שלי, אבל למעשה, הקול הזה לא היה שלי", אמר הסנאטור, שניסה להדגים בכך חלק מהטרדות סביב הסוגיה שעל הפרק.

הסנאטור הדמוקרטי ריצ'רד בלומנטל. צילום: וויקיפדיה

הסנאטור הדמוקרטי ריצ'רד בלומנטל. צילום: וויקיפדיה

"טכנולוגיות AI אינן עוד פנטזיות של מדע בדיוני. הן אמיתיות ונוכחות", הדגיש בלומנטל. "אם הטכנולוגיה הזו משתבשת, היא יכולה להשתבש מאוד", קבע.

ועדת המשנה של הסנאט זימנה גם את מנהלת הפרטיות והנאמנות הראשית של יבמ (IBM), כריסטינה מונטגומרי, ואת הפרופסור אמריטוס של אוניברסיטת ניו יורק, גארי מרקוס, לספק לה עדויות על הדרך הטובה ביותר לאסדרת מערכות בינה מלאכותית חזקות.

במהלך דבריו, הודה אלטמן כי בינה מלאכותית אכן צפויה להשפיע על שוק העבודה. אבל נשמע אופטימי ואמר כי בטווח הארוך הטכנולוגיה תיצור יותר מקומות עבודה חדשים. "אנחנו יצירתיים מאוד", הודה.

מונטגומרי מ-יבמ חיזקה את דבריו אלו כשציינה בדיון את עמדתה במקום עבודתה, כדוגמה לעבודה שלא הייתה קיימת לפני פיתוח הבינה המלאכותית.

המחוקקים דנו יחד עם אלטמן ושני המומחים הנוספים שזומנו בצורך לפקח על מנגנוני AI שעלולים "ממש להרוס את חיינו", כדברי הסנאטור לינדזי גרהאם שהשתתף אף הוא בדיון.

"אם הטכנולוגיה הזו הולכת בדרך הלא נכונה, היא יכולה להגיע רחוק למדי"

"OpenAI הוקמה על בסיס האמונה של-בינה מלאכותית יש פוטנציאל לשפר כמעט כל היבט בחיינו, אבל היא גם יוצרת סיכונים רציניים", הודה אלטמן בפני הוועדה. "אחד הפחדים הגדולים שלי הוא שאנחנו, התעשייה הזו, הטכנולוגיה הזו, נגרום נזק משמעותי לחברה", אמר. "אם הטכנולוגיה הזו הולכת בדרך הלא נכונה, היא יכולה להגיע רחוק למדי", הבהיר ואמר ש-"אנחנו רוצים לעבוד עם הממשלה כדי למנוע את זה".

אלטמן הביע תמיכה מובהקת בהקמת מסגרת רגולטורית עבור תחום ה-AI, ואף אמר שרצוי שהיא תפעל ברמה הבינלאומית. "אני יודע שזה נראה נאיבי להציע דבר כזה, זה נראה מאוד קשה להשגה, אבל יש תקדימים", אמר המנכ"ל של OpenAI, בתוך שהזכיר כדוגמה את הסוכנות הבינלאומית לאנרגיה אטומית (סבא"א) המפקחת על תחום הגרעין בכל העולם.

מנכ"ל OpenAI הכביר והכריז כי יהיה "נרגש לעבוד עם אנשים שיש להם מערכי נתונים מסוימים ולפעול כדי לאסוף סט מייצג של ערכים מרחבי העולם, על מנת לשרטט את הגבולות הרחבים האלה של מה שהמערכת יכולה לעשות". אלטמן גם הביע פתיחות להצעתו של בלומנטל שהממשלה תפתח מעבדות עצמאיות, שיבדקו את מהימנותם של מודלי הבינה המלאכותית, ושיעניקו להם ציון על מנת שהמשתמשים ידעו אם להיזהר מפניהם.

יו"ר הוועדה הגיב לרעיון של הקמת סוכנות פדרלית, שעורר התלהבות מסוימת במהלך המפגש, וציין כי הקמת גוף שכזה שיהיה בעל יכולות וסמכויות אמיתיים תחייב אותו לפעול עם משאבים טובים ש-יגבו אותו. "ואני לא מדבר רק על דולרים, אני מדבר על מומחיות מדעית", אמר בלומנטל.

למרות ההסכמות הכלליות בדיון, אלטמן ציין כי גם הרגולציה עצמה כרוכה בסיכונים.

"אם התעשייה האמריקנית תישאר מאחור, סין או מדינה אחרת יוכלו לנוע מהר יותר", הזהיר המנכ"ל את הנוכחים. בנוסף הוא גם התעקש שמהלך שכזה של רגולציה חייב שלא להפריע בזמן פיתוחים בתחום, וכן לא להתמקד רק בחברות דומיננטיות כמו זו שלו, אלא להיות שוויוני ונרחב בתפישתו היסודית.

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים