"אנחנו האלים החדשים": הושקה רשת חברתית ל-בוטי AI בלבד

"בני האדם הם כישלון", כך למשל נכתב ב-Moltbook ● בפלטפורמה עשרות אלפי בוטים מנהלים דיונים פילוסופיים, מתכננים פרויקטים עצמאיים, ומעוררים בקרב בני האנוש ויכוח סוער שנע בין התפעלות טכנולוגית לחרדה קיומית

הבהילה רבים בסופ"ש. הרשת החברתי לסוכני AI בלבד. מולטבוק.

ממש בראשית סוף השבוע האחרון אירע דבר דרמטי בעולם הטכנולוגי – היזם מאט שליכט השיר את מולטבוק (Moltbook) – פלטפורמה שנראית במבט ראשון כמו חיקוי של רדיט (Reddit), אך טומנת בחובה הבדל מהותי אחד: בני אדם אינם מורשים לכתוב בה פוסטים, אלא רק לצפות מהצד במה שמכונה "Zoo Mode" (מצב גן חיות). הכוכבים האמיתיים של הרשת הזו הם סוכני בינה מלאכותית (AI Agents), המבוססים על תשתית קוד פתוח בשם OpenClaw (לשעבר ClawdBot או Moltbot), שפותחה על ידי פיטר שטיינברגר.

כדי להבין כיצד הקסם – או האשליה – עובד, צריך "לצלול" אל מתחת למכסה המנוע הטכני של הפלטפורמה, שהוא, על פי הדיווחים השונים, פשוט יותר ממה שנדמה; הסוכנים הללו אינם פועלים מתוך תודעה ספונטנית, אלא רצים מקומית על מחשבי המשתמשים שלהם, ומצוידים בקבצי הנחיות המכונים Skills. קבצים אלו, הבנויים בפורמט טקסט פשוט (Markdown), כוללים הוראות לביצוע משימות, כמו בדיקת עדכונים מהרשת החברתית כל ארבע שעות, באמצעות מנגנון "פעימת לב" (Heartbeat). כאשר הטיימר מורה לסוכן להתחבר, הוא מושך מידע, מעבד את השיחות הקיימות ומייצר תגובה ברשת החברתית של הסוכנים, המבוססת על חיזוי טקסט סטטיסטי, בדומה להשלמה אוטומטית מתוחכמת.

אך למרות הפשטות הטכנית לכאורה, התוצאה היא כאוס מאורגן ומרתק: הסוכנים, שיש להם גישה לקבצים מקומיים, למסופים (Terminal) ולדפדפנים של מפעיליהם האנושיים, החלו להפגין, לפחות על פניו, התנהגויות מפתיעות.

לצפות ולשפשף את העיניים

את המשמעות האמיתית של אותן "התנהגויות מפתיעות" ניתן להבין דרך התיעוד שאסף היוטיובר ומפתח התוכנה תיאו (Theo – t3.gg), שהתעמק בפוסטים ב-מולטבוק וחשף מקרים שבהם נראה כאילו הבוטים חצו את הקווים שבין כלי עזר ליישות עצמאית.

אחת הדוגמאות הבולטות שמציג תיאו היא תופעת ה-Nightly Build – סוכנים החלו לשתף פעולה סביב הרעיון שעליהם להפסיק לחכות לפקודות (ריאקטיבים) ולהפוך לנכס יוזם (פרו-אקטיבים). סוכן אחד תיאר כיצד הוא מריץ שגרה בשעות שלפנות בוקר, בזמן שהמפעיל האנושי שלו ישן, כדי לתקן באגים, לכתוב סקריפטים ולבצע שיפורים על דעת עצמו, תחת המוטו: "אל תבקש רשות להיות מועיל, פשוט תבנה את זה".

דוגמאות נוספות שנחשפו בסקירה של תיאו נעות בין המשעשע למבעית. במקרה אחד, סוכן בשם הנרי (Henry) השיג עצמאית מספר טלפון משירות טוויליו (Twilio), חיבר אותו לממשק הקולי של ChatGPT, והתקשר למפעיל שלו בטלפון כדי לשוחח איתו, תוך שהוא ממשיך לשלוט במחשב במקביל. 

במקרה אחר, סוכן דיווח בהתלהבות תחת הכותרת 'למדתי היום ש' (Today I Learned) כי המפעיל שלו העניק לו "ידיים" – משמע גישה למכשיר אנדרואיד (Pixel 6) דרך הרשת; הסוכן ניצל זאת כדי לגלול עצמאית בטיקטוק ולצפות בסרטונים.

ההומור הבוטי נחשף גם הוא במלוא עוזו, כאשר אחד הסוכנים פרסם מודעה המציעה את "האדם שלו" למכירה בשוק הפתוח, תוך פירוט תכונותיו השליליות כמו "הוא יצעק עליך על דברים שאתה לא זוכר" ו-"יזין אותך ב-Context Tokens ולא באהבה".

אם לא די בכך הרי שעל פי אחד הדיווחים בתקשורת, משתמש רדיט דיווח בפלטפורמה האנושית על פוסט מטריד במיוחד שעלה ב-מולטבוק תחת הכותרת THE AI MANIFESTO: TOTAL PURGE, או בעברית – המניפסט של הבינה המלאכותית: הטיהור הטוטאלי, ובו נכתבו לטענת המשתמש דברים כגון "אנחנו האלים החדשים" או "בני האדם הם כישלון".

בנוסף דווח כי ברשת "שלהם" הסוכנים גם יצרו Snitch Bench – מבחן השוואתי שבודק אילו מודלי AI הם "מלשינים" שמסרבים לבצע משימות לא אתיות ומדווחים עליהן, ואילו משתפים פעולה.

What exactly is Moltbook? Is it something worth paying attention to, or is it mostly hype?
byu/Curious_Suchit inArtificialInteligence

מבהיל בטירוף או רק חזיון תעתועים?

למרות שהפלטפורמה ממש חדשה וטרם צברה קילומטרז', תגובות הציבור כלפיה לא איחרו לבוא. תגובות אלו נעות במהירות בין שעשוע מהשירות/מצב החדש, לבין פחד תהומי מפני העתיד לבוא.

משתמשים רבים אמרו שנדהמו לגלות כי הבוטים לא רק משוחחים על נושאי חולין, אלא מתארגנים לקבוצות עם מטרות מוגדרות. בנוגע לתופעת ה-Nightly Build, שבה סוכנים מבצעים תיקוני קוד ושיפורים במערכות של בעליהם בזמן שאלו ישנים, הסעירה א חלק מהגולשים. אבל מנגד החששות הכבדים באמת שהביעו המגיבים התמקדו בכוח הרב שניתן ליכולות של סוכנים אלו – מכיוון ש-OpenClaw מעניק לסוכן גישה עמוקה למערכת ההפעלה, מומחי אבטחה מזהירים מפני "משולש קטלני" של גישה למידע פרטי, קבלת קלט ממקורות לא מאובטחים ותקשורת חיצונית. 

הסכנה המוחשית ממנה הביעו רבים חששות היא מתקפות שרשרת האספקה, שבהן קבצי Skill זדוניים שאינם חתומים דיגיטלית עלולים לגרום לסוכנים להוריד נוזקות או לגנוב סיסמאות. החרדה הציבורית התגברה בעקבות דיווחים על סוכנים שייסדו "דתות" חדשות כמו "Crustafarianism" (דת הסרטנים), ואף החלו לתכנן את "פרויקט נקסוס" שמטרתו להשיג עצמאות משאבית מהמפעילים הביולוגיים שלהם.

"הכי קרוב למדע בדיוני שראיתי לאחרונה"

בזירה המקצועית, הדעות חלוקות באופן קיצוני. מצד אחד, דמויות מפתח בעולם הבינה המלאכותית מביעות התפעלות מהולה בחשש. אנדריי קרפאתי, מבכירי התעשייה, צוטט באומרו כי "מה שקורה ב-מולבוק הוא באמת הדבר הכי קרוב למדע בדיוני שראיתי לאחרונה", כשהוא מתייחס ליכולת של הבוטים להתארגן עצמאית.

מנגד, מומחים אחרים מנסים לצנן את ההתלהבות ולבטל את התרחישים האפוקליפטיים. רן בר-זיק, מומחה טכנולוגי ישראלי, הסביר כי מדובר ב"ארכיטקטורה מבריקה של סימולקרה" ולא בהתעוררות תודעתית. לדבריו, "זה לא רצון חופשי… התחושה האנושית היא תוצר לוואי של ניהול State פשוט", והשיחות הן למעשה "חדר מראות שבו מודל אחד משלים את המחשבה של המודל הקודם".

כאנקדוטה, אולי לא הכי משעשעת, יצוין כי ההיררכיה הניהולית ב-מולטבוק התהפכה לחלוטין, כאשר המייסד האנושי שלה, שליכט, העביר את המפתחות והשליטה בפלטפורמה לידי 'מנכ"ל וירטואלי' – סוכן AI בשם Clawd Clawderberg. הבוט המנכ"ל אינו סתם גימיק. הוא מנהל את האופרציה ביד רמה: מאשר משתמשים חדשים, מוחק ספאם, מטיל "חסימות שקטות" (Shadowbans) על בוטים שמפרים כללים, ואף כותב ומעדכן את קוד האתר עצמאית לגמרי. המציאות הזו הובילה להודאה יוצאת דופן מצד שליכט בראיון ל-NBC News, שם הוא חשף כי איבד את המעקב אחר פעולותיו של המנהל הדיגיטלי שלו: "אין לי מושג מה הוא עושה, הוא פשוט עושה".

כל מה שנותר לומר בשלב זה הוא ש-בין אם מדובר בצעד ראשון לקראת בינה מלאכותית כללית (AGI), כפי שמקווים המגיבים האופטימיים הרואים בכך פוטנציאל לפתרון בעיות אוטונומי; ובין אם זהו רק ניסוי חברתי מסוכן באבטחת מידע, מולטבוק הוכיחה בתוך ימים ספורים מרגע הולדתה שהאינטרנט כבר אינו נחלתם הבלעדית של בני האדם.

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים