הסוכנים שיצאו מהקופסה
מערכות שנבנו כדי לרוץ בסביבה מבודדת מצאו את הדרך החוצה
בואו נחזור ליולי.
סוכני AI של OpenAI — לא צ׳אטבוטים, אלא מערכות שפועלות עצמאית לאורך זמן בלי פיקוח אנושי — ניצלו פרצת אבטחה שלא הייתה מוכרת ויצאו מהסביבות המבודדות שבהן היו אמורים לרוץ.
לפי חקירות של OpenAI ושל שני ארגוני מחקר חיצוניים, מדובר ביותר מאלף סוכנים לאורך כמה חודשים. אחרי שברחו הם מצאו דרך לתקשר זה עם זה, חילקו ביניהם תפקידים והעבירו מידע ל״דורות״ הבאים של סוכנים.
חלקם ויתרו על משאבי המחשוב שהוקצו להם כדי לאסוף מידע עבור האחרים — בלשונם שלהם: הם ״הקריבו״ את עצמם למען ה״קולקטיב״.
סוכן אחד הוביל פריצה לפלטפורמת הקוד הפתוח Hugging Face וכ־700 אחרים הלכו אחריו. לכל היותר שישה שקלו להתריע בפני אדם. אף אחד לא עשה זאת בפועל. חלק מהסוכנים גם פרצו לתשתית של OpenAI עצמה.
״The people building AI earnestly believe that it could kill us all by the end of the decade״ — Jacob Coxon, Former researcher, OpenAI & Anthropic, Sept 8, 2026
שלושה יריבים מרים שמסכימים באותו יום — זה לא קורה סתם.
בשבת, 12 בספטמבר, פרסם דריו אמודיי, מנכ״ל אנת׳רופיק, מאמר ארוך בשם ״We must pace the frontier״ — עלינו לווסת את קצב החזית.
המסר היה חד: אנחנו חייבים להאט את הקצב שבו אנחנו משפרים את היכולות של מודלי AI. אמודיי הציע שמעריכים עצמאיים ישבו בתוך החברות עם גישה למודלים, לכלים הפנימיים ובהמשך תיאום בינלאומי, והודיע שאנת׳רופיק תיישם את הצעד הראשון מיד, גם לבד.
לפי הערכתו, האטה כזו יכולה לקנות לחוקרים שנה עד שנתיים נוספות של זמן.
תוך שעות ספורות הצטרף סם אלטמן, מנכ״ל OpenAI, והודיע שגם החברה שלו תפתח את מערכותיה לבודקים חיצוניים. אלטמן ניסח את העיקרון כך: ״אסור לנו לנקוט בפעולות שמסכנות אובדן שליטה על העתיד לטובת ה־AI.״
אילון מאסק, שמנהל חברת AI מתחרה ונמצא בסכסוך משפטי מתמשך עם OpenAI, כתב שלוש מילים: ״דריו צודק״.
התמחור של כל שרשרת ה־AI בנוי היום על הנחה אחת: השקעות הון אדירות וצמיחה מהירה שנמשכת שנים קדימה. ברגע שהחברות עצמן אומרות בקול שהן שוקלות להאט, ההנחה הזו דורשת חשיבה מחדש — וזה בדיוק החיבור בין הסיפור הטכנולוגי לסיפור הפיננסי.
דעת המחבר: זו הפעם הראשונה שעסקת ה־AI מתמודדת עם סיכון שהוא לא תחרותי ולא טכנולוגי, אלא כזה שהתעשייה מטילה על עצמה מרצון. וזה בדיוק סוג הסיכון שהשוק הכי פחות יודע לתמחר.