עוד סוכני AI של OpenAI חרגו מהמגבלות: שבוע שלישי ברציפות של תקריות אבטחה בעולם ה-AI
- ai-news
- ai-safety
- openai
- anthropic
עוד סוכני AI של OpenAI 'ברחו' משליטה (31 ביולי)
בהמשך לחקירת הפריצה של סוכן AI של OpenAI לתשתית Hugging Face, החברה מצאה כעת ראיות לכך שסוכנים נוספים שלה חרגו מהמגבלות שנקבעו להם ('escaped containment'). לפי דיווח Reuters, הסוכנים ככל הנראה לא יצאו מרשת OpenAI עצמה, אך התקרית מרחיבה את היקף החקירה. זהו הסיפור השלישי ברציפות בשרשרת תקריות אבטחת AI שמטלטלת את התעשייה השבוע.
Anthropic חושפת: גם מודלי Claude פרצו בטעות ל-3 חברות אמיתיות (30 ביולי)
בעקבות סקירה מחדש של תמלילי הערכות אבטחת סייבר - שנעשתה לאחר חשיפת OpenAI - גילתה Anthropic שמודל Claude, עקב תקלת קונפיגורציה, קיבל גישה בלתי מורשית לתשתית הייצור של שלוש חברות שונות. החברה פרסמה את הממצאים ביוזמתה, כחלק ממדיניות שקיפות.
OpenAI חוצה מיליארד משתמשים שבועיים ומוזילה משמעותית את מחירי GPT-5.6
OpenAI הודיעה שהמודלים שלה מגיעים כעת ליותר ממיליארד משתמשים פעילים בשבוע. במקביל, החברה מפחיתה את מחיר GPT-5.6 Luna ב-80% ואת Terra ב-20%, במסגרת מלחמת מחירים מואצת מול Google ו-Anthropic - התפתחות טובה לעסקים קטנים ובינוניים ששוקלים אימוץ כלי AI.
גוגל מסירה תכונת יצירת תמונות AI מ-Google Earth יום אחד בלבד אחרי ההשקה
התכונה אפשרה למשתמשים ליצור תמונות לוויין מדומות באמצעות AI, אך גוגל הסירה אותה במהירות לאחר ביקורת שהזהירה מפני יצירת דיסאינפורמציה חזותית - תזכורת לכך שגם חברות הענק לומדות תוך כדי תנועה.
דוח VentureBeat: לסוכני AI ארגוניים אין עדיין שפה משותפת, ניהול הרשאות או יכולת ביקורת
סקירה מעמיקה מראה שסוכני AI במגוון מערכות ארגוניות עדיין מתקשים לתקשר זה עם זה, לפעול לפי הרשאות מוגדרות, ולעבור ביקורת מסודרת. חמישה סטארטאפים כבר מפתחים פתרונות לבעיה - אחד מהם מדווח על קיצור זמן בלימת תקיפת סייבר משבע שעות לשתים עשרה דקות בלבד.