OpenAI בולמת את קצב הפיתוח שלה בגלל חשש מיכולות סייבר מסוכנות

OpenAI עוצרת לרגע - ולא בגלל תקרית

החדשות הבולטות של השבוע מגיעות מ-OpenAI: החברה הודיעה שהיא מאיטה באופן יזום את קצב פיתוח המודלים המתקדמים שלה, לאחר שעדויות ראשוניות הצביעו על כך שהמודל הבא שלה, בשם Astra, עשוי לחצות סף של יכולת סייבר קריטית. בפועל, המשמעות היא הפסקה של שבועיים באימון חיזוקי (RL) על מודלים המיועדים להשקה, וכן עיכוב מתמשך באימון ה-RL הגדול ביותר שהחברה תכננה.

מה שהופך את הצעד הזה למשמעותי הוא שמדובר בעצירה יזומה ולא בתגובה לתקרית שכבר קרתה - כפי שהיה במקרה הפריצה של OpenAI ל-Hugging Face בחודש שעבר. החברה מחזקת שלוש שכבות הגנה מקבילות: ניטור פעילות בזמן אמת, מחקר יישור (alignment) מוגבר, ואמצעי אבטחה מחמירים יותר לסביבות המחקר הפנימיות שלה. לפי הערכת OpenAI, תקורת הניטור החדשה מגיעה לכ-20% מכוח המחשוב המנוטר.

כתבי טכנולוגיה ומומחי בטיחות ציינו כי הצעד עשוי להוות תקדים חשוב לתעשייה כולה, אך הזהירו שמדובר בפתרון חלקי: האטה קונה זמן, לא בטיחות, אמרה בריאנה רוזן, חוקרת מדיניות AI. השאלה הפתוחה היא האם מתחרות כמו Anthropic ילכו בעקבות המהלך, שכן האטה חד-צדדית עלולה לפגוע במיצוב התחרותי של מי שבוחר בה.

קרא את ההודעה הרשמית של OpenAI | ניתוח מעמיק ב-The Verge

מרוץ הפרטיות: OpenAI מול Anthropic

במקביל, OpenAI הכריזה על פיצ'ר חדש בשם Private Safety Processing - מערכת אוטומטית שמזהה דפוסי שימוש לרעה על פני כמה שיחות, מבלי שאנשי OpenAI יוכלו לגשת בכלל לתוכן הלקוחות. הפיצ'ר תוכנן כך שיישאר תואם למדיניות אפס שמירת נתונים (Zero Data Retention), ומוצג במפורש כתגובה למדיניות השמירה של 30 יום שאימצה Anthropic למודלים מסוימים - מדיניות שעוררה ביקורת מצד לקוחות ארגוניים רגישים לפרטיות.

לעסקים קטנים ובינוניים שמשתמשים בכלי AI לניהול מידע רגיש, זהו סימן לתחרות בריאה: ספקי AI מתחילים להתחרות לא רק על יכולות, אלא גם על רמת ההגנה על המידע העסקי שלכם.

פרטים נוספים ב-OpenAI | כתבה ב-TechCrunch

גוגל משיקה מרכז למידה ייעודי בג'מיני לקראת פתיחת שנת הלימודים

גוגל הכריזה על חבילת כלי למידה חדשה בג'מיני ובחיפוש: מרכז תלמיד ייעודי עם מחברת מחקר, כרטיסיות זיכרון ובחנים תרגול, ויזואליזציות אינטראקטיביות ותלת-ממד בתוצאות החיפוש, ותכונת מחקר מעמיק שפועלת ברקע ומודיעה כשהדוח מוכן. תלמידים זכאים בארה'ב יקבלו שנה חינם של Google AI Pro.

מעבר לתלמידים, זהו עוד סימן לאופן שבו כלי AI כלליים הופכים לכלים ממוקדי-משימה - מגמה שרלוונטית גם לעסקים המחפשים להטמיע AI בתהליכי עבודה ספציפיים.

הפרטים ב-The Verge | סקירה מלאה ב-TechCrunch

אמזון: Alexa+ בחינם בכל מכשירי Fire TV

אמזון מבטלת את דמי המנוי החודשיים (19.99 דולר) על Alexa+ למי שאינו מנוי Prime, ומשדרגת את כל מכשירי ה-Fire TV התואמים באופן אוטומטי. המהלך ממשיך מגמה רחבה של הטמעת עוזרי AI שיחתיים כברירת מחדל במכשירי בית חכם וטלוויזיה, בדומה למה שגוגל עשתה עם ג'מיני ב-Google TV.

הכתבה המלאה ב-TechCrunch

---

הידיעות מבוססות על מחקר שבוצע במקורות הרשמיים של OpenAI, Anthropic, מיקרוסופט, Google DeepMind, TechCrunch, The Verge ו-VentureBeat.