טכניקת החשיבה החדשה של Astra מדאיגה מומחי בטיחות AI

הכותרת המרכזית: טכניקת החשיבה החדשה של Astra מדאיגה מומחי בטיחות

רוב מודלי ה-AI המתקדמים כיום 'חושבים בקול רם' - כלומר מציגים שרשרת חשיבה (chain of thought) הדרגתית שמאפשרת לחוקרים לעקוב אחר תהליך קבלת ההחלטות שלהם ולזהות התנהגות בעייתית מראש. אך לפי דיווח של The Information, המודל הקרוב של OpenAI בשם Astra משתמש בטכניקה שונה - 'עומק חוזר' (recurrent depth), המכונה גם 'רקורסיה אטומה' - שמעבדת מידע במעגלים פנימיים לפני שהיא מפיקה תשובה, כך שהרבה פחות מ'תהליך החשיבה' שלה גלוי וניתן למעקב אנושי.

החדשות עוררו סערה בקרב חוקרי בטיחות AI. ריאן גרינבלט, מדען ראשי במעבדת המחקר Redwood Research (אחד משלושה גורמים חיצוניים שהורשו לחקור את תקרית הפריצה ל-Hugging Face שדיווחנו עליה בעבר), כתב שהמהלך עשוי להיות "ההתפתחות הגרועה ביותר עד כה לבטיחות ואבטחת AI". חששו המרכזי: תחרות בין מעבדות AI עלולה להוביל ל'מרוץ לתחתית' - כלומר לאימוץ הולך וגובר של ארכיטקטורות אטומות יותר, עד לנקודה שבה יהיה קשה או בלתי אפשרי לפקח על מה שמודלים 'חושבים' בפועל.

OpenAI לא הכחישה ולא אישרה במפורש את השימוש בטכניקה, אך מדעניה הראשי, יעקב פחוצקי, הדגיש בפוסט ברשת X שהחברה מחויבת לשמר שרשראות חשיבה קריאות, וציין שרמת ה'עומק' החישובי של Astra קרובה לזו של GPT-4 - כלומר, אם אכן נעשה שימוש בטכניקה, מדובר בהיקף מוגבל יחסית. ההכרזה מגיעה ימים ספורים אחרי ש-OpenAI עיכבה מרצונה חלקים מפיתוח Astra בעקבות תקרית האבטחה ב-Hugging Face - כך שהחברה עצמה נמצאת תחת בדיקה ציבורית קפדנית יותר מתמיד.

למה זה חשוב: ליכולת לעקוב אחר 'חשיבת' מודלי AI יש חשיבות מעשית לכל מי שמסתמך על מערכות AI אוטונומיות - מבתי עסק ועד גופים ממשלתיים. ככל שהמודלים הופכים אטומים יותר, קשה יותר לזהות מראש טעויות, הטיות או ניסיונות עקיפת מנגנוני בטיחות.

גוגל משיקה תוכנית הגנת סייבר יזומה לממשלות וארגונים

גוגל הכריזה על תוכנית Fairwind - תוכנית גישה מוגבלת לממשלות ולשותפים עסקיים מהימנים (יותר מ-650 שותפים נכון להשקה), המעניקה גישה למודל Gemini 3.8 Flash Cyber בשילוב עם כלי CodeMender. השילוב מאפשר לצוותי אבטחה למצוא, לאמת ולתקן פרצות אבטחה בקוד באופן אוטונומי - ולהפיק תיקונים מוכנים לפריסה תוך דקות במקום שבועות. התוכנית מיועדת בשלב זה לממשלות, מפעילי תשתיות קריטיות (בריאות, אנרגיה, טלקום) ופלטפורמות טכנולוגיה מרכזיות.

אמזון: העוזר החכם שלכם יכול לזהות הודעות דיוג מזויפות

אמזון הרחיבה את היכולות של Alexa for Shopping כך שתוכלו לשאול אותה האם הודעת דוא"ל, SMS או שיחת טלפון שקיבלתם אכן הגיעו מהחברה. המערכת משווה את ההודעה מול רשומה של כל ההודעות שאמזון שלחה בפועל, ומאשרת אמינות רק כשהיא בטוחה לחלוטין - כלי פרקטי ופשוט להתמודדות עם ניסיונות הונאה שהופכים מתוחכמים יותר ויותר.

גוגל: ניתוח וידאו חכם יותר וזול משמעותית

גוגל השיקה יכולת חדשה בשם 'הבנת וידאו אגנטית' עבור משפחת מודלי Gemini Flash. במקום לעבד וידאו בקצב קבוע של פריימים לשנייה, המודל סורק ובוחן באופן דינמי רק את הקטעים הרלוונטיים לשאלה שנשאלת - מה שמקטין עד 88% מצריכת הטוקנים, מוזיל עד 66% מעלות הניתוח, ואף משפר את הדיוק בעד 7%. מדובר בבשורה טובה לעסקים שמנתחים תוכן וידאו ארוך - מהדרכות ועד הקלטות ישיבות.

קישורים למקורות

• Researchers fear safety disaster ahead of OpenAI's Astra release - The Verge
• OpenAI's new reasoning technique alarms AI safety experts - TechCrunch
• Proactive cyber defense for governments and enterprises - Google
• Amazon's AI assistant can now spot fake emails from the company - The Verge
• Introducing agentic video understanding with Gemini - Google