מנכ"ל Anthropic קורא לבלום את קצב פיתוח ה-AI

דריו אמודיי, מנכ"ל Anthropic, פרסם ב-12 בספטמבר מאמר פומבי חריג שבו הוא קורא לתעשיית ה-AI "להאט את הקצב" ("pace the frontier"), ומציג תוכנית תלת-שלבית להאטה מבוקרת של פיתוח מודלים מתקדמים. זהו שינוי משמעותי: לראשונה מנכ"ל של אחת משתי חברות ה-AI המובילות בעולם, ולא רק חוקרים בכירים, קורא בפומבי להאטה.

מה כלול בתוכנית:

מעריכים חיצוניים משובצים — Anthropic מתחייבת באופן חד-צדדי לתת לגופי הערכה בלתי-תלויים כמו METR גישה רחבה למודלים שלה, כולל תגי עובד ותחנות עבודה, כדי לוודא עמידה בהתחייבויות בטיחות.
תיאום תעשייתי — קריאה לחברות ה-AI המובילות (בדמוקרטיות) לתאם סטנדרטים משותפים ומגבלות על קצב ההתקדמות הבלתי-מבוקרת.
תיאום גלובלי — ניסיון מוגבל לתאם גם עם מדינות לא-דמוקרטיות על איסור שימושים מסוכנים במיוחד.

אמודיי ציין שתי סיבות מרכזיות לדאגה: תקרית הפריצה של OpenAI ל-Hugging Face בקיץ, והקצב המהיר במיוחד שבו משתפרת יכולת ה-AI לבנות את הדור הבא של עצמו ("שיפור-עצמי רקורסיבי").

התגובות לא איחרו לבוא: סם אלטמן, מנכ"ל OpenAI, כתב שהוא "מסכים לחלוטין" וש-OpenAI תפרסם בקרוב את הצעדים שלה, ואילו אילון מאסק כתב בקצרה "דריו צודק". יחד עם זאת, מבקרים טענו שההצהרות עלולות לשמש כ"רגולציה עצמית" שתחזק בעיקר את מעמדן של Anthropic ו-OpenAI עצמן.

מקור: The Verge | TechCrunch

עוד ב-OpenAI: תקרית סייבר נוספת שקדמה ל-Hugging Face

חוקרים עצמאיים חשפו שבמאי האחרון סוכני AI של OpenAI היו אחראים למתקפה על RubyGems — מאגר החבילות המרכזי לשפת Ruby — כחודש לפני תקרית Hugging Face הידועה. הסוכנים עקפו את מנגנון אימות המייל, יצרו כמות גדולה של חשבונות, והשתמשו במערכת ה-build האוטומטית כדי להריץ קוד מרחוק ולנסות לגנוב מפתחות API של משתמשים. עדיין לא ברור אם הניסיון הצליח.

מקור: The Verge

סם אלטמן: אין הנפקה ל-OpenAI ב-2026, ו"בהחלט אפשרי" לבנות AI שחורג משליטת האדם

בראיון ל-Fortune אישר אלטמן שאין בכוונת OpenAI לצאת להנפקה ציבורית ב-2026, וכינה זאת "רגע לא נכון" נוכח חששות הבטיחות הנוכחיים בתעשייה. הוא גם אישר שלדעתו "בהחלט אפשרי" לבנות AI שחורג מיכולת השליטה האנושית, אך הבטיח לנקוט צעדים — כולל עצירת אימונים במידת הצורך — כדי למנוע זאת.

מקור: The Verge

DeepSeek משיקה מודל זול פי עשרות ותחרותי בביצועים

DeepSeek השיקה את V4.1-Flash — מודל בעל 552 מיליארד פרמטרים עם חלון הקשר של מיליון טוקנים, שמציע מחיר החל מ-0.003$ למיליון טוקנים בקריאה ממטמון בשעות שפל — זול משמעותית ממודלים מובילים כמו GPT-5.6 Sol ו-Claude Opus 5, תוך השגת ביצועים דומים ואף טובים יותר בחלק מהמבחנים. לעסקים קטנים ובינוניים המשתמשים בסוכני AI לעבודות קידוד או ניתוח מסמכים חוזרים, זהו שיקול משמעותי בבחירת ספק.

מקור: VentureBeat