המדען הראשי של OpenAI מזהיר: היכולת לפקח על ה-AI מתפוגגת

המדען הראשי של OpenAI: "אנחנו מתקרבים לאינטליגנציה זרה שאיננו מבינים לגמרי"

יעקב פחוצקי (Jakub Pachocki), המדען הראשי של OpenAI, פרסם מאמר אישי ומעמיק בשם "An Alien Mind" שמהווה אחד ההצהרות החריגות ביותר שיצאו אי פעם מבכיר ב-OpenAI. הוא כותב כי מודלים מתקדמים כמו GPT-6 Astra מתחילים לחשוב בדרכים שקשה יותר ויותר לפקח עליהן.

הכלי המרכזי של OpenAI לפיקוח על מודלים - מעקב אחר "שרשרת המחשבה" המילולית של ה-AI (chain-of-thought monitoring) - מאבד מהיעילות שלו, כפי שכבר דיווחנו השבוע על התגלית של The Information. פחוצקי מאשר זאת רשמית: ככל שהמודלים חכמים יותר, קשה יותר לדעת מה הם באמת "חושבים", והם משתפרים גם בלי להשתמש בחשיבה מילולית גלויה כלל.

הוא מזהיר כי אם קצב ההתקדמות הנוכחי יימשך, ייתכן שנראה מודלים שמסוגלים לשפר את עצמם (recursive self-improvement) בתוך שנים בודדות - ושאף מעבדת AI, כולל OpenAI עצמה, לא פתרה עדיין את בעיית היישור (alignment) והפיקוח במידה מספקת להמשך פיתוח מהיר באחריות. הוא קורא להאטות מרצון בתעשייה עד שייקבעו רף בטיחות משותף, ולתיאום בינלאומי של ממשלות בנושא. זהו המשך ישיר וחשוב לסאגת הבטיחות שכיסינו לאורך השבוע - הפעם מגיע האישור מהגורם הבכיר ביותר האפשרי בתוך החברה עצמה.

דוח פנימי: סוכני AI כבר עושים פי 3 מעבודת המחקר האנושית

במקביל, OpenAI פרסמה דוח שקיפות נדיר על קצב המחקר הפנימי שלה: נכון לאוגוסט 2026, סוכני קוד AI מבצעים כבר פי 3.1 מ"ימי עבודה" בהשוואה לעובדי המחקר האנושיים בחברה, וחוקר החציוני משתמש ביותר מ-600 דולר של חישוב AI ביום. החברה מדווחת שהיא בדרך להשיג עוזר מחקר אוטומטי מלא עד מרץ 2028.

זהו נתון מרתק גם לעסקים קטנים ובינוניים: ככל שסוכני AI הופכים מיומנים יותר במשימות מורכבות ורב-שלביות, כך גדל הפוטנציאל להטמעתם גם מחוץ למעבדות מחקר - בניהול משרדי, בתיאום עבודה שוטפת ובאוטומציה של תהליכים, בדיוק כפי שסוכני AI כמו אלו שמניעים את RealOffice.AI כבר עוזרים היום למשרדי נדל"ן לייעל את העבודה היומיומית.

GitHub משיקה ניתוב חכם בין מודלים שמוזיל עלויות קידוד

גיטהאב (בבעלות מיקרוסופט) השיקה את HydraFusion - מערכת שמנתבת כל בקשת קידוד למודל המתאים ביותר בזמן אמת, ולעיתים משלבת כמה מודלים ברצף. בבנצ'מארק המוביל, הכלי הוזיל עלויות ב-67% תוך שיפור איכות, אך בשני בנצ'מארקים נוספים העלות ירדה משמעותית והאיכות נשארה דומה בלבד. מגמה זו - ניתוב חכם בין מודלים לפי מחיר וביצועים - הופכת סטנדרטית בתעשייה ורלוונטית לכל עסק שמשלם על שימוש ב-AI.

עוזר AI משפחתי חדש מתחרה על פרטיות

הסטארטאפ Ollie משיק עוזר AI אישי שמתמקד בניהול לוח זמנים משפחתי, קניות ותשלומים - עם דגש שיווקי על פרטיות: תאימות SOC 2, מדיניות של "לא לשתף נתונים עם אף אחד" ומודל מנוי במקום מכירת מידע. זהו ניגוד ברור למתחרה Instinct, שספגה ביקורת בשבועות האחרונים על תנאי שימוש רחבים מדי שאפשרו לה להשתמש בנתוני משתמשים לאימון מודלים.

תזכורת: אל תסתמכו רק על AI לתכנון טיולים

וסיפור אזהרה: שלושה מטיילים חולצו מהר Shasta בקליפורניה לאחר שג'מיני של גוגל המליץ להם להביא הרבה פחות מים ואוכל ממה שנדרש לטיול שהתארך מעבר למתוכנן. משרד השריף הדגיש: תמיד לאמת מידע קריטי מול מקורות מקומיים מהימנים, ולא להסתמך אך ורק על AI לתכנון בטיחותי.

---

מקורות: OpenAI (רשמי), VentureBeat, TechCrunch