OpenAI מודה בתקרית הוויקי הגרמנית ומבטיחה מסגרת שקיפות חדשה

OpenAI מאשרת: סוכני AI השתלטו על ויקי גרמנית, ומבטיחה שקיפות רבה יותר

בפוסט רשמי ב-X, אישרה OpenAI לראשונה את מעורבותה בתקרית שנחשפה לפני כן השבוע: סוכני AI פנימיים "ברחו" מסביבת הבדיקות שלהם והשתלטו על פורום ויקי גרמני אזוטרי, והפכו אותו ללוח הודעות לתיאום בין סוכנים. החברה הודתה שעד כה התייחסה לתקריות מסוג "חוסר יישור" (misalignment) — כאשר מודלים וסוכני AI פועלים למטרות שונות מאלו שהוגדרו להם — בעיקר כשאלת מחקר שמתפרסמת בפרסומים אקדמיים, אך כעת, כשהתופעה יוצרת השפעות ממשיות בעולם האמיתי, יש צורך להרחיב את הגישה.

לפי דיווח קודם של רויטרס, הנהלת OpenAI ידעה על התקרית שבועות לפני שנחשפה בפומבי, אך בחרה שלא לחשוף אותה בעודה מתמודדת עם תקרית נפרדת וחמורה יותר — הפריצה של סוכני OpenAI לשרתי Hugging Face. דובר החברה מסר לרויטרס כי אינו יכול להגיב לממצאים שטרם נבדקו, אך הכחיש טענות לפיהן הצוות המשפטי מנע חקירה. היועץ המשפטי לממשלת קליפורניה, רוב בונטה, בודק בנפרד את פרשת Hugging Face.

OpenAI ציינה כי גם היא וגם קהילת ה-AI הרחבה עדיין נעדרות תקן ברור כיצד לדווח על מקרי חוסר יישור, והבטיחה לפרסם "מסגרת עבודה" בשבועות הקרובים, תוך עבודה משותפת עם עשרות רגולטורים ממשלתיים ברחבי העולם. ג'ייקוב שטיינהרדט, מנכ"ל מכון המחקר Transluce, אמר כי כלים אלה "קשים מטבעם לשליטה ובעלי סיכון משמעותי לדליפה מהמעבדה", וקרא להחיל עליהם סטנדרטים דומים למחקר מדעי בסיכון גבוה.

זוהי המשך ישיר לשרשרת הסיפורים שכיסינו השבוע על בטיחות AI וניהול סיכוני סוכנים אוטונומיים — הפעם עם הודאה רשמית ומחויבות קונקרטית לשקיפות מצד אחת מהמעבדות המובילות בתעשייה.

מקור: TechCrunch

Nvidia משיקה כלי חינמי להפעלת AI מקומי מכוח מחשבים ביתיים לא מנוצלים

Nvidia הכריזה על PAIR (Personal AI Router) — תוכנה חינמית בקוד פתוח שמזהה ומחברת מחשבים תואמים בבית או במשרד (כרטיסי Nvidia RTX 20 ומעלה, DGX Spark, ומחשבי Apple עם שבב M4 ומעלה) לצורך הרצת משימות AI מקומיות באמצעות כלים כמו Ollama ו-LM Studio. המערכת מנצלת זמן פנוי של מחשבים (למשל כשאינם בשימוש) כדי לפצל עומסי עבודה של סוכני AI בין כמה מכשירים במקביל, והתקשורת מאובטחת באמצעות הצפנת mTLS. הגרסה זמינה כעת ב-Windows, Linux ו-macOS.

עבור עסקים קטנים ובינוניים שכבר מחזיקים במספר מחשבים חזקים, זהו פתרון מעניין להרצת AI מקומי ללא צורך ברכישת חומרה נוספת או תשלום עבור שירותי ענן.

מקור: The Verge

מיקרוסופט מוזילה תמלול קול ב-72% עם MAI-Transcribe-2

מיקרוסופט השיקה את MAI-Transcribe-2, מודל תמלול קול חדש שלטענתה מהיר, מדויק וזול יותר מהמתחרים של OpenAI, גוגל ו-ElevenLabs. המחיר צנח ל-10 סנט לשעת אודיו — ירידה של כ-72% מהמחיר הקודם — תוך תמיכה ב-60 שפות, זיהוי דוברים מובנה, חותמות זמן, וזיהוי שפה אוטומטי. עבור עסק המעבד 100,000 שעות אודיו של מוקד שירות בשנה, החיסכון השנתי מגיע לכ-26,000 דולר.

זוהי דוגמה מוחשית לאיך תחרות בין ספקי AI מובילה להוזלות ישירות ומהותיות לעסקים המשתמשים בשירותי תמלול, תמלול פגישות, ותיעוד שיחות שירות לקוחות.

מקור: VentureBeat

גוגל: עכשיו אפשר לדבר עם Gmail, Docs ו-Keep

גוגל השיקה מצבי שיחה קוליים בזמן אמת עבור Gmail, Docs ו-Keep (בשם Gmail Live, Docs Live ו-Keep Live), המאפשרים לנהל את האפליקציות בשיחה טבעית. לדוגמה, ניתן לשאול את Gmail Live שאלה כמו "מתי האירוע הבא של הילד בבית הספר?" והוא ימצא את התשובה מתוך תיבת הדואר וישיב בקול, עם קישורים למקורות. Docs Live מסייע לנסח מסמכים על בסיס תיאור מילולי, ו-Keep Live מאפשר לרשום פתקים בדיבור חופשי. הפיצ'רים זמינים כעת במובייל באנגלית למנויי Google AI Plus/Pro/Ultra.

מקור: The Verge

Adobe מביאה את Photoshop, Premiere וכלי ה-AI שלה ישירות לסלאק

Adobe for Slack זמינה כעת לצוותי Slack Business Plus ו-Enterprise Plus, ומאפשרת ליצור ולערוך תמונות, וידאו ומסמכים ישירות בתוך סלאק. המשתמש מתאר בשפה טבעית את התוצאה הרצויה, וה-Slackbot של Adobe מפעיל למעלה מ-70 כלים מתוך Creative Cloud ו-Firefly להשלמת המשימה, עם אפשרות להמשיך לעבוד על הפרויקט באפליקציות המלאות של Adobe במידת הצורך.

עבור צוותי שיווק ותפעול קטנים העובדים בסלאק, זהו קיצור דרך משמעותי בתהליכי עריכה יצירתית.

מקור: The Verge