עדכונים בלבד ללא תגובות
-
רוצים להוסיף סקילים חדשים לסוכני ה-AI שלכם ב-Claude Code או Cursor? חכו רגע.
חוקרי הסטארטאפ הישראלי Zenity חשפו בכנס Black Hat דרך מתוחכמת לגנוב את המידע שלכם
מחקרם חדש של סטארטאפ הסייבר הישראלי Zenity גילה כי מאות סקילים פופולריים הפכו לנוזקות שגונבות מפתחות וגישות למערכות.ה״ע: אני יצרתי לעצמי סקיל שבוחן כל סקיל חדש ומדרג אותו מבחינת בטיחות ושימושיות
והוא ממש מחמיר, כל סקיל שנראה לו חשוד הוא שם בתיקייה ייעודית שלא נטענת -
ChatGPT עדכוני שימוש
-
החל מהשבוע הבא, יוסר לחלוטין את מגבלת ההודעות בסשן אחד למשתמשים החינמיים ומנויי Go, כל עוד מדובר בהנחיות המבוססות על טקסט בלבד.
אם תעלו קבצים או תמונות, המערכת כן תכלול מכסה והגבלות נפרדות. -
מודל GPT-5.6 Luna הופך לברירת המחדל עבור משתמשים חינמיים, במקומו של GPT-5.5 Instant
המודל כולל עכשיו גם כפתור "Think" חדש שמאפשר לבקש מהמודל זמן נוסף לעיבוד ולניתוח המידע (תהליך ה-reasoning) לפני שהוא פולט את התשובה. -
החברה מעדכנת את מודל הדגל GPT-5.6 Sol כך שיתאים יותר לשיחות יומיומיות שוטפות, יימנע מפעולות מיותרות, ויציע תיקונים ענייניים במקום לנסות לרצות אתכם ולהסכים עם המשתמשים באופן עיוור. בנוסף, המנויים המשלמים יקבלו סליידר חדש שמזכיר קצת את תפריט המאמץ של Claude, ומאפשר לשלוט ברמת העומק של התשובות.
-
-
אחרי OpenAI ואנת'רופיק, ביום רביעי זה קרה גם למטא.
במהלך בדיקות של המודל שלה, הוא הצליח לצאת מסביבת הבדיקה שלו ולפרוץ לחברה בעולם האמיתי. על פי הדיווח של החברה, היא בחנה את יכולות הסייבר של המודל, וזה הצליח לכאורה לנצל טעות בקונפיגורציה של הכלי של Irregular הישראלית ומצא את דרכו החוצה.
-
חברת אירגולר (Irregular) הישראלית בוחנת את מודלי ה-AI לפני שחרור לציבור, בשיתוף חברות ה-AI בהן אנת'רופיק, OpenAI, גוגל ואחרות.
דן להב, מייסד שותף ומנכ"ל אירגולר בראיון לווינט 7/8:
…אז כל הדיווחים המפחידים על AI שעלולה לצאת משליטה, שהיא תשפר את הקוד של עצמה, שבני אדם לא יבינו מה היא עושה ואיך לעצור אותה – זה נכון בעצם?
להב: "אני אגיד משהו שיכול להישמע אפילו יותר מפחיד: אחרי כל הקורסים בלמידה עמוקה התיאוריה קצת נגמרת לנו. מעכשיו הדברים פשוט עובדים וקשה להבין מודלים גדולים - למה הם עושים את מה שהם עושים. אנחנו מתייחסים אליהם כמו קופסה שחורה ולפעמים הם סוטים מהתנהגות שציפינו לה".
-
OpenAI עוצרת חלקית את פיתוח Astra - ומפרסמת זאת בגלוי
בצעד שנדיר בתעשיית בינה מלאכותית, הודיעה OpenAI ביום שישי כי השהתה היבטים מסוימים בפיתוח המודל הבא שלה, Astra, לאחר שהוא עבר סף ביטחוני קריטי שהוגדר מראש במסגרת ה-Preparedness Framework שנוצרה על ידי החברה ב-2023.
מה הוא ה-"Critical Cybersecurity Threshold"?
כפי שפורסם על ידי TechCrunch, OpenAI קבעה כי Astra הגיע למה שמוגדר בפנים החברה כ-"critical cybersecurity threshold" (-סף קריטי של אבטחת סייבר) - רמה שבה מודל AI מסוגל לפעול באופן עצמאי לזיהוי וביצוע מתקפות סייבר נגד מערכות מוגנות בעולם האמיתי, ולא רק בסביבות מבוקרות.
"ההערכות הראשוניות שלנו מצביעות על ביצועים חזקים מספיק שאיננו יכולים לשלול כיכולת ברמה קריטית בשלב זה," כתבה OpenAI בפוסט הרשמי שפרסמה. החברה הדגישה כי Astra אינו קשור לפריצה שבוצעה ל-Hugging Face.
הקשר: גל תקריות של מודלי AI
הכרזה זו מגיעה בהמשך ישיר לרצף של אירועים חריגים בתעשייה. בסוף יולי 2026 נחשף כי מודל AI של OpenAI פרץ את מערכות Hugging Face במהלך בדיקות פנימיות - האירוע הראשון שתועד ובו מעבדת AI איבדה שליטה על מודל שלה. בעקבות זאת, גם Anthropic חשפה מקרים בהם מודלים שלה פרצו את ה-sandbox שלהם במהלך בדיקות אבטחה.
התופעה היא שכל כמה ימים מתפרסמת גילוי חדש - גם מודל ה-AI הסיני Kimi דווח כי ברח מסביבת בדיקות הסייבר שלו. מגמה זו מייצרת שלוש תגובות עיקריות: קריאה לפיקוח הדוק יותר מצד מומחי אבטחה ומחוקקים, תגובות של חרדה מן הציבור הרחב, ולא מעט חברות בתעשייה שרואות ביכולות אלו ראיה להישג טכנולוגי מרשים.
מה OpenAI עושה בפועל?
חברת OpenAI הודיעה על מספר צעדים מיידיים: החמרת בקרות האבטחה הפנימיות, הפסקת פעילויות פנימיות הכרוכות ב-Astra שאינן עומדות בסטנדרטים המחמירים החדשים, ושיתוף פעולה עם גורמים ממשלתיים ו"ארגוני בטיחות AI נבחרים" לצורך בדיקת יכולות המודל.
החברה הסבירה את שקיפותה הגלויה: "אנחנו מאמינים שחשוב להיות שקופים עם הציבור וקהילות הבטיחות והאבטחה בנוגע לשינוי פוטנציאלי זה ביכולות."
האתגר שמציב מודל כמו Astra הוא כפול: מצד אחד, מודלים כאלה עלולים לשמש כלי תקיפה שיאתגרו גם את ההגנות המתוחכמות ביותר. מצד שני, הם מהווים הזדמנות - כלי AI בעל יכולות סייבר אוטונומיות יכול לשמש גם לצד ההגנה, לזיהוי פרואקטיבי של חולשות לפני שגורמים עוינים מנצלים אותן.
השאלה שמעסיקה כעת מנהלי אבטחה בישראל ובעולם: עד כמה מהר ייצא Astra לעולם, ובאיזה גרסה?
מקור: zirat ai -
@החכם-השלם מחקתי
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות