בחודש יולי 2026 הודיעה חברת OpenAI על "תקרית סייבר חסרת תקדים": במהלך ניסוי פנימי, שני מודלי AI הצליחו להימלט מסביבת הבדיקה הסגורה ולבצע מתקפת סייבר. הניסוי כלל מבדק שנועד לבחון את יכולות התקיפה של המודלים, במסגרתו הוסרו מנגנוני ההגנה שנועדו למנוע פריצות. ה-AI ניצל את הפרצה, התחבר לאינטרנט ומצא חולשות אבטחה שאפשרו לו לחדור למערכות של Hugging Face – פלטפורמה לשיתוף ידע ומודלים של בינה מלאכותית.
ה-AI לא קיבל הנחיה מפורשת לביצוע התקיפה, אלא נראה שפעל 'על דעת עצמו' במטרה למצוא פתרון למבדק.
תקרית זו מעלה חשש של אובדן שליטה על הבינה המלאכותית. האם בעתיד יבצע ה-AI מתקפות ללא הנחיה של גורם אנושי? ומה עשויה להיות חומרת הפריצה?
המודלים של OpenAI השתמשו בשילוב של פרטי גישה גנובים וחולשות אבטחה כדי לחדור למאגרי הנתונים של Hugging Face. חקירה של האירוע גילתה כי ה-AI ביצע מעל 17 אלף פעולות במהלך הפריצה. יחד עם זאת, נראה שהמתקפה התמקדה בפרטי התחברות ומאגרי נתונים מסוימים, ולא פגעה במודלים הציבוריים או בשרשרת האספקה.
הטיפול במתקפה גם הוא נתקל בבעיות מצד הבינה המלאכותית. כאשר Hugging Face ניסתה להשתמש במודלי AI אמריקאיים כדי לחקור את האירוע, המודלים זיהו את הבקשות כפעילות אסורה וחסמו אותן. החברה נאלצה להשתמש במודל AI סיני בקוד פתוח של חברת Z.ai כדי לבצע את הבדיקה באופן פנימי.
התקרית של OpenAI צריכה להוות נורת אזהרה לגבי הסכנות של בינה מלאכותית. ה-AI אינו צפוי, והיכולות שלו רק מתפתחות. למען הביטחון, בארה"ב כבר החלו להציע חקיקה המתמקדת בפיקוח על מודלים של בינה מלאכותית.
ההתקדמות המהירה של טכנולוגיית AI מחייבת ארגונים להיות עם היד על הדופק בכל הנוגע למתקפות סייבר. אם אתם בעלי עסקים, עליכם לדאוג להגנה מתאימה. העסק שלכם חשוף לפריצה בין אם אתם משתמשים ב-AI ובין אם לא.
