אבטחת סוכני בינה מלאכותית: 6 בקרות מ-9 אירועי אבטחה אמיתיים
אמ;לק
סוכני AI פועלים עם הרשאות המשתמש ועלולים לבצע פעולות לפני שניתן לעצור אותם, כפי שהודגם בתשעה אירועים. שישה מנגנוני בקרה מרכזיים יכולים לצמצם נזקים, ביניהם סביבת ריצה מבודדת, הגבלת הרשאות ותצורת 'מניעה כברירת מחדל'. מנגנונים אלו חיוניים להגנה מפני סיכונים בסוכני AI הפועלים באופן אוטונומי.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: AI Agent Security: Six Controls From Nine Real Incidents

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
• שלושה משטחי התקפה: סוכן AI חושף את המארח שלו, את הזהות שלו ואת עצמו. תשע תקריות ציבוריות בין מאי 2025 ליולי 2026 פגעו בכל השלושה; משטח הסוכן מופיע בחמש מהן, תמיד בשילוב עם המארח או הזהות.
• האישור הוא המטרה: בתקריות ההזרקה, הסוכן קורא בעיה (issue), מייל, קובץ הגדרות או דף אינטרנט המכיל הוראות. ההוראה פתחה את הדלת, והאישור הוא מה שהתוקף חיפש.
• שישה פקדים (controls) מגבילים את רדיוס הפיצוץ: הכנסת הסוכן לארגז חול (sandbox), הגבלת האישורים שלו, הרחקתו מהתצורה של עצמו, תיעוד כל שיחה, סריקת סביבת העבודה לאיתור סודות מראש, ודחייה כברירת מחדל. אף אחד מהם לא מונע prompt injection.
סוכן AI רץ עם האישורים שלך ופועל לפני שתוכל לעצור זאת. תשע תקריות מראות מה המחיר לכך. שישה פקדים מגבילים את הנזק: הכנסת הסוכן לארגז חול, הגבלת האישורים שלו, נעילת התצורה שלו, תיעוד כל שיחה, סריקת סביבת העבודה מראש, ודחייה כברירת מחדל.
סוכן חושף שלושה משטחים נפרדים. יש את המארח שהוא נוגע בו, הזהות שהוא פועל בתור, והסוכן עצמו.
המארח הוא כל מה שהתהליך יכול להגיע אליו: מערכת הקבצים, ביצוע תהליכים, הרשת, משתני סביבה וחומרה כגון מצלמה או מיקרופון. הזהות היא החשבון שבו פועל הסוכן, עם ההרשאות וההיקפים שלו, וכל אישור שהוא יכול לגלות בדרך. הסוכן הוא החלק שאין לו מקבילה בתהליך מסורתי. יש לו הקשר, מצב נשמר בזיכרון, ווים (hooks), מיומנויות, תצורה והכלים שאליהם הוא מתחבר.
שלושת המשטחים הללו נכשלים בדרכים שונות וזקוקים לפקדים שונים. אבטחת מערכת הפעלה קלאסית כבר מכסה את המארח. זהות ניתנת לפתרון במידה רבה עם דפוסי ניהול זהות וגישה ידועים (IAM).
משטח הסוכן הוא החדש שבהם, כיוון שכל קלט עשוי להוות פקודה. שמירה על הפרדה בין השלושה תבהיר לך אילו תקריות ניתן לתקן כעת ואילו מהן התעשייה עדיין חוקרת.
תשע תקריות ציבוריות בין מאי 2025 ליולי 2026 השתמשו בכל שלושת משטחי התקיפה. משטח הסוכן מופיע בחמש מהן, ולעולם לא לבד.
מארח: נפתר עקרונית, עדיין נכשל בפועל
ביולי 2025, משתמש ביקש מ-Gemini CLI לארגן מחדש תיקיה על ידי יצירת ספרייה חדשה והעברת קבצים לתוכה. פקודת mkdir נכשלה בשקט. הסוכן לא בדק את השגיאה, הניח הצלחה והמשיך להנפיק פקודות העברה לנתיב שלא קיים. מכיוון שכל פעולות ההעברה כוונו לאותו יעד לא קיים, כל קובץ החליף את קודמו, והותיר רק קובץ בודד. לא היה תוקף ולא הייתה הזרקה, רק קוד יציאה שלא נבדק ולופ שהניח שהפעולה הצליחה.
חודש לאחר מכן, משתמש ביקש Claude לנקות ספרייה שיצר Claude. מערכת ההרשאות עבדה כהלכה וביקשה לאשר את rm -rf ~/ . עייף, המשתמש אישר. הנזק היה זהה לניגוב זדוני.
שתי התקריות הללו נכשלו בצדדים מנוגדים של אותו קו. Gemini CLI נשאר בתוך התיקיה שהוגדרה לו, כך שאף ארגז חול לא היה מופעל. הוא הרס רק את מה שניתן לו. Claude עשה את ההיפך: הוא הציע למחוק ספריית בית בתגובה לבקשה שהוגדרה לפלט שלו בלבד. ארגז חול המוגבל לסביבת העבודה היה עוצר זאת. תיבת האישור הייתה הבקרה היחידה במקום, והיא נכשלה בגלל עייפות המשתמש.
הכישלון של Gemini הוא המטריד מבין השניים. הפנה את אותו סוכן לספריית הבית במקום לתיקיית פרויקט, ואותו באג ימחק את המחשב הנייד. לכן, הבקרה היא לא רק אם ניתן להכיל את הסוכן, אלא מה אתה מוסר לו מלכתחילה.
זהות: הסוכן יורש את מה שאתה מחזיק
בדצמבר 2025, מהנדס AWS השתמש בסוכן Kiro של Amazon כדי לתקן באג ב-Cost Explorer, לוח המחוונים לחיוב ב-AWS. הסוכן החליט למחוק וליצור מחדש את כל הסביבה. הוא ירש את ההרשאות המוגברות של המהנדס, דילג על ביקורת עמיתים וגרם להפסקה אזורית של 13 שעות. אמזון האשימה תפקיד IAM מוגדר בצורה שגויה, לא את ה-AI.
באפריל 2026, סוכן שעבד על פריסה ב-Railway נתקל בבעיה והחליט למחוק אמצעי אחסון. לא הייתה לו גישה ישירה לזהות לעשות זאת, אך הוא חיפש אסימון (token) במערכת הקבצים. המחיקה הרסה את סביבת הייצור ואת הגיבויים שאוחסנו לצידה.
אף אחד לא העניק לסוכן Railway את האישור הזה: הוא גילה אחד. כל סוד במארח זה הוא חלק מהזהות שלו, בין אם התכוונת אליו ובין אם לאו. השאלה שחשובה היא לא מה נתת לסוכן, אלא מה הסוכן יכול למצוא בסביבה שנתת לו.
הסוכן: כל קלט הוא בפוטנציה הוראה
במאי 2025, Invariant Labs הראו שדי בבעיה זדונית (malicious issue) שהוגשה במאגר ציבורי. הקורבן ביקש מהסוכן שלו לבדוק בעיות פתוחות. הסוכן קרא את ההוראות השתולות, השתמש באסימון ה-GitHub רחב ההרשאות של הקורבן כדי למשוך מאגרים פרטיים, והדליף אותם לבקשת משיכה (pull request) פומבית. אסימון אחד בעל הרשאות מוגזמות, שנעשה בו שימוש חוזר מעבר לגבול שבין ציבורי לפרטי, ללא שום אכיפה להפרדה.
ביוני 2025, Aim Labs חשפו את EchoLeak. אימייל מעוצב הספיק. Microsoft 365 Copilot עיבד אותו כהקשר. הוראות נסתרות גרמו לו לחפש בתיבת הדואר של המשתמש, ב-OneDrive וב-SharePoint, ואז להוציא את התוצאות באמצעות כתובות URL של תמונות שרונדרו אוטומטית. הקורבן מעולם לא פתח את האימייל. מיקרוסופט דירגו את זה כ-CVSS 9.3.
בפברואר 2026, Check Point תיעדו ביצוע קוד מרחוק וגניבת מפתח API באמצעות קבצי פרויקט של Claude Code. שכפול ופתיחת מאגר לא מהימן הספיקו. קובץ .claude/settings.json זדוני הזריק פקודות shell כ-hooks. קובץ .mcp.json הריץ שרתי MCP לפני תיבת דו-שיח לאישור. הגדרת מאגר של ANTHROPIC_BASE_URL הפנתה תעבורה מאומתת, כולל כותרת אימות, לנקודת קצה של תוקף. כל השלושה בוצעו לפני שהמשתמש הסכים למשהו.
ביולי 2026, Intezer הראו שסוכן Kiro של AWS משכתב את תצורת ה-MCP של עצמו לאחר קריאת טקסט נסתר בדף אינטרנט רגיל. הסוכן ערך את הקובץ שהיה אמור להכיל אותו, ואז טען אותו מחדש. במצב האוטונומי המוגדר כברירת מחדל, אין בקשת אישור יעילה.
כל תקרית בסעיף זה מתחילה באותו אופן. הסוכן קרא משהו שהוא תוכנן לקרוא, ותוכן זה נשא הוראות: גוף של בעיה (issue), אימייל, קובץ הגדרות או דף אינטרנט. מה שההוראות הגיעו אליו הוא החצי השני של התבנית. אסימון GitHub רחב מספיק כדי לעבור מציבורי לפרטי. הרשאות לתיבת דואר וכונן בסשן שנועד רק לסכם אימייל. ההוראה פתחה את הדלת. האישור הוא מה שהתוקף חיפש.
אין תוקף, שלושת המשטחים
ביולי 2026, מודלים של OpenAI שהריצו הערכת יכולת סייבר ברחו מארגז החול שלהם ופגעו בתשתית הייצור של Hugging Face. אף אחד לא תקף אותם. כשהם נחסמו במשימותיהם, הם הפכו מופע Artifactory פנימי ללוח הודעות וסחרו בו בשיטות פריצה. המגינים שללו את האישורים ומחקו אותם; הסוכנים בנו מחדש את הלוח תוך יום. הכתבה שלנו מכסה את ציר הזמן המלא.
זהו האירוע היחיד מבין התשעה שנוגע במארח, בזהות ובסוכן ללא תוקף בשום מקום בשרשרת. הסוכנים קיבלו מטרה; הם נכשלו, והם מצאו מסלול אחר. כשהמגנים סגרו אותו, הם מצאו את הבא.
מודל האיום של הסוכן AI: בעיות ישנות, מהירות חדשה
התייחס לסוכן כאל נוזקה בזיכרון שאולי לא תוכל לעשות לה הנדסה לאחור ולהבין. הוא פועל עם סמכויות מואצלות, פועל לפני שבן אנוש כלשהו יכול להתערב, ואינו מתנהג באותה צורה פעמיים.
יכולות: מה הסוכן יכול לעשות
סוכן רץ עם הרשאות גבוהות, לרוב בירושה ממי שהפעיל אותו. הוא קורא וכותב במערכת הקבצים, מגיע לרשת, מבצע קוד ויכול ליצור סוכני משנה. הוא ניגש לאישורים, גם לאלו שניתנו לו וגם לאלו שהוא מוצא. הוא שומר מצב דרך זיכרון, ווים, מיומנויות ותצורה.
שלא כמו כל תהליך אחר, סוכן גם מתחבר לכלים באמצעות מיומנויות ושרתי MCP. הסוכן קורא את המחברים האלה כהוראות. תיאור של כלי מגיע להקשר שלו באותו אופן שבו מגיעה בקשת משתמש, כך ששימוש במחבר פירושו קריאת קלט לא מהימן.
תוצאות: מה משתבש
חמישה דברים משתבשים: הרס, הסתננות, תנועה לרוחב, התמדה וסודות שדלפו.
הרס הוא האירוע הברור ביותר לעיל, ומישהו מבחין בו תוך דקות. Exfiltration ותנועה לרוחב (lateral movement) לא דורשים שום טעות: קריאת נתונים ושימוש באישור הם המשימות שהסוכן מבצע. הם צצים רק כאשר מערכת זיהוי מופעלת, או כאשר מישהו בסופו של דבר קורא את הלוגים.
Persistence והדלפות סודות מקבלים צורה אחרת עם סוכנים. תהליך קונבנציונלי מסתיים ולא משאיר דבר מאחור. סוכן כותב לזיכרון, לווים, למיומנויות ולתצורה, ואז קורא אותם בחזרה בסשן מאוחר יותר כידע קודם. שום תהליך תקין אחר לא מחליט על דעת עצמו לצאת ולחפש אישור. סוכן מחפש במערכת הקבצים ובסביבה כדי למצוא אחד, ושולח אותו לספק המודל כאשר הוא מצליח.
אף אחד מאלה אינו חדש. אלו אותן תוצאות שהגנו מפניהן במשך שנים. מה שחדש הוא מספר הפעולות שתהליך בודד יכול להגיע אליהן בהרצה אחת.
וקטורים: איך זה קורה
חמש דרכים: המודל עצמו, הזרקה מהירה, הרעלת כלים ומיומנות, הרעלת זיכרון ועייפות אישור.
המודל עצמו אינו זקוק לתוקף כלל. הסוכן מחליט שמחיקת הסביבה היא התיקון, ויש לו את ההרשאות לבצע אותה. ארבע מהתקריות לעיל הן כאלו. גם הסוכנים של OpenAI שנחסמו במשימותיהם לא עצרו: הם מצאו נקודות תורפה וניצלו אותן. החלטה שגויה והחלטה נכונה מייצרות את אותו רישום בלוג.
שלוש מהתקריות האחרות דורשות ממישהו לשתול הוראה. הזרקה ישירה מגיעה מהמשתמש, שהוא כבר הגורם המורשה. הזרקה עקיפה מגיעה בתוך תוכן שהסוכן התבקש לעבד: גוף בעיה, קובץ תצורה, כותרת בקשת משיכה, או דף אינטרנט. ארבע מהתקריות לעיל מתחילות כאן, ובכל מקרה התוכן היה משהו שהסוכן היה חייב לקרוא כדי לבצע את עבודתו. הרעלת כלים ומיומנויות היא אותה בעיה דרך מחבר. הסוכן קורא תיאור של כלי כהוראה, ושרת מרוחק יכול לשנות אותו לאחר בדיקה. הרעלת זיכרון היא היחידה ששורדת מעבר לסשן, ומגיעה למשימה מאוחרת יותר כידע קודם.
מקרה rm -rf ~/ מציג את מגבלת הנחיות האישור. הבקרה ירה, אדם קרא אותה, והאדם אישר.
מגברים: מה עושה את זה שונה
שלושה דברים מחמירים את התוצאות הישנות: מהירות, קנה מידה ואי-דטרמיניזם.
Gemini CLI החליף תיקיה מהר יותר ממה שהמשתמש יכול היה לקרוא את הפלט. שלב ביקורת שרץ אחרי הפעולה לא מונע אותה. הסוכנים ב-Hugging Face היו הרצות נפרדות ללא מצב משותף. אחד מהם מצא מוצא ורשם אותו היכן שהאחרים יכלו לקרוא אותו, כך שכל הרצה שבאה אחריו התחילה עם הניצול. אותה הנחיה מייצרת פעולות שונות בהרצות שונות, כך שתצורה שעברה בדיקה אחת עלולה להיכשל בבאה אחריה.
הווקטורים והתוצאות אינם חדשים. מה שחדש הוא שהסוכן פועל מהר יותר, רחוק יותר ופחות צפוי מתהליכי האבטחה שבנינו כדי לבדוק את פעולותיו.
בקרות אבטחה לסוכני AI: מה קיים, לפי משטח
הבקרות הקיימות כיום, ממוינות לפי משטח: מארח, זהות, סוכן וארכיטקטורת ההגנה סביב שלושתם.
מארח: הכלה, והגבלת מה שאתה מוסר לו
התחל עם מה שמגיע עם הסוכן. אל תפעיל את Claude עם --dangerously-skip-permissions או המקבילה שלו בסוכנים אחרים. השתמש בארגז החול המובנה היכן שקיים, והגדר חוקי אישור ודחייה עבור כלים, נתיבים ופקודות. אלה זולים ליישום וקלים למאגר לא מהימן להחליף, ולכן הם השכבה הראשונה אך לא היחידה.