מגילוי להגנה: מדוע AI Red Teaming הוא הצעד הבא לאחר AI-SPM
אמ;לק
AI Red Teaming מהווה את השלב הבא באבטחת AI, לאחר ביצוע AI-SPM. גישה זו מדמה התקפות אמיתיות על מערכות AI, במטרה לחשוף פרצות כמו הזרקת Prompt, חשיפת נתונים ופגיעויות התנהגותיות. השיטה מסייעת לארגונים לחזק את ההגנות מפני איומי AI מתפתחים.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: From Discovery to Defense: Why AI Red Teaming Is the Next Step After AI-SPM

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
עמיתי Manoj Nair כתב לאחרונה על הפער ההולך וגדל בין מה ש-AI בונה לבין מה שצוותי אבטחה בודקים בפועל. הוא טען שמהירות הפיתוח המונעת על ידי AI עקפה באופן יסודי את יכולות האימות, ושהתגובה לא יכולה להיות האטה, אלא שינוי של מהות הבדיקה. אני מסכים עם כל מילה.
מה שאני רוצה לעשות כאן זה לצלול לעומק רב יותר. ביליתי את רוב העשור האחרון בבניית מנועי Dynamic Security Testing. תחילה ב-Probely, חברה שהייתי שותף להקמתה, ועכשיו ב-Snyk, שם הטכנולוגיה שלנו מניעה את Snyk API & Web. לכן, כשאני אומר שכל התפיסה של התעשייה לגבי Dynamic Security Testing עומדת להשתנות, אני לא מבצע תחזית שוק, אלא מתאר את מה שאני רואה שקורה בארכיטקטורות שאנו בוחנים מדי יום.
ניתוח הקוד נעשה חכם יותר באופן דרמטי. זה עדיין לא מספיק.
נתחיל במתן קרדיט היכן שצריך: ניתוח סטטי עשה קפיצות אדירות.
במשך שנים, הקטגוריה הייתה תקועה בעידן של התאמת דפוסים נוקשה ורועשת, עם מנועים מבוססי-כללים שיצרו ערימות של ממצאים אך מעט מאוד אותות אמת.
ואז הגיע הגל הראשון של למידת מכונה ו-AI סימבולית שהיו מסוגלים לעקוב אחר זרימות נתונים עמוקות יותר בתוך בסיסי הקוד: מנועים כמו Snyk Code, המופעלים על ידי DeepCode AI, שהביאו הבנה סמנטית אמיתית לניתוח הסטטי.
ועכשיו, אנו רואים יכולת שונה באמת מתעוררת: כלים אגנטיים המשתמשים בהיגיון סמנטי כדי להבין את הכוונה האמיתית של הקוד, לא רק את התחביר שלו. מודלים אלה יכולים לסמן פגמים מורכבים בלוגיקה עסקית ובעיות הרשאה ישירות מקוד המקור בדרכים שלא היו מתקבלות על הדעת לפני חמש שנים.
זוהי התקדמות אמיתית ומשמעותית. למעשה, היא גדלה כל כך עד שזו שאלה פתוחה אם התעשייה תמשיך לקרוא לזה "SAST" או תמציא מונח חדש עבורו לחלוטין.
אבל זה העניין: אפילו למנוע ניתוח הקוד המתקדם ביותר יש מגבלה: הוא לא יכול לבדוק מה שהוא לא יכול להפעיל.
יישומים מודרניים אינם מונוליטים; הן סביבות מבוזרות, מורכבות, מרובות-שכבות: יישומים של עמוד אחד המתקשרים עם עשרות שירותי מיקרו-קצה, כל אחד עם הקשר אימות משלו, דפוסי גישה לנתונים ומחזור חיי הפריסה שלו. סורק קוד מתוחכם עשוי לסמן בהצלחה פגם בהרשאה בתוך בסיס קוד אחד של שירות מיקרו. אבל מה אם הפגיעות מתבטאת רק כאשר מספר רכיבים מקיימים אינטראקציה?
שקול תרחיש אמיתי: בעיית הרשאה שמופיעה רק בגלל האופן שבו יישום חזיתי מטפל באסימון, בשילוב עם האופן שבו שער API מנתב את הבקשה, בשילוב עם האופן שבו שירות אחורי משני מפרש את תפקיד המשתמש. אף בסיס קוד אחד לא מכיל את הפגיעות. זה עולה מתוך האינטראקציה. ניתוח סטטי, לא משנה כמה אינטליגנטי הוא, נאבק במצב בין-רכיבי על פני בסיסי קוד, מכיוון שהוא ביסודו לא יכול לצפות במערכת כולה.
זה בדיוק מה Dynamic Security Testing יכול לעשות. זה יכול לאמת אם תוקף באמת יכול לנצל מערכת כאשר כל אותם רכיבים שונים מחוברים יחד בסביבה חיה.
הנקודה העיוורת הזו בכל הנוגע להרצה משתרעת ישירות אל החזית ש-Manoj תיאר: סוכני AI הקוראים ל-APIs באופן אוטונומי ובקנה מידה נרחב, בדרכים שהמתכנתים שלהם מעולם לא צפו. סיכונים כמו prompt injection, חטיפת יעדים (goal hijacking) והרעלת הקשר (context poisoning) לא קיימים בקוד המקור. אלו התנהגויות מתעוררות המתרחשות רק בזמן ריצה. בדיוק כמו האינטראקציות המורכבות של ה-microservices, ניתן לאמת איומים אלו רק על ידי אינטראקציה דינמית עם המערכת החיה.
ההתכנסות שאיש אינו קורא לה בשם
משהו אחר קורה בשוק שלדעתי ראוי לתשומת לב ישירה יותר.
במהלך השנה האחרונה צצה תווית חדשה: "AI Pentester". התווית הזו מייצגת משהו אמיתי, שכן הכלים הללו מהווים שינוי גישה מהותי. במקום סורק קשיח שזורק מטענים (payloads) סטטיים לכל קלט שהוא מוצא, הזן החדש של כלים אלו יכול להסיק מסקנות לגבי מצב האפליקציה ולהחליט על צעדיו הבאים בהתבסס על הקשר, בדומה לחוקר אבטחה אנושי.
אבל הנה מה שראיתי, ומה שלדעתי השוק טועה: הגישות הללו משלימות ביסודן, לא תחרותיות.
לאחרונה בדקנו אפליקציה פגיעה במכוון באמצעות מנוע Dynamic Security Testing מסורתי ובאמצעות גישת פנטסטים עצמאית מונעת-AI, ואני יכול לומר לכם: התוצאות היו חד-משמעיות.
המנוע Dynamic Security Testing מצא נקודות תורפה שגישת AI-driven החמיצה, פשוט בגלל שמנועים מסורתיים בנויים למיצויות מכנית בלתי פוסקת, שכן הם יבחנו בשיטתיות כל פרמטר, כל נקודת קצה, כל מקרה קצה.
בינתיים, הגישה AI-driven מצאה פגמים לוגיים מורכבים שהמנוע המסורתי לא יכול היה להבין, מכיוון שהוא יכול לנמק את שרשראות ההרשאות וההיגיון העסקי בדרכים שסורק דטרמיניסטי מעולם לא יוכל.
אף אחד לבדו לא הספיק. שניהם יחד ציירו תמונה הרבה יותר שלמה.
זה אומר לי שהתעשייה בבירור הולכת לקראת התכנסות. המוצר העתידי בקטגוריה זו ככל הנראה ימזג את שתי היכולות: מצב ממצה לכיסוי צנרת מקיף (מהסוג שארגונים צריכים לאבטחה מתמשכת), לצד מצב ממוקד, מבוסס-הקשר לניצול עמוק מבוסס-לוגיקה (מהסוג שמוצא את פגמי ההרשאה והפגיעויות המשורשרות שקוד AI-generated מציג בקנה מידה).
התווית המדויקת, בין אם השוק נצמד ל-"DAST," יפנה ל-"AI Pentesting", או ממציא משהו חדש לגמרי, עדיין לא ידועה במקצת. אבל ההתכנסות עצמה מרגישה בלתי נמנעת.
לאן זה מוביל
אם הייתי צריך לתאר את השינוי הארכיטקטוני החשוב ביותר באופק, זה יהיה שהאינטליגנציה של רמת הקוד ו-Dynamic Security Testing משתלבים זה בזה.
במשך רוב ההיסטוריה שלו, Dynamic Security Testing פעלה כקופסה שחורה, ללא ידע בקוד המקור, ללא הבנה של ההיגיון הפנימי של האפליקציה. הוא חקר מבחוץ ודיווח מה מצא. זה היה גם הכוח שלו (הוא בדק את המציאות, לא את התיאוריה) וגם המגבלה שלו (הוא היה עיוור להקשר שיכול להפוך אותו ליעיל יותר באופן דרמטי).
זה משתנה. ככל שהפלטפורמות מתבגרות, המסלול הטבעי הוא לעבר מה שחוקרי אבטחה תמיד כינו בדיקות "קופסה אפורה" (grey-box): גישה המקיימת אינטראקציה בו-זמנית עם האפליקציה החיה ומבינה את קוד המקור שמתחתיה. בכיוון אחד, ניתוח ברמת הקוד יכול להעלות השערות לגבי נקודות קצה נסתרות או פגמים לוגיים, ש-Dynamic Security Testing לאחר מכן מוכיח (או מפריך) בסביבה החיה. בכיוון השני – וזה קרוב יותר לאופן שבו האקרים אנושיים מיומנים פועלים בפועל – כלי Dynamic Security Testing עשויים לזהות התנהגות חשודה ב-APIs או באפליקציות חיות, ולאחר מכן להשתמש בהקשר ברמת הקוד כדי להבין בדיוק איך הגנה מסוימת מיושמת, ובכך ליצור את המטען המדויק הדרוש במקום להסתמך על כוח גס (brute-forcing).
זה גם מתחיל לפתור את מה שהיתה היסטורית אחת מנקודות החיכוך הגדולות ביותר עם Dynamic Security Testing: תיקון. כלי דינמי תמיד יכול להוכיח שקיים ניצול על ידי הצגת הבקשה והתגובה הזדונית HTTP והוכחות לניצול, אבל זה השאיר את המפתח לנחש היכן בבסיס הקוד בעצם מקור הפגם. כאשר הוכחה דינמית והקשר ברמת הקוד נמצאים בקורלציה, אתה מקבל משהו הרבה יותר חזק: ממצא שמוכיח יכולת ניצול בזמן ריצה ומצביע ישירות על הקוד שצריך לתקן.
זה המסלול ששווה לראות. לא בגלל שספק אחד הבין זאת במלואו (למרות שעשינו זאת), אלא בגלל שהדרישות המוקדמות הארכיטקטוניות נכנסות למקומן, והצוותים שיזהו את ההתכנסות הזו הכי מוקדם שיבנו את תוכניות האבטחה הכי ניתנות להגנה.
הרשעתו של הבנאי הזה
אני אסיים עם משהו שהגעתי להאמין בו יותר בכל ארכיטקטורה שאנו בודקים.
עידן ההתייחסות ל-Dynamic Security Testing כאל תיבת סימון תאימות, של סורקים איטיים ורועשים שאתה מריץ מדי רבעון ומתייק את התוצאות, הולך ונמוג. לא בגלל שהרעיון היה שגוי, אלא בגלל שהעולם סביבו השתנה.
AI-generated קוד נשלח מהר יותר מכל תהליך אנושי שנועד לסקור, AI סוכנים מפעילים APIs מהר יותר מכל מלאי שנועד לעקוב. וסוג הפגיעות שהכוחות האלה מציגים, כמו הרשאה פגומה, פגמים בלוגיקה עסקית וכשלי מצבים חוצי רכיבים, הם בדיוק סוג הפגיעות שרק Dynamic Security Testing יכול להוכיח באופן סופי.
מה שמופיע אינו תחליף לניתוח קוד, אלא החצי השני של המשוואה: ניתוח קוד אומר לך מה עלול להיות פגיע, אבל Dynamic Security Testing אומר לך מה ניתן לניצול. כאשר שני האותות הללו נפגשים, הרעש יורד והאות מתחדד... מפתחים יכולים לשלוח בביטחון, במקום בחרדה.
אם אתה בונה תוכנית אבטחה לעידן AI, הביטחון הזה הוא הנכס ששווה להשקיע בו.
תיקון פגיעויות מהיר יותר: העוצמה שבמתאם בין SAST ו-DAST מונעי-AI
אל תבזבז זמן בחיפוש אחר שורש הבעיה של התראות זמן-ריצה. הורד את ה-cheat sheet הזה כדי לראות כיצד Snyk מאחד את ממצאי האבטחה שלך כדי לעקוב אחר התראות זמן-ריצה חזרה לשורת הקוד המדויקת.
קרא עוד
PHP2Shell לא יהיה האחרון. הנה איפה שהדבר הבא יופיע תחילה.
PHP2Shell הראה באיזו מהירות פגם ברמת המנוע יכול לסכן אפליקציות הפונות לאינטרנט. למד מדוע מלאי חיצוני, בדיקות מהירות ובדיקות חוזרות חשובות לפני החשיפה הבאה.
Snyk UNFILTERED: מבט מבפנים על פסגת הלקוחות הראשונה שלנו
בפסגת הלקוחות הראשונה של Snyk, מנהיגי אבטחה חלקו נקודות מבט גלויות לגבי סיכוני AI, תיקון פגיעויות וניהול סוכנים אוטונומיים. חמישה נושאים חושפים כיצד צוותים מתאימים את האבטחה למהירות של ה-AI.
PHP מתקן שתי פרצות RCE קריטיות ללא אימות (CVE-2026-109618, CVE-2026-109619): [עודכן עבור CVE-2026-115560]
שני פגמים קריטיים במחזור החיים של הבקשות של PHP יכולים לאפשר ביצוע קוד מרחוק לא מאומת. שדרג למהדורה קבועה או התקן פורט אחורי של ספק עבור גרסאות ישנות יותר.