האם מניעת פגיעויות בטיחות היא בעיה פתורה?
אמ;לק
מניעת פגיעויות בקוד שנוצר על ידי סוכני AI נחשבת לפתורה מבחינה ארכיטקטונית. עם זאת, האתגר טמון בבחירת בקרות אבטחה יעילות שמגנות על המערכת מבלי להאט את תהליכי הפיתוח. המאמר בוחן את האיזון העדין בין יישום אמצעי הגנה לבין שמירה על יעילות ומהירות הפיתוח בעולם ה-AI-assisted development.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Is prevention essentially a solved problem?

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
מניעת פריסת בעיות אבטחה חדשות בקוד שנוצר על ידי סוכנים היא, מבחינה ארכיטקטונית, בעיה פתורה. מניעה היא הפעולה שנועדה למנוע מפגיעות חדשה בקוד להגיע לסביבת הייצור בכל שלב בתהליך הפיתוח והשחרור, לרבות מניעת החדרתה כבר בשלב ה-feature branch. קיימות נקודות מוגדרות במחזור החיים של פיתוח מבוסס סוכנים שבהן ניתן להטמיע אמצעי אבטחה, כאשר כל נקודה מתאימה לסוג אחר של בקרה, והמיפוי ביניהן מובן היטב. יישום של תהליך זה בתוך ארגון בזמן שמחזור חיי פיתוח התוכנה עובר שינויים אקטיביים הופך את המיפוי הזה למורכב ליישום.
לא ניתן לפתור הכל רק באמצעות הנחיות (Prompting)
הגרסה האידיאלית לאבטחה בפיתוח מבוסס סוכנים היא הוראה בודדת: הנחו את הסוכן לכתוב קוד מאובטח, הכניסו זאת להנחיית המערכת (system prompt) או להגדרות התצורה, ושחררו אותו לעבודה.
איור 1. ההוראה שמרגישה כמו שליטה.
הדרכה בחלון ההקשר (context window) אכן משנה את מה שהסוכן מייצר, והשפעתה ממשית מספיק כדי לבסס עליה תהליכים, אך הוראה אינה בגדר מגבלה. היא משנה את ההסתברות למה שייכתב, אך לא קובעת אותו בוודאות. זה נכון לגבי כלל של שורה אחת, וזה נכון גם לגבי skill שנכתב בקפידה. זהו מאפיין של אופן הפעולה של מודלים אלו (השוקלים את כל הקלטים ומקבלים החלטות על סמך סדר העדיפויות היחסי שלהם), ללא קשר לאיכות ההנחיה שלכם.
קוד שנוצר על ידי AI נותר רגיש לאותן מחלקות של פגיעויות המאפיינות קוד שנכתב על ידי אדם מאז ומעולם. הנחיה לבדה אינה משנה זאת, ושום כמות של כתיבת הנחיות (prompt craft) לא תעשה זאת. לכן, השאלה המועילה היא מה עושים עם כל השאר.
Shift in הוא ה-Shift left החדש
שלוש עלויות עולות ככל שהאבטחה נעה החוצה, הרחק מרגע כתיבת הקוד.
איור 2. שלושתם עולים יחד כשהאבטחה נעה החוצה.
אסימונים (Tokens) הם הגורם המובן מאליו. העלות של סריקה דטרמיניסטית היא זניחה בהשוואה לקריאה למודל, והפער מתרחב בכל פעם שאתם מבקשים ממודל לבצע הסקה על חלק גדול יותר מבסיס הקוד.
תשומת לב אנושית היא הגורם השני. בעיה שמתגלה בזמן שהסוכן עדיין עובד לעולם לא הופכת לכרטיס (ticket), לא עוברת תהליך תעדוף (triage), ולעולם לא מפריעה לאדם המפוצל בין משימות מרובות.
הגורם השלישי הוא ביצוע התיקון בצורה נכונה. סוכן שעובד בלולאות הפנימיות עדיין מחזיק את ההנחיה והמפרט המקורי, כך שכאשר הוא מתקן משהו, הוא יכול לוודא שהתוצאה תקינה מבחינה תפקודית ומאובטחת, כי הוא יודע מה הקוד היה אמור לעשות. אם דוחפים את אותו ממצא לשלבים מאוחרים יותר, ההקשר הזה הולך לאיבוד. יש לבסס מחדש את התקינות מבחוץ, באמצעות בדיקות יחידה (unit tests), בדיקות עשן (smoke tests) ובדיקות אינטגרציה המורצות לפני ובמהלך ה-CI.
סוכן המרחיב פונקציונליות קיימת מסתמך גם הוא על חבילת הבדיקות בלולאות הפנימיות, מכיוון שהוא צריך לדעת שלא שבר משהו שלא ראה. עם זאת, הוא נשען על כך פחות, כיוון שהוא עדיין מחזיק את ההנחיה ויכול לנמק מה השינוי נועד להשיג במקום להסיק כוונה מתוך מה שקורה בפועל. ככל שהתיקון מתבצע בשלב מאוחר יותר, כך הנטל הזה עובר לכיסוי הבדיקות בלבד.
זהו הטיעון לדחיפת האבטחה פנימה. הסיבה שזה לא קורה מעצמו היא שהלחץ שפועל לכיוון ההפוך חזק יותר.
אבטחה היא חיכוך
אין בזה דבר חדש. אבטחה גוזלת זמן, והקדשת זמן במהלך העבודה של מפתח תמיד הייתה החלק הקשה בתפקיד הזה. זו הסיבה ש-Snyk הובילה בהצלחה את גישת ה-shift left ב-DevSecOps לפני עשר שנים.
העידן של סוכני AI מעצים זאת במקום לשנות את המצב. ארגונים מהמרים על אימוץ AI בתמורה לשיפור פרודוקטיביות המפתחים. וכאשר הציפייה היא לשינוי משמעותי בתפוקה, כל דבר שמאט את הלולאה אינו עניין של פשרות. הוא פשוט מוסר.
לכן השאלה היא לא אם להוסיף בקרות אבטחה, אלא היכן כל אחת מהן יכולה להשתלב מבלי לעלות יותר ממה שהיא חוסכת.
מחזור החיים הוא ערימה של לולאות
מודל הלולאות של Laurie Voss הוא אחד התיאורים הברורים ביותר לאופן שבו תוכנה נבנית כיום: קבוצה של לולאות מקוננות, שכל אחת נסגרת לפי האות (signal) שלה.
• לולאת הביצוע משלימה הוראה ומסתיימת בהתבסס על משוב מהסביבה, בין אם מדובר בתוצאת בדיקה, תגובת API או תוכן של קובץ.
• לולאת המשימות משלימה מפרט.
• לולאת המערכת משפרת את כל העניין לאורך ימים ושבועות.
• לולאת הפיקוח היא המקום שבו אדם מגדיר יעדים, מקצה תקציב ומחליט מה חשוב.
איור 3. מחסנית הלולאות, בהשראת המאמר של Laurie Voss: ?What the hell is a loop, anyway
בתוך לולאות הביצוע והמשימות, העבודה עדיין פתוחה, וניתן לתקן ממצאים לפני שהלולאה מושלמת ללא צורך בהתערבות אנושית. החל מלולאת המוצר והלאה, חייב להיות אמון משמעותי בכיסוי הבדיקות, אחרת נדרשת סקירה אנושית.
שתי הסתייגויות לפני שנמשיך: ראשית, האימוץ אינו אחיד; קיימת קשת רחבה של אימוץ פיתוח מבוסס סוכנים, אפילו בתוך אותה חברה. צוותים רבים אינם מפעילים סוכנים בכל אחת מהלולאות הללו, וברבים אחרים אנשים עדיין עובדים עמוק בתוך הלולאות הפנימיות ולא רק בשלב הפיקוח. הלולאות תקפות בכל מקרה, כי הן מתארות מתי עבודה מסתיימת, לא מי סיים אותה.
שנית, אם מסירים את המינוח המקצועי של עולם הסוכנים, רוב העבודה הזו היא האופן שבו תוכנה נבנית מזה זמן רב: אתם מבצעים איטרציה על שינוי, מסיימים יחידת עבודה, משחררים גרסה, משפרים את המערכת, ומישהו מחליט מה כדאי לעשות הלאה. מה שהשתנה הוא המהירות, ומי (או מה) נמצא ליד המקלדת.
את הסיכונים תוכלו למנות מראש
חלק מהסיכונים ניתנים לחיזוי לחלוטין: SQL injection, cross-site scripting, סודות מוטמעים בקוד (hardcoded secrets), הגדרות קריפטוגרפיות חלשות וברירות המחדל הנפוצות ביותר בתצורות תשתית כקוד (IaC). אנחנו יודעים בדיוק מה אנחנו מחפשים, וניתן להנחות את הסוכן כיצד להימנע מכך עוד לפני שהוא כותב שורת קוד אחת.
הבקרה מבוצעת באמצעות הנחיות בהקשר של הסוכן: הנחיות מערכת, הגדרות רתמה (harness configuration) וכישורים (skills) המכסים את הסיכונים שצוות הכי רוצה למנוע. זוהי הבקרה הזולה ביותר הקיימת, כיוון שהעלות משולמת פעם אחת במסגרת חלון ההקשר ולא עבור כל בעיה שנבדקת. שום דבר לא מורץ ושום דבר לא מוערך; ההדרכה פשוט שם.
חלק מהפתרונות כבר קיימים מבלי שאף אחד יצטרך לפרוס דבר. רתמות (harnesses) כוללות הנחיות מערכת הנושאות חלק מההנחיות הללו כברירת מחדל. כדוגמה, Anthropic מתעדת את הנחיות המערכת של כל אחד מהמודלים שלה. נוסף על כך, ארגונים רבים בונים מאגרים משותפים של מיומנויות (skills), לעיתים עם כישורים ספציפיים לאפליקציה המתארים כיצד הצוותים שלהם בונים; משמעות הדבר היא שמיומנות אבטחה אינה סוג חדש של תוצר להפצה, אלא ערך נוסף במשהו שכבר קיים.
המגבלה כאן היא הקשר. כל הוראה מתחרה באלו שכבר נמצאות בחלון, וטעינת מגוון רחב של מחלקות פגיעות לתוך ההקשר של הסוכן מדללת את ההנחיות החשובות ביותר לטובת סיכונים שצפים לעיתים רחוקות. עליכם לבצע תעדוף, מה שאומר שמשהו אחר חייב לתפוס את מה שאתם משאירים בחוץ. והקשר הוא רק חצי מהאילוץ. גם עם מקום בלתי מוגבל, סיכונים מסוימים לא יכולים להיכתב בהוראה כלל, מכיוון שכאשר ההוראה נכתבה, אף אחד לא ידע שהם קיימים.
הנושאים שאף אחד לא יכול היה לספר לסוכן עליהם
כאשר מפתחים או סוכנים בוחרים חבילה, הם לרוב בוחרים את הגרסה העדכנית ביותר מכיוון שהיא נוכחית ועושה את מה שהם צריכים. אם פגיעות בגרסה זו נחשפה באותו שבוע, אף אחד מהם לא ידע עליה. המודל לא אומן על זה, ושום כישור לא היה יכול לכסות זאת כי הגילוי לא היה קיים בעת כתיבת המיומנות. הציפייה שמניעה באמצעות הוראות בלבד תטפל בכך אינה סבירה.
בנוסף, יש את כל מה שהוצאתם מהשלב הקודם בשל מגבלת המקום. הזנב הארוך של סיכונים שלא יכולים להיכנס להנחיית מערכת או למיומנות מבלי לזהם את ההקשר, אך הם אמיתיים לחלוטין וניתנים לזיהוי. מנקודת המבט של הסוכן, שתי קטגוריות הסיכון הללו הן אותה בעיה: מעולם לא נאמר לו לחפש אותן.
שתי הקטגוריות זקוקות לבדיקה שרצה באופן ממצה ולא סלקטיבי, מופעלת בזמן שהעבודה עדיין פתוחה, ומחזירה תוצאות מהר מספיק כדי שהסוכן עדיין יוכל לפעול לפיהן. זה לא צריך לעצור בחיפוש. אם הסוכן יכול לתקן את מה שהבדיקה העלתה ואז להריץ אותה מחדש, הלולאה נסגרת ללא התערבות אנושית כלל – וזו הגרסה היחידה שתשרוד מול צוות המודד תפוקה.
Trusted Output Assurance (חלק מ-Evo Agentic Development Security) מבצע זאת באמצעות הוקס (hooks) וה-CLI. סריקה מופעלת בזמן כתיבת קבצים, ושוב כשהסוכן מסיים את עבודתו המתוכננת, כך שבעיות חדשות צצות ומתוקנות לפני שהמפרט נסגר – הכל בתוך הלולאות הפנימיות. בדיקות תקינות של חבילות, סריקת סודות והגנה מפני קוד זדוני פועלות באותו נתיב.
סוכן שמתקן כל מה שמועבר אליו ישכתב לעיתים קוד תקין רק כדי לספק ממצא שמעולם לא היה אמיתי. זה חלק מהסיבה שהשלב הזה שייך למנועים דטרמיניסטיים ולא להסתברותיים, מה שהופך את שיעור החיוביות הכוזבות (false positive) למדד שצריך לבחון כשבוחרים מה להריץ. כדאי גם להבין מה קורה כאשר המנוע והסוכן חלוקים בדעתם לגבי ממצא שזוהה. Snyk מבצעת אופטימיזציה לשניהם. בקרה זוכה למקום בלולאות הפנימיות רק אם היא מדויקת מספיק כדי לפעול ללא פיקוח. במקומות שבהם הביטחון נמוך יותר, הממצא שייך לשלבים חיצוניים יותר.
בקרה כזו שווה בדיוק כפי מידת האימוץ שלה, והאימוץ הוא המקום שבו אבטחת הלולאה הפנימית תמיד נאבקה, כי היא הייתה תלויה בכך שכל מפתח יגדיר אותה. החלק הזה פשוט כעת. ארגונים דוחפים את Trusted Output Assurance החוצה באמצעות MDM למכונות המפתחים ומטמיעים אותה בתוך תבניות ארגז חול (sandbox), כך שהיא כבר קיימת בכל מקום שבו נוצר קוד, והמידע לגבי מה שרץ על איזו מכונה מופיע באופן מרכזי במקום להסתמך על אמון.
במה מנועים מהירים ודטרמיניסטיים מתקשים
הרשאות ופגמים בלוגיקה עסקית הם בעיה אחרת. הרשאות שבורות ברמת האובייקט (BOLA), IDOR, כשלים בבידוד דיירים (tenant isolation) וניצול לרעה רב-שלבי. אלו מובנים היטב כמחלקות של פגיעויות, ומנועים מבוססי כללים באמת גרועים בזיהויים, כיוון שהפגם הוא סמנטי ולא תחבירי. שום דבר בקוד לא נראה שגוי. מה שלא בסדר הוא הקשר הגומלין בין הדברים.
סריקה מבוססת LLM של בסיס הקוד המורכב היא מה שעובד כאן. בפועל כיום, המשמעות היא ארגון שמנחה מודל לחפש, בין אם באופן ידני או כהפעלת סוכן ב-pipeline, לעיתים דרך ספק ולעיתים על ידי הפניית מודל חזיתי (frontier model) ישירות למאגר.
הריצו את אותה סקירת אבטחה חמש פעמים על אותו קוד, וכמעט מחצית ממה שהמודל מוצא בעצמו יופיע רק באחת מחמש הריצות. זהו נתון מ-Snyk VulnBench JS 1.0, שנמדד על פני 300 הרצות של אותה סקירה.
הדיווחים החד-פעמיים האלה אינם שגויים, ו-VulnBench מתעד דוגמאות רבות שנראות כמו פערים אמיתיים בכיסוי ולא רק רעש. אבל ריצה אחת היא לא החלטה. יש לקנות ביטחון באמצעות חזרתיות, וזו הסיבה שזו הנקודה הראשונה שבה עלות לממצא הופכת לפריט תקציבי משמעותי ולא לשגיאת עיגול.