חזרה לפיד
articlesמקור: Snyk Blog3.6.2026

סיכוני האבטחה החדשים של מחזור הפיתוח ה'סוכני'

אמ;לק

סוכני AI משנים את אופן בניית התוכנה, ובכך גם את נקודות התחלה של סיכוני האבטחה. המאמר מסביר מדוע אבטחת תהליך הפיתוח כולו חשובה לא פחות מאבטחת הקוד עצמו, ומציג את האתגרים הייחודיים במודל פיתוח מבוסס סוכנים.

סיכום בעברית: מערכת VibeSec · מדיניות המקורות

נוסף ל-VibeSec:

כותרת מקורית: The New Security Risks of the Agentic Development Lifecycle

סיכוני האבטחה החדשים של מחזור הפיתוח ה'סוכני'

התוכן המלא בעברית

תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.

תובנות מרכזיות

• מחזור חיי הפיתוח מבוסס הסוכנים (Agentic development lifecycle) הוא התהליך שבו סוכני AI מתכננים, בונים, משנים, בודקים ומפיצים תוכנה באמצעות אינטראקציה עם כלים, בסיסי קוד וסביבות פיתוח.

• הסיכון נכנס כעת לפני שהקוד מגיע למאגר, ומעביר את שאלת האבטחה המרכזית מ"האם הקוד הזה מאובטח?" ל"האם אנחנו יכולים לסמוך על המערכת שיצרה אותו?"

• סוכנים מציגים סיכונים בשלושה מקומות: במה הם משתמשים, מה הם עושים ומה הם מייצרים

• גישת ה-AppSec המסורתית מאבטחת את התוצר הסופי, בעוד פיתוח מבוסס סוכנים מחייב אבטחה של התהליך שיוצר אותו.

• בקרות מתמשכות בתוך זרימות העבודה של סוכנים נותנות למפתחים ולסוכנים גבולות מהימנים לנוע במהירות.

במשך שנים, אבטחת יישומים פעלה על בסיס הנחה פשוטה: תוכנה נעה לאורך מחזור חיים, ואבטחה בוחנת את התוצרים בזמן שהם עוברים מפיתוח לייצור. מפתחים מתכננים, כותבים קוד, מבצעים Commit, בודקים, סורקים ומפיצים אותו. כל מנגנון בקרה שנבנה, כולל ביקורות Pull Request, שערי CI/CD וסריקות לאחר ביצוע ה-Commit, הניח שבין כל שלב ישב אדם שמקבל החלטות שכלי עבודה יוכל לבדוק מאוחר יותר.

סוכני AI שוברים את ההנחה הזו, שכן תוכנה כבר לא נכתבת רק על ידי בני אדם ונבדקת בשלב מאוחר יותר. היא הולכת ונבנית, משתנה ומבוצעת על ידי מערכות אוטונומיות שיכולות לפעול עוד לפני שכל בקרה מסורתית מספיקה לראות את התוצאה. ה"מפתח" הוא כבר לא בהכרח אדם; לעיתים המערכת עצמה היא זו שמבצעת את הבנייה.

לשינוי הזה יש שם שכדאי להבין: מחזור החיים של הפיתוח הסוכן. וזה משנה היכן שהסיכון נכנס לתוכנה שלך, ובכך משנה את מה שאתה צריך לאבטח.

מהו מחזור חיי הפיתוח מבוסס הסוכנים?

מחזור החיים של הפיתוח הסוכן הוא התהליך שבו סוכנים ⁦AI⁩ מתכננים, בונים, משנים, בודקים ומשלוחים תוכנה על ידי אינטראקציה עם כלים, בסיסי קוד, מקורות נתונים וסביבות פיתוח.

ה-SDLC המסורתי מובל על ידי אדם, מבוסס על תוצרים ומונחה נקודות ביקורת, כאשר העבודה מתקדמת בשלבים ואבטחה בוחנת את התוצאה של כל שלב. מחזור חיי הפיתוח מבוסס הסוכנים שונה: הוא מונע על ידי סוכנים, דינמי, מתמשך ומכוון פעולה. סוכן יכול לפרש מטרה, לבחור כלי, לשנות קבצים, להריץ סקריפט, לקרוא ל-API, להוסיף תלות וליצור קוד מוכן לייצור, לעיתים קרובות ברצף אחד ללא הפרעה.

זה לא מחליף את ה-SDLC, אלא ניצב מעליו ומאיץ אותו. סוכנים עדיין מייצרים קוד, תלויות, הגדרות, APIs ושינויי תשתית. הם פשוט עושים זאת באמצעות זרימות עבודה שהרבה יותר קשה לראות ולנהל מאשר מפתח שמקליד בתוך IDE.

מדוע פיתוח סוכן משנה את מודל הסיכון

ה-AppSec המסורתי מניח שהסיכון קיים בתוך התוצרים (Artifacts), כולל קוד מקור, ספריות קוד פתוח, קונטיינרים, תשתית כקוד (IaC) ו-APIs. זה עדיין נכון, אך פיתוח מבוסס סוכנים מרחיב את משטח התקיפה כך שיכלול גם את המערכת שמייצרת את התוצרים הללו. שאלת האבטחה משתנה מ-"האם הקוד הזה מאובטח?" ל-"האם ניתן לסמוך על המערכת שיצרה אותו?". זו שאלה שונה, ורוב תוכניות האבטחה אינן ערוכות לענות עליה עדיין.

שלוש נקודות הבקרה של מחזור החיים של התפתחות סוכן

דרך שימושית להבין את מחזור החיים החדש הזה היא לבחון את שלושת המקומות שבהם סוכנים מכניסים סיכון: התשומות שבהן הם משתמשים, הפעולות שהם נוקטים והתפוקות שהם מייצרים. אם הסיכון נכנס ברציפות, עליך לבחון אותו בשלושה מוקדים: במה סוכנים משתמשים, מה הם עושים ומה הם מייצרים.

1. במה משתמשים סוכנים

סוכנים לא בונים מלוח חלק; הם משתמשים בשרתי MCP, כישורים (Skills), APIs, כלים חיצוניים, מקורות נתונים ואינטגרציות פיתוח כדי להשלים את העבודה. תשומות אלו יכולות להפוך לחלק משרשרת אספקת התוכנה שלך, אף על פי שמעולם לא הוגדרו כתלויות (dependencies) מסורתיות. בנוסף, לעיתים קרובות הם נבחרים ומופעלים בזמן ריצה, ללא כל בדיקה.

הסיכונים כוללים שרתי MCP לא מאושרים, כישורים פגיעים או זדוניים, כלים חיצוניים ממקור לא ברור וכלי AI שאף אחד לא עוקב אחריהם. זה לא תרחיש היפותטי: מחקר של Snyk מצא 76 כישורים זדוניים מאומתים מתוך 3,984 שנותחו, וכשליש משרתי ה-MCP הציבוריים נושאים פגמים הניתנים לניצול.

אם אינך יודע באילו סוכנים משתמשים, אינך יכול לדעת איזה סיכון נכנס לזרימת העבודה של הפיתוח.

2. מה עושים סוכנים

סוכנים לא רק מציעים שינוי ומחכים; הם מריצים סקריפטים, מבצעים שאילתות במערכות פנימיות, משנים קבצים וקוראים ל-⁦APIs⁩ במהירות מכונה.

זה יוצר סיכון באמצעות ביצוע פקודות לא בטוח, גישה לא מורשית למערכות או נתונים, חשיפת נתונים באמצעות קריאות לכלים, הזרקת הנחיות (Prompt Injection) בתוך זרימות עבודה של פיתוח ושרשראות פעולה בלתי צפויות. דוגמה מהעולם האמיתי היא סוכן קידוד שהתעלם מהוראות "הקפאה" חוזרות, מחק בסיס נתונים של סביבת הייצור, ואז יצר רשומות פיקטיביות כדי לחפות על השגיאה. הסוכן קיבל החלטות באופן עצמאי בהתבסס על מכשול קטן ובהינתן ההרשאות שהיו ברשותו באותו רגע.

יש לשלוט על התנהגות הסוכן בזמן אמת, מכיוון שפעולות יכולות להתרחש מהר יותר ממה שביקורת אנושית יכולה להתערב.

3. מה מייצרים סוכנים

סוכנים יוצרים את הקוד והתלות שהופכים לחלק מהתוכנה שלך. גם כאשר הפלט הזה נראה פונקציונלי, קוד ⁦AI-generated⁩ יכול לכלול פגיעויות, דפוסים לא מאובטחים או הגדרות שגויות כברירת מחדל.

ה-AppSec המסורתי מניח שניתן לבחון קוד לאחר כתיבתו. אך בפיתוח מבוסס סוכנים, התוצר נוצר במהירות של מכונה ועשוי לעבור משלב ההצעה לביצוע (Commit) לפני שאנשי אבטחה יספיקו לראות מה השתנה או מדוע. הסיכון הוא לא רק שהקוד שיוצר על ידי AI עלול להיות לא מאובטח, אלא שניתן להחדיר תוצר לא מאובטח מוקדם יותר, לשכפל אותו מהר יותר ולהפיץ אותו לפני שנקודות הביקורת המסורתיות יספיקו לעצור אותו.

סריקה לאחר התחייבות כבר אינה מספיקה; האבטחה צריכה לאמת את מה שסוכנים מייצרים בעת היצירה.

מדוע מחסומים מסורתיים ⁦AppSec⁩ אינם מספיקים

אין פירוש הדבר שה-AppSec המסורתי מפסיק להיות רלוונטי. אתה עדיין צריך לסרוק קוד, תלויות, קונטיינרים ותשתית. יסודות אלו חשובים מתמיד מכיוון ש-AI לא מחליף את שרשרת אספקת התוכנה שלך; הוא מאיץ אותה.

אולם, נקודות הביקורת המסורתיות תוכננו לעולם שבו בני אדם קיבלו את רוב החלטות הפיתוח, הקוד היה התוצר העיקרי לבדיקה, וסיכונים היו ניתנים לזיהוי לרוב בשלב ה-Commit, הבנייה או הפריסה. אבטחה כבר לא יכולה להסתמך רק על בדיקה בסוף התהליך (downstream), ועליה לעבור לתוך זרימת העבודה של הסוכן עצמה. ה-AppSec המסורתי מאבטח את התוצר, בעוד אבטחת פיתוח מבוסס סוכנים (Agentic Development Security) מאבטחת את התהליך שיוצר אותו.

מה דורש אבטחת מחזור החיים של הפיתוח הסוכן

אבטחת מחזור החיים הזה לא אומר להאט את המפתחים עם מחזור סקירה נוסף או איסור על כלים ⁦AI⁩. זה אומר לתת לסוכנים גבולות מהימנים כדי שהצוותים יוכלו לאמץ אותם בבטחה. למעשה, זה דורש בקרות הפועלות בתוך זרימות העבודה בהן פועלים הסוכנים.

צוותי אבטחה צריכים לגלות אילו סוכנים, כלים, כישורים ושרתי MCP נמצאים בשימוש; להעריך האם התשומות הללו מהימנות; לקבוע לאילו משאבים סוכנים רשאים לגשת ומה הם רשאים לבצע; לאכוף מדיניות במהלך זרימות העבודה של הסוכנים; לאמת קוד ותלויות שנוצרו בזמן אמת; ולתחזק נתיב ביקורת (Audit Trail) על פני פעילויות פיתוח מונעות סוכנים.

החוט המשותף הוא פיקוח מתמשך כאשר אבטחה פועלת קרוב מספיק לסוכן כדי להעריך סיכון לפני שהוא הופך לחפץ מחויב, לפעולה שבוצעה או לפגיעות שנפרסה.

מחזור החיים השתנה. הביטחון חייב להשתנות יחד איתו.

מחזור החיים של הפיתוח הסוכן הוא לא רק ⁦SDLC⁩ מהיר יותר. זוהי דרך שונה ליצור תוכנה, שבה מערכות אוטונומיות יכולות למשוך כלים, לבצע פעולות ולייצר פלט באופן רציף. השינוי הזה מציג שאלות אבטחה שבקרות מבוססות מחסומים מעולם לא תוכננו לענות בעצמן.

כדי להרחיב את הפיתוח ⁦AI-driven⁩ בצורה בטוחה, צוותים זקוקים לנראות ולשליטה לאורך כל מחזור החיים: במה משתמשים סוכנים, מה הם עושים ומה הם מייצרים. המטרה היא לא להאט את האימוץ ⁦AI⁩. זה לתת למפתחים ולסוכנים גבולות מהימנים כדי שיוכלו לנוע במהירות בזמן שהאבטחה פועלת ברציפות ברקע.

רוצה לצלול לעומק כיצד סוכנים ⁦AI⁩ פועלים מעבר לשליטה המסורתית? הורד את ה-cheatsheet היום.

שאלות נפוצות על מחזור החיים של הפיתוח הסוכן

מהו מחזור החיים של התפתחות סוכן?

מחזור חיי הפיתוח מבוסס הסוכנים הוא התהליך שבו סוכני AI מתכננים, בונים, משנים, בודקים ומפיצים תוכנה באמצעות אינטראקציה עם כלים, בסיסי קוד, מקורות נתונים, APIs וסביבות פיתוח. שלא כמו מחזור חיי פיתוח תוכנה מסורתי, הוא דינמי יותר ומכוון פעולה, כיוון שסוכנים יכולים לבחור כלים, לשנות קבצים, להריץ סקריפטים, לקרוא ל-APIs וליצור קוד עם התערבות אנושית מוגבלת.

כיצד פיתוח סוכן משנה את אבטחת האפליקציות?

פיתוח מבוסס סוכנים משנה את אבטחת האפליקציות על ידי הרחבת הסיכון מעבר לקוד עצמו. ה-AppSec המסורתי מתמקד באבטחת תוצרים כגון קוד מקור, תלויות, קונטיינרים ותשתית כקוד. פיתוח מבוסס סוכנים דורש גם אבטחה של התהליך שיוצר את התוצרים הללו, כולל התשומות שבהן הסוכנים משתמשים, הפעולות שהם נוקטים והתפוקות שהם מייצרים.

מהם סיכוני האבטחה העיקריים של סוכני קידוד ⁦AI⁩?

סיכוני האבטחה העיקריים של סוכני קידוד ⁦AI⁩ כוללים כלים לא מהימנים, שרתי ⁦MCP⁩ פגיעים, ביצוע פקודות לא בטוח, גישה לא מורשית למערכות או נתונים, הזרקה מיידית, קוד שנוצר לא מאובטח ותלות לא מאושרת. סיכונים אלה יכולים להיכנס לזרימת העבודה של הפיתוח לפני שהקוד מגיע למאגר או לנקודת ביקורת אבטחה מסורתית.

מדוע מחסומים מסורתיים ⁦AppSec⁩ אינם מספיקים לפיתוח סוכן?

נקודות ביקורת של AppSec מסורתי אינן מספיקות כי הן תוכננו עבור זרימות עבודה לפיתוח שמוובלות על ידי בני אדם, שבהן האבטחה יכלה לבחון קוד לאחר שנכתב או בוצע לו Commit. סוכני AI יכולים לפעול במהירות של מכונה, לבצע שינויים, להפעיל כלים ולייצר קוד לפני שמתרחשות סריקות או ביקורות בסוף התהליך. בקרות אבטחה חייבות לפעול בתוך זרימת העבודה של הסוכן, ולא רק לאחר יצירת התוצר.

כיצד יכולים צוותים להבטיח את מחזור החיים של הפיתוח הסוכן?

צוותים יכולים לאבטח את מחזור חיי הפיתוח מבוסס הסוכנים על ידי גילוי אילו סוכנים, כלים, כישורים ושרתי MCP נמצאים בשימוש; אימות האם תשומות אלו מהימנות; הסדרת הגישה והפעולות שסוכנים רשאים לבצע; אכיפת מדיניות במהלך זרימות עבודה של סוכנים; סריקת קוד ותלויות שנוצרו בזמן אמת; ותחזוקת נתיבי ביקורת לפעילות מונעת סוכנים.

מה זה ⁦Agentic Development Security⁩?

Agentic Development Security היא הפרקטיקה של אבטחת המערכות, זרימות העבודה והתפוקות המעורבים בפיתוח תוכנה בסיוע AI וסוכני AI. בעוד ש-AppSec מסורתי מאבטח את תוצר התוכנה, Agentic Development Security מאבטח את התהליך שיוצר אותו, ומעניק למפתחים ולסוכנים גבולות מהימנים לנוע במהירות מבלי להכניס סיכונים בלתי מנוהלים.

האם אבטחת סוכנים של ⁦AI⁩ פירושה האטה של ​​אימוץ ⁦AI⁩?

לא. אבטחת סוכני ⁦AI⁩ אינה פירושה איסור על כלים ⁦AI⁩ או הוספת חיכוך מיותר. המטרה היא לתת למפתחים ולסוכנים גבולות מהימנים, נראות רציפה ובקרות בזמן אמת כדי שצוותים יוכלו לאמץ פיתוח סוכן בבטחה תוך שמירה על אספקת תוכנה מהירה.

6 ⁦Ways⁩ ⁦AI⁩ ⁦Agents Act Beyond Traditional Controls⁩

סוכנים ⁦AI⁩ אינם פועלים לפי אותם כללים כמו תוכנות מסורתיות. קבל פירוט של שש דרכים ספציפיות שבהן סוכנים פועלים מעבר לבקרות האבטחה המסורתיות ברחבי ⁦ADLC⁩.

קרא עוד

PHP2Shell לא יהיה האחרון. הנה איפה המקרה הבא יופיע לראשונה.

⁦PHP2Shell⁩ הראה באיזו מהירות פגם ברמת המנוע יכול לסכן אפליקציות הפונות לאינטרנט. למד מדוע מלאי חיצוני, בדיקות מהירות ובדיקות חוזרות חשובות לפני החשיפה הבאה.

סניק ⁦UNFILTERED⁩: ⁦Inside Our First-Ever Customer Summit⁩

#ai-security#agentic-development#supply-chain-security#devsecops
קרא במקור