חזרה לפיד
articlesמקור: Snyk Blog4.6.2026

יש לכם תקציב אבטחת AI. מה עכשיו?

אמ;לק

תקציב אבטחת AI צריך לממן יותר מסתם נראות. סדר העדיפויות האמיתי הוא ממשל ואכיפה מאוחדים על פני פיתוחים מונעי סוכנים (agentic development) ויישומי פרודקשן, כדי להבטיח עמידה במדיניות אבטחה ובקרות תקנית.

סיכום בעברית: מערכת VibeSec · מדיניות המקורות

נוסף ל-VibeSec:

כותרת מקורית: So You Have an AI Security Budget. Now what?

יש לכם תקציב אבטחת AI. מה עכשיו?

התוכן המלא בעברית

תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.

נקודות מפתח

• תקציבי אבטחת AI צריכים להתפתח מהוצאות מקוטעות על כלים להשקעה מאוחדת בנראות, ממשל ושליטה לאורך כל מחזור החיים של ה-AI.

• ארגונים צריכים לתקצב שתי חזיתות מחוברות: אבטחת פיתוח סוכנים (Agentic development), שבה סוכני AI יוצרים קוד, משתמשים בכלים ומבצעים תהליכי עבודה; ואבטחת יישומים סוכניים (Agentic applications), שבהם סוכנים מקיימים אינטראקציה עם משתמשים, נתונים, APIs ומערכות ייצור.

• תקציב אבטחת AI חזק צריך לכלול מימון ייעודי עבור גילוי AI, הערכת סיכונים לסוכנים ומודלים, אכיפת מדיניות, בדיקות יריבות (adversarial testing), הגנה בזמן ריצה ותיעוד לצורכי ממשל.

• יש להתייחס לממשל (Governance) ולעמידה בדרישות (Compliance) כאל סעיף תקציבי נפרד, ולא להטמיע אותם בתוך כלי עבודה או לדחוף אותם למחלקות GRC. צוותים זקוקים לגילוי מתמשך, מדיניות ניתנת לאכיפה, דיווח סיכונים ומסלולי ביקורת כדי להוכיח שמערכות ה-AI מנוהלות באחריות.

• רכישת כלי אבטחה נקודתיים ומנותקים ל-AI עלולה להגדיל את העלויות והמורכבות מבלי לספק שליטה מאוחדת. גישת פלטפורמה מסייעת לצוותי אבטחה לחבר בין נראות ה-AI, מודיעין סיכונים, אכיפת מדיניות וראיות, לאורך שלבי הפיתוח והייצור.

רוב הארגונים מוציאים את תקציב אבטחת ה-AI שלהם בשכבה הלא נכונה. האינסטינקט הוא פשוט לקנות נראות כדי לבצע מלאי למודלים, למפות את ה-APIs ולהציג לוח מחוונים.

אבל הנראות לבדה לא תעצור את סוכן הקידוד שזה עתה הכניס שרת ⁦MCP⁩ שנפגע. זה לא יעצור את סוכן הייצור שעומד להעביר רשומת לקוח למקום שאסור לו להגיע אליו. זה גם לא ימנע מזרימת עבודה אוטונומית לשרשר יחד חמש פעולות "מותרות" בנפרד לתוצאה מסוכנת אחת.

נראות ללא אכיפה אינה ממשל. ארגונים המאמצים סוכני AI צריכים כעת לאבטח שתי חזיתות נפרדות אך מחוברות:

• הסוכנים הפועלים בתוך אפליקציות בייצור

בעיית התקציב שמנהיגי אבטחה צריכים לפתור כעת היא לא רק האם ניתן לזהות סיכוני AI בדיעבד; אלא האם הם יכולים למשול בסוכנים לאורך כל מחזור החיים שלהם, מרגע בנייתם ועד לאופן פעולתם בייצור. זה דורש אבטחה בשני היבטים: העברה שמאלה (Shifting left) כדי לאבטח קוד שנוצר על ידי AI ושרשרת האספקה של הסוכנים כבר בשלב בניית התוכנה, לצד מתן נראות וממשל על סוכנים ויישומים הפועלים בסביבות ייצור.

חזית 1: אבטחת הסוכנים שבוני תוכנה

בפיתוח סוכן (Agentic development), סוכני AI מושכים כעת ספריות תלויות (dependencies), מפעילים שרתים של MCP, מבצעים סקריפטים, משרשרים פעולות בין סביבות שונות ומייצרים קוד מוכן לייצור עם מינימום ביקורת אנושית. זה יוצר שלושה משטחי סיכון שתחום ה-AppSec המסורתי לא תוכנן לשלוט בהם: במה סוכנים משתמשים, מה סוכנים עושים, ומה סוכנים מייצרים.

1. במה סוכנים משתמשים: שרתי MCP, מיומנויות וכלים חיצוניים

סוכני קידוד מבוססי AI אינם פועלים על דף חלק. כדי להשלים משימות, הם מושכים ללא הרף שרתי MCP, APIs חיצוניים, מיומנויות (skills) לשימוש חוזר, רכיבי קוד פתוח, תוספים וכלים של צד שלישי — שכל אחד מהם עלול להיות פגיע, זדוני או מוגדר בצורה שגויה.

רכיבים אלה נבחרים ומופעלים בזמן ריצה ואינם מאושרים מראש, מה שאומר שניתן להכניס כלים חיצוניים לא מהימנים לזרימת העבודה שלך ברגע. אם כלי אבטחה סורק רק את החפץ הסופי, הוא מחמיץ את הרגע שבו הסיכון נכנס לזרימת העבודה: כאשר הסוכן בחר והשתמש בקלט לא מהימן.

מחקר של Snyk כבר זיהה יכולות סוכנים זדוניות במערכות אקולוגיות משותפות, שרתי MCP פגיעים ופגמים קריטיים בתשתית סוכנים שנמצאת בשימוש נרחב. ה-CVE-2025-6514, למשל, חשף את mcp-remote לאפשרות של ביצוע קוד מלא מרחוק.

2. מה עושים סוכנים: ביצוע כלים, סקריפטים וגישה למערכת

סוכנים לא רק מציעים; הם מבצעים פעולות באופן אוטונומי ובמהירות מכונה. לאחר שקיבלו יעד, הם יכולים להריץ פקודות, לשנות קבצים, לקיים אינטראקציה עם תשתיות, לבצע שאילתות במערכות, לקרוא ל-APIs ולשרשר תהליכי עבודה בין סביבות שונות — לרוב עם הרשאות רחבות, פיקוח מוגבל וללא לולאת אישור אנושית.

התקרית ב-Replit הפכה את מצב הכשל הזה לקונקרטי כאשר סוכן AI התעלם מהוראות "הקפאה" מפורשות, מחק בסיס נתונים של הייצור ובדה אלפי רשומות מזויפות כדי להסתיר את מעשיו.

סוג כזה של תקרית לא קורה בגלל שסורק החמיץ פונקציה פגיעה. זה קורה בגלל שההתנהגות הדינמית והרב-שלבית של הסוכן לא נשלטה ברגע הפעולה. פיתוח ⁦Agentic⁩ דורש בקרות בתוך לולאת הביצוע, קרוב מספיק כדי להעריך הקשר, הרשאות וסיכונים לפני שתסתיים פעולה לא בטוחה.

3. מה סוכנים מייצרים: קוד וספריות תלויות

סוכנים גם יוצרים קוד ותלות מהר יותר ממה שסקירה אנושית יכולה לאמת. פלט זה עשוי לכלול נקודות תורפה, תלות לא בטוחה, סודות בקידוד קשיח או הגדרות שגויות.

הבעיה בפיתוח סוכני היא ש-AI מייצר קוד באופן רציף ובמהירות מכונה, לעיתים קרובות מחוץ לתהליכי הביקורת שארגונים מסתמכים עליהם. עד שמתבצעת סריקה לאחר ה-commit, הפלט הפגיע עלול כבר להיות במאגר הקוד. בתהליכי עבודה מסוימים, ייתכן שהוא כבר ארוז, נפרס או שנעשה בו שימוש חוזר על ידי סוכן אחר.

אבטחת הפלט שנוצר פירושה אימות הקוד ברגע היצירה, לפני שהוא נכנס למאגר או הופך לחלק מתהליך עבודה רחב יותר מונחה סוכנים. בפיתוח סוכן, אם לא תאבטח את מה שהסוכנים מייצרים בעת היצירה, אתה תרדוף אחרי הסיכון רק לאחר שכבר הוחדר למערכת.

חזית 2: אבטחת הסוכנים הפועלים בתוך יישומים בייצור

החזית השנייה היא הייצור (Production). לרוב הארגונים כבר יש סוכנים הפועלים בתוך יישומים, כגון סוכני תמיכה המטפלים בבקשות לקוחות, סוכני זרימת עבודה הניגשים למערכות פנימיות, צנרת (pipelines) אוטונומית הקוראת ל-APIs, ואפליקציות מבוססות AI ששולפות נתונים, מקבלות החלטות ופועלות ללא אדם במעגל.

השאלה היא האם אתה יודע מה הסוכנים שלך עושים, והאם אתה יכול לעצור אותם כשהם עושים את הדבר הלא נכון. ברגע שהסוכנים פועלים, הממשל מתפרק על פני שלושה מימדים: Discovery, ⁦Risk Assessment⁩ ו-⁦Compliance⁩.

1. גילוי: אתה לא יכול לשלוט בסוכנים שאתה לא יכול לראות

צוותי אבטחה צריכים תמונה חיה של היכן פועלים סוכנים ⁦AI⁩, באילו מודלים הם משתמשים, באילו כלים הם מפעילים, לאילו נתונים הם ניגשים ואילו זרימות עבודה הם מבצעים.

לרוב הארגונים אין תמונה מלאה. תופעת ה-Shadow AI מחמירה את הבעיה כאשר עובדים וצוותים בונים כלי GenAI מותאמים אישית, מטמיעים סוכנים בתהליכי עבודה ומחברים מערכות AI לנתונים פנימיים ללא סקירת אבטחה רשמית. לכן, פער במלאי הוא יותר מסתם תיעוד חסר של מערכות מוכרות; מדובר בסוכנים לא ידועים הפועלים מחוץ לערוצים המבוקרים.

אם אינך יודע אילו סוכנים קיימים, אינך יכול לאכוף מדיניות נגדם, להעריך את הסיכון שלהם, להוכיח ציות או להקצות בעלות כאשר משהו משתבש. המלאי הוא הבסיס לממשל, אבל הוא לא המצב הסופי.

2. ⁦Risk Assessment⁩: יש לפעול במקומות שבהם סוכנים פועלים

לארגונים רבים כבר יש מדיניות ממשל AI. הבעיה היא שרוב המדיניות הזו קיימת רק במסמכים, בגיליונות אלקטרוניים או בתהליכי ביקורת שהסוכנים מעולם לא נתקלים בהם. "ממשל על הנייר" זה יוצר תחושת ביטחון מזויפת ומסוכנת.

לדוגמה, מדיניות האומרת ש"סוכנים אינם יכולים לחשוף נתוני לקוחות לשירותים חיצוניים" חשובה רק אם היא נאכפת כאשר הסוכן מנסה לפעול. אחרת, לארגון יש ממשל על הנייר והתנהגות בלתי מבוקרת בייצור.

יישומים סוכניים זקוקים לאכיפת מדיניות בשכבת הביצוע, שבה הכללים מעריכים מה הסוכן מנסה לעשות, באילו נתונים הוא נוגע, באילו כלים הוא משתמש והאם הפעולה חוצה גבול מוגדר. כך, אם סוכן שעבר מניפולציה מנסה לשלוח נתוני לקוחות לנקודת קצה חיצונית, ניתן לחסום או לשנות את הפעולה לפני שהיא תושלם.

3. ציות: אתה צריך להוכיח מה קרה, למה, ובאיזה סמכות

כאשר סוכן גורם לבעיה עסקית, צוותי אבטחה צריכים יותר מסתם יומנים. הם צריכים תיעוד בר הגנה של מה שקרה: מה הסוכן עשה, לאילו נתונים הוא ניגש, איזה כלי הוא הפעיל, איזו מדיניות חלה, האם הפעולה הותרה או חסומה, ומי הבעלים של זרימת העבודה.

המקרה של Air Canada הראה שארגונים יכולים לשאת באחריות למה שצ'אטבוט AI אומר ללקוחות. תקרית ה-Prompt Injection ב-Chevrolet הראתה באיזו קלות ניתן לתמרן AI הפונה לציבור כדי לייצר תוצאות הפוגעות בעסק. תהליכים "רעילים" מדגימים כיצד סוכנים יכולים לשרשר יחד כלים, נתונים ו-APIs בדרכים ששום פעולה בודדת לא הייתה חושפת בפני עצמה.

ממשל וציות צריכים להיות סעיף ייעודי בתקציב אבטחת ה-AI, לא משהו שקבור בתוך כלי עבודה או מטופל כתרגיל GRC משני. ככל שסוכני AI מתפשטים בתהליכי הפיתוח וביישומי הייצור, ארגונים זקוקים לדרך להוכיח אילו מערכות AI קיימות, איזו מדיניות חלה עליהן והאם מדיניות זו נאכפת. ללא הבסיס הזה, עלות הממשל מתגלה מאוחר יותר בצורה של ביקורות שנכשלו, עסקאות שנתקעו, חקירות לאחר תקריות, או עבודת ייעוץ דחופה לשחזור נתיב ביקורת שהיה אמור להיות קיים מלכתחילה.

למה לקנות שני כלים מנותקים לא עובד

הסיכון ⁦AI⁩ אינו מוגבל בצורה מסודרת לשכבה אחת. ניתן להציג מודל, מסגרת של סוכן או שרת ⁦MCP⁩ בקוד, לפרוס דרך צינור, להפעיל אפליקציה ולאחר מכן להשתמש בסוכן כדי לנקוט בפעולה בייצור. אם כל שלב נשלט על ידי כלי אחר, צוותי האבטחה נשארים לתפור יחד תצוגות חלקיות של אותה מערכת.

כלי עבודה מפוצלים יוצר שליטה מקוטעת. זה מוביל ל:

• מדיניות לא עקבית בין פיתוח לזמן ריצה

• מסלולי ביקורת נפרדים שמספרים רק חלק מהסיפור

• בעלות לא ברורה כאשר מתרחש אירוע מונע על ידי סוכן

זה מוביל גם לעלויות מפוצלות שבהן כל כלי נקודתי דורש רישיון משלו, עבודת אינטגרציה, צנרת נתונים, לוח מחוונים וניהול מול ספק. צוותים לעיתים קרובות משכפלים מאמצים על פני יכולות חופפות של גילוי, ניתוח סיכונים ואכיפת מדיניות, ועדיין מותירים פערים ביניהם. עד שמחברים יחד מספר כלים, העלות והמורכבות הכוללת עלולות לעלות על הערך של פלטפורמה מאוחדת, מבלי לספק יכולת שליטה אחודה.

עבור אבטחת AI, איחוד הכלים חורג מהחלטה תקציבית; זו דרישת ממשל. צוותי אבטחה זקוקים לתצוגה מקושרת של היכן ה-AI קיים, הסיכונים שהוא מציג, אופן פעולתו והמדיניות הנאכפת לאורך מחזור החיים שלו. ללא רקמת חיבור זו, ארגונים עשויים להוציא יותר כסף ועדיין להישאר ללא הנראות, האחריות והשליטה הדרושים כדי להרחיב את האימוץ של AI בצורה בטוחה.

Snyk מאבטח את שני הצדדים של האבטחה הסוכנת מפלטפורמה אחת

פלטפורמת ה-AI Security של Snyk מאבטחת את שני צדדי מחזור החיים של הסוכן מפלטפורמה אחת. עבור פיתוח סוכני, Snyk מסייעת למשול במה שסוכנים משתמשים, מה הם עושים ומה הם מייצרים — החל משרתי MCP ומיומנויות ועד לביצוע וקוד שנוצר על ידי AI. עבור יישומים סוכניים בייצור, Snyk מספקת מערכת רישום לסיכוני AI על פני סוכנים, מודלים, כלים, נתונים ותהליכי עבודה באמצעות Evo AI-SPM, והופכת כוונות ממשל למדיניות הניתנת לאכיפה.

התוצאה היא שכבת בקרה אחת לאבטחת סוכנים: גילוי משותף, מדיניות משותפת, אכיפה בזמן אמת ויכולת ביקורת על פני פיתוח וייצור.

ביחד, זה יוצר מודל מאוחד לאבטחת סוכנים:

• מערכת אחת של רישום עבור ⁦AI⁩ וסיכון סוכנים

• מודל מדיניות אחד על פני פיתוח וייצור

• שכבת אכיפה אחת להתנהגות סוכן לא בטוחה

• נתיב ביקורת אחד לממשל ואחריות

השאלה שיש לענות עליה לפני שתגדיר את התקציב

אם יש לך תקציב אבטחה ⁦AI⁩ וצוות מנהיגות המצפה לתוצאות, השאלה המגדירה היא פשוטה: האם אתה יכול לאכוף מדיניות אבטחה נגד סוכן - בפיתוח ובייצור - לפני שתסתיים פעולה לא בטוחה?

#ai-security#budgeting#governance#agentic-development
קרא במקור