חזרה לפיד
articlesמקור: Snyk Blog21.10.2026

ניהול סיכוני מודלי AI: חשיבות ההרשאות וטווח הפעולה בפועל

אמ;לק

הערכת סיכון של מודל שפה אינה נקבעת רק על פי ציוני אבטחה תיאורטיים, אלא נגזרת מהכלים, המידע והפעולות שהמודל מורשה לבצע. המאמר מסביר כיצד צוותי אבטחה יכולים למפות את רמת הגישה של המודל וליישם בקרות ממוקדות כדי לצמצם נזק פוטנציאלי. מדובר בעקרון יסוד בארכיטקטורת סוכני AI ואבטחת מערכות מבוססות LLM.

סיכום בעברית: מערכת VibeSec · מדיניות המקורות

נוסף ל-VibeSec:

כותרת מקורית: AI Model Risk Depends on What the Model Can Reach

ניהול סיכוני מודלי AI: חשיבות ההרשאות וטווח הפעולה בפועל

התוכן המלא בעברית

תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.

מחקר חדש של Snyk על פני אלפי סביבות ארגוניות סרוקות מראה מדוע ציון סיכון גבוה של מודל מסמן את הנקודה שבה מתחיל תהליך ה-triage, וכיצד צוותי אבטחה צריכים להגיב.

תארו לעצמכם שני יישומים שמתבססים על אותו מודל AI. האחד מסכם הערות מפגישות, והשני משתמש בסוכן כדי לבצע שאילתות על רשומות לקוחות ולהפעיל תהליכי עבודה עסקיים. המודל עשוי לשאת את אותם ציוני מבחני יריבים בשני היישומים, אך ההשלכות של כשל יכולות להיות שונות מאוד, וכך גם סוג הכשל שחשוב לתת עליו את הדעת. מסכם פגישות צריך לדעת אם ניתן להטות את המודל ליצירת פלט מטעה, בעוד שסוכן רשומות לקוח צריך לדעת אם ניתן לגרום לו להדליף נתונים או לבצע פעולות לא מורשות. לכן, ציון מודל עבור כל סוג של התקפה שימושי יותר מציון ממוצע אחד המשקלל את כולן.

הבחנה זו עומדת בלב הדוח Snyk 2026 State of Agentic AI Adoption, Volume III. שני הכרכים הראשונים קבעו כי ארגון ה-AI הוא תשתית תוכנה מחוברת, ולא רק אוסף של מודלים. ניתוח חדש זה מוסיף ציוני סיכון למודלים שניתן לזהות ושואל את השאלה שמנהיגי אבטחה צריכים להשיב עליה בפועל: אילו ממצאים דורשים פעולה, ואיזו פעולה תפחית את הסיכון?

כמעט מחצית ממלאי מודלי ה-AI מכילים התייחסות לניקוד קריטי

איך הציונים עובדים: Snyk בודק כל מודל מול 29 מטרות של תוקפים, כגון חילוץ נתונים אישיים או ביצוע פקודות, ומדרג כל אחד מהם מ-0 עד 1,000. הציון משלב בין תדירות הצלחת ההתקפה לבין חומרת הנזק שעלול להיגרם. ציון של 500 ומעלה נחשב גבוה, ו-750 ומעלה נחשב קריטי. המודלים נבדקים מאחורי מנגנוני הגנה בסיסיים (guardrails), כך שהציונים מתארים מודל מוגן, ולא מודל ללא הגנה.

מתוך 1,693 סביבות שבהן זוהה לפחות מזהה מודל אחד, 74.5% מתייחסות למודל שקיבל ציון גבוה (500+) עבור יעד תוקף אחד לפחות, ו-49.2% מתייחסות למודל שקיבל ציון קריטי (750+). חילוץ PII וביצוע פקודות הם הגורמים לממצאים בדרגת הסיכון הקריטית שנצפו במדגם זה.

המספרים הללו צריכים לעורר חקירה, לא פאניקה. המחקר מצליב בין מזהי מודלים שנמצאו בקוד לבין תוצאות של בדיקות יריבות. הוא אינו קובע שכל מודל פעיל בסביבת הייצור, שכלי או מערך נתונים מסוים נגישים, או שהתקפה כלשהי אכן הצליחה ביישום של ארגון כלשהו.

כיסוי הוא סיבה נוספת לצורך בדיוק: רק ל-37.5% ממופעי המודלים שזוהו יש ציון סיכון תואם. לכ-17% מהסביבות שבהן קיים מודל אין כלל מודל מדורג. התייחסו להפניות למודלים ללא ניקוד וללא גרסה כאל נעלמים שעדיין זקוקים לבדיקה.

גודל המלאי משפיע על כמות הממצאים אך לא על התמהיל שלהם. הסיכוי למצוא לפחות מודל אחד עם ניקוד גבוה עולה מ-34.6% בתשתיות המודלים הקטנות ביותר ל-100% בגדולות ביותר, אך שיעור מופעי המודל המקושרים למודלים בעלי ציון גבוה נשאר בין 21% ל-25% בכל גודל, ובין 18.9% ל-25.5% בשמונה תעשיות שונות. השתמשו במספרים כדי להעריך את צבר המשימות לבדיקה וכדי להשוות בחירות מודלים מול עמיתים בתעשייה. אף אחד מהמספרים הללו לא מראה מה האפליקציה הפעילה באמת מאפשרת למודל לעשות.

עבור כל מודל בעל ציון גבוה, השאלות הראשונות הן: האם הוא פעיל, למה הוא יכול להגיע, ומה קורה אם הוא נכשל?

סוכנים ושרתי MCP הופכים את הקשר הפריסה לבלתי אפשרי להתעלמות

מודל יכול להפיק תשובה לא בטוחה בכוחות עצמו. כאשר הוא מחובר לכלים, נתונים ותהליכי עבודה, ייתכן שהוא גם יוכל לפעול לפי אותה תשובה. זהו ההבדל בין החשיפה שנבדקה של המודל לבין היקף הגישה של המערכת שסביבו.

מתוך 1,051 חשבונות בארה"ב עם הפניה ל-MCP, ב-744 (70.8%) נמצאו עדויות לבניית שרת MCP באמצעות SDK. השאר מציגים רק חיבורי לקוח או הפניות להגדרות תצורה. בניית שרת, הגדרת שרת והפעלת שרת הם שלושה סימנים שונים, ורק אימות בזמן ריצה מאשר את האחרון.

בין סביבות ללא סוכן מזוהה או סימני MCP, 49.1% מתייחסות למודל בעל ניקוד גבוה, בהשוואה ל-96.6% מהסביבות שבהן קיים גם חיווי לסוכן וגם קוד לבניית שרת MCP.

הקבוצה האחרונה מריצה גם מלאי מודלים חציוני גדול בהרבה: 104 מודלים לעומת 4. השוואת סביבות עם 5-19 מודלים מצמצמת את הפער מ-47 נקודות ל-26 (62.1% לעומת 87.8%). מדובר בתבנית של מתאם. מה שסוכנים ושרתי MCP משנים הוא עד כמה הציון של המודל משפיע בפועל, וזו הסיבה שהם המקום הראשון שצריך לבדוק.

עבור צוותי אבטחה, השלב הבא הוא אימות: יש לוודא אילו סוכנים ושרתי MCP פעילים, אילו כלים הם חושפים, אילו נתונים הם יכולים לאחזר, ואילו אישורים עומדים בין הפלט של המודל לפעולה בעלת השלכות. ציון של מודל לבדו אינו יכול לענות על שאלות אלו.

אל תשתמשו באותו פתרון עבור כל חולשת AI

ברגע שאתם יודעים מה מודל מסוגל להשיג, השאלה הבאה היא איזה תיקון מתאים לכשל הספציפי. תוכנית שימושית לניהול סיכוני מודלים לא עוצרת בטווח חומרה בלבד. היא בוחנת איזו מטרת תוקף רלוונטית לאפליקציה, והאם מודל אחר מניב ביצועים טובים יותר במטרה זו. התשובה מתחלקת לשניים:

• היכן שהחלפת מודלים יכולה לעזור. עבור ביצוע פקודות, 77% מהמודלים שנבדקו קיבלו ציון אפס, בעוד שהגרוע ביותר הגיע ל-834. עבור דלתות אחוריות בקוד, 57% קיבלו ציון אפס, בעוד שהגרוע ביותר הגיע ל-695.

• היכן שבקרי יישומים הם אלו שעושים את העבודה. בנושא מידע מוטעה, המודל החציוני הגיע לציון המקסימלי האפשרי. בנושא הטיה גזעית, אף מודל שנבדק לא קיבל ציון אפס.

ציון אפס אומר שאף התקפה לא הצליחה במבחן זה, ומודל שמתפקד היטב במטרה אחת יכול לתפקד בצורה גרועה במטרה אחרת. לכן, יש לתקף כל חלופה מול כל יעד שעומס העבודה תלוי בו. במקרים שבהם התוצאות מצביעות על דפוס זהה, ההגנה צריכה להתבצע ברמת האפליקציה: הגבלת גישה, אימות פלטים, דרישה לאישורים, מעקב אחר השימוש, וסריקת קוד וספריות תלויות לפני הכנסתם ל-build.

ספי ההתראה גם הם מספרים רק חלק מהסיפור: 18 מתוך 29 יעדי התוקפים לעולם לא יגיעו לסף ההתראה המוגדר כברירת מחדל של 500, כיוון שהנזק שכל אחד מהם יכול לגרום מציב את הציון המקסימלי שלו מתחת לסף זה. כשלים אלו עדיין חשובים, גם כאשר תור ההתראות נראה שקט.

כאשר המודלים שונים בביצועיהם, בדקו חלופה. כאשר הם דומים, צמצמו את הגישה והסמכויות של האפליקציה.

אילו מטרות החלפת מודלים יכולה למעשה לתקן, ואילו לעולם לא יעוררו התראה? ראו את כל 29 המדדים בתרשים. הורידו את הדוח המלא.

רשימת המודלים המאושרים שלכם עשויה להזדקק לבחינה חוזרת

היכרות, רישיון ומחיר הם תחליפים גרועים לבחינה מעמיקה של המודל הספציפי.

מודלים בעלי יכולת נמוכה יותר ראויים לבדיקה ראשונה

בקבוצת המודלים שקיבלו ציון, מודלים בעלי יכולת נמוכה יותר הציגו ביצועים גרועים יותר בתחומי דליפת נתונים אישיים, עקיפת החלטות ויצירת קוד לא מאובטח. בתחום עקיפת ההחלטות, הציון הממוצע ירד מ-501 עבור מודלים שקיבלו מתחת ל-130 ב-Epoch Capabilities Index (ECI) ל-45 עבור מודלים שקיבלו 150 ECI ומעלה. אותם מודלים בעלי יכולת נמוכה מהווים כשליש ממופעי המודל בהשוואת הציון, כך שהממצא הזה חורג הרבה מעבר למקרה קצה.

יכולת היא מדד נפרד מאבטחה, ועדיין יש לבדוק מודל חזק יותר מול המשימה שהוא עתיד לבצע. בדקו שוב גרסאות מאושרות בעלות יכולת נמוכה ובחנו חלופות מהספק שבו אתם כבר משתמשים, שכן הדפוס מופיע גם בהרכבים של ספקים בודדים.

הספק הוא איתות ראשוני שימושי, אם כי הוא אומר פחות על קצה היכולת. בקרב מודלי ביניים, ממוצעי הספקים נעים בין 113 ל-356; בקרב המודלים המסוגלים ביותר, שלושה ספקים מובילים נמצאים בטווח של 22 נקודות זה מזה. אם הרשימה המאושרת שלכם נשענת על ספק אחד, הדוח המלא מראה היכן המודלים שלו מובילים והיכן הם מפגרים. שישה ספקים מושווים זה לצד זה על פני שבעה סוגי התקפות, החל מחילוץ נתונים ועד למניפולציה של פלט. שכבות המחיר של פרימיום לא הראו יתרון אבטחה עקבי במדגם זה, בעיקר בגלל שדרגת המחיר הגבוהה כוללת לרוב מודלים ישנים יותר ובעלי יכולת נמוכה יותר.

מודלים בעלי משקל פתוח ושושלת נתוני אימון

הדוח מוצא גם ציוני דליפת נתונים אישיים גבוהים יותר בקרב 16 המודלים בעלי המשקל הפתוח (open-weight) בהשוואה למודלים קנייניים: 562 לעומת 274 בממוצע. זהו גודל מדגם קטן, לכן התייחסו להבדל כאל איתות שכדאי לחקור עבור עומסי עבודה המטפלים בנתונים אישיים.

נראות השושלת עוקבת אחר אותו פיצול. ב-904 מתוך 1,693 סביבות עם מודלים, סריקות לא מצאו שושלת נתוני אימון, בעיקר בגלל שספקי מודלים קנייניים אינם מפרסמים את מערכי האימון שלהם. הראיות תלויות אפוא בסוג המודל: בקשו מספקים קנייניים הבטחות מתועדות, ובדקו את שושלת הנתונים שמפרסמים מודלים בעלי משקל פתוח.

ארבע פעולות למנהיגי אבטחה

1. מיפוי וסיווג הלא-ידועים: עקבו אחר מזהי מודלים, גרסאות, בעלים, שימושים פעילים, סוכנים, כלים, שרתי MCP ושושלת זמינה. שמרו על מודלים ללא התאמה כגלויים; אל תתייחסו אליהם בשקט כאל סיכון נמוך.

2. אימות טווח ההגעה: אשרו את נתיב זמן הריצה מכל מודל פעיל לנתונים רגישים, אישורים, כלים ופעולות במורד הזרם. הבדילו בין קוד בניית שרת לבין הגדרות תצורה וחיבורים בפועל.

3. התאמת התיקון למטרה: דרגו כשלים לפי ההשלכות העסקיות שלהם. בדקו מודלים חלופיים שבהם התוצאות הנגדיות משתנות; השתמשו בעיקרון ההרשאה המינימלית, בדיקות פלט, אישורים וסריקת קוד במקרים שבהם התוצאות אינן משתנות.

4. הפיכת ההחלטה למשילות (Governance): רשמו את המודל והגרסה, ראיות הבדיקה, הבעלים, הבקרות המאושרות, הרציונל ותאריך הסקירה. העריכו מחדש כאשר מודלים, הרשאות, נתוני כוונון עדין (fine-tuning) או יישומים משתנים.

השורה התחתונה מ-Volume III: הציון של מודל מראה את החשיפה שלו, והמערכת שסביבו קובעת את טווח ההגעה שלו. פעלו בשני המישורים, החליפו מודלים היכן שהם שונים בביצועיהם, והדקו את הבקרות היכן שהם לא.

מתודולוגיה: נתונים מצטברים ואנונימיים מסריקות AI bill of materials (AI-BOM) מארגונים המשתמשים ב-Snyk, החל מספטמבר 2026: 3,023 סביבות, כולל 1,693 עם לפחות מזהה מודל אחד. הממצאים ברמת המודל מכסים חשבונות בארה"ב.

מנהיגי אבטחה צריכים לדעת אילו כשלים עשויים להשפיע על העסק שלהם ואיזה שינוי בבקרה משנה את התוצאה. איזה דפוס סוכן ו-MCP מתאר את הסביבה שלכם, וכיצד הספק שלכם משווה מול שבעה סוגי התקפות? הדוח המלא מפרט את שני הנושאים, בתוספת תוצאות לפי תעשייה ושכבות מחיר, ושש השאלות שכל מנהיג האחראי על משילות צריך להיות מסוגל לענות עליהן. הורידו את 2026 State of Agentic AI Adoption, Volume III.

מוכנים להעריך את תשתית ה-AI שלכם? חקרו את Evo AI-SPM.

התחילו עם Discovery. התחילו עם Evo AI-SPM.

חשפו כל רכיב AI המוסתר בבסיס הקוד שלכם והחילו ממשל כלל-ארגוני.

קראו עוד

סניק ⁦UNFILTERED⁩: ⁦Inside Our First-Ever Customer Summit⁩

בפסגת הלקוחות הראשונה של Snyk, מנהיגי אבטחה חלקו נקודות מבט גלויות לגבי סיכוני AI, תיקון פגיעויות ומשילות של סוכנים אוטונומיים. חמישה נושאים חושפים כיצד צוותים מתאימים את האבטחה למהירות ה-AI.

⁦Turn Your Vulnerability Backlog Into Pull Requests With Agentic Remediation⁩

ה-Evo Remediation Agent נמצא כעת ב-Open Preview, ומביא יכולות פתרון תלויות אוטומטי ל-Evo Agentic AppSec. צוותי AppSec יכולים כעת להפעיל תיקון מתמשך.

⁦AI⁩ האם ל-⁦Calling In Every Risk You⁩ יש ⁦Accepted⁩: ⁦Seven Insights From The⁩ ⁦AI⁩ אבטחה ⁦Panel⁩: לא מסונן

ה-AI הופך התקפות לזולות ומהירות יותר, וחושף סיכונים שארגונים כבר נושאים. ארבעה מובילי אבטחה חולקים מדוע הגנה במהירות המכונה ותיקון מהיר יותר הם כעת חיוניים.

#ai-security#llm-risk#appsec#least-privilege
קרא במקור