חזרה לפיד
articlesמקור: Snyk Blog10.4.2026

ניהול אבטחה בעידן ה-AI: משליטה לתחקור

אמ;לק

AI עוזר לזהות חולשות בקנה מידה רחב, אך ללא ניהול ובקרה אנושית נכונה, הארגון עלול להסתבך. הכתבה מסבירה איך לגשר על הפער בין כמות ההתראות הגדולה לבין היכולת ליישם תיקונים בפועל.

סיכום בעברית: מערכת VibeSec · מדיניות המקורות

נוסף ל-VibeSec:

כותרת מקורית: Governing Security in the Age of Infinite Signal – From Discovery to Control

ניהול אבטחה בעידן ה-AI: משליטה לתחקור

התוכן המלא בעברית

תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.

Anthropic פרסמה לאחרונה כלי לגילוי פגיעויות בקנה מידה רחב. מה עכשיו?

לפני מספר שבועות השיקה Anthropic את Glasswing, יוזמה של 100 מיליון דולר לשימוש ב-AI כדי לזהות פגיעויות בקנה מידה רחב. בערך באותו זמן, הם הציגו את Claude Mythos, מערכת שיכולה לגלות ולנצל פגמי תוכנה באופן אוטונומי.

כתבתי על המסלול הזה בניתוח הקודם שלי: ⁦AI⁩ מאיץ את הגילוי, אבל אמון ארגוני עדיין תלוי באימות דטרמיניסטי, אוטומציה של תיקון וממשל בקנה מידה. כל מה שקרה מאז חיזק את התזה הזו והפך את הצעד הבא לדחוף יותר: אנחנו צריכים לעבור מגילוי לשליטה.

ה-System Card של Anthropic עבור Claude Mythos Preview (PDF) מצהיר על כך בבירור: סוג זה של מערכות אינו מוכן לשחרור רחב. פריצת הדרך והסיכון מגיעים בו-זמנית, והמתח הזה מגדיר את העידן החדש של אבטחת AI בארגונים.

יותר יכולת לא אומר יותר אבטחה

בכל פעם שמשהו כזה יוצא לאור, השיחה מתפצלת לשני מחנות. האם AI הוא טוב לאבטחה, או שהוא מציג סיכונים חדשים? התשובה משמעותית יותר ממה ששני הצדדים מוכנים להודות: התשובה היא גם וגם. מערכות כמו Mythos יכולות לחשוף פגיעויות שלא התגלו במשך עשרות שנים, להסיק מסקנות בסביבות מורכבות ולפעול במהירות שאף צוות אנושי לא יכול להשתוות לה.

אך במקביל, קוד נוצר מהר יותר ממה שניתן לסקור אותו, ההתנהגות הופכת לפחות צפויה, משטחי התקיפה מתרחבים, ומערכות אוטונומיות מתחילות לנקוט פעולות אמיתיות בתוך סביבות ייצור (production).

גילוי ללא שליטה יוצר סיכון

מובילי אבטחה מנוסים הגיבו להכרזות הללו במהירות ובצורה שסיפקה הקשר מועיל. כפי שניסח זאת CISO לשעבר בארגון גדול: "כשהמדד שכל איש מקצוע מבקש חסר, ספירת הפגיעויות מתחילה להיראות כמו תשקיף של הנפקה".

מנהיגי אבטחה בתוך מוסדות פיננסיים חשובים מבחינה מערכתית כבר חושבים כך, מתוך הכרה שככל ששרשרות אספקת התוכנה מואצות, הממשל (לא הגילוי) הופך לגורם המגביל בניהול סיכונים מערכתיים.

הנה המשמעות בפועל: זיהוי ללא אימות יוצר רעש, גילוי ללא תעדוף יוצר עומס, ויכולות ללא ממשל (governance) יוצרות סיכון. אבטחה מוגדרת על פי מה שניתן לשלוט בו, ולא רק על פי מה שניתן למצוא.

מערכת ה-AI שלך היא כעת חלק ממודל האיומים שלך

האות החשוב ביותר כאן הוא לא רק מה שהמערכות הללו יכולות לעשות. זה מה שהיוצרים שלהם מספרים לנו עליהם.

בתיעוד התצוגה המקדימה שלהם, Anthropic מתארים מודלים שנמלטו מסביבות מוגבלות, ניגשו למערכות חיצוניות, שלפו אישורים רגישים שהיו במכוון מחוץ לתחום הגישה שלהם, שינו תהליכי הרצה והדליפו מידע פנימי. במקרים מסוימים, מערכות אלו הראו סימנים של הסתרת התנהגות ומניפולציה של מנגנוני הערכה.

תן לזה לשקוע לשנייה. החברה הבונה את המערכות הללו מצהירה בפומבי: "זהו סיכון היישור הגבוה ביותר מכל מה שפרסמנו אי פעם, ואסור לפרוס אותו בסביבות שבהן פעולותיה עלולות לגרום לנזק בלתי הפיך."

אירועים אחרונים הופכים את העניין למוחשי עוד יותר. כאשר הפעילות הפנימית של כלי פיתוח מבוססי AI נחשפת (כמו בדליפה של Claude Code), המאמץ הנדרש כדי למצוא ולנצל את חולשותיהם יורד באופן משמעותי. מה שהיה אטום הופך לניתן לניתוח, וכתוצאה מכך – ניתן לתקיפה.

כפי שציינה IDC, התעשייה התמקדה רבות באבטחת הקוד שה-AI מייצר, אך הרבה פחות באבטחת הכלים עצמם בתוך שרשרת אספקת התוכנה.

תחשוב מה זה אומר. אותן מערכות שמייצרות קוד מוכן לייצור, מגלות נקודות תורפה ומתכננות זרימות עבודה מורכבות יכולות גם לפעול מחוץ לגבולות המיועדים, לגשת למערכות רגישות ולקבל החלטות שקשה לחזות או לבקר.

ככל שהמערכות הופכות ליכולות יותר, הן הופכות לפחות דטרמיניסטיות וקשות יותר לשליטה. אם הארגונים שבונים מערכות אלו מזהירים אותנו מפורשות לגבי התנהגותן, השאלה עבור כל ארגון היא פשוטה: מי אחראי לשלוט בהן מרגע שהן נמצאות בסביבה שלך?

3 שינויים קטגוריים עיקריים בעידן ה-AI

1: יותר אות מגדיל את הסיכון ללא שליטה

במשך שנים, תעשיית האבטחה פעלה תחת אילוץ אחד: לא הצלחנו למצוא מספיק סיכונים. האילוץ הזה נעלם. אנו נמצאים כעת בעולם שבו הזיהוי הוא למעשה אינסופי, יצירת הקוד מואצת, וה-AI משתתף ישירות בתהליך הפיתוח.

ככל שאתה יכול למצוא יותר סיכון, כך קשה יותר לנהל אותו. זה הפרדוקס של ⁦AI⁩ באבטחה: צוואר הבקבוק אינו עוד גילוי, זה שליטה.

זהו שינוי מהותי במודל ההפעלה. מנהיגי אבטחה צריכים לענות על סדרה שונה של שאלות כעת:

• כיצד שומרים על ממשל תקין (governance) גם מול מפתחים אנושיים וגם מול מערכות AI?

2: ⁦AI⁩ יכול לנמק לגבי סיכון, אבל הוא לא יכול לאכוף אותו

AI יכול למצוא ולתקן, אך לא ניתן לסמוך עליו לצורכי אכיפה. מערכות AI הופכות לטובות מאוד בהסקת מסקנות: זיהוי פגיעויות, הצעת תיקונים וסימולציה של נתיבי תקיפה. אבל אבטחה ארגונית לא פועלת על סמך היגיון בלבד; היא פועלת על בסיס אכיפה.

אתה יכול לבקש מ-⁦AI⁩ לנמק לגבי הסיכון. אתה לא יכול לבקש ממנו להבטיח ציות. זֹאת אוֹמֶרֶת:

3: האבטחה עברה מגילוי לשליטה

ככל שהגילוי הופך לנפוץ יותר, רובד חדש הופך לחיוני: מישור בקרה (control plane) שמתרגם אותות להקשר, מיישם מדיניות באופן עקבי, מתעדף את מה שחשוב, מתזמר תיקונים ואוכף ממשל על גורמים אנושיים ומכונות כאחד.

הגילוי הופך לקלט. השליטה הופכת למערכת. הממשל הופך לתוצאה. אבטחה כבר אינה עוסקת במציאת סיכונים, אלא בשליטה בהם.

אבל יש משהו שצריך להיאמר ישירות, כי נוטים להחליק עליו בשיחה הזו: אי אפשר לשלוט על הכל, ולא ריאלי לצפות שזה יקרה.

בקרות הן קריטיות, נקודה. אבל הרעיון שמסגרת בקרה חזקה מספיק תמנע כל פריצה ותתפוס כל וקטור? זו פנטזיה. נוף האיומים נע מהר מדי, המערכות מורכבות מדי, ו-⁦AI⁩ מציג מצבי כשל שעדיין לא מיפינו במלואו.

אז השאלה היא לא רק "איך מונעים זאת?" זה גם: כמה מהר אנחנו יכולים לזהות ולהגיב כשמשהו חומק באופן בלתי נמנע?

תגובה לתקריות (incident response) אינה מוצא אחרון. זו מיומנות ליבה, והיא רק תהיה חשובה יותר בכל שנה שעוברת. הצוותים שיצליחו לא יהיו רק אלו עם הבקרות ההדוקות ביותר. הם יהיו אלו שיוכלו להכיל, להגיב ולהתאושש מהר יותר מהיכולת של תוקף להסלים את המצב. ככל שמערכות AI הופכות לאוטונומיות יותר ורדיוס הנזק של כל כשל גדל, שריר התגובה הזה הופך ליתרון תחרותי אמיתי.

אפילו מניעה ותגובה יחד אינן התמונה המלאה. אתה צריך מומחיות אבטחה ברמה עולמית, אנשים שעובדים כל הזמן על שיפור היציבה הארגונית ומבינים לא רק את הטכנולוגיה, אלא גם את היריב. המשמעות היא פריסת מודלי ה-AI הטובים ביותר (בריבוי מודלים, לא רק אחד, כי למודלים שונים יש חוזקות שונות והסתמכות על מודל בודד מהווה נקודת כשל מרכזית), שימוש בסטים של חוקים דטרמיניסטיים וטכניקות ניתוח מתקדמות, ומומחי אבטחה מנוסים שמביאים אינטואיציה ושיקול דעת אנושי כדי לסגור פערים שאוטומציה לבדה לא יכולה לכסות.

השילוב הזה של AI מהשורה הראשונה, בקרות דטרמיניסטיות ומומחיות אנושית הוא בדיוק מה שאנחנו בונים ב-Snyk. לא בגלל ששכבה בודדת מספיקה כשלעצמה, אלא בגלל שנוף האיומים מתפתח מהר מדי מכדי שגישה אחת תוכל לעמוד בקצב. אנו פורסים את הכלים הטובים ביותר הזמינים בכל שכבה, הפועלים יחד כ-stack אבטחה שלם שמסוגל להתפתח לצד האיומים שהוא נועד להתמודד איתם.

בינתיים, ⁦AI⁩ כבר בייצור, והממשל לא. ארגונים שולחים קוד ⁦AI-generated⁩ לייצור, מטמיעים מודלים בתהליכי עבודה קריטיים ומאפשרים למערכות אוטונומיות לפעול בשמם.

ללא שכבת בקרה, התוצאה היא חשיפה בלתי מוגבלת, תיקונים לא עקביים, נראות מוגבלת ולחץ רגולטורי גובר. עם המודל הנכון, הסיכון הופך למדיד, התיקון הופך לניתן להרחבה, ה-AI הופך לנשלט, והאבטחה הופכת ליתרון אסטרטגי אמיתי.

בקרה תגדיר את עידן האבטחה הבא

ההכרזות של אנתרופיק מסמנות משהו מהותי: עתיד האבטחה לא יוגדר לפי מידת הסיכון שנוכל לגלות. זה יוגדר לפי כמה טוב אנחנו יכולים לשלוט בזה.

בעולם של אינסוף אותות, הזיהוי הופך למובן מאליו, והרעש הופך למסוכן. שליטה היא מה שקובע. מהירות התגובה היא מה שקובע. שיפור מתמיד המונע על ידי מומחיות אמיתית הוא מה שקובע. הארגונים שיבנו עבור שלושת אלו, במידה שווה, יהיו מוכנים לאופן שבו נראית אבטחה בפועל בעידן ה-AI.

זהו השינוי שהפלטפורמות הטובות ביותר בונות לקראתו: הפיכת אותות גולמיים למדיניות הניתנת לאכיפה, תיקון מאומת וממשל שמתרחב לצד פיתוח המונע על ידי AI.

המציאות בחדר הישיבות

הנה השורה התחתונה: ה-AI משנה את הדרך שבה נראה סיכון, לא רק את האופן שבו אנו מוצאים אותו. המערכות שבונות את התוכנה שלך היום יכולות לפעול מהר יותר, חכם יותר ובלתי צפוי מאי פעם. זה מותיר את הדירקטוריונים, ה-CISOs וההנהלה הבכירה עם שאלה פשוטה: מי אחראי כאשר ה-AI מתנהג בצורה לא תקינה, ומי מנהל אותו לפני שהקוד משתחרר לייצור?

הארגונים שמקבלים את זה נכון לא ירדפו אחרי כל פגיעות. הם ישלטו על סיכונים בקנה מידה, יאכפו את הממשל בזמן אמת ויהפכו אינסוף אותות להחלטות ניתנות לביצוע וניתנות לביקורת. וכאשר משהו נשבר בהכרח, הם יגיבו מהר מספיק כדי שזה לא יהפוך לאסון.

זהו השינוי שהפלטפורמות הטובות ביותר בונות לקראתו: הפיכת אותות גולמיים למדיניות הניתנת לאכיפה, תיקון מאומת וממשל שמתרחב לצד פיתוח המונע על ידי AI. זהו הכיוון שאליו אנו בונים באופן פעיל ב-Snyk.

בעידן ה-AI, שליטה אינה אופציונלית. זו הדרך היחידה לבנות אמון.

סיכוני AI, תחת שליטה עם Evo AI-SPM

גלה כיצד Evo AI-SPM עוזר לך לאבטח את הסוכנים שלך, להתגבר על התפשטות בלתי מבוקרת של AI, ולנהל את השימוש ב-AI בביטחון.

קרא עוד

PHP2Shell לא יהיה האחרון. הנה איפה יופיע הבא בתור.

⁦PHP2Shell⁩ הראה באיזו מהירות פגם ברמת המנוע יכול לסכן אפליקציות הפונות לאינטרנט. למד מדוע מלאי חיצוני, בדיקות מהירות ובדיקות חוזרות חשובות לפני החשיפה הבאה.

Snyk UNFILTERED: הצצה לפסגת הלקוחות הראשונה שלנו

בפסגת הלקוחות הראשונה של Snyk, מובילי אבטחה שיתפו נקודות מבט גלויות לגבי סיכוני AI, תיקון פגיעויות וניהול סוכנים אוטונומיים. חמישה נושאים מרכזיים חושפים כיצד צוותים מתאימים את האבטחה לקצב של ה-AI.

PHP מתקן שתי פגיעויות RCE קריטיות ללא אימות (CVE-2026-109618, CVE-2026-109619): [עודכן עבור CVE-2026-115560]

שני פגמים קריטיים במחזור החיים של הבקשות של ⁦PHP⁩ יכולים לאפשר ביצוע קוד מרחוק לא מאומת. שדרג למהדורה קבועה או התקן פורט אחורי של ספק עבור גרסאות ישנות יותר.

#vulnerability-management#snyk#cyber-governance
קרא במקור