אבטחת נתונים בעידן הבינה המלאכותית
אמ;לק
הבינה המלאכותית משנה את הקשרים סביב סיכוני נתונים, מה שהופך את ההבנה מה מחובר, מה חשוף ומדוע, לקריטית מאי פעם. נדרשת גישה מחודשת להגנה על מידע רגיש בארכיטקטורות מונעות AI כדי למנוע דליפות ושימוש לרעה.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Securing Data in the AI era

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
נתונים תמיד היו קריטיים לעסק. בעידן ה-AI הם הפכו למשהו משמעותי יותר: הבסיס לאופן שבו יישומי AI לומדים, מסיקים מסקנות ופועלים. מערכות AI משתמשות בנתונים כהקשר, מאחזרות אותם כדי לענות על שאלות ופועלות לפיהם יותר ויותר. ככל שהאימוץ של AI מואץ, יותר יישומים וזהויות מתחברים לנתונים רגישים, כולל מערכות AI שיכולות לגשת לנתונים אלה, לאחזר ולהציג אותם בדרכים שלא היו אפשריות בעבר.
עבור צוותי אבטחה, האתגר הוא לא רק יותר נתונים שיש להגן עליהם. AI מעצב מחדש את אופן הגישה, השימוש והחשיפה לנתונים, ואיתו מה ארגונים צריכים להבין כדי לאבטח אותם. נתונים שנראים מוגנים כראוי בבידוד עלולים לקחת על עצמם סיכונים שונים מאוד כאשר סוכן AI יכול לגשת אליהם, לפעול לפיהם או לחשוף אותם דרך נתיב בלתי צפוי.
המשימה הבסיסית של אבטחת מידע לא השתנתה: לדעת היכן נמצאים הנתונים הרגישים, להבין מי ומה יכול לגשת אליהם, ולהפחית את חשיפתם. אך בעידן ה-AI, מתן תשובה לשאלות אלו דורש תמונה גדולה ומקושרת הרבה יותר, וסוג אחר של הקשר.
אבטחת נתונים לעידן ה-AI מתחילה בהבנה של הרחבת האחריות.
האחריות המתרחבת של אבטחת מידע
השאלות הבסיסיות של אבטחת מידע לא נעלמו, אך ה-AI מרחיב את מה שצוותי אבטחה צריכים לשאול.
• איפה הנתונים הרגישים שלי? והיכן הם משמשים לאימון, כבסיס ידע (grounding) או ככוח מניע ל-AI?
• למי יש גישה אליהם? ואילו יישומי AI, סוכנים, מודלים וזהויות יכולים להגיע אליהם?
• איך הנתונים האלה נחשפים? האם מערכת AI יכולה לאחזר אותם, לפעול לפיהם או לחשוף אותם בשוגג?
• מה יוצר סיכון אמיתי? האם נתונים רגישים מחוברים לסוכן בעל יכולות חזקות, הרשאות מופרזות או חשיפה לקלט לא מהימן?
שקול חברה שבונה סוכן AI כדי לעזור לעובדים לחקור ולהגיב לבקשות של לקוחות. כדי לבצע את עבודתו, הסוכן יכול לחפש באינטרנט, להפעיל קוד ולגשת לנתוני לקוחות המאוחסנים בענן באמצעות זהות עומס העבודה שלו.
לכל יכולת יש מטרה לגיטימית, אך יחד הן יוצרות נתיב חדש לנתונים רגישים. אם הסוכן יאחזר תוכן זדוני מהאינטרנט, הוראה נסתרת עלולה להשפיע על התנהגותו ולהשתמש ביכולות ובהרשאות הקיימות שלו כדי לגשת למידע רגיש של לקוחות ולחלץ אותו.
הסיכון לנתונים רגישים מוגדר יותר ויותר לפי מה שמתחבר אליהם. הגנה עליהם דורשת הבנה של הזהויות, התשתית, מערכות ה-AI והיכולות שיכולות להגיע אליהם ולעצב את אופן השימוש בהם.
מה דורשת אבטחת מידע בעידן AI?
ככל שסיכוני הנתונים הופכים למקושרים יותר, אבטחת הנתונים צריכה להתפתח בהתאם. תהליכי Discovery וסיווג נותרים בסיסיים, אך ארגונים זקוקים גם להקשר שיקבע היכן קיימת חשיפה אמיתית, וליכולת לפעול על פיה במהירות.
• הקשר על פני כל שכבה. הנתונים משתרעים כעת על סביבות ענן, SaaS ו-AI. ארגונים זקוקים לנראות על פני שטח התקיפה המתרחב הזה, ולהבנה מאוחדת של הנתונים, הזהויות, היישומים והתשתית המעורבים.
• אימות ותעדוף. לא כל ממצא מייצג את אותו סיכון. ניהול גישה יעיל, הבנת החשיפה והקשר האבטחה הסובב עוזרים להבחין בין ממצאים מבודדים לשילובים שעלולים לסכן נתונים רגישים.
• תיקון מהיר יותר. הבנת הסיכון חייבת להיתרגם לפעולה. ככל שהסביבות והאיומים נעים מהר יותר, הצוותים צריכים לייעל את התיקון, להפוך תגובות חוזרות לאוטומטיות ולהקל על הצוותים הרלוונטיים לתקן בעיות במהירות.
ב-Wiz, זה מתחבר סביב שלוש תוצאות: הכירו את הנתונים שלכם, הבינו את הסיכון האמיתי והפחיתו חשיפה תוך תגובה מהירה. בואו נבחן כיצד כל אחד מהם מתפתח לעידן ה-AI.
1. הכירו את הנתונים שלכם וכל מה שקשור אליהם
אבטחת הנתונים מתחילה בידיעה היכן הם חיים, מה הם מכילים ומי או מה יכול לגשת אליהם. זה כבר קשה בענן, SaaS, מחסני נתונים ופלטפורמות נתונים מודרניות אחרות.
ה-AI מרחיב את אתגר הנראות הזה. נעשה שימוש גובר בנתונים בתוך מסדי נתונים וקטוריים, סוכנים ויישומי AI, מה שיוצר מאגרי נתונים חדשים ונתיבי גישה חדשים שיש להבין. ארגונים צריכים לדעת גם אילו מערכי נתונים נמצאים בשימוש על ידי AI ואילו מערכות AI וזהויות יכולות להגיע לנתונים רגישים.
Wiz מביא את כל התמונה הזו לעין. Wiz מגלה ומסווג ללא הרף נתונים רגישים על פני ענן, SaaS, ופלטפורמות נתונים, תוך זיהוי מערכי נתונים המשמשים את AI והצגתם כחלק ממאגר הנתונים הרחב יותר. סריקה ללא סוכנים מספקת כיסוי רחב מבלי לדרוש מהצוותים לפרוס ולנהל סוכנים בכל מקור נתונים.
לאחר מכן, Wiz מחבר את הנתונים האלה לזהויות, להרשאות, לעומסי עבודה, ליישומים ולמערכות ה-AI שיכולות לגשת אליהם. עבור יישומי AI, Wiz מגלה רכיבים כגון סוכנים, מודלים, כלים ושרתי MCP, וממפה אותם למשאבי הענן והזהויות שהם מסתמכים עליהם.
בדוגמה של תמיכת הלקוחות שלנו, הנראות המקושרת הזו חושפת את נתוני הלקוח הרגישים, את הסוכן שמשתמש בהם ואת זהות עומס העבודה שמעניקה לסוכן את הגישה. במקום מלאי נפרד, צוותים יכולים לראות כיצד הגישה לנתונים זורמת לאורך הסביבה כולה.
זה יוצר מפה מחוברת של נתונים רגישים והגישה אליהם, כולל היכן הנתונים מפעילים את AI ואילו מערכות AI יכולות להגיע אליו.
2. הבנה ואימות של המקומות שבהם נתונים רגישים נמצאים בסיכון ממשי
מציאת נתונים רגישים היא רק הצעד הראשון. צוותים צריכים להבין מהם הנתונים, עד כמה הם רגישים, והאם ההקשר הסובב יוצר נתיב משמעותי אליהם. המשמעות היא שילוב של סיווג מדויק עם ניהול גישה, זהויות, הרשאות, חשיפה, פגיעויות והקשרי אבטחה אחרים, ולאחר מכן אימות היכן ניתן לנצל את הסיכון בפועל.
סיווג נתונים בדיוק
ה-AI מוסיף מורכבות חדשה, אך גם דרכים חדשות לפתור אותה. התאמת דפוסים נותרת בעלת ערך עבור סוגי נתונים מוכרים, אך ניתוח סמנטי מבוסס AI יכול להבין את המשמעות וההקשר של נתונים לא מובנים שחוקים ושיטות סיווג מסורתיות עלולים להחמיץ.
רוב הכלים מריצים כללי Regex התואמים לדפוסים שנבנו לזיהוי פורמטים של כרטיסי אשראי, מספרי ביטוח לאומי ומזהי PII ידועים. הם מוצאים את מה שאמרו להם למצוא. מספר כרטיס אשראי במסד נתונים של ייצור חי ואותו דפוס במערך נתונים סינתטי לבדיקות נראים זהים – אך הסיכון שלהם שונה לחלוטין.
Wiz מפעיל מנועים מרובים בו זמנית: התאמת דפוסים עבור סוגי נתונים ידועים; ניתוח מטא-נתונים מבוסס AI שמזהה אשכולות רגישים גם כשדפוסים חסרים; וניתוח סמנטי שקורא את משמעות המסמך, כך שטופס W-2 מסווג נכון כי המודל מבין מהו. מסווגים חדשים מגלים קטגוריות נתונים רגישים שאיש לא הגדיר מראש, כגון מחקר קנייני, מודלים של תמחור פנימי ומסמכים הנדסיים.
התוצאה היא סיווג מדויק מספיק כדי לסמוך עליו, עם פחות התראות שווא (false positives) ואות נקי מספיק כדי לפעול על פיו. לאחר מכן, Wiz ממפה כל ממצא לשכבת רגישות באופן אוטומטי, כך שההשפעה העסקית של הממצא גלויה לפני הוספת הקשר נוסף.
מנתונים רגישים לסיכון אמיתי
הבנת הנתונים היא רק חצי מהמשוואה. Wiz מחבר את ההקשר הזה עם גישה יעילה, זהויות, הרשאות, פגיעויות, חשיפה, תשתית ויכולות יישומי AI בתוך ה-Wiz Security Graph. זה מציף 'שילובים רעילים' (toxic combinations) שבהם סיכונים בודדים מתחברים ליצירת נתיב משמעותי לנתונים רגישים, ובמידת הצורך, מאמת האם הנתיב הזה אכן ניתן לניצול. Wiz Red Agent יכול לקחת זאת צעד קדימה בביצוע בדיקות אקטיביות לסביבה כדי לאמת אם נתיב אכן ניתן לניצול. זה עוזר לצוותים להבחין בין סיכון תיאורטי לבין נתיב התקפה מאומת.
בדוגמה שלנו לתמיכת לקוחות, המשמעות היא חיבור של שלושה אותות קריטיים: הסוכן מעבד תוכן אינטרנט לא מהימן, יש לו יכולות חזקות כמו ביצוע קוד, וזהות עומס העבודה שלו יכולה לגשת לנתוני לקוחות רגישים. יחד, Wiz יכול להציף את הנתיב שבו הזרקת פרומפט עקיפה (indirect prompt injection) עלולה להוביל בסופו של דבר לדליפת נתונים רגישים.
במקום להתייחס לאותות אלה כממצאים מנותקים, Wiz מאחד אותם ל-Issue מתועדף שמראה מדוע הנתונים נמצאים בסיכון ומה הופך את הסיכון הזה לקריטי.
3. הפחתת חשיפת נתונים ותגובה מהירה
לדעת היכן הנתונים נמצאים בסיכון זה דבר אחד. לתקן זאת לפני שהחשיפה תנוצל זה דבר אחר. מכיוון שחשיפת נתונים יכולה לנבוע מנתיבים רבים ושונים, אין פתרון אחד שמתאים לכולם. הפעולה הנכונה עשויה להיות הסרת חשיפה ציבורית, הגבלת גישה, שינוי הרשאות, החלפת סודות (secrets), תיקון קוד או תשתית, או התאמת היכולות של אפליקציית ה-AI.
AI הופך את הזמן לפעולה אפילו יותר קריטי. מכיוון שAI מאיץ את הפיתוח ומעניק לתוקפים דרכים חדשות לפעול במהירות המכונה, צוותי האבטחה צריכים לסגור את הפער בין זיהוי והפחתת סיכונים. זה מרכזי במוכנות AI לאיומים: התיקון צריך להיות מהיר כמו שבירה.
Wiz הופך את ההקשר לפעולה הנכונה עבור כל סיכון. Wiz מנתח את ההקשר המלא מאחורי ה-Issue כדי לזהות את שורש הבעיה, לקבוע את הגורם האחראי ולהמליץ על הדרך היעילה ביותר לחסימת הנתיב. צוותים יכולים אז לבחור את התגובה המתאימה, מתיקון מודרך ותיקונים ישירים ועד לשינויים בקוד או ב-IaC, תיקון בהובלת מפתח, או תגובה אוטומטית לחלוטין עם Wiz Workflows.
בדוגמה לתמיכת הלקוחות שלנו, אפשרויות אלו עשויות לכלול הסרת יכולות ביצוע קוד מיותרות, הגבלת זהות עומס העבודה רק לנתוני הלקוח הדרושים לו, או הוספת הגנות מפני הזרקת פרומפטים. צוותים יכולים לראות בדיוק מה צריך לשנות כדי לחסום את הנתיב לנתונים רגישים.
Wiz Workflows יכול לתפעל את התגובות הללו בקנה מידה רחב, על ידי הפעלת תהליכים אוטומטיים, ניתוב תיקונים עשירים בהקשר לבעלים הנכון באמצעות כלים כמו Jira או Slack, פתיחת בקשות משיכה (pull requests) לתיקוני קוד או IaC, או ביצוע פעולות תיקון נתמכות באופן אוטומטי. צוותים יכולים להפוך תיקונים חוזרים לאוטומטיים תוך שמירה על פיקוח אנושי במקומות הקריטיים.
זה מקצר את הדרך מזיהוי חשיפת נתונים לצמצומה, עם הגמישות לנקוט בפעולה הנכונה עבור כל סיכון במהירות שה-AI דורש.
הפעלת אבטחת מידע
גישה מחוברת לאבטחת מידע מעניקה לכל צוות את ההקשר שהוא צריך לפעול, מבלי לדרוש מכולם להפוך למומחה לאבטחת מידע:
• צוותי אבטחת נתונים מקבלים תצוגה אחידה של חשיפה ויכולים לקבוע סדרי עדיפויות ברחבי הארגון.
• AI וצוותי יישומים מבינים את השלכות הנתונים של מה שהם בונים ויכולים לטפל בסיכון מוקדם יותר.
• מפתחים ובעלי משאבים מקבלים את ההקשר והבעלות הדרושים להם כדי לתקן בעיות בתוך תהליכי העבודה שבהם הם כבר עובדים.
• צוותי אבטחה יכולים להרחיב את הפיקוח והתגובה, לבצע אוטומציה של עבודה חוזרת תוך שמירה על שליטה היכן ששיקול הדעת האנושי חשוב.
עם הבנה משותפת של סיכון הנתונים, ההקשר והפעולה הנכונים יכולים להגיע לאנשים הממוקמים בצורה הטובה ביותר לצמצם אותו, מבלי שהאבטחה תהפוך לצוואר הבקבוק.
אבטחת נתונים שנבנתה לעידן AI
AI ימשיך להרחיב את אופן הגישה, השימוש והחשיפה של נתונים רגישים.
הארגונים שיובילו לא יהיו אלה עם הכי הרבה מסווגים, אלא אלה שיוכלו לענות במהירות ובביטחון על השאלות: מה באמת נמצא בסיכון, למה זה חשוב ומה לעשות בנידון. על ידי חיבור הקשר של נתונים, ענן, SaaS ו-AI, Wiz עוזר לצוותים לעשות בדיוק את זה.
המשך לקרוא
כיצד לחקור פשרה של GitHub PAT: לקחים מקמפיין רב-ארגוני
מדריך פעולה מעשי לחקירת פשרה של אסימוני (token) GitHub, הנגזר מהתגובה של Wiz CIRT לקמפיין מתואם רב-ארגוני.