AskAI – טקסט לשאילתת גרף אבטחה
אמ;לק
AskAI מאפשרת להמיר טקסט חופשי לשאילתות גרף אבטחה מורכבות. זה מייעל את הניתוח ומפשט את תהליך זיהוי האיומים בסביבות ענן.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: AskAI – Text to Security Graph Query

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
בפוסט זה נלווה אתכם במסענו לפיתוח מנוע חיפוש ידידותי מבוסס טקסט לשאילתות (text-to-query) עבור ה-Security Graph של Wiz. נדון באתגרים שעמדו בפנינו ובפתרונות החדשניים שיישמנו כדי להנגיש נתוני אבטחת סייבר מורכבים לכולם. בין אם אתם חובבי טכנולוגיה או חדשים בתחום, אנחנו מפשטים את הנושא בצורה קלה להבנה, ומדגישים כיצד מינפנו טכנולוגיות מתקדמות כדי לפשט את תהליך שאילת הנתונים המורכבים באבטחת ענן.
בימינו נראה ש-LLMs פותרים כמעט הכל, אך משימות מסוימות עדיין מציבות אתגרים משמעותיים, במיוחד כאשר המודל לא אומן על הנושא הספציפי. ישנן דרכים רבות למלא את הפערים הללו, לכן בפוסט זה נסביר – מהרעיון ועד לייצור – כיצד צוותי ההנדסה והמחקר שלנו בנו מנוע חיפוש טקסטואלי על גבי ה-Security Graph הייחודי של Wiz.
בתחום אבטחת הסייבר, נפוץ להיתקל בשפות שאילתות מותאמות אישית שנועדו לקיים אינטראקציה עם מסדי נתונים ופלטפורמות מיוחדות. שפות אלו מאפשרות לאנשי אבטחה לבצע שאילתות מורכבות המותאמות לצרכים הספציפיים של הארגון שלהם. עם זאת, שליטה בשפות שאילתות מותאמות אישית אלו עשויה להיות מרתיעה בשל המורכבות ועקומת הלמידה התלולה שלהן. אפילו אנשי מקצוע מנוסים עשויים למצוא את זה מאתגר לבנות שאילתות הממנפות באופן מלא את היכולות של מערכות אלו.
הכירו את Wiz Security Graph – כלי אבטחת סייבר רב עוצמה המספק מבט מקיף על תשתית הענן של הארגון ועל סיכוני אבטחה פוטנציאליים. הכלי ממנף ניתוח נתונים מתקדם ולמידת מכונה כדי למפות קשרים בין נכסי ענן שונים, תצורות ופגיעויות על פני פלטפורמות מרובות. ה-Security Graph, המיושם כמסד נתונים גרפי ללא סכמה קשיחה, מציג אינספור שילובים ונתיבים.
ככל שמערכות אקולוגיות בענן הופכות מורכבות יותר, צוותי אבטחה מתקשים לעיתים קרובות לחפש ביעילות את הנתונים הקריטיים והרלוונטיים ביותר בתוך התשתית העצומה שלהם. כדי לנווט במורכבות זו, פיתחנו את Wiz Query Language לשאילתות וחיפוש על גבי הגרף. אך גם עם ממשק משתמש נוח, הגעה ללב הנתונים נותרה מאתגרת, גם עבור מומחי גרפים.
הנה שאילתה לדוגמה (JSON) עבור "מכונות וירטואליות עם דיסקים לא מוצפנים":
{ "relationships" : [{ "type ":[{" type ":" USES "}]," with ":{" type ":[" VOLUME "]," where ":{" encrypted ":{" EQUALS ":false}}}}]," type ":[" VIRTUAL_MACHINE "]}
השיטה שלנו, אף שהותאמה במיוחד ל-Security Graph Query Language של Wiz, מציעה גישה כללית שניתן ליישם בשפות שאילתות אבטחה מותאמות אישית אחרות. על ידי מינוף LLMs וטכניקות מתקדמות לשליפת נתונים, אנו שואפים לפשט את תהליך בניית השאילתות המורכבות. גישה זו הופכת את השאילתות לנגישות יותר למשתמשים שאינם מכירים את מורכבות התחביר של שפות אלו, ובסופו של דבר משפרת את היעילות והאפקטיביות בתחום אבטחת הסייבר.
עם זאת, היחסים הדינמיים בין ישויות, נתיבים אפשריים של קודקודים וקשתות, אילוצים והוספה מתמדת של טכנולוגיות חדשות, פגיעויות ותכונות מציבים אתגרים משמעותיים בפני מודלי LLM – במיוחד כשמוטלת עליהם המשימה ליצור שאילתת JSON שאינם מכירים. בנוסף, עדכונים שוטפים של משאבי ענן, וקטורי תקיפה, תוכנות זדוניות ועוד מקשים על העמידה בקצב של תחום אבטחת הענן המשתנה ללא הרף.
לכן, אימצנו גישה מבוססת LLM כדי לפשט את זרימת העבודה עם הגרף עבור לקוחות ועבור משתמשי Wiz פנימיים כאחד. שיטה זו לא רק מתמודדת עם המורכבות של Wiz Security Graph, אלא גם מציעה תובנות לגבי הדרך שבה ניתן לפתור אתגרים דומים בשפות שאילתות אבטחה מותאמות אישית אחרות.
בחירת ה-LLM המתאים: Sonnet 3.5 דרך Amazon Bedrock
אחת ההחלטות הקריטיות בגישה שלנו הייתה בחירת ה-LLM המתאים שמאזן בין ביצועים, עלות והשהייה. בחרנו את ה-Sonnet 3.5 של Anthropic שנגיש דרך Amazon Bedrock בתור LLM שלנו. זה נתן לנו את האיזון המושלם בין מהירות, ביצועים ויעילות עלות, מה שהפך אותו לבחירה אידיאלית עבור המשתמשים שלנו.
ב-Anthropic, אנו מתמקדים בבניית מודלים המאזנים ביעילות בין ביצועים, עלות והשהייה (latency) עבור מקרי בוחן בעולם האמיתי. שיתוף הפעולה עם Wiz ב-Sonnet 3.5 דרך Amazon Bedrock מדגיש כיצד ניתן למנף מודלים אלו כדי לפשט שאילתות מורכבות תוך שמירה על רמות גבוהות של דיוק ויעילות תפעולית. אנו נרגשים לראות את Sonnet 3.5 מניע יישומים חדשניים באבטחת סייבר. - Garvan Doyle, ראש תחום Applied AI ב-Anthropic
מהו הסוד לגרום ל-LLM לעבוד היטב עם ה-Security Graph שלנו? ההנחיות (Prompts) הנכונות.
במקום רק לבקש מהמודל ליצור שאילתות מאפס, הדרכנו אותו בעזרת הנחיות שתוכננו בקפידה. המשמעות היא לספק לו הקשר ואילוצים. הנה כיצד עשינו זאת:
• למידה בזריקת אפס: ביקשנו מה-LLM ליצור שאילתה המבוססת על תיאור שפה טבעית ללא דוגמאות קודמות.
• למידה מועטה: בנוסף, סיפקנו דוגמאות לשאילתות מוצלחות ולאחר מכן ביקשנו מה-LLM להתבסס על אלה.
• RAG (Retrieval-Augmented Generation): לא הסתמכנו על LLM בלבד. באמצעות RAG, שלפנו את הנתונים הרלוונטיים ביותר ממאגר הידע שלנו והזנו אותם למודל, מה שמבטיח שיש לו את כל ההקשר הדרוש ליצירת השאילתה המושלמת.
לדוגמה, כאשר משתמש מקליד "הראה לי את כל VMs עם נקודות תורפה ללא תיקון", אנו תחילה שולפים מטא נתונים קשורים מגרף האבטחה שלנו ומעשירים אותם בהצעות LLM-generated. התוצאה? שאילתה הדוקה ומדויקת חופרת בדיוק את מה שהמשתמש מחפש - מהר.
כדי להבטיח שהמודל בונה שאילתות נכונות מבחינה תחבירית ומדויקות בהקשרן, היינו צריכים לפרק את התהליך לשלבים ברי ניהול. במקום מתן הסבר סטטי בלבד על תחביר ומבנה השאילתה, סיפקנו למודל את אבני הבניין העיקריות שינחו אותו. כך ניגשנו לזה:
• מהקלט של המשתמש, אנו שואבים את דוגמאות השאילתות הדומות ביותר באמצעות דמיון קוסינוס עם הטבעות.
• לאחר מכן אנו מחלצים את כל ישויות הגרפים הרלוונטיות מהשאילתות הללו ומחזירים את המאפיינים והתיאורים שלהן.
• לאחר מכן, אנו אוספים את כל האופרטורים וסוגי הערכים המותרים המשויכים לאותן ישויות.
• עבור כל נכס, אנו מאחזרים את הערכים המותרים.
• אנו מאחזרים תיאורים ומזהים (IDs) ייחודיים עבור כל הטכנולוגיות הרלוונטיות.
• לבסוף, אנו מחשבים נתיבים אפשריים וקשרים מותרים בהתבסס על המידע שאוחזר.
כל אחד מהשלבים הללו הוא קריטי, כיוון שהם תלויים זה בזה. שגיאה בשלב אחד עלולה להשפיע באופן משמעותי על דיוק השאילתה הסופית. גם מבנה ההנחיה, הכולל את כל המידע הזה, הוא קריטי. מכיוון שמדובר בכמות גדולה של הקשר לספק למודל, עברנו מספר איטרציות של הנדסת הנחיות (Prompt Engineering). אף שיתפנו פעולה עם צוות המחקר של Anthropic כדי להבטיח שאנחנו בדרך הנכונה.
התחלנו בהרכבת מערך נתונים של 200 דוגמאות שאילתות, כל אחת מהן בשילוב עם JSON המקביל לה. התוצאות הראשוניות הראו דיוק של 80%, מאומת באמצעות התאמות מדויקות או סקירה ידנית. הביצועים האלה נתנו לנו את הביטחון להתקדם עם תצוגה מקדימה של תכונה, לשתף אותה עם צוותים פנימיים ועם משתמשים חיצוניים כדי לאסוף משוב בתרחישים אמיתיים.
עם זאת, ברגע שהחלו להגיע נתונים מסביבות חיות, נתקלנו במהירות בפערים בין ההנחות שלנו לבין המציאות. האופן שבו נוסחו שאילתות בעולם האמיתי - טרמינולוגיה, מבני שאילתות ואפילו הפצת נושאים - חרג מהדוגמאות במסד הנתונים ההדגמות שלנו.
כדי לטפל בפערים אלו, התחלנו מיד לחדד את ההנחיות ותהליך האימות שלנו. אמנם שיפורים אלו הובילו לעלייה קלה בדייקנות, אך התברר שיש צורך במחקר מקיף יותר. היינו צריכים הבנה מעמיקה יותר של טבען של שאלות בעולם האמיתי, כדי שנוכל לכוונן את הנתונים והדוגמאות שסופקו למודל.
הגישה שלנו מתמקדת באחזור ראשוני של דוגמאות התואמות היטב את המשמעות הסמנטית של הקלט של המשתמש. הבסיס ליעילות המודל שלנו טמון בבניית מערך נתונים חזק מלא בדוגמאות מגוונות המשקפות את השאלות האמיתיות שמשתמשים עשויים לשאול.
קח, למשל, את השאילתה, "מצא לי את חשבון השירות AWS AROA111222333444ABCDE." אמנם הבקשה הזו היא פשוטה, אבל המשתמשים מצפים לאחזר את אותן תוצאות אם יזין רק "AROA111222333444ABCDE." על ידי מתן שפע של דוגמאות במסד הנתונים שלנו, אנו מאפשרים למודל להסיק שהמחרוזת הזו היא אכן ישות AWS.
בנוסף, עלינו להישאר ערניים לגבי השינויים המתמידים בתוך Wiz, כולל פרצות חדשות, משאבים מתעוררים והתפתחויות מתמשכות בתוך גרף האבטחה שלנו.
אנו גם מכירים בחשיבות של סקירה מתמדת של דגמי הייצור הנוכחיים שלנו לצד כל איטרציות חדשות. תהליך הערכה מתמשך זה דוחף אותנו לשפר את מסד הנתונים של הדוגמאות שלנו, לשכלל את טכניקות הדור המוגבר באחזור (RAG) ולבצע אופטימיזציה של מבני ההנחיות שלנו.
אשכול באמצעות UMAP ו-DBSCAN
כדי לקבל תובנות משמעותיות לגבי הנושאים הנשאלים באמצעות מנוע החיפוש LLM שלנו ולזהות נקודות עיוורות פוטנציאליות, התחלנו בניתוח מקבץ של בקשות אנונימיות של לקוחות. חשוב לציין, תהליך האנונימיזציה שמר על המשמעות הסמנטית של כל שאילתה.
התחלנו בהטמעת כל שאילתות הקלט בוקטורים המייצגים את התוכן שלהם. באמצעות UMAP (Uniform Manifold Approximation and Projection ), אלגוריתם רב עוצמה להפחתת מימד, הפכנו את הנתונים הגבוהים שלנו למרחב בעל מימד נמוך יותר. טכניקה זו לא רק מפשטת את ההדמיה אלא גם שומרת על המבנים המקומיים והגלובליים של הנתונים, ומאפשרת לנו לחשוף דפוסים נסתרים. עם UMAP, אשכולות בתוך הנתונים שלנו נעשו הרבה יותר ברורים.
לאחר שזיקקנו את הנתונים שלנו לייצוג דו-ממדי, השתמשנו ב-DBSCAN (Density-Based Spatial Clustering of Applications with Noise) כדי לזהות כ-150 נושאים ייחודיים. כדי לנתח עוד את האשכולות הללו, בחרנו באקראי 50 שאילתות מכל אחד ומינפנו LLM כדי לסווג אותן. לדוגמה, ייתכן שתייגנו אשכול כ-"EC2 Related Queries". סיווג זה אפשר לנו לבחון את התפלגות הנושאים ולזהות תחומים שמסד הנתונים לדוגמה שלנו אינו מכסה כראוי.
יצירת שאילתות
עם הבנה מעמיקה יותר של הנושאים והניואנסים של בקשות שאילתות אמיתיות, יזמנו גישה דו-כיוונית להעשרת מסד הנתונים לדוגמה שלנו:
• הזנה ידנית (Manual Insertion): הצוות הייעודי שלנו, המורכב מחוקרים, מנהלי מוצר ומומחי Security Graph, יצר בקפידה דוגמאות שאילתות המשקפות במדויק את הטון והסגנון של פניות משתמשים בפועל. מאמץ מעשי זה מבטיח שהדוגמאות יהדהדו עם ההקשר האמיתי של המשתמשים שלנו.
• שאילתות שנוצרו על ידי LLM: תוך מינוף תובנות מניתוח האשכולות, השתמשנו ב-LLMs ליצירת תיאורי שאילתות חדשים. כל נושא הניב קבוצה של שאילתות מייצגות ששיקפו תרחישים מגוונים מחיי היומיום, בהתאמה הדוקה לדוגמאות שנצפו בעבר. כדי להבטיח דיוק, החוקרים ומומחי הגרפים שלנו השלימו את מבני ה-JSON המתאימים ויצרו מערך נתונים מקיף.
בנוסף, הטמענו תהליך יצירת שאילתות אוטומטי כדי לעמוד בקצב ההתפתחויות המתמשכות. מערכת זו סורקת את סכימת הגרפים שלנו כדי ליצור שאילתות גנריות המשקפות תכונות וישויות חדשות, ומבטיחה שכל תוספת מיוצגת במסד הנתונים לדוגמה שלנו.
המאמצים המשותפים הללו הגדילו משמעותית את נפח הדוגמאות הרלוונטיות ואפשרו לנו להסיר את אלו שגרמו לבלבול בקרב ה-LLM במהלך יצירת ה-JSON. כתוצאה מכך, ראינו עלייה משמעותית ברמת הדיוק, הנתמכת על ידי משוב חיובי ממשתמשים ואימות מומחים באמצעות דגימה אקראית של בקשות.