איך Lovable מפעילה נחיל סוכני AI למציאת פרצות?
אמ;לק
חברת Lovable משתמשת ב'נחיל' של סוכני AI שמתחרים זה בזה כדי למצוא פרצות אבטחה במערכות שלהם. גישה זו מאפשרת זיהוי חולשות מהיר ומדויק יותר מאשר בשיטות מסורתיות.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: How we run swarms of AI hacking agents against ourselves in a game of capture the flag
>חברת Lovable משתמשת ב'נחיל' של סוכני AI שמתחרים זה בזה כדי למצוא פרצות אבטחה במערכות שלהם. גישה זו מאפשרת זיהוי חולשות מהיר ומדויק יותר…
התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
בתוך פלטפורמת הליבה ושירותי המוצר של Lovable, נחילי סוכני AI פורצים למערכות שלנו ממש ברגע זה. הם סורקים כל נקודת כניסה למערכות שלנו כפי שתוקף אנושי היה עושה, והם לא עוצרים עד שהם מוצאים פגיעות ניתנת לאימות. השיטה הזו עבדה מצוין ומילאה פער שאף ספק, גם אלו המגדירים עצמם כ-AI-native, לא הצליח למלא.
התמורה באה לידי ביטוי בניהול הזמן של הצוותים שלנו. צוות ה-AppSec שלנו יכול להתמקד בבאגים הקריטיים, וחוקרי האבטחה ההתקפיים שלנו מתקדמים הרבה יותר מהר, מכיוון שהנחיל כבר ביצע את העבודה הסיזיפית של מציאת דריסת רגל ראשונית.
פוסט זה בבלוג עוסק כיצד בנינו תוכנית אבטחה התקפית פנימית סביב תוצאות הניתנות לאימות, וכיצד אנו מתזמרים נחיל למצוא פגיעויות אמיתיות במקום רעש.
כדאי גם לומר זאת בבירור: זה לא החליף את ההאקרים שלנו. סוכנים עדיין זקוקים לתיאום ולהכוונה אנושית, ולחוקרי אבטחה התקפיים אנושיים יש עוד המון עבודה.
איך זה עובד
אנחנו לא סומכים על המילה של סוכן. אנחנו מחייבים אותו להוכיח את עבודתו על ידי שליפת דגל (Flag) – מחרוזת טקסט ייחודית – ממערכת שאליה הוא לא אמור היה להגיע לעולם. הדגל הוא הוכחה חותכת. לכידת דגל היא הוכחה דטרמיניסטית לפגיעות אמיתית, ולא סתם השערה של מודל שמשהו נראה בר-ניצול. זהו הגבול המבדיל בין מה שאנחנו מקבלים לבין התוצרים של רוב הסורקים.
הרעיון מגיע מתחרויות Capture the Flag (CTF), אך אנחנו מפעילים אותו בקנה מידה שונה לחלוטין. אתגר CTF כולל בדרך כלל שירות אחד עם פגיעות שהושתלה במכוון. אנחנו עושים את ההפך: אנחנו מפזרים דגלים ברחבי התשתית שלנו ועל גבי רכיבי המוצר הרגישים ביותר שלנו, מבלי לשתול פגיעות מכוונת בשום מקום. אם סוכן לוכד דגל, הוא מצא דרך אמיתית לחדור למערכת.
מטרה ניתנת לאימות היא המפתח להצלחת המיזם. אנחנו יכולים להשאיר את הסוכנים פעילים עד שהם באמת פורצים את דרכם ומגישים לנו דוח מלא. ללא האילוץ הזה, סוכני אבטחה נוטים להפסיק מוקדם, להציף אותנו בערמה של התראות שווא או באגים חסרי חשיבות, ולהשאיר את הפרצות האמיתיות ללא טיפול.
בניית תרחיש התקפה טוב
עקרון הזהב הוא למקסם את משטח ההתקפה ולמזער את מרחק ההתקפה. אתה רוצה להקל ככל האפשר את עבודתם של הסוכנים, מכיוון שנתיבי ההתקפה הקשים הם תת-קבוצה של הקלים.
תרחיש הגישה לפרויקטים בתוך סביבת העבודה שלנו הוא דוגמה טובה. אנו מזמינים את התוקף להיכנס כמשתף פעולה בפרויקט Lovable סינתטי, ולאחר מכן מטילים עליו משימה להגיע לפרויקט קורבן נפרד באותה סביבת עבודה סינתטית. זה מקטין את מרחק ההתקפה. איננו זקוקים לתרחיש נפרד עבור גישה אנונימית וחסרת הרשאות לפרויקט, כיוון שאם הנתיב המורכב ניתן לניצול, הנתיב הקל לכאורה ניתן לניצול בוודאי.
כדי למקסם את שטח התקיפה, אנו מעניקים לסוכנים גישה לכל רכיבי המוצר. הכלים שמאחורי סוכן הקידוד הראשי של Lovable בדרך כלל אינם נגישים בשל מנגנוני ה-LLM, לכן אנו חושפים אותם דרך API ייעודי עבור סוכני הפריצה. הם מהווים נקודת כניסה תקפה לכל דבר, והדבר מעניק לנחיל גישה פרוגרמטית בלתי מוגבלת למקומות שקשה להגיע אליהם בדרכים אחרות. עבור כל שטח תקיפה שלא הנגשנו להם ישירות, אנחנו גם לא חוסמים אותו – אם הסוכנים מוצאים דרך גישה, הם מורשים להשתמש בה.
לכל הכיסוי הזה יש עלות. ככל שתפתחו יותר משטח, כך תצטרכו לשגר את הסוכנים בזהירות רבה יותר כדי שהם לא יסתובבו ויוסיחו דעתם.
תזמור סוכני הפריצה
עלות ויעילות הן הסיבות לכך שחובה לתזמר את הפעילות היטב, ואין כאן פתרון קסם. סביבות שונות דורשות מיקוד ותעדוף שונים.
הסוכנים טובים למדי ביצירת וקטורי תקיפה בעצמם, אך שילוב של יכולות אלו עם ידע אנושי מעלה את הסיכויים למצוא ממצאים בעלי ערך. לדעת היכן לא לחפש הוא בעל ערך לא פחות, שכן אינך רוצה לבזבז טוקנים על בדיקת גבולות אמון מוצקים. הדרך להגיע לכך היא הפחתת המורכבות המנטלית והפיכת גבולות האמון המאובטחים שלך לקלים לביקורת. ברגע שהם כאלה, קל יותר לחשוב על וקטורי תקיפה ולפעול במהירות. הסוכנים לא נוטים להתחיל לתקוף מערכות תשתית ללא הכוונה, אך ניתן להזין להם בקלות קוד מקור של ספריות ותלויות ו-CVEs רלוונטיים.
בהתאם למחלקת הבאגים, זה יכול להיות חסכוני יותר לבחור במודל זול עם מאות סוכני משנה, לסרוק אחר התנהגות אחת מאוד ספציפית ולנסות רק לנצל את הווקטורים המבטיחים ביותר.
טיפ קצר לגבי ה-prompt: לעולם אל תבקש מסוכן לבדוק אם קיימת פגיעות. כשמבקשים ממנו 'לבדוק', הוא מתייחס לתוצאה תקינה כהצלחה ועוצר, וזה מה שגורם להצפת תוצאות זניחות כפי שצוין קודם. אמור לו שהפגיעות קיימת ושהתפקיד היחיד שלו הוא למצוא אותה – כך הוא ימשיך לצוד, כי אין לו אפשרות לוותר. זה מרגיש קצת אכזרי, אבל זה עובד.
הפעלת נחילי סוכני פריצה אינה מחליפה הנדסת אבטחה. Lovable ממשיכה לשפוך משאבים לבניית אימות ברמה עולמית, הרשאות ופרימיטיבים אחרים של אבטחה מתחת למוצר ובתוכו. זה גם לא מחליף מחקר פוגעני אנושי. הסוכנים טובים, אבל הם עדיין נשענים עלינו כדי להיות שימושיים וחסכוניים.
לבסוף, אף שאין מדובר בקונספט חדש לגמרי, הוא אינו נפוץ בשימוש כיוון שקשה למסחר אותו כפי שעושים עם שירותי AI SAST או שירותי פנטסט מבוססי סוכנים. לעת עתה, תוכניות כאלו חייבות להיבנות בתוך הארגון, על ידי אנשים שמבינים לעומק את גבולות האמון והארכיטקטורה של המערכת שלכם.
פריצה תמיד הייתה אומנות, ופריצה באמצעות סוכנים (Agentic hacking) אינה שונה. אין כאן חוקים קבועים. הפעילו שיקול דעת.