בסיס אבטחת סוכנים: 35 בקרות, מאיפה מתחילים?
אמ;לק
מסמך Agent Baseline מגדיר 35 בקרות אבטחה בשישה תחומי אבטחה שונים עבור סוכנים (Agents). סדר היישום של הבקרות תלוי באופן שבו הארגון משתמש בסוכנים, ומכסה שימוש בסוכנים לפיתוח קוד, לשימושים פנימיים ובסוכני Production.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: The Agent Baseline: 35 Controls, but Where Should You Start?
התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
לפני שבועיים פרסמנו את ה-Agent Baseline לצד Docker ו-Keycard. במסמך אנו מתארים שש תוצאות אבטחה, 35 בקרות וארכיטקטורת התייחסות פתוחה להפעלת סוכני AI ברמה הארגונית. בשבוע שעבר העמדנו אותו למבחן מאמץ: הצגנו אותו בפאנל בכנס Black Hat ובילינו כשעה במענה על שאלות קשות בנושא.
השאלה המועילה ביותר הגיעה ממישהי שבאמת כבר קראה את המסמך. היא אמרה בערך: זה נכון, אבל אני עדיין לא יודעת מה לעשות ביום שני בבוקר.
וזו טענה הוגנת; כדאי גם לענות עליה כראוי, כי היא מצביעה על משהו שבחרנו לא לכלול במסמך. זה גם סוג הפער שאנו מצפים מהקוראים למצוא בזמן שה-Baseline עדיין פתוח להערות.
הערפל אמיתי, ואנחנו עמוק בתוכו
אם תחפשו עזרה באבטחת סוכני AI, תיתקלו מהר מאוד בקיר של טענות שיווקיות, כיוון שכל ספק בשוק (כולל Snyk) יגיד לכם שהוא פותר את בעיית אבטחת הסוכנים. כל אחד מהם מתאר משהו אמיתי, אך מה שכמעט אף פעם לא ברור הוא איזה חלק מהבעיה הם מתארים, או כיצד החלק שלהם מתחבר לחלקים אחרים שאתם עדיין צריכים.
זה לא עניין של חוסר יושר, אלא סימפטום של שוק שהתפתח מהר יותר מאוצר המילים שלו. "Agent governance" יכול כרגע להתפרש לפחות בחמישה אופנים שונים בהתאם למי שמוכר אותו, ולקונה אין דרך אמינה לדעת אם שני מוצרים חופפים, משלימים זה את זה, או מותירים ביניהם פער שאף אחד לא הזכיר (או אפילו זיהה, וזה מדאיג יותר).
זה פועל לשני הכיוונים. ספקים רוצים לומר בבירור היכן הם מוסיפים ערך וכיצד הפתרון שלהם משתלב בשאר הארכיטקטורה של הלקוח, אך ללא אוצר מילים משותף, זה נשמע כמו אותה טענה כללית שכולם משמיעים.
אנשי מקצוע צריכים יותר מאשר "מפתח פענוח" של ספק: מיפוי מול שש התוצאות מראה לכם היכן עליכם לחפש פתרונות חיצוניים לעומת היכן כבר יש לכם עוצמה פנימית. זוהי שיחת ה-buy-versus-build, והרבה יותר קל לנהל אותה כשקוראים לפערים בשמותיהם.
קח שני מוצרים, שניהם נמכרים כממשל סוכנים, ושני התיאורים שלהם מדויקים.
הראשון יושב בקצה הרשת. הוא צופה בכל שיחה שסוכן מוציא לעולם, יכול לבדוק את תוכן השיחה ולחסום אותה בהתאם למדיניות. הוא יגיד לכם שבקשה הנושאת רשומות לקוחות הגיעה למקום שאליו לא הייתה אמורה להגיע. מה שהוא לא יכול להגיד לכם זה איזה קובץ מיומנויות (skill file) שתל את ההוראה הזאת ב"ראשו" של הסוכן מלכתחילה, כי שום דבר מזה לא עובר דרכו.
השני הוא רובד זהות (identity layer). הוא מתווך אישורים קצרי-מועד ומוגבלי-היקף ברגע השימוש, כך שכל פעולה נושאת תשובה ניתנת לאימות לשאלה מי הניע אותה ובאיזו סמכות. הוא יגיד לכם בדיוק שהסוכן הורשה לבצע את מה שעשה. מה שהוא לא יכול להגיד לכם זה אם ביצוע הפעולה היה רעיון טוב.
כעת נמפה את שניהם מול שש התוצאות: הראשון מכסה חלקים מ-Constrain ו-Observe, השני מכסה את Authorize. אף אחד מהם לא מגזים ולא חופף לשני, וביניהם הם מותירים את Validate ללא מענה. אף אחד לא בדק אם הסוכן מתנהג בבטחה תחת התקפה, ואף אחד לא בדק מה הוא הפיק. קונה שבבעלותו שני המוצרים, מתוך אמונה סבירה למדי שהוא מטפל בניהול הסוכנים, מעולם לא ניהל את השיחה הזו, כי היא לא עלתה באף אחד ממחזורי המכירות.
ה-Baseline נכתב בדיוק כדי לאפשר את ההשוואה הזו, שכן הוא מגדיר את הבעיה לפי תוצאות האבטחה שארגון צריך להשיג, לא לפי קטגוריית מוצרים: Discover, Constrain, Authorize, Observe, Validate, ו-Respond. מפה כל פלטפורמה, מוצר או בנייה פנימית מול שש אלה, ואנו מבינים במהירות היכן הם מצטיינים, אך גם היכן הם עשויים להצדיק פתרונות משלימים.
מה שלא הדגשנו מספיק הוא עניין הרצף, כי שש תוצאות ו-35 בקרות הם מבחן כיסוי, אך מבחן כיסוי הוא אינו תוכנית פעולה. (סליחה על ה-Yodaling הקטן, אבל משחק המילים הזה מראה עד כמה הרצף חשוב: כיסינו את המשמעות, זה מובן, אבל הרצף הלא נכון גורם לזה לקחת שנייה נוספת כדי להבין.)
אם תקראו את המסמך עכשיו כרשימת מטלות, לא תתחילו, כי ההתחלה נראית כמו תוכנית של שנתיים. אז הנה החלק שהיינו חייבים לכם: הסדר הנכון.
רוב הארגונים עדיין לא מפעילים מפעל תוכנה
דבר אחד האמנו שהוא נכון והפאנל ב-Black Hat אישר: מעט מאוד חברות מפעילות היום מפעלי תוכנה (software factories), ורבות אינן בונות לקראת אחד כזה בקנה מידה אמיתי. כדאי לומר זאת בפשטות, כי ארכיטקטורת התייחסות יכולה להיראות ככתב אישום אם אתם עדיין לא שם. זה לא המצב. אם אתם נמצאים בפתח (ורוב האנשים נמצאים שם), זהו הפיגום שעליו אתם בונים, וזה נותן לאבטחה תפקיד בהכנה לאוטומציה ולפרודוקטיביות במקום להגיב אליהן בדיעבד.
הציר החסר הוא מקרה השימוש
המסמך צועד במעלה עקומת האוטונומיה, מסוכן קידוד על מחשב נייד ועד שירות ללא השגחה שמתקן תלויות ב-3 לפנות בוקר. למרות שזו הדרך הנכונה להסביר מדוע הבקרות קיימות, זו לא הדרך הנכונה להחליט באילו מהן להתחיל, מכיוון שרוב הארגונים אינם מטפסים על עקומה אחת; הם מריצים כמה דברים שונים בבת אחת ומכנים את כולם "סוכנים".
ישנם שלושה דפוסים המכסים את רוב מה שאנו רואים:
1. סוכני קידוד למפתחים: מישהו בארגון מוריד סוכן קידוד ומפעיל אותו מול מאגר אמיתי. 2. סוכנים פנימיים משותפים: סוכן יחיד שמשמש עובדים רבים, עם דוגמאות כמו עוזר משאבי אנוש, מאשר כספים או ops-copilot. 3. סוכני ייצור: סוכנים הפועלים מול לקוחות, עסקאות ומערכות רישום, לרוב עם מעט מאוד "אדם במעגל".
יש לכם 35 בקרות, אך סדר עדיפויות שונה בתכלית שבו הן "מופעלות". הבעיה מתחילה כשמטפלים בהן כבתוכנית אחת, כיוון שהבקרה החשובה ביותר עבור המקרה הראשון כמעט אינה רלוונטית לשלישי, ולהפך. אם תטעו ברצף, תשקיעו חודשים בבניית רישום סוכנים בזמן שהחשיפה האמיתית שלכם נמצאת במקום אחר לגמרי.
סוכני קידוד למפתחים: התחל עם Constrain, כייל עם Discover
האינסטינקט כאן יהיה להתחיל בגילוי (discovery): אתם מאמינים שצריך למצוא כל סוכן בודד ואז להחליט מה לעשות. במקרה השימוש הזה, זהו הצעד הראשון השגוי, והמסמך מסביר זאת במשפט אחד: רישום ותהליך אישור לא משיגים דבר אם הסוכן פועל על מארח שלא אוכף אף אחד מהם.
הנה מה שקורה בפועל: מפתח מתקין סוכן קידוד, והוא מתחיל לבקש רשות בכל פעם שהוא צריך לקרוא תיקיה או להריץ פקודה. ההנחיות הקבועות מתחילות להעיק, אז המפתח מאשר פקודות נפוצות, מרחיב את הגישה למערכת הקבצים, או אפילו מכבה את ה-sandbox. זה הרגע שבו הסוכן הופך לתהליך רגיל שרץ תחת זהות המפתח, ומגיע לכל מה שה-shell שלו יכול להגיע אליו.
הגישה מגדילה חיבור אחד בכל פעם: GitHub פותח זרימה של OAuth, כלי ענן מוצא כניסה קיימת, שרת MCP מבקש אסימון, SSH משתמש במפתח שכבר נטען במחשב, וכן הלאה. אתה מבין את התמונה.
כל צעד כשלעצמו נראה הגיוני, אבל התוצאה הסופית היא סוכן בעל סמכות רחבה הפרוסה על פני מערכות שאינן חולקות זו את זו, ויומנים שכולם אומרים שהמפתח הוא שעשה זאת.
אז תתחילו מהגבול. ביצוע מבודד ופרופילי יכולות מוגבלי-מקרה-שימוש (CON-03, CON-04) נותנים לסוכן רק את מה שסוג העבודה שלו דורש, כשהוא מוגדר באופן מרכזי, עם ניהול גרסאות, ומחוץ להישג ידו של הסוכן לעריכה. לאחר מכן, רישום הרכיבים (DIS-04): שרתי MCP, מיומנויות, תוספים, מודלים וכלים, עם מקור וגרסה. בהמשך, בדיקות בדרך החוצה (VAL-03), מכיוון שקוד שנוצר על ידי סוכן יוצא מה-sandbox דרך אותם שערי שחרור כמו כל קוד אחר.
החלק שמפתיע אנשים יותר מכל הוא שזה יהפוך את היום של המפתחים לטוב יותר, לא לגרוע יותר. כאשר אישורים מגיעים ממתווך ברגע השימוש, בהיקף המשימה בלבד, הסוכן מפסיק לבקש אישור על כל פקודה "בלתי מזיקה", כי הפקודות הבלתי מזיקות כבר לא יכולות להזיק. אתם מקבלים פחות הנחיות וגבול הדוק יותר מאותה בקרה, וזה נדיר מספיק כדי שיהיה שווה לומר זאת בקול.
מה שמחזיר את הגילוי, לא בתור המהלך הראשון, אלא כדבר שהופך את הראשון לטוב ככל שיכול להיות.
פרופיל יכולות טוב רק כמו התמונה שממנה הוא צויר. אם תכתבו פרופיל על בסיס השערות, תקבלו אחד משני כשלים: או שהפרופיל רחב מדי והסוכן מתחיל לתכנן גישה למשימות שלא היה בהן צורך מעולם, או שהוא צר מדי והגבול נמחק בלחיצה על "Always allow". בשני המקרים מדובר באותו שורש בעיה, הנובע מפרופיל שנכתב בלי "להסתכל".
אז כדאי שתסתכלו. מיפוי גישה אפקטיבית (DIS-06) אומר לכם לאילו זהויות ואישורים סוכן יכול להגיע בפועל, ומה הם מאפשרים. רישום הרכיבים אומר לכם אילו שרתי MCP, מיומנויות ומודלים פועלים באמת, ולא אלו שאתם מניחים שפועלים.
וזה לא עוצר ביום הראשון: פיוס (DIS-07) הוא מה שאומר לכם שהפרופיל נסחף: שרת MCP חדש כאן, או משימה ששינתה את צורתה שם. המסמך מפורש בנושא זה: גילוי אינו רישום סטטי, אלא השקפה תפעולית שמתואמת ללא הרף.
אילוץ הוא המקום שבו אתה מתחיל לאכוף, ו-Discover הוא המקום שבו אתה לומד מה לאכוף. סדר אותם ברצף, אך אל תפריד ביניהם, שכן Discover הוא קלט חשוב ביותר לקביעה כיצד יש להגדיר אילוצים, אשר יש לטפל בהם לקראת ההתחלה.
ה-sandbox לא עושה כאן כמעט כלום, כי הסיכון הוא לא רדיוס הפיצוץ במארח, אלא בעיית ה-"Confused Deputy". (זו בעיית סמכות. המושג טבוע על ידי Norm Hardy בשנת 1988: תוכנית שמחזיקה בסמכות לגיטימית מתפתה להפעיל אותה בשם הגורם הלא נכון. שום דבר לא נפגע, שום דבר לא בורח מהכלה, שום פגיעות לא מנוצלת, אבל ה-"Deputy" פשוט לא יכול לדעת בשמו של מי הוא פועל.)
האינטגרציה המהירה ביותר מעניקה לסוכן חשבון שירות (service account) אחד ומאפשרת לבקשות של כולם לזרום דרכו. זה עובד מיידית... וזו הבעיה. כל בקשה נכנסת כעת לאותו מאגר גישה. עד שהבקשה מגיעה ל-API הפנימי, האדם שביצע אותה נעלם מהעין, והנחיה מנתוני ה-Data של Alice עלולה להסתיים בהפעלת סמכות המיועדת ל-Bob. להגיד למודל לשמור על הפרדת עבודה היא רק בקשה, לא גבול.
זהו מקרה השימוש שבו הסמכות חייבת להיות מבנית: זהות נפרדת וניתנת לאימות לכל צד לפעולה, עם ייחוס לאדם היוזם או למטרה אוטונומית מאושרת (AUT-01). הסמכות צריכה להיות מוגדרת למשימה ולא לעבור בירושה מהחשבון (AUT-02): עקרון ההרשאות המינימליות (least privilege) מגביל כמה גישה קיימת, האצלה מגבילה את ה"למה", את ה"מה" ולכמה זמן. כמו כן, נדרשת הנחתה (attenuation) במורד השרשרת, כך שסוכן בהמשך הדרך לעולם לא יקבל יותר סמכות מזו שהייתה למפעיל שלו.
לאחר מכן יש צורך בקישוריות (correlation, OBS-02), כי בסוכן מרובה משתמשים, שאלת הביקורת היא לא "האם קרה משהו?" אלא "בשם מי זה קרה?". ללא מזהה ריצה הקושר את הבקשה לפעולה, לא תוכלו לענות על כך בדיעבד, והדיעבד הוא הזמן שבו תישאל.
סוכני ייצור: התחל עם Respond ועם Validate
עבור סוכנים הפועלים מול לקוחות ועסקאות, הבקרות החשובות הן אלו שאף אחד לא טורח לרכוש עד שהוא זקוק להן. לכן, התחילו בשאלה: אם הייתם צריכים לעצור את הסוכן הזה ברגע זה, מה היה קורה לעבודה?