אוטונומיית AI: מציאת האוטונומיה הטמונה כבר בסוכני AI
אמ;לק
מאמר זה דן באוטונומיה של סוכני AI וכיצד היא תלויה בהרשאות ובאישורים שהוענקו להם. הוא מתאר את מסגרת האוטונומיה של Cloud Security Alliance ומסביר מדוע גבולות הגישה המיועדים לסוכן לעיתים רחוקות תואמים את הגישה בפועל. לבסוף, הוא מתייחס לתפקידה של GitGuardian בסגירת פער זה באמצעות זיהוי, תיקון ומניעת חשיפות.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: AI Autonomy: How to Find the Autonomy Your Agents Already Have

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
TL;DR
• מסגרת למדידת אוטונומיה: מודל שש הרמות של Cloud Security Alliance (רמות 0 עד 5) מעניק לצוותי אבטחה שפה משותפת לתיאור רמת העצמאות של סוכן AI בפעולותיו, החל ממשימות המבוצעות על ידי אדם ועד לאוטונומיה מלאה.
• אישורים חושפים את טווח ההגעה האמיתי של הסוכן: הגבולות המוגדרים לרוב אינם תואמים את הגישה בפועל. GitGuardian מצא כי מספר האישורים לשירותי AI עלה ב-81% ליותר מ-1.27 מיליון, ו-64% מהאישורים שהיו בתוקף ב-2022 עדיין היו פעילים בינואר 2026.
• לזהות, לתקן, למנוע: פתרונות ה-Developer Endpoint Protection ו-AI של GitGuardian ממפים את הגישה של סוכנים, מדרגים אישורים לפי רמת סיכון, וחוסמים דליפת סודות בכלים כגון Claude Code, Cursor ו-Copilot.
מהי אוטונומיה של AI?
מילון Merriam-Webster מגדיר אוטונומיה כ"התכונה או המצב של להיות עצמאי, חופשי ומכוון-עצמי". היסטורית, הגדרה זו חלה בעיקר על בני אדם. אך כמו כל המונחים, ההגדרה ממשיכה להתפתח יחד עם התרבות שטבעה אותה. כיום, המשמעות היא התמודדות עם סוכני AI.
כאשר אנו מדברים על אוטונומיה של AI, עלינו לצמצם את ההגדרה מעט. עבור סוכני AI, הכוונה היא למידה שבה מערכת AI יכולה לרדוף אחר מטרה ללא מעורבות אנושית ישירה.
ברמות נמוכות יותר, אדם עדיין מנהל את רוב העבודה. המערכת ממליצה על פעולה, מנסחת תוכן או מבצעת משימה מוגבלת. ברמות גבוהות יותר, סוכן יכול לבנות תוכנית, לבחור כלים, לבצע מספר שלבים, להגיב לתוצאות ולהמשיך לעבוד לקראת מטרה עם קלט אנושי מוגבל.
בעוד שבאופן אנקדוטי, אנו יכולים למיין כל פעולה על סמך מידת המעורבות של אדם, אנו זקוקים למסגרת שתסייע לנו לתקשר רמות של מעורבות אנושית.
מסגרת חמש הרמות של אוטונומיית AI
למרבה המזל, קבוצות כמו Cloud Security Alliance עבדו על בעיה זו והציעו מסגרת שימושית של חמש רמות. המודל שואב השראה בכוונה מרמות Society of Automotive Engineers של אוטומציה של כלי רכב, כאשר האוטונומיה הגוברת משולבת עם ציפיות שונות לפיקוח, ממשל ובקרה.
מסגרת ה-CSA נעה בין רמה 0 לרמה 5:
מסגרת זו מעניקה לנו שפה שימושית לזיהוי ההתקדמות, החל מרמה 0 (ביצוע אנושי) ועד לרמה 5 (אוטונומיה מלאה). המטרה אינה לכפות על כל סוכן דירוג ממשל נוקשה, אלא להבין מה סוכנים מסוגלים לעשות בפועל כיום.
זה מצריך הסתכלות מעבר להנחיות ומדיניות מוצהרת לאישורים ולנתיבי הגישה שמתחתם.
המשמעות היא שאחת השאלות הקריטיות יותר שצוותי אבטחה צריכים לשאול לגבי סוכן היא "לאילו נתונים ומערכות הוא יכול להגיע, ואיזו אוטונומיה מוגברת זה יעניק לו?"
ארגונים צריכים לזהות אישורים חשופים על פני שכבת האישורים, לתקן כל גישה שיוצרת סיכון מיותר ולמנוע מסוכנים להשיג או להפיץ אישורים בטקסט רגיל שמרחיבים את טווח ההגעה שלהם עוד יותר.
סוגי אוטונומיה של AI
מסגרת ה-CSA מעניקה לארגונים שפה שימושית לזיהוי רמות אוטונומיה עולות. יש לקרוא אותה כספקטרום המתאר כיצד משתנה המעורבות האנושית ככל שהסוכן הופך למסוגל לפעול באופן עצמאי יותר.
AI מספק מידע או המלצות
האם AI יכול לחשוף מידע רגיש באמצעות מה שהוא קורא או מחזיר?
AI יכול לבצע פעולות לאחר אישור מפורש
אילו אישורים ומערכות ניתנים לגישה לאחר אישור פעולה?
הסוכן מבצע מספר שלבים באופן עצמאי
כמה סמכות מסתתרת בתוך אישור אחד?
סוכן מחליט ופועל בתוך גבולות מוגדרים
האם גישה טכנית ואישורים אכן אוכפים את הגבולות הללו?
הסוכן עובד בצורה רחבה עם פיקוח מינימלי
כמה סמכות עמידה יכול הסוכן להפעיל ברציפות?
המערכת יכולה לכוון מטרות ואולי לשנות התנהגות
CSA רואה בכך לא מתאים לפריסה ארגונית כיום
ה-CSA מצביע על רמה 3 כנקודה שבה הדברים הופכים למעניינים במיוחד: בני אדם מגדירים גבולות, והסוכן מקבל החלטות באופן עצמאי בתוכם. גבולות אלה עשויים לכלול סביבה, סוג פעולה, ערך כספי או תנאים אחרים, ונדרשת אכיפה טכנית עבורם.
מדיניות עשויה לומר שסוכן מוגבל לפיתוח. אם האישור שזמין לאותו סוכן יכול לאמת לייצור, הסביבה הטכנית מאפשרת יותר מהגבול המיועד.
לסוכן יש פוטנציאל הגעה אל מעבר לאוטונומיה שהארגון מאמין שהעניק.
אותו דבר קורה כאשר סוכן שנועד לשנות מאגר בודד יורש אסימון (token) כלל-ארגוני, או כאשר עוזר שנועד לעבוד עם קבצים מקומיים יכול להפעיל CLI של ענן שכבר מאומת כמפתח.
רמת האוטונומיה המוקצית היא רק חלק מהתמונה.
הצוותים צריכים גם להבין את הסמכות האפקטיבית שהמערכת מעמידה לרשות הסוכן, במיוחד אם זה לא מכוון.
4 סיכוני אישורים הקשורים לאוטונומיה של AI
כל סוכן שימושי צריך בסופו של דבר גישה. קריאת מאגר, שאילתות לשירות או התקשרות ל-API כדי לדבר עם מסד נתונים, כולם דורשים אימות והרשאה, שמסרנו באופן מסורתי באמצעות אישורים. הסודות הללו, בצורה של מפתחות, אסימונים ותעודות, מחברים את הסוכנים הללו לשאר הארגון.
זה הופך את האישורים לדרך שימושית לחשוף אוטונומיה שאחרת עשויה להישאר בלתי נראית.
1. הגעה
התחל עם לדעת לאילו מערכות הסוכן יכול לאמת. זה כולל אישורים שהוגדרו בכוונה עבור הסוכן ואישורים שיושבים בסביבתו.
סוכן קידוד עשוי לכלול אסימון GitHub שהוגדר במפורש בתצורתו. הוא עשוי גם לרוץ על מחשב נייד של מפתח המכיל אישורי AWS, מפתחות SSH, סיסמאות למסדי נתונים, אסימוני רישום חבילות, הפעלות דפדפן, קבצי .env ו-CLI של ענן שכבר מאומת.
טווח ההגעה של הסוכן יכול אפוא להתרחב הרבה מעבר לאישורים שכל אחד זוכר שהקצה לו.
אישור אחד יכול, וכנראה יוביל, בקלות לאחר. סוכן עם גישה למאגר יכול למצוא סיסמת מסד נתונים מקודדת. מסד הנתונים עשוי לחשוף אסימון נוסף. שרת MCP עשוי למשוך סוד לקובץ תצורה מקומי.
אישורים יוצרים נתיבים דרך ארגון. הבנת הסוכן פירושה הבנת הדרכים הללו.
2.תדירות
האוטונומיה גם משנה כמה מהר ניתן להפעיל סמכות זו.
ב-CSA רמה 1, אדם מאשר כל פעולה. ב-Level 2, תוכנית אחת מאושרת עשויה לשחרר עשרות פעולות מגובות אישורים.
ב-Level 3, פעולות אלו נמשכות ללא אישור כל עוד הסוכן סבור שזה בגבולותיו. רמה 4 יכולה להפוך את הסמכות הזו לפעילות מכונה מתמשכת.
אישור שהונפק במקור לשימוש אנושי מזדמן יכול לפתע לתמוך במאות בקשות אוטומטיות. הסכנה נובעת מכך שהסוכן, שטרם מצא או השתמש במפתחות אלו, משנה את התנהגותו באופן בלתי צפוי ומתייחס לסודות אלו כנתיב להשגת מטרה שנראית לא קשורה.
3. סקירה
הביקורת האנושית מתרחקת מפעולות אינדיבידואליות ככל שהאוטונומיה עולה.
אדם עשוי להאמין שהוא בוחן מה סוכן הולך לעשות כי הוא אישר את המשימה הראשונית. זרימת העבודה בפועל יכולה להכיל עשרות החלטות ביניים, קריאות לכלים, קריאות קבצים ופעולות מאומתות שמעולם לא נבדקו בנפרד. זה חשוב במיוחד עם מערכות אגנטיות מכיוון שנתיב הביצוע המדויק יכול להשתנות מהרצה להרצה.
צוותי אבטחה זקוקים לנראות של הסמכות הזמינה לפני בחירת נתיבים אלה.
4. התמדה
סוכנים הם לעתים קרובות זמניים מאוד, בעוד שהאישורים שלהם בעלי אורך חיים ארוך במיוחד. GitGuardian מצא שיותר מ-64% מהאישורים שאושרו כתקפים בשנת 2022 נותרו תקפים גם בבדיקה מחודשת בינואר 2026. זהו פרק זמן ארוך בהרבה מזה שבו יכול היה לפעול כל סוכן AI המשתמש במודל נוכחי.
מפתח יכול להוסיף אסימון כדי לגרום לסוכן לעבוד במשך אחר הצהריים אחד. התצורה שורדת. האסימון שורד. כלי אחר מגלה זאת מאוחר יותר.
מה שנראה כמו גישה זמנית הופך לחלק משכבת האישורים העומדת.
מיפוי רמת האוטונומיה של סוכן AI מול סיכון האישורים
המסגרת CSA הופכת שימושית במיוחד ככלי אבחון כאשר אנו משלבים את הרמות עם סיכונים ידועים שמביאים סודות.
זה מקום טוב להזכיר לעצמנו שהמטרה היא לא להסתכל על כל סוכן ופשוט להחתים עליו "Level 2" או "Level 3". תרגיל שימושי הוא השוואת האוטונומיה שאתה מצפה לסמכות שהסוכן יכול להפעיל בפועל. זה יעזור להנחות את שיחות האבטחה שלך קדימה.
מכיוון שה-CSA סימן את Level 3 כמקום בו הדברים מעניינים, בואו נסתכל שם מקרוב.
תארו לעצמכם סוכן תשתית שאמור לפתור בעיות בסביבות פיתוח באופן אוטונומי תוך הסלמה של כל דבר הכרוך בייצור. על הנייר, זה נשמע כמו גבול Level 3.
כעת תארו לעצמכם שלאסימון ה-AWS הזמין לסוכן יש הרשאות המכסות גם סביבת פיתוח וגם סביבת ייצור. ההנחיה לסוכן עשויה להורות לא לגעת בייצור, אך שכבת האישורים מאפשרת גישה כזו, ואין דבר שמונע מהסוכן להשתמש בה כאמצעי להשגת המטרה. פשוט שאלו את צוות PoketOS.
חוסר ההתאמה הזה הוא מה שארגונים צריכים למצוא. הוראה מהירה היא גבול התנהגותי. היקף האישורים הוא גבול גישה. כאשר השניים לא מסכימים, לסוכן יש יותר פוטנציאל טווח ממה שהארגון התכוון.
מדוע אוטונומיה של AI מגדילה את חשיפת האישורים הקיימת
סוכנים שימושיים AI כמעט אף פעם לא נפרסים בסביבות נקיות לחלוטין עם זהויות מנוהלות בצורה מושלמת ואישורים בהיקף מצומצם.
הם נכנסים למפעלים שכבר עוסקים בהתפשטות הסודות.
GitGuardian זיהה 28.65 מיליון סודות מקודדים חדשים ב-commits ציבוריים ב-GitHub במהלך 2025, עלייה של 34% בהשוואה לשנה הקודמת. אישורים הקשורים לשירותי AI הגיעו ליותר מ-1.27 מיליון, עלייה של 81%. באותו דוח נמצאו 24,008 סודות ייחודיים בקובצי תצורה ציבוריים של MCP, כולל 2,117 אישורים תקפים.
AI סוכנים מתווספים על גבי שכבת האישורים הקיימת הזו.
סוכנים יורשים גישה מהסביבות שבהן הם פועלים
נקודות קצה של מפתחים הופכות את הבעיה לגלויה במיוחד.
מחשב נייד של מפתח יכול להכיל מפתחות ענן, קבצי .env, מפתחות SSH, היסטוריית shell, אישורי רישום חבילות, הפעלות דפדפן, מטמוני CLI, קובצי תצורה של MCP ותמלולי סוכן. במקביל, סוכנים יוצרים וכותבים יותר ויותר אישורים לקבצים מקומיים מבלי שאיש יחליט במפורש היכן הסודות הללו צריכים להישמר.
המחשב הנייד של המפתח הוא חנות אישורים.
סוכן שרץ שם יכול לרשת כמות עצומה של פוטנציאל הגעה פשוט בגלל המקום שבו הוא פועל.
יותר אינטגרציות אומרות בשקט יותר אוטונומיה
מערכות אקולוגיות של סוכנים מעודדות גם צוותים להמשיך ולחבר כלים. שרתי MCP, תוספים, APIs, CLIs ואינטגרציות הם מה שהופכים סוכן לשימושי, אך כל אינטגרציה זקוקה בדרך כלל לרמת סמכות מסוימת.
סוכן שיכול היה לערוך קוד במקור יכול כעת לפתוח כרטיסים. אז הוא יכול לגשת אל GitHub. ואז הענן. ואז מסד נתונים. אחר כך מערכת תיעוד פנימית.
שום שינוי בודד לא מרגיש בהכרח כהחלטת אוטונומיה גדולה, אך המערכת המשולבת עשויה להיראות שונה מאוד שישה חודשים לאחר מכן.
זהו מחזור שמנציח את עצמו, שבו יותר אינטגרציות יוצרות יותר אישורים, ויותר אישורים יוצרים מסלולים אפשריים יותר דרך שכבת האישורים.
סוכנים יכולים לקבל סמכות מבלי להשיג זהות חדשה
המצב נעשה קשה יותר לראות כאשר סוכנים פועלים באמצעות אישורים קיימים. סוכן עשוי לרשת את המעטפת של המפתח, להשתמש במפתח חשבון שירות שנוצר לפני שנים, או לבצע אימות באמצעות אסימון אישי המאוחסן בקובץ תצורה.