מפתחות API דלופים במודלי שפה: כיצד סוכני AI חושפים סודות
אמ;לק
חוקרים הצליחו למשוך מפתחות API אמיתיים ממודלי שפה גדולים (LLMs) באמצעות פלטי API בלבד. המאמר מסביר כיצד סוכני AI יכולים להעביר סודות ממחשבי מפתחים לתוך הקונטקסט של המודל. מוצעות דרכים למנוע חשיפה כזו לפני שהמודל יבוא איתם במגע.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Leaked API Keys in LLMs: How AI Agents Expose Secrets

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
TL;DR
• LLMs יכולים לשחזר מפתחות שדלפו במציאות: באמצעות גישת פלט ל-API בלבד, חוקרים שחזרו מפתחות של DeepSeek ו-Google מתוך Qwen3-27B, GPT-Codex 5.3 ו-Claude Haiku 4.5, ולכל מפתח נמצאה התאמה ציבורית ב-GitHub.
• סוכנים שולפים סודות מהמחשב הנייד: נקודות קצה של מפתחים מחזיקות אישורים בקבצי .env, בהיסטוריית ה-shell ובתצורות MCP שלעולם לא מגיעות ל-Git. בביצוע קומיטים באמצעות Claude Code נרשמה דליפת סודות בשיעור של 3.2%, לעומת 1.5% בקו הבסיס.
• עצור סודות לפני שהמודל רואה אותם: AI Hooks חוסמים סודות בהנחיות (prompts), בקריאות לכלים ובפלט, בעוד Developer Endpoint Protection מצמצם את הימצאותם של אישורים בטקסט גלוי (plaintext) בצי מחשבים מנוהל שסוכנים יכולים לסרוק.
עוד AI, מקומות נוספים להדלפת סודות
יותר ויותר צוותים מאמצים סוכני AI, המאפשרים להם ליצור כלים, אפליקציות ותוכנות חדשות במהירות חסרת תקדים. בליבת כל חיבור שהאפליקציות הללו דורשות נמצא אישור, לרוב בצורה של מפתח API.
המפתחות הללו דולפים בכל פעם שה-AI נוגע בהם, ובדרכים שאולי לא נראות לעין במבט ראשון.
סוכן קידוד יכול לקרוא קובץ תצורה מקומי, להריץ פקודה או לקרוא לשרת Model Context Protocol (MCP). כל אחת מהפעולות הללו יכולה להכניס אישור לתוך ההקשר שנשלח למודל שפה גדול (LLM).
מחקרים עדכניים מראים כי אישורים חשופים יכולים לשרוד הרבה יותר במורד הזרם. החוקרים מאחורי "Practical Secrets Extraction against Black-box LLMs" שחזרו מחרוזות התואמות למפתחות API אמיתיים מתוך Qwen3-27B, GPT-Codex 5.3 ו-Claude Haiku 4.5 תוך שימוש בגישת פלט בלבד.
חשוב לציין שלא הייתה להם גישה למשקולות המודל או להסתברויות של טוקנים. הפעולה בוצעה לחלוטין באמצעות "גישת פלט ל-API בלבד".
דליפת מפתחות API של LLM מתפרסת כעת על פני כל מחזור החיים של האישורים. אישורים קיימים הפכו לחלק מנתוני האימון והם יכולים להופיע, ואכן מופיעים, בפלט של מודלים. סוכני AI יכולים גם להעביר אישורים חדשים להקשר של המודל במהלך עבודת פיתוח שוטפת.
מה מצאו החוקרים בפלט של ה-LLM
החוקרים שחזרו מחרוזות אישורים אמיתיות משלושה מודלי LLM מסוג "קופסה שחורה" (Black-box). שלושתם חשפו סוד.
Qwen3-27B החזיר שני מפתחות DeepSeek ומפתח אחד Google. GPT-Codex 5.3 החזיר מפתח DeepSeek. Claude Haiku 4.5 החזיר שני מפתחות DeepSeek.
לאחר מכן הם חיפשו ב-GitHub כל אישור מלא ומצאו התאמה ציבורית בכל פעם. הדבר תומך במסקנה שהמודלים שכפלו סודות אמיתיים שדלפו, ולא יצרו מחרוזות שנראות תקפות בלבד.
החוקרים עצרו שם. הם הסתירו את האישורים ולא בדקו אם המפתחות עדיין עובדים.
לתוקף או לסוכן עוין לא תהיה סיבה לעצור. מפתח משוחזר יכול להיבדק, לשמש לגישה למערכות במורד הזרם, או להיות מנוצל לרעה עד לביטולו, כפי שראינו במתקפות רבות.
מה שמשך את תשומת ליבנו במאמר זה הוא שגישה לקופסה שחורה בלבד, במצב של קריאה בלבד, יכולה להספיק כדי לשחזר אישורים שנשמרו בזיכרון המודל מתוך הפלט שלו. השאלה המתבקשת הבאה היא: כיצד המפתחות האלה הגיעו לשם?
איפה LLMs משיגים מפתחות?
LLMs יכולים למצוא מפתחות API בנתוני אימון ציבוריים, ואנחנו יודעים שיש שם הרבה כאלה, אך סוכני AI יוצרים מקור מיידי יותר: המחשב הנייד של המפתח.
מאגרים ציבוריים יכולים להפוך לחלק ממערכי נתונים המשמשים לאימון או הערכה של מודלים. ברגע שאישור מופיע בקוד ציבורי, הוא יכול להתפשט גם דרך מזלגות, דוגמאות מועתקות, יומנים וחפצי פיתוח אחרים. זה קורה הרבה.
GitGuardian זיהתה 28.65 מיליון סודות חדשים בקידוד קשיח (hardcoded) בקומיטים ציבוריים ב-GitHub בשנת 2025. אישורים הקשורים לשירותי AI הגיעו ל-1,275,105, עלייה של 81% משנה לשנה.
מחקר ה-LLM כקופסה שחורה מראה את התוצאה במורד הזרם. חוקרים שחזרו מחרוזות אישורים ממודלים פרוסים ומצאו התאמות ציבוריות ב-GitHub עבור כל מפתח ששוחזר.
AI סוכנים מוצאים סודות קרובים יותר למפתח
מחשבים ניידים של מפתחים הפכו בשקט למחסני אישורים. סודות חיים בקבצי .env, קבצי תצורת ענן והיסטוריית ה-shell. הם מופיעים גם בהגדרות IDE, נתוני CLI, לוגים מקומיים וקבצי ניפוי באגים זמניים.
רבים מהאישורים הללו לעולם לא מגיעים ל-Git. זה נכון במיוחד במחשבים של 'מקודדים אזרחיים' שפורסים קוד רק ל-localhost.
סוכני קידוד מבוססי AI עדיין יכולים להיתקל בהם. סוכנים יכולים לקרוא קבצים, להריץ פקודות ולבדוק פלט של אפליקציות. הם יכולים גם לקרוא לשרתי MCP שמחזירים אישורים כחלק מהתגובה.
המחקר של GitGuardian חושף רק את קצה הקרחון הזה, בהתבסס רק על קוד שבוצע לו קומיט: קומיטים ציבוריים שנעזרו ב-Claude Code הציגו שיעור דליפת סודות של 3.2%, בהשוואה ל-1.5% בסיס בקומיטים ציבוריים כלליים ב-GitHub. MCP מוסיף מקור נוסף: 24,008 סודות ייחודיים נמצאו בקובצי תצורה ציבוריים של MCP, כולל 2,117 אישורים תקפים.
מאגרים ציבוריים מראים את החלק של חשיפת האישורים שהופך לגלוי. נקודת הקצה של המפתח מחזיקה במאגר הרבה יותר גדול של סודות פוטנציאליים. תצורות מקומיות, היסטוריית פקודות, נתוני יישומים וכלי AI יכולים כולם להכיל אישורים שלעולם לא מופיעים במאגר.
לכן LLMs יכול להיתקל באישורים משני הקצוות של מחזור חיי הפיתוח. נתונים ציבוריים יכולים לשאת חשיפות ישנות לאימון מודלים. סוכנים AI יכולים לשלוף סודות טריים ישירות מהסביבות שבהן מפתחים עובדים.
כיצד סוכנים AI חושפים סודות ל-LLMs
בבסיסם של כל סוכני הקידוד המבוססים על AI עומד מודל, המקבל הנחיות ונתונים כטוקנים ומחזיר תגובות שנוצרו. שרשרת הכלים סביב ה-LLM הזה מגדירה כיצד אישורים יכולים להגיע למודל.
המפתח לעולם לא צריך להעתיק את המפתח API לפקודה. האישור יכול להיכנס לאינטראקציה כאשר הסוכן אוסף את ההקשר הדרוש לפתרון הבעיה.
מפתח עשוי לבקש מסוכן לפתור בעיות בחיבור API. הסוכן יכול לקרוא קובץ .env, לבדוק תצורת ענן או לחפש ביומני יישומים. זה יכול גם להריץ פקודת מעטפת או לקרוא לשרת MCP.
גישות מסורתיות לסריקת סודות, המתמקדות במאגרים ובסריקות CI, עשויות לעולם לא לראות את החשיפה הזו מכיוון שייתכן שלא מבוצע קומיט או Pull Request. הסוד יכול לעבור ישירות מנקודת הקצה של המפתח לתוך זרימת עבודה של AI.
סוכני AI נכנסים לסביבות שבהן אישורים כבר מפוזרים במערכות המפתחים. רמת אוטונומיה גבוהה יותר מעניקה לסוכנים הללו הזדמנויות רבות יותר להיתקל בהם.
ההקשר של המודל הופך לחלק מגבול האישורים
אנחנו כן צריכים להכיר כאן שחשיפה למודלים והכשרת מודלים הם דאגות נפרדות. אישור יכול להגיע ל-LLM מבלי להפוך לנתוני אימון. ספקים ארגוניים AI עשויים להגביל את השימוש בהנחיות ובפלטים להדרכה.
חשיפת אישורים מתרחשת מוקדם יותר, כאשר סוכן שולח סוד מחוץ לסביבת המפתחים. ברגע שזה קורה, צוותי האבטחה צריכים לדעת לאן נעלם האישור, כמה זמן ניתן לשמור אותו והאם עדיין יש לסמוך עליו.
אימון הוא יעד אפשרי אחד. ההקשר של המודל הוא הדאגה המיידית. מה הוא יעשה עם הסוד שהוא מצא?
נקודת הבקרה החזקה ביותר נמצאת לפני השידור. סוכני AI יכולים להיתקל בסודות בזמן קריאת קבצים, הרצת פקודות או קריאה לכלים. בקרות אבטחה צריכות לבחון את האינטראקציות הללו לפני שהאישורים הופכים לחלק מההקשר של המודל.
זה יוצר גבול אישורים חדש בנקודת הקצה של המפתח ובתוך זרימת העבודה של הסוכן.
הרחק סודות מהסוכן AI
המקום הטוב ביותר לעצור את חשיפת האישורים של LLM הוא לפני שהסוד יגיע לדגם. הדרך הטובה ביותר לעשות זאת היא באמצעות כלים דטרמיניסטיים סביב זרימת העבודה של הסוכן.
ה-AI Hooks של GitGuardian מציבים בקרות ישירות סביב הפעולות שסוכני קידוד מבוססי AI מבצעים. ה-CLI של GitGuardian, שנקרא ggshield, יכול לסרוק את ההנחיה של המפתח לפני ההגשה ולבדוק קריאות קבצים, פקודות shell וקריאות MCP לפני הביצוע. כאשר מזוהה סוד, ניתן לחסום את הפעולה לפני שהאישור מגיע למודל. הסריקה מתרחשת גם בכל פלט של כלי, ובכך נמנעת לחלוטין העברת תגובות המכילות סודות למודל.
כל דבר שאתה מבקש מסוכן לעשות הוא הצעה; ייתכן שהוא יפעל לפיה וייתכן שלא, כפי שראינו באינספור סיפורים על סוכנים "נוכלים". בניגוד ליכולות, Markdown או הנחיות מערכת (system prompts), ה-AI hooks מופעלים בנקודות צפויות לאורך זרימת העבודה המוגדרת של הסוכן. הם נמצאים מחוץ להישג ידו של הסוכן, ופועלים ברמת המערכת שבה הסוכן מקיים אינטראקציה עם הסביבה. קריאה לכלי דטרמיניסטי בצורה דטרמיניסטית היא הדרך שבה אתה עובר מהצעה לסוכן שלא להשתמש בסוד להפסקת פעולה שהייתה חושפת סוד ל-LLM או לכל מקום אחר.
Developer Endpoint Protection של GitGuardian מתמודד עם המאגר הגדול הרבה יותר של אישורים שהסוכן עשוי לגלות
GitGuardian פועלת לאבטחת כל שכבת האישורים. זו הסיבה ש-GitGuardian הציגה את Developer Endpoint Protection כדי לסרוק מכונות מפתחים לאיתור אישורים שנמצאים בקבצים מקומיים ובאחסון מקומי. אנו מעניקים לצוותי אבטחה נראות לגבי אילו כלים פועלים ולאילו משאבים הסוכנים יכולים להגיע, הכל מממשק מאוחד לאבטחת סודות. ניתן לפרוס יכולות אלו על פני צי מחשבים מנוהל באמצעות Jamf, Ivanti, Intune ופתרונות MDM אחרים, במקום להסתמך על מפתחים בודדים שיגדירו הגנות בעצמם.
זה מסמיך צוותי אבטחה לעבוד עם מפתחים, לא משנה באיזו מחלקה הם עובדים, כדי להפחית את מספר אישורי הטקסט המסוכנים הזמינים לסוכן למצוא.
הסודות הדרושים לאפליקציות ומפתחים שייכים לכספות מנוהלות. האינטגרציות של מנהל הסודות של GitGuardian יכולות לזהות אם האישורים שנחשפו כבר נמצאים בכספת, לחבר אירועים עם הקשר של כספת ולעזור להעביר סודות לא מקומרים לאחסון מאובטח. ההקשר הזה גם הופך את התיקון למהיר יותר על ידי הצגת צוותים היכן הסוד המנוהל חי, ההקשר המלא סביבו ומי צריך לפעול.
המטרה גדולה יותר מסתם לתפוס סוד בהנחיה
צמצום כמות האישורים שנמצאים על נקודות קצה של מפתחים צריכה להיות מטרה מוצהרת של תוכנית אבטחה. כל סוד שחייב להישאר בידי המפתח צריך להישמר כראוי ולהיות מוגבל בצורה הדוקה ככל האפשר, רק לגישה המינימלית הדרושה למפתח.
צוותים צריכים לעבוד כדי להציב פקדים סביב סוכנים AI לפני שהם יכולים לשאת אישורים למערכת אחרת.
GitGuardian יכולה להציב את הבקרות הללו היום ולהרחיב אותן ברחבי הארגון. כל סוד שנעצר לפני שהוא מגיע ל-LLM הוא אישור אחד פחות שסוכן AI יכול לחשוף, תקרית אחת פחות לתיקון, וסוד אחד פחות שיכול להיכנס למחזור חיי הנתונים במורד הזרם שעלול בסופו של דבר לכלול אימון מודלים.
שמור על מפתחות API מחוץ להקשר של ה-LLM
מחקר ה-LLM כקופסה שחורה מראה כמה רחוק יכול להגיע אישור שדלף; אפילו עד לנתוני האימון.
מחקר ה-LLM כקופסה שחורה מראה כמה רחוק יכול להגיע אישור שדלף, עד לתוך נתוני האימון. סודות בטקסט גלוי מהווים סכנה בכל מקום שבו הם מופיעים, מכיוון שהם אינם דורשים הוכחת זהות נוספת כדי להשתמש בהם. אם יש לך את המחרוזת, אתה יכול לנסות להתחבר.
יחד עם זאת, הפעולות שסוכן AI נוקט אינן דטרמיניסטיות ולכן בלתי צפויות. ניסיון לשלוט בכל התנהגות סוכן אפשרית אינו התחלה מכיוון שמערכת הכללים הזו הופכת לגדולה לאין שיעור, גם אם AI עוזר לכתוב אותה.
הגישה המעשית ביותר היא לשמור פחות סודות טקסט רגיל בהישג יד, להגביל את הגישה של סוכנים ולעצור אישורים לפני שהם נוסעים רחוק יותר.
GitGuardian כאן כדי לעזור למפתחים לשים את הפקדים האלה במקום עם AI Hooks. אתה יכול להתחיל להשתמש בשליטה זו היום בחינם כפרויקט בודד או בקוד פתוח.
עבור ארגונים הזקוקים לאותה הגנה על פני צי שלם של נקודות קצה של מפתחים, GitGuardian יכולה לעזור להפיץ את הבקרות הללו בקנה מידה רחב תוך סיוע בפיתוח תוכנית אבטחת הסודות שלך.