הדלפת סודות בעידן הבינה המלאכותית
אמ;לק
כיצד פיתוח בעזרת AI משפיע על הדלפת סודות קריטיים? גלה דפוסים חדשים ומגמות מתפתחות בנושא אבטחת מידע בעידן ה-LLM וה-Vibe Coding.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Leaking Secrets in the Age of AI

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
מפתחים ואנשי טכנולוגיה, שחשים צורך למהר ולאמץ את ה-AI, מוכנים לעגל פינות. הדבר ניכר במספר אירועי אבטחה אחרונים, כגון:
• שימוש לרעה במשאבי פלטפורמה (תוקפים שחוטפים תשתית ענן כדי להריץ יישומי LLM משלהם)
• ספקים המציעים הרצה לא בטוחה של מודלים מצד שלישי (כמו Probllama)
• פרצות המאפשרות בריחה ממודלים בשירותי אירוח (פרצות ב-Replicate, HuggingFace ו-SAP-AI)
תופעת לוואי נוספת של שיטות נמהרות אלו היא דליפת סודות הקשורים ל-AI במאגרי קוד ציבוריים. סודות במאגרי קוד ציבוריים אינם דבר חדש, אך מה שמפתיע הוא העובדה שאחרי שנים של מחקר, אירועי אבטחה רבים, מיליוני דולרים שחולקו במסגרת תוכניות באג באונטי ומודעות כללית לסיכון, עדיין קל עד כאב למצוא סודות תקפים במאגרים ציבוריים.
בבלוג זה אנו מציגים את התוצאות של סריקה פשוטה שנמשכה חודש אחר סודות פעילים במאגרי קוד ציבוריים. לאחר ניתוח הנתונים שהתקבלו, הופתענו לגלות שסודות הקשורים ל-AI מהווים רוב לא פרופורציונלי מהממצאים (4 מתוך 5 הסודות המובילים שנמצאו היו קשורים ל-AI). גילוי זה הוביל אותנו לחקירה נוספת שזיקקה שלושה מקרי בוחן ברורים של דליפות סודות בתחום ה-AI:
• קבצי מחברת (notebooks) מסוג .ipynb כמכרה זהב של סודות.
• סודות בקבצי תצורה של סוכני AI וקבצי mcp.json ו-.env. מפתחי Vibe אינם מכירים את שיטות העבודה המומלצות לניהול סודות, וכך גם עוזרי הקידוד המבוססים על AI שלהם.
• סוגים חדשים של סודות השייכים לספקי AI מתפתחים נמצאים בכל מקום, ונראה שתעשיית סריקת הסודות לא עומדת בקצב.
הצלחנו למצוא סודות תקפים השייכים ליותר מ-30 חברות וסטארטאפים, ביניהם מספר חברות מרשימת ה-Fortune 100. אנו מקווים שהבלוג הזה ישמש קריאת השכמה לקהילות ה-AI ומדעי הנתונים לשפר בדחיפות את שיטות הפיתוח שלהן.
סודות במאגרים ציבוריים הם וקטור התקפה מבוסס. המקרים של Uber (2016), Scotiabank (2019), Mercedes-Benz (2024) ותקרית דליפת הסודות האחרונה ב-xAI הם רק כמה מהמקרים הבולטים. למעשה, סודות גנובים או דלופים הם וקטור התקפה מרכזי בהתקפות שרשרת אספקה רבות וידועות (כמו תקרית Codecov). GitHub, בהיותה פלטפורמת אירוח הקוד הפופולרית ביותר (ה-State of Code Security Report שלנו מצביע על כך ש-81% מהמאגרים מתארחים ב-GitHub), מושכת באופן טבעי את מירב העניין מצד גורמים זדוניים וחוקרי אבטחה כאחד.
Wiz Code כולל סורק סודות המציע הגנה ללקוחות. Wiz Research תומכת במוצר באמצעות חקירות מתמשכות של מאגרים ציבוריים ודפוסים מתפתחים של דליפות סודות. בניגוד ל-State of Code Security Report, הפעם התמקדנו בסביבות ציבוריות תוך פריסת רשת רחבה. בניגוד למחקרי סודות אחרים, אנו מתמקדים במיוחד בסודות מאומתים (validated secrets). גישה זו מסננת אוטומטית תוצאות חיוביות שגויות ודפוסי בדיקה, ובכך מניבה אותות באיכות גבוהה יותר.
בקיצור, סרקנו אלפי מאגרים ומצאנו מאות סודות מאומתים, שרבים מהם עדיין פעילים. בבלוג זה אנו מתמקדים במגמות המרכזיות שגורמות לחשיפות אלו. אמנם לא נשתף את המתודולוגיה המלאה לבחירת יעדי הסריקה, אך די לומר שהתמקדות בפעילות פיתוח הראתה שיפורים משמעותיים בהשוואה להתמקדות התמימה בפופולריות של המאגרים, המאפיינת את רוב המחקרים בתחום.
מבחינת שכיחות הסודות, מצאנו הבדלים משמעותיים בין סוגי הסודות השונים:
שלושה מתוך חמשת הסודות המאומתים הנפוצים ביותר, ומחצית מעשרת הנפוצים ביותר, קשורים בדרך כלשהי ל-AI. תוצאה זו בולטת במיוחד מכיוון שלא התמקדנו במכוון במאגרים הקשורים ל-AI, ובכל זאת, סודות הקשורים ל-AI מהווים חלק כה גדול מהסודות החשופים שזיהינו. גילוי זה הניע אותנו לצלול לעומק המחקר על דליפת סודות בתחום ה-AI.
בנוסף, רצינו להבין את המיקום הגיאוגרפי/לוגי של הסודות כדי לענות על השאלה: באילו סוגי קבצים נמצאים הכי הרבה סודות? (ולכן, אילו קבצים דורשים תשומת לב מיוחדת מצד סורקים ומדיניות אבטחה). מסתבר שסוג קובץ אחד בולט במיוחד - קבצי מחברת (ipynb):
סודות במחברות אינם ממצא חדש. היו כמה פרסומים טובים בנושא מאז 2020, ובכל זאת הנושא לא זכה לחשיפה רחבה. זה מצער, כיוון שהדומיננטיות של מחברות כמקור לסודות דלופים בהשוואה לסוגי קבצים אחרים היא יוצאת דופן.
שאלה מעניינת נוספת היא מהו המתאם בין סוגי הקבצים לסוגי הסודות. איזה סוג סוד היית מצפה לראות בקובץ מסוים? קביעה כזו יכולה להועיל מאוד להתאמת סורקי הסודות ומדיניות הסריקה. מערכות היחסים שמצאנו מסקרנות:
רק בקבצי md, המדורגים במקום ה-6, הסוד הנפוץ ביותר שנחשף הוא אישורי התחברות קונבנציונליים ל-Postgres.
מכיוון שסודות הקשורים ל-AI אחראים לרוב מכריע של הממצאים, רצינו להבין טוב יותר את מקרי הבוחן שמובילים לדליפות אלו.
מחברות פייתון
כפי שצוין קודם לכן, קבצי ipynb הם ללא ספק סוג הקבצים המועד ביותר לדליפות. הסיבה לכך היא שהם אורזים שילוב ייחודי של קוד, פלט של הקוד ואלמנטים תיאוריים. לפי התיעוד של JupyterLab, מחברת היא "מסמך שניתן לשיתוף המשלב קוד מחשב, תיאורים בשפה פשוטה, נתונים, הדמיות עשירות כמו מודלים תלת-ממדיים, תרשימים, גרפים, איורים ובקרות אינטראקטיביות". כתוצאה מכך, קיים בלבול טבעי כיצד להתייחס לקבצים אלו – כאל לוגים, כאל קוד או כאל טקסט. המצב מחמיר בגלל העובדה שקובצי .gitignore אינם ספציפיים מספיק כדי להבחין בין מקרי שימוש שונים – ניתן לאפשר או לא לאפשר צ'ק-אין של קבצי ipynb, ללא קשר לשאלה האם הקובץ מכיל פלט של הרצת קוד או לא.
ישנם מספר דפוסי דליפה מובחנים. הדפוס הברור ביותר הוא שימוש ישיר בסודות בתוך קוד המקור; זה יכול להיות סוד שמוטבע בתוך קטע קוד ב-Python או סוד המופיע בהערה:
דפוס שימוש נפוץ נוסף הוא הזרקת סודות לתוך פלט ההרצה. ברור שהפונקציה print() תעשה את העבודה, אולם בשל האופי האינטראקטיבי של המחברות, פשוט הקלדת המשתנה תדפיס אותו. במקרה שלהלן, למרות שהמפתח השתמש בדרך הנכונה לטעון את מפתח ה-API מתוך הסביבה (load_dotenv(); os.environ["AZURE_OPENAI_API_KEY"] = os.environ.get("API_KEY")), הפעולה העוקבת של הדפסת התצורה הטעונה הופכת את הקוד ללא מאובטח:
בנוסף, קיימת דרך עדינה יותר לחשיפת סודות בשוגג – באמצעות שימוש בפונקציות ניפוי באגים (debug) ואבחון. בדוגמאות הבאות, הפונקציות show() ו-list() מוציאות כפלט, בין היתר, מפתחות API:
לבסוף, בהתחשב במספר הגדול של הודעות שגיאה במחברות, מקובל לראות פרטים רגישים הנוגעים להגדרות הפיתוח המקומיות, מבנה מערכת הקבצים והגדרות רשת, כפי שמופיע בהודעות השגיאה הללו:
מעבר לסודות עצמם, יש להתייחס לתוצאות הרצת קוד במחברות Python כאל מידע רגיש. תוכנן, אם יקושר לארגון של המפתח, יכול לספק פרטי סיור עבור גורמים זדוניים.
סודות קידוד אווירה לתוך mcp.json
יצירת קוד בסיוע AI נוטה להעדיף קידוד קשיח (hardcoding) של סודות. הדבר יוצר שילוב רעיל עם הופעת שרתי ה-Model Context Protocol (MCP). MCP היא טכנולוגיה המתפתחת במהירות, עם אלפי שרתים שהושקו בחודשים שלאחר השחרור.
למרבה הצער, שרתי MCP רבים מעדיפים תצורה באמצעות אישורים המקודדים בתוך קובץ התצורה mcp.json. קחו, למשל, את ההוראות עבור שרת Perplexity MCP לא רשמי.
Taskmaster AI הוא דוגמה נוספת לשרת פופולרי (מעל 11,000 כוכבים) שממליץ על שימוש לא בטוח זה – ובכך משפיע על סודות של לקוחות עבור ספקי AI כמו OpenAI ו-Anthropic:
למרבה הצער, דפוס זה נפוץ מאוד, ומשפיע אפילו על שרת ה-GitHub MCP הרשמי. ברגע שסודות אלו מקודדים בתוך mcp.json, קל לראות כיצד הם דולפים בסופו של דבר לציבור.
פערים בכלי נוכחי
הקלות שבה ניתן עדיין למצוא סודות בחיפוש פשוט ב-GitHub היא סיבה לדאגה. ה-AI מאיץ את תהליך כתיבת הקוד, ונראה כי עלייה בדליפת סודות היא תוצר לוואי של כך.
סריקת הסודות של GitHub חוללה מהפכה – התיקון האוטומטי עבור פלטפורמות נתמכות צמצם משמעותית את התקריות הגדולות. עם זאת, הסריקה מסתמכת על אינטגרציה של הפלטפורמות הרלוונטיות עם הסורק של GitHub, מה שמוביל לכיסוי מוגבל. בנוסף, רוב האינטגרציות אינן שוללות את הסודות אוטומטית כדי למנוע שיבוש בפעילות הלקוח. הפשרה היא שאנו רואים סודות רבים שהיו אמורים להיות מזוהים ולהתריע עליהם, אך לא זוכים לתיקון, לפחות לא באופן מיידי.
בבחינת כלי סריקת סודות פופולריים, אנו מבחינים שלמרות תמיכה במאות סוגי סודות, הם אינם מצליחים לעמוד בקצב החדשנות. התאמה מבוססת תבניות (pattern-based matching) תמיד תפגר אחרי סודות חדשים ואינה מתאימה לכל סוגי הסודות.
זו הסיבה ש-Wiz Research נוקט בגישה מגוונת לאיתור סודות, כפי שהוצג במפגש האחרון שלנו ב-BSidesSF בנושא שיפור איתור סודות בסייבר באמצעות Small LMs.
קחו למשל את ה"נמרים" של ה-AI בסין: מדובר בפלטפורמות AI פופולריות מאוד, אך הן מוזנחות על ידי פלטפורמות וכלים ממוקדים מערביים. ל-GitHub יש בסיס משתמשים עצום המשותף עם פלטפורמות אלו. התוצאה? כמויות דרמטיות של דליפת אישורים ללא מענה עבור פלטפורמות AI סיניות, בהשוואה לפלטפורמות מערביות שבהן דליפות מזוהות ומדווחות באופן אוטומטי.
עם זאת, גם שירותי AI נפוצים יותר מוחמצים לעתים קרובות על ידי סורקי סודות.
ריכזנו רשימה של סודות AI שמוחמצים על ידי כלי סריקה פופולרי אחד או יותר, בהתבסס על החיפוש שלנו אחר סודות מאומתים בקוד:
כחלק מ-WizCode ו-WizCloud, מודול סריקת הסודות שלנו מזהה כעת את הרוב המכריע של סוגי הסודות הנ"ל. בנוסף, מתבצעת עבודה להוספת היתר תחת סיווג מבוסס AI.
כשליש מהסודות שמצאנו שייכים לפרויקטים אישיים, בעוד שהשאר מתחלק שווה בשווה בין חברות, עובדי חברה, סטארטאפים, קוד פתוח ופרויקטים research/university:
המשמעות היא שסביב 40% מהסודות שהתגלו יכולים להיות בעלי השפעה אמיתית על חברות. הצלחנו למצוא סודות תקפים השייכים ליותר מ-30 חברות וסטארטאפים, כולל מספר חברות Fortune 100. דוגמה אחת: לאחד הסודות שדווחו ל-MSRC נקבעה רמת חומרה Critical והוא היה עלול להוביל לחשיפת נתונים רגישים של משאבי אנוש.
עוד ממצא מעניין במיוחד: 56% מהסודות שזוהו בעלי השפעה על החברה נמצאו במאגרים אישיים של עובדי החברה, ולא בארגוני החברה עצמם. זה מדגיש את הסכנות של גילוי סמוך, אבל זה סיפור לבלוג אחר.
מכיוון שלא ביצענו מחקר שיטתי, איננו יכולים לציין את האחוז הכולל של חברות פגיעות. מה שאנחנו יכולים לומר הוא שמצאנו סודות חשופים בסביבות 20% מהארגונים שבדקנו. זה מצביע על כך שממצאים ראשוניים אלה הם רק קצה הקרחון.
לסיכום, המחקר שלנו מדגיש כמה מסרים חשובים, שכולם מועצמים על ידי הקצב המטורף של אימוץ והתפתחות ה-AI: ספקי ה-AI מתרבים ואיתם מגיעים סוגי סודות חדשים ומקרי שימוש חדשים. מהצד השני, ההתקדמות ב-AI לכתיבת קוד מביאה דרך "אוטומטית" להגדרת סביבת הפיתוח. הגדרה זו לרוב מועדת לדליפות.