38TB של נתונים נחשפו בטעות על ידי חוקרי AI של מיקרוסופט
אמ;לק
צוות חוקרי Wiz גילה חשיפת נתונים נרחבת במאגר ה-GitHub של מיקרוסופט המיועד ל-AI. האירוע כלל למעלה מ-30,000 הודעות Teams פנימיות ונבע מתקלה בתצורת אסימון SAS יחיד, המדגיש את הסיכונים בחשיפת נתונים בענן.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: 38TB of data accidentally exposed by Microsoft AI researchers

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
תקציר מנהלים
• צוות המחקר בתחום ה-AI של מיקרוסופט, במהלך פרסום מאגר נתוני אימון (training data) בקוד פתוח ב-GitHub, חשף בטעות 38 טרה-בייט של נתונים פרטיים נוספים — כולל גיבוי דיסק של שתי תחנות עבודה של עובדים.
• הגיבוי כולל סודות, מפתחות פרטיים, סיסמאות ויותר מ-30,000 הודעות פנימיות Microsoft Teams.
• החוקרים שיתפו את הקבצים שלהם באמצעות תכונה ב-Azure הנקראת SAS tokens, המאפשרת לשתף נתונים מחשבונות Azure Storage.
• ניתן להגביל את רמת הגישה לקבצים ספציפיים בלבד; עם זאת, במקרה זה, הקישור הוגדר לשיתוף של כל חשבון האחסון — כולל עוד 38TB של קבצים פרטיים.
• מקרה זה מהווה דוגמה לסיכונים החדשים שעמם מתמודדים ארגונים כשהם מתחילים למנף את כוחו של ה-AI באופן נרחב יותר, שכן יותר מהמהנדסים שלהם עובדים כעת עם כמויות אדירות של נתוני אימון. בעוד מדעני ומהנדסי נתונים דוהרים להביא פתרונות AI חדשים לייצור, כמויות הנתונים העצומות שבהן הם מטפלים דורשות בדיקות אבטחה ואמצעי הגנה נוספים.
מבוא וממצאי מיקרוסופט
כחלק מהעבודה השוטפת של צוות Wiz Research על חשיפה מקרית של נתונים המאוחסנים בענן, הצוות סרק את האינטרנט לאיתור מיכלי אחסון (storage containers) המוגדרים בצורה שגויה. בתהליך זה מצאנו מאגר GitHub תחת הארגון Microsoft בשם robust-models-transfer. המאגר שייך לחטיבת המחקר בתחום ה-AI של Microsoft, ומטרתו לספק קוד פתוח ומודלי AI לזיהוי תמונות. משתמשי המאגר הונחו להוריד את המודלים מכתובת URL של Azure Storage:
עם זאת, URL זה אפשר גישה ליותר מסתם מודלים של קוד פתוח. הוא הוגדר להעניק הרשאות לכל חשבון האחסון, תוך חשיפת נתונים פרטיים נוספים בטעות.
הסריקה שלנו מראה שחשבון זה הכיל 38TB של נתונים נוספים — כולל גיבויים של מחשבים אישיים של עובדי Microsoft. הגיבויים הכילו נתונים אישיים רגישים, כולל סיסמאות לשירותי Microsoft, מפתחות סודיים ויותר מ-30,000 הודעות פנימיות מ-Microsoft Teams של 359 עובדי Microsoft.
בנוסף להיקף הגישה המתירני מדי, האסימון גם הוגדר בצורה שגויה כדי לאפשר הרשאות "שליטה מלאה" במקום לקריאה בלבד. כלומר, לא רק שתוקף יכול לראות את כל הקבצים בחשבון האחסון, אלא שהוא יכול גם למחוק ולדרוס קבצים קיימים.
זה מעניין במיוחד בהתחשב במטרה המקורית של המאגר: אספקת מודלי AI לשימוש בקוד אימון. המאגר מורה למשתמשים להוריד קובץ נתוני מודל מקישור ה-SAS ולהזין אותו לסקריפט. פורמט הקובץ הוא ckpt, פורמט המיוצר על ידי ספריית TensorFlow. הוא מעוצב באמצעות ה-formatter מסוג pickle של Python, הנוטה מעצם עיצובו לביצוע קוד שרירותי (arbitrary code execution). כלומר, תוקף יכול היה להחדיר קוד זדוני לכל מודלי ה-AI בחשבון אחסון זה, וכל משתמש הבוטח במאגר ה-GitHub של Microsoft היה נדבק בו.
עם זאת, חשוב לציין שחשבון אחסון זה לא נחשף ישירות לציבור; למעשה, זה היה חשבון אחסון פרטי. מפתחי Microsoft השתמשו במנגנון של Azure הנקרא "SAS tokens", המאפשר ליצור קישור שניתן לשיתוף המעניק גישה לנתונים של חשבון Azure Storage — בעוד שבבדיקה, חשבון האחסון עדיין נראה פרטי לחלוטין.
מבוא ל-SAS tokens
ב-Azure, אסימון Shared Access Signature (SAS) הוא URL חתום המעניק גישה לנתונים של Azure Storage. רמת הגישה ניתנת להתאמה אישית על ידי המשתמש; ההרשאות נעות בין קריאה בלבד לשליטה מלאה, בעוד שההיקף יכול להיות קובץ בודד, מיכל (container) או חשבון אחסון שלם. גם זמן התפוגה ניתן להתאמה אישית מלאה, מה שמאפשר למשתמש ליצור אסימוני גישה ללא תוקף. רמת פירוט זו מספקת זריזות רבה למשתמשים, אך היא גם יוצרת סיכון של הענקת גישה מופרזת; במקרה המתירני ביותר (כפי שראינו באסימון של Microsoft לעיל), האסימון יכול לאפשר הרשאות שליטה מלאות, על כל החשבון, לנצח — ובכך לספק את אותה רמת גישה כמו מפתח החשבון עצמו.
ישנם 3 סוגים של SAS tokens: Account SAS, Service SAS, ו-User Delegation SAS. בבלוג זה נתמקד בסוג הפופולרי ביותר — Account SAS tokens, שבו נעשה שימוש גם במאגר של Microsoft.
יצירת Account SAS היא תהליך פשוט. כפי שניתן לראות במסך להלן, המשתמש מגדיר את היקף האסימון, ההרשאות ותאריך התפוגה, ומייצר את האסימון. מאחורי הקלעים, הדפדפן מוריד את מפתח החשבון מ-Azure וחותם על האסימון שנוצר באמצעות המפתח. כל התהליך הזה נעשה בצד הלקוח; זה לא אירוע (event) של Azure, והאסימון המתקבל אינו אובייקט של Azure.
מסיבה זו, כאשר משתמש יוצר אסימון בעל הרשאה גבוהה שאינו פג תוקף, אין למנהל מערכת שום דרך לדעת על קיום האסימון הזה והיכן הוא מסתובב. גם שלילת אסימון אינה משימה קלה — היא דורשת לבצע סבב (rotation) למפתח החשבון שחתם על האסימון, מה שהופך את כל שאר האסימונים החתומים על ידי אותו מפתח ללא תקפים.
מלבד הסיכון לחשיפה מקרית, המלכודות של השירות הופכות אותו לכלי יעיל עבור תוקפים המבקשים לשמור על התמדה (persistency) בחשבונות אחסון שנפרצו. דוח עדכני של Microsoft מצביע על כך שתוקפים מנצלים את היעדר יכולות הניטור של השירות על מנת להנפיק אסימוני SAS בעלי הרשאות גבוהות כדלת אחורית. מאחר שהנפקת האסימון אינה מתועדת בשום מקום, אין דרך לדעת שהונפק ולפעול נגדו.
סיכוני אבטחה ב-SAS
אסימוני SAS מהווים סיכון אבטחה, מכיוון שהם מאפשרים שיתוף מידע עם זהויות חיצוניות לא מזוהות. ניתן לבחון את הסיכון מכמה זוויות: הרשאות, היגיינה, ניהול וניטור.
הרשאות
אסימון SAS יכול להעניק רמת גישה גבוהה מאוד לחשבון אחסון, בין אם באמצעות הרשאות מוגזמות (כמו קריאה, רשימה, כתיבה או מחיקה), או באמצעות היקפי גישה רחבים המאפשרים למשתמשים לגשת למיכלי אחסון סמוכים.
גֵהוּת
לאסימוני SAS יש בעיית תפוגה — הסריקות והניטור שלנו מראים שארגונים משתמשים לעתים קרובות באסימונים עם אורך חיים ארוך מאוד (לפעמים אינסופי), מכיוון שאין גבול עליון לתפוגה של אסימון. זה היה המקרה עם האסימון של Microsoft, שהיה תקף עד שנת 2051.
ניהול וניטור
קשה מאוד לנהל ולבטל אסימוני Account SAS. אין שום דרך רשמית לעקוב אחר אסימונים אלו בתוך Azure, וגם לא לפקח על הנפקתם, מה שמקשה לדעת כמה אסימונים הונפקו ונמצאים בשימוש פעיל. הסיבה שאפילו לא ניתן לעקוב אחר ההנפקה היא ש-SAS tokens נוצרים בצד הלקוח, ולכן אין מדובר בפעילות ש-Azure עוקבת אחריה, והאסימון שנוצר אינו אובייקט של Azure. בשל כך, אפילו מה שנראה כחשבון אחסון פרטי עשוי להיות חשוף באופן נרחב.
לגבי ביטול (revocation), אין דרך לבטל Account SAS יחיד; הפתרון היחיד הוא לבטל את מפתח החשבון כולו, מה שמבטל גם את כל שאר האסימונים שהונפקו עם אותו מפתח.
ניטור השימוש באסימוני SAS הוא אתגר נוסף, מכיוון שהוא מחייב לאפשר כניסה לכל חשבון אחסון בנפרד. זה יכול להיות גם יקר, שכן התמחור תלוי בנפח הבקשות של כל חשבון אחסון.
SAS המלצות אבטחה
ניתן לשפר משמעותית את האבטחה ב-SAS בעזרת ההמלצות הבאות.
ניהול
בשל היעדר אבטחה ובקרה על אסימוני Account SAS, יש להתייחס אליהם כאל רגישים בדיוק כמו מפתח החשבון עצמו. לכן, מומלץ מאוד להימנע משימוש ב-Account SAS לשיתוף חיצוני. טעויות ביצירת אסימון יכולות בקלות לחמוק מעיני המשתמש ולחשוף נתונים רגישים.
לשיתוף חיצוני, שקלו להשתמש ב-Service SAS עם Stored Access Policy. תכונה זו מחברת את אסימון ה-SAS למדיניות בצד השרת, ומספקת את היכולת לנהל מדיניות ולבטל אותה באופן מרוכז.
אם אתם צריכים לשתף תוכן באופן מוגבל בזמן, שקלו להשתמש ב-User Delegation SAS, שכן זמן התפוגה שלהם מוגבל ל-7 ימים. תכונה זו מחברת את אסימון ה-SAS לניהול הזהויות של Azure Active Directory, ומספקת שליטה וניראות על זהות יוצר האסימון והמשתמשים בו.
בנוסף, אנו ממליצים ליצור חשבונות אחסון ייעודיים לשיתוף חיצוני, כדי להבטיח שההשפעה הפוטנציאלית של אסימון בעל הרשאות יתר תוגבל לנתונים חיצוניים בלבד.
כדי להימנע לחלוטין מאסימוני SAS, ארגונים יצטרכו להשבית את גישת ה-SAS לכל אחד מחשבונות האחסון שלהם בנפרד. אנו ממליצים להשתמש ב-CSPM כדי לעקוב ולאכוף זאת כמדיניות.
פתרון נוסף להשבתת יצירת אסימוני SAS הוא חסימת גישה לפעולת "list storage account keys" ב-Azure (מכיוון שלא ניתן ליצור אסימוני SAS חדשים ללא המפתח), ולאחר מכן ביצוע סבב (rotation) למפתחות החשבון הנוכחיים כדי לבטל את תוקף אסימוני ה-SAS הקיימים. גישה זו עדיין תאפשר יצירה של User Delegation SAS, שכן היא מסתמכת על המפתח של המשתמש במקום על מפתח החשבון.
ניטור
כדי לעקוב אחר שימוש פעיל באסימוני SAS, עליכם להפעיל יומני Storage Analytics עבור כל אחד מחשבונות האחסון שלכם. היומנים שיתקבלו יכילו פרטים על גישת SAS, כולל מפתח החתימה וההרשאות שהוקצו. עם זאת, יש לציין שרק אסימונים בשימוש פעיל יופיעו ביומנים, וכי הפעלת הרישום כרוכה בחיובים נוספים — שעלולים להיות יקרים עבור חשבונות עם פעילות נרחבת.
ניתן להשתמש ב-Azure Metrics כדי לנטר את השימוש באסימוני SAS בחשבונות אחסון. כברירת מחדל, Azure מתעד ומצבר אירועים של חשבונות אחסון למשך עד 93 ימים. תוך שימוש ב-Azure Metrics, משתמשים יכולים לחפש בקשות מאומתות ב-SAS (SAS-authenticated requests), ולהדגיש חשבונות אחסון עם שימוש באסימוני SAS.
סריקה סודית
בנוסף, אנו ממליצים להשתמש בכלי סריקה סודיים כדי לזהות SAS אסימונים שדלפו או מועדפים יתר על המידה בחפצים ובנכסים שנחשפו לציבור, כגון אפליקציות לנייד, אתרים ומאגרים GitHub - כפי שניתן לראות במקרה של Microsoft.
למידע נוסף על סריקה סודית בענן, אנא עיינו בהרצאה האחרונה שלנו מכנס fwd:cloudsec 2023, "Scanning the internet for external cloud exposures".
עבור לקוחות Wiz
לקוחות Wiz יכולים למנף את יכולות הסריקה הסודית של Wiz כדי לזהות אסימוני SAS בנכסים פנימיים וחיצוניים ולחקור את ההרשאות שלהם. בנוסף, לקוחות יכולים להשתמש ב-Wiz CSPM כדי לעקוב אחר חשבונות אחסון עם תמיכה ב-SAS.
• זיהוי אסימוני SAS: השתמשו בשאילתה זו כדי להציג את כל אסימוני ה-SAS בכל סביבות הענן המנוטרות שלכם.
• זיהוי אסימוני SAS בעלי הרשאות גבוהות: השתמשו בבקרה הבאה כדי לזהות אסימוני SAS עם הרשאות גבוהות הממוקמים בעומסי עבודה החשופים לציבור.
• כלל CSPM לחסימת אסימוני SAS: השתמשו ב-Cloud Configuration Rule הבא כדי לעקוב אחר חשבונות אחסון המאפשרים שימוש באסימוני SAS.
סיכוני אבטחה ב-AI pipeline
ככל שחברות מאמצות AI באופן נרחב יותר, חשוב שצוותי האבטחה יבינו את סיכוני האבטחה הטמונים בכל שלב בתהליך הפיתוח של ה-AI.
האירוע המפורט בבלוג זה הוא דוגמה לשניים מהסיכונים הללו.
הראשון הוא שיתוף יתר של נתונים (oversharing of data). חוקרים אוספים ומשתפים כמויות אדירות של נתונים חיצוניים ופנימיים כדי לבנות את נתוני האימון הנדרשים עבור מודלי ה-AI שלהם. זה מהווה סיכון אבטחה מובנה הקשור לשיתוף נתונים בקנה מידה גבוה. זה חיוני עבור צוותי אבטחה להגדיר קווים מנחים ברורים לשיתוף חיצוני של מערכי נתונים ל-AI. כפי שראינו במקרה זה, הפרדת מערך הנתונים הציבורי של ה-AI לחשבון אחסון ייעודי הייתה יכולה להגביל את החשיפה.