Probllama: סקירה ודרכי מיתון לחולשת RCE ב-Ollama (CVE-2024-37032)
אמ;לק
צוות המחקר של Wiz איתר חולשת Remote Code Execution קלה לניצול (CVE-2024-37032) בפרויקט קוד פתוח Ollama. החולשה מאפשרת הרצת קוד מרחוק ומהווה איום משמעותי על תשתיות AI. המאמר מספק סקירה מפורטת ודרכי מיתון מיידיות.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Probllama: Ollama Remote Code Execution Vulnerability (CVE-2024-37032) – Overview and Mitigations

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
Ollama הוא אחד מפרויקטי הקוד הפתוח הפופולריים ביותר להרצת מודלי AI, עם למעלה מ-70 אלף כוכבים ב-GitHub ומאות אלפי משיכות חודשיות ב-Docker Hub. בהשראת Docker, Ollama שואף לפשט את תהליך האריזה והפריסה של מודלי AI.
Wiz Research גילה פגיעות קלה לניצול Remote Code Execution ב-Ollama: CVE-2024-37032, שכונה "Probllama." בעיית אבטחה זו נחשפה באחריות למפעילי Ollama ומאז טופלה. משתמשי Ollama מוזמנים לשדרג את התקנת Ollama שלהם לגרסה 0.1.34 או חדשה יותר.
המחקר שלנו מצביע על כך שנכון ל-10 ביוני, קיימים מספר רב של מופעי Ollama המריצים גרסה פגיעה החשופים לאינטרנט. בפוסט זה בבלוג, נפרט מה מצאנו וכיצד מצאנו זאת, כמו גם טכניקות הפחתה ואמצעי מניעה שארגונים יכולים לנקוט בעתיד.
במבט כולל – ולאור ההתמקדות המתמשכת של צוות Wiz Research בסיכונים הגלומים במערכות AI – הממצאים שלנו מדגישים את העובדה שאמצעי אבטחה ל-AI נדחקו ברובם הצידה לטובת התמקדות בכוח הטרנספורמציה של טכנולוגיה זו, ובפוטנציאל שלה לחולל מהפכה בדרך שבה עסקים מתנהלים.
ארגונים מאמצים במהירות מגוון כלים ותשתיות AI חדשות בניסיון לחדד את היתרון התחרותי שלהם. כלים אלו נמצאים לעיתים קרובות בשלבי פיתוח מוקדמים וחסרים תכונות אבטחה סטנדרטיות, כגון אימות. בנוסף, בשל בסיס הקוד הצעיר שלהם, קל יחסית למצוא פרצות תוכנה קריטיות, מה שהופך אותם למטרות מושלמות עבור גורמי איום פוטנציאליים. זהו נושא שחוזר על עצמו בתגליות שלנו – ראו עבודה קודמת של Wiz Research על ספקי AI-as-a-service כמו Hugging Face ו-Replicate, כמו גם את דוח ה-State of AI in the Cloud שלנו ואת הגילוי משנה שעברה של 38TB של נתונים שהודלפו בטעות על ידי חוקרי AI.
במהלך השנה האחרונה, זוהו פגיעויות מרובות של ביצוע קוד מרחוק (RCE) בשרתי הסקה, כולל TorchServe, Ray Anyscale ו-Ollama. נקודות תורפה אלו עלולות לאפשר לתוקפים להשתלט על שרתי הסקה המתארחים בעצמם, לגנוב או לשנות מודלים של AI ולסכן יישומים של AI.
הנושא הקריטי הוא לא רק הפגיעויות עצמן, אלא היעדר התמיכה המובנית באימות בכלים החדשים הללו. אם הם חשופים לאינטרנט, כל תוקף יכול להתחבר אליהם, לגנוב או לשנות את מודלי ה-AI, או אפילו להריץ קוד מרחוק כתכונה מובנית (כפי שניתן לראות ב-TorchServe וב-Ray Anyscale). היעדר תמיכה באימות אומר שלעולם אין לחשוף כלים אלו כלפי חוץ ללא תוכנת תיווך מגינה, כגון פרוקסי הפוך (Reverse Proxy) עם אימות. למרות זאת, בעת סריקת האינטרנט לאיתור שרתי Ollama חשופים, הסריקה שלנו גילתה למעלה מ-1,000 מופעים חשופים המארחים מספר רב של מודלי AI, כולל מודלים פרטיים שאינם רשומים במאגר הציבורי של Ollama, מה שמדגיש פער אבטחה משמעותי.
שיחות CROC: הסבר על פגיעות ה-RCE ב-Ollama
כדי לנצל את הפגיעות הזו, תוקף חייב לשלוח בקשות HTTP בעלות מבנה מיוחד לשרת ה-Ollama API. בהתקנת ברירת המחדל של Linux, שרת ה-API נקשר ל-localhost, מה שמפחית משמעותית את הסיכון לניצול מרחוק. עם זאת, בפריסות Docker (ollama/ollama), שרת ה-API חשוף לציבור, ולכן ניתן לנצל אותו מרחוק.
לקוחות Wiz יכולים להשתמש בשאילתה ובייעוץ שנבנו מראש ב-Wiz Threat Center כדי לחפש מופעים פגיעים בסביבתם.
למה לחקור Ollama?
צוות המחקר שלנו עושה מאמץ פעיל כדי לתרום לאבטחת השירותים, הכלים והתשתיות AI, ואנחנו גם משתמשים ב-AI בעבודת המחקר שלנו.
עבור פרויקט אחר, חיפשנו למנף מודל AI בעל הקשר גדול (large-context). למרבה המזל, בערך באותו זמן, Gradient הוציאו את גרסת ה-Llama3 שלהם, הכוללת הקשר (context) של מיליון אסימונים.
בהיותו אחד מפרויקטי הקוד הפתוח הפופולריים ביותר להרצת מודלי AI, עם למעלה מ-70 אלף כוכבים ב-GitHub ומאות אלפי משיכות חודשיות ב-Docker Hub, Ollama נראה כדרך הפשוטה ביותר לארח את המודל הזה בעצמנו 😊.
Ollama Architecture
Ollama מורכב משני רכיבים עיקריים: לקוח ושרת. השרת חושף מספר ממשקי API לביצוע פונקציות ליבה, כגון שליפת מודל מהרישום (Registry), יצירת חיזוי עבור הנחיה נתונה וכו'. הלקוח הוא הממשק שבו המשתמש מקיים אינטראקציה (כלומר ה-front-end), שיכול להיות, למשל, ממשק שורת פקודה (CLI).
במהלך ניסוי עם Ollama, הצוות שלנו מצא פגיעות אבטחה קריטית בשרת Ollama. עקב אימות קלט לא מספיק, ניתן לנצל פגיעות Path Traversal כדי לדרוס באופן שרירותי קבצים בשרת. ניתן לנצל זאת עוד יותר לכדי Remote Code Execution מלא כפי שנדגים להלן.
בעיה זו חמורה ביותר בהתקנות Docker, שכן השרת פועל עם הרשאות שורש ומאזין ב-0.0.0.0 כברירת מחדל - מה שמאפשר ניצול מרחוק של הפגיעות הזו.
חשוב לציין ש-Ollama אינו תומך באימות כברירת מחדל (out-of-the-box). בדרך כלל מומלץ לפרוס את Ollama מאחורי פרוקסי הפוך כדי לאכוף אימות, אם המשתמש מחליט לחשוף את ההתקנה שלו. בפועל, המחקר שלנו מצביע על כך שיש מספר רב של התקנות החשופות לאינטרנט ללא כל סוג של אימות.
הפגיעות: כתיבת קבצים שרירותית דרך Path Traversal
שרת ה-HTTP של Ollama חושף מספר נקודות קצה (endpoints) של API המבצעות פעולות שונות.
ניתן להשתמש באחת מנקודות הקצה, /api/pull להורדת מודל ממרשם Ollama.
כברירת מחדל, מודלים מורדים מהרישום הרשמי של Ollama (registry.ollama.com), עם זאת, ניתן גם למשוך מודלים מרישומים פרטיים.
בעוד שהרישום הרשמי של Ollama יכול להיחשב "מהימן", כל אחד יכול להגדיר את הרישום שלו ולארח בו מודלים. כחוקרים, התעניינו במשטח ההתקפה הזה - האם ניתן לסמוך באופן עיוור על רישום פרטי? איזה נזק עלול לגרום רישום פרטי זדוני?
מה שמצאנו הוא שכאשר שולפים מודל מרישום פרטי (על ידי שליחת שאילתה לנקודת הקצה http://[victim]:11434/api/pull), ניתן לספק קובץ מניפסט זדוני המכיל עומס (payload) של Path Traversal בשדה ה-digest.
{ "schemaVersion" : 2 , "mediaType" : "application/vnd.docker.distribution.manifest.v2+json" , "config" : { "mediaType" : "application/vnd.docker.container.image.v1+json" , "digest" : "../../../../../../../../../../../../../../../../../../../traversal" , "size" : 5 } , "layers" : [ { "mediaType" : "application/vnd.ollama.image.license" , "digest" : "../../../../../../../../../../../../../../../../../../../../../traversal" , "size" : 7020 } ] }
שדה ה-digest של שכבה נתונה צריך להיות שווה ל-hash של השכבה. בין היתר, ה-digest של השכבה משמש גם לאחסון קובץ המודל בדיסק:
/root/.ollama/models/blobs/sha256-04778965089b91318ad61d0995b7e44fad4b9a9f4e049d7be90932bf8812e828
עם זאת, מצאנו כי נעשה שימוש בשדה ה-digest ללא אימות מתאים, וכתוצאה מכך התאפשר Path Traversal בעת ניסיון לאחסן את הקובץ במערכת הקבצים. ניתן לנצל בעיה זו כדי להשחית קבצים שרירותיים במערכת.
Achieving Arbitrary File Read
על ידי ניצול הבעיה הקודמת, נוכל לשתול קובץ מניפסט זדוני נוסף בשרת (למשל /root/.ollama/models/manifests/%ATTACKER_IP%/library/manifest/latest), אשר למעשה רושם מודל חדש בשרת. גילינו שאם המניפסט של המודל שלנו מכיל עומס (payload) של traversal עבור ה-digest של אחת מהשכבות שלו, כאשר מנסים לדחוף את המודל הזה לרישום מרוחק דרך נקודת הקצה http://[victim]:11434/api/push, השרת ידליף את תוכן הקובץ שצוין בשדה ה-digest.
לבסוף, Remote Code Execution
כפי שהזכרנו קודם, אפשר לנצל את הפגיעות Arbitrary File Write כדי להשחית קבצים מסוימים במערכת. בהתקנות Docker די פשוט לנצל אותו ולהשיג Remote Code Execution , מכיוון שהשרת פועל עם הרשאות שורש.
הדרך הפשוטה ביותר שחשבנו עליה כדי להשיג ביצוע קוד מרחוק תהיה השחתה של קבצי תצורה של ld.so, ובמיוחד את /etc/ld.so.preload. קובץ זה מכיל רשימה מופרדת ברווחים של ספריות משותפות שיש לטעון בכל פעם שתהליך חדש מתחיל. באמצעות ה-exploit-primitive של כתיבת קבצים שרירותית, אנו שותלים את המטען (payload) שלנו כספרייה משותפת במערכת הקבצים (/root/bad.so) ולאחר מכן משחיתים את /etc/ld.so.preload כדי לכלול אותו. לבסוף, אנו שולחים שאילתה לנקודת הקצה /api/chat בשרת ה-Ollama API, אשר יוצרת תהליך חדש ובכך טוענת את המטען שלנו!
לגבי ניצול מופעים שאינם פועלים עם הרשאות שורש – יש לנו אסטרטגיית ניצול שממנפת את ה-primitive של קריאת קבצים שרירותית (Arbitrary File Read). עם זאת, זה יישאר כתרגיל לקורא 😊
CVE-2024-37032 הוא ביצוע קוד מרחוק קל לניצול המשפיע על תשתית AI מודרנית. למרות שבסיס הקוד חדש יחסית ונכתב בשפות תכנות מודרניות, פגיעויות קלאסיות כמו Path Traversal נותרו בגדר בעיה.
צוותי אבטחה צריכים לעדכן את מופעי ה-Ollama שלהם לגרסה העדכנית ביותר כדי להפחית פגיעות זו. יתרה מכך, מומלץ לא לחשוף את Ollama לאינטרנט אלא אם הוא מוגן על ידי מנגנון אימות כלשהו, כגון פרוקסי הפוך.
חשפנו באחריות פגיעות זו בפני צוות הפיתוח של Ollama במאי 2024. Ollama חקרה וטיפלה בבעיה במהירות תוך עדכון שוטף.
• 5 במאי 2024 - Wiz Research דיווח על הבעיה ל-Ollama.
• 5 במאי 2024 – Ollama אישר את קבלת הדוח.
• 5 במאי 2024 – Ollama הודיעו לWiz Research שהם ביצעו תיקון ל-GitHub.
• 8 במאי 2024 - Ollama הוציא גרסה מתוקנת.
• 24 ביוני 2024 – Wiz Research פרסם בלוג בנושא.
Ollama ביצעה תיקון תוך כ-4 שעות מרגע קבלת הדוח הראשוני שלנו, מה שמדגים זמן תגובה מרשים ומחויבות לאבטחת המוצר שלהם.
המשך לקרוא
GenAI סיכונים שיש להיות מודעים אליהם - ולהתכונן אליהם - לפי Gartner®
הפריסה של ממשקי GenAI, LLMs וצ'אט מרחיבה את משטחי ההתקפה הפוטנציאליים ומהווה איומי אבטחה מוגברים.
Wiz ב-Re:Inforce 2024
ראה מה חדש עם Wiz ב-Re:Inforce 2024 עם סיכום השנה
כללי זמן ריצה מותאמים אישית ומדיניות תגובה בזמן ריצה: שכבות חדשות של הגנה
כללי זמן הריצה המותאמים אישית ומדיניות התגובה בזמן ריצה של Wiz מוסיפים שכבות חדשות לאסטרטגיית ההגנה המעמיקה שלך.