פשטות מול מורכבות: חזון ההנדסה של MongoDB למערכות מבוזרות
אמ;לק
בכירי הנדסה ב-MongoDB סוקרים את עקרונות התכנון של המערכת: חוסן, תבונה ופשטות תפעולית. המאמר מסביר כיצד הפלטפורמה מנהלת מורכבות פנימית כדי לאפשר גמישות למפתחים. פוסט מעמיק על ארכיטקטורת distributed systems.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Carrying Complexity, Delivering Agility

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
חוסן, אינטליגנציה ופשטות: עמודי התווך של החזון ההנדסי של MongoDB לחדשנות בקנה מידה
אנחנו יחסית חדשים ב-MongoDB. Ashish הצטרף לפני שנתיים בעקבות הרכישה של Grainite לאחר למעלה מעשור בבניית מסדי נתונים ומערכות מבוזרות ב-Google, ו-Akshat הצטרף ביוני 2024 לאחר 15 שנים בבניית מסדי נתונים ב-AWS. יש לנו אובססיה משותפת למערכות מבוזרות. ראינו כמה מפתחים אוהבים את MongoDB, וזו חלק מהסיבה שהצטרפנו לחברה – MongoDB הוא אחד ממסדי הנתונים האהובים ביותר בעולם. אז אחד הדברים הראשונים שביקשנו להבין היה למה.
התברר שזה פשוט יותר ממה שחשבנו: החזון של MongoDB הוא להביא מפתחים לייצור (production) במהירות. משמעות הדבר היא להקל על ההתחלה, ולהפוך את המשך העבודה לקל עוד יותר – הפעלה בפקודה אחת (spin-up), הגדרות ברירת מחדל הגיוניות ליום הראשון, ושדרוגים או הרחבה למספר עננים ללא זמן השבתה (zero downtime) ככל שאתה גדל. כך נראית זריזות מפתחים בפועל: היכולת לבחור את הכלים הטובים ביותר, לנוע במהירות, ולסמוך על המערכת שתישא את משקל הכישלון, המורכבות והשינוי.
ב-MongoDB, שלושה עקרונות מניעים את החזון הזה: חוסן, אינטליגנציה ופשטות.
חוסן הוא היכולת להמשיך לפעול כשמשהו נשבר, אינטליגנציה היא היכולת להסתגל לתנאים משתנים, ופשטות היא הפחתת העומס הקוגניטיבי והתפעולי כך שמשתמשים ומפעילים יכולים לנוע במהירות ובבטחה. אלו אינן רק מטרות טכניות – אנו מתייחסים אליהן כאילוצי עיצוב שאינם ניתנים למשא ומתן. לכן, אם שינוי מרחיב את רדיוס הפיצוץ (blast radius), פוגע בביצועים האדפטיביים או מוסיף עמל מיותר למפעילים, הוא לא עובר לייצור.
בפוסט זה, אנו חולקים את הנושאים ההנדסיים המרכזיים שמעצבים את העבודה שלנו ואת המנגנונים ששומרים עלינו כנים.
אבטחה כעיקרון ראשון
אבטחה היא לא חומה שאתה בונה סביב הנתונים שלך. זו הנחה שאתה מעצב על פיה מההתחלה. ההנחה פשוטה: במערכת מבוזרת, אתה לא יכול לסמוך על הרשת, אתה לא יכול לסמוך על החומרה, ובוודאי שאתה לא יכול לסמוך על השכנים שלך.
זה מתחיל בבידוד אדריכלי. ברוב הצעות שירותי מסדי הנתונים בענן, אתה חולק קירות עם זרים. קירות משותפים פוגעים בביצועים, הם גורמים לדליפת כשלים, ולפעמים הם גורמים לדליפת סודות. אנו מצמצמים למינימום קירות משותפים, ובמקומות שבהם חייבים לחלוק שירותים, אנו בונים מחיצות אש (firebreaks). בידוד חזק יותר מפחית את רדיוס הפיצוץ של טעויות והתקפות. עם אשכול ייעודי (dedicated cluster) של MongoDB Atlas, אתה מקבל את כל הבניין. האשכול שלך פועל על שרתים מוקצים משלו, בתוך רשת פרטית (VPC) משלו. הנתונים הלא מוצפנים שלך לעולם אינם זמינים ב-VM או בתהליך משותף. אין "שכנים רועשים" (noisy neighbors) כי אין לך שכנים. משטח ההתקפה מתכווץ בצורה דרמטית, ותחרות על משאבים נעלמת. רדיוס הפיצוץ של בעיה במקום אחר נעצר בדלת שלך. במילים אחרות, אנו פועלים לפי עיקרון אנטי-Vegas – מה שקורה מחוץ לאשכול שלך נשאר בחוץ.
אבל אבטחה אמיתית היא מרובדת. לאחר שבידדנו את הסביבה, אנו מגנים עליה מבפנים החוצה. נתחיל בשאלת השאלות הקשות:
• מי אתה? זה אימות חזק, מ-SCRAM עד AWS IAM.
• מה אתה יכול לעשות? זה שימוש ב-RBAC ברמה עדינה, האוכף את עיקרון המינימום פריבילגיה (least privilege).
• מה אם מישהו ייכנס? זו הצפנה בכל מקום - במעבר, במנוחה ואפילו בשימוש עם Client-Side Field Level Encryption .
• איך נועלים את הכבישים? זה בקרות רשת כמו IP רשימות גישה ונקודות קצה פרטיות.
• ואיך אנחנו מוכיחים את זה? זו ביקורת מפורטת למסלול ברור ובלתי ניתן לשינוי.
כל אחד מהשכבות הללו משקף הגנה לעומק.
ההיסטוריה של אבטחת מסדי נתונים מלאה בפשרות בין בטיחות לפונקציונליות. במשך עשרות שנים, הפשרה הייתה אכזרית: כדי להריץ שאילתה, היית צריך לפענח את הנתונים שלך בשרת, דבר שחשף אותם לסיכון. Queryable Encryption – ערכת הצפנה הניתנת לחיפוש הראשונה בתעשייה שפותחה על ידי MongoDB Research – שוברת את הפרדיגמה הזו. היא מאפשרת לאפליקציה שלך להריץ שאילתות אקספרסיביות, כולל בדיקות שוויון וטווחים, על נתונים שנשארים מוצפנים במלואם בשרת. מפתחות הפענוח לעולם לא עוזבים את הלקוח שלך. השרת שומר על אינדקסים מוצפנים עבור השדות שבהם ברצונך לבצע שאילתות, וניתן לבצע את השאילתות במלואן על הנתונים המוצפנים, תוך שמירה על הפרטיות והאבטחה החזקות ביותר של הנתונים הרגישים שלך.
על ידי הטמעת ההגנות הללו בפלטפורמה עצמה, האבטחה מפסיקה להיות עוד נטל שמפתחים צריכים לתכנן סביבו. הם מקבלים את הבטחות הפרטיות, את מסלולי הביקורת ואת התאימות (compliance), מבלי להקריב פונקציונליות או מהירות.
השגת חוסן: ארכיטקטורה, תפעול והוכחה
מערכות אינן חיות בחלל ריק. הן חיות במציאות מבולגנת: מחיצות רשת, הפסקות חשמל, תקלות ליבה (kernel panics), תקלות במישור הבקרה של הענן, וטעויות מפעיל. מדד החוסן אינו "האם זה ייכשל?" אלא "מה קורה אחר כך?". חוסן הוא היכולת להמשיך לפעול כשהדבר שאתה תלוי בו מפסיק לעבוד, לא בגלל שתכננת שהוא ייכשל, אלא בגלל שתכננת שהוא יתאושש.
ארכיטקטורה: MongoDB Atlas בנויה על ההנחה שמשהו עלול להיכשל בכל עת. כל אשכול מתחיל את דרכו כ-replica set, הפרוס על פני אזורי זמינות עצמאיים. זו ברירת המחדל, לא שדרוג. ברגע שצומת ראשי (primary) הופך לבלתי ניתן להשגה, מתרחשות בחירות. תוך שניות, צומת אחר משתלט, לקוחות מתחברים מחדש, וכתיבות שהיו בתהליך מבוצעות שוב אוטומטית. גיוון באזור יחיד מספק לך הגנה מפני הפסקה של מרכז נתונים. הוספת אזורים נוספים מעניקה הגנה מפני כשל אזורי מלא. הוספת ספקי ענן נוספים מספקת בידוד מפני אירועים ברמת הספק. כל עלייה בסולם הזה מעניקה לך יותר הגנה מפני כשלים גדולים יותר. הפשרה היא שכל שלב מוסיף עוד חלקים נעים לניהול, ומצבי הכשל מתפתחים: קישורים תוך-אזוריים הם מהירים; קישורים חוצי-אזורים מציגים השהיות וקישורים עם אובדן חבילות; עבודה חוצת-עננים (cross-cloud) מוסיפה תשתית, מאזני עומסים וסמנטיקה של כשל שונים.
התפקיד שלנו הוא להפוך כל סוג של כשל (כשלי צמתים, כשלים בקישור, כשלים אפורים) לבלתי מורגש עבורך. כתיבות מתבצעות רק כאשר רוב חברי ההצבעה אישרו את הכניסה באותה קדנציה (term). הכלל הזה נשמע קטן, אבל זו רשת הביטחון שמונעת מצומת ראשי שתקוע בצד הלא נכון של מחיצה לקבל כתיבות שהוא לא יכול לשמור. הודעות Heartbeats ו-UpdatePosition נושאות מידע על התקדמות ואמת; אם צומת לומד על קדנציה גבוהה יותר, הוא יורד מתפקידו מיד. כשמתרחשות בחירות, הצומת הראשי החדש לא נפתח לכתיבות עד שהוא מגיע למצב העדכני ביותר הידוע, תוך שמירה על כמה שיותר כתיבות לא מחויבות. צמתים משניים מיישמים פעולות כשהן מגיעות, אפילו על קישורים עם אובדן נתונים.
דיסציפלינה תפעולית: חוסן הוא לא רק בקוד ובארכיטקטורה, זה גם באיך אתה מפעיל אותו כל יום. אפילו העיצוב הטוב ביותר ייכשל ללא המשמעת לזהות בעיות מוקדם ולהתאושש במהירות. אתה צריך להטמיע את זה באופן שבו אתה פועל. מצוינות תפעולית עוסקת במניעת כשלים שניתנים להמנע, בזיהוי כאלו שאינך יכול למנוע, ולהתאוששות מהירה כשהם קורים.
והפכנו את זה לדיסציפלינה. מדי שבוע, האנשים הקרובים ביותר לעבודה – מהנדסים, צוותי כוננות, מנהלי מוצר ומובילים – יוצאים מ"קרב האש" של היום כדי לסקור את המערכת בקפדנות. אנו חוגגים את הניצחונות הקטנים שהופכים את המערכת לבטוחה יותר בשקט. אנחנו חופרים בכישלונות כדי להבין לא רק מה קרה, אלא איך לוודא שזה לא יקרה שוב בשום מקום. המטרה היא לא שלמות. במקום זאת, מדובר בבניית מערכת שבה כל לקח שנלמד וכל תיקון שנעשה מעלה את הרף עבור כולם. אוטומציה אחת יכולה להסיר קטגוריה שלמה של תקריות. נתיחה שלאחר המוות (postmortem) כתובה היטב יכולה למנוע מאותה טעות להתרחש בעשרות מערכות. התמורה אינה ליניארית – היא מצטברת.
כאשר החוסן עובד, כישלון מפסיק להיות משהו שכל מפתח צריך לשאת בראשו. המערכת קולטת אותו, מתאוששת ומאפשרת להם להמשיך לנוע.
הוכחה לפני משלוח: בדיקות (testing) אומרות לך שהקוד שלך עובד במקרים שחשבת לבדוק. אימות פורמלי (formal verification) אומר לך אם הוא עובד בכל המקרים החשובים, גם אלה שלא חשבת לבדוק. MongoDB הוא בין מסדי הנתונים המעטים בענן שמיישמים ומפרסמים שיטות פורמליות בנתיבי הליבה של מסד הנתונים. קפדנות זו מתורגמת לזריזות; צוותים המשתמשים במסד הנתונים משחררים מוצרים מבלי לדאוג לכשלים בצמתים, כשלים במעבר (failovers) או הטיית שעון, הגורמים למקרי קצה. מקרי קצה אלה במסד הנתונים כבר נחקרו, הוכחו ועוצבו פתרונות נגדם.
כאשר אנו מעצבים פרוטוקול שכפול או כשל חדש, אנו לא רק מקודדים אותו, מריצים כמה בדיקות כאוס ושולחים אותו. אנו בונים מודל מתמטי של לוגיקה הליבה ללא פרטים מסיחים כמו פורמט דיסק או בריכות שרשורים ומבקשים בודק מודלים לנסות כל שזירה אפשרית של אירועים. הכלי לא מדלג על המקרים ה"בלתי סבירים". זה מנסה את כולם.
קח לדוגמה reconfiguration ללא יומנים (logless). הרעיון הוא פשוט: MongoDB מנתק את שינויי התצורה מיומן שכפול הנתונים, כך ששינויי חברות כבר לא עומדים בתור מאחורי כתיבות משתמש. אבל בעוד שהרעיון פשוט, היישום אינו כזה. ללא זהירות, תצורות מקבילות יכולות לפצל את האשכול, צמתים ראשיים יכולים להיבחר במונחים (terms) מיושנים, או רוב חדש יכול לאבד כתיבות של הרוב הישן. דגמנו את הפרוטוקול ב-TLA+, חקרנו מיליוני תרחישי שזירה, וזיקקנו את הפתרון לארבעה אינוריאנטים: מונחים חוסמים צמתים ראשיים מיושנים, גרסאות מונוטוניות מונעות פיצול, הצבעות רוב עוצרות פיצולי מיעוט, וכלל ה-oplog-commit מבטיח שהעמידות נשמרת.
עבור עסקאות (transactions), פיתחנו מפרט פורמלי מודולרי של פרוטוקול ריבוי השארדים (multi-shard) ב-TLA+ כדי לאמת את נכונות הפרוטוקול ובידוד תמונת מצב (snapshot isolation), הגדרנו ובדקנו את ממשק האחסון WiredTiger עם טכניקות אוטומטיות מבוססות מודלים, וניתחנו את המתירנות כדי להעריך עד כמה המקביליות ממוקסמת ברמת הבידוד הנבחרת.
המודלים הללו אינם ייצוגים ענקיים ומושלמים של המערכת כולה. אלו הפשטות קטנות ומדויקות שמתמקדות במהות הנכונות. התמורה פשוטה: בודק הדגמים בוחן יותר מקרים פינתיים תוך דקות ממה שבודק אנושי יכול היה בשנים האחרונות.
לצד הוכחות פורמליות, אנו משתמשים בכלים נוספים כדי לבדוק את היישום תחת סימולציה דטרמיניסטית: fuzzing, הזרקת תקלות וסידור מחדש של הודעות מול קבצים בינאריים אמיתיים. דטרמיניזם מעניק לנו אפשרות לשכפול באגים בלחיצת כפתור, שערי רגרסיה ב-CI/CD, ושידורים חוזרים אמינים של אירועים – כך שבאגי תזמון נדירים הופכים לתיקונים קלים.
שליטה במציאות מרובת העננים עם הפשטות פשוטות
זריזות מפתחים אינה קשורה לקיום מאה אפשרויות בחירה בתפריט; מדובר על הסרת החיכוך שהופך בחירה אמיתית לבלתי אפשרית. בחירה כזו שכמעט ולא מתממשת בפועל היא מולטי-ענן. אנו משיגים ריבוי עננים על ידי בניית מארג נתונים מאוחד המאפשר לך למקם את הנתונים שלך בכל מקום שאתה צריך, בשליטה ממקום אחד. מסד נתונים מרובי עננים בשיטת עשה-זאת-בעצמך (DIY), שבו אתה מפעיל MongoDB בניהול עצמי על פני AWS, Microsoft Azure ו-Google Cloud, נראה פשוט על הנייר. בפועל, זה כולל שבועות של הגדרת רשתות (VPC/VNet peering, ניתוב וחוקי חומת אש) וסקריפטים שבירים. הזריזות התיאורטית שקיבלת על ידי מעבר למולטי-ענן קורסת תחת משקלה של המציאות התפעולית.
כעת, השווה זאת ל-MongoDB Atlas, שבו אינך צריך לתזמר באופן ידני הקצאה על פני שלושה ממשקי API שונים של ענן. replica set בודד יכול להשתרע על פני AWS, Google Cloud ו-Azure. ההקצאה, הרשתות וה-failover מטופלים עבורך. האפליקציה שלך מתחברת באמצעות מחרוזת mongodb+srv סטנדרטית, והדרייברים החכמים שלנו מבטיחים שאם ה-primary שלך ב-AWS נכשל, התעבורה עוברת אוטומטית ל-primary חדש ב-GCP או ב-Azure ללא כל שינוי בקוד שלך. זה הופך סיוט תפעולי לבחירת פריסה פשוטה, ומעניק לך חופש מנעילה לספק (vendor lock-in) והגנה חזקה מפני הפסקות שירות רחבות אצל ספקי ענן.