בניית AI בטוח יותר עם MongoDB ו-Patronus AI
אמ;לק
שיתוף פעולה שנועד לבחון ולנטר סוכני AI בסביבות מורכבות. המטרה היא לוודא שה-AI שלכם לא עושה טעויות יקרות או מסוכנות בתוך המערכת הארגונית.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Building AI with MongoDB and Patronus AI

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
זה בקושי חדשות מרעישות שמודלים של שפה גדולים (LLMs) עלולים להיות לא אמינים. במקרים מסוימים, מדובר באי-נוחות בלבד. במקרים אחרים - במיוחד בתעשיות מוסדרות - ההשלכות חמורות הרבה יותר. הכירו את Patronus AI.
Patronus AI היא מעבדת מחקר המפתחת נתוני אימון וסביבות סימולציה עבור טכנולוגיות AI מתקדמות. עבודת החברה משתרעת על פני סביבות למידת חיזוק (reinforcement learning) ומודלים של עולם דיגיטלי עבור סוכנים הפועלים בתוך תוכנה. האינטגרציה שלהלן משקפת את עבודתה הקודמת של החברה בתחום הערכת LLM.
עיינו ב-AI Learning Hub שלנו כדי ללמוד עוד על בניית אפליקציות מבוססות AI עם MongoDB.
Rebecca Qian, מייסדת שותפה ו-CTO ב-Patronus, מסבירה: "הפלטפורמה שלנו מאפשרת למהנדסים לדרג ולבצע בנצ'מרק לביצועי LLM בתרחישים מהעולם האמיתי, ליצור מקרי בדיקה לעמידות (adversarial test cases), לנטר הזיות ולזהות PII והתנהגויות לא צפויות או לא בטוחות אחרות. לקוחות משתמשים ב-Patronus AI כדי לזהות טעויות ב-LLM בקנה מידה רחב ולהטמיע מוצרי AI בבטחה ובביטחון."
במחקר שפורסם לאחרונה וצוטט בהרחבה, המבוסס על חבילת ההערכה FinanceBench לשאלות ותשובות (QA), גילתה Patronus תגלית מפתיעה. החוקרים מצאו שמגוון רחב של מודלי LLM מתקדמים ומובילים סובלים מהזיות בתדירות גבוהה, כשהם עונים תשובות שגויות או מסרבים לענות על עד 81% מהשאלות של אנליסטים פיננסיים! שיעור שגיאה זה התרחש למרות שחלונות ההקשר של המודלים תוגברו בהקשר שנשלף ממאגר וקטורי חיצוני.
בעוד שדור מוגבר של אחזור (RAG) הוא דרך נפוצה להזנת מודלים בהקשר עדכני וספציפי לתחום, שאלת מפתח שעומדת בפני מפתחי אפליקציות היא כיצד לבחון את אמינות תפוקות המודל באופן סקיילבילי. כאן נכנסת Patronus לתמונה. החברה שיתפה פעולה עם טכנולוגיות מובילות באקוסיסטם של ה-AI היוצר (Gen AI) — מספקי מודלים ותשתיות ועד למאגרים וקטוריים ופתרונות RAG — כדי לספק שירותי הערכה מנוהלים, חבילות בדיקה ומערכי נתונים לבדיקות עמידות.
"כשבחַנו את השוק כדי לתעדף עם אילו שותפים לעבוד, ראינו ביקוש אדיר מהלקוחות שלנו עבור MongoDB Atlas", אמרה Qian. "באמצעות ה-API להערכת RAG של Patronus, אנו עוזרים ללקוחות לוודא שמערכות ה-RAG שלהם, הבנויות על גבי MongoDB Atlas, מספקות באופן עקבי מידע אמין ואיכותי ברמה הגבוהה ביותר."
במדריך החדש שלהם, שאורך 10 דקות, Patronus מדריכה מפתחים דרך תהליך עבודה שמציג כיצד להעריך מערכת שליפה המבוססת על MongoDB Atlas. המדריך מתמקד בהערכת הזיות ורלוונטיות התשובות מול טופס SEC 10-K, ומדמה אנליסט פיננסי התשאל את המסמך לצורך ניתוח ותובנות. זרימת העבודה בנויה באמצעות:
• תשתית הנתונים LlamaIndex כדי להטמיע ולחלק לנתחים (chunking) את מסמך ה-PDF המקור.
• Atlas Vector Search כדי לאחסן, להוסיף לאינדקס ולשאול את המטא-דאטה וההטבעות (embeddings) של הנתחים.
זרימת העבודה מוצגת באיור למטה.
לאחר קבלת תוצאות הניתוח, ישנם מספר צעדים שמפתחים יכולים לנקוט כדי לשפר את הביצועים של מערכת RAG. אלה כוללים בחינת אינדקסים שונים, שינוי גדלי הנתחים (chunk sizes), הנדסה מחדש של פרומפטים (prompt engineering), ובאפליקציות הספציפיות ביותר לתחום — כוונון עדין (fine-tuning) של מודל ההטמעה עצמו. עיינו במדריך בן 10 הדקות לקבלת הסבר מפורט יותר על כל אחד מהשלבים הללו.
כפי ש-Qian מוסיפה: "ללא קשר לגישה שבה אתם נוקטים כדי לנפות באגים ולתקן הזיות, חשוב תמיד לבדוק ברציפות את מערכת ה-RAG שלכם כדי לוודא ששיפורי הביצועים נשמרים לאורך זמן. כמובן שניתן להשתמש ב-Patronus API באופן איטרטיבי כדי לאמת זאת". למידע נוסף על הערכת LLM, בקרו באתר Patronus.
עברו למדריך ההתחלה המהירה שלנו כדי להתחיל עם Atlas Vector Search עוד היום.
קריאה וכלים קשורים
אבטחת MongoDB- MongoDB Atlas Security — בקרות רשת וזהויות, הצפנה וביקורת ב־Atlas; ביקורת זמינה רק בתוכניות מתאימות.
- NoSQLMap — כלי בדיקות NoSQL לשימוש מורשה בלבד; פעילות מאגר אומתה בפברואר 2026, אך המהדורה ישנה ונדרשת בדיקת התאמה.
- אבטחת נתוני תשלומים ב-MongoDB לפי תקן PCI DSS
- MongoDB מאפשרת זיכרון ארוך טווח לסוכני AI מבוססי Strands
- פרצה ב-MongoDB: תוקף ללא הרשאות יכול להפיל שרתים