זיכרון לטווח ארוך לסוכני AI עם MongoDB ו-Vercel
אמ;לק
השקה של אינטגרציה המאפשרת לאפליקציות AI לשמור זיכרון של שיחות ואירועים ב-MongoDB, מה שמשפר את יכולת הסוכנים לתפקד לאורך זמן.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Introducing the MongoDB Vercel AI SDK Integration: Persistent Memory for AI Applications
.png)
התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
אנו נרגשים להכריז על השקת האינטגרציה של MongoDB עם Vercel AI SDK, המעניקה לאפליקציות ולסוכני AI שנבנו באמצעות ה-SDK של Vercel מאגר זיכרון מתמשך ב-MongoDB Atlas. הפתרון הוא כעת בקוד פתוח וזמין באופן כללי ב-npm.
אינטגרציה זו מוסיפה MongoDB Atlas כמאגר הזיכרון בקוד Vercel AI SDK הקיים. לאחר ההתקנה, החבילה מחברת אפליקציות Vercel AI SDK ל-MongoDB Atlas ומאחסנת באופן אוטומטי את זיכרונות האפליקציה במסמכים. זה מאפשר לאפליקציה לשמור זיכרונות על שיחות, עובדות משתמשים ואירועי עבר שנמשכים לאורך הפעלות, משתמשים והתחלות מחדש.
מה זה Vercel AI SDK?
Vercel AI SDK הוא ערכת כלים מסוג TypeScript לבניית יישומי AI. הוא מטפל בקריאות למודלים, הזרמת תגובות, שימוש בכלים והרצת סוכנים הפועלים במשימות מרובות שלבים. ה-SDK אינו כולל מסד נתונים לשמירה על זיכרון בין הרצות. ללא זיכרון, יישום AI מתחיל כל שיחה ללא ידע על השיחה הקודמת. הוא אינו יודע מי המשתמש, מה הוא ביקש אתמול או מה הוא למד בדרך. אין לו שום הקשר.
כיום, מפתחים נאלצים לבנות בעצמם כלים לאחסון זיכרונות בשכבה ייעודית. זה בדרך כלל דורש תכנון סכימת מסד נתונים, כתיבת משימות לניקוי נתונים ישנים והגדרת חיפוש וקטורי כדי שהאפליקציה תוכל למצוא מידע עבר רלוונטי לפי משמעות סמנטית ולא רק לפי מילות מפתח. זו עבודה רבה לבנות יישום AI שיכול לזכור הקשר.
באילו סוגי זיכרון זקוק יישום AI?
יישום AI זקוק לחמישה סוגי זיכרון, כל אחד מהם נשמר למשך זמן שונה ומאוחזר בצורה שונה. אינטגרציה זו מסווגת אוטומטית כל סוג של זיכרון ומאחסנת אותו ב-MongoDB Atlas; להלן הגדרות קצרות של חמשת סוגי הזיכרון:
• הפעלה: השיחה של אפליקציה או סוכן בכל מפגש. זה עוזר לאפליקציה לעקוב אחר מה שהמשתמש אמר זה עתה.
• סמנטית: עובדות על אנשים, ישויות והעדפות, כך שהמשתמשים לא צריכים לחזור על עצמם.
• נוהלי (Procedural): תהליכי עבודה (Workflows) והוראות, כך שהאפליקציה תבצע משימות כפי שהגדרת אותן.
• אפיזודי (Episodic): אירועים ותוצאות מרכזיים, כך שהאפליקציה תוכל להיזכר במה שקרה בעבר. נשמר כברירת מחדל למשך שנה של חוסר פעילות.
• פנקס רשימות (Scratchpad): הערות זמניות לעבודה בתהליך. תוקפן פג לאחר שעה וניתן לקדמן לזיכרון אפיזודי אם יתברר שהן חשובות.
זיכרונות סמנטיים ופרוצדורליים הם בעלי גרסאות, כך שההיסטוריה נשמרת כאשר עובדה משתנה. השכבות הסמנטית, הפרוצדורלית והאפיזודית משתמשות ב-MongoDB Vector Search, שמוצא זיכרונות מאוחסנים לפי משמעות סמנטית ולא לפי מילות מפתח מדויקות.
אינטגרציה זו יוצרת אוטומטית את האינדקסים הווקטוריים ומזהה את ממדי ההטמעה (embedding dimensions) בעת ההפעלה. מפתחים יכולים להשתמש בכל מודל הטמעה של AI SDK כדי ליצור אינדקסים וקטוריים, כולל Voyage AI, OpenAI, Cohere או Google.
איור 1. איך האינטגרציה עובדת עם MongoDB Atlas וממשק Vercel SDK.
איך הזיכרון אמור להזדקן?
לכל קטגוריית זיכרון יש מדיניות שמירה משלה, כך שפתקים קצרי מועד יפוגו במהירות ועובדות ארוכות טווח יישמרו למשך זמן רב יותר. האינטגרציה של MongoDB Vercel AI SDK מגיעה עם ברירות מחדל לכל קטגוריה, שמפתחים יכולים להתאים אישית לפי הצורך.
שימור זיכרון יעיל דורש איזון. שמירה על זיכרונות ללא הגבלת זמן יכולה להפחית את ביצועי האחזור ולהגדיל את העלויות, בעוד שמחיקתם מוקדמת מדי עלולה לגרום ליישומים לשכוח הקשר חשוב. שילוב זה כולל תכונות שיעזרו למפתחים להגדיר בקלות את האיזון הנכון:
• מצבי שמירה (Retention modes): ניתן לבחור באף אחד (לעולם לא יפוג), ttl (יפוג לאחר זמן מוגדר), ttl+חשיבות (יפוג לאחר זמן מוגדר אלא אם הזיכרון מסומן כחשוב), או דינמי (dynamic), שבו אתם מגדירים בעצמכם את תקופת השכחה.
• שכחה מבוססת מודל (Model-driven forgetting): באמצעות memory_forget, המודל יכול למחוק זיכרון ספציפי כאשר המשתמש אומר "שכח מזה". המחיקה מתבצעת בדרך כלל תוך כ-60 שניות.
מכיוון שהזיכרון מאוחסן ב-MongoDB Atlas, נתוני תפעול של יישום, הזיכרון שלו והחיפוש הווקטורי שמחזיר אותו פועלים על פלטפורמה אחת. מפתחים יכולים לאבטח, לנטר ולהרחיב מסד נתונים בודד מבלי להדביק חנות וקטורית נפרדת או שירות זיכרון לצדו.
מה משתנה בעת הרצת האינטגרציה של MongoDB Vercel AI SDK בסביבת ייצור (Production)?
מהדורת ייצור זו מעניקה למפתחים שליטה רבה יותר על הנתונים שלהם וגמישות באופן השימוש באינטגרציה:
• היסטוריית הפעלות אמינה: כברירת מחדל, המודל מחליט מתי לשמור ולקרוא שלבי שיחה, כך שהוא עלול מדי פעם לדלג על שלב. עבור סביבת ייצור, ניתן להשתמש ב-hooks של ה-AI SDK כך שהקוד של האפליקציה יטען וישמור את התמליל בכל שלב. כל הודעה של משתמש, עוזר או כלי נשמרת בדיוק פעם אחת.
• הפרדת נתונים לפי לקוח: מפתחים יכולים להוסיף שדה סינון, כגון tenant_id, לאינדקסים הווקטוריים של האפליקציה כדי להגביל כל חיפוש לזיכרונות של לקוח ספציפי.
• שמות ופריסה של יישומים: מפתחים יכולים לשנות את שמות האוספים והאינדקסים כדי להתאים לסכימת האפליקציה הקיימת או לבטל אינדוקס לקטגוריות שאינן בשימוש.
• קוד פתוח: החבילה מורשית תחת Apache 2.0 ועובדת עם כל דגם AI SDK.
התחל היום
מפתחים יכולים להוסיף זיכרון לפרויקט Vercel AI SDK קיים בשלושה שלבים. אינטגרציה זו פועלת עם AI SDK בגרסאות v6 ו-v7 ודורשת אשכול MongoDB Atlas.
• התקן את החבילה ותלות העמיתים שלה: npm install @mongodb-developer/vercel-ai-memory ai mongodb
• צור מופע זיכרון עם מחרוזת חיבור Atlas ומודל הטמעה.
• העבר את כלי הזיכרון לאפליקציה, בהיקף למשתמש ולהפעלה.
משלב זה, המודל מחליט מתי לשמור ומתי לחפש זיכרונות.
מוכן להוסיף זיכרון לאפליקציה שלך?
התחל בתיעוד הזיכרון Vercel AI SDK . לפרטים נוספים, עיין במשאבים הבאים:
@mongodb-developer/vercel-ai-memory ב-npm : החבילה.
מאגר GitHub: קוד מקור ודוגמאות.
קריאה וכלים קשורים
אבטחת Node.js / JS / TS- Bearer — SAST עם התמקדות בפרטיות ו-PII
- CodeQL — מנוע ניתוח סטטי של GitHub
- Dependabot — עדכונים אוטומטיים לתלויות פגיעות
- מתקפת React2STEAL: כך גונבים מפתחות גישה משרתי Next.js
- בניית אפליקציית מורה לנגינה בהרמוניקה בעזרת Claude
- פרצת אבטחה ב-Telegram Android