140מושגי יסוד
אחזור מועשר בייצור — RAG
RAG = Retrieval-Augmented Generation
- מה זה
- טכניקה שבה מודל AI מביא מידע רלוונטי ממקור חיצוני (מסמכים, DB) לפני שהוא מנסח תשובה, במקום להסתמך רק על מה שלמד באימון.
- למה זה חשוב
- שליפת מסמכים בלי בדיקת הרשאות עלולה להעביר למודל מידע פרטי ולחשוף אותו בתשובה למשתמש אחר. ההרשאות חייבות להיבדק לפני שהמסמך מגיע למודל, לא רק אחרי יצירת התשובה.
- דוגמה
- צ׳אטבוט תמיכה שמביא תשובות ממאגר מסמכים פנימי, אבל לא בודק שהמשתמש מורשה לראות את המסמך הספציפי שנשלף.
- מה לבדוק / איך למנוע
- מוודאים שהאחזור (retrieval) מכבד את אותם כללי הרשאה כמו כל שאילתה רגילה למקור המידע.
