זיכרון בסוכני AI הוא פיצ'ר – אך גם משטח תקיפה מסוכן
אמ;לק
מאמר מעמיק הבוחן את סכנות הרעלת הזיכרון והקונטקסט (ASI06) בסוכני בינה מלאכותית אוטונומיים. כאשר סוכן נושא מידע לא מהימן מאינטראקציה אחת לאחרת, נפתח פתח להזרקת הנחיות פרמננטית והשתלטות על פעולות עתידיות. מפתחים נדרשים לבנות מנגנוני בידוד ואימות קפדניים לקונטקסט המתמשך.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Memory Is a Feature. It Is Also an Attack Surface

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
בתור מוביל שותף של OWASP ASI06: Memory & Context Poisoning, כחלק מ-OWASP Top 10 עבור Agentic Applications, הקדשתי זמן רב למחשבה על שאלה פשוטה: מה קורה כאשר סוכן AI לא רק מעבד קלט לא מהימן, אלא גם נושא אותו הלאה? זו סוגיית הליבה שמאחורי ASI06. […] הפוסט Memory Is a Feature. It Is Also an Attack Surface פורסם לראשונה ב-OWASP Gen AI Security Project.