$ cat /glossary

מילון מושגי אבטחה: חיפוש: פריצת מגבלות מודל — Jailbreak

189 מושגי אבטחה בעברית לבעלי עסקים ובוני אתרים עם AI — התחברות, הרשאות, פרטיות וגיבוי.

מילון האבטחה מסביר בעברית מה משמעות כל מונח, למה הוא חשוב ומה לבדוק. התחילו בהרשאות, RLS ומפתחות סודיים, והמשיכו למונחים של סביבת הפיתוח שלכם.

עודכן תוכן העמוד: · מערכת VibeSec · מדיניות המקורות

$ מציג 1 מתוך 189 מונחים

191AI ו-LLM

פריצת מגבלות מודל — Jailbreak

LLM Jailbreak

מה זה
ניסיון לגרום למודל לעקוף מגבלות התנהגות או בטיחות באמצעות ניסוח קלט מטעה.
למה זה חשוב
מודל שחורג מהמגבלות עלול ליצור תוכן מזיק; אם הוא מחובר לכלים, הנזק יכול לעבור מתוכן לפעולות באתר.
דוגמה
משתמש מנסה לשכנע צ׳אט תמיכה לבצע פעולה שאינה מותרת לו.
מה לבדוק / איך למנוע
בודקים עמידות בסביבה מורשית, מגבילים כלים והרשאות ומאמתים פלט ופעולות; אין להסתמך על סירוב המודל כהגנה יחידה.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
VibeSec — מרכז האבטחה ל-Vibe Coding