$ cat /glossary

מילון מושגי אבטחה: AI ו-LLM

189 מושגי אבטחה בעברית לבעלי עסקים ובוני אתרים עם AI — התחברות, הרשאות, פרטיות וגיבוי.

מילון האבטחה מסביר בעברית מה משמעות כל מונח, למה הוא חשוב ומה לבדוק. התחילו בהרשאות, RLS ומפתחות סודיים, והמשיכו למונחים של סביבת הפיתוח שלכם.

עודכן תוכן העמוד: · מערכת VibeSec · מדיניות המקורות

$ מציג 9 מתוך 189 מונחים

49AI ו-LLM

הזרקת פרומפט — Prompt Injection

Prompt Injection

מה זה
מצב שבו קלט משתמש משנה את התנהגות מודל AI או גורם לו להתעלם מהנחיות.
למה זה חשוב
חשוב לאפליקציות שמשלבות AI, Claude Code או שירותי LLM.
דוגמה
משתמש מזין טקסט שגורם למערכת AI להחזיר מידע או לבצע פעולה שלא התכוונו אליה.
מה לבדוק / איך למנוע
מפרידים בין נתוני משתמש להוראות מערכת, מגבילים פעולות, לא נותנים למודל גישה חופשית ל-secrets, ומאמתים תוצאות בצד שרת.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
130AI ו-LLM

פרוטוקול הקשר למודל — MCP

MCP = Model Context Protocol

מה זה
פרוטוקול פתוח שמאפשר למודל AI (כמו Claude) להתחבר לכלים, מקורות מידע ושירותים חיצוניים בצורה מתוקננת, במקום אינטגרציה ייעודית לכל כלי.
למה זה חשוב
ככל שיותר אתרי Lovable ו-Claude Code מחברים MCP servers (Supabase, GitHub, אימייל ועוד), כל server כזה הוא נקודת גישה נוספת שדורשת בדיקת הרשאות ואמון.
דוגמה
Claude Code מתחבר ל-MCP server של Supabase כדי להריץ שאילתות ישירות על בסיס הנתונים של הפרויקט.
מה לבדוק / איך למנוע
ממפים אילו MCP servers מחוברים, אילו הרשאות יש לכל אחד, והאם מודל ה-AI יכול לבצע פעולות רגישות בלי אישור מפורש.
135AI ו-LLM

AI פועל באופן עצמאי — Agentic AI

Agentic AI / AI Agent

מה זה
מערכת AI שיכולה לתכנן ולבצע רצף פעולות בעצמה (לא רק לענות על שאלה), כולל קריאה לכלים חיצוניים.
למה זה חשוב
ככל שסוכן AI מקבל יותר עצמאות (למשל דרך MCP), כך גדל הצורך לוודא שיש לו רק את ההרשאות המינימליות הנדרשות.
דוגמה
Claude Code רץ כ-agent בטרמינל, יכול לקרוא קבצים, להריץ פקודות ולבצע commit בעצמו.
מה לבדוק / איך למנוע
בודקים אילו פעולות הסוכן מורשה לבצע ללא אישור אנושי, ומגבילים לפי עיקרון ההרשאה המינימלית.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
136AI ו-LLM

קריאה לכלים — Tool Use / Function Calling

Tool Use / Function Calling

מה זה
היכולת של מודל AI לבחור ולהפעיל פונקציה או כלי חיצוני (API, חיפוש, DB) כדי להשלים משימה.
למה זה חשוב
כל כלי שמודל AI יכול לקרוא לו הוא בעצם הרשאה — חשוב לדעת אילו כלים חשופים למודל ומה הם מסוגלים לעשות.
דוגמה
מודל AI מזהה שצריך לחפש מידע עדכני ובוחר לקרוא לכלי web_search במקום לענות ממידע ישן.
מה לבדוק / איך למנוע
רושמים רשימת כלים שחשופים לכל agent/מודל, ומוודאים שאין כלי עם הרשאות רחבות מדי לצורך המשימה.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
189AI ו-LLM

סמכויות יתר לסוכן — Excessive Agency

Excessive Agency

מה זה
סוכן AI מקבל יותר כלים, הרשאות או עצמאות ממה שנחוץ למשימה.
למה זה חשוב
הוראה זדונית במסמך או טעות של המודל עלולות להפוך תשובה שגויה למחיקה, תשלום או חשיפת לקוחות.
דוגמה
סוכן שמסכם פניות יכול גם למחוק את כל הפניות ללא אישור.
מה לבדוק / איך למנוע
נותנים כלים והרשאות מינימליים, בודקים הרשאה בשרת ודרושים אישור אנושי לפני פעולות רגישות; פרומפט בלבד אינו גבול אבטחה.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
190AI ו-LLM

דליפת פרומפט מערכת — System Prompt Leakage

System Prompt Leakage

מה זה
חשיפת הוראות פנימיות שניתנו למודל, דרך תשובותיו או דרך מידע שהמערכת מציגה.
למה זה חשוב
ההוראות עשויות לחשוף כללים פנימיים; אם שמתם בהן סודות או הסתמכתם עליהן להרשאות, החשיפה מסוכנת במיוחד.
דוגמה
צ׳אט מציג את הוראות הטיפול בלקוחות במקום תשובה ללקוח.
מה לבדוק / איך למנוע
לא מכניסים סודות לפרומפט, אוכפים הרשאות מחוץ למודל ובודקים בתרחישי בדיקה שאין חשיפת מידע פנימי רגיש.
191AI ו-LLM

פריצת מגבלות מודל — Jailbreak

LLM Jailbreak

מה זה
ניסיון לגרום למודל לעקוף מגבלות התנהגות או בטיחות באמצעות ניסוח קלט מטעה.
למה זה חשוב
מודל שחורג מהמגבלות עלול ליצור תוכן מזיק; אם הוא מחובר לכלים, הנזק יכול לעבור מתוכן לפעולות באתר.
דוגמה
משתמש מנסה לשכנע צ׳אט תמיכה לבצע פעולה שאינה מותרת לו.
מה לבדוק / איך למנוע
בודקים עמידות בסביבה מורשית, מגבילים כלים והרשאות ומאמתים פלט ופעולות; אין להסתמך על סירוב המודל כהגנה יחידה.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
192AI ו-LLM

דליפת מידע רגיש דרך המודל — Sensitive Information Disclosure (LLM)

Sensitive Information Disclosure (LLM)

מה זה
תשובת AI שחושפת מידע אישי, סודות או מסמכים שהמשתמש אינו רשאי לראות, למשל מתוך נתונים שנשלחו למודל.
למה זה חשוב
צ׳אט שנראה תמים יכול לחשוף מידע של לקוח אחר אם המקורות שנשלפו לא סוננו לפי הרשאות.
דוגמה
צ׳אט שירות מצטט חוזה של לקוח אחר מתוך מאגר מסמכים משותף.
מה לבדוק / איך למנוע
מסננים מקורות לפי המשתמש לפני שליחה למודל, מצמצמים מידע אישי, בודקים תנאי שמירה אצל הספק ומנסים שני חשבונות בדיקה נפרדים.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
193AI ו-LLM

עשרת סיכוני האבטחה למודלים — OWASP Top 10 for LLM

OWASP Top 10 for Large Language Model Applications

מה זה
רשימת סיכונים של OWASP ליישומים עם מודלי שפה, כמו הזרקת פרומפט, דליפת מידע וסמכויות יתר לסוכן. אינה תעודת אבטחה.
למה זה חשוב
צ׳אט וסוכן מוסיפים סיכונים שבדיקת אתר רגילה עשויה לפספס, במיוחד כשהם קוראים מסמכים או מפעילים שירותים בתשלום.
דוגמה
בסקירת צ׳אט עסקי בודקים הרשאות למקורות, טיפול בפלט ומכסת שימוש לצד ההנחיות למודל.
מה לבדוק / איך למנוע
בודקים את המהדורה הרשמית העדכנית בפרויקט OWASP GenAI, ממפים את הסיכונים לחיבורים שלכם ומוסיפים בדיקות לכל סיכון רלוונטי.
אבטחת סקילים — מקורות מהימנים וכלי בדיקה
VibeSec — מרכז האבטחה ל-Vibe Coding