קבוצת תקיפה רוסית משתילה פיתיון 'נשק גרעיני' בתוכנה זדונית לשיבוש ניתוח AI
Russia-Aligned UAC-0099 Plants Nuclear Weapon Prompt in Malware to Disrupt AI Analysis
◆ סיכום AI
חוקרי אבטחה גילו טכניקה חדשה בשם GuardBreaker, שבה קבוצת תקיפה רוסית UAC-0099 משתמשת כדי לשבש ניתוח בעזרת AI. הטכניקה מיועדת להפעיל בכוונה את מנגנוני הבטיחות של מודלי שפה גדולים (LLMs). מטרת התקיפה היא למנוע מודלים אלו מניתוח קבצים חשודים, ובכך להקשות על זיהוי פעילות זדונית.
# מהמקור
Cybersecurity researchers have disclosed a new technique dubbed GuardBreaker that's been put to use by a Russia-aligned threat actor known as UAC-0099 against a target in Ukraine with an aim to interfere with artificial intelligence (AI)-assisted analysis. The idea, ESET said in a series of posts on X, is to deliberately trip a large language model's (LLM) safety mechanisms and prevent its