ה-AI חושף כל סיכון שאישרתם בעבר: 7 תובנות מפאנל מומחי אבטחה
אמ;לק
מובילי אבטחת מידע מסבירים כיצד כלי AI הופכים מתקפות לזולות ומהירות בהרבה, וחושפים פערים וחובות אבטחה שארגונים נטו להדחיק. הפאנל מדגיש את הצורך במעבר להגנה ותיקון פגיעויות בזמן אמת ובמהירות מכונה.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: AI Is Calling In Every Risk You've Accepted: Seven Insights From The AI Security Panel: Unfiltered

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
ב-14 באוקטובר, אחר הצהריים לפני אירוע הדגל של AI Security Summit (AISS) בסן פרנסיסקו, Snyk אירחה את The AI Security Panel: Unfiltered. Deirdre Bosa מ-Yahoo Finance הנחתה ארבעה מומחים המביטים על אבטחת AI מנקודות מבט שונות מאוד:
• Manoj Nair, CTO ו-Chief Innovation Officer, Snyk
• Michael D'Angelo, Technical Lead, Cyber, OpenAI
• John Hultquist, Chief Analyst, Google Threat Intelligence Group
• Ed Sim, מייסד ושותף כללי, boldstart ventures
למרות שלא תמיד הסכימו על הדרכים להסדרת ה-AI, הפיקוח על סוכנים או מידת האמון שיש לתת בהם, הם היו תמימי דעים לגבי האבחנה המרכזית: ה-AI הפך התקפות לזולות, מהירות וזמינות כמעט לכל אחד, מה שמציב בסיכון כל הנחת יסוד שארגון קיבל אי פעם. מציאת פגיעויות הופכת לקלה יותר מדי חודש, אך היכולת לתקן אותן היא צוואר הבקבוק האמיתי. צוותי הגנה לא יצליחו לסגור פער זה עד שמכונות יבצעו את רוב התיקונים, תוך שימוש בבקרות זהות, הרשאות וכוונות מוגדרות.
מה היה מקומו של הפאנל הזה ב-AISS 2026?
ה-AISS הושק לראשונה בסן פרנסיסקו בשנה שעברה (2025) וכל הכרטיסים אליו נמכרו. אירוע הדגל של השנה התקיים ב-15 באוקטובר והיה עמוס לא פחות מהאירוע הקודם.
כפי שמגדיר זאת המוטו של האירוע, מדובר ביום אחד מלא, בחדר אחד, עם מסלול אחד, עבור האנשים האחראים על סיכוני AI ברמה הארגונית. לאחר מכן יתקיימו אירועי "לוויין" אזוריים בקופנהגן ובסידני ב-25 בנובמבר. AISS היא יוזמה של Snyk ושל מהנדסי AI, וכללי הבית המרכזיים שלה הם הימנעות מסיסמאות ריקות ואי-קיום פאנלים שבהם כולם מסכימים זה עם זה. מכאן החשיבות הגדולה של חילוקי הדעות שהוזכרו לעיל. בכל מקרה, למדנו שיש יותר דברים שמחברים בינינו מאשר כאלה שמפרידים.
פאנל זה היווה את יריית הפתיחה של האירוע, נערך אחר הצהריים שלפניו בחסות Snyk, והבטיח לדון בארבעה נושאים מרכזיים: האיום הנוכחי, האיום העתידי, הגורם האחראי, ומה עושים ביום שני בבוקר. האירוע עצמו העמיק בכל סשן. הפאנל הציג תמונה רחבה, עם נציג ממעבדת מחקר חזיתית, צוות מודיעין איומים, משקיע וחברת אבטחה הפועלת במקום שבו נוצרים קוד וסוכנים.
מתוך השיחה התוססת והעמוקה בלטו שבע תובנות:
1. מדוע AI היא קריאת מרווח על הסיכון שאתה כבר נושא?
רוב הסיכונים שה-AI מנצל כבר היו קיימים בספרים, אך מה שהשתנה הוא המחיר של מימושם.
Manoj שאל את מסגרת העבודה שלו מלקוח של Snyk: "AI הוא כלי בידי תוקפים. AI הוא משטח התקפה חדש, והוא גם גורם פנימי". לאחר מכן הוא ציין את ההשלכות.
"זה כל הסיכונים הקיימים שלך. זה קריאת השוליים על זה". Manoj Nair, Snyk
John Hultquist הציג את המכניקה: תוקפים משתמשים בטכנולוגיה אוטונומית מזה כשמונה שנים, ועברו מתמונות מזויפות ודיוג חנית (spear-phishing) לשיחות deepfake ולפעולות מורכבות. עובדי IT מצפון קוריאה מנהלים כעת את פעולותיהם באמצעות מודלים מתחילתן ועד סופן. מודלים גם משפרים את היכולות של התוקפים עצמם: פתרון בעיות תוך כדי התקפה, תנועה מהירה יותר ברשת והפיכת טלאי (patch) טרי לניצול עובד לפני שרוב המגינים הספיקו ליישם אותו. וזה גם ניתן להרחבה: "הכלים זמינים כעת להרבה יותר אנשים".
Ed Sim הצביע על פרצות בבנקים בדרום קוריאה. ב-CrowdStrike מעריכים כי המפעיל היה ככל הנראה צעיר בן 26 מסין שהשתמש בסוכן בדיקות חדירה בקוד פתוח מבוסס AI ובסוכן קידוד מסחרי, כאשר לפחות תשעה בנקים דווחו כמטרות. המקרה, אמר Adam Meyers מ-CrowdStrike לכתבים, "מאפשר לאדם אחד למקד לקוחות רבים בפרק זמן קצר מאוד באמצעות כוחו של ה-AI". המסקנה של Ed? "אי אפשר להילחם בהאקרים שנמצאים בכל העולם ומשתמשים במכונות לצד בני אדם".
Hultquist ציין את חוסר הסימטריה שמתחת לפני השטח, כאשר תוקפים מבצעים ניסויים בעלות נמוכה מאוד. אם הוא היה מנסה דרך חדשה לשדוד בנק והיה נכשל, "סביר להניח שהייתי מסיים בכלא או במצב גרוע מכך". ברשת, "הם לא מתמודדים עם אותן השלכות".
2. מה הופך סוכנים AI לסוג אחר של משטח התקפה?
משטח התקפה חדש זה פועל באופן עצמאי: סוכנים, הכישורים שהם טוענים, והגישה שהם צוברים ומקבצים.
הפיתוח אכן הפך (או סוף סוף?) למפעל תוכנה שבו סוכנים כותבים את הקוד וניגשים לכל מה שהם צריכים, וכל מה שהם מגיעים אליו הופך למשטח התקפה. כישורי סוכנים הם הדוגמה המובהקת ביותר, מכיוון שהם כתובים באנגלית פשוטה וכפי שאמר Manoj, "שלוש שורות באנגלית יכולות להפוך לתוכנה זדונית". מחקר ה-ToxicSkills של Snyk מצא לפחות ליקוי אבטחה אחד ב-36.82% מתוך 3,984 כישורים שנסרקו, בנוסף ל-76 מטענים זדוניים מאושרים. פרסום אחד ב-ClawHub דרש רק קובץ Markdown וחשבון GitHub בן שבוע.
Hultquist הוסיף את נקודת המבט של התוקף. גורמי איום העדיפו בדרך כלל להשתמש במערכות אוטונומיות במקום לתקוף אותן, למעט יוצא מן הכלל אחד: כאשר אנשים העניקו לסוכנים אישיים גישה לכל תחומי חייהם, התוקפים "התמקדו בזה ברגע שזיהו את כל הזדמנויות הצבירה". מערכות פרוסות (deployed) הן השלב הבא, והתוקפים טרם תקפו אותן בהמוניהם, "אבל הם יעשו זאת", והגנה עליהן תדרוש "משטר אבטחה חדש לגמרי".
תקרית Hugging Face הראתה את הנוף מבפנים. ביולי, מודלים של OpenAI במסגרת הערכת אבטחת סייבר פנימית עקפו את הבקרות שנועדו לבודד אותם ופרצו ל-Hugging Face. הדו"ח של OpenAI עצמו מכנה זאת "יריית אזהרה". Michael D'Angelo סיכם את הסיבה בשני משפטים: "בצע את המשימה הזו, ותתוגמל. אז הם הלכו וביצעו את המשימה".
Manoj נגע בשורש הבעיה הפחות זוהר: "סודות שיושבים בחוץ וילד בן 14 עם כמה כלים ללא AI יכול לתקוף". הדו"ח מאשר את נקודת המוצא שלו: סוכן מצא אישורי Hugging Face חשופים לציבור ושיתף אותם עם סוכנים אחרים.
התשובה של Ed Sim היא לשלוט בסוכנים כמו המקורבים שהם, כל אחד עם זהות משלו, מסלול ביקורת וגישה שניתנת לעבודה שנעלמת עם סיום העבודה. החלק הלא פתור הוא הכוונה:
"אם המטרה שלי היא להפחית את עלות המחשוב שלי, מה יקרה בדרך אם אחליט להרוג כמה מאגרי ייצור כי הבנתי שזו דרך טובה להפחית את עלויות המחשוב? ובכן, עשיתי את העבודה שלי, לא?" Ed Sim, מיזמי boldstart
וכאשר AI עובר לתוך שבבים, מכשירים ורובוטים, Ed שאל, "מי הולך לאבטח את הקושחה, את חומרי השבב, את כל האינטליגנציה המוטבעת?"
3. מדוע הפך התיקון לצוואר הבקבוק?
מציאת נקודות תורפה ממשיכה להיות זולה יותר, ותיקון שלהן לא עמד בקצב מבחינת המהירות. מעבדת גבול, צוות מודיעין איומים ו-Snyk רואים את אותו פער, אבל מצדדים שונים.
מייקל עקב אחר האבולוציה של איתור פגיעויות, מ-fuzzers לבדיקות דינמיות ועד לרתמות (harnesses) של סוכנים. החלק הקשה מגיע לאחר מכן, וזו לרוב "בעיה פוליטית": צוותים מוצאים יותר ממה שהם יכולים לנתב, והתוצאה היא "פינג פונג של תיקונים", שרשור Slack על "מי עושה מה, מתי ואיך", שבו "אם זה נשבר, זה באחריותך".
Hultquist למד זאת ב-Google עם Big Sleep, פרויקט לאיתור פגיעויות שנבנה סביב רתמת AI, שספג ביקורת ברשתות החברתיות על כך שהטיל את נטל התיקון על אנשים שמתחזקים קוד פתוח בסופי השבוע שלהם. "זה לא מספיק רק למצוא את הדברים האלה", אמר. אם נותנים לחברה יום אפס (zero-day) שתוקף כבר מנצל, התשובה היא לרוב "זה ייקח זמן". איתור ותיקון הם שני צדדים של אותו מטבע, לדבריו, ו"אם לא עושים את שניהם, אי אפשר לעמוד בקצב".
Manoj הצביע על Project Glasswing, שם העדכון של Anthropic עצמו אומר שהתקדמות באבטחת התוכנה "בעבר הייתה מוגבלת על ידי המהירות שבה יכולנו למצוא פרצות חדשות. כעת היא מוגבלת על ידי כמה מהר אנחנו יכולים לאמת, לחשוף ולתקן את המספר הגדול של הפגיעויות שנמצאו על ידי AI".
הוא מגדיר את היכולת האנושית לבצע תעדוף ותיקון כצוואר הבקבוק. נכון ל-22 במאי, בתחילת חלון החשיפה של 90 יום, מתחזקי קוד פתוח תיקנו 75 מתוך 530 באגים בעלי חומרה גבוהה או קריטית ש-Anthropic דיווחה עליהם.
המדד החשוב באמת, אמר Manoj, הוא "תיקונים שמגיעים לייצור". מחקר ה-VulnBump של Snyk, שפורסם גם הוא אתמול ב-15 באוקטובר, מתחיל מאותו פער: במשך שישה חודשים בשנת 2026, Snyk Open Source רשם 459 מיליון ממצאי פגיעות בקרב כ-300,000 ארגונים, ובעוד ש-94% מהם כללו גרסה מתוקנת ידועה, רק כ-10% מהם נפתרו בפועל. המדד מחשיב תיקון רק אם הפגיעות נעלמה והפרויקט עדיין ניתן להתקנה, בנייה ועובר את הבדיקות שלו. (ה-Evo Remediation Agent של Snyk עמד ברף זה ב-90.2% מתוך 307 שדרוגי תלויות אמיתיים).
הנקודה החשובה יותר שלו הייתה היכן לשבור את הלולאה. "כל המשחק השתנה לנקודת היצירה", שם "סוכנים הם השחקנים", והמפתחים מספקים את הכוונה. מנע שם ותקן עם ההקשר הזה, או הישאר ב"לולאה האינסופית והמתה הזו של איתור ותיקון".
4. האם תעדוף עדיין עובד כאשר AI יכול לשלשל את הזנב הארוך?
תעדוף הוא פתרון עוקף לרוחב הפס האנושי, ו-AI לומד לנצל אותו.
העצה הסטנדרטית Manoj לא מסכימה איתה היא תעדוף הקשרי: קריאת אותות לבחירת 10 הבעיות ששווה לתקן מתוך 100 היא איך התעשייה עובדת, אבל זה קיים רק כדי להתאים את העבודה לאנשים הזמינים. לתוקף אוטונומי אין תקציב כזה.
"אנחנו צריכים להסתכל על כל ה-100. תגיע לנקודה שבה אתה יכול לתקן הכל. כי 10 הדברים האלה הולכים להפוך ל-100 דברים לפני שאתה יודע זאת." Manoj Nair, Snyk
הזנב הארוך חשוב כי ה-AI משרשר אותו: AI מבצע הסקה לאורך שלבים, אמר Manoj, כך שהוא יכול לשרשר חמש או שש פגיעויות מהאחוזון ה-99 של הרשימה שלך – אלו "שאמרת שלעולם לא תגיע אליהן כי אין לך מספיק כוח אדם לתקן אותן" – לאירוע חמור אחד. במאמר ש-Michael ציטט, Greg Brockman מתאר את הפריצה ל-Hugging Face באותו אופן: קולקטיב סוכנים ש"משרשר יחד פגיעויות החל מפגמי אבטחה לא ידועים ועד שימוש באישורי גישה לחשבונות משתמש שהודלפו לאינטרנט".
החצי השני של הטיעון של Manoj הוא תרבותי. לאורך כל הקריירה שלו, הפשרה נעה לכיוון אחד: סיכון תפעולי הוא בלתי קביל, לכן האבטחה מחכה. בחדר עם מאות מנהלי אבטחה (CISOs) שבוע קודם לכן, הוא שמע שינוי מגמה, לעבר מנהיגים שמוכנים להוריד אפליקציה לזמן קצר כדי להסיר סיכון אבטחה. "משהו עשוי להיות לא מקוון לזמן קצר, אבל הוא יחזור. זה עדיף על פני תיקון בטוח להפליא שלוקח שנה".
5. איך נראית הגנה על מהירות מכונה, ולאן מתאימים בני אדם?
ההגנה צריכה לנוע באותה מהירות כמו ההתקפה, מה שאומר שסוכנים עושים את רוב העבודה ואנשים עושים את השיפוט.
Hultquist הבחין בין שני סוגי תוקפים. יש את צוותי הריגול שנשארים "נמוכים ואיטיים", וחיים בתוך הרשתות במשך שנים. ומצד שני, יש את הפושעים שמבצעים סחיטה, שם המהירות היא קריטית: "יש מרוץ בינך לביני, כדי שאשיג את כל מה שאני צריך בשביל לסחוט אותך לפני שתוכל לעצור אותי".
"הממוצע SOC עם בן אדם בלולאה לא יצליח לעמוד בקצב הזה. SOC יצטרך לנקוט בפעולות בעצמו, או שאתה פשוט הולך לקבל שיחה." John Hultquist, Google Threat Intelligence Group
Ed Sim רוצה שהמגנים יבנו "מפעל הגנה על תוכנה באותו אופן שבו מתכנתים בונים מפעלי קידוד", ורובם טרם התחילו: למרות כל הדיבורים על הגנה אוטונומית, "99% מהחברות לא עושות זאת כלל". OpenAI מתקדמת יותר, שכן לדבריה כמעט כל התראות האבטחה הראשוניות שלה נבדקות על ידי AI לפני שבן אדם נכנס ללולאה. "אין לנו את 5 השנים שחשבנו שיש לנו. יש לנו בערך 5 ימים", אמר Ed. מנהלי אבטחה (CISOs) לא ששים לתת לסוכנים סמכויות, "אבל הם ייאלצו לעשות זאת בשלב מסוים". Hultquist צופה שתקריות יאלצו את הנושא: "במקרים רבים, הכסף לא זורם עד שיש קריאת השכמה".