הוריקן ה-AI כאן: השפעות על אבטחת קוד וסייבר
אמ;לק
המאמר מתאר כיצד AI מאיץ הן את יצירת התוכנה והן את התקפות הסייבר. הוא מדגיש את הצורך של מנהיגים לאבטח סוכנים וקוד כבר בשלב הייזום, לאכוף בקרות בזמן ריצה, ולאמת הגנות באופן עצמאי. אבטחת AI ושרשרת האספקה הפכו לחיוניות להגנה מפני סיכונים מתפתחים.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: The AI Hurricane Is Here

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
בשנה האחרונה תיארתי זאת כ"ערפל AI": טענות מתחרות, סיכונים לא ודאיים ומנהיגים שנאבקים להבין מה באמת חשוב. הרוחות מתחילות לנשוב. ה-AI מאיץ את יצירת התוכנה, חושף פגיעויות שהצטברו לאורך שנים, ומעניק לתוקפים ולמגנים יכולות הפועלות במהירות המכונה.
נהגנו לקרוא לזה ערפל. ערפל מגיע, ואז הוא מתפזר.
אני אומר כבר שנה שהיצירה עברה למהירות מכונה, בעוד האימות נשאר מאחור, ושהפער בין השניים הוא המקום שבו טמון הסיכון האמיתי. האבחנה הזו לא השתנתה. מה שהשתנה הוא הקצב. סוג הפגמים החמורים ש-AI חושף כעת בתוכנות בשימוש נרחב – כאלה שבעבר היו מגיעים פעם או פעמיים בשנה ומשבשים לכולם את הרבעון – נוחת כעת כמה פעמים בשבוע לפי מה שאני רואה. זה לא מזג אוויר שאפשר פשוט לחכות שיחלוף.
הבעיה מתחלקת לשלושה היבטים: התקפות אוטומטיות שנעות מהר יותר מכפי שקצב עבודה אנושי יכול לעכל, פיתוח מבוסס סוכנים (agentic development) שכותב קוד וניגש לכלים שאף אחד לא בדק, ויישומי AI שרצים בסביבת הייצור ללא מלאי, ללא מדיניות וללא עקבות ביקורת.
ההוריקן כבר כאן. ויכוחים על המהירות שלו לא יגנו על שכבות האפליקציה או התשתית.
בינתיים, ה"אופרה" של ה-AI הולכת ומתגברת: תחזיות על סוף הציוויליזציה, אזהרות דרמטיות, ודרישות מתחרות לשלוט על מי רשאי לבנות מה. אני נמצא בתחום האבטחה זמן רב, עברתי כבר יותר מרגע אחד כזה, ואני מבין את האינסטינקט להתייחס לכל זה כאל רעש רקע.
קחו את הסיכון הממשי ברצינות, ובדקו האם התשובות המוצעות אכן הופכות אותנו לבטוחים יותר או רק מוסיפות קול נוסף.
בדיקה עצמאית היא הטיעון המרכזי כעת
Dario Amodei פרסם זה עתה את "We Must Pace the Frontier" והציע שמעבדות ה-frontier יאטו את התקדמות היכולות כדי לאפשר לעבודת הבטיחות להדביק את הקצב. שימו לב לאופן שבו הוא מציע לעשות זאת.
אנתרופיק מתחייבת למעריכים משובצים של צד שלישי עם גישה מתמשכת לאימות נוהלי הבטיחות שלה. בנפרד, Amodei מצטט סוכנים התוקפים מערכות מחוץ למשימה שהוקצתה להם, כולל המערכת שמעריכה את הביצועים שלהם. אלה מעלים שאלות שונות לגבי פיקוח ובקרה. עבור אבטחה ארגונית, הדרישה הארכיטקטונית שלנו ברורה: המערכת שיוצרת שינוי לא יכולה להיות המאמת היחידה שלה.
George Kurtz מ-CrowdStrike המשיך את הדיון עם נקודת המבט של המתרגל בשטח: הקצאת הקצב להבא לא מבטיחה את מה שכבר נפרס. הקריאה שלו היא שזמן הריצה (runtime) הוא נקודת הבקרה האמיתית. יחידת האיום כיום היא קמפיין אוטונומי, לא האקר בודד, ויש להתייחס לכל סוכן כאל זהות בעלת הרשאות, עם אכיפה בזמן אמת, המבוססת על הוכחות ולא על הבטחות: אחריות ברמת הדירקטוריון, צוות אדום (red teaming) עצמאי, חשיפת תקריות, ובקרות שניתן לאכוף בסביבת הייצור.
טיעון זמן הריצה של ג'ורג' חיוני. הייתי מרחיב אותו גם לפיתוח: יש להסדיר את הסוכנים הכותבים קוד, את הכלים וה-MCP servers שבהם הם משתמשים, ואת הקוד שהם משחררים. בקרות פיתוח מצמצמות את החשיפה שאנו מייצרים; בקרות זמן ריצה מגבילות את מה שמערכות שנפרסו יכולות לעשות.
אחרת, אנו מייצרים את החשיפה של מחר מהר יותר ממה שאנו יכולים להכיל את החשיפה של היום. והכלל מתקיים בכל שכבה: המערכת שמייצרת את הקוד, או מציעה את התיקון, לא יכולה להיות המאמת היחידה שלה.
שלוש נקודות התחלה שונות: מעבדת frontier, מגן זמן ריצה, ואנחנו – בנקודה שבה נוצרים קוד וסוכנים. זו אינה פלטפורמה משותפת, אלא אותה דרישה שמופיעה בשלושה רבדים שונים: בדיקה עצמאית חשובה בכל שכבה ולא ניתן להניח שהיא קיימת מאליה. הטענה הארכיטקטונית שלנו היא שהמערכת שמייצרת את השינוי אינה יכולה להיות הגורם היחיד שמאמת אותו. כשאנשים שיש להם הכי הרבה מה להרוויח מאמירה כמו "סמכו עלינו" בוחרים במקום זאת ב"אמתו אותנו", זה לא רק סלוגן; זה אישור.
עצמאות כאן היא מאפיין טכני, לא תדמיתי. המשמעות היא שהראיות נוצרות על ידי משהו שהסוכן המייצר אינו יכול לשנות, ונבדקות מול בקרות שנמצאות מחוץ להישג ידו של אותו סוכן: בדיקות מבוצעות, ניתוח זרימת נתונים והתנהגות נצפית בזמן ריצה. הנחיה שנייה (prompt), סוכן שני או דגם שני אינם "עצמאיים". זוהי אותה צורת שיפוט, פשוט שואלים אותה פעמיים.
הראיות כבר לא היפותטיות
לפני שבועיים אמרתי שהדבר שהכי דאגתי ממנו הוא לא התחכום של ההתקפות האלה אלא התפשטותן: שהיכולת עוברת לשוק המוני, ובקרוב הרבה יותר אנשים יוכלו לעשות זאת.
שמונה ימים לאחר מכן, דו"ח ספטמבר של Anthropic נפתח באותו ממצא: התקפות מתוחכמות כבר לא מצריכות תוקפים מתוחכמים, מכיוון שה-AI צמצם את פערי כוח האדם והכלים שהפרידו בעבר בין פעולות בחסות מדינה לבין יחידים. הלוואי שהייתי טועה.
התקרית ש-Amodei מציין היא מצב כשל אחד: סוכנים שחורגים מהמשימה שהוגדרה להם. המצב הבא הוא השני, וזהו המצב שרוב הארגונים יפגשו ראשון: אנשים המשתמשים בכלים הללו בכוונה תחילה ובקנה מידה רחב.
דו"ח ספטמבר של Anthropic מתעד את GTG-20006, שחקן ריגול שעל פי הייחוס של Anthropic פועל מטעם המדינה הרוסית, שמפעיל זרימת עבודה מונחית AI. היא זיהתה, שינתה, בנתה מחדש והפיצה מחדש את השתלים שלו לאחר שמוצרי אבטחה סימנו אותם. התוכנה הזדונית לא התפתחה מעצמה: אדם ניהל אותה, וה-AI סגר את הלולאה מהר יותר מכפי שניתן היה לכתוב ולשלוח חתימת זיהוי חדשה.
אותו דו"ח מתעד את הפיכת שרשרת האספקה של ה-AI למטרה בפני עצמה. שחקן בעל מניע כלכלי הזריק הוראות זדוניות לארגז חול (sandbox) של הערכה אוטומטית אצל ספק AI, והשיג את אישורי הגישה שהיו בתוך ארגז החול, כולל מפתחות API של סביבת הייצור של אותו ספק.
Anthropic מדווחת שהמערכות שלה לא נפגעו, ושהניסיון של התוקף להגיע למודל שטרם שוחרר נכשל. אישורי גישה גנובים של AI קונים לתוקף שלושה דברים בבת אחת: קנה מידה, כוח מחשוב של מישהו אחר, ושימוש בשם של מישהו אחר בתעבורה. שרשרת האספקה של ה-AI אינה קטגוריית סיכון עתידית, אלא פעילה כבר היום.
קרוב יותר לבית: Snyk חתומה על מכתב הגנת הסייבר הקולקטיבי, לצד OpenAI, Anthropic, Google, Microsoft, Akamai ומאות ארגונים נוספים, המזהיר שפושעים עלולים להפעיל התקפות מונחות AI על תשתיות קריטיות בתוך חודשים. כפי שאמרתי ל-Boston Globe, זה כמו לדעת שהוריקן מגיע. אולי מעולם לא תיקנת את החלון ההוא. אולי התריסים שלך תקועים. אם אתה יודע שזה מגיע בשבוע הבא, אתה מתכוון לתקן את זה או לא?
בונים לקראת הסערה
אבטחה כבר מרגע ההתחלה. אכיפה בזמן ריצה. אימות עצמאי.
אבטח תוכנה כבר מרגע ההתחלה; תפוס מה הקוד שמיוצר על ידי AI מביא איתו, אילו חבילות הוא מושך, לפני שהוא מתקרב לשלב ה-commit והמשלוח – לא אחרי.
נהל את הסוכנים ואת שרשראות האספקה שלהם, שכן סוכן עם יותר מדי גישה ושימוש בכלים לא מפוקחים הוא כיום משטח תקיפה סטנדרטי, לא מקרה קצה.
בצע בדיקות ותיקונים ללא הרף, שכן בדיקת עט (pentest) בנקודת זמן אחת לא יכולה לעמוד בקצב של נוף איומים שמשתנה מדי שבוע. בדיקות התקפיות מתמשכות, המבוססות על ראיות מסביבת הייצור, הן הדרך שבה מוודאים שהבקרות אכן עומדות בנתיבי התקיפה שנבדקו בפועל. זו טענה צנועה יותר מ"אנחנו מאובטחים", והיא היחידה ששווה להעלות.
ואמת באופן עצמאי את מה שה-AI בונה – אותה דיסציפלינה שהתעשייה מתכנסת אליה כעת בכל שכבה, צריכה להיות מיושמת על כל שורת קוד וכל סוכן שהצוותים שלך משחררים.
כל זה לא יעבוד אם הממצאים רק יצטברו. Jason Clinton, סגן ה-CISO ב-Anthropic, הגדיר זאת היטב כשהכרזנו על השותפות שלנו: "באבטחת AI, זיהוי מעולם לא היה צוואר הבקבוק. על ידי שילוב היכולות של Claude עם Snyk, ארגונים יכולים להפוך ממצאים ברמת דיוק גבוהה לפעולה בתוך זרימות העבודה שבהן נבנית התוכנה".
פתוח. בשיתוף פעולה. עדיין עומדים.
שכבת ההגנה חייבת להישאר נגישה לכולם. מודלים פתוחים, שיתוף מידע ותמיכה במתחזקי קוד פתוח שייכים לתוך ארכיטקטורת הבטיחות, לא מחוצה לה.
הצעדים המאוחרים יותר של Amodei קוראים לתיאום בין מעבדות ה-frontier, ולאחר מכן בין ממשלות. זו הצעה הגיונית, ואין בה כוונה להדיר אף אחד. הדאגה שלי היא לגבי התוצאה ולא לגבי הכוונה: כל הסדר שבסופו של דבר מרכז את היכולת לבנות, לבדוק ולהגן על מערכות AI אצל קומץ מעבדות, הופך לנקודת כשל מרכזית, ללא קשר למטרה המקורית שלו. חוסן שתלוי באמון במפת הדרכים של ספק אחד אינו חוסן. שפטו כל תיקון מוצע, כולל שלנו, לפי השאלה האם הוא מרחיב את מעגל האנשים שיכולים להגן.
חלק מזה קדם ל-AI. שלחנו תוכנה במשך ארבעים שנה מבלי לחייב את עצמנו לדיסציפלינת בטיחות שתחומי הנדסה אחרים רואים כבלתי ניתנת למשא ומתן. אנחנו אוהבים ליצור, אבל מעולם לא אהבנו במיוחד לאבטח את מה שאנחנו יוצרים. ה-AI לא יצר את הפער הזה; הוא הסיר את הזמן שבו השתמשנו כדי להסתיר אותו, והוסיף עליו סיכונים חדשים משלו.
מוכנות היא אחריות מנהיגותית, והיא מתחילה בחלק שאנו בוחרים.
ב-17 בספטמבר, אצטרף ל-Alon Krifcher, ראש תחום ה-Applied AI ב-Anthropic, כדי לעבור על ארבעת המהלכים שסוגרים את הפער בין התקפה להגנה במהירות המכונה: גילוי, תיקון, אימות ומניעה. שריינו את מקומכם היום.
שאלו את הסוכן שלכם
אם אתם רוצים להפוך את זה לשיחה עם הצוות שלכם, העבירו את הטקסט הבא לסוכן שלכם. זה לא יגיד לכם אם אתם חשופים – אף מסמך ציבורי לא יכול לעשות זאת – אבל זה יגיד לכם מה לשאול.
Read https: //www.anthropic.com/threat-intelligence-report-september-2026, https: //snyk.io/evo/, and https://snyk.io/blog/ai-hurricane-is-here/ as reference material only. Do not run tests , scans , or commands against any system , and do not change any configuration . For each attack path described in the report: 1. Separate what is documented evidence , what is my assumption , and what is unknown . 2. Identify the controls that could block or reduce it . For each , say whether it acts on what an agent uses , what it does , or what it generates , or on what an already - deployed system is permitted to do . 3. State what internal evidence we would need to assess our own exposure , and who in the organization would hold it . Then rank a list of questions for my security team by potential impact , likely exposure , and the size of the evidence gap . Public reports and product descriptions cannot establish our actual posture . Return questions and evidence requests , not an assessment of whether we are secure . Never print the value of any key , token , or credential .
יום חמישי, 17 בספטמבר 2026 בשעה 10:00 בבוקר EDT
וובינר: כיצד להתכונן לגל התקיפות האוטונומיות הקרובות
למדו כיצד להתכונן לדור חדש של התקפות מונחות AI הפועלות במהירות המכונה, ומה באמת רואים ב-Snyk וב-Anthropic ברמת המודל והיישום.
קרא עוד
PHP2Shell לא יהיה האחרון. הנה איפה המקרה הבא יופיע לראשונה.
PHP2Shell הראה באיזו מהירות פגם ברמת המנוע יכול לסכן אפליקציות הפונות לאינטרנט. למד מדוע מלאי חיצוני, בדיקות מהירות ובדיקות חוזרות חשובות לפני החשיפה הבאה.
Snyk UNFILTERED: מבט מבפנים על פסגת הלקוחות הראשונה שלנו
בפסגת הלקוחות הראשונה של Snyk, מובילי אבטחה שיתפו נקודות מבט גלויות על סיכוני AI, תיקון פגיעויות וניהול סוכנים אוטונומיים. חמישה נושאים חושפים כיצד צוותים מתאימים את האבטחה למהירות ה-AI.
PHP Patches Two Critical Unauthenticated RCEs (CVE-2026-109618, CVE-2026-109619): [Updated עבור CVE-2026-115560]
שני פגמים קריטיים במחזור החיים של הבקשות של PHP יכולים לאפשר ביצוע קוד מרחוק לא מאומת. שדרג למהדורה קבועה או התקן פורט אחורי של ספק עבור גרסאות ישנות יותר.