אבטחה בעידן ה-AI: תובנות מהשטח

מה קורה כשמקבצים בחדר אחד מובילי אבטחה מכמה מהארגונים החדשניים ביותר בעולם, סוגרים את הדלתות ומזמינים אותם לדבר בכנות על מה שעובד, מה נשבר ומה הם עדיין מנסים לפצח?

זה מה שיצאנו לגלות ב-Snyk UNFILTERED, פסגת הלקוחות הראשונה שלנו. האירוע נערך ב-San Francisco לקראת ההשקה של Evo Agentic AppSec ופסגת ה-AI Security Summit, ותוכנן כך שלא ירגיש כמו כנס רגיל.

ריכזנו קבוצה קטנה של מובילי אבטחה מקהילת הלקוחות שלנו לאחר צהריים של דיונים גלויים, שיחות אינטראקטיביות והחלפת דעות בין עמיתים. ללא מצגות מסורתיות, הדגמות מוצר או נקודות דיבור משוננות, הפסגה העניקה למשתתפים את החופש לשתף בחוויותיהם ללא ייחוס. מה שבא לאחר מכן היה חילופי רעיונות פתוחים בנוגע לאתגרים ולהזדמנויות המעצבים את עתיד האבטחה של ה-AI. המובילים השוו רשמים על השקות בפועל, מחסומים אמיתיים ושאלות שטרם מצאו להן פתרון, וכל זאת ברמת שקיפות שקשה למצוא באירועי תעשייה מסורתיים.

מהצטברות נקודות התורפה (backlog) ועד לניהול סוכנים אוטונומיים, המשתתפים קראו תיגר על מוסכמות, השוו חוויות מהעולם האמיתי וחקרו שאלות שהתעשייה עדיין מחפשת להן תשובות. ושם בדיוק החלו השיחות החשובות ביותר.

חמש תובנות מרכזיות שנשארו איתנו

חמישה נושאים המשיכו לצוץ במהלך אחר הצהריים, על פני כל שולחן וכל דיון:

1. כאשר ⁦AI⁩ כותב את הקוד, מי הבעלים של הסיכון?

אם מהנדס מנחה כלי AI לבנות מיומנות (skill) עבור סוכן ומיומנות זו גורמת לבעיה מאוחר יותר, מי נושא באחריות? בחדר חזרו שוב ושוב על חשיבותם של מעקות הבטיחות (guardrails): בקרות ברורות ובעלות על תהליכים, שנשארות בתוקף גם כשלא הוקלדה שורת קוד על ידי אדם.

2. השיחה על AI התבגרה

רק לפני כמה חודשים, השאלות נסובו סביב עלויות ושימוש בטוקנים. כיום, ההנהלה רוצה לדעת מהו ההחזר על ההשקעה (ROI), מהו העלות האמיתית של ה-AI והיכן להציב תקרות תקציב. ה-AI עבר משלב הניסוי לפריט תקציבי קבוע הנתון לבחינה מדוקדקת.

3. מציאת נקודות תורפה היא רק חצי עבודה

איתור הבעיות הוא כבר לא צוואר הבקבוק. השאלות עברו לאופן שבו צוותים מתקנים בעיות, למהירות התיקון, וכיצד לצמצם טעויות אנוש בתהליך. תיקונים שנתקעים בשלבי הבדיקה (review), ה-testing וה-merge היו תסכול משותף לכולם.

4. הסיכון יכול להגיע מכל מקום

כאשר לכל אחד בצוות יש גישה ל-AI, נקודות תורפה יכולות להגיע מכל מקום. דמוקרטיזציה של AI מפזרת גם את האחריות, והמשתתפים דנו בדרכים לשמור על אחריותיות של כולם מבלי לעכב אף אחד.

5. בני אדם יכולים לעשות רק כל כך הרבה

הצוותים מוגבלים בגלל כמות העבודה שאנשים יכולים לבדוק ולאשר. מובילים פתוחים למתן אמון בסוכנים, אך רק בכפוף לבקרות שסוכן אינו יכול לעקוף, ועם ממשל (governance) המיועד למכונות ולא כזה המותאם מתהליכים שנבנו עבור בני אדם.

משיחות UNFILTERED לעתיד של אבטחת AI

Snyk UNFILTERED היה רק תחילתו של שבוע חשוב ב-San Francisco. האתגרים שנדונו מאחורי דלתיים סגורות שיקפו שינוי רחב יותר המתרחש בתעשייה: צוותי אבטחה עוברים מעבר לזיהוי פשוט של סיכונים, לעבר הפיכת הארגונים ליכולת לבנות, לחדש ולפעול בבטחה במהירות של AI.

למחרת בבוקר השקנו את Evo Agentic AppSec, ופסגת ה-AI Security Summit ריכזה תחת קורת גג אחת בונים, חוקרים, משקיעים ו-CISOs. השאלות שעלו בחדר הלקוחות בנוגע לתיקון מהיר וניהול סוכנים הועברו ישירות לשיחות הללו. לשמוע את האתגרים הללו ישירות מהלקוחות זה מה שמעצב את המוצרים הבאים שלנו.

השיחות הטובות ביותר לא מסתיימות כשהאירוע מסתיים

המנהיגים בחדר מנווטים שינוי עצום. הם מאזנים בין חדשנות לבין אחריותיות ומבטיחים טכנולוגיות שמתפתחות מהר יותר מהתהליכים שנועדו לשלוט בהן. מה שהפך את אחר הצהריים לבעל ערך היה הנכונות שלהם לדבר בפתיחות על מה שעדיין לא פתרו. חללים כאלה הם נדירים, ואנחנו מתכננים להמשיך ליצור אותם.

⁦Snyk Unfiltered⁩ הוא חלק מהמחויבות שלנו לקרב את קהילת הלקוחות שלנו באמצעות שיחות גלויות ולמידה משותפת, וזה היה הראשון מני רבים.

רוצה להיות חלק מההמשך? מצא את האירוע הבא שלך.

קבל את התוכן העדכני ביותר לפי דרישה ומידע על אירועי לקוחות קרובים

קרא עוד

⁦Turn Your Vulnerability Backlog Into Pull Requests With Agentic Remediation⁩

ה-Evo Remediation Agent נמצא כעת ב-Open Preview, ומביא יכולות אוטומטיות לפתרון תלויות (dependency resolution) לתוך Evo Agentic AppSec. צוותי AppSec יכולים כעת להפעיל תהליכי תיקון מתמשכים.

סיכון מודל ה-AI תלוי במה שהמודל יכול להגיע אליו

ציון הסיכון של מודל הוא רק חלק מהתמונה: ההשפעה שלו תלויה בנתונים, בכלים ובפעולות שהיישום שלו יכול לגשת אליהם. למד כיצד צוותי אבטחה יכולים לאמת טווח גישה זה ולבחור בקרות ממוקדות.

AI חושף כל סיכון שקיבלת על עצמך: שבע תובנות מפאנל אבטחת ה-AI: UNFILTERED

ה-AI הופך התקפות לזולות ומהירות יותר, ובכך חושף סיכונים שארגונים כבר נושאים. ארבעה מובילי אבטחה משתפים מדוע הגנה במהירות המכונה ותיקון מהיר יותר הם כעת חיוניים.