חזרה לפיד
articlesמקור: Snyk Blog8.8.2024

תובנות מומחה אבטחה על AI גנרטיבי לפי Gartner - חלק 2

אמ;לק

דוח Gartner מצביע על כך ששקיפות AI היא אתגר נפוץ בארגונים רבים. המאמר מפרט כיצד Snyk Code עם יכולות SAST משולבות AI מסייעת בשיפור אבטחת AI וקידוד.

סיכום בעברית: מערכת VibeSec · מדיניות המקורות

נוסף ל-VibeSec:

כותרת מקורית: A security expert’s view on Gartner’s generative AI insights - Part 2

תובנות מומחה אבטחה על AI גנרטיבי לפי Gartner - חלק 2

התוכן המלא בעברית

תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.

ברוכים הבאים לחלק השני של הספיישל שלנו בשני חלקים על הדוח של Gartner, "4 Ways Generative AI Will Impact CISOs and Their Teams"! אם פספסתם את החלק הראשון על הרכב הדגם, תוכלו לקרוא אותו כאן. היום נחקור מדוע מומחיות באבטחה חשובה בכלי אבטחה מבוססי AI, במיוחד כשמדובר באיכות ה-AI.

למה ההתמחות של המומחים?

התמחות לטיפול במורכבות

אבטחה היא תחום מורכב ביותר, ואיכות הקוד היא סיפור אחר לגמרי. ההמלצה של הדו"ח לפיה עסקים צריכים "לבחור מודלים מכוונים או מיוחדים שמתואמים למקרה השימוש האבטחתי הרלוונטי או לצוותים מתקדמים יותר" היא בדיוק מה שאנחנו עושים ודוגלים בו. גרטנר מציינת גם כי "אבטחת סייבר המבוססת על AI יוצר (Generative AI) עבור תוכן בזמן אמת (למשל, נתונים במעבר, תעבורת רשת) עשויה להגיע מאוחר יותר, כיוון שהיא צפויה לדרוש מודלים מיוחדים (ואולי קטנים יותר) שמאומנים על נתונים כאלה". אנחנו מסכימים לחלוטין, עם מודל ה-AI המותאם שלנו שאומן על נתונים ספציפיים. למעשה, סיפקנו את יכולות ה-Generative AI לאבטחת סייבר על קוד בזמן אמת עוד לפני פרסום הדו"ח, כשהכרזנו ב-7 ביוני 2023 על Snyk Agent Fix, תכונת התיקון האוטומטי בזמן אמת שלנו בלחיצה אחת בתוך ה-IDE עבור כלי ה-Snyk Code SAST שלנו.

לא רק שהמודל שלנו מותאם אישית לאבטחה, הוא גם קנייני – מה שמאפשר ל-Snyk להישאר בלתי תלויה במותגים של עוזרי קידוד מבוססי AI. מה זה אומר? ובכן, כלי האבטחה או רכיבי תיקון הקוד שנוצרו על ידי אותן חברות שיצרו עוזרי קידוד מבוססי AI, מסתמכים על אותם מודלי שפה (LLMs) שעליהם נשענים אותם עוזרים. מודלים אלה אומנו עבור פונקציונליות קוד, לא עבור אבטחה. המודל שלנו נוצר ואומן במיוחד עבור אבטחת קוד. לכן, התיקונים שלנו אמינים יותר מאלה שנוצרים על ידי מודל שפה "כללי" יותר.

מומחיות אבטחה - גורם מבדל מרכזי

בעוד שההערות של הדו"ח לגבי עוזרי קוד מאובטח המכוונים למקרי שימוש עבור צוותי פיתוח או צוותי אבטחה נכונות במידה רבה, Snyk שוברת את המוסכמות. אנו מאמינים שהתמחות היא הדבר החשוב ביותר שמייחד כלי אבטחה מהשאר, ואיכות זו היא שמאפשרת לנו לספק את צורכיהם של המפתחים ושל אנשי האבטחה כאחד. הניסיון שלנו הראה שההבנה העמוקה שלנו באבטחת יישומים אפשרה לנו ליצור כלי שמשתלב בהצלחה בעבודתם של צוותי אבטחה וצוותי פיתוח כאחד, תוך מענה לצורך בדיוק חכם לצד מהירות ביצוע גבוהה.

דיוק נהיגה בשטח מורכב

אבטחת AI היא תחום נישה מאוד, ולא קל לזהות בו בעיות אבטחה, אך הדיוק הוא קריטי. השיטות שבהן משתמשים בעת פיתוח מודל AI תורמות רבות לחוסן של כלי האבטחה. הטכנולוגיה והתהליכים שלנו נולדו מתוך הידע הקולקטיבי שלנו, וזה בסופו של דבר הסיבה לכך שאנו מציעים תוצאות מדויקות ויעילות יותר.

הפיכת המפתחים למרוצים באמצעות תעדוף תיקונים

העובדה שנתוני האימון, התהליכים והתפוקות עוברים כיוונון מתמיד על ידי מומחי אבטחה, מביאה לכלי מבוסס AI הממוקד באופן חד ומדויק באבטחה אסטרטגית. המשמעות היא איתור ותיקון של בעיות הקשורות לקוד בעל השפעה ומשמעות אבטחתית. במקום להציף צוותים ברשימה הולכת וגדלה של פגיעויות, כלי אבטחת קוד צריכים להציע לך אפשרות ליצור כללים מותאמים אישית כדי לסנן את התוצאות שברצונך לראות בהתאם למדיניות הארגונית שלך. כמו כן, הם צריכים להציג דוחות מרכזיים על בעיות אבטחה בין צוותים שונים, כך שאנשים יוכלו להתמקד בתיקון הבעיות בעלות ההשפעה הגדולה ביותר והייחודיות ביותר לעסק.

משמח את צוותי האבטחה עם נראות והגנה מלאה של האפליקציה

בדו"ח, Gartner צופה שאם ה-Generative AI יהפוך מיומן יותר ויותר בחשיפת פגיעויות חדשות בקוד, "התקפות יום אפס (כלומר, התקפות המנצלות פגיעויות שלא נחשפו) יהפכו נפוצות יותר" וכי "דבר זה יאיץ פיתוח של יותר התקפות שרשרת אספקה נגד יישומים מורשים הנמצאים בשימוש נרחב. זה כנראה יהיה תחום שבו יידרש מענה תגובתי מהיר. לכן, ארגוני משתמשי קצה צריכים... להעריך כלים ושירותים לניטור התלויות בתוכנה שלהם".

זה לא אם, אלא מתי, ⁦AI⁩ גנרטיבי יתחיל להאיץ אירועי תקיפה של אפס יום. לכן, כלי אבטחה המגן על ארגונים לאורך מחזור החיים של פיתוח התוכנה, עם אינטגרציות מקוריות וסקירה עקבית ומקיפה של תוכנית האבטחה שלך, יעניק לעסקים יתרון תחרותי.

מועיל, ⁦Snyk⁩ לוכד ומנטרל באופן יזום סיכונים ב-⁦IDE⁩ לפני שהם מתרבים בצינור שלך, וזה גם ממשיך להגן על עסקים לאורך מחזור החיים של פיתוח התוכנה. לדוגמה, ⁦Snyk Open Source⁩ מאפשר יצירה קלה של ⁦SBOMs⁩ ושימוש בנתונים שבתוכו לקבלת תובנות שימושיות. המהירות הנתמכת על ידי מומחים וכיסוי מקצה לקצה של Snyk ⁦AI-powered⁩ הוכחו לאחרונה על ידי גילוי מוקדם שלנו של ⁦Leaky Vessels⁩ פגיעות יום אפס.

הגנה מפני סיכונים לא ידועים כמו פגיעויות יום אפס היא משימה מורכבת, אך ניתן לנהל את מידת הכאוס שפוגשים כשהבלתי צפוי קורה, באמצעות תכנון ומבנה. קבלת סקירה כללית של מצב האבטחה והתוכנית שלך, הבנת הצלחתה, זיהוי הפערים ומגמות בבעיות ובתיקונים עוזרת למנהלים בקבלת החלטות, ביצירת אסטרטגיה ובתכנון לעתיד לא ברור. חלומו של כל מי שמנהל סיכונים הוא להיות מסוגל לראות, ללכוד ולנטרל את כל הסיכונים המועדפים ברחבי הארגון. כל היתרונות שדיברנו עליהם מקדמים אותך חלק מהדרך, אבל כל מומחה אבטחה יגיד לך שיש בעיה נוספת של ניהול שפע של כלים נפרדים (במיוחד עם המורכבות הנוספת של נכסי AI) ללא תצוגה עקבית ומאוחדת שנותנת לך גם את התמונה הגדולה וגם תוצאות מפורטות של תוכנית האבטחה שלך. ההתמקדות באבטחה של Snyk הובילה אותנו לחפש דרכים לפתור את הבעיה הזו – וכך נוצרה Snyk AppRisk. AppRisk נותנת לך מבט ממעוף הציפור על כל תוכנית האבטחה שלך כדי לראות אילו סריקות רצות והיכן (והאם הן מופעלות כפי שהן אמורות), עד לרמת הצוותים או חברי הצוות האחראים לכל נושא, כך שתוכל לסגור פערים ולנקוט בגישה הוליסטית, מקיפה ואסטרטגית לטווח ארוך בנוגע למצב האבטחה שלך. אנחנו לא יכולים לכסות כל תרחיש אפשרי, אבל אנחנו בהחלט יכולים לעזור לך להיות מוכן יותר לבלתי נודע.

אז מה צופן העתיד עבור ⁦AI⁩ בתחום אבטחת הסייבר?

כלי עצמאי עם מודל ⁦AI⁩ היברידי הנתמך באופן נרחב בידע מומחים אנושי עמוק, ⁦Snyk⁩ מניע דיוק, מקדם גישה ארוכת טווח, מונחית מומחה והוליסטית לאבטחה, ושואף לשמור על סטנדרטים חסרי פניות בסקירת הקוד שלו על ידי הישארות בלתי קשורה לספקי עוזרי קידוד. מכיוון שאנו כל הזמן מסתכלים קדימה אל העתיד, נשארנו מספר צעדים לפני השינויים בתעשייה, חלוציות של גישות אבטחת יישומים שיטות עבודה מומלצות שמקודמות כעת על ידי ⁦Gartner⁩.

אז מה הלאה עבור ⁦Snyk⁩? כאשר ⁦AI⁩ מתפתח כל כך מהר, קשה לומר במדויק מה מישהו יעשה בעוד 12 חודשים, אבל אנחנו בונים לקראת התאמה אישית עמוקה וזרימות עבודה משולבות יותר ויותר, ואתה יכול להיות בטוח שנמשיך לאבטח את היישומים שלך, בין אם ⁦AI-powered⁩ או לא.

החזון שלנו הוא להניע את גל החדשנות על ידי סיוע לצוותים לאמץ AI בקלות, ללא העומס המנטלי הכרוך בדאגה לגבי מידת האבטחה. סמוך על רמת האבטחה שלך, ותוכל להיות בטוח ב-AI שלך. עם פתרון האבטחה הנכון ושותף האבטחה המתאים ל-AI שלך, תוכל סוף סוף לחדש בחופשיות.

מוכן להתקרב אל ⁦AI⁩ בבטחה?

הורד את מדריך הקונים שלנו לאבטחת קוד המבוסס על Generative AI כדי להתחיל לאמץ כלי קידוד של AI יוצר, כמו GitHub Copilot, Google Gemini ו-Amazon CodeWhisperer, ללא סיכון.

קרא עוד

סניק ⁦UNFILTERED⁩: ⁦Inside Our First-Ever Customer Summit⁩

בפסגת הלקוחות הראשונה של Snyk, מנהיגי אבטחה חלקו נקודות מבט כנות על סיכוני AI, תיקון פגיעויות וניהול סוכנים אוטונומיים. חמישה נושאים חושפים כיצד צוותים מתאימים את האבטחה למהירות של ה-AI.

⁦Turn Your Vulnerability Backlog Into Pull Requests With Agentic Remediation⁩

ה-Evo Remediation Agent נמצא כעת ב-Open Preview, ומביא יכולות פתרון תלויות אוטומטי ל-Evo Agentic AppSec. צוותי AppSec יכולים כעת להפעיל תיקון מתמשך.

⁦AI⁩ ⁦Model Risk Depends⁩ על What the ⁦Model Can Reach⁩

ציון הסיכון של מודל הוא רק חלק מהתמונה: ההשפעה שלו תלויה בנתונים, בכלים ובפעולות שהיישום שלו יכול להגיע אליהם. למד כיצד צוותי אבטחה יכולים לאמת טווח הגעה זה ולבחור בקרות ממוקדות.

#ai-security#generative-ai#sast#llm-assisted-development
קרא במקור