מנהיגי טכנולוגיה באוסטרליה וניו זילנד בוחנים מחדש את הקשר בין AI, מהירות ואבטחה
אמ;לק
קצב השינויים הטכנולוגיים מואץ עם אימוץ AI, ומנהיגי טכנולוגיה באוסטרליה ובניו זילנד מתכננים השקעות משמעותיות ב-Generative AI. הדבר מפעיל לחץ רב על צוותי טכנולוגיה, אבטחה והנדסה להתמודד עם האתגרים החדשים.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Why ANZ Technology Leaders Are Rethinking How AI, Speed, and Security Intersect

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
קצב השינויים הטכנולוגיים הוא תמיד מהיר, אך עם ה-AI בכל מקום, הדברים עלו להילוך גבוה. באוסטרליה ובניו זילנד, עסקים מתכננים להשקיע סכומים משמעותיים ב-Generative AI — כ-15 מיליון דולר בממוצע, נתון הגבוה מהממוצע העולמי. מצב זה מפעיל לחץ עצום על מובילי טכנולוגיה, אבטחה והנדסה, שחייבים לחדש במהירות תוך התמודדות עם סיכונים מורכבים. דבר זה מאלץ אותם לחשוב מחדש על השילוב בין מהירות לבין אבטחה.
ארגונים באוסטרליה ובניו זילנד מתקדמים בשילוב של שאיפה וזהירות. בעוד שה-AI מביא עמו אפשרויות חדשות, הוא מציב גם אתגרי אבטחה ברורים. מנהיגים מתמודדים עם דילמות מהעולם האמיתי, שכן הם רוצים לרתום את ה-AI מבלי להרחיב את פערי האבטחה. האתגרים המקומיים כוללים:
• מחסור גדול בכשרונות (36% מהמקצועות ב-Australia הם במחסור).
גורם המעצים זאת הוא ספקנות עמוקה בנוגע לאבטחת AI. באוסטרליה, 74% מהמשיבים מדרגים כשלי אבטחה כדאגה העיקרית שלהם — שיעור גבוה משמעותית מהממוצע העולמי.
לחצים מרכזיים צפים כאשר מנהיגים מנסים לאזן בין חדשנות לבין אבטחה:
1. אימוץ AI מאובטח
החלום על כך ש-AI יכתוב קוד ויפעיל תוכנה הוא מרגש, אך קוד שנוצר על ידי AI לרוב כולל נקודות תורפה. ככל שארגונים מרחיבים את השימוש ב-AI ומשתמשים ביותר קוד פתוח, עליהם לנהל את הסיכונים בזהירות. ה-AI זקוק לבטיחות ושקיפות מובנית. מנהיגים חייבים להבטיח שאימוץ ה-AI לא יכניס סיכונים חדשים לשרשרת האספקה. בנוסף, הם עומדים בפני אתגר אמון: האוסטרלים סקפטיים לגבי AI.
2. מהירות ללא סיכון מוגבר
כלי AI כמו GitHub Copilot, Google Gemini ו-Cursor מבטיחים קידוד מהיר יותר. בדיקות מוקדמות ב-ANZ Bank הראו שמהנדסים הפכו למהירים עד 55%. אולם, מהירות זו עלולה להוביל לקוד פחות מאובטח; קוד שנוצר על ידי AI יכול להיות מסוכן, ומפתחים עלולים לסמוך עליו יותר מדי. מחקרים מראים שחלק ניכר מהקוד שנוצר על ידי AI הוא פגיע. מנהיגים צריכים להטמיע בדיקות אבטחה ישירות בתהליך הפיתוח — באותה מהירות שבה ה-AI פועל. הסתמכות על ביקורות תקופתיות אינה מספיקה ומותירה פערים גדולים.
להלן תרשים המראה כיצד הפגיעויות הקשורות ל-AI (CVEs) זינקו בין השנים 2020 ל-2024.
3. Visibility ותעדוף סיכונים
אפליקציות מודרניות, במיוחד אלו המשתמשות ב-AI, הן מורכבות ומוסיפות משטחי התקפה חדשים. עם ריבוי כלי אבטחה, מנהיגים מתמודדים עם עודף ממצאים ונקודות עיוורות. הם זקוקים לראות ברורה של הסיכונים, כולל רכיבים שנוצרו על ידי AI. עליהם לסנן את הרעש ולהתמקד באיומים האמיתיים תוך התחשבות בהקשר: עד כמה הסיכון נגיש, באיזו סביבה הוא פועל, מה רמת הקריטיות שלו ואילו נתונים מעורבים. Shadow AI (שימוש בכלי AI ללא אישור) מעצים את האתגר. AI Security Posture Management (AI-SPM) מסייע בניהול סיכונים לאורך פריסות ה-AI.
4. זרימות עבודה אבטחה פשוטות יותר
צוותי פלטפורמה כבר מתמרנים בין כלים רבים, והאבטחה לא יכולה להוות צוואר בקבוק. האבטחה חייבת להיות פשוטה ולהשתלב באופן טבעי בתהליכי העבודה של המפתחים — היא צריכה להיות "בלתי נראית עד שזקוקים לה". אוטומציה של משימות אבטחה ומתן משוב ותיקונים בזמן אמת הם המפתח.
5. איחוד כלים
ארגונים רבים משתמשים ביותר מדי כלי אבטחה, יוצרים ממגורות נתונים ותקורה. מנהיגים רוצים לרכז אבטחה על פלטפורמה אחת. תצוגה יחידה זו עוזרת לצוותים לעבוד טוב יותר ולסגור פערי אבטחה בפיתוח ובפריסה.
דוגמאות מעשיות: AI לאבטחה ואבטחה עבור AI
AI לאבטחה:
AI משמש להפעלת פלטפורמות אבטחה, ומסייע במציאת בעיות, קישורן וביטול כפילויות. הוא מסווג נתונים ובודק האם ניתן להגיע לפונקציות פגיעות. ה-AI יכול אפילו לכתוב תיקונים כדי להאיץ את תהליך ה-patching. מעבר לפיתוח, ה-AI מאיץ את זיהוי האיומים ואת התגובה לאירועים על ידי ניתוח נתונים בזמן אמת, וכן מסייע בתרגום ממצאי אבטחה לשפה פשוטה עבור הצוותים.
אבטחה עבור AI:
מערכות AI והאפליקציות שהן מפעילות זקוקות להגנה. זה כרוך באבטחת AI קוד ואפליקציות. תחומי מפתח כוללים:
• Prompt Injection: תוקפים מתעתעים במערכות AI באמצעות הנחיות זדוניות. OWASP מגדיר זאת כסיכון העליון עבור אפליקציות LLM.
• OWASP Top 10 for LLMs: מסגרת המזהה סיכוני אבטחה מרכזיים באפליקציות המבוססות על AI.
• Threat Modeling: הבנה והפחתה של סיכונים במחזור החיים של ה-AI.
• LLM Red Teaming: האקרים אתיים הבודקים את ה-AI לאיתור חולשות.
• AI-SPM: סריקת סביבות AI לאיתור פגיעויות.
• Model Context Protocol (MCP): מחבר בין תהליכי עבודה של AI בתוך LLMs, אך עשוי להרחיב את חשיפת הסיכונים.
• AI-BOM (Bill of Materials): מפרט רכיבי AI, ספריות ונתונים לניהול סיכוני שרשרת האספקה.
וקטורי התקפה חדשים ב-AI Native Development: OWASP 10 המובילים עבור Large Language Model Applications
בניית אמון AI ב-ANZ
מובילים ב-ANZ יודעים שכדי לשגשג בפיתוח המונע על ידי AI (AI-driven), עליהם לטפח 'אמון ב-AI'. המשמעות היא לנוע מהר ולהישאר מאובטחים בעולם ה-AI. המטרה היא להפחית את המאמץ האנושי תוך חיזוק האבטחה והמשילות.
• תעדוף מושכל של איומים אמיתיים.
• אכיפת מדיניות ניתנת להרחבה כדי לתקן ולמנוע בעיות.
עבור ANZ, משמעות הדבר היא פתרונות שמבינים את המחסור בכוח אדם מיומן מקומי, את הרגולציות ואת הלחצים בשוק. זה אומר לספק למפתחים כלים שסורקים ומתקנים קוד שנוצר על ידי AI באותה המהירות שבה הוא נוצר. זה דורש פלטפורמות המעניקות לצוותי אבטחה מבט יחיד וברור על אפליקציות מסורתיות ו-AI-native כאחד, תוך התמקדות בסיכונים עסקיים אמיתיים, ואכיפת 'מעקות בטיחות' (guardrails) שניתן להרחיב ללא האטה של קצב הפיתוח.
האתגרים גדולים, אך באמצעות הכרה במתחים הללו ושימוש באסטרטגיות הנכונות, מנהיגי ANZ יכולים לבנות אמון בעולם ה-AI החדש.
התחל לאבטח את הקוד AI-generated
צור את חשבון Snyk החינמי שלך כדי להתחיל לאבטח את קוד AI-generated תוך דקות. או הזמינו הדגמה של מומחה כדי לראות כיצד Snyk יכול להתאים למקרי השימוש באבטחת המפתחים שלך.
קרא עוד
PHP2Shell לא יהיה האחרון. הנה איפה יופיע האיום הבא.
PHP2Shell הראה באיזו מהירות פגם ברמת המנוע יכול לסכן אפליקציות הפונות לאינטרנט. למד מדוע מלאי חיצוני, בדיקות מהירות ובדיקות חוזרות חשובות לפני החשיפה הבאה.
Snyk UNFILTERED: הצצה לפסגת הלקוחות הראשונה שלנו.
בפסגת הלקוחות הראשונה של Snyk, מובילי אבטחה חלקו נקודות מבט גלויות על סיכוני AI, תיקון פגיעויות וניהול סוכנים אוטונומיים. חמישה נושאים חושפים כיצד צוותים מתאימים את האבטחה לקצב של ה-AI.
הפיכת צבר הפגיעויות ל-Pull Requests באמצעות Agentic Remediation.
ה-Evo Remediation Agent נמצא כעת ב-Open Preview ומביא פתרון תלויות אוטומטי ל-Evo Agentic AppSec. צוותי AppSec יכולים כעת לבצע תיקון מתמשך.