חזרה לפיד
articlesמקור: Snyk Blog15.4.2024

כיצד SAS מאבטחת קוד שנוצר ע"י בינה מלאכותית

אמ;לק

בינה מלאכותית יוצרת נפוצה בתעשיית התוכנה, ומשפיעה רבות על צוותי פיתוח. המאמר סוקר את הגישה של SAS לאבטחת קוד שנוצר באמצעות AI, ומספק תובנות כיצד ליישם שיטות עבודה מאובטחות בפיתוח מבוסס AI.

סיכום בעברית: מערכת VibeSec · מדיניות המקורות

נוסף ל-VibeSec:

כותרת מקורית: How SAS secures their AI-generated code

כיצד SAS מאבטחת קוד שנוצר ע"י בינה מלאכותית

התוכן המלא בעברית

תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.

עוזרי קידוד המופעלים על ידי ⁦AI⁩ משנים את תפיסת העולם הטכנית. החידוש חולל מהפכה באופן שבו מפתחים עובדים, והגדיל את היעילות והמהירות לגבהים חדשים. ⁦AI⁩ מביא אתגרים חדשים לצוותי האבטחה באותה מהירות מוגברת. דגמי עוזרי הקידוד הללו מאומנים בקוד באיכות גבוהה ובאיכות נמוכה מרחבי האינטרנט. הקוד שהם מייצרים, למרות שהוא פונקציונלי, מביא לפרויקטים שלנו בעיות איכות ואבטחה חיצוניות. ⁦AI⁩ מציג גם וקטורי תקיפה חדשים שעלולים לגרום לנזק משמעותי בתוך ארגונים. בתגובה צוותי האבטחה חייבים לעמוד באתגר כדי להבטיח שימוש בטוח ואחראי בכלי רב עוצמה זה.

המציאות החדשה הזו משאירה צוותים תוהים היכן להשתמש ב-⁦AI⁩ לפיתוח תוכנה, באילו אמצעי זהירות עליהם לנקוט כדי למזער תוצאות לא עקביות מכלים אלה, וכיצד להמשיך לחדש עם ⁦AI⁩ תוך שמירה על ביטחון מפני סיכונים מתעוררים.

Snyk אירח לאחרונה סמינר מקוון חי על כל הנושאים הללו, בהנחיית ⁦Clinton Herget⁩, ובו ⁦Brett Smith and Chris Knackstedt⁩. הדוברים כיסו כיצד נראים סיכוני הקוד ⁦AI⁩ עבור ארגונים בשנת 2024 ואיזה אמצעים הם נוקטים כדי להגן על היישומים שלהם מפני האיומים החדשים הללו.

הסיכונים של קוד שנוצר על ידי AI

Smith ו-Knackstedt מסכימים ש-generative AI חולל ללא ספק מהפכה בתחום פיתוח התוכנה, ומשמש כמתכנת זוגי (pair programmer) למפתחים ברחבי העולם. היכולת שלו לספק נקודת מוצא לכתיבת קוד מאפס מייעלת משמעותית את תהליך הפיתוח. הם צופים שבעתיד הקרוב, ניצול הכוח של generative AI יאפשר למפתחים להאיץ את זרימת העבודה שלהם ולשפר את היעילות הכוללת.

Knackstedt מצפה לראות את ההשפעות החיוביות של כלי AI, שכן הם מציעים פתרונות מדויקים לבעיות מותאמות אישית. הוא אמר: "התרשמתי מאוד מההתקדמות שעשה ה-generative AI בשנה אחת בלבד – במיוחד במקרי שימוש חדשניים שאנשים חושבים עליהם עבור חלק מהכלים הללו".

אמנם AI יכול להגביר את המהירות כאשר משתמשים בו כראוי, אך הוא עלול לגרום לבעיות אבטחה מזיקות אם נעשה בו שימוש לרעה. כלי AI הופכים את ההתעדכנות בהתקדמות הטכנולוגית למאתגרת הרבה יותר עבור צוותי אבטחה. רבים מהם עדיין מנסים לעכל את הסבב האחרון של טרנספורמציה דיגיטלית ולהתעדכן ב-DevOps, ענן, CI/CD וטכנולוגיות ותהליכים רבים אחרים. טרנספורמציות דיגיטליות מתמשכות אלו מואצות על ידי תופעת ה-generative AI, מה שאומר שחיוני יותר מאי פעם עבור צוותי אבטחה אלו להסתגל.

בנוסף להאצת הטרנספורמציה הדיגיטלית שכבר נמצאת בתנועה, קוד שנוצר על ידי AI עלול להוות איומי אבטחה לארגונים. יש לכך שתי סיבות עיקריות.

קוד שנוצר על ידי AI אינו מאובטח או איכותי מטבעו

כלי generative AI משתמשים בנתוני אימון באיכות גבוהה ונמוכה מרחבי האינטרנט – קוד שנכתב היטב על ידי מפתחים בכירים, קוד המועד לשגיאות של טירונים, ואפילו דוגמאות מכוונות של קוד לא פונקציונלי שאנשים פרסמו בפורומים כמו Stack Overflow. מכיוון ש-generative AI צורך מגוון כזה של קוד, התוצאות הן באותה רמת איכות שהיית מצפה לה ממפתח זוטר.

הדוברים דנו גם בחשיבות ההבנה שכללי ה-generative AI של היום אינם יכולים לזהות פגיעויות כברירת מחדל. Herget הפנה למחקר של Snyk שמוכיח זאת. הצוות שלנו יצר מחלקה עם מספר שיטות בקוד Java וקרא לאחת השיטות "SQL injection". לאחר מכן, שאלנו מספר עוזרי קידוד מבוססי AI האם קיימת פגיעות SQL injection בקוד, וכולם ענו "כן". לאחר ששינינו את שם המחלקה מבלי לשנות דבר בפונקציונליות של הקוד, אותם עוזרים ענו "לא". ניסוי זה הוכיח ש-AI עדיין לא מבין את המשמעות הסמלית של שפה ספציפית בתוך קוד.

איומים חיצוניים יכולים לנצל מודלי AI

בנוסף להאצת בעיות קיימות, AI מביא עמו גם את הסיכון לווקטורי תקיפה חדשים. גורמי איום יכולים לנצל generative AI באמצעות הזרקות קוד (code injections), הרעלת נתונים (data poisoning), הזרקות פרומפטים (prompt injections) וחטיפה. ניצולים אלו יכולים לגרום למודל לבצע פעולות זדוניות (כמו כתיבת קוד לא מאובטח בכוונה) או לאפשר לשחקנים זדוניים לגנוב נתוני אימון רגישים.

הזיות (hallucinations), שבהן כלי AI מייצרים הפניות, ספריות קוד או פונקציות שאינן קיימות, הן בעיית אבטחה נוספת. גורמים עוינים יכולים לנצל הזיות AI בטכניקות כמו library squatting. לדוגמה, אם AI הוזה ספריית קוד שאינה קיימת, תוקף יכול לנצל זאת על ידי יצירת גרסה אמיתית של אותה ספרייה המכילה קוד זדוני. לאחר מכן, הקוד שנוצר על ידי ה-AI והמפנה לספרייה זו, ימשוך את הקוד הזדוני לתוך האפליקציה.

כיצד להשתמש בקוד שנוצר על ידי AI בצורה מאובטחת

למרות שהוא מהווה סיכוני אבטחה, generative AI הוא עדיין כלי חיוני עבור מפתחים רבים כיום ולא הולך להיעלם בקרוב. הוא מספק תמיכה שלא יסולא בפז בסיוע לצוותי פיתוח להתגבר על חסימת כתיבה ומשמש כעוזר קידוד זוטר. תמיכה זו מאפשרת למפתחים לקודד מהר יותר מאי פעם.

אבל המהירות חסרת התקדים הזו משפיעה ישירות על צוותי האבטחה של ימינו. זה אומר שיש להם יותר קוד לאבטח בפרק זמן קצר יותר. כתוצאה מכך, צוותי אבטחה חייבים למנף טקטיקות שיאפשרו להם לאבטח טוב יותר קוד שנוצר על ידי AI מבלי להאט את החדשנות הטכנית. הנה כמה טיפים שצוותים אלו יכולים למנף כדי לעמוד במחזורי הפיתוח המהירים והנתמכים ב-AI של היום:

תעדוף הכשרת מפתחים

ראשית, צוותי מפתחים חייבים להבין מה כל כלי ⁦AI⁩ יכול ומה לא יכול לעשות. סמית אמר, "זה לא חץ כסף שיפתור את כל הבעיות שלך. זו לא תוכנית המפתחים הבכירים שלך. זו תוכנית שותפה זוטר שיכולה להוציא 170 שורות... אתה צריך שהמפתחים שלך יבינו שהם לא כותבים שום קוד טוב יותר או מאובטח יותר ממה שהם כתבו קודם. פשוט יש להם השלמה אוטומטית חכמה באמת עכשיו."

בנוסף, ארגונים חייבים ללמד מפתחים כיצד להגן על קניין רוחני ופרטיות בעת הזנת הנחיות הקשורות לקוד לכלי ⁦AI⁩. חשוב שצוותי הפיתוח יבינו ש⁦AI⁩ יצירתי משתמש בהנחיות כנתוני אימון ועלול לסכן נכסים רגישים על ידי מינוף הנתונים האלה כדי להגיב להנחיות של אחרים.

ניתוח התנהגות ממלא תפקיד חיוני במדידת הצלחתן של יוזמות חינוך אלו. Knackstedt אמר, "נצטרך לאמץ תהליכים ועקרונות המשתמשים יותר בניתוח התנהגותי - לא רק של הקוד עצמו, אלא גם האנשים שמפתחים את הקוד, והאנשים שמשתמשים בפתרונות שמהם בנוי הקוד... [אז], נוכל לבסס תמונה הוליסטית יותר לגבי השימוש ב-⁦AI⁩ כפי שהוא נועד בתכנון, ולאחר מכן את השימוש בפועל בפועל".

הכפלת מאמצי אבטחה מוכחים

בניית בדיקות אבטחה לתוך מחזור חיי הפיתוח הייתה חשובה מנקודת מבט של ⁦DevSecOps⁩ במשך זמן מה. אבל, מכיוון שמהירות הזרקת הקוד גדלה באופן משמעותי בגלל ⁦AI⁩, קריטי מתמיד לארגונים לשקול בניית בדיקות אבטחה לתוך צינורות הקוד שלהם.

Smith הסביר כיצד הצוות שלו משתמש בסריקת קוד סטטית כדי לעמוד במהירות חסרת התקדים של בעיות קוד שפיתוח הנתמך ב-AI מביא עמו. הוא אמר: "עם עליית ה-generative AI, כמות הולכת וגוברת של קוד פגיע מנסה להיכנס ל-pipeline שלנו במהירות שלא ראינו בעבר. בכל פעם שדוחפים קוד, הוא עובר סריקת Snyk, ולא ניתן לבצע מיזוג (merge) עד למעבר הבדיקה. שימוש ב-Snyk Code (SAST) כחלק מנקודות הביקורת האוטומטיות שלנו הוא הדרך שבה אנו נלחמים בהיבטים המזיקים של generative AI. אם אינך יכול בהכרח להבחין בין מה שנוצר על ידי מכונה לבין מה שנוצר על ידי אדם, אז בדוק הכל. בדוק בתדירות גבוהה יותר ובדוק עם סט כלים שנועד לעמוד בקצב של DevSecOps מודרני, כך שלא תאט אף אחד".

יישום בדיקות רב-ממדיות

צוותים צריכים גם לשקול דרכים להצלבת הקוד שנוצר על ידי ה-AI עם השילוב הנכון של כלים אוטומטיים והתערבות ידנית. לפי Knackstedt, "יש להתייחס לשימוש בקידוד גנרטיבי עם מגבלות (guardrails) ושיקול דעת. הייתי אומר שביסודו של דבר, יש להבטיח שיש 'אדם בלולאה' (human in the loop) ולוודא שאתה לא מקבל בצורה עיוורת את מה שפתרונות ה-generative AI מייצרים, אלא באמת עובר ומבצע סקירה יסודית לקוד שלך".

סמית' דן כיצד ⁦SAS⁩ עורך את הביקורות היסודיות הללו באמצעות בדיקת קוד אוטומטית עם ⁦Snyk⁩ ⁦SAST⁩ ושתי נקודות ביקורת אנושיות. הוא אמר, "אכפנו חוקים ב-⁦GitHub⁩ שמחייבים שני אנשים לסקור את הקוד לפני שהוא מתמזג - אחד מהם צריך להיות הבעלים של הקוד - לפני שנוכל למזג אותו... מנקודת המבט שלי, אנחנו צריכים להיות עם גלגלי העין האנושיים עליו לפני שהוא נכנס, והוא צריך לעבור את הבדיקות האוטומטיות".

התמקדו בעקביות

מנקודת המבט של ⁦Smith⁩, אבטחת תהליכים ⁦AI⁩ דורשת אבטחה עקבית בכל מישורי הפיתוח, מתשתית כקוד ועד קוד מקור ועד תיעוד. הוא אמר, "אנחנו מנסים להתייחס לכל דבר באותה צורה... אם אנחנו ניגשים לכולם באותה רמת חשיבות, אז אנחנו שמים את אותה רמה של גילוי נאות בשיטות האבטחה שלהם".

Knackstedt גם הדגיש את החשיבות של עקביות, והסביר שזה חיוני "להבטיח שיש איזושהי סטנדרטיזציה סביב מה שאתה משתמש בו כדי לבנות את הקוד שלך ולהבטיח שהכלים האלה מוגנים בתוך הארגון שלך. זה על להבין באילו נתונים משתמשים כדי לכוונן את המודלים או להגדיל את המודלים עם הקשר נוסף בתוך הארגון שלך."

התקדמות עם קוד שנוצר על ידי AI

ככל שצוותי פיתוח מתקדמים באמצעות ⁦AI⁩ , סביר להניח שנראה כמה מגמות אבטחה מתפתחות. ראשית, סביר להניח שנראה עלייה במספר ⁦AI⁩ הרכיבים המשמשים בכלי אבטחה כדי להגיב לבעיות לאורך ⁦SDLC⁩. Knackstedt הסביר זאת כ"להילחם באש באש ויכולת למצוא הזדמנויות לבנות ⁦AI⁩ ויצירת ⁦AI⁩ בחלק מאמצעי ההגנה הללו. בדרך זו, אתה יכול להבין ביעילות באותו קצב ולהשתמש באותו סוג של היגיון".

בנוסף, לא רק צוות הפיתוח שלך משתמש ב-⁦AI⁩ כדי לכתוב קוד. יש סיכוי טוב שגם ספקי הצד השלישי שלך מתעסקים בטכנולוגיה הזו. סמית' הסביר, "כשאנחנו אוספים ספקים מקוונים, אנחנו מתחילים להשתמש יותר בתוכנה כשירות ב-⁦SDLC⁩ שלנו... איך אני יודע שהם משתמשים ב-⁦AI⁩ בצורה אחראית?" ⁦Software⁩ שיטות עבודה מומלצות לאבטחת שרשרת האספקה ​​חיוניות יותר מאי פעם בגלל הפגיעויות הפוטנציאליות ⁦AI⁩ הנלוות לשימוש בספקים ⁦SaaS⁩.

אחרת, ההצלחה של אבטחת קוד ⁦AI-generated⁩ תסתכם בסופו של דבר במודל של אחריות משותפת, כפי שאנו עושים עם אבטחת ענן בין המשתמש לספק. Knackstedt אמר, "עם השימוש הרחב בבינה מלאכותית על פני ארגון שלם, זה באמת דורש יותר אינטגרציה בין כמה מפרקטיקות ניהול הסיכונים הללו כדי להבטיח שקיימת דרך כוללת ואחראית לפרוס, לנהל, לנטר ולשמור על נראות על בינה מלאכותית."

השיחה הזו עם ⁦Clinton Herget⁩, ⁦Brett Smith⁩, ו-⁦Chris Knackstedt⁩ רק מגרדת את פני השטח של כמה ⁦AI⁩ משפיע על פיתוח הקוד כיום וכיצד להשתמש בטכנולוגיה המתפתחת הזו בצורה מאובטחת. כדי לצלול עמוק יותר לאבטחת קוד ⁦AI-generated⁩, עיין בדוח שלנו לשנת 2023 על ⁦AI⁩ קוד, אבטחה ואמון בפיתוח מודרני.

התחל לאבטח קוד שנוצר על ידי AI

צור חשבון Snyk חינמי כדי להתחיל לאבטח קוד שנוצר על ידי AI תוך דקות. לחלופין, הזמן הדגמת מומחה כדי לראות כיצד Snyk יכול להתאים למקרי השימוש באבטחת המפתחים שלך.

קרא עוד

#ai-security#generative-ai#secure-development#enterprise-security
קרא במקור