הצו הנשיאותי של ביידן בנושא AI: משמעויות עבור צוותי אבטחה
אמ;לק
צו AI הנשיאותי של 2023 טומן בחובו השלכות מרחיקות לכת על חברות המסתמכות על בינה מלאכותית. נסקור את השפעתו על בטיחות AI, שמירת פרטיות, וכיצד הוא ישפיע על צוותי אבטחת מידע.
סיכום בעברית: מערכת VibeSec · מדיניות המקורות
נוסף ל-VibeSec:
כותרת מקורית: Biden's AI Executive Order: What it says, and what it means for security teams

התוכן המלא בעברית
תרגום אוטומטי מהמקור; מונחים טכניים נשארו באנגלית. לנוסח המחייב — הכתבה המקורית.
לצו הנשיאותי (Executive Order) בנושא AI משנת 2023 (מספר 14110), שהוצא על ידי הנשיא ביידן, יש השלכות מרחיקות לכת על חברות המסתמכות על בינה מלאכותית. הצו קובע סט חדש של סטנדרטים לבטיחות ואבטחת AI, הגנה על פרטיות ושימוש שוויוני. זהו רגע משמעותי עבור תחום ה-AI באמריקה, והשפעתו תורגש על ידי צוותי פרטיות ואבטחה. ברוב הארגונים, האחריות להגנה על הפרטיות נופלת על כתפי צוות האבטחה, ולכן צוותים אלו צריכים להבין היטב מה המשמעות של צו זה עבורם.
הסברים מעשיים לנקודות מפתח
ראשית, נעבור על נקודות המפתח תוך ציטוט רלוונטי ונדון בהשלכות שלהן. לאחר מכן נסקור את הנושאים המעשיים השזורים לאורך כל הצו הנשיאותי. בואו נתחיל!
ההנחיה המקיפה
"פיתוח תקנים, כלים ובדיקות שיסייעו להבטיח שמערכות AI יהיו בטוחות, מאובטחות ואמינות. המכון הלאומי לתקנים וטכנולוגיה (NIST) יקבע סטנדרטים קפדניים לבדיקות צוות אדום (red-team testing) מקיפות, כדי להבטיח בטיחות לפני שחרור המערכות לציבור. המשרד לביטחון המולדת (DHS) יחיל תקנים אלו על מגזרי תשתיות קריטיות ויקים את מועצת הבטיחות והאבטחה של ה-AI. משרד האנרגיה והמשרד לביטחון המולדת יתמודדו גם הם עם איומי מערכות AI על תשתיות קריטיות, כמו גם עם סיכונים כימיים, ביולוגיים, רדיולוגיים, גרעיניים וסיכוני אבטחת סייבר. אלו הן הפעולות המשמעותיות ביותר שננקטו אי פעם על ידי ממשלה כלשהי לקידום תחום הבטיחות ב-AI."
הסעיף לעיל הוא התיאורי, הטקטי והמקיף ביותר עבור צוותי אבטחה. כל ארגון שמפתח תכונות או מערכות AI יצטרך לעמוד בתקני NIST הקרובים, ולכן עליו להתחיל מיד בהטמעת תהליכים לשם כך. הנוסח מרמז כי התקנים ידרשו בדיקת מערכות כדי לוודא שהן בטוחות, מאובטחות ומהימנות. מכיוון שמונחים אלו עדיין מעורפלים עד ש-NIST תחשוף את סטנדרטי ה-AI שלה, התחלת תוכנית בדיקות על בסיס המיטב שניתן היא צעד בכיוון הנכון.
פריט הפעולה כאן הוא "בדיקות צוות אדום מקיפות". המונח Red-teaming הפך לנפוץ מאוד עם הגדרות רבות בעידן ה-AI, לכן נפרק אותו בסעיף "בדיקות" להלן.
אם החברה שלך נכללת באחת הקטגוריות המפורטות במשפטי ההמשך של הנחיה זו, תצטרך לציית להנחיות הגופים הממשלתיים הרלוונטיים. ההבחנה מעורפלת מעט, אך נראה כי תשתיות קריטיות (Critical Infrastructure), כמו גם סיכונים כימיים, ביולוגיים, רדיולוגיים, גרעיניים ואבטחת סייבר, יפעלו מול המשרד לביטחון המולדת (DHS), בעוד שכל מה שקשור ל"אנרגיה" יפעל מול משרד האנרגיה.
פְּרָטִיוּת
"הגנה על פרטיות האמריקאים על ידי מתן עדיפות לתמיכה פדרלית להאצת הפיתוח והשימוש בטכניקות לשמירה על הפרטיות — כולל כאלה המשתמשות בטכנולוגיות AI מתקדמות ומאפשרות לאמן מערכות AI תוך שמירה על פרטיות נתוני האימון."
הנחיה זו מדגישה את חשיבות הפרטיות בעידן ה-AI וקובעת שחברות המפתחות יישומי AI חייבות לתעדף טכניקות לשמירה על הפרטיות. עבור צוותי אבטחה, משמעות הדבר היא שינוי מיקוד משמעותי לעבר פרקטיקות ממוקדות פרטיות. צוותים אלה יצטרכו לבצע מידול איומים פוטנציאליים העלולים להשפיע על פרטיות המשתמש ולפתח אסטרטגיות להפחתת סיכונים אלו.
מבחינה מעשית, זה עשוי לכלול סקירה של מערכות AI כדי להעריך את אמצעי הפרטיות שלהן. ייתכן שצוותי אבטחה יצטרכו לשתף פעולה באופן הדוק עם מפתחי ה-AI כדי להבין את מורכבות המערכות שלהם ולזהות פרצות פרטיות פוטנציאליות. זה עשוי לדרוש גם התעדכנות שוטפת בהתקפות יריב (adversarial attacks) האחרונות שמכוונות ספציפית לפרטיות, ומעקב אחר ההגדרות המתפתחות של מהו "מידע פרטי".
השקעה בהדרכה הקשורה לפרטיות עשויה להיות נחוצה כדי לצייד את צוותי האבטחה בכישורים ובידע הנדרשים להתמודדות עם אתגרים חדשים אלה. במקביל, השלכה אפשרית היא הצורך בשקיפות מוגברת. צוותי אבטחה עשויים להידרש לדחוף לתקשורת גלויה עם המשתמשים לגבי אופן השימוש בנתונים שלהם והגנתם, מה שעשוי לכלול פיתוח מדיניות פרטיות והסכמות ידידותיות למשתמש.
היתרונות העסקיים של יישום אסטרטגיות מעשיות אלו הם משמעותיים. מעבר לעמידה בצו הנשיאותי, על ידי מתן עדיפות לפרטיות המשתמש, חברות יבנו קשרים חזקים יותר עם לקוחותיהן בזכות ההתמקדות באמון ובשקיפות.
כוח עבודה
"פיתוח עקרונות ושיטות עבודה מומלצות לצמצום נזקים ולמיקסום היתרונות של ה-AI עבור עובדים על ידי טיפול בנושאים של החלפת עובדים בטכנולוגיה (job displacement); תקני עבודה; שוויון במקום העבודה, בריאות ובטיחות; ואיסוף נתונים. עקרונות ושיטות עבודה מומלצות אלה יועילו לעובדים על ידי מתן הנחיות למניעת מצבים בהם מעסיקים משלמים שכר נמוך מדי, מבצעים הערכות לא הוגנות של מועמדים לעבודה, או פוגעים ביכולתם של עובדים להתארגן."
צו זה מתייחס להשפעה של AI על כוח העבודה. זוהי הכרה ברורה בכוחו הטרנספורמטיבי של AI ובפוטנציאל שלו לשבש מבני עבודה ותהליכים מסורתיים.
צוותי אבטחה יצטרכו לחקור ולבדוק כל תוכנה המשתמשת ב-AI כדי לקבוע שכר, לטפל בבקשות לעבודה, או כזו המשפיעה על יכולת ההתארגנות של העובדים. המשמעות יכולה להיות העמקה בהשלכות האתיות של שימוש ב-AI לניטור התנהגות עובדים (במקרה שזה עלול לעכב את יכולת ההתארגנות שלהם), או עבודה משותפת עם מחלקת משאבי אנוש (HR) כדי לפתח מדיניות לשימוש ב-AI בגיוס עובדים או בהערכת ביצועים.
איסוף נתונים הוא תחום מיקוד פוטנציאלי נוסף. ייתכן שצוותי אבטחה יצטרכו להבטיח שכל מידע שנאסף על ידי מערכות AI נעשה בצורה שמכבדת את פרטיות העובדים ועומדת בחוקי הגנת המידע. זה יכול להיות כרוך ביישום מדיניות ונהלים חזקים של ממשל נתונים, והבטחה שכל הנתונים שנאספים מאוחסנים בצורה מאובטחת ומשתמשים בהם בצורה מתאימה.
מלבד בדיקת מערכות AI, סוגיות של החלפת עובדים, תקני עבודה, שוויון במקום העבודה, בריאות ובטיחות נמצאות ברוב הארגונים מחוץ לתחום האחריות של צוות האבטחה. בסך הכל, ההשפעה של סעיף זה על הארגונים קטנה יותר בהשוואה לחלקי הפרטיות וההנחיות המקיפות שצוינו קודם לכן.
שירותי בריאות
"קידום השימוש האחראי ב-AI בתחום הבריאות ופיתוח תרופות זולות ומצילות חיים. משרד הבריאות ושירותי האנוש יקים גם תוכנית בטיחות לקבלת דיווחים על נזקים או שיטות בריאות לא בטוחות הכוללות AI, ולפעולה לתיקונם."
לחלק זה בצו הנשיאותי יש השלכות משמעותיות על צוותי אבטחה בחברות המפתחות AI לשימוש בתחום הבריאות. צוותים אלה יצטרכו להבטיח שמערכות ה-AI שלהם אינן מציבות סיכונים נוספים למטופלים. הדבר עשוי לכלול יישום אמצעי אבטחה להגנה על נתוני מטופלים והצבת מגבלות (guardrails) על מערכות ה-AI, או עבודה הדוקה עם ספקי שירותי בריאות כדי להבטיח שימוש אחראי בכלים מבוססי AI.
תעשיית הבריאות נמצאת לעתים קרובות בפיגור בהתקדמות בכל הנוגע לאבטחת סייבר, כך שזה עשוי להיות אתגר משמעותי. יתר על כן, המשפט השני מתווה נתיב לדיווח על שיטות לא בטוחות; זה מדגיש עד כמה הממשל רציני באכיפת הוראת הביצוע בתעשיית הבריאות.
בנוסף, ייתכן שצוותי אבטחה יצטרכו לעבוד בשיתוף פעולה הדוק עם בעלי עניין אחרים במגזר הבריאות, כולל ספקי שירותי בריאות וגופים רגולטוריים. שיתוף פעולה זה עשוי להיות כרוך בשיתוף שיטות עבודה מומלצות או בפיתוח סטנדרטים חדשים לשימוש ב-AI בתחום הבריאות, כך שיהיה חשוב להתעדכן בתקנות הנוכחיות ולהדריך את הצוות.
Clint Gibler בנושא AI ואבטחת סייבר: המצב הנוכחי ולאן פנינו מועדות
Criminal Justice
"הבטחת הגינות בכל מערכת המשפט הפלילי על ידי פיתוח שיטות עבודה מומלצות לשימוש ב-AI בגזרי דין, שחרור מוקדם ומאסר על תנאי, שחרור ומעצר לפני משפט, הערכות סיכונים, מעקבים, חיזוי פשיעה ושיטור חזוי, וניתוח פורנזי. משרד הבריאות ושירותי האנוש יקים גם תוכנית בטיחות לקבלת דיווחים על נזקים או שיטות עבודה לא בטוחות הכוללות AI, ולפעולה לתיקונם."
הנחיה זו מכוונת בעיקר למערכת המשפט הפלילי, אך יש לה השלכות על כל חברה המשתמשת או מפתחת AI למטרות מעקב או ניתוח חזוי. צוותי אבטחה בחברות אלו יצטרכו להבטיח שמערכות ה-AI שלהם אינן רק מאובטחות, אלא גם הוגנות. זה יכול לכלול יישום נהלי בדיקה חדשים לזיהוי הטיות במערכות אלו, או עבודה עם מומחים משפטיים כדי להבטיח שכלים מבוססי AI משמשים באופן שמכבד את זכויותיהם החוקתיות של בני אדם.
השימוש ב-AI במעקב ובניתוח חיזוי היה נושא שנוי במחלוקת. אמנם AI יכול לשפר את היכולות של מערכות אלו, אבל זה גם מעלה חששות אתיים ומשפטיים משמעותיים. הנחיה זו מהצו המבצעת היא קריאה ברורה לפעולה לצוותי אבטחה לטפל בחששות אלו חזיתית.
עבור חברות המשתמשות ב-AI למטרות מעקב, המשמעות היא סקירה יסודית של כל מערכת המשמשת לזיהוי אנשים או דפוסי התנהגות. הטיות במערכות אלו עלולות להוביל למיקוד לא הוגן של קבוצות מסוימות, להפר את זכויותיהן לפרטיות ועלולות להוביל להשלכות משפטיות. צוותי אבטחה יצטרכו לעבוד בשיתוף פעולה הדוק עם מפתחי ה-AI ומומחים משפטיים כדי להבטיח שהמערכות הללו יהיו חסרות פניות ככל הניתן.
גם ניתוח חיזוי, במיוחד בהקשר של מערכת המשפט הפלילי, מציג אתגרים משמעותיים. מערכות אלו משמשות לעתים קרובות כדי לחזות את הסבירות לחזרה או כדי לסייע בהחלטות גזר דין. עם זאת, אם מערכות אלו מוטות, הן עלולות להוביל לתוצאות לא צודקות. צוותי אבטחה יצטרכו ליישם נהלי בדיקה קפדניים כדי לזהות ולמתן כל הטיה במערכות אלו.
Landlords and Contractors
"מתן הנחיות ברורות לבעלי נכסים, לתוכניות הטבה פדרליות ולקבלנים פדרליים כדי למנוע את השימוש באלגוריתמי AI להחמרת אפליה."
הנחיה זו רלוונטית במיוחד אם החברה שלך מעורבת בבעיות של בעלי בית-דיירים או אם היא מעסיקה קבלנים פדרליים. המטרה כאן היא למנוע שימוש ב-AI בצורה מפלה. זהו צעד משמעותי לקראת הבטחת הוגנות ושוויון באפליקציות AI, במיוחד באזורים שבהם ל-AI יש פוטנציאל להשפיע באופן משמעותי על חיי אנשים, כגון דיור ותעסוקה.
בדומה לחלק מהסעיפים הקודמים, הנחיה זו מציבה אתגר ייחודי לצוותי אבטחה. לא מספיק להבטיח שהמערכות שבהן החברה משתמשת מאובטחות; הן חייבות להיות גם נקיות מהטיות מפלות. מדובר במשימה מורכבת החורגת מאמצעי אבטחה מסורתיים. היא דורשת הבנה לא מבוטלת של האופן שבו מודלי AI פועלים, כיצד הם עלולים להוביל לתוצאות מפלות מבלי משים, וכיצד לבדוק זאת. צוותים רבים עשויים להידרש לשכור מדעני נתונים חיצוניים – או לעבוד איתם בשיתוף פעולה הדוק – כדי להבטיח שמודלי ה-AI נבדקים לגילוי הטיות.
יתרה מזאת, ייתכן שצוותי אבטחה יצטרכו לפתח אסטרטגיות כדי למתן את ההטיות שזוהו. זה יכול לכלול כוונון עדין, סינון פלט מוטה או שינוי מודלים לחלוטין. זה יכול גם לכלול יישום אמצעי הגנה כגון קביעת סף לקבלת החלטות המבטיחים הוגנות.
לבסוף, צוותי אבטחה יצטרכו להבטיח שאמצעים אלה לא רק מיושמים, אלא גם נשמרים לאורך זמן. זה יכול להיות כרוך בביקורות סדירות ועדכונים למערכות AI והדרכה שוטפת לצוות כדי להבטיח שהם מודעים לחשיבות ההוגנות ואי-אפליה ב-AI.