AI גנרטיבי משנה את הדרך בה ארגונים יוצרים תוכן, אוטומציה של תהליכים, תמיכה בקבלת החלטות ומסירת שירותים דיגיטליים. עם זאת, מערכות אלו מציגות גם סיכוני אבטחת מידע חדשים, כולל הזרקת פרומפטים, דליפת נתונים, התקפות יריבות, מניפולציה של מודלים, שילובים לא מאובטחים וגישה בלתי מורשית. קורס זה מספק מבוא מובנה ומעשי להגנה על מערכות AI גנרטיביות לאורך כל מחזור החיים שלהן.
תתחיל בחקירת מושגי הליבה של אבטחת GenAI ובחינת וקטורי האיום החשובים ביותר המשפיעים על מודלים AI, יישומים, צינורות נתונים, APIs ותשתית התומכת. הקורס מסביר טכניקות למידת מכונות עוינות ומדגים כיצד תוקפים עשויים לנסות להשפיע על התנהגות המודל, לפגוע בנתוני האימון, לחלץ מידע רגיש או לנצל חולשות ביישומים מונעי AI.
לאחר מכן תבחן חומות אש AI ותלמד כיצד הן יכולות לנטר, לסנן ולשלוט באינטראקציות עם מערכות AI גנרטיביות. הקורס מכסה את המטרה, הארכיטקטורה והפעולה של חומות אש AI, ואחריהן שיקולים מעשיים ליישום ומחקרי מקרה מן העולם האמיתי.
מקטע ייעודי מציג ניהול תנוחת אבטחת AI. תלמד כיצד פתרונות AI-SPM עוזרים לארגונים לזהות פגיעויות, לנטר נכסי AI, להעריך תצורות, לנהל סיכונים ולשמור על נראות בסביבות GenAI מורכבות. תחקור גם את הטכנולוגיות התומכות בתוכניות אבטחת AI מודרניות.
הקורס בוחן אסטרטגיות הגנה מתקדמות, כולל ארכיטקטורת Zero Trust, אנליטיקה התנהגותית ותגובת תקריות מונעת AI. תלמד כיצד ליישם אימות זהות, גישה במינימום הרשאות, ניטור רציף, זיהוי חריגות וטכניקות תגובה אוטומטית כדי להגן על מודלי GenAI, משתמשים, נתונים ותשתית.
פיתוח מאובטח הוא עוד מוקד עיקרי. תלמד כיצד לתכנן יישומים GenAI בטוחים יותר, ליישם שיטות קידוד מאובטח, להגן על צינורות נתונים ולשלב בקרות אבטחת סייבר לאורך מחזור החיים של פיתוח AI. יתר על כן, יידונו בשיקולים אתיים כגון פרטיות, הוגנות, שקיפות, שימוש אחראי ואחריות.
החלקים האחרונים מכסים את נוף הרגולציה והתאימות הסובב את ה-AI הגנרטיבי. תחקור תקנות אבטחת AI, דרישות תאימות, שיטות ביקורת ושיטות להדגמת פעולתם של בקרות מתאימות.
