生成式 AI 正在改变组织创建内容、自动化流程、支持决策和提供数字服务的方式。然而，这些系统也引入了新的网络安全风险，包括提示注入、数据泄露、对抗性攻击、模型操纵、不安全的集成和未经授权的访问。本课程提供了保护生成式 AI 系统整个生命周期的结构化和实用性介绍。
您将首先探索 GenAI 网络安全的核心概念，并检查影响 AI 模型、应用程序、数据管道、API 和支持基础设施的最重要的威胁向量。课程解释对抗性机器学习技术，并演示攻击者如何试图影响模型行为、损害训练数据、提取敏感信息或利用 AI 应用程序中的弱点。
然后您将检查 AI 防火墙，并了解它们如何监控、过滤和控制与生成式 AI 系统的交互。课程涵盖 AI 防火墙的目的、架构和操作，随后是实际实施考虑和现实世界的案例研究。
专门的部分介绍 AI 安全态势管理。您将了解 AI-SPM 解决方案如何帮助组织识别漏洞、监控 AI 资产、评估配置、管理风险，并在复杂的生成式 AI 环境中保持可视性。您还将探索支持现代 AI 安全计划的技术。
课程考察高级防御策略，包括零信任架构、行为分析和 AI 驱动的事件响应。您将学习如何应用身份验证、最小权限访问、持续监控、异常检测和自动响应技术来保护 GenAI 模型、用户、数据和基础设施。
安全开发是另一个主要焦点。您将学习如何设计更安全的生成式 AI 应用程序、应用安全编码实践、保护数据管道，并在 AI 开发生命周期中整合网络安全控制。隐私、公平、透明度、负责任使用和问责等伦理考虑也被探讨。
最后的部分涵盖生成式 AI 周围的监管和合规性环境。您将探索 AI 安全法规、合规要求、审计实践，以及展示适当控制措施正在运行的方法。
