生成AIは、組織がコンテンツを作成し、プロセスを自動化し、意思決定をサポートし、デジタルサービスを提供する方法を変革しています。しかし、これらのシステムは、プロンプトインジェクション、データ漏洩、敵対的な攻撃、モデル操作、不適切な統合、不正アクセスなど、新しいサイバーセキュリティリスクも導入しています。このコースは、生成AIシステムのライフサイクル全体を通じて保護するための構造化された実践的な紹介を提供します。
まず、GenAIサイバーセキュリティの核となる概念を探り、AIモデル、アプリケーション、データパイプライン、API、サポートインフラストラクチャに影響を与える最も重要な脅威ベクトルを検討します。コースは敵対的な機械学習技術を説明し、攻撃者がモデルの動作に影響を与えようとしたり、トレーニングデータを危険にさらすしたり、機密情報を抽出したり、AI対応アプリケーションの弱点を利用したりする方法を示します。
次に、AIファイアウォールについて検討し、それらが生成AIシステムとの相互作用を監視、フィルタリング、制御する方法を学びます。コースはAIファイアウォールの目的、アーキテクチャ、操作をカバーし、実践的な実装の考慮事項と実世界のケーススタディに続きます。
専用のセクションでは、AIセキュリティポスチャー管理を紹介します。AI-SPMソリューションが組織が脆弱性を特定し、AI資産を監視し、設定を評価し、リスクを管理し、複雑なGenAI環境全体で可視性を維持するのにどのように役立つかを学びます。また、現代のAIセキュリティプログラムをサポートする技術も探ります。
コースは、ゼロトラストアーキテクチャ、行動分析、AI駆動のインシデント対応など、高度な防御戦略を検討します。GenAIモデル、ユーザー、データ、インフラストラクチャを保護するために、ID検証、最小権限アクセス、継続的な監視、異常検出、自動応答技術を適用する方法を学びます。
セキュア開発も主要な焦点です。より安全なGenAIアプリケーションを設計し、セキュアコーディングプラクティスを適用し、データパイプラインを保護し、AI開発ライフサイクル全体を通じてサイバーセキュリティ制御を統合する方法を学びます。プライバシー、公平性、透明性、責任ある使用、説明責任などの倫理的考慮事項も取り上げられます。
最後のセクションでは、生成AIを取り巻く規制およびコンプライアンスの状況をカバーします。AIセキュリティ規制、コンプライアンス要件、監査実践、適切な制御が運用されていることを示す方法を探ります。
