人工知能製品は、制御された開発環境外で確実に動作する必要があります。データの変更、隠れたバイアス、第三者依存、敵対的な攻撃、弱い検証、不十分なデプロイメント実践は、モデルのパフォーマンスを低下させ、組織を運用上、倫理上、規制上、評判上リスクにさらす可能性があります。
このコースは、信頼性が高く、安全で、公平で、コンプライアンスを満たし、実世界で展開可能なAI製品を開発するための構造化されたガイドを提供します。製品の基礎から始まり、データ準備、サプライチェーン管理、テスト、敵対的な評価、セキュリティ、コンプライアンス、デプロイメントに至るまでの完全な堅牢性の旅に沿って進みます。
まず、AI製品の堅牢性と、モデルの精度だけでは不十分な理由を理解します。このコースは、信頼性、公平性、セキュリティ、スケーラビリティ、透明性、ガバナンスが信頼できるAI製品にどのように貢献するかを説明します。
架空の組織であるIntelliTech Solutions Inc.とそのGenAI Assistソリューションを実際のビジネスケースとして使用します。このシナリオは、法的、金融的、コンプライアンスに敏感な環境でAI製品に堅牢性の原則を適用する方法を示すのに役立ちます。
データの完全性とバイアスの軽減に特化したセクションでは、不完全、不正確、非代表的、またはアンバランスなデータがモデルの出力にどのように影響するかを学びます。このコースでは、データ品質の改善、多様性の評価、バイアスの特定、不公平または信頼性の低い結果の軽減のための実践的な考慮事項を探ります。
次に、AIモデルのサプライチェーン管理を学びます。現代のAIソリューションは、外部データセット、事前トレーニングされたモデル、API、オープンソースコンポーネント、クラウドプラットフォーム、第三者ベンダーに依存している可能性があります。これらの依存関係を特定し、サプライヤーのリスクを評価し、モデルの起源を文書化し、外部AIコンポーネントの管理のための制御を確立する方法を学びます。
モデルのテストと検証セクションでは、異なるユーザー、環境、データセット、エッジケース、運用シナリオにわたってAI製品を評価する方法を説明します。パフォーマンスの一貫性をチェックし、弱点を検出し、期待される動作を検証し、実世界の条件にモデルを準備するための技術を探ります。
このコースでは、AIのレッドチームと敵対的トレーニングもカバーします。制御されたテストがプロンプトインジェクション、操作の試み、安全でない応答、予期せぬ動作、その他の脆弱性を明らかにする方法を学びます。
