L'intelligence artificielle est de plus en plus utilisée dans les opérations commerciales, la santé, les transports, les finances, la prise de décision et d'autres environnements critiques. À mesure que l'adoption de l'IA s'accroît, les organisations doivent démontrer que leurs systèmes sont régis de manière responsable, que les risques sont contrôlés et que les exigences légales, éthiques et organisationnelles pertinentes sont respectées.
Ce cours fournit un guide pratique, étape par étape, pour auditer un système de gestion de l'intelligence artificielle conformément à l'ISO/IEC 42001. Il explique le cycle de vie complet de l'audit, de la compréhension de la norme et de la préparation de l'audit au rapport des résultats, à la clôture de l'audit et au suivi des actions correctives.
Vous commencerez par une introduction aux systèmes de gestion de l'intelligence artificielle et à la structure de l'ISO/IEC 42001. Le cours examine les clauses 4 à 10, y compris le contexte organisationnel, le leadership, la planification, le support, les opérations, l'évaluation des performances et l'amélioration continue.
En utilisant NeuroVista Technologies comme principale étude de cas, vous verrez comment les exigences de l'ISO 42001 peuvent être évaluées dans un environnement organisationnel réaliste. Une deuxième organisation fictive, AutoVision AI, est utilisée pour les devoirs et les exercices d'audit pratiques.
Le cours présente ensuite les principes fondamentaux de l'audit, notamment l'intégrité, l'objectivité, la confidentialité, la prise de décision basée sur des preuves et le jugement professionnel. Vous apprendrez à appliquer une approche basée sur les risques lors de l'évaluation des systèmes d'IA et à prioriser les domaines impliquant des risques éthiques, de sécurité, de confidentialité, opérationnels et de conformité importants.
Une attention particulière est accordée aux préoccupations d'audit spécifiques à l'IA telles que le biais, l'équité, la transparence, l'explicabilité, la responsabilité, la gouvernance du cycle de vie des modèles, la protection des données, la supervision humaine et les contrôles de sécurité.
Vous apprendrez à définir les objectifs et la portée de l'audit, à identifier les contrôles de gouvernance de l'IA pertinents, à préparer des listes de contrôle et des questionnaires, à allouer des ressources, à créer un calendrier d'audit et à mener une réunion d'ouverture efficace.
Pendant les étapes d'exécution de l'audit, vous apprendrez à examiner les politiques d'IA, les évaluations des risques, les dossiers de gouvernance, la documentation technique et les preuves du cycle de vie. Vous explorerez également les techniques d'entretien des parties prenantes et les méthodes de collecte de preuves objectives fiables.
Le cours explique comment évaluer la gouvernance et les contrôles de sécurité de l'IA, évaluer les pratiques de transparence et d'explicabilité et déterminer si les risques de biais et d'équité sont gérés.
