Искусственный интеллект все чаще используется в бизнес-операциях, здравоохранении, транспорте, финансах, принятии решений и других критических сферах. С ростом внедрения ИИ организации должны демонстрировать, что их системы управляются ответственно, риски контролируются, а также соблюдаются соответствующие правовые, этические и организационные требования.
Этот курс предоставляет практическое пошаговое руководство по аудиту системы управления искусственным интеллектом в соответствии с ISO/IEC 42001. Он объясняет полный жизненный цикл аудита, начиная с понимания стандарта и подготовки к аудиту до составления отчетов о результатах, завершения аудита и мониторинга исправительных действий.
Вы начнете с введения в системы управления искусственным интеллектом и структуры ISO/IEC 42001. Курс рассматривает пункты 4 по 10, включая организационный контекст, руководство, планирование, поддержка, операции, оценка результативности и непрерывное совершенствование.
Используя NeuroVista Technologies в качестве основного кейса, вы увидите, как требования ISO 42001 могут оцениваться в реалистичной организационной среде. Вторая вымышленная организация, AutoVision AI, используется для заданий и практических аудиторских упражнений.
Курс затем представляет основные принципы аудита, включая целостность, объективность, конфиденциальность, принятие решений на основе доказательств и профессиональное суждение. Вы научитесь применять риск-ориентированный подход при оценке систем ИИ и приоритезировать области, связанные с значительными этическими, безопасностными, конфиденциальными, операционными и соответствующими рисками.
Особое внимание уделяется специфическим аудиторским вопросам ИИ, таким как предвзятость, справедливость, прозрачность, объяснимость, ответственность, управление жизненным циклом моделей, защита данных, надзор за деятельностью человека и контроль безопасности.
Вы научитесь определять цели и объем аудита, выявлять соответствующие меры управления ИИ, готовить контрольные списки и анкеты, распределять ресурсы, создавать график аудита и проводить эффективное открывающее совещание.
На этапах проведения аудита вы научитесь проверять политики ИИ, оценки рисков, записи управления, техническую документацию и доказательства жизненного цикла. Вы также изучите методы интервьюирования заинтересованных сторон и методы сбора надежных объективных доказательств.
Курс объясняет, как оценивать управление ИИ и контроль безопасности, оценивать практики прозрачности и объяснимости и определять, управляются ли рисками предвзятости и справедливости.
