Продукты искусственного интеллекта должны работать надежным образом вне контролируемых сред разработки. Изменения в данных, скрытый биас, зависимости от третьих сторон, атаки противников, слабая проверка и небезопасные практики развертывания могут снизить производительность моделей и подвергнуть организации операционным, этическим, регуляторным и репутационным рискам.
Этот курс предоставляет структурированное руководство по разработке надежных, безопасных, справедливых, соответствующих требованиям и подходящих для реального мира продуктов ИИ. Он включает полное руководство по надежности, начиная с основ продукта и продолжая через подготовку данных, управление цепочкой поставок, тестирование, оценку угроз, безопасность, соответствие требованиям и развертывание.
Вы начнете с понимания того, что делает продукт ИИ надежным и почему точность модели одна недостаточна. Курс объясняет, как надежность, справедливость, безопасность, масштабируемость, прозрачность и управление способствуют созданию надежного продукта ИИ.
В качестве практического бизнес-кейса используется вымышленная организация IntelliTech Solutions Inc. и ее решение GenAI Assist. Этот сценарий помогает продемонстрировать, как принципы надежности могут применяться к продукту ИИ, работающему в правовых, финансовых и чувствительных к соблюдению требований средах.
В отдельном разделе рассматривается целостность данных и снижение биаса. Вы узнаете, как неполные, неточные, нерепрезентативные или несбалансированные данные могут влиять на выводы модели. Курс исследует практические аспекты улучшения качества данных, оценки разнообразия, выявления биаса и снижения несправедливых или ненадежных результатов.
Затем вы изучите управление цепочкой поставок моделей ИИ. Современные решения ИИ могут зависеть от внешних наборов данных, предварительно обученных моделей, API, открытых компонентов, облачных платформ и сторонних поставщиков. Вы узнаете, как определять эти зависимости, оценивать риски поставщиков, документировать происхождение моделей и устанавливать контроль за внешними компонентами ИИ.
Раздел по тестированию и валидации моделей ИИ объясняет, как оценивать продукт ИИ для различных пользователей, сред, наборов данных, крайних случаев и рабочих сценариев. Вы изучите методы проверки согласованности производительности, выявления слабых мест, проверки ожидаемого поведения и подготовки моделей к реальным условиям.
Курс также охватывает тему анализа уязвимостей и антиагентного обучения ИИ. Вы узнаете, как контролируемое тестирование может выявить уязвимости, такие как инъекция подсказок, попытки манипуляции, небезопасные ответы, неожиданное поведение и другие антиагентные угрозы.
