يتم استخدام الذكاء الاصطناعي بشكل متزايد في العمليات التجارية والرعاية الصحية والنقل والتمويل واتخاذ القرارات والبيئات الحيوية الأخرى. مع نمو اعتماد الذكاء الاصطناعي، يجب على المنظمات إثبات أن أنظمتها تدار بشكل مسؤول، وأن المخاطر يتم التحكم فيها، وأن المتطلبات القانونية والأخلاقية والتنظيمية ذات الصلة يتم تناولها.
يقدم هذا المساق دليلًا عمليًا خطوة بخطوة لمراجعة نظام إدارة الذكاء الاصطناعي وفقًا لمعايير ISO/IEC 42001. يشرح دورة التدقيق الكاملة، من فهم المعيار وإعداد التدقيق إلى إعداد التقارير عن النتائج وإغلاق التدقيق ومراقبة الإجراءات التصحيحية.
ستبدأ بمقدمة لأنظمة إدارة الذكاء الاصطناعي وهيكل ISO/IEC 42001. يفحص المساق البنود من 4 إلى 10، بما في ذلك السياق التنظيمي والقيادة والتخطيط والدعم والعمليات وتقييم الأداء والتحسين المستمر.
باستخدام NeuroVista Technologies كدراسة حالة رئيسية، سترى كيف يمكن تقييم متطلبات ISO 42001 داخل بيئة تنظيمية واقعية. يتم استخدام منظمة خيالية ثانية، AutoVision AI، للمهام وتمارين التدقيق العملية.
ثم يقدم المساق المبادئ الأساسية للتدقيق، بما في ذلك النزاهة والموضوعية والسرية واتخاذ القرارات المستندة إلى الأدلة والحكم المهني. ستتعلم كيفية تطبيق نهج قائم على المخاطر عند تقييم أنظمة الذكاء الاصطناعي وتحديد أولويات المجالات التي تنطوي على مخاطر أخلاقية وأمنية وسياسية وتشغيلية وامتثالية كبيرة.
يتم إيلاء اهتمام خاص لمخاوف التدقيق الخاصة بالذكاء الاصطناعي مثل التحيز والعدالة والشفافية والقابلية للتفسير والمساءلة وحوكمة دورة حياة النموذج وحماية البيانات والإشراف البشري وضوابط الأمان.
ستتعلم كيفية تحديد أهداف التدقيق ونطاقه، وتحديد ضوابط الحوكمة ذات الصلة بالذكاء الاصطناعي، وإعداد قوائم المراجعة والاستبيانات، وتخصيص الموارد، وإنشاء جدول تدقيق، وإجراء اجتماع افتتاحي فعال.
خلال مراحل تنفيذ التدقيق، ستتعلم كيفية مراجعة سياسات الذكاء الاصطناعي وتقييمات المخاطر وسجلات الحوكمة والوثائق الفنية وأدلة دورة الحياة. كما ستستكشف تقنيات مقابلة أصحاب المصلحة وأساليب جمع أدلة موضوعية موثوقة.
يشرح المساق كيفية تقييم ضوابط الحوكمة والأمن للذكاء الاصطناعي، وتقييم ممارسات الشفافية والقابلية للتفسير، وتحديد ما إذا كانت مخاطر التحيز والعدالة يتم التحكم فيها.
