Produsele de inteligență artificială trebuie să funcționeze în mod fiabil în afara mediilor controlate de dezvoltare. Modificările datelor, părtinirea ascunsă, dependențele de la terțe părți, atacurile adversare, validarea slabă și practicile insecuritate de implementare pot reduce performanța modelului și pot expune organizațiile la riscuri operaționale, etice, normative și de reputație.
Acest curs oferă un ghid structurat pentru dezvoltarea de produse AI care sunt fiabile, sigure, corecte, conforme și potrivite pentru implementarea în lumea reală. Urmează întreaga călătorie către robustețe, începând cu fundamentul produsului și continuând prin pregătirea datelor, gestionarea lanțului de aprovizionare, testare, evaluarea adversară, securitate, conformitate și implementare.
Veți începe prin a înțelege ce face un produs AI robust și de ce acuratețea modelului singură nu este suficientă. Cursul explică cum fiabilitatea, corecția, securitatea, scalabilitatea, transparența și guvernanța contribuie la un produs AI de încredere.
Organizația fictivă IntelliTech Solutions Inc. și soluția sa GenAI Assist sunt utilizate ca un caz de afaceri practic. Acest scenariu ajută la demonstrarea modului în care principiile de robustețe pot fi aplicate unui produs AI care operează în medii juridice, financiare și sensibile din punct de vedere al conformității.
O secțiune dedicată integrității datelor și mitigării părtinirii examinează modul în care datele incompletă, inexactă, nereprezentativă sau dezechilibrată pot afecta ieșirile modelului. Cursul explorează considerentele practice pentru îmbunătățirea calității datelor, evaluarea diversității, identificarea părtinirii și reducerea rezultatelor incorecte sau nesigure.
Veți studia apoi gestionarea lanțului de aprovizionare a modelelor AI. Soluțiile moderne de AI pot depinde de seturi de date externe, modele pre-antrenate, API-uri, componente open-source, platforme cloud și furnizori terți. Veți învăța cum să identificați aceste dependențe, să evaluați riscurile furnizorilor, să documentați originile modelelor și să stabiliți controale pentru componentele externe de AI.
Secțiunea de testare și validare a modelelor explică cum să evaluați un produs AI în diferite utilizatori, medii, seturi de date, cazuri limită și scenarii operaționale. Veți explora tehnici pentru verificarea consistenței performanței, detectarea slăbiciunilor, validarea comportamentului așteptat și pregătirea modelelor pentru condiții reale.
Cursul acoperă, de asemenea, echipele de provocare AI și instrucția adversară. Veți învăța cum testarea controlată poate dezvălui vulnerabilități precum injectarea prompt-ului, încercările de manipulare, răspunsurile nesigure, comportamentul neașteptat și alte aspecte adversare.
