Poți avea încredere în AI? Ar trebui să acceptați constatările sale ca valabile în mod obiectiv, fără întrebări? Problema este că nici măcar să punem la îndoială AI nu ar da răspunsuri clare.
Sistemele AI au funcționat în general ca o cutie neagră: datele sunt introduse și datele sunt emise, dar procesele care transformă datele sunt un mister. Aceasta creează o problemă dublă. Unul este că nu se știe ce performanțe ale algoritmilor sunt cele mai fiabile. Cealaltă este că rezultatele aparent obiective pot fi înclinate de valorile și prejudecățile oamenilor care programează sistemele. Acesta este motivul pentru care este nevoie de transparență pentru procesele de gândire virtuală pe care le folosesc aceste sisteme sau „AI explicabilă”.
Imperativul etic a devenit unul legal pentru oricine este supus GDPR, ceea ce afectează nu doar întreprinderile cu sediul în UE, ci și cele care au relații cu persoane sau organizații acolo. Acesta conține o serie de dispoziții privind protecția datelor care se extind asupra cetățenilor UE „dreptul de a nu fi supus exclusiv procesului decizional automatizat, cu excepția anumitor situații” și „dreptul de a fi furnizate cu informații semnificative despre logica implicată în decizie .“
