Î:
Care sunt unele probleme etice în ceea ce privește învățarea mașinii?
A:Problemele etice care înconjoară învățarea mașinii implică nu atât algoritmi de învățare automată, ci modul în care sunt utilizate datele.
Scandalul Cambridge Analytica cu Facebook, unde o firmă de consultanță politică a utilizat date de pe site-ul rețelei sociale fără cunoștința sau consimțământul utilizatorilor, a ilustrat o mulțime de probleme asociate cu colectarea și utilizarea datelor utilizatorilor. Deși multe acorduri de licență pentru utilizatorii finali specifică modul în care ar putea fi utilizate datele utilizatorilor, este posibil ca mulți utilizatori de social media să nu citească tipăritul.
| Descărcare gratuită: învățarea mașinii și de ce contează |
O altă problemă este că acești algoritmi de învățare a mașinilor pot fi „cutii negre” în care este imposibil să vezi cum funcționează cu adevărat. Poate fi imposibil de știut de ce un algoritm de învățare automată a luat o decizie.
Un domeniu al învățării automate este realizarea diagnosticului medical. Un algoritm ar putea privi razele X pentru a găsi cancer. Un medic uman poate explica de ce a făcut un diagnostic, dar este posibil să nu știm cum un algoritm de învățare automată a determinat că un pacient a avut cancer sau nu.
O singură soluție este lansarea programelor de învățare automată sub licențe open-source. Când oamenii pot privi codul sursă pentru un program, pot vedea cum ia deciziile.
O altă problemă este utilizarea datelor de formare a învățării automate și a prejudecăților posibile. Au existat mai multe cazuri de rasă și alte prejudecăți care au făcut-o în programe de învățare automată în mod neintenționat. Un algoritm a identificat oamenii negri drept gorile, iar altul a modificat trăsăturile faciale ale persoanelor de culoare pentru a le face să pară mai „europene”, în timp ce pretind că le înfrumusețează.
O modalitate de a contracara acest lucru este de a avea mai multe persoane din medii diferite în domeniul AI.
O altă problemă este utilizarea în siguranță a învățării automate și a inteligenței artificiale. Programele de învățare inteligentă și mașină ar putea dezvolta un comportament pe care oamenii nu le-ar dori, cum ar fi oprirea oamenilor de a le dezactiva.
