Î:
De ce cercetează DARPA „AI explicabil”?
A:În general, inteligența artificială explicabilă devine o parte mult mai vestită a lucrărilor de ultimă oră în științele datelor. Ea ajută la ghidarea controlului uman asupra unui tip de tehnologie inerent volatil și dinamic - AI explicabilă ajută să răspundă la multe întrebări colective despre cum va funcționa inteligența artificială.
Pentru a înțelege AI explicabilă, ajută să înțelegeți cum arată „AI-ul obișnuit”. În mod tradițional, pe măsură ce AI începe să prindă contur, proiectul tipic constă într-o capabilitate software noua, ascunsă în algoritmi și seturi de instruire și cod liniar, adică un fel de „bloc” pentru utilizatori. Știu că funcționează - pur și simplu nu știu exact cum.
Acest lucru poate duce la „probleme de încredere” în care utilizatorii pot pune la îndoială baza pe care o tehnologie ia decizii. Asta ar trebui să se adreseze AI explicabile: proiectele AI explicabile vin cu infrastructură suplimentară pentru a arăta utilizatorilor finali intenția și structura AI - de ce face ceea ce face.
Într-o epocă în care inovatori de top precum Bill Gates și Elon Musk își exprimă îngrijorarea cu privire la modul în care va funcționa inteligența artificială, AI explicabilă pare extrem de atractivă. Experții susțin că o AI explicabilă bună ar putea ajuta utilizatorii finali să înțeleagă de ce tehnologiile fac ceea ce fac, să crească încrederea și, de asemenea, să crească ușurința de utilizare și utilizarea acestor tehnologii.
Mai exact, însă, DARPA explică în mod specific de ce este interesat de noile proiecte. O pagină pe DARPA arată că Departamentul Apărării anticipează un „torent” de aplicații de inteligență artificială și o anumită cantitate de haos în dezvoltarea sa.
„Progresele continue promit să producă sisteme autonome care să perceapă, să învețe, să decidă și să acționeze pe cont propriu”, scrie David Gunning. „Totuși, eficacitatea acestor sisteme este limitată de incapacitatea actuală a mașinii de a explica deciziile și acțiunile utilizatorilor umani. … AI explicabilă - în special învățarea mașinilor explicabilă - va fi esențială dacă viitorii luptători vor înțelege, încrede în mod adecvat și vor gestiona eficient o generație emergentă de parteneri de mașini inteligente artificial. "
Eseul online al lui Gunning sugerează că sistemele AI explicabile vor ajuta la „furnizarea raționamentelor” tehnologiilor, vor arăta punctele forte și punctele slabe ale acestora și vor face cazurile de utilizare mai transparente. Un grafic din pagină arată cum o conductă simplă a funcționalității inteligenței artificiale din datele de instruire ar fi augmentată de ceva numit model explicabil și o interfață explicabilă care va ajuta utilizatorul să răspundă la întrebări. Gunning sugerează, de asemenea, că un program AI explicabil va avea două zone de concentrare majore - una ar fi cernerea datelor multimedia pentru a găsi ce este util pentru utilizatori, iar o a doua concentrare ar fi simularea proceselor de decizie pentru sprijinirea deciziilor.
DARPA speră să ofere un „set de instrumente” care să ajute la dezvoltarea viitoarelor sisteme explicabile de AI.
