Cuprins:
- Definiție - Ce înseamnă problema de învățare a valorii?
- Techopedia explică problema învățării valorii
Definiție - Ce înseamnă problema de învățare a valorii?
Problema de învățare a valorii este o problemă fundamentală specifică în dezvoltarea tehnologiilor de învățare automată și a inteligenței artificiale care abordează diferența dintre oameni și computere și modurile pe care le gândesc.
Pe scurt, problema de învățare a valorilor se bazează pe cât de greu este pentru calculatoare să-și dea seama ce să „valorizeze” (atât din punct de vedere al datelor, cât și al politicilor) și cum să acționeze într-o rețea de învățare automată și modul în care programatorii pot optimiza cum programul acționează pentru a se potrivi cu intențiile lor inițiale atunci când l-au creat.
Techopedia explică problema învățării valorii
Cheia problemei de învățare a valorilor este că este extrem de important ca programatorii să poată realiza programe de învățare automată care realizează valorile prevăzute. Cu toate acestea, captivarea 22 este că valorile nu pot fi indicate explicit în moduri care împiedică învățarea programului în sine.
Oamenii vorbesc uneori despre „convergența” tehnologiilor de învățare a mașinăriei ca fiind concentrată cu succes pe datele de valoare, dar problema învățării valorilor este în unele moduri puțin diferită. Este ideea că trebuie să existe un mod esențial de a arăta ceea ce se dorește programul de învățare automată, mai degrabă decât să-l scrieți, care este un mod determinist de a rula ML.
De exemplu, luați această lucrare despre problema învățării valorilor care sugerează că programele de învățare automată ar putea avea un set de stocare a intrărilor care să arate răspunsuri umane pozitive la stimuli. Când citiți aceste tipuri de adrese pentru problema învățării valorilor, devine clar că există un decalaj major în învățarea mașinii care nu este ușor de remediat - în esență - cum creează oamenii care să creeze mașini care pot gândi cu adevărat ca oamenii? Un alt mod de a explica acest lucru este faptul că problema de învățare a valorilor merge în centrul modului în care gândim noi ca oameni și a modului în care gândurile noastre nu sunt întotdeauna bazate pe aportul de rol.
Pentru ca computerele să modeleze intuiția, instinctul nostru, înclinațiile noastre sociale și valorile noastre etice cele mai profunde este o ordine înaltă, chiar și atunci când computerele pot învăța să joace șah într-un mod uman sau să ne depășească în rezolvarea problemelor matematice dificile. Profesioniștii se pot aștepta ca programul de învățare a valorilor să continue să fie central în dezvoltarea tehnologiilor de învățare automată.
