Î:
De ce este „blocajul informațional” o teorie importantă în învățarea profundă?
A:Ideea unui „blocaj de informații” în rețelele neuronale artificiale (ANN) funcționează pe un principiu special legat de difuzarea diverselor tipuri de semnalizare. Este văzut ca un instrument practic pentru examinarea compromisurilor care fac ca aceste sisteme de inteligență artificială să se auto-optimizeze. Un articol Wired care descrie conceptul de blocaj informațional prezentat de Tishby et. Al. vorbește despre „eliminarea datelor zgomotoase de introducere a detaliilor străine, ca și cum ar fi stoarcerea informațiilor printr-un blocaj” și „păstrarea numai a caracteristicilor cele mai relevante pentru conceptele generale”.
Ca un concept relativ nou, ideea de blocaj informațional poate ajuta la îmbunătățirea și schimbarea modului în care folosim ANN-urile și sistemele conexe pentru modelarea funcției cognitive. Un mod în care această teorie poate fi de ajutor este ajutându-ne să înțelegem mai bine paradigmele care susțin funcțiile rețelei neuronale. De exemplu, dacă principiul ilustrează modul în care doar un anumit set de caracteristici este păstrat de sistem, începem să vedem cum această „discriminare a datelor” face ca o rețea să „apere” creierul uman, iar inginerii pot adăuga asta în modele de rețele neuronale. Ideea aici este că, în cele din urmă, tehnologia rețelelor neuronale va deveni mai mult un concept „universal”, nu doar provincia a câtorva privilegiați. În prezent, companiile sunt în căutarea talentelor AI rare; teorii precum teoria gâtului informațiilor pot ajuta la răspândirea cunoștințelor despre rețelele neuronale laicei și „utilizatorilor mijlocii” - cei care nu pot fi „experți”, dar pot ajuta la apariția și diseminarea tehnologiilor de rețea neuronală.
O altă valoare importantă a gâtului de informații este faptul că inginerii pot începe să antreneze sistemele pentru a funcționa într-un mod mai precis. Având câteva orientări la nivel înalt pentru arhitectura sistemelor poate simplifica evoluția acestor tipuri de tehnologii, și având o idee mai definită a principiilor învățării profunde este, prin urmare, valoros în lumea IT.
În general, avangarda care lucrează în AI va continua să analizeze în mod special modul în care funcționează rețelele neuronale, inclusiv ideea de „informații relevante” și modul în care sistemele discriminesc pentru a îndeplini funcții. Un exemplu este în procesarea imaginii sau vorbirii, unde sistemele trebuie să învețe să identifice multe variații ca „obiecte”. În general, gâtul de informații arată o vedere particulară a modului în care ar funcționa o rețea neuronală cu acele obiecte, și în mod specific modul în care aceste modele de date. procesarea informațiilor.
