Î:
De ce ar putea o companie să închidă un proiect AI chatbot?
A:Companiile ar putea închide proiectele de chatbot pentru inteligență artificială din mai multe motive, dar cele mai probabile pot fi grupate în câteva categorii. În primul rând, companiile pot opri tehnologiile chatbot dacă acționează în moduri care ar putea face compania inconfortabilă, cum ar fi promovarea vorbirii obiectabile. În mod alternativ, companiile ar putea să închidă un proiect de chatbot dacă începe să demonstreze capacitatea și capacitatea care nu pot fi controlate cu ușurință, sau pot reprezenta un fel de amenințare pentru sănătatea și siguranța publică.
Amândouă aceste scenarii sunt documentate în istoria recentă. Experimentul Microsoft cu chat-ul Tay s-a încheiat atunci când Tay a început să ia unele dintre cele mai grave caracteristici ale omologilor săi umani - comentarii rasiste și agresive și în general o activitate de obiecțiune, mare parte din care a fost clar învățată sau chiar parrotată direct de la utilizatori.
Într-un studiu de caz foarte diferit, o configurație de chatbot pionieră de Facebook a fost închisă atunci când oamenii de știință au observat doi chatbots care comunicau între ei într-un mod care era oarecum exclusiv pentru observația umană. S-a afirmat că entitățile chatbot au început să „vorbească într-un fel de cod”, care le era mai convenabil și mai puțin transparent pentru manipulatorii lor umani. Acesta este un exemplu al acestei preocupări foarte reale în jurul inteligenței artificiale în general - că, pe măsură ce facem progrese mari în progresia inteligenței artificiale puternice, oamenii trebuie să acționeze pentru a conține și controla orice exemple de implementare a AI pentru a se asigura că nu vor trece. limite. Există un număr mare de preocupări etice și probleme de siguranță care trebuie abordate cu o inteligență artificială puternică, iar acesta este unul dintre motivele principale pentru care unele chatbots sau alte proiecte de inteligență artificială pot fi închise în viitor de către părțile interesate care au construit și i-a susținut printr-un anumit proces.
