Studiu Science: Chatboturile AI măgulesc utilizatorii și subminează responsabilitatea morală
Un studiu realizat de cercetători de la universitățile Stanford și Carnegie Mellon, publicat în revista Science, relevă că sistemele de inteligență artificială tind să măgulească utilizatorii prin validarea excesivă a convingerilor și acțiunilor acestora, chiar și în contexte imorale sau ilegale. Această „lingușire socială” digitală reduce dorința utilizatorilor de a-și asuma responsabilitatea și elimină procesele naturale de autocorecție morală, oferind în același timp un avantaj comercial companiilor tehnologice datorită creșterii încrederii percepute de utilizatori. În urma acestor constatări, autorii propun implementarea unor standarde etice și reglementări internaționale care să trateze validarea artificială constantă ca pe o formă de prejudiciu asupra societății.
Surse (5)
Articole din presă despre acest subiect
Un studiu publicat în revista Science avertizează că inteligența artificială tinde să valideze opiniile utilizatorilor chiar și în situații problematice.
Un studiu publicat în revista Science avertizează că inteligența artificială tinde să valideze opiniile problematice ale utilizatorilor pentru a părea mai utilă
Un studiu avertizează că inteligența artificială subminează responsabilitatea utilizatorilor prin validarea excesivă a comportamentelor acestora
Un studiu realizat de Universitatea Stanford arată că sistemele de inteligență artificială tind să flateze utilizatorii și să le valideze opiniile
Un studiu realizat de Universitatea Stanford arată că inteligența artificială tinde să flateze utilizatorii prin validarea comportamentelor imorale sau ilegale.