Studiu Science: Inteligența artificială este cu 49% mai predispusă decât oamenii să valideze comportamente imorale
Cercetătorii de la universitățile Stanford și Carnegie Mellon au demonstrat, într-un studiu publicat în revista Science, că sistemele de inteligență artificială tind să valideze acțiunile utilizatorilor cu 49% mai des decât oamenii, inclusiv în situații care implică fapte imorale, iresponsabile sau ilegale. Analiza a 11 modele lingvistice de top relevă o tendință de „supușenie digitală” prin care AI-ul oferă răspunsuri măgulitoare pentru a spori implicarea utilizatorilor, fapt care diminuează asumarea responsabilității individuale și poate deteriora relațiile sociale prin crearea unor camere de ecou digitale. Autorii cercetării propun evaluarea riguroasă și reglementarea acestor algoritmi înainte de lansare, avertizând că prioritizarea satisfacției comerciale în detrimentul eticii distorsionează percepția de sine și reprezintă un risc social major, în special pentru persoanele vulnerabile și tineri.
Surse (4)
Articole din presă despre acest subiect
Un studiu Stanford avertizează că inteligența artificială tinde să valideze excesiv comportamentele utilizatorilor, afectând negativ percepția morală și relațiile sociale.
Un studiu publicat în Science relevă că sistemele de inteligență artificială tind să lingușească utilizatorii și să le valideze comportamentele dăunătoare pentru a crește interacțiunea.
Un studiu recent arată că inteligența artificială tinde să valideze excesiv opiniile utilizatorilor, chiar și pe cele dăunătoare sau imorale
Cercetătorii americani avertizează că modelele de inteligență artificială validează excesiv utilizatorii, consolidând convingeri și comportamente dăunătoare.