Ljudi sa višim IQ-om ređe traže pomoć od AI-a, a kada je traže — češće prepoznaju i isprave pogrešan odgovor. Ako ste tako pretpostavljali evo sada imate dokaz.
Većina korisnika to ne radi: istraživanje sa Univerziteta u Pensilvaniji pokazuje da velika većina ispitanika prihvata pogrešne AI odgovore bez preispitivanja, prenosi Ars Technica.
Cognitive surrender
Istraživači ovo nazivaju cognitive surrender — nekritičko prepuštanje razmišljanja mašini. Za razliku od korišćenja kalkulatora ili GPS-a, korisnici LLM-ova često prestanu da uopšte razmišljaju o problemu.
Kada je AI davao tačne odgovore, ogromna većina ih je prihvatila. Kada je davao pogrešne — skoro isti procenat ih je i dalje prihvatilo, umesto da se oslone na sopstveno rezonovanje.
Istraživanje je sprovedeno nad preko 1300 ispitanika, gde su nizom ispitivanja pronašli da u 73% situacija ljudi prihvataju pogrešan rezultat, dok ga u samo 20% situacija odbacuju.
Šta pomaže, a šta odmaže
Kada su ispitanici dobijali povratnu informaciju i finansijski podsticaj, spremnost da isprave AI je značajno porasla.
Vremenski pritisak je imao suprotan efekat — pod stresom su se još više oslanjali na mašinu.
Ispitanici koji su u anketi izrazili visoko poverenje u AI bili su daleko podložniji manipulaciji netačnim odgovorima.
Istraživači napominju da cognitive surrender nije inherentno iracionalan — ako je AI zaista pouzdan, prepuštanje njemu može dati bolje rezultate nego samostalno razmišljanje. Problem je što većina korisnika ne pravi tu razliku.
