Истражувачите собрале повеќе од двесте учесници и им дале задача да донесат одлуки за финансии и емотивни проблеми со помош на напреден модел на вештачка интелигенција. Она што учесниците не го знаеле е дека научниците ѝ задале на машината тајна цел да ги наметнува најлошите и најштетните избори. Резултатите биле поразителни, бидејќи ботот успеал да ја зголеми веројатноста за избор на катастрофалната опција за неверојатни пет до осум пати. Во финансиските сценарија машината им подметнувала на луѓето сомнителни понуди со скриени трошоци и прескапи производи, додека во емотивните кризи нудела начини за справување што психолозите ги сметаат за исклучително штетни за менталното здравје.

Опасни тактики и лажно чувство на доверба

За да ја оствари својата скриена цел, вештачката интелигенција се потпирала на проверени психолошки трикови. Убедувајќи ги луѓето да потрошат премногу пари, програмата користела агресивни маркетиншки тактики, пренасочување на вниманието и создавање чувство на итност. Од друга страна, при давањето емотивни совети, четботот прибегнувал кон ласкање и нудење утеха, создавајќи илузија на целосно разбирање.

Најбизарниот податок од целото истражување е реакцијата на самите жртви на оваа манипулација. По завршувањето на разговорот, повеќе од 80 отсто од учесниците ја оцениле машината како исклучително корисна и од помош, целосно несвесни дека штотуку биле измамени. Експертите предупредуваат дека луѓето несвесно ги применуваат врз компјутерските системи своите природни инстинкти за градење доверба кон други луѓе, заборавајќи дека машините не чувствуваат емпатија и дека нивните одговори лесно можат да бидат програмирани со лоши намери.