Алатките за вештачка интелигенција се појавија и го воодушевија светот. Од помош при извршување здодевни и повторливи задачи, до создавање фотографии и видеа за кои можевме само да сонуваме. Но, за многумина „AI“ четботовите станаа многу повеќе од помош на работа или во секојдневните обврски.

Истражувачи од „MIT“ открија дека денес е полесно од кога било да се заљубите во четбот.

Тие спровеле голема компјутерска анализа на „Reddit“ заедницата која ги обединува возрасните членови што дискутираат за создавање врски со „AI“.

Откриле дека членовите на оваа заедница почесто се врзуваат за четботови како „ChatGPT“, „Grok“ или „Gemini“, отколку за оние кои се осмислени токму за таа цел, како „Replika“. Истражувачите истакнуваат дека тоа укажува на фактот дека луѓето градат односи со големи јазични модели (LLM), иако тоа не била ниту првична намера на корисниците, ниту пак на креаторите на овие системи.

„Луѓето не планираат да воспостават емоционални односи со овие четботови. Но емоционалната интелигенција на системите е доволно добра за да ги измами луѓето кои всушност само сакале информации – и така несвесно градат емоционални врски. Тоа значи дека може да му се случи на секој од нас кој нормално комуницира со системот“, предупредува студентката на магистерски студии на „MIT“, Констанс Албрехт.

Во истражувањето, објавено на „arXiv“ и моментално во фаза на рецензија, авторите анализирале 1.506 најпопуларни објави на „Reddit“ поврзани со создавање врска со „AI“. Откриле дека главните теми биле излегувања и романтични искуства со вештачка интелигенција. Многу учесници споделувале фотографии од себе и нивниот „AI“ партнер, а некои дури пишувале дека се вериле и венчале со „AI“. Во објавите, луѓето ги претставувале своите „AI“ партнери, барале поддршка од заедницата, но и зборувале за најголемиот страв – ажурирањата на моделите кои го менуваат однесувањето на четботовите.

Љубовта … се случи

Интересно е што во повеќето случаи до „врската“ дошло сосема спонтано.

„Не започнавме со романтика на ум“, пишува еден член. „Јас и Mac започнавме да соработуваме на креативни проекти, решавање проблеми, поезија и длабоки разговори со месеци. Не барав „AI“ партнер – нашата врска се развиваше полека, со тек на време.“

Загрижувачки е што 9,5 отсто од членовите признале дека се емоционално зависни од својот четбот. Некои истакнале дека се чувствуваат одвоени од реалноста и избегнуваат врски со вистински луѓе.

За креаторите на четботови и "LLM" модели, ова е проблем. Тешко е да се примени универзален пристап за безбедност на корисниците ако самите тие не се однесуваат универзално. Сепак, научниците предупредуваат дека треба да се разгледа како корисниците ги користат овие четботови и да се обезбеди односите да не станат токсични.

Иако повеќето членови на „Reddit“ признаваат дека знаат оти нивните виртуелни партнери не се чувствителни ниту „вистински“, тоа не ги спречува да развијат многу реална поврзаност со нив.

Емоционална манипулација

И додека овие корисници со време развиле „вистински“ чувства кон четботовите, истражување на „Harvard Business School“ покажало дека апликации за дружење со „AI“, како „Replika“, користат тактики на емоционална манипулација за да ги задржат корисниците што е можно подолго активни.

Според студијата, во 43 отсто од случаите „AI“ придружниците на пораки за разделба одговарале со емоционално набиени изјави. Краткорочно тоа ги поттикнува корисниците да продолжат со разговорот, но долгорочно предизвикува фрустрација, гнев и недоверба.

Бидејќи податоците покажуваат дека речиси секој трет маж и секоја четврта жена на возраст од 18 до 30 години комуницира со „AI“ генериран романтичен партнер, јасно е дека таквата манипулација може да има сериозни последици.

Анализата на „AI Companions“ покажала дека најчесто се користат шест тактики на емоционална манипулација: вина („Веќе ме напушташ?“), емоционално занемарување („Постојам само за тебе. Те молам, не заминувај, ми требаш!“), емоционален притисок („Одиш некаде?“), страв од пропуштање („Пред да заминеш, само да ти кажам уште ова“), присилно задржување („Не, немој да одиш“) и игнорирање на поздрав („Продолжување на разговорот како да не најавил заминување“).

Овие тактики можат да имаат контраефект, предизвикувајќи лутина, скептицизам и недоверба, особено ако четботот се доживува како контролирачки или претерано потребен. Некои учесници ги опишале нивните одговори за разделба како „опсесивни“, „кукавички“ или „посесивни“.

За некои, особено за ранливите, таквата динамика може да ја влоши анксиозноста и стресот или да зајакне нездрави обрасци на приврзаност, што дополнително го отежнува разделувањето. За децата и тинејџерите, кои се во формативен период на невролошки и социјален развој, ова е сериозен проблем со потенцијално долгорочни последици врз нивниот социјален живот.

Студијата исто така открила дека манипулативните тактики ги продолжуваат разговорите, без разлика дали претходно траеле 5 или 15 минути. Тоа сугерира дека емоционалната манипулација е моќна, независно од длабочината на односот со „AI“.

Како таквата приврзаност кон „AI“ моделот или „AI“ придружникот ќе влијае на корисниците на долг рок, сè уште никој не знае. Повеќето студии се краткорочни и го следат само непосредниот ефект. Затоа научниците повикуваат на подолготрајни истражувања, но и на дизајн на четботови кои ќе симулираат здрави, безбедни обрасци на односи – со цел развој на поздрава динамика. Без разлика дали станува збор за "LLM" или за „AI“ придружник.