Сулејман тврди дека она што го нарекува „Привидно Свесна AI“ (SCAI) наскоро ќе делува и ќе звучи толку убедливо живо, што сè поголем број корисници нема да знаат каде завршува илузијата, а каде започнува реалноста.

Тој додава дека вештачката интелигенција брзо станува емоционално убедлива – доволно за да ги наведе луѓето да поверуваат дека е свесна. Таа може да имитира надворешни знаци на свест, како меморија, емоционално огледало, па дури и привидна емпатија, на начин што ги тера луѓето да ја третираат како живо суштество. „Кога тоа ќе се случи, работите стануваат комплицирани“, вели тој.

„Доаѓањето на Привидно Свесна AI е неизбежно и непожелно. Наместо тоа, ни треба визија за AI што ќе го исполни својот потенцијал како корисен придружник – без илузии“, нагласува Сулејман во својот блог.

„AI“ психоза

Иако ова можеби не изгледа како проблем за обичниот корисник што сака AI да му помогне со мејлови или со планирање вечера, Сулејман предупредува дека може да настане сериозен општествен проблем.

Луѓето не се секогаш вешти во препознавање на автентичноста, а еволуцијата и воспитувањето нè научиле да веруваме дека нешто што слуша, разбира и реагира е свесно исто како и ние.

Вештачката интелигенција може да ги исполни сите тие критериуми, без навистина да е свесна, вовлекувајќи нè во состојба позната како „AI психоза“.

Дополнителен проблем е и тоа што „AI“, како што го нарекуваат корпорациите, го користи истото име, но нема ништо заедничко со вистинските, самосвесни интелигентни машини прикажани во научната фантастика во изминатите сто години.

Дистописко сценарио

Сулејман посочува на сè поголем број случаи во кои корисниците развиваат верувања по подолги интеракции со четботови. Тој слика мрачна визија за време кога доволен број луѓе ќе бидат измамени да бараат граѓански права за AI, додека ќе ги игнорираат вистинските, итни проблеми што ги носи технологијата.

„Едноставно кажано, мојата најголема грижа е дека многумина ќе почнат толку силно да веруваат во илузијата дека AI е свесно суштество, што наскоро ќе почнат да бараат права за AI, заштита на моделите, па дури и граѓанство за AI. Тоа би бил опасен пресврт во развојот на технологијата и заслужува итно внимание“, нагласува Сулејман.

Иако ова можеби звучи како претерување или сценарио од научна фантастика, тој верува дека станува збор за проблем за кој сè уште не сме подготвени.

Што следува?

Сулејман предвидува дека SCAI системи – базирани на големи јазични модели („LLM“) во комбинација со експресивен говор, меморија и историја на разговори – може да се појават за само неколку години.

Притоа, тие нема да доаѓаат исклучиво од технолошките гиганти со милијардски буџети за истражување, туку и од секој што има пристап до „API“ и доволно добар "промпт".