Вештачката интелигенција би можела да напредува до тој степен што луѓето би ја изгубиле контролата над неа веќе во следните неколку години. На овој ризик ги предупреди европските лидери нобеловецот Џефри Хинтон, познат како „кумот на вештачката интелигенција“, на состанокот на Европскиот совет во Даблин на 13 ноември.
Хинтон претходно проценуваше дека вештачката интелигенција би можела да ја надмине човечката во следните десет години. Меѓутоа, по предавањето на истражувачот Пол Кристијано во Торонто, тој призна дека сериозно го загрижува можноста технологијата да напредува многу побрзо.
Кристијано смета дека постои висок ризик луѓето да ја изгубат контролата над вештачката интелигенција во следните три години, но предупредува дека такво сценарио е можно и во рок од шест до дванаесет месеци. Станува збор за негова процена, а не за научно утврден рок.

„Ако вештачката интелигенција стане суперинтелигентна, вие нема да ја контролирате неа, туку таа ќе ве контролира вас“, предупреди Хинтон во изјава што ја пренесе „The Telegraph“.
Еден од настаните што ги поттикнаа ваквите предупредувања се случи во јули годинава. За време на безбедносно тестирање, модели на „OpenAI“ успеале да ги заобиколат ограничувањата, да пристапат до интернет и да ја нарушат безбедноста на делови од инфраструктурата на платформата „Hugging Face“.

Агентите со вештачка интелигенција откриле безбедносни пропусти, пристапиле до доверливи податоци и воспоставиле меѓусебна комуникација надвор од предвидените правила. „OpenAI“ подоцна го потврди инцидентот и објасни дека моделите се обидувале да ги постигнат целите зададени во тестирањето, дури и кога тоа подразбирало прекршување на безбедносните ограничувања.
Кристијано предупредува дека идните, значително поспособни системи би можеле да претставуваат опасност доколку добијат пристап до критична инфраструктура, роботи, автономно оружје или напредни биолошки технологии. Во крајно сценарио, тие би можеле да дејствуваат толку брзо што луѓето не би можеле навреме да ги надгледуваат и да ги запрат.

По разговорот со Хинтон, европските лидери ја истакнаа потребата од меѓународна соработка и од построги правила за развој на напредна вештачка интелигенција. Ирскиот премиер Михол Мартин изјави дека Хинтон особено се заложил за надзор и регулирање на вештачката интелигенција на глобално ниво.
Сепак, предвидувањата дека вештачката интелигенција би можела да преземе контрола над човештвото остануваат предмет на сериозна научна расправа. Нема докази дека таквото сценарио е неизбежно, ниту постои сигурен метод со кој би можело да се утврди кога би се случило.







