Трката на технолошките компании што побрзо да пласираат нови "AI" системи на пазарот би можела да доведе до катастрофа што би ја разнишала довербата на целиот свет во вештачката интелигенција. На тоа предупредува професорот Мајкл Вулдриџ од Универзитетот Оксфорд, еден од најпознатите експерти во оваа област, кој вели дека сценарио слично на историската трагедија на цепелинот „Hindenburg“ денес е „многу реален ризик“.

Огромните комерцијални притисоци ги туркаат компаниите да лансираат "AI" производи пред тие да бидат доволно тестирани и целосно безбедни. „Имаме технологија што е исклучително ветувачка, но не е тестирана толку ригорозно колку што треба, а комерцијалниот притисок зад неа е огромен“, предупредува Вулдриџ.

Реална опасност од голем инцидент

Катастрофата со „Hindenburg“ во 1937 година практично го уништи интересот за воздушните бродови. Вулдриџ смета дека сличен драматичен настан би можел да го запре или сериозно да го забави развојот на "AI" технологијата ширум светот. Бидејќи вештачката интелигенција веќе е вградена во бројни системи, последиците би можеле да погодат речиси секој сектор од општеството.

Експертот наведува неколку сценарија што би можеле да предизвикаат таканаречен „Hindenburg момент“ за "AI". Меѓу нив се смртоносна софтверска грешка кај автономни возила, голем "AI" хакерски напад што би го приземјил глобалниот авио-сообраќај или колапс на голема финансиска институција предизвикан од погрешен потег на автоматизиран систем. „Тоа се многу реални сценарија. Постојат многу начини на кои "AI" би можела јавно и драматично да погреши“, вели Вулдриџ.

"AI" што звучи премногу сигурно

Тој нагласува дека современите "AI" системи не се ни приближно совршени како што многумина веруваат. Денешните модели функционираат така што го предвидуваат следниот збор врз основа на веројатност, поради што се исклучително добри во некои задачи, но многу недоверливи во други. Проблем е и тоа што "AI" често дава самоуверени одговори дури и кога греши и нема свест за сопствените ограничувања.

„Компаниите сакаат "AI" да изгледа што повеќе како човек, но тоа е опасен пат. Мора да сфатиме дека тоа се само алатки“, предупредува професорот.

Профитот пред безбедноста

Иако технолошките компании тврдат дека работат на унапредување на безбедноста, Вулдриџ предупредува дека клучниот проблем е брзината на развој. Во трката за профит, вели тој, постои опасност безбедноста да не го следи темпото на иновациите. Токму затоа, заклучува, светот мора да биде подготвен за можноста од голем "AI" инцидент што би можел да го промени начинот на кој општеството ја перципира вештачката интелигенција.

Еве како професорот зборуваше за "AI" во едно од неговите претходни интервјуа.