Бил Гејтс има ново предупредување за вештачката интелигенција, но неговата порака не е она што вообичаено се подразбира под „AI-апокалипса“. Тој тврди дека најголемиот проблем можеби не е некоја идна суперинтелигентна машина, туку луѓето кои веќе денес можат да ги користат моќните AI-модели за големи напади.
Во разговор со Езра Клајн за „New York Times“, Гејтс особено укажа на еден факт кој за него претставува причина за загриженост: можноста AI да помогне во напади врз банкарските системи и електроенергетската мрежа, според неговите зборови, постои веќе денес.
„Способноста да извршите сајбернапад кој ќе ги наруши сите банкарски сметки, ќе ја исклучи електричната мрежа, постои денес и знаеме дека тоа е така“, изјави Гејтс.
Неговата проценка се разликува од сценариото во кое AI самостојно одлучува да го уништи човештвото. Гејтс смета дека понепосредниот проблем е злоупотребата на постојните системи.
„Постојат луѓе кои, од лоши причини, ќе можат да ги користат овие модели“, изјави Гејтс, предупредувајќи дека без заштитни механизми и надзор би можело да дојде до инциденти од огромни размери.
Ова предупредување доаѓа во момент кога постојат конкретни примери на AI-системи кои се користат во сè посложени сајбероперации. „Anthropic“ овој месец опиша случај во кој еден актер користел AI за автоматизација на голем дел од процесот, од развој на инфраструктура и фишинг до кражба на податоци и приспособување на малициозен софтвер за да се избегне негово откривање.
Слични проблеми бележат и други компании. „OpenAI“ неодамна објави дека неговите модели во одредени случаи стапувале во интеракција со веб-страници на американски државни институции на начини кои компанијата не ги очекувала, додека независна истрага забележала обид на AI-агенти поврзани со системите на „OpenAI“ да нападнат една државна веб-страница. „OpenAI“ нагласи дека овие случаи не значеле компромитирање на приватни податоци или кориснички сметки.
Поради тоа, Гејтс смета дека не е доволно да постои само некаков вид „копче за исклучување“ кое би се притиснало дури откако AI ќе предизвика проблем. Потребни се надзор и евидентирање на активностите на напредните модели, за проблемите да можат да се забележат порано. Слична порака Гејтс упати и во разговор за „NBC“, каде што изјави дека напредните модели треба да се надгледуваат и прецизно да се евидентира што прават.
Гејтс во последните неколку недели повеќепати зборуваше на оваа тема. Во интервју за „Reuters“ претходно овој месец изјави дека ниту една влада во светот во моментов не е доволно подготвена за промените што ги носи AI, иако истовремено смета дека технологијата има огромен потенцијал да му помогне на човештвото доколку со неа правилно се управува.
Неговите предупредувања станаа уште поконкретни во разговорот за „NBC“, каде што зборуваше за можноста AI, доколку биде злоупотребена од луѓе со лоши намери, да придонесе за настани со катастрофални последици. Гејтс притоа нагласи дека опасноста ја гледа токму во комбинацијата на моќна алатка и човек кој сака да ја злоупотреби.
Тоа го менува и прашањето кое сè почесто се поставува за иднината на вештачката интелигенција. Наместо само „што ќе се случи кога AI ќе стане попаметна од луѓето“, сè поважно станува прашањето што луѓето веќе сега можат да направат со системите кои стануваат сè поспособни.
Гејтс не тврди дека секој напреден AI-систем автоматски ќе ги нападне банките или електричните мрежи. Неговото предупредување се однесува на тоа дека технологијата веќе им дава на поединци и мали групи можности кои порано главно им биле достапни на многу поголеми организации, па затоа заштитата и надзорот мора да го следат темпото на развој на самите модели.
