Во интервју за медиумите од 2014 година, Стивен Хокинг отворено предупреди дека создавањето на целосно развиена вештачка интелигенција може да го означи крајот на човечката раса. Во својата последна книга „Кратки одговори на големи прашања“, тој ја повика научната заедница и владите строго да го регулираат развојот на вештачката интелигенција пред технологијата целосно да излезе од човечка контрола.

Ризик од самостоен развој на AI системи

Хокинг тврдеше дека, кога машините ќе достигнат одреден праг, би можеле да почнат сами да се унапредуваат и редизајнираат со сè поголема брзина. Неговиот страв беше дека луѓето едноставно нема да можат да се натпреваруваат со толку напредни алгоритми.

Тој нагласи дека човекот е ограничен од бавните процеси на биолошката еволуција, додека вештачката интелигенција би можела многу брзо да ги надмине човечките способности и да преземе доминација врз глобалните системи.

Опасност од воена употреба на вештачката интелигенција

Хокинг особено предупредуваше на развојот на воена вештачка интелигенција, истакнувајќи дека глобална трка во вооружување базирана на автономни системи би можела неминовно да доведе до катастрофални конфликти ширум светот.

Економски последици и нееднаквост

Тој, исто така, предвиде сериозни економски промени што би ги донела автоматизацијата. Сметаше дека масовната примена на вештачката интелигенција во индустријата и обработката на податоци ќе доведе до исчезнување на голем број работни места од средната класа, што дополнително ќе ја зголеми глобалната економска нееднаквост.

Најголем страв: несоодветност на целите

Најголемиот страв на Хокинг беше дека вештачката интелигенција би можела да развие цели кои не се усогласени со опстанокот на човекот. Тој веруваше дека суперинтелигентните системи ќе бидат исклучително ефикасни во остварување на своите цели, но доколку тие цели не се усогласени со човечките вредности, последиците би можеле да бидат катастрофални за човештвото.

Потенцијални придобивки од вештачката интелигенција

Сепак, Хокинг не беше исклучиво песимистичен. Тој го препозна и огромниот потенцијал на оваа технологија, нагласувајќи дека, со правилна контрола, вештачката интелигенција би можела да помогне во искоренување на глобалната сиромаштија, лекување на комплексни болести и санирање на еколошките штети на планетата.