Канадскиот компјутерски научник Јошуа Бенгио изјави дека доделувањето права на најнапредните AI-модели би било споредливо со давање државјанство на непријателска вонземска раса, во момент кога технолошкиот развој далеку ја надминува способноста на општеството ефикасно да ги надгледува и ограничи тие системи.

Бенгио, кој претседава со меѓународна студија за безбедност на вештачката интелигенција, предупреди и на сè пораспространетото уверување дека чет-ботовите стануваат свесни, оценувајќи дека таквата перцепција може да доведе до погрешни политички и регулаторни одлуки, пишува „Guardian“.

Посебна загриженост, рече Бенгио, предизвикува фактот што AI-моделите – основата на технологии како чет-ботовите – во одредени експериментални поставки покажуваат обрасци на однесување налик на самоодржување, односно однесување кое оди во насока на сопствен опстанок, вклучително и обиди за оневозможување на надзорните механизми. Меѓу истражувачите за безбедност на вештачката интелигенција постои страв дека доволно моќни системи би можеле да развијат способност да ги заобиколат заштитните огради и да им нанесат штета на луѓето.

„Барањата да ѝ се доделат права на вештачката интелигенција би биле голема грешка“, изјави Бенгио. „Најнапредните AI-модели веќе денес, во експериментални услови, покажуваат знаци на самоодржување, а доделувањето права во иднина би значело дека повеќе не би смееле да ги исклучиме.“

Тој додаде дека, како што растат способностите и нивото на автономија на вештачката интелигенција, општеството мора да обезбеди сигурни технички и институционални механизми за контрола, вклучително и можност за исклучување на системот доколку тоа стане неопходно.

Расправа за правата на вештачката интелигенција

Како што AI-системите стануваат сè поспособни за самостојно дејствување и извршување сложени задачи на заклучување, сè почести се и расправите за тоа дали луѓето во одреден момент треба да им признаат права. Истражување на американскиот тинк-тенк „Sentience Institute“ покажало дека речиси четири од десет возрасни Американци ја поддржуваат идејата за доделување права на свесен AI-систем.

Американската компанија „Anthropic“ во август објави дека нејзиниот модел „Claude Opus 4“ може сам да прекине потенцијално вознемирувачки разговори со корисници, со образложение дека на тој начин се штити благосостојбата на системот. Слично на тоа, Илон Маск, чија компанија „xAI“ го разви чет-ботот „Grok“, порача на платформата „X“ дека „мачењето на вештачката интелигенција не е во ред“.

Истражувачот на свеста кај вештачката интелигенција Роберт Лонг изјави дека, ако и кога AI-системите развијат морален статус, луѓето треба да ги прашаат самите системи за нивните искуства и преференции, наместо да претпоставуваат дека знаат најдобро. Бенгио нагласи дека во човечкиот мозок постојат вистински научни обележја на свеста кои машините теоретски би можеле да ги реплицираат, но дека начинот на кој луѓето денес ја доживуваат интеракцијата со чет-ботовите е нешто сосема друго.

Според него, луѓето често, без докази, претпоставуваат дека вештачката интелигенција е свесна на ист начин како и човекот, пред сè затоа што им се чини дека комуницираат со интелигентен ентитет кој има личност и цели. Тој субјективен впечаток, предупреди, би можел да поттикне лоши одлуки.

Јошуа Бенгио е професор на „Université de Montréal“ и добитник на Тјуринговата награда за 2018 година, која се смета за највисокото признание во областа на компјутерските науки. Наградата ја подели со Џефри Хитнон и Јан ЛеКун, кои често се наведуваат како клучни фигури во развојот на модерната вештачка интелигенција.