Според мислењето на експертите, многу потивка закана можеби веќе е на дело: постепеното слабеење на нашата способност да размислуваме, планираме и донесуваме одлуки без надворешна помош. Овој феномен се опишува како „слабеење“ и се однесува на постепената ерозија на критичкото размислување, способноста за планирање, па дури и на одредени емоционални вештини, додека луѓето префрлаат сè повеќе одговорности врз системите.

Вистинската опасност

Д-р Самуеле Винанци, вонреден професор по роботика и вештачка интелигенција на Универзитетот Шефилд Халам во Велика Британија, смета дека ова е еден од најсериозните реални ризици на денешницата. Како што истакнува, сè поголем број истражувања покажуваат дека овој загрижувачки процес веројатно веќе започнал.

„Со текот на времето, овие мали одлуки би можеле да нè доведат до популација која тешко размислува без технолошка помош и која е помалку способна да ги разбере, контролира и, кога е потребно, да ги заобиколи системите од кои зависи“, предупредува тој во разговор за „Conversation“.

Според Винанци, сценаријата во кои суперсистемите ја преземаат контролата врз електричните мрежи или нуклеарните постројки не се најреалистични. Тој истакнува дека секоја акција во реалниот свет и натаму во голема мера зависи од луѓето, материјалните ресурси и инфраструктурата. Затоа смета дека најдраматичните предвидувања често занемаруваат колку технологијата и натаму е тесно поврзана со човечката интервенција.

Многу поверојатен, според неговото мислење, е ризикот од бавно „слабеење на човечките способности“ поради постојаното препуштање на задачите на машините.

Како доаѓа до „слабеење“

Овој процес не се случува нагло, туку кумулативно, преку мноштво мали, секојдневни избори. Психолозите го користат терминот „когнитивно растоварување“ за склоноста на луѓето да прибегнуваат кон надворешни алатки за да заштедат ментален напор.

Колку повеќе му препуштаме на компјутерот да пишува, програмира, истражува или да ни помага во донесувањето одлуки, толку оваа кратенка станува понормална и ни е потешко да се вратиме на посложените ментални процеси. Со текот на времето, удобноста може да прерасне во зависност.

Винанци како карактеристичен пример наведува неодамнешен инцидент во САД, кога погрешен извештај генериран од компјутерска програма наводно за малку ќе довел до тоа американските вооружени сили да се качат на брод под кинеско знаме, бидејќи системот лажно тврдел дека бродот превезува компоненти за програма за нуклеарно оружје.

Кризата била избегната исклучиво затоа што некој застанал и ги довел во прашање тие податоци. „Токму тоа е видот на критичко размислување што ризикуваме да го изгубиме“, напоменува Винанци.