Иако вештачката интелигенција сè уште не може директно да ги чита човечките мисли, таа веќе е способна тивко да влијае врз нашето однесување и да ги обликува нашите одлуки преку системи за препораки, персонализација и контрола на информации во огромни размери.

Експерти од областа на сајбер-безбедноста предупредуваат дека се случува голем пресврт — од обична обработка на податоци преминуваме кон системи што можат да управуваат со човечкото расудување, што претставува сериозен ризик за нашата приватност и слободата на избор.

На големата европска конференција на компанијата „Kaspersky“, одржана во Рим, безбедносниот тим „GReAT“ издвои четири клучни ризици што ќе стануваат сè поопасни со развојот на таканаречената когнитивна вештачка интелигенција.

Социјалниот инженеринг станува многу поопасен

Големите јазични модели ги претвораат класичните интернет-измами во значително пософистицирана закана. Напаѓачите повеќе не испраќаат сомнителни имејлови полни со граматички грешки.

Со помош на AI системи, тие сега можат да користат социјални мрежи и големи бази на податоци за да осмислат високо таргетирани измами засновани на психолошко профилирање на жртвата.

Таквите фишинг-напади можат автоматски да се приспособуваат на моментот и да звучат емоционално убедливо, поради што е исклучително тешко да се препознаат.

Овие измами подеднакво ги погодуваат и поединците и големите организации преку кражба на податоци и финансиски злоупотреби.

Најновите податоци покажуваат дека фишингот веќе сочинува околу 15 проценти од сите регистрирани напади и претставува главна влезна точка за ширење опасни вируси и злонамерен софтвер во компании и државни институции.

Когнитивна манипулација и обликување на јавното мислење

Покрај поединечните напади, вештачката интелигенција овозможува операции за влијание врз милиони луѓе истовремено.

Хакери, политички кампањи и големи корпорации можат да користат емоционални тригери за активно да ги менуваат ставовите на јавноста.

Алгоритмите на социјалните мрежи веќе ги затвораат луѓето во меури на истомисленици и ја продлабочуваат поларизацијата во општеството.

Како што овие технологии ќе напредуваат, границата меѓу предвидувањето на нашето однесување и неговото свесно обликување ќе стане целосно нејасна, што директно ги загрозува јавната доверба и демократските процеси.

Профилирање што води до злоупотреба на податоци

Со поврзување на сите дигитални траги и активности од социјалните мрежи, вештачката интелигенција може да изгради застрашувачки детални психолошки профили на поединци.

Со тоа драстично се зголемува ризикот од „doxxing“, односно јавно објавување приватни податоци со намера некого да се посрами, како и ризикот од таргетиран прогон на интернет.

Информациите што некогаш биле расфрлани, AI сега ги спојува во една целина и открива чувствителни детали за поединците.

Уште поголем ризик носат предиктивните модели, каде што системот може да осуди или да изложи некого на закани врз основа на претпоставено однесување — односно врз основа на тоа што AI мисли дека лицето ќе направи, а не врз основа на реални постапки.

Спојување на човечкиот мозок и паметните уреди

Интерфејсите мозок-компјутер („BCI“), кои им овозможуваат на неподвижни пациенти да комуницираат преку толкување на мозочните сигнали, постепено се поврзуваат со „IoT“ уреди.

Тоа значи дека невронските сигнали од мозокот може да се користат за управување со паметни домашни уреди или медицинска опрема.

Иако станува збор за огромен напредок за здравството, безбедносните ризици стануваат многу сериозни.

Доколку некој компромитира ваков систем, напаѓачот би можел да пресретнува мозочни сигнали, да манипулира со одговорите на уредите или да ја злоупотреби врската меѓу намерата и извршувањето на акцијата.

На тој начин опасноста од дигиталниот свет директно преминува во доменот на човечкото тело и физичкото дејствување.

„Иако когнитивната вештачка интелигенција сè уште е во рана фаза на развој и е далеку од масовна примена, нејзиниот развој е многу брз“, објасни Нушин Шабаб, водечка истражувачка за безбедност во компанијата „Kaspersky“.

Таа додава дека напредните модели на интеракција меѓу луѓето и AI ќе станат значително пораспространети во текот на следните децении, поради што општеството мора да биде подготвено пред овие ризици дополнително да се зголемат.

На потребата од итна регулација предупреди и новинарката и едукаторка за одговорна примена на вештачката интелигенција, Тереса Потенца.

„Вистинскиот ризик од когнитивната вештачка интелигенција е тоа што таа ги обликува нашите умови — тивко и во огромни размери. Научивме дека системите оптимизирани за ангажман на корисниците ја нарушуваат способноста за расудување. Затоа регулативата денес претставува заштита на човечката автономија“, порача Потенца.