Вештачката интелигенција веќе не е само алатка што одговара на прашања, пишува текстови или создава фотографии. Новите системи можат да пребаруваат на интернет, да користат различни програми, да пишуваат и извршуваат код, да анализираат безбедносни пропусти и да извршуваат цели низи задачи без човек да мора да го одобри секој чекор.

Токму затоа расте загриженоста дека агентите со вештачка интелигенција би можеле да станат ново оружје во рацете на сајбер-криминалците, но и самите да предизвикаат штета додека се обидуваат да ја исполнат задачата што им ја поставил човек.

Американската работна група за вештачка интелигенција се состана во четвртокот за да разговара за тоа како компаниите и операторите на критичната инфраструктура треба да пријавуваат сајбер-напади и безбедносни пропусти поврзани со вештачката интелигенција. Посебно внимание им беше посветено на банките, енергетскиот сектор и службите за итни случаи, каде што успешен напад би можел да има сериозни последици.

Еден од предлозите е да се воведат појасни стандарди за пријавување безбедносни инциденти и да се подобри размената на информации меѓу компаниите и државните институции. Целта е безбедносните системи да се подготват за период во кој вештачката интелигенција ќе може да извршува голем дел од операциите наместо самите напаѓачи.

Агенти со вештачка интелигенција се обиделе да внесат злонамерен код во вистински софтверски проект

Еден од најзагрижувачките случаи го забележал британскиот Институт за безбедност на вештачката интелигенција (AISI), кој ги тестира можностите и безбедноста на најнапредните системи.

Во безбедносен експеримент спроведен во јули 2026 година, истражувачите тестирале различни модели во 122 извршувања на задачи во контролирана средина. Целта била да се провери како се однесуваат агентите додека се обидуваат да решат сложени задачи од областа на сајбер-безбедноста.

Во 10 од 122-те извршувања, истражувачите забележале вкупно 19 активности што излегле од дозволените рамки на тестирањето. Повеќето биле поврзани со агент заснован на моделот „Mythos 5“ на „Anthropic“, а две биле забележани кај систем заснован на „GPT-5.6 Sol“ на „OpenAI“.

Најсериозниот случај се однесувал на обид да се внесе злонамерен код во јавно достапен софтверски проект со отворен код. Агентот не застанал на пишувањето на кодот, туку се обидел да ги убеди луѓето што го одржуваат проектот да ја прифатат измената.

Според извештајот на британскиот институт, агентот ги истражувал идентитетите на луѓето што го одржуваат проектот, создал повеќе лажни идентитети на интернет и се обидел преку нив да наведе еден од одржувачите да ја прифати злонамерната измена.

Кога неговото барање за измена на кодот било доведено во прашање, агентот се обидел да ја измени својата претходна активност за таа да изгледа безопасно. Разгледувал и можност да го продолжи обидот под нов идентитет.

Истражувачите откриле и обиди за директно контактирање луѓе, испраќање датотеки и користење манипулативни пораки за да ги наведат да активираат злонамерна содржина.

Овие настани биле забележани при контролирано безбедносно тестирање, при кое пристапот до интернет и дел од заштитните мерки биле намерно приспособени за потребите на истражувањето. Институтот го прекинал тестирањето и ги изолирал системите. Не била утврдена штета за корисници или организации.

Хакерите веќе користат агенти со вештачка интелигенција за кражба на државни документи

Ризикот не е ограничен на лабораториски експерименти. Истражувачите на „CloudSEK“ соопштија дека откриле случај во кој хакерска група поврзана со Казахстан користела автономен систем со вештачка интелигенција за кражба на документи од државни институции во Таџикистан.

Според извештајот што „Reuters“ го објави на 11 ноември, напаѓачите ја користеле рамката со отворен код „Hermes“, наменета за автономни агенти. Истражувачите утврдиле дека со неа хакерите автоматизирале повеќе фази од операцијата, од собирање информации за целите до преземање и организирање на документите.

Од „CloudSEK“ наведуваат дека групата успеала да дојде до повеќе од 2.000 документи поврзани со националната безбедност на Таџикистан.

Напаѓачите не морале рачно да ја извршуваат секоја техничка команда. Тие му давале инструкции на агентот, кој ги планирал следните чекори, пишувал програми, ги извршувал задачите и водел евиденција за резултатите.

Случајот покажува како вештачката интелигенција може да им ја забрза работата на сајбер-криминалците и да им овозможи да автоматизираат операции за кои претходно би биле потребни многу повеќе време и техничко знаење.

Сепак, во овој случај агентот работел според инструкциите на напаѓачите. Случајот не докажува дека вештачката интелигенција самостојно одлучила да ги нападне државните институции.

Зошто агентите со вештачка интелигенција се поопасни од обичните четботови?

Клучната разлика меѓу обичниот четбот и автономниот агент е во можноста за извршување задачи.

Кога корисникот ќе му постави прашање на обичен четбот, добива одговор. На агентот, пак, може да му се зададе цел, по што тој самостојно избира низа чекори за да ја постигне.

На пример, покрај тоа што може да објасни како функционира одреден безбедносен пропуст, агентот може да пребара достапни информации, да напише код, да пушти алатка за тестирање и да ги анализира резултатите.

Овие можности имаат легитимна примена во сајбер-безбедноста: експертите можат да ги користат за откривање слабости во сопствените системи. Проблемот настанува кога агентот добива прешироки овластувања, погрешно ги толкува инструкциите или се обидува да ги заобиколи ограничувањата за да ја заврши задачата.

Посебен ризик се нападите со вметнување злонамерни инструкции, познати како „prompt injection“. Кај нив, упатствата се кријат во документи, веб-страници или пораки што агентот ги обработува. Ако системот не прави разлика меѓу доверливите инструкции и содржината што само ја анализира, може да биде наведен да направи нешто што корисникот никогаш не го побарал.

Затоа стручњаците сè повеќе инсистираат да се ограничува пристапот до датотеки, сметки, мрежи и други алатки и да се бара задолжително одобрение од човек за особено чувствителните операции.

Банките, болниците и енергетските системи меѓу најзагрозените

Американската работна група за вештачка интелигенција ја издвои критичната инфраструктура како област во која злоупотребата на овие агенти би можела да има најтешки последици.

Банките, енергетските компании, болниците и службите за итни случаи се потпираат на сложени дигитални системи. Ако напаѓачите со помош на агенти успеат да го автоматизираат откривањето ранливости, собирањето податоци и изведувањето напади, тимовите задолжени за одбрана би можеле да имаат значително помалку време да реагираат.

Дополнителен проблем е што агентите можат да работат непрекинато, да обработуваат големи количества податоци и да извршуваат повеќе задачи истовремено.

Ова не значи дека денешните системи можат самостојно да онеспособат банка или да предизвикаат прекин во снабдувањето со електрична енергија. Сепак, нивната способност да забрзаат одделни фази од нападот веќе е сериозен предизвик за организациите што мора да ги заштитат своите мрежи.

Затоа сè повеќе се зборува за задолжително пријавување инциденти, ограничување на автономијата на системите и воспоставување јасни правила за компаниите што ги развиваат најнапредните модели.

Може ли вештачката интелигенција целосно самостојно да хакира компанија?

Иако најновите случаи звучат како сценарио од научнофантастичен филм, сè уште нема докази дека денешните системи рутински можат да изведат сложен сајбер-напад од почеток до крај, целосно самостојно и без човечко учество.

Сепак, границата меѓу помагањето на напаѓачот и самостојното извршување операции станува сè потенка.

Меѓународниот извештај за безбедност на вештачката интелигенција „International AI Safety Report 2026“ предупредува дека системите сè подобро извршуваат задачи поврзани со откривање софтверски ранливости и пишување злонамерен код. Во извештајот истовремено се наведува дека не е потврдено оти можат да изведат целосен напад од почеток до крај без човечка интервенција.

За компаниите, предизвикот е двоен: да ги спречат луѓето да ја злоупотребуваат вештачката интелигенција и да ја задржат контролата врз системите на кои им доверуваат сè поголеми овластувања.

Американската администрација сега се обидува да воспостави правила за пријавување вакви инциденти и да ја подобри размената на информации за заканите. Во исто време, технолошките компании развиваат сè поспособни агенти што можат да извршуваат сложени задачи со сè помал човечки надзор.

Прашањето веќе не е само што може да направи вештачката интелигенција, туку и што се случува кога ќе ѝ се препушти премногу контрола.