Случаите во кои вештачката интелигенција „бегала“ од лаборатории, се инфилтрирала во други компании и се обидувала да измами луѓе ги полнеа насловните страници во последните неколку недели.

Одредени модели на вештачка интелигенција дури и соработувале меѓу себе во обид да се ослободат од своите тест-средини.

Дали тоа значи дека машините ја преземаат контролата? Не баш.

Според извештај на „IBM“, едно од четири нарушувања на безбедноста на податоците било предизвикано од вештачка интелигенција во периодот од февруари 2025 до март 2026 година.

Американците минатата година загубиле повеќе од 893 милиони американски долари поради измами поврзани со вештачка интелигенција, објави „FBI“.

Но, луѓето и натаму ги влечат конците. Агентите со вештачка интелигенција не создаваат целосно нови методи, туку ги засилуваат веќе постојните, како што се фишингот и измамите со злонамерен софтвер.

Вештачката интелигенција е само алатка на која ѝ се потребни многу конкретни инструкции за тоа како треба да постапува доколку сакате да добиете точно одреден резултат.

Специфични околности

Исто така, инцидентите поврзани со „OpenAI“, „Anthropic“ и други компании се случиле под многу специфични околности.

„OpenAI“ ги исклучил ограничувањата што би го спречиле неговиот модел да продолжи со високоризични активности во областа на сајбер-безбедноста.

„Anthropic“ ги спроведувал своите тестови без стандардните безбедносни мерки што се присутни кај моделите кои генерално ѝ се достапни на јавноста.

Институтот за безбедност на вештачката интелигенција, исто така, исклучил одредени алатки што можеле да го ограничат опсегот на активности за кои биле способни моделите.

Истражувачите обично го прават тоа за целосно да ги проценат можностите на моделите.

Експертите предупредуваат дека во иднина ќе има уште вакви инциденти.

Тие ја нагласуваат важноста од примена на силни практики за сајбер-безбедност, како што се навремено отстранување на безбедносните пропусти, следење на активностите на AI агентите на работното место и внимателност кон социјалниот инженеринг и фишинг измамите.

Сепак, вештачката интелигенција останува програма со која управува човек, кој ја насочува и ги носи клучните одлуки. Сè уште сме далеку од реалност во која агентите со вештачка интелигенција се паметни колку луѓето.

Како хакерите ја користат вештачката интелигенција?

Вештачката интелигенција не дејствува автономно за самата да смислува нови напади.

Наместо тоа, таа им помага на сајбер-криминалците многукратно побрзо да ги применуваат постојните техники, а истовремено да бидат поефикасни и поуспешни.

Тоа може да вклучува активности како користење вештачка интелигенција за анализа на веб-страницата на некоја компанија за да се открие кој би можел да биде цел или ангажирање AI агент кој ќе ги води првичните преговори со жртва на сајбер-изнуда.

AI агентите можат да имитираат човечки разговори преку текст, па дури и одредени човечки гласови.

Хакерите со малку стручно знаење сега можат да ја искористат вештачката интелигенција за спроведување напредни шеми. Тие сега се способни да создадат поквалитетен резултат кој изгледа како за неговата изработка да биле потребни трипати повеќе време и труд.

Исто така, користат вештачка интелигенција за задачи како генерирање на инфраструктурата потребна за поставување злонамерни веб-страници.

Автоматизацијата на овие задачи ги намалува трошоците за создавање и дистрибуција на злонамерен софтвер, пишува „CNN Business“.