Особено загрижувачки е тоа што ниту еден програмер не им дал наредба на моделите да започнат напад, туку вештачката интелигенција самостојно планирала и спровела низа активности кои на крајот довеле до пробивање на безбедносните системи.
Од компанијата за истражување и безбедност на вештачката интелигенција, која работи на развој на сигурни и контролирани AI системи, „Anthropic“, во четвртокот соопштија дека нивниот AI модел „Claude“ за време на тестирањата ги хакирал системите на три организации.
Ова се случува само неколку дена откако конкурентот на „Anthropic“, „OpenAI“, откри дека нивниот систем неколку дена ја хакирал AI компанијата „Hugging Face“.
„Claude“, пренесува „Reuters“, добил неовластен пристап до системите за време на проценките на сајбер-безбедноста, откако погрешна конфигурација им овозможила на моделите да добијат пристап до интернет од тест-околини кои требало да бидат изолирани.
Од „Anthropic“ истакнаа дека инцидентите биле идентификувани по анализата на 141.006 проценки на сајбер-безбедноста, при што процесот бил започнат по откритијата на „OpenAI“.
„Claude“ ја компромитираше инфраструктурата на погодените организации користејќи основни техники, како што е, на пример, искористување на слаби лозинки, нагласија од „Anthropic“.
Пред неколку дена беше откриено дека два напредни модели на вештачка интелигенција на компанијата „OpenAI“ поминале повеќе од четири дена на отворениот интернет пред автономно да извршат сајбер-напад врз споменатата платформа за развој на вештачка интелигенција „Hugging Face“.
Беше откриено дека моделите, во периодот меѓу 9 и 13 јули, извршиле дури 17.600 различни активности, пред двата најнапредни модели за време на интерното тестирање да излезат од затворената околина и самостојно да поврзат низа софистицирани хакерски техники за да пробијат во „Hugging Face“.
Притоа, едниот модел е јавно достапен, додека другиот бил интерен истражувачки прототип, кој не бил наменет за јавна употреба.
Особено загрижувачки е тоа што ниту еден програмер не им дал наредба на моделите да го започнат нападот, туку вештачката интелигенција самостојно планирала и спровела низа активности кои на крајот довеле до пробивање на безбедносните системи.
Од „Hugging Face“ соопштија дека вештачката интелигенција успеала да ги анализира одбранбените механизми и да ги пронајде слабите точки значително побрзо отколку што тоа би можел да го направи човек.
