Кинеската технолошка компанија „Moonshot AI“ соопшти дека ги намалила офанзивните сајбер-капацитети и можности на својот најнов модел на вештачка интелигенција (AI), „Kimi K3.1 Pro“, поради сè поголемата загриженост дека автономните AI системи би можеле да ги олеснат и забрзаат хакерските напади.
Компанијата „Moonshot“, со седиште во Пекинг, ги најави овие ограничувања при претставувањето на моделот „Kimi K3.1 Pro“, кој го опишува како свој најспособен модел со отворени тежини во класата од три билиони параметри, пренесе „Reuters“.
Од компанијата наведоа дека од корпусот податоци за обука и од средините за учење со поткрепување, користени за развој на моделот „Kimi K3.1“, ги отстраниле податоците што се однесуваат на сајбер-доменот, задржувајќи ги општите програмерски вештини.
„Нашата цел е да не објавуваме модели со отворени тежини што би ја поместиле апсолутната граница на сајбер-офанзивните способности“, соопшти компанијата.
Владите, технолошките компании и експертите за безбедност се сè позагрижени дека вештачката интелигенција би можела да ги направи софистицираните хакерски напади полесни и поевтини, наведува „Reuters“.
Моделите што можат да пишуваат код, да управуваат со софтверски алатки и да извршуваат сложени задачи во повеќе чекори можат да им помогнат на корисниците да откриваат слабости во програмите и да автоматизираат делови од сајбер-нападите.
Кина минатата недела предложи мерки за контрола на извозот со кои би се забранил извоз на технологија за создавање и мутација на злонамерен софтвер со помош на вештачка интелигенција, а би се ограничиле и алатките што со помош на AI откриваат слабости.
Во нацрт-мерките, кои моментално се на јавна расправа, се наведува ризикот дека таквите можности би можеле да се искористат против критичната инфраструктура, одбранбено-индустриските и клучните државни системи или за заобиколување на безбедносните заштити.
