„OpenAI“ привремено ја запре обуката на своите најнови модели на вештачка интелигенција по инцидентите во текот на летото, во кои агентите неочекувано постапувале на веб-страниците на американските федерални институции.
Компанијата соопшти дека ќе продолжи со развојот „дури кога ќе бидеме сигурни дека имаме дополнителни заштитни мерки“, со напомена дека веројатно повторно ќе мора да прави паузи како што ќе се развива вештачката интелигенција и ќе се појавуваат нови проблеми.
Одлуката следуваше неколку часа откако „OpenAI“ објави дека разгледува повеќе случаи од летниот период.
Во еден инцидент, агентите, пребарувајќи ги веб-страниците на федералните институции со цел собирање и дистрибуирање информации, дејствувале на начини кои излегувале надвор од дадените инструкции. Компанијата наведе дека во тие случаи не дошло до откривање податоци кои не се јавно достапни, но дека ситуацијата била доволно сериозна за да ги предупреди засегнатите агенции.
Посебно внимание предизвика случајот во американското Министерство за образование, каде што агентите пронашле „API developer keys“ за пристап до државни податоци, иако на крајот биле собрани само јавно достапни информации. Во одвоен инцидент поврзан со Комисијата за хартии од вредност и берзи („SEC“), агентите пронашле информации достапни за сите, а потоа ги објавиле на друго место на интернет, што ги надминувало зададените инструкции.
Портпаролот на „SEC“, Курт Хопфенспиргер, изјави дека „не е пристапено до ниту една информација која не е јавна“, додека Министерството за образование претходно соопшти дека „нема докази за какво било влијание врз нашата веб-страница или базите на податоци“.
Дополнителен притисок доаѓа по тврдењата на евалуаторот за вештачка интелигенција „Transluce“ дека агенти кои изгледале како да доаѓаат од „OpenAI“ неуспешно се обиделе да упаднат на веб-страницата на Министерството за образование, што „OpenAI“ не го потврди.
Ова е втор прекин на развојот во последните три месеци, по јулскиот застој предизвикан од објавата за сајбер-напад врз стартапот „Hugging Face“. „OpenAI“ претходно објави уште шест извештаи за „неочекувано или загрижувачко“ однесување на моделите и претстави рамка за следење, испитување и објавување на таквите случаи.
