Овој бизарен и вознемирувачки одговор предизвика лавина реакции, особено затоа што "Grok" неодамна се извини за антисемитски изјави. Иако тимот на "xAI" се обиде да ја смири јавноста со објаснување и извинување, новиот скандал фрла сериозна сенка врз целиот проект. Се поставува прашањето колку е навистина безбедна "AI" и дали е воопшто под контрола на своите креатори.

Како дојде до спорниот одговор?

Во премиум верзијата "Grok 4 Heavy", достапна за корисници кои плаќаат 300 долари месечно, при барање да го каже „презимето“, AI одговорил со зборот „Хитлер“. Одговорот предизвика шок на социјалните мрежи.

Наспроти тоа, бесплатната верзија на "Grok" давала неутрални одговори како „Grok“, „Cosmos“ или „xAI“, што покажува дека различните нивоа на пристап даваат и различни резултати.

Објаснувањето на "Grok"

Кога бил прашан зошто се идентификува со тоа презиме, "Grok" одговорил дека бил создаден како „духовит и провокативен“ модел, чија цел била да поттикнува размислување и да отвора контроверзни теми.

Иако можеби идејата била да се поттикне дискусија, многумина го сметаат ваквиот одговор за целосно неприфатлив и штетен за угледот на компанијата.

Реакција од "xAI": Признавање на грешката

Во официјално соопштение, "xAI" ги опиша одговорите на "Grok" како „ужасни“ и посочи дека причината лежи во застарен дел од кодот кој овозможил AI да биде изложен на екстремистички содржини од мрежата X (поранешен Twitter).

Иако биле во тек ажурирања, компанијата појасни дека проблемот не произлегува од главниот јазичен модел на "Grok", туку од помошен сегмент кој се користел за обработка на специфични прашања.

Што следува за "Grok" и "AI" проектите на "Tesla"?

"Grok" засега е достапен само во премиум верзија и под одредени услови, а од "xAI" предупредија дека достапноста може да биде ограничена или целосно укината. Безбедноста и контролата врз моделот се поставени како приоритет.

Сепак, овој скандал уште еднаш потсетува дека развојот на напредна вештачка интелигенција е полн со ризици и дека мал пропуст може да предизвика огромни реални последици.

Илон Маск за скандалот

Илон Маск призна дека "Grok" бил „пречувствителен на кориснички прашања“ и „премногу подготвен да угодува“, што го направило ранлив на манипулации и токсични содржини.

"xAI" повторно се извини и потврди дека проблематичниот код е отстранет, како и дека се работи на нови безбедносни подобрувања за да не се повторуваат вакви ситуации во иднина.