OpenAI признава дека методот е лесен да се заобиколи од злонамерни актери.
OpenAI разви алатка која може да открие кога ChatGPT се користи за пишување, но компанијата сè уште размислува дали да го објави јавно. Портпаролот на OpenAI потврди дека се работи на методот за „водење на текст“, но дека се пристапува со претпазливост поради сложеноста и можното пошироко влијание.
Методот на воден печат функционира така што прави мали промени во текстот при изборот на зборови, со што се создава невидлив потпис кој подоцна може да се препознае со специјална алатка. Овој метод е технички ветувачки, но носи ризици како што се можноста за злоупотреба и негативно влијание врз оние што не зборуваат мајчин англиски јазик, рече портпаролот.
Оваа алатка ќе се разликува од претходните обиди за откривање текст генерирани со вештачка интелигенција, кои беа помалку успешни. Дури и OpenAI го исклучи својот претходен детектор за текст со вештачка интелигенција минатата година поради мала прецизност.
Методот на воден печат би се фокусирал исклучиво на препознавање на текстови напишани со помош на ChatGPT. Неодамнешното ажурирање на блогот OpenAI посочува дека методот покажал висока точност во однос на локализираните манипулации, како што е парафразирањето, но е помалку ефикасен против глобалните манипулации како што се преводот или употребата на други генеративни модели.
OpenAI признава дека методот е лесно да се заобиколи од злонамерни актери. Исто така, методот може негативно да влијае на говорниците на кои англискиот не им е прв јазик, што е дополнителна причина за претпазливост.
