OpenAI разви алатка која може да открие кога ChatGPT е користен за пишување, но компанијата сè уште размислува дали да ја објави јавно. Портпаролот на OpenAI потврди дека се работи на методот за „вод жиг на текст“, но дека се пристапува внимателно поради сложеноста и можното пошироко влијание.
Методот на воден жиг функционира така што прави мали промени во текстот при изборот на зборови, со што се создава невидлив потпис кој подоцна може да се препознае со специјална алатка. Овој метод е технички ветувачки, но носи ризици како што се можноста за злоупотреба и негативно влијание врз говорителите на кои англискиот не им е прв јазик, рече портпаролот.
Оваа алатка ќе се разликува од претходните обиди за откривање текст генериран со вештачка интелигенција, кои беа помалку успешни. Дури и OpenAI го исклучи својот претходен детектор за текст со вештачка интелигенција минатата година поради мала прецизност.
Методот на воден жиг би се фокусирал исклучиво на препознавање на текстови напишани со помош на ChatGPT. Неодамнешното ажурирање на блогот OpenAI посочува дека методот покажал висока точност во однос на локализираните манипулации, како што е парафразирањето, но е помалку ефикасен против глобалните манипулации како што се преводот или употребата на други генеративни модели.
OpenAI признава дека методот е лесно да се заобиколи од злонамерни актери. Исто така, методот може негативно да влијае на оние што не зборуваат англиски, што е дополнителна причина за претпазливост.
