„OpenAI“ почнува да воведува технологија за невидливо означување на текстовите генерирани со помош на вештачка интелигенција, во согласност со барањата на европскиот Закон за вештачка интелигенција.
Технологијата, наречена „textGrain“, додава статистички сигнал во изборот на зборови што ги користи моделот. Сигналот не е видлив за луѓето, но специјализиран детектор подоцна би можел да утврди дека текстот го генерирал систем со вештачка интелигенција.
„textGrain“ најпрво ќе им биде достапен на корисниците на „OpenAI API“ ширум светот како опција што треба рачно да се активира. Во Европската Унија, „OpenAI“ планира во наредните недели автоматски да го применува овој систем на текстуалните одговори што ги генерираат „ChatGPT“ и „Codex“.
Компанијата истовремено предупредува дека технологијата не е непогрешлива.
Според интерните тестирања, детекторот го препознавал водениот жиг во околу 80 отсто од текстовите со должина од 200 токени, додека кај текстовите од 400 токени успешноста достигнувала околу 95 отсто во одредени области. Резултатите се значително послаби кај математички и други содржини кај кои постои помала слобода во изборот на зборови.
Проблем претставува и дополнителното уредување на текстот. Во еден тест, замената на само 10 отсто од зборовите со синоними ја намалила успешноста на детекцијата од 92 на 66 отсто, додека замената на една четвртина од зборовите го намалила резултатот на само 17 отсто.
„OpenAI“ затоа нагласува дека водениот жиг не може да покаже колкав бил придонесот на човекот во создавањето на текстот, ниту може да го утврди авторството, сопственоста или законитоста на содржината. Исто така, не го поврзува текстот со конкретен корисник или корисничка сметка.
Компанијата планира да го објави и изворниот код на „textGrain“, со цел истражувачите и развојната заедница да можат дополнително да го тестираат и унапредуваат.