Ако користите ChatGPT, треба да внимавате на информациите што ги споделувате со него. Имено, шефот на офанзивната истражувачка лабораторија за вештачка интелигенција на израелскиот универзитет Бен-Гурион, Јисроел Мирски, откри дека во моментов е можно да се читаат приватни разговори од ChatGPT и други такви сервиси.
Иако услугите како ChatGPT користат шифрирање за да ги заштитат разговорите помеѓу корисниците и услугата, како што истакнува Мирски, тоа шифрирање не е доволно добро за да ги заштити податоците.
Објаснува како хакерите или другите злонамерни актери кои се на иста мрежа со „жртвата“ можат да го набљудуваат сообраќајот помеѓу корисникот и услугата и со помош на метаподатоци и големи јазични модели специјално обучени за оваа задача, да ги усовршат овие податоци и да откријат што разговарале „хакираните“ во разговорот.
„Откривме дека овој напад е исклучително добар во дешифрирањето на одговорите на вообичаените прашања што луѓето им ги поставуваат на своите асистенти (на пр. историски податоци, совети), но се бори да дешифрира произволна содржина (на пример, решавање на загатка“, напиша Мирски.
Како што истакнува Мирски, таков пасивен напад во дури 55 проценти од случаите може да заклучи што се разговарало во разговорот, а може да биде совршено точен во дури 29 проценти од случаите.
Нападот е пасивен и може да се случи без знаење на OpenAI или нивниот клиент. „OpenAI го шифрира нивниот сообраќај за да ги спречи овие типови напади, но нашето истражување покажа дека начинот на кој OpenAI користи шифрирање е погрешен и содржината на пораките е изложена“, изјави тој за Ars Technica.
Интересно е тоа што ChatGPT не е единствениот чет-бот кој е изложен на таков напад, но исто така единствениот чет-бот кој не е ранлив е Gemini на Google.
Истражувачите во својата студија дадоа два предлози за ублажување на ефективноста на таквите напади. Првиот е да го следите водството на Google и да престанете да испраќате пакети еден по еден, бидејќи ако ги испраќате на тој начин полесно се откриваат и преведуваат. Другиот е да се примени техника која додава случајни количини празно место на пакетите, така што сите тие имаат фиксна должина еднаква на најголемиот можен пакет. Ова ќе го отежне нивното препознавање.
Но, проблемот е што примената на двата предлози ќе го забави одговорот на четботот кон корисникот, што би го деградирало корисничкото искуство. Како што објаснува Мирски, испраќањето токени во големи серии може да предизвика одложувања, додека пакувањето пакети би го зголемило бројот на сообраќај испратен во секој одговор.
По објавувањето на оваа студија, OpenAi и Cloudflare имплементираа промени кои треба да ја намалат можноста за такви напади.
