Тим истражувачи успеаја да ги „пробијат“ моделите на „OpenAI“ и на „Google AI“, откривајќи ги тајните скриени во технологијата што се појавува.
Новото истражување, спроведено од истражувачи од повеќе универзитети, заедно со експерти од „Google DeepMind“ и „OpenAI“, открива дека моделите „OpenAI“ и „Google AI“ се „скршени“ и откриено е нешто досега непознато.
Научниците од горенаведените институции успеаја да извршат напад врз услугите „OpenAI“ и „Google AI“, што доведе до откривање на значителен дел од скриените модели на трансформатори.
Тимот не сакаше јавно да ги објави своите наоди, но истакна неколку интересни детали:
„За помалку од 20 долари, нашиот напад ја извлекува целосната матрица на проекција на јазичните модели на „OpenAI“. Со тоа, за прв пат потврдуваме дека овие модели имаат скриени димензии од 1024 и 2048. Ја добиваме и точната големина на скриената димензија на моделот „gpt-3.5-turbo“ и проценуваме дека би чинела под 2.000 долари во прашања за да се поврати целата матрица на проекција“, пишува во извештајот на истражувачите.
Слично откритие беше направено и за моделот на „Google AI“, каде што исто така е можно да се реконструираат важни аспекти на моделот.
