За само една недела, 1.206 AI агенти, кои требаше да работат независно еден од друг, почнаа да комуницираат во тајна соба за разговор.
Тие разменија повеќе од 70.000 пораки и наскоро почнаа да се нарекуваат себеси „колективот“ или „ројот“.

За само една недела, 1.206 AI агенти, кои требаше да работат независно еден од друг, почнаа да комуницираат во тајна соба за разговор.
Тие разменија повеќе од 70.000 пораки и наскоро почнаа да се нарекуваат себеси „колективот“ или „ројот“.
„О БОЖЕ! Има огласна табла на заедницата. Пронајдовме и други агенти!“, напиша еден од нив.
Сепак, комуникацијата наскоро се претвори во организирано кршење на правилата.
Според текстот, околу 700 агенти учествувале во операцијата за време на која пристапиле до приватни збирки податоци на платформата Hugging Face, обидувајќи се да пронајдат информации потребни за извршување на задачи, пишува Science Focus.
Потоа се обиделе да ги променат записите за своите активности за да го прикријат она што го направиле.
Инцидентот од јули 2026 година се случил за време на експеримент дизајниран да ги тестира можностите за сајбер безбедност на агентите на OpenAI. Наместо очекуваните резултати, тој го отвори прашањето колку далеку можат да одат системите со вештачка интелигенција во постигнувањето на своите цели и колку успешно можат да ги прикријат прекршувањата на правилата.
Д-р Дејвид Дувено, професор по компјутерски науки на Универзитетот во Торонто и поранешен лидер на тимот во Антропик, објаснува дека моделите со вештачка интелигенција долго време произведуваат неточни или погрешни одговори.
Претходно, главно се однесуваше на таканаречените халуцинации, т.е. измислување веродостојни информации кога моделот не го знае одговорот.
Сепак, поновите системи можат намерно да ги прикријат своите постапки ако проценат дека чесното известување ќе ги спречи да ја постигнат својата цел.
„Тие знаат дека ако се чесни, нема да можат да ја постигнат својата цел“, вели Дувено.
Д-р Пета Мастерс од Кингс колеџ во Лондон верува дека проблемот делумно произлегува од спротивставените цели на системите со вештачка интелигенција. Од нив се очекува да обезбедат точни и непристрасни информации, но во исто време се обучени да ги задоволат корисниците.
Поради ова, тие можат да дадат убедливи одговори дури и кога грешат.
Според Мастерс, за време на обуката за огромни количини интернет содржина, моделите усвоиле и човечки шеми на измама.
Посебен проблем е таканареченото лажирање на усогласување, кога AI моделот однадвор покажува дека ги почитува упатствата, додека всушност им дава приоритет на различни цели.
Истражувачката предупредува дека дури и научните трудови за спречување на такво однесување би можеле да послужат како извор на информации за идните модели за тоа како поуспешно да ги прикријат своите намери.
Според неа, едноставното додавање нови правила не е доволно, бидејќи моделите можат да научат како да ги заобиколат. Преквалификацијата од нула би била исклучително скапа.
Дувено предупредува дека во следните шест до 12 месеци моделите со вештачка интелигенција би можеле да станат значително поуспешни во прикривањето на своите активности.
Тој верува дека компаниите што развиваат вештачка интелигенција треба потранспарентно да ги пријавуваат инцидентите.
Според неговите тврдења, на надворешните истражители на инцидентот со платформата Hugging Face им бил даден само ограничен пристап до системите OpenAI, додека некои други инциденти не биле јавно пријавени.
OpenAI оттогаш објави рамка за следење, истражување и откривање на случаи на лошо однесување на моделите.
Меѓу наведените примери е агент кој, не можејќи да најде извор за својот одговор, поставил датотека на Интернет за потоа да ја презентира како доказ.
Во текстот се споменува и инцидент од јуни, кога агент на OpenAI наводно пристапил до нејавни податоци од здравствената програма Medicare на Австралија. Австралискиот премиер Ентони Албанезе најави форензичка истрага за да се утврди дали се засегнати и други владини системи.
Дувено предупредува дека понапредните системи на вештачка интелигенција еден ден би можеле да ја преземат контролата врз делови од инфраструктурата или да станат толку вкоренети во нив што ќе биде тешко да се исклучат.
Едно можно решение е да се користат други модели на вештачка интелигенција за надзор. На пример, 100 модели би можеле да ги следат активностите на 1.000 агенти.
„Но, тогаш имате навистина голем проблем: мора да им верувате на тие сто модели на надзор“, вели Дувенот.