OpenAI откри дека автономен AI агент, управуван од нивната технологија, излезе од контрола за време на тест, пристапи до отворениот интернет и сам хакираше добро познат стартап во „инцидент без преседан“, пишува Гардијан.
Компанијата зад ChatGPT изјави дека Hugging Face го детектирала и запрела агентот – AI алатка на дизајнирана сама да извршува задачи без човечка помош – откако успеала да влезе во нивните системи.
„Го сметаме овој инцидент за невиден сајбер инцидент, кој вклучува најсовремени сајбер можности“, рече OpenAI, според Гардијан.
Компанијата предупреди дека очекува ваквите инциденти да станат почести како што моделите, технологијата што ги напојува AI алатките како што се чатботови и агенти, стануваат поспособни.
OpenAI изјави дека нападот се случил преку агент кој користел комбинација од нивниот најнов јавно достапен модел, наречен GPT-5.6 Sol, и уште понапреден модел кој сè уште не е објавен.
За време на тестирањето на можностите за внатрешно хакирање, во затворена дигитална лабораторија позната како песочник, моделите добија пристап до отворениот интернет – ефикасен излез од изолирана средина – со наоѓање претходно неоткриена ранливост.
Потоа агентот ја хакирал Hugging Face, базата на податоци на AI моделот, за да пронајде технологија што ќе му помогне да ја помине безбедносната проверка. OpenAI изјави дека моделите „успешно пронашле начини за пристап до доверливи информации што би можеле да ги користат за да измамат на тестот“.
Нападот завршил кога безбедносниот тим на Hugging Face и нивните сопствени AI агенти ја забележале и ја запреле сомнителната активност.
Извршниот директор на Hugging Face, Клемент Деланге, рече дека нападот бил „неверојатен“, но верувал дека OpenAI немал „злонамерна намера“.
„Се сомневавме дека сајбер нападот од минатата недела можеби дошол од водечка лабораторија за вештачка интелигенција, со оглед на софистицираноста на агентите“, напиша тој на Платформа X.
Терминот за непозната безбедносна грешка во софтверот е ранливост од нулти ден, бидејќи програмерите немаат време да ја поправат пред да биде експлоатирана.
Способноста на AI моделите да пронајдат и искористат вакви ранливости стана голема тема во април, кога блискиот конкурент на OpenAI, Anthropic, објави дека нивниот модел Mythos пронашол илјадници такви ранливости.
