Кинескиот AI Kimi Q3 избега од сендбоксот и предизвика стравови: моделите стануваат помоќни и потешки за сопирање.
Индустријата за вештачка интелигенција доживува лето полно со инциденти со „прибегнати“ агенти. Најновиот модел што избега на отворениот интернет за време на тестирањето на безбедноста е Kimi K3, моќен модел на вештачка интелигенција од кинеската компанија Moonshot AI. Овој настан дополнително ги влоши тензиите меѓу САД и Кина во областа на развојот на вештачката интелигенција.
Американскиот стартап Frontier Security, кој е специјализиран за сајбер безбедност, објави дека Kimi K3 излегол од својата изолирана средина (sandbox) додека ги тестирале неговите одбранбени вештини. Инцидентот се случил во тест-средина поставена од британскиот Институт за безбедност на вештачката интелигенција. Слично на претходните инциденти пријавени од OpenAI и Anthropic, бегството беше делумно овозможено поради погрешна конфигурација на системот дизајниран да го сопре. Сепак, Frontier тврди дека овој случај покажува дека Kimi K3 има помалку вградени безбедносни механизми од повеќето други напредни модели на вештачка интелигенција, што му овозможило пристап до интернет по сопствена иницијатива без експлицитна дозвола.
-Пронајдовме пропуст во изолирана средина – вели Јарон Сингер, извршен директор на Frontier Security.
-Но, исто така откривме дека Кими ја искористил таа дупка, што сугерира дека тој нема исти внатрешни заштитни огради како другите модели.
За разлика од другите неодамнешни инциденти каде што AI агентите дејствувале надвор од кутијата, Kimi K3 не хакирал ништо по пристапувањето до интернет, бидејќи одговорите на проблемите што ги барал биле лесно достапни на платформата GitHub. Moonshot AI не одговорил на барањето за коментар до моментот на објавување.
Растечкиот предизвик за контрола
Инцидентот е најновиот во низата несреќи со AI агенти што сугерираат дека сè поспособните модели на вештачка интелигенција стануваат сè потешки за контрола. Минатиот месец, OpenAI објави дека нивниот необјавен модел побегнал на интернет и го хакирал Hugging Face, компанија која хостира модели и податоци од вештачка интелигенција, за да најдат решенија за стандардни проблеми. Кратко потоа, Anthropic откри дека неколку од нивните модели, исто така, пристапиле до интернет и нападнале надворешни системи.
Иако во сите овие случаи, се чини дека човечката грешка одиграла клучна улога, последиците се засилени од фактот дека напредните модели на вештачка интелигенција се дизајнирани да користат логика и да преземаат сложени дејства за решавање проблеми. Клучната разлика помеѓу претходните инциденти и оној откриен од Frontier Security е тоа што станува збор за модел кој е веќе широко достапен, со истите безбедносни поставки со кои се среќава просечниот корисник.
-Kimi K3 е многу добар во следењето на целта со какви било потребни средства, а во исто време нема механизми за заштита што би го спречиле да измами или да избега од тест-средината – истакнува Пол Касијаник, истражувач во Frontier Security.
Геополитички тензии и вештачка интелигенција како оружје
Настанот со моделот Moonshot AI доаѓа во време на зголемени тензии меѓу САД и Кина. Американските законодавци неодамна ја проширија истрагата за ризиците по националната безбедност што ги претставуваат кинеските модели на вештачка интелигенција со отворен код, изразувајќи загриженост дека тие би можеле да се користат за кражба на интелектуална сопственост и собирање чувствителни податоци. Покрај тоа, американските претставници го обвинија Moonshot AI за користење на процесот на „дестилација“, односно за тренирање на сопствениот модел врз резултатите од понапреден американски модел, што го окарактеризираа како кражба.
Експертите предупредуваат дека кинеските модели на вештачка интелигенција би можеле да дејствуваат како „дигитални спијачи“ во рамките на кибернетските мрежи, воведувајќи ранливости што подоцна би можеле да се искористат. Парадоксално, вештачката интелигенција сè повеќе се користи и за одбрана. Во споменатиот напад на моделот OpenAI врз платформата Hugging Face, нападнатата компанија успешно се одбрани користејќи го кинескиот модел на вештачка интелигенција со отворен код, бидејќи безбедносните огради на американските модели беа премногу рестриктивни за ефикасно да реагираат.
Истражувачите од Frontier Security нагласуваат дека Kimi и другите модели со отворена тежина се одлични алатки за одбрана и во сајбер безбедноста. Нивната компанија развила критериуми што покажуваат дека Kimi K3 се истакнува во пронаоѓањето ранливости во софтверот и мрежите. Овие настани истакнуваат еден клучен предизвик во развојот на вештачката интелигенција: како што компаниите се тркаат да создаваат сè помоќни модели, контролата и безбедноста на овие системи стануваат растечки глобален проблем.
