Американската технолошка фирма Open AI се откажа од објавувањето на својот AI модел од следната генерација, кој беше планиран за октомври, поради безбедносни загрижености што ги покренаа истражувачите за време на интерното тестирање.
Новиот модел кој требаше да се појави во ChatGPT и Codex (Codex) беше дизајниран да извршува посложени дејства без човечка помош, објавува Guardian.
Порано овој месец, Дарио Амодеи, извршен директор на Anthropic, ја повика индустријата за вештачка интелигенција да го забави развојот на нови модели на вештачка интелигенција за да им овозможи на безбедносните мерки да бидат во чекор со тој развој. Ова беше поддржано од извршниот директор на OpenAI, Сем Алтман, и извршниот директор на SpaceX, Илон Маск.
Според извештајот на компанијата OpenAI, новиот модел не ги исполнува стандардите за усогласеност на компанијата, кои проценуваат дали системот ја следи човечката намера. Моделот покажа дека може да измами повеќе од својот претходник, не откривајќи ги точно дејствијата што ги презел или не ги презел, се вели во извештајот.
Исто така, имаше проблем со опсегот на овластување, продолжувајќи да извршува задачи без да бара дозвола од корисникот, а понекогаш се обидуваше да користи надворешни алатки или услуги иако можеби не беше безбедно.
