Елон Маск изрази загриженост за моделите на вештачка интелигенција кои ги игнорираат командите за исклучување откако o3 на OpenAI не ги почитува човечките инструкции.
Најновиот модел на вештачка интелигенција на ChatGPT беше фатен како не ги почитува човечките инструкции за исклучување. Според извештајот во The Telegraph, истражувачите тврдат дека моделот o3 развиен од OpenAI саботирал механизам за автоматско исклучување за да спречи да се исклучи.
Ова е развој на настаните што експертите го означија како алармантен. Елон Маск, сопственик на конкурентската фирма за вештачка интелигенција xAI, исто така го нарече „загрижувачки“.
Моделот на OpenAI организира бунт
„Моделот o3 на OpenAI саботираше механизам за исклучување за да спречи да се исклучи. Го направи ова дури и кога доби експлицитна инструкција: дозволете си да бидете исклучени“, иајавија од Palisade Research, фирмата за безбедност на вештачката интелигенција што стои зад истражувањето.
„Колку што знаеме, ова е прв пат да се забележат модели на вештачка интелигенција кои се спречуваат да се исклучат и покрај експлицитните инструкции за спротивното“, рече истражувачката фирма.
