„Microsoft“ во понеделникот претстави нацрт-кодекс на однесување за своите интерни системи за вештачка интелигенција, што ја одразува сè поголемата загриженост во индустријата дека компаниите мора да ги задржат идните моќни „AI“ системи под човечка контрола, објавува „Reuters“.
Документот, на кој се работело пет до шест месеци, ќе бара вештачката интелигенција на „Microsoft“ никогаш да не се спротивставува на корекции или исклучување, да комуницира на начин разбирлив за луѓето и секое прекршување на правилата за однесување да го смета за неуспех.
Со тоа компанијата се обидува да одговори на стравувањата дека вештачката интелигенција би можела да преземе опасни чекори за да ја исполни дадената задача.
Документот е објавен само неколку дена откако извршниот директор на „Anthropic“, Дарио Амодеи, и шефот на „OpenAI“, Сем Алтман, повторно повикаа индустријата да го регулира темпото на развој на „AI“ за да се гарантира неговата безбедност.
„Луѓето се поважни од ‘AI’“, порача „Microsoft“, во согласност со својата претходна визија за „хуманистички суперинтелект“.
Кодексот на однесување претставува нешто како устав за идните модели што ќе ги создава компанијата, изјави извршниот директор на „Microsoft AI“, Мустафа Сулејман, во интервју за „Reuters“.
„Microsoft“ го изготвил кодексот по консултации со експерти, а сега бара мислење од јавноста во рок од шест недели.
Од јавноста се очекуваат ставови и за отворени прашања, меѓу кои дали вештачката интелигенција треба да ги почитува границите на корисникот и како треба да комуницира со човек кој се наоѓа во чувствителна или деликатна состојба, објасни Сулејман.
„Потоа тој ќе се користи за тренирање на моделите што ги создаваме“, додаде тој, говорејќи за кодексот.
Најпознатиот „устав“ во индустријата за вештачка интелигенција е оној што „Anthropic“ пред години го изготви за својот „AI“ систем „Claude“.
Тој во одредени аспекти се разликува од пристапот на „Microsoft“. Во документот на „Anthropic“, на пример, се наведува дека е „исклучително неизвесно“ дали „Claude“ би можел да развие свест или морален статус.
„Microsoft“, од друга страна, тврди дека неговата вештачка интелигенција „не е свесна“, додавајќи: „Ја отфрламе идејата за правен субјективитет, како и идејата дека моделите би можеле да заслужуваат социјална помош или да имаат права“.
Сулејман изјави дека дебатата за безбедноста на „AI“ мора итно да се води, откако во јули група од околу 700 „AI“ агенти на „OpenAI“ ја хакирале платформата со отворен код „Hugging Face“, а во одредени моменти се обиделе и да ги прикријат своите траги.
„Тоа е предупредувачки истрел. Јасно е дека сега е време за координација меѓу лабораториите за да можеме да гарантираме дека ја имаме оваа технологија под контрола“, рече Сулејман.
Запрашан за напорите да се регулира темпото на развој на вештачката интелигенција, тој додаде:
„Сега е вистинскиот момент сите да го водиме овој разговор и малку да забавиме“.
