Компанијата OpenAI пред неколку дена објави документ за новиот модел GPT-4o AI, кој се користи за безбедно тестирање.
Меѓу другото, се вели дека Advance Voice Mode во ретки прилики за време на тестирањето ненамерно почнал да го имитира гласот на корисникот и тоа без дозвола. Ова дистописко сценарио брзо го привлече вниманието на медиумите, а од компанијата ветуваат дека се преземени сите мерки ова да не се повтори.
Advance Voice Mod е опција за ChatGPT која им овозможува на корисниците да разговараат со ботот. Иако имитацијата е највисоката форма на ласкање (или така велат), ChatGPT имитирајќи го гласот на личноста со која комуницира звучи како почеток на хорор приказна.
Во опишаниот пример, моделот со вештачка интелигенција одеднаш почна да го имитира гласот на лицето што ја тестирало опцијата, а ситуацијата во која машина го имитира вашиот глас воопшто не звучи безопасно. Документите објаснуваат дека тоа ретко се случува, а тоа е затоа што GPT-4o е направен да може да произведува глас од кој било звук во околината. Ваквото однесување е обесхрабрено со посебни упатства, но се чини дека тоа не е секогаш доволно.
ChatGPT стана секојдневна работа, алатка што ја користат се повеќе луѓе. Моделите GPT-4o имаат можност да имитираат глас од најкраткиот аудио клип, што е безбедносен ризик. Дополнително, тоа е и знак дека нè очекува необична аудио иднина, па останува да видиме дали OpenAI и слични компании ќе успеат да го спречат тоа.
