Генеративните алатки за вештачка интелигенција, како што е ChatGPT на OpenAI, овозможуваат пораст на лажни онлајн рецензии, ја намалуваат довербата на потрошувачите и ги предизвикуваат производителите да ја задржат автентичноста, велат експертите и групите за набљудување.
Овие алатки им овозможуваат на измамниците брзо и во обем да создаваат лажни рецензии, комплицирајќи ја борбата против измамата со прегледи, проблем што веќе преовладува на платформи како Amazon.
Растечка закана
Лажните критики одамна се проблем, често се тргуваат во приватни групи на социјални медиуми или се охрабруваат од компании со награди како подарок картички. Сепак, алатките за вештачка интелигенција го ескалираа проблемот. Тоа е само навистина, навистина добра алатка за оние измамници со прегледи, изјави за АП Мори Блекман, инвеститор и советник на технолошки стартапи кои го прегледаа истражувањето на компанијата Транспаренси.
Нивната неодамнешна анализа на 73 милиони прегледи низ домашните, правните и медицинските услуги покажа дека скоро 14% веројатно се лажни, а 2,3 милиони покажуваат јасни знаци дека се создадени преку вештачка интелигенција. Проблемот се засилува за време на празничната сезона на шопинг, време кога потрошувачите многу се потпираат на прегледите.
Каде се наоѓаат лажните критики
Прегледите генерирани од вештачката интелигенција опфаќаат различни индустрии, од е-трговија до услуги како медицинска нега и поправки на домови. Тие се инфилтрираат и во продавниците за апликации. Во август, DoubleVerify објави пораст на прегледи со вештачка интелигенција кои се користат за промовирање лажни апликации. Овие прегледи често ги доведуваат во заблуда корисниците да инсталираат апликации што киднапираат уреди или ги бомбардираат со реклами.
Во меѓувреме, платформите како Amazon се соочуваат со предизвици во откривањето на прегледите генерирани од вештачката интелигенција. Макс Сперо, извршен директор на Pangram Labs (компанија посветена на заштита на платформите и другите бизниси од нападот на измамите генерирани од вештачка интелигенција), истакна дека многу од овие прегледи изгледаат детални и добро конструирани, што им отежнува на корисниците да ги идентификуваат.
Решавање на проблеми
Технолошките компании ги засилуваат напорите за борба против измамата со прегледи. Amazon и Trustpilot дозволуваат прегледи со вештачка интелигенција доколку одразуваат вистински искуства, додека другите платформи спроведуваат построги правила, барајќи од корисниците да пишуваат оригинална содржина.
Организациите како Коалицијата за доверливи прегледи користат вештачка интелигенција за да возвратат. Групата, која ги вклучува Amazon и Tripadvisor, има за цел да развие напредни системи за откривање за да ги заштити потрошувачите. Со споделување на најдобрите практики и подигање на стандардите… можеме да ги заштитиме потрошувачите и да го одржиме интегритетот на онлајн прегледите, посочуваат од коалицијата.
Идентификување на лажни рецензии
Забележувањето на лажни критики е се потешко. Експертите ги советуваат потрошувачите да внимаваат на премногу ентузијастички јазик, повторување на имињата на производите и клишеа. Прегледите генерирани со вештачка интелигенција често покажуваат структуриран, долг текст со „празни дескриптори“ и генерички термини. И покрај овие индиции, студиите, вклучително и онаа спроведена од професорот Балаз Ковач од Универзитетот Јеил во САД, сугерираат дека на корисниците им е тешко да ги разликуваат прегледите напишани од луѓе од оние генерирани од вештачката интелигенција.
