Социјалните мрежи наскоро ќе бидат преплавени од роеви од вештачка интелигенција кои ќе шират дезинформации, ќе ги малтретираат корисниците и ќе ги поткопуваат демократските процеси, предупредуваат научниците.
Според коментар објавен на 22 јануари во списанието Science, таканаречените „AI роеви“ ќе станат ново оружје во информациските војни.
Тешко препознатливи ботови
За разлика од класичните ботови, кои се претежно примитивни и лесно препознатливи, овие системи би можеле убедливо да го имитираат човековото однесување, да се прилагодат на заедниците во кои се вметнати и да создадат впечаток за спонтано, автентично дејствување. Со други зборови, на корисниците би можело да им се чини дека мнозинското мислење се формира пред нивните очи, иако во реалноста тоа го оркестрира вештачката интелигенција.
Замислете дека мислењата во вашата омилена онлајн заедница одеднаш почнуваат да се зацврстуваат околу теми за кои се дебатираше до неодамна. Како по правило, луѓето имаат тенденција да го следат она што го сметаат за мнозинско мислење. Сепак, проблемот се јавува ако ова „мнозинство“ всушност не постои, туку е предводено од невидлив рој агенти на вештачката интелигенција кои дејствуваат во интерес на поединец, политичка партија, корпорација или држава.
Мнозинско мислење
Како што објаснува коавторот на коментарот, Јонас Кунст, професор по комуникација од норвешкото бизнис училиште BI, луѓето се конформисти по природа, што значи дека имаат тенденција да ги прифаќаат ставовите и однесувањата на мнозинството затоа што тоа им дава чувство на сигурност, припадност и социјална коректност, дури и кога не се целосно убедени дека мнозинството е во право. Иако не сакаат да го признаат тоа, тие често веруваат дека ставот што го дели мнозинството има некоја посебна вредност. Ова, предупредува Кунст, е слабост што роевите на вештачката интелигенција би можеле многу ефикасно да ја искористат.
Но, манипулацијата со мислењето не е единствената опасност. Истите системи би можеле да се користат за организирано вознемирување. Луѓето кои не се согласуваат со одреден начин на размислување, наместо вистински, лути корисници на социјалните медиуми, би можеле да бидат нападнати од роеви на вештачка интелигенција кои ќе извршат дигитален линч сè додека не бидат замолчени или избркани од платформата.
По човечки од луѓето
Авторите пишуваат во воведот дека напредокот во развојот на вештачката интелигенција отвора можност за манипулирање со верувањата и однесувањето на ниво на целата популација.
„Големите јазични модели (LLM) и автономните агенти им овозможуваат на кампањите за влијание да достигнат невиден размер и прецизност. Генеративните алатки можат да го зголемат количеството на пропаганда без да го изгубат кредибилитетот и можат по ниска цена да создадат лаги кои се перцепираат како „почовечки“ од оние напишани од луѓето.
Техниките наменети за подобрување на расудувањето на вештачката интелигенција, како што е поттикнувањето на синџирот на мисли, можат да се користат за создавање поубедливи лаги. Благодарение на овие можности, се појавува нова, дестабилизирачка закана: роеви од колаборативни, злонамерни агенти на вештачката интелигенција. Со поврзување на расудувањето на LLM со архитектури со повеќе агенти, овие системи се способни автономно да координираат, да се инфилтрираат во заедниците и ефикасно да создадат изглед на консензус. Со адаптивно имитирање на човечката социјална динамика, тие ја загрозуваат демократијата“, предупредуваат авторите.
Креаторите на вештачка интелигенција треба да бидат принудени да ги следат правилата
Со други зборови, проблемот не се јавува само затоа што некој злоупотребува вештачка интелигенција, туку поради самиот начин на кој се направени овие системи, поради начинот на кој се заработуваат пари од нив и поради начинот на кој се управуваат или не се управуваат.
Затоа, авторите на коментарите не сметаат на фактот дека компаниите или самите корисници ќе се однесуваат одговорно од чиста добра волја. Наместо да создаваат само препораки што можат да се игнорираат, тие се залагаат за преземање конкретни мерки и поставување правила на повеќе нивоа што всушност би можеле да ја ограничат штетата.
Некои можеби веќе се во акција
Авторите на коментарите не ја наведуваат точната временска рамка во која ваквите роеви би можеле да се појават масовно, но предупредуваат дека ќе биде исклучително тешко да се откријат. Затоа, не е јасно дали некои форми на такви роеви веќе се во употреба.
Многу корисници на социјалните мрежи веќе го забележуваат зголемувањето на влијанието на ботовите, а во последниве години и таканаречената теорија за „мртов интернет“, според која голем дел од онлајн содржината повеќе не ја создаваат луѓето, туку автоматизираните системи.
Повеќе од половина од сообраќајот го прават ботови
Важно е да се нагласи дека Интернетот е веќе полн со ботови. Проценките велат дека тие сочинуваат повеќе од половина од вкупниот интернет сообраќај.
Класичните ботови генерално извршуваат едноставни задачи, како што е повторување на истата порака, и често се релативно лесни за препознавање. Но, дури и таквите ботови можат да предизвикаат штета со ширење лажни информации и вештачко надувување на одредени наративи.
Дигитални организми
Новата генерација на роеви со вештачка интелигенција оди многу подалеку. Тие се водени од одлични јазични модели, истите оние што стојат зад популарните чет-ботови. Ваквите системи можат да учат, да се адаптираат и да создаваат серија убедливи онлајн персони со свој „идентитет“ и меморија. Авторите на коментарот ги опишуваат како еден вид дигитални организми способни за независна координација и долгорочна експлоатација на човечките психолошки слабости.
Посебен проблем е што оваа технологија се појавува во време кога дигиталните простори се веќе сериозно нарушени. Имено, авторите предупредуваат дека веќе сме сведоци на ерозија на рационалната дискусија и слабеење на чувството за постоење на заедничка реалност меѓу граѓаните. Во таква средина, роевите со вештачка интелигенција не би морале да создаваат хаос од ништо – би било доволно само дополнително да ги поттикнат постојните обрасци и поделби.
Ваквите масовни манипулации не се некоја хипотетичка дистопија. На пример, минатата година Reddit се закани со правни постапки против научниците кои користеле чет-ботови со вештачка интелигенција на популарниот форум r/changemyview во експеримент во кој се обидоа да влијаат на мислењата на четири милиони корисници. Според прелиминарните наоди на истражувачите, одговорите на нивните чет-ботови биле од три до шест пати поубедливи од одговорите на човечките корисници.
Треба да се подготвите на време
Заклучокот на авторот не е дека апокалипсата е неизбежна, туку дека тоа е реален и растечки ризик што бара сериозна дискусија. Доколку општествата не се подготват на време, предупредуваат тие, границата помеѓу вистинското јавно мислење и вештачки создадените илузии би можела опасно да се замагли.
