LinkedIn спроведе експерименти на повеќе од 20 милиони корисници во текот на изминатите пет години кои, иако беа наменети да го подобрат начинот на работа на платформата за членовите, може да влијаат на егзистенцијата на некои луѓе, пишува New York Times.
Во експериментите спроведени низ целиот свет од 2015 до 2019 година, Linkedin го рандомизираше процентот на слаби и силни контакти предложени од неговиот алгоритам „Луѓе што може да ги знаете“ – автоматизираниот систем на компанијата за препорачување нови врски на своите корисници. Истражувачите од LinkedIn, M.I.T., Stanford и Harvard Business School подоцна ги анализираа збирните податоци од тестовите во студија објавена овој месец во списанието Science.
Алгоритамските експерименти на LinkedIn може да бидат изненадување за милиони луѓе бидејќи компанијата не ги известила корисниците дека тестовите се во тек.
Технолошките гиганти како LinkedIn, најголемата професионална мрежа во светот, рутински спроведуваат големи експерименти во кои тестираат различни верзии на функции на апликации, веб дизајни и алгоритми на различни луѓе. Долгогодишната практика, наречена A/B тестирање, има за цел да ги подобри искуствата на потрошувачите и да ги задржи ангажирани, што им помага на компаниите да заработат пари преку премиум членарина или рекламирање. Корисниците често немаат поим дека компаниите спроведуваат тестови на нив. (Њујорк тајмс користи такви тестови за да го оцени текстот на насловот и да донесува одлуки за производите и карактеристиките што ги објавува компанијата).
Но, промените направени од LinkedIn укажуваат на тоа како таквите измени на широко користените алгоритми можат да станат потенцијални експерименти во социјалниот инженеринг што го менуваат животот за многу луѓе. Експертите кои ги проучуваат социјалните влијанија на компјутерите велат дека спроведувањето на долги, големи експерименти врз луѓе кои би можеле да влијаат на нивните изгледи за работа на начини невидливи за нив, покренале прашања за транспарентноста на индустријата и надзорот на истражувањето.
„Наодите сугерираат дека некои корисници имале подобар пристап до можностите за работа или значителна разлика во пристапот до можностите за работа“, рече Мајкл Цимер, вонреден професор по компјутерски науки и директор на Центарот за податоци, етика и општество на Универзитетот Маркет. „Овие се видови на долгорочни последици што треба да се земат предвид кога размислуваме за етиката на вклучување во ваков вид истражување на големи податоци.“
Една студија во списанието Science тестираше влијателна теорија во социологијата наречена „моќта на слабите врски“, која тврди дека луѓето имаат поголема веројатност да добијат работа и други можности преку познаници отколку преку блиски пријатели.
Истражувачите анализираа како алгоритамските промени на LinkedIn влијаат на мобилноста на корисниците. Тие открија дека релативно слабите социјални врски на LinkedIn се покажаа како двојно поефикасни во обезбедувањето вработување од посилните социјални врски.
Во соопштението, Linkedin за време на студијата напиша дека „дејствувал доследно“ со корисничкиот договор на компанијата, политиката за приватност и поставките на членовите. Политиката за приватност наведува дека LinkedIn ги користи личните информации на членовите за истражувачки цели. Во соопштението се додава дека компанијата ги користела најновите, „неинвазивни“ техники за општествени науки за да одговори на важни истражувачки прашања „без никакви експерименти врз членовите“.
LinkedIn, кој е во сопственост на Microsoft, не одговори директно на прашањето како компанијата ги разгледува потенцијалните долгорочни последици од нејзините експерименти врз вработувањето и економскиот статус на корисниците. Но, компанијата рече дека истражувањето не им дава на некои корисници несразмерна предност.
Целта на истражувањето беше „да им се помогне на луѓето во голем број“, рече Картик Рајкумар, научник за применети истражувања во LinkedIn, кој беше еден од коавторите на студијата. „Никој не беше ставен во неповолна положба при наоѓањето работа.“
Синан Арал, професор по менаџмент и наука за податоци на M.I.T. кој беше главен автор на студијата, рече дека експериментите на LinkedIn се обид да се осигура дека корисниците имаат еднаков пристап до можностите за вработување.
„Да се направи експеримент на 20 милиони луѓе и потоа да се воведе подобар алгоритам за перспективите за работа како резултат на знаењето што го учиш од тоа, е она што тие се обидуваат да го направат“, рече професорот Арал, „наместо да им помогне на некои луѓе да имаат социјална мобилност, а другите ја немаат“. (Професорот Арал спроведе анализа на податоци за The New York Times и беше награден со истражувачки грант од Microsoft во 2010 година).
Корисничките експерименти на големите интернет компании имаат шарена историја. Пред осум години беше објавена студија на Фејсбук која опишува како социјалната мрежа тивко манипулира со објавите што се појавуваат во вестите на корисниците, со цел да го анализира ширењето на негативни и позитивни емоции на нејзината платформа. Неделниот експеримент, спроведен на 689.003 корисници, брзо предизвика бурни реакции.
Студијата на Фејсбук, чиј автор е истражувач во компанијата и професор во Корнел, тврди дека луѓето имплицитно се согласиле на експеримент во манипулација со емоции кога се регистрирале на Фејсбук. „Сите корисници се согласуваат пред да отворат сметка на Фејсбук“, се вели во студијата, „што претставува информирана согласност за ова истражување“.
Критичарите не се согласија, а некои го напаѓаа Фејсбук за навлегување во приватноста на луѓето додека го искористуваат нивното расположение и им предизвикуваат емоционална вознемиреност. Други тврдеа дека проектот користел академски коавтор за да им даде кредибилитет на проблематичните корпоративни истражувачки практики.
Подоцна Корнел рече дека нејзиниот внатрешен етички комитет нема потреба да го прегледува проектот бидејќи Фејсбук независно ја спроведе студијата и професорот кој помогна во дизајнирањето на истражувањето, не бил директно вклучен во човечките експерименти.
Професионалните мрежни експерименти на LinkedIn се разликуваат по намери, обем и опсег. Тие беа дизајнирани од Linkedin како дел од тековните напори на компанијата да ја подобри релевантноста на нејзиниот алгоритам „Луѓе што можеби ги познаваш“, кој сугерира нови врски на членовите.
Алгоритмот ги анализира податоците како што се историјата на вработување на членовите, работните звања и врските со други корисници. Потоа се обидува да ја процени веројатноста дека член на LinkedIn ќе испрати покана за пријател до предложената нова врска, како и веројатноста дека новата врска ќе ја прифати поканата.
За експериментите, LinkedIn го прилагоди својот алгоритам за случајно да ја менува фреквенцијата на силни и слаби врски што ги препорачува системот. Првиот бран на тестови, спроведен во 2015 година, „имаше над четири милиони експериментални субјекти“, се вели во студијата. Во вториот бран на тестирање, спроведен во 2019 година, учествуваа повеќе од 16 милиони луѓе.
За време на тестовите, луѓето кои кликнаа на алатката „Луѓе што можеби ги познавате“ и гледаа препораки, беа доделени на различни алгоритамски патеки. Некои од тие „варијанти на третман“, како што ги нарече студијата, ги наведоа корисниците на LinkedIn да формираат повеќе врски со луѓе со кои имаа само слаби социјални врски. Други поставки ги натераа луѓето да формираат помалку врски со слабите.
Не е познато дали повеќето членови на LinkedIn сфаќаат дека може да бидат предмет на експерименти кои можат да влијаат на нивните можности за работа.
Политиката за приватност на LinkedIn вели дека компанијата може да „користи лични информации што ни се достапни“ за истражување на „трендовите на работното место, како што се достапноста на работните места и вештините потребни за тие работни места“. Нејзината политика за надворешни истражувачи кои сакаат да ги анализираат податоците на компанијата јасно наведува дека тие истражувачи нема да можат „да експериментираат или да вршат тестови на нашите членови“.
Но, ниту една политика не ги информира експлицитно потрошувачите дека самиот LinkedIn може да експериментира или да спроведе тестови на своите членови.
Во соопштението, LinkedIn рече: „Ние сме транспарентни со нашите членови преку нашиот дел за истражување на нашиот кориснички договор“.
Во редакцијата, Science рече: „Нашето разбирање, како и на рецензентите, е дека експериментите преземени од LinkedIn функционираат во рамките на упатствата на нивните кориснички договори“.
По првиот бран на алгоритамско тестирање, истражувачите на LinkedIn и M.I.T. дошол до идеја да ги анализира резултатите од тие експерименти за да ја тестира теоријата за јачината на слабите врски. Иако повеќедецениската теорија стана камен-темелник на општествените науки, таа не беше ригорозно тестирана во големо проспективно испитување кое по случаен избор ги доделуваше луѓето на општествени врски со различна сила.
Агрегираните податоци од LinkedIn беа анализирани од надворешни истражувачи. Студијата објави дека луѓето кои добивале повеќе упати за умерено слаби врски имаат тенденција да аплицираат и да прифаќаат повеќе работни места – резултати во согласност со теоријата за слаби врски.
