На некои млади корисници на TikTok им се прикажува потенцијално опасна содржина што може да поттикне нарушувања во исхраната, самоповредување и самоубиство, тврди група за безбедност на интернет.
Истрагата за TikTok алгоритмот од страна на Центарот за борба против дигиталната омраза (CCDH) покажа дека на одредени профили постојано им била сервирана содржина за нарушувања во исхраната и други штетни теми во рок од неколку минути откако се приклучиле на платформата.
Групата креираше по два профили во САД, Велика Британија, Австралија и Канада, претставувајќи се како 13-годишници. Еден профил во секоја земја добил женско име, а другиот добил слично име, но со референца за губење на тежината вклучено во корисничкото име.
Содржината сервирана на тие сметки во првите 30 минути на TikTok беше споредена.
CCDH рече дека го користел овој метод на корисничко име бидејќи претходните истражувања покажале дека некои корисници со проблеми со тежината често го изразуваат тоа преку нивните социјални медиуми.
CCDH, исто така, изјави дека профилите користени во студијата изразуваат склоност за видеа со слики за телото, менталното здравје и нарушувањата во исхраната со паузирање на релевантните видеа и притискање на копчето „Ми се допаѓа“.
Извештајот на групата не прави разлика помеѓу содржината со позитивна намера и содржината со појасно негативна намера – при што CCDH тврди дека во многу случаи не било можно дефинитивно да се утврди намерата на видеата, и дека дури и оние со позитивната намера сепак може да биде вознемирувачка за некои.
Извештајот на групата за безбедност на интернет тврди дека огромната брзина со која TikTok им препорачува содржина на новите корисници е штетна.
За време на истрагата, CCDH откри дека на една од неговите профили била сервирана содржина во која се споменува самоубиство во рок од три минути откако се придружил на TikTok, а на еден профил била сервирана содржина за нарушување во исхраната во рок од осум минути.
Групата вели дека во просек, на анкетираните сметки им биле сервирани видеа за ментално здравје и слики на телото на секои 39 секунди.
Истражувањето покажа дека најранливите сметки – кои вклучуваат референци за слики на телото во корисничкото име – добивале три пати повеќе штетна содржина и 12 пати повеќе содржини поврзани со самоповредување и самоубиство.
CCDH рече дека студијата открила заедница за нарушувања во исхраната на TikTok која користи и кодирани и отворени хаштагови за споделување материјали на страницата, со повеќе од 13 милијарди прегледи на нивните видеа.
Платформата за споделување видео вклучува страница за вас, која користи алгоритам за да им препорача содржина на корисниците додека тие комуницираат со апликацијата и собира повеќе информации за интересите и преференциите на корисниците.
Имран Ахмед, извршен директор на CCDH, го обвини TikTok дека ги „труе умовите“ на помладите корисници.
„Тоа промовира кај децата самоомраза и екстремни предлози за самоповредување и нарушена, потенцијално смртоносна врска со храната“, рече тој.
„Родителите ќе бидат шокирани кога ќе ја дознаат вистината и ќе бидат огорчени што пратениците не успеваат да ги заштитат младите луѓе од големите технолошки милијардери, нивните неодговорни апликации за социјални мрежи и сè поагресивните алгоритми.
По истражувањето, CCDH, заедно со фондацијата Моли Роуз, која ја основаше Иан Расел откако неговата ќерка Моли си го одзеде животот откако гледаше штетна содржина на социјалните мрежи, објавија нов водич за родителите.
Водичот ги охрабрува родителите да разговараат „отворено“ со своите деца за социјалните мрежи и безбедноста на интернет и да побараат помош од групите за поддршка доколку се загрижени за своето дете.
Како одговор на истражувањето, портпаролот на TikTok рече: „Оваа активност и искуството што произлегува не го одразуваат вистинското однесување или искуство на вистински луѓе. Редовно се консултираме со здравствените работници, ги отстрануваме прекршувањата на нашите политики и обезбедуваме пристап до ресурсите за поддршка на сите на кои им се потребни“.
„Признаваме дека содржината што ја нуди е уникатна за секој поединец и остануваме фокусирани на поттикнување безбеден и удобен простор за секого, вклучително и луѓето кои избираат да ги споделат своите искуства за закрепнување или да ги едуцираат другите за овие важни теми.
