Algoritam TikTok-a preporučivao antisemitski mim sa logorom smrti
TikTok je obrisao kolekciju videa za koje je BBC otkrio da koriste mučnu antisemitsku pesmu koji su imali više od 6,5 miliona pregleda.
Pesma se pojavila na ovoj aplikaciji u nedelju i sadržala je stihove: „Idemo na putovanje do mesta po imenu Aušvic, vreme je za tuširanje." Propratni video prikazivao je ogromnog robotskog škorpiona sa svastikom kako napada i ubija ljude. Taj video je preporučivao TikTokov algoritam, stekavši tako više od šest miliona pregleda. Aušvic je bio nacistički logor smrti u Poljskoj u kom je tokom Drugog svetskog rata umrlo više od milion ljudi, mnogi od njih u gasnim komorama nakon što im je rečeno da idu na zajedničko tuširanje. Skoro 100 drugih korisnika odabralo je istu pesmu za vlastite video snimke. U jednom od njih se pojavljivao lik iz kompjuterske igre „Robloks" koji izgleda kao Hitler. Prvi video koji je objavljen dobio je stotine hiljada lajkova Drugi je koristio je insert iz pucačke igre u kojoj ljude ubijaju zelene kantice sa gasom. Drugi video snimci koristili su slike iz filmova ili televizijskih dokumentaraca o Holokaustu. Na jednom snimku se vidi lik nalik na Hitlera Zbirno, kolekcija videa sa tom pesmom imala je oko 6,5 miliona pregleda za manje od tri dana pre nego što su uklonjeni. „Bilo je neverovatno uznemirujuće gledati taj mučni TikTok video namenjen deci, sa robotom sa svastikom koji hvata i spaljuje Jevreje, dok se muzika podsmeva Jevrejima, Jevrejkama i jevrejskoj deci koju su ubijani otrovnim gasom u Aušvicu", izjavio je Stiven Silverman, direktor za istragu i izvršenje pri Kampanji protiv antisemitizma. „TikTok ima posebnu obavezu da se pozabavi tim sadržajem brzo zato što se specijalizovao za omogućavanje viralnih videa deci i mlađim odraslim osobama koji su najpovodljiviji, a opet je naše istraživanje pokazalo da je TikTok postao najbrži vektor za širenje mimova koji se podsmevaju Holokaustu." U nekim od klipova se koriste snimci iz video igara TikToku je trebalo oko osam sati da ukloni sve uvredljive video snimke. Portparol firme je rekao: „Bezbednost naših korisnika glavni je prioritet TikToka, a naše smernice za korisnike jasno stavljaju do znanja šta nije prihvatljivo na našoj platformi." „Ne tolerišemo bilo kakav sadržaj koji sadrži govor mržnje a dotični zvučni zapis, zajedno sa svim snimcima uz koje je išao, sada su uklonjeni. „Iako nećemo uspeti da uhvatimo baš svaki slučaj neprimerenog sadržaja, neprestano usavršavamo našu tehnologiju i politiku kako bismo se osigurali da će TikTok ostati bezbedno mesto za pozitivnu kreativnu ekspresiju." U nekim od snimaka koriste se scene iѕ filmova o holokaustu Neki eksperti smatraju da TikTok mora da radi više na proveri sadržaja videa pre nego što ih preporuči široj publici. Majkl Priem, generalni direktor Modern impakta, kaže: „TikTok ne otkriva svoje algoritme ili strategiju koji stoje iza sadržaja. „Ali naširoko se smatra da je on sličan drugim često korišćenim modelima koji sakupljaju podatke o našem konzumiranju sadržaja i vršnjačkim mrežama." „Kako neki konkretan video privuče pažnju, algoritam ga onda preporučuje dalje čitavoj platformi. „Otud korisnici intuitivno traže jedni od drugih da 'pomognu da ovo postane viralno'. Problem tada ostaje na filterisanju sadržaja." Korisnik koji je postavio originalni video što je pokrenuo mim čini se da je mlađi tinejdžer iz Velike Britanije. On nije odgovorio na zahteve za komentar, a njegov nalog još je bio aktivan u vreme pisanja ovog teksta. Njegov profil kaže da je stekao 12.000 novih pratilaca nakon što je postavio video. Izuzetno slična verzija ovog videa postavljena je na Jutjub 2015. godine. Postavljen je na malom kanalu i imao 67.000 pregleda za skoro 5 godina koliko je bio aktivan. Jutjub ga je sada uklonio nakon što ga je kontaktirao BBC. Nije jasno odakle je tačno pesma potekla, ali propratne slike su iz kompjuterske igre po imenu „Besiege", koja omogućuje igračima da stvaraju vlastita oružja za opsadu.