TikTok и AI децата

Ново изследване разкрива, че AI-генерирани видеа, показващи непълнолетни момичета в сексуално провокативна облекло или пози, са набрали милиони харесвания в TikTok, въпреки че платформата забранява подобно съдържание. Изследователи откриха над десет акаунта, публикуващи видеа с AI-генерирани момичета в тясно облекло, бельо или училищни униформи, понякога в насочени позиции. Акаунтите имат стотици хиляди последователи и в коментарите често се предоставят връзки към чатове в Telegram, предлагащи за продажба детска порнография. TikTok твърди, че има политика за нулева толерантност към съдържание, което показва, насърчава или участва в сексуално насилие или експлоатация на младите хора, но изследването показва, че платформата не успява ефективно да прилага тези правила. Въпреки това, TikTok е премахнал над 189 милиона видеа и е забранил над 108 милиона акаунта и твърди, че 99% от съдържанието, нарушаващо политиките за нежност и излагане на тялото, включително на младите хора, е премахнато проактивно. Изследването повдига въпроси относно способността на TikTok да прилага своите политики за AI съдържание, особено когато то показва сексуално експлоатиращи изображения на компютърно генерирани деца, и подчертава нарастващото напрежение върху платформите за социални медии, за да защитават младите потребители.