TikTok ги менува правилата на модерација, со цел да ги заштити корисниците од дезинформации. Новите одлуки дојдоа заради американските претседателски избори, а фокусот беше ставен на „deepfake“ содржините кои стануваат сè поубедливи.
Експертите веќе некое време посочуваат дека сме среќни што „deepfake“ сè уште не е сериозен проблем, пред се затоа што нема добра заштита од лажни видео содржини, така што детекторот на Facebook, на пример, открива само две третини од целата „deepfake“ содржина што се наоѓа на Интернет. Иако порнографската содржина го привлече вниманието на мејнстрим јавноста, експертите проучуваат други сегменти во рамките на кои „deepfake“ може да остави сериозни последици во иднина, пишува The Verge.
Како и да е, дефиницијата за тоа што е „deepfake“ нема да биде корисна во спречувањето на несаканите сценарија, затоа полека се приближуваме кон свет каде нема да можеме да бидеме сигурни во автентичноста на која било аудио-визуелна содржина, што ќе доведе до уште поголема недоверба во медиумите, судовите и јавни институции.
Откако платформата „Pornhub“ објави во февруари 2018 година дека ќе отстрани „deepfake“ содржини во кои лицата на познати личности, и која било друга, би можеле да се вклопат во некои порнографски содржини, кои потоа се чинат доста реални, компанијата „Naughty America“ реши да стави ваква содржина во служба на сопствен бизнис, па затоа започна услуга што им овозможува на корисниците да ја прилагодат содржината според нивниот сопствен вкус и да го вклучат својот карактер во еротските видеа што ги гледаат. Оттогаш, „deepfake“ се повеќе влегува во мејнстримот и стана достапен за обичните граѓани.
Facebook се вклучи во борбата против „deepfake“ во септември 2019 година и покани AI експерти да создадат системи што успешно ќе ги детектираат ваквите содржини. Во јануари 2020 година беше превземен уште еден чекор, во кој сите „deepfake“ видеа што се користат за ширење дезинформации беа забранети на платформата, а потоа се појави и Deepfake Detection Challenge, во кој беа искористени 100 илјади „deepfake“ видеа кои се користени за обука на системот за откривање.
TikTok, кој веќе забранува политички реклами, сега се вклучи во борбата, а забраната на „deepfake“ видеа треба да го отежни манипулатирањето со јавното мислење со цел да се добијат политички поени.