Spoločnosť Meta plánuje zaviesť nové pravidlá týkajúce sa obsahu vytvoreného umelou inteligenciou na svojich platformách, ako sú Facebook, Instagram a vlákna, ako sa uvádza v príspevku na blogu spoločnosti zo 6. januára. Cieľom týchto opatrení je riešiť rastúce obavy týkajúce sa autenticity a transparentnosti digitálneho obsahu.
Podľa oznámenia bude každý obsah rozpoznaný ako vytvorený umelou inteligenciou, či už prostredníctvom metadát alebo zámerného vodoznaku, viditeľne označený. Okrem toho budú mať používatelia možnosť označiť neoznačený obsah, pri ktorom existuje podozrenie, že bol vytvorený umelou inteligenciou, čím sa komunite umožní prispieť k úsiliu o moderovanie obsahu.
Táto iniciatíva odráža vyvíjajúci sa prístup spoločnosti Meta k moderovaniu obsahu, ktorý pripomína jej predchádzajúce postupy pred vznikom obsahu generovaného umelou inteligenciou. Umožnením používateľom nahlasovať porušenia a zabezpečením transparentnosti pri označovaní obsahu sa spoločnosť Meta snaží zachovať integritu svojich platforiem.
S výhľadom do roku 2024 spoločnosť Meta využíva svoju rozsiahlu používateľskú základňu na zlepšenie možností moderovania obsahu. Tým, že Meta umožňuje používateľom označovať obsah vytvorený umelou inteligenciou, využíva silu crowdsourcingu na riešenie nových výziev v oblasti autenticity digitálneho obsahu.
Podľa príspevku na blogu:
"Budeme vyžadovať, aby ľudia používali tento nástroj na zverejňovanie a označovanie, keď zverejnia organický obsah s fotorealistickým videom alebo realisticky znejúcim zvukom, ktorý bol vytvorený alebo upravený digitálne, a ak tak neurobia, môžeme uplatniť sankcie."
Zlepšenie detekcie obsahu vytvoreného umelou inteligenciou
Tvorcovia, ktorí používajú platformy Meta, budú musieť svoj obsah označiť ako vytvorený umelou inteligenciou, aby sa vyhli prípadným postihom. Hoci spoločnosť Meta implementuje vodoznaky a označovanie obsahu vytvoreného pomocou svojich nástrojov, uznáva obmedzenia pri odhaľovaní zvukového a video obsahu vytvoreného umelou inteligenciou vo veľkom rozsahu.
Na riešenie tohto problému Meta spolupracuje s partnermi z odvetvia, ako sú Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock. Spoločne sa snažia vyvinúť metódy na detekciu neviditeľných vodoznakov a zlepšenie overovania pravosti obsahu.
Spoločnosť Meta však uznáva súčasné obmedzenia pri odhaľovaní zvukového a video obsahu vytvoreného umelou inteligenciou vrátane technológie deepfake vo veľkom meradle. To podčiarkuje pokračujúce úsilie potrebné na riešenie vyvíjajúceho sa prostredia autenticity a integrity digitálneho obsahu.