Novinári zrejme odhalili falošný špiónsky účet, na vytvorenie ktorého bola nezvyčajne použitá GAN.
Schopnosť umelej inteligencie vytvoriť falošnú, veľmi realistickú, ľudskú tvár je fascinujúca, no zároveň vyvoláva oprávnene obavy. Odborníci na bezpečnosť roky upozorňujú na možné riziká spojené s týmto fenoménom. Šírenie dezinformácií, klamstiev, či dokonca špionáž, sú pri tejto téme pravidelne spomínané. Viaceré prípady poukazujúce na nekalé praktiky stroskotali na nedostatku dôkazov. Zdá sa však, že Associated Press našla profil na sociálnej sieti LinkedIn, ktorý je vytvorený práve za účelom špionáže a s použitím umelej inteligencie.
Falošný profil bol vytvorený na meno Katie Jones a medzi priateľmi bola celá plejáda ľudí pôsobiacich vo vysokej politike a expertov z rôznych oblastí pôsobiacich v politických kruhoch.
LinkedIn je sociálna sieť zameraná na biznis, ako doma sú tu headhunteri a v mnohých prípadoch slúži ako ideálna prezentácia profesného životopisu. Nakoľko ju využívajú aj politicky vysoko postavení činitelia, je zároveň ideálnym miestom pre nískorizikovú špionáž.
Riaditeľ Centra kontrarozviedky a bezpečnostného centra USA, William Evanina, pre AP povedal: "Vytvárať regrutačné centrá niekde v garáži v odľahlej štvrti je dnes už neefektívne. Oveľa efektívnejšie je vytvoriť falošný profil a posielať žiadosti o priateľstvá. Takto môžete z jedného profilu sledovať až 30-tisíc cieľov."
Podozrivý profil na meno Katie Jones je veľmi sofistikovanou prácou. Na vytvorenie falošnej fotografie bola použitá metóda umelej inteligencie, ktorá je známa ako GAN, generatívna kompetitívna neurónová sieť, čo je nezvyčajný postup.
Avšak, je to pomerne logické. GAN sa v posledných rokoch stala pre svoju jednoduchosť obľúbenou metódou na vytváranie falošných realistických tvarí. Dôkazom je napríklad stránka ThisPersonDoesNotExist.com, z ktorej sme vytvorili aj hlavnú fotografiu k článku. Mohlo by sa zdať, že takto vytvorená profilová fotografia môže byť ľahko odhalená a spätne by sa mohlo jednoducho dopátrať k jej autorovi. Umelá inteligencia pridáva do fotografie ochrannú vrstvu, ktorá práve odhalenie znemožňuje.
For a while now people have been worrying about the threat of "deepfakes," AI-generated personas that are indistinguishable, or almost indistinguishable, from real live humans. I think I may have caught an example of one in the wild:https://t.co/yvZbK8RoQt pic.twitter.com/4FaNqtivEY
— Raphael Satter @ RightsCon (@razhael) 13. júna 2019
Umelá inteligencia robí síce poriadny kus poctivej roboty, no nie je dokonalá. Ak sa na umelo vytvorenú tvár lepšie pozriete, môžete si všimnúť neprirodzené asymetrie tváre. Portrét je zvyčajne vo formáte fotografie až nezmyselne veľký, vlasy a uši mávajú neprirodzený tvar a najväčšou chybou bývajú neprirodzené pruhy na pokožke. Viacero expertov aj vďaka týmto nedokonalosti s istotou potvrdilo, že fotografia Katie Jones je vytvorená pomocou techník strojového učenia.
Pomerne jasné signály. Prečo potom významne postavení ľudia prijali žiadosť o priateľstvo? Jednoducho pre nepozornosť alebo nedbanlivosť. Jeden z politických priateľov zrejme falošného účtu pre AP povedal, že na sociálnu sieť chodí zriedka a jednoducho bez rozmýšľania všetko odkliká, aby sa zbavil svietiacich notifikácií.