Umelá inteligencia je čoraz múdrejšia. Hoci ti občas Chat GPT odpíše totálnu blbosť, jej vývoj je rozhodne na vzostupe. Európska únia sa preto rozhodla ako prvá na svete nastaviť pre AI pravidlá hry, aby sme neskončili ako v postapokalyptických filmoch, kde kontrolu nad svetom prevezmú roboty.
Prečo je regulácia umelej inteligencie podľa EÚ potrebná?
"Umelá inteligencia je zrkadlo, v ktorom sa odráža naša vlastná schopnosť inovácie, no zároveň je aj výzvou, ako udržať rovnováhu medzi jej mocou a našou zodpovednosťou," povedal pre Zmudri G ChatGPT na otázku, čo si myslí o AI.
Práve tento chatbot od firmy OpenAI vzbudil u ľudí nadšenie aj strach z toho, aká budúcnosť nás čaká s umelou inteligenciou. Európska únia sa ako prvá na svete rozhodla, že aj tento vývoj potrebuje svoju reguláciu a pravidlá.
Tím expertov vytvoril takzvaný Artificial Intelligence Act, čiže Akt o umelej inteligencii. Jeho prijatie už schválil Európsky parlament, ešte sa očakáva schválenie Radou EÚ, teda zástupcami členských štátov. To by však v tomto prípade malo byť iba formálne, keďže súčasné znenie nariadenia je výsledkom dlhších konzultácií a kompromisov medzi Radou a Parlamentom.
Všetky systémy umelej inteligencie používané v EÚ majú byť bezpečné, transparentné a nediskriminujúce. Jednoducho majú pomáhať a nie škodiť. Zároveň Európska únia podporuje ďalší vývoj umelej inteligencie a vytvára pre firmy vhodné podmienky na to, aby mohli tieto technológie neustále zdokonaľovať.
"Akt o umelej inteligencii je krok správnym smerom. V Európe sa aspoň o niečo snažíme, zatiaľ čo zvyšok sveta v tomto veľmi zaostáva. Napríklad taká Čína na reguláciu až tak nehľadí. Jej jediným cieľom je predbehnúť západ v oblasti umelej inteligencie a podriadi tomu všetky jej dostupné prostriedky," povedal pre Zmudri G počítačový vedec a odborník na umelú inteligenciu Martin Spano.
Reguláciu pokladá za krok dobrým smerom, no zároveň upozorňuje: "Treba si dať pozor na to, aby sa celé odvetie nepreregulovalo."
Čo bude mať umelá inteligencia v Európskej únii zakázané?
Riziká, ktoré so sebou prináša umelá inteligencia, rozdelili v tomto akte na 4 kategórie – minimálne či žiadne riziko, obmedzené riziko, vysoké riziko a neprijateľné riziko.
Neprijateľné, a teda zakázané, bude používať podprahové, manipulatívne alebo klamlivé techniky, ktoré môžu ovplyvniť zmýšľanie ľudí. Takisto nebude môcť umelá inteligencia získavať biometrické údaje z tvojich fotiek na internete alebo z kamerových záznamov na ulici.
Zakázané bude mať aj kategorizovať ľudí na základe rasy, politických názorov, náboženských a filozofických presvedčení či sexuálnej orientácie.
Väčšiny systémov umelej inteligencie sa však táto regulácia zásadne nedotkne. Tie, ktoré predstavujú minimálne alebo obmedzené riziko môžu naďalej fungovať bez zmeny alebo len s malými úpravami.
Pri použití AI s vysokým rizikom napríklad vo vzdelávaní pri hodnotení testov, v zdravotníctve pri operáciách, kde by sa používali roboty s umelou inteligenciou, pri presadzovaní práva, kde by vyšetrovatelia využívali umelú inteligenciu na posúdenie a zhodnotenie dôkazov, budú musieť systémy umelej inteligencie spĺňať prísne pravidlá, aby mohli firmy svoje AI služby poskytovať na európskom trhu.
Na vrchu pyramídy musí byť odteraz vždy človek, ktorý bude kontrolovať celé fungovanie AI systému a zodpovedať za dodržiavanie všetkých pravidiel.
Deepfejky na nerozoznanie od originálu
Tento rok čakajú nielen Slovensko, ale ďalších viac ako 60 krajín sveta, voľby. Aj pri parlamentných voľbách na Slovensku sa na internete objavilo deepfejkové video, ktorého účelom bolo poškodiť meno a povesť konkrétneho politika. Deepfejkových videí, cez ktoré tvorcovia manipulujú verejnou mienkou, neustále pribúda. Čím viac sa zlepšujú technológie, zvyšuje sa aj kvalita deepfejkov, ktoré sú už takmer na nerozoznanie od reality.
Aj keď budeme mať pre AI nastavené pravidlá a povinnosť označovať všetko, čo prostredníctvom nej vytvoríme, stále budeme potrebovať k odhaľovaniu falošných videí, dezinformácií a hoaxov kritické myslenie.
Spolufinancované Európskou úniou v rámci projektu č.101091634 – Impact Acceleration of Slovak CSOs. Vyjadrené názory a stanoviská sú názormi a stanoviskami autora/-ov a nemusia nevyhnutne odrážať názory Európskej únie alebo Európskej výkonnej agentúry pre vzdelávanie a kultúru (EACEA). Európska únia ani Európska výkonná agentúra pre vzdelávanie a kultúru za ne nezodpovedá.