Zbystrite zrak, deepfake videá útočia

V roku 2019 bolo na webe odhalených až 14 678 deepfake videí, čo predstavuje 84 percentný nárast oproti predošlému roku. Napodobniť sa dá už naozaj takmer všetko a dôsledky rozhodne nie sú príjemné. Okrem videí a fotiek zasiahol tento boom aj hlasové nahrávky a spoločnosť so sídlom vo Veľkej Británii prišla vďaka napodobneného hlasu svojho šéfa o 220 000 euro

Čítaj medzi riadkami

Pri súčasných trendoch a rozmachu sociálnych médií je naozaj dôležité zamyslieť sa nad tým, čo čítame, pozeráme a počúvame. Fotky a videá pridávajú síce príspevkom na dôveryhodnosti, nie vždy sa ale musí jednať o stopercentne pravdivé informácie. Smutná realita ukázala, že nie je všetko zlato, čo sa blyští. Mnohokrát sú správy na internete falošné a keďže veľmi radi posúvame informácie ďalej, sociálne médiá sú účinnou zbraňou na šírenie dezinformácií. Podľa výsledkov spoločnosti Statista až 10% používateľov USA si bolo vedomých, že zdieľajú vymyslené správy a 49% používateľov sa o tom dozvedelo až po úspešnom zdieľaní.

Ako sa s tým vysporiadal Facebook?

Začiatkom roka prišla najväčšia sociálna sieť Facebook s vyhlásením, v ktorom uvádza, že z jeho obsahu budú stiahnuté videá, ktoré sú „produktom umelej inteligencie alebo strojového učenia, spájajú, nahrádzajú alebo prekrývajú obsah videa, čím sa javia ako autentické a v ktorých niekto niekoho uvedie do omylu, keď si myslí, že osoba povedala slová, ktoré v skutočnosti nepovedala“. 

Už v súčasnosti disponuje Facebook internými a externými tímami osôb, ktoré kontrolujú a overujú pôvod informácií, fotiek a videí. V prípade, že nie je možné uvádzané informácie dôveryhodne overiť, príspevok obsahuje upozornenie, že správa nemusí byť pravdivá. 

Zdieľanie bez rizika

Na trendy reaguje aj trh s technológiami, ktorých cieľom je najmä ochrana osobných údajov. Aplikácia D-ID prišla s vytvorením prvého riešenia na identifikáciu obrazov tváre tak, aby chránila súkromie bez ovplyvnenia ich použiteľnosti. Vy na fotkách síce rozdiel neuvidíte, no systémy ich nedokážu rozpoznať, lebo aplikácia z obrázkov odstránila najdôležitejšie biometrické údaje. Fotky a videá tak zdieľať môcť budete, šanca na ich zneužitie však bude minimálna.

Za všetkým hľadaj…nie ženu, ale príčinu

Ako také deepfake fotky alebo videá vznikajú? Kombináciou rozpoznania tváre a umelej inteligencie sa očividne dajú robiť zázraky. Taký Microsoft si to uvedomil už dávnejšie a vyzval štátne inštitúcie na zásah a stanovenie mantinelov. Moc umelej inteligencie je síce fascinujúca, no bez akejkoľvek kontroly nad ňou môže spôsobiť viac škody ako úžitku.

Je to všetko „pre vyššie dobro“?

Dnes sú naše biometrické údaje poskytované vo väčšej miere ako pred pár rokmi, a to najmä štátu a ich inštitúciám. Letiská, polícia striehnuca na neposlušných vodičov, štadióny… O niektorých vieme, o niektorých si myslíme, že vieme, a o niektorých nemáme ani potuchy. Ako v nemeckom Berlíne, kde boli monitorovaní občania prechádzajúci cez konkrétnu zastávku metra. Berlín však nebol jediný, ktorý špehoval svojich občanov. Maďarské ministerstvo obrany inštaluje naprieč hlavným mestom 35 000 kamier a nezaostáva ani Spojené kráľovstvo či Francúzsko. Spoločným cieľom je snaha o identifikáciu prípadných zlodejov, útočníkov či kohokoľvek páchajúceho trestnú činnosť.

Rozpoznávanie tváre, ktoré v praxi šetrí čas, možno sledovať napríklad na letiskách. Na viacerých letiskách od Lisabonu po Prahu môžu cestujúci „skipnúť lajnu“ a prejsť automatizovanou kontrolou na základe scanu ich tváre.

Riešenia na úrovni štátu a vyššie 

Keďže každá minca má dve strany, a rovnako aj umelá inteligencia a jej rozvoj, konať treba. Kto a kedy príde s riešením, je vo hviezdach. Taká Ursula von der Leyen sa bije do pŕs, že pod jej vedením pripraví Európska komisia záväzné pravidlá na využívanie rozpoznávania tváre pri „inteligentných“ technológiách a ich limity do 100 dní od začiatku jej funkciu. Od 1. decembra 2019 nejaký čas už ubehol, uvidíme, s čím nakoniec príde.

Rok plný významných udalostí

Máme pred sebou rok, v ktorom viaceré krajiny čakajú dôležité udalosti, a voľby do NRSR či voľby prezidenta USA medzi ne jednoznačne patria. Donald Trump sa obeťou deepfake videí už stal, u nás o tom zatiaľ môžeme iba polemizovať. Každý deň prichádzame do styku s informáciami z rôznych zdrojov, ktoré nemusia byť vždy pravdivé. Keďže originalita doposiaľ nie je zaručená, overme si ich pôvod, ich dôveryhodnosť, a zvážme, čomu uveríme a nad čím iba prevrátime stranu.