Ako rozpoznať deepfake: návod pre rodičov a deti

Video, v ktorom známa tvár odporúča investíciu. Hlasová správa od „syna“, ktorý súrne potrebuje peniaze. Fotka spolužiačky, ktorá nikdy nevznikla. Všetko môže byť deepfake. Ukážeme vám, ako ho rozpoznať, prečo samotné oči nestačia a čo robiť, keď sa týka vášho dieťaťa.

Čo je deepfake

Deepfake je falošné video, fotka alebo nahrávka hlasu, ktorú vyrobila umelá inteligencia. Vyzerá a znie ako skutočný človek, ktorý hovorí alebo robí niečo, čo nikdy nepovedal ani neurobil.

Tri európske orgány pre dohľad nad financiami (EBA, EIOPA a ESMA) v slovenskom letáku k podvodom upozorňujú, že podvodníci takto napodobňujú hlas či tvár skutočných ľudí: bankára, priateľov aj rodiny. Deepfake však nie je len téma peňazí. Medzi deťmi sa môže objaviť upravená fotka spolužiaka, ktorá ho zosmiešňuje alebo uráža.

Telefonát od „blízkeho“, ktorý potrebuje peniaze

Typický vzorec poznáte možno aj vy. Zavolá alebo napíše niekto so známym hlasom či menom. Je v núdzi: nehoda, stratená peňaženka, nový mobil. Potrebuje rýchlo peniaze, kód, ktorý vám prišiel v SMS, alebo heslo. A hlavne, nesmiete nikomu nič hovoriť.

Spomínaný leták radí medzi varovné signály práve naliehavú žiadosť o peniaze alebo osobné údaje, aj keď prichádza od niekoho, kto sa vydáva za člena rodiny. Upozorňuje aj na to, že podvodník môže použiť falošné číslo, ktoré vyzerá dôveryhodne. Preto platí:

• Zastavte sa. Tlak na rýchlosť je zámer. Kto sa ponáhľa, nekontroluje.
• Ukončite hovor a zavolajte späť na číslo, ktoré máte uložené vy. Nie na to, z ktorého vám volali.
• Opýtajte sa na rodinné heslo. Leták odporúča dohodnúť sa v rodine na „bezpečnom slove“, ktoré skutočný príbuzný pozná a podvodník nie.

Toto pravidlo si môžete vytlačiť alebo poslať do rodinnej skupiny:

Naše rodinné pravidlo proti falošným telefonátom:
1. Keď niekto z nás súrne pýta peniaze, kód alebo heslo,
   najprv povie naše rodinné heslo.
2. Heslo nikde nepíšeme: ani do správ, ani na sociálne siete.
3. Keď heslo nepovie, zložíme a zavoláme mu späť
   na číslo, ktoré máme uložené.
4. Overovacie kódy a heslá nediktujeme nikomu, ani „rodine“.
5. Pri pochybnostiach sa opýtame ďalšieho člena rodiny.

Vysvetlite to aj deťom. Podvod môže mieriť aj na ne, napríklad správou „mami, toto je moje nové číslo, pošli mi kód“.

Stopy vo videu a v hlase a prečo už nestačia

Niektoré deepfaky prezradia drobnosti. Leták EBA, EIOPA a ESMA spomína:

• hlas znie roboticky, príliš hladko alebo bez prirodzených prestávok,
• pohyby pier a výraz tváre nesedia s rečou,
• svetlo a tiene na tvári nesedia s pozadím.

Niekedy pomôžu aj divné prsty, rozmazané okraje vlasov či text na pozadí, ktorý nedáva zmysel. Lenže ten istý leták priznáva aj druhú stranu: reč vyrobená umelou inteligenciou môže znieť aj veľmi prirodzene. Najlepšie deepfaky tieto chyby nemajú. Stopy berte ako bonus. Rozhoduje overenie.

Overte zdroj, nie dojem

Keď vás video alebo fotka veľmi nahnevá, vyľaká či nadchne, je to signál spomaliť. Než ich pošlete ďalej, prejdite si s deťmi tieto otázky:

Pred zdieľaním sa spýtam:
1. Kto to zverejnil prvý a poznám ho?
2. Píšu o tom aj dôveryhodné médiá alebo oficiálne stránky?
3. Kedy a kde to vzniklo?
4. Prečo to chce niekto tak rýchlo rozšíriť?
5. Ak si nie som istý/istá, radšej to nepošlem.

Pri fotkách pomôže spätné vyhľadávanie obrázka. Fotku nevyhľadávate slovami, ale samotným obrázkom. Google Lens vám ukáže podobné obrázky a stránky, kde sa fotka alebo podobná fotka objavila. Často tak zistíte, že „čerstvá“ fotka je roky stará alebo pochádza z úplne inej udalosti.

• V mobile: otvorte aplikáciu Google alebo Chrome a vo vyhľadávacom riadku ťuknite na ikonu Google Lens. Vyberte fotku alebo snímku obrazovky z galérie.
• Na počítači: na google.com kliknite na vyhľadávanie podľa obrázka a nahrajte súbor alebo ho myšou pretiahnite do vyhľadávacieho poľa.

Keď niekto zneužije fotku vášho dieťaťa

Najdôležitejšie je, aby sa vám dieťa zverilo. Ak sa bojí, že dostane vynadané alebo mu zoberiete mobil, môže mlčať. Preto ako prvé povedzte, že dobre urobilo, keď prišlo.

1. Uchovajte dôkazy. Neodpovedajte útočníkovi a nič nemažte. Urobte snímky obrazovky správ, mena profilu a dátumu a zapíšte si adresu (odkaz) príspevku. Ak ide o intímny obsah, samotný obrázok neukladajte ani nikomu neposielajte, stačí odkaz a meno profilu.
2. Povedzte to dospelému, ktorý pomôže. Doma vám, v škole triednemu učiteľovi alebo školskému psychológovi.
3. Nahláste obsah priamo na platforme. Sociálne siete majú pri príspevkoch aj profiloch možnosť nahlásenia.
4. Linka detskej istoty 116 111 je bezplatná, anonymná a funguje non-stop. Dieťa tam môže zavolať samo. Chat je na ldi.sk denne od 18.00 do 22.00.
5. Stopline.sk prijíma hlásenia nezákonného obsahu, napríklad zneužívania detí, prejavov neznášanlivosti alebo obsahu so znakmi trestného činu. Hlásiť sa dá aj anonymne a podozrivé prípady Stopline posúva polícii.
6. Polícia: 158 (alebo 112), ak ide o vydieranie, vyhrážky, intímny obsah alebo ak dieťaťu hrozí nebezpečenstvo.

Ak ste podvodníkovi už poslali peniaze, okamžite volajte svojej banke cez oficiálne kontakty. Leták radí aj zmeniť heslá a incident nahlásiť polícii.

Deťom vysvetľujeme deepfaky primerane veku. Žiaci 2. stupňa ZŠ ich nájdu v lekcii Súkromie, deepfake a kyberšikana, stredoškoláci v lekcii Dezinformácie a deepfaky. Celú ponuku podľa stupňa nájdete v sekcii AI pre školy.

Vyskúšajte si

1. Dnes pri večeri si v rodine dohodnite heslo a pošlite si pravidlo z tohto článku do rodinnej skupiny.
2. Vezmite jednu fotku, ktorá sa vám zdala na sieťach podozrivá, a vyhľadajte ju cez Google Lens. Pozrite sa, kde sa objavila prvýkrát.
3. Prejdite si s dieťaťom lekciu podľa jeho veku a uložte si do mobilu číslo 116 111.