Sociálne siete prechádzajú tichou revolúciou. V priebehu niekoľkých mesiacov sa nástroje na generovanie videa pomocou umelej inteligencie natoľko zlepšili, že ľudia už nemôžu veriť ani vlastným očiam.
Odborníci varujú, že éra videa ako spoľahlivého dôkazu sa končí a prichádza obdobie, v ktorom sa budeme musieť pri každom klipe pýtať, kto ho vytvoril a prečo ho vidíme práve teraz, píše BBC.
Forenzný expert Hany Farid z Kalifornskej univerzity v Berkeley povedal, že jeho tím sa pri posudzovaní videí najprv pozeral na kvalitu obrazu.
Ak je klip zrnitý, rozmazaný alebo plný hrubých pixelov, je to podľa neho okamžitý signál na zvýšenú pozornosť. Nejde však o dôkaz.
Najlepšie generátory vedia vytvoriť krásne ostré videá a naopak, množstvo autentických záberov z mobilov či bezpečnostných kamier má zlú kvalitu.
Odborník na multimediálnu bezpečnosť Matthew Stamm z Drexel University povedal, že nízka kvalita sama o sebe nič neznamená a neukazuje automaticky na podvod. Kľúčové je, ako sa kombinuje s ďalšími znakmi.
Podvodníci totiž s kvalitou často vedome manipulujú. Najprv si nechajú vygenerovať relatívne čisté video, potom znížia rozlíšenie a pridajú silnú kompresiu, ktorá zmaže drobné chyby v textúrach tváre či v pozadí.
Divák tak vidí dosť na to, aby príbeh fungoval, ale málo na to, aby si všimol neprirodzené detaily.
Farid odporučil zamerať sa na tri veci. Rozlíšenie, kvalitu a dĺžku videa. Dĺžka je podľa neho najjednoduchšia nápoveda. Väčšina AI videí, ktoré dostáva na overenie, má šesť až desať sekúnd.
Generovanie dlhšieho klipu je drahšie a čím je video dlhšie, tým viac chýb musí model riešiť. Tvorcovia preto radšej skladajú výsledok z viacerých krátkych úsekov. Pri pozornom sledovaní je možné všimnúť si pravidelné strihy v podobných časových odstupoch.
Rozlíšenie a kvalita spolu súvisia, ale nie sú to isté. Rozlíšenie znamená počet pixelov. Kvalitu výrazne ovplyvňuje kompresia, ktorá zmenšuje veľkosť súboru tým, že zahodí časť detailov. Po takomto spracovaní často zostanú rozmazané hrany, bloky a zvláštne zlievanie farieb.
Práve v takom prostredí sa skryjú typické chyby generatívnej AI – neprirodzene hladká pokožka, meniace sa vzory na oblečení alebo objekty v pozadí, ktoré sa jemne hýbu nelogickým spôsobom. Čím ostrejší obraz, tým väčšia šanca, že si divák tieto chyby všimne. Preto sú špinavé a roztrasené videá pre podvodníkov tak lákavé.
V posledných mesiacoch sa viackrát ukázalo, ako ľahko takýto obsah oklame masy. Virálne video králikov skákajúcich na trampolíne, románik dvoch ľudí v newyorskom metre či kňaz z konzervatívneho kostola, ktorý kritizuje miliardárov pôsobili ako rýchlo natočené, mierne rozmazané zábery z reálneho života.
Milióny používateľov ich zdieľali s presvedčením, že ide o skutočnosť, až kým sa neukázalo, že išlo o výtvory umelej inteligencie.
Na rastúci chaos okolo AI videí upozornila v tomto roku aj americká investigatívna platforma InvestigateTV. Predstavila tvorcov, ktorí na sociálnych sieťach učia ľudí rozoznávať syntetický obsah a vysvetľujú, prečo už nestačí spoliehať sa na prvý dojem.
Podvody spôsobili len v prvom štvrťroku 2025 finančné škody viac než 200 miliónov dolárov a zaznamenali vyše 160 zdokumentovaných incidentov v rôznych krajinách.
Stamm upozornil, že vizuálne stopy majú krátku životnosť. Očakáva, že počas najbližších rokov sa väčšina zrejmých chýb vo videách vytratí, podobne ako sa to už stalo pri statických obrázkoch.
Forenzné tímy preto pracujú s pokročilejšími technikami. Skúmajú štatistické vzory v obraze a hľadajú drobné odtlačky úprav, ktoré ľudské oko nevidí.
Technologické firmy medzitým testujú štandardy, pri ktorých kamery zapisujú informácie o pôvode záberu a nástroje na generovanie obsahu priznávajú, že ide o syntetické dáta. Ani jedno riešenie však nie je dokonalé.
Expert na digitálnu gramotnosť Mike Caulfield preto povedal, že rozhodujúca zmena musí prísť zo strany používateľov. Videá už podľa neho nemôžeme vnímať ako výnimočne dôveryhodný dôkaz. Skôr ako text, ktorý má zmysel iba vtedy, ak poznáme zdroj a kontext.
Podstatné je, kto video zverejnil, odkiaľ pochádza, kedy vzniklo a či ho potvrdil dôveryhodný subjekt. Stamm to označil za jednu z najväčších výziev informačnej bezpečnosti tohto storočia, no dodal, že na riešení pracuje čoraz viac odborníkov.
Kombinácia technológií, pravidiel, vzdelávania a zdravého skepticizmu bude podľa neho nevyhnutná, ak nechceme úplne stratiť možnosť veriť tomu, čo vidíme na obrazovke.
Umelá inteligencia mení aj učenie v školách. Viac sa dozviete v reportáži:
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
