Deepfake
Deepfake (portmanteau zo slov „deep learning“ a „fake“[1]) je syntetické médium,[2] ktoré bolo digitálne upravené tak, aby presvedčivo nahradilo osobu výzorom alebo hlasom iného človeka. Deepfake využíva metódy strojového učenia a umelej inteligencie na manipuláciu alebo generovanie vizuálneho a zvukového obsahu, ktorý má vyvolať dojem, že ide o inú osobu na danej nahrávke či zázname než v skutočnosti.[3] Hlavné metódy strojového učenia používané na tvorbu deepfake sú založené na hlbokom učení (tzv. deep learning) a zahŕňajú trénovanie generatívnych neurónových sietí, ako sú autoenkódery alebo generatívne antagonické siete. Naopak oblasť forenznej analýzy obrazu vyvíja techniky na detekciu manipulovaných obrázkov.[4]
Proces tvorby
[upraviť | upraviť zdroj]
Deepfake je možné vytvoriť vytrénovaním modelu umelej inteligencie na základe veľkého množstva existujúcich fotografií alebo nahrávok s cieľovou osobou. Tieto dáta sa použijú na trénovanie strojových učiacich sa modelov. Učiace sa modely, najčastejšie konvolučné neurónové siete pre videá alebo rekurentné neurónové siete pre zvuk, sa trénujú na analýzu a reprodukciu charakteristík tváre alebo hlasu cieľovej osoby.[5] Po trénovaní modelu možno vytvoriť deepfake obsah tým, že sa modelu poskytnú vstupné dáta (napríklad fotografia tváre alebo zvuková nahrávka) a nechá sa vytvoriť odpovedajúci obsah, ktorý simuluje tvár alebo hlas cieľovej osoby. Ak ide o deepfake tváre, je nutné resp. minimálne sa odporúča zbaviť sa čo najviac fotiek, ktoré sú rozmazané pri pohybe. Deepfake môže byť následne doladený, aby bol výsledok ešte presnejší a autentickejší. To môže zahŕňať napríklad úpravy farieb, osvetlenia, zaostrenia tváre, prípadne úpravy hlasitosti. Najlepší výsledok, ak ide o deepfake tváre, sa dosiahne vtedy, ak človek na zázname, ktorého tvár nahradzujeme, má v tvári spoločné črty s človekom, ktorého tvár má byť vymenená.[6]
Význam
[upraviť | upraviť zdroj]Deepfake získal veľkú pozornosť médií a predstaviteľov mnohých štátov hlavne kvôli ich potenciálnemu využitiu pri tvorbe detskej pornografie, pornografických videí s celebritami, falošných správ, kyberšikany, či finančných alebo iných druhov podvodov. Šírenie dezinformácií a nenávisti prostredníctvom tohto média má potenciál podkopať základné funkcie a normy demokratických systémov tým, že zasahuje do schopnosti ľudí účastniť sa rozhodovania, určovať kolektívne agendy a vyjadrovať politickú vôľu prostredníctvom informovaného rozhodovania.[5] Toto všetko vyvolalo reakcie, či už zo strany priemyslu alebo alebo zo strany vlád, aby detegovali a obmedzili použitie deepfakeu. Vlády mnohých štátov si zároveň určili ako prioritu zabezpečenie vzdelávania a rozširovania povedomia svojich občanov o existencii takéhoto média, čím ich zároveň učia deepfake rozpoznávať.[5]
Deepfake sa však aj používa aj ako prvok v oblasti zábavy v rôznych neziskových experimentoch, audiovizuálnych experimentoch, komerčných filmoch, edukačných videách až po politickú satiru. Technológia deepfake musí byť vo všetkých prípadoch priznávaná a nemôže sa považovať za skutočnú udalosť, či skutočnú osobu.[7] Deepfake bol napríklad použitý vo filme Indiana Jones a nástroj osudu (2023), kedy touto technológiou digitálne omladili herca Harrisona Forda.[8]
Referencie
[upraviť | upraviť zdroj]- ↑ BRANDON, John. Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise. Fox News, 2018-02-16. Dostupné online [cit. 2018-02-20]. (po anglicky)
- ↑ Prepare, Don't Panic: Synthetic Media and Deepfakes [online]. witness.org. Dostupné online. Archivované 2020-12-02 z originálu.
- ↑ WOOLDRIDGE, Michael J.. A brief history of artificial intelligence: what it is, where we are, and where we are going. New York : Flatiron Books, 2021. (First U.S. edition.) ISBN 978-1-250-77074-5. S. 188.
- ↑ Image Forensics. Annual Review of Vision Science, 15 September 2019, s. 549–573. Dostupné online. ISSN 2374-4642. DOI: 10.1146/annurev-vision-091718-014827. PMID 31525144. (po anglicky)
- ↑ a b c KALPOKAS, Ignas; KALPOKIENE, Julija. Deepfakes: a realistic assessment of potentials, risks, and policy regulation. Cham, Switzerland : Springer, 2022. (SpringerBriefs in Political Science.) ISBN 978-3-030-93801-7. S. 29, 31, 66.
- ↑ DeepFaceLab 2.0 Guide - DeepfakeVFX.com [online]. 2021-12-30, [cit. 2024-01-13]. Dostupné online. (po anglicky)
- ↑ The High Stakes of Deepfakes: The Growing Necessity of Federal Legislation to Regulate This Rapidly Evolving Technology [online]. Princeton Legal Journal, 2023-06-20, [cit. 2024-01-13]. Dostupné online. (po anglicky)
- ↑ MOHSIN, Shaz. The Success of De-Aging Harrison Ford in ‘Dial of Destiny’ is Concerning for the Future of Deepfakes in Movies [online]. 2023-07-10, [cit. 2024-01-13]. Dostupné online. (po anglicky)
Iné projekty
[upraviť | upraviť zdroj]
Commons ponúka multimediálne súbory na tému Deepfake
Zdroj
[upraviť | upraviť zdroj]
Tento článok je čiastočný alebo úplný preklad článku Deepfake na anglickej Wikipédii.