Indhold
- Hvad er deepfake?
- Hvordan fungerer deepfake?
- Oprindelsen
- Farerne
- At finde en løsning
- Populært deepfake indhold
Deepfake-indhold skaber kaos blandt mennesker, der voksede op med tanken om, at se er at tro. Fotos og videoer, der engang blev betragtet som ubestridelige beviser for, at der sker noget, bliver nu sat i tvivl af masserne. Dette kan forventes efter at have fundet ud af den utroligt realistiske video af Barack Obama, der kalder præsident Trump for en "total og komplet dip ****", er intet andet end en dyb falsk skabelse.
Deepfake-indhold skaber kaos blandt mennesker, der voksede op med tanken om, at se er at tro.
Edgar CervantesDen involverede teknologi hæver øjenbrynene og genererer spørgsmål, hvorfor vi er her for at give dig den fulde dybdegående gennemgang af, hvad det er, hvordan det fungerer, og hvis der virkelig er en grund til at bekymre dig.
Hvad er deepfake?
Deepfake er en AI (kunstig intelligens) teknik, der bruger maskinlæring til at skabe eller manipulere indhold. Det bruges ofte til at skabe montager eller overlejre en persons ansigt oven på en anden, men dens egenskaber strækker sig langt ud over det. Denne teknologi har masser af andre applikationer. Disse inkluderer manipulering eller skabelse af lyd, bevægelse, landskaber, dyr og mere.
Hvordan fungerer deepfake?
Deepfake-indhold oprettes gennem en maskinindlæringsteknologi, der kaldes GAN (generative adversarial network). GAN'er bruger to neurale net: en generator og en diskriminerende. Disse konkurrerer konstant mod hinanden.
Generatoren vil forsøge at skabe et realistisk billede, mens diskriminerende vil forsøge at afgøre, om det er falsk eller ej. Hvis generatoren narrer diskriminereren, bruger diskriminereren oplysninger indsamlet for at blive en bedre dommer. Ligeledes, hvis diskriminereren bestemmer, at generatorens billede er en falsk, vil generatoren blive bedre til at oprette et falsk billede. Den uendelige cyklus kan fortsætte, indtil et billede, video eller lyd ikke længere er mærkbart falsk til menneskets perspektiv.
Oprindelsen
De første dybe falske videoer var tydeligvis porno!
Edgar CervantesDe første dybe falske videoer var tydeligvis porno! Mere specifikt var det almindeligt at se kendte ansigter overlagret over pornoskuespillerinder. Nicholas Cage memes var også populære, blandt andre sjove opfindelser.
Ordet deepfake blev synonymt med denne teknik i 2017 takket være en Reddit-bruger, der gik under navnet ”deepfakes”. Brugeren blev sammen med andre på det nu forbudte r / deepfakes subreddit, hvor de delte deres kreationer med verden.
Ian Goodfellow er den virkelige skaber af generative modsætningsnetværk. Sammen med sine kolleger introducerede han konceptet for University of Montreal i 2014. Han fortsatte derefter med at arbejde for Google og er i øjeblikket ansat i Apple.
Farerne
I de forkerte hænder kan deepfake-oprettelse bruges til at forfalske meget mere end fjollede Nicholas Cage-memes.
Edgar CervantesMens indholdsmanipulation ikke er noget nyt, krævede det alvorlige færdigheder. Du havde brug for en magtfuld computer og en rigtig god grund (eller bare for meget ledig tid) for at fremstille falskt indhold. Deepfake-oprettelsessoftware som FakeApp er gratis, let at finde og kræver ikke meget computerkraft. Og fordi det udfører alt dette arbejde på egen hånd, behøver du ikke at være en dygtig redaktør for at skabe vanvittigt rigtige dybe medier.
Dette er grunden til, at offentligheden, berømtheder, politiske enheder og regeringer bekymrer sig om dybe falske bevægelse. I de forkerte hænder kan deepfake-oprettelse bruges til at forfalske meget mere end fjollede Nicholas Cage-memes. Forestil dig nogen, der opretter falske nyheder eller skildrer bevis for video. Du kan tilføje forfalskning og hævneporno til problemet. Ting kan blive virkelige hurtigt.
En anden grund til at bekymre sig om dyb falske indhold er, at vigtige personligheder også kunne nægte tidligere handlinger. Fordi deepfake-videoer virker så rigtige, kunne enhver hævde, at et rigtigt klip er en deepfake.
Læs også: Kompleksiteten i etik og AI
At finde en løsning
Selvom det er meget tæt på ægte, kan et trænet øje stadig se en falsk video ved at være meget opmærksom. Bekymringen er, at vi på et tidspunkt i fremtiden muligvis ikke kan fortælle forskellen.
Twitter, Pornhub, Reddit og andre har uden succes forsøgt at slippe af med sådant indhold. På den mere officielle side arbejder DARPA (Defense Advanced Research Projects Agency) med forskningsinstitutioner og University of Colorado for at skabe en måde at få øje på deepfakes.
Det bedste, vi kan gøre for at bekæmpe deepfake-videoer, er at være mere opmærksomme og mindre godtroede.
Edgar CervantesIndtil vi har software, der kan se uregelmæssigheder i sådanne videoer, er det bedste, vi kan gøre, være mere opmærksom og mindre godtroende. Foretag din research, før du antager, at en video, billede eller lyd er reel. Dette burde vi have gjort allerede.
Populært deepfake indhold
Jordan Peele slutter sig til Buzzfeed for at sammensætte denne video, som er beregnet til at skabe bevidsthed.
Onlinemanipulation-ekspert Claire Wardle viser os, hvor realistisk disse videoer kan se ud ved at vises som Adele i de første 30 sekunder af videoen. Denne video fra The New York Times giver os stor indsigt i emnet.
Watchmojo giver har samlet en liste over nogle af de mest populære deepfake-videoer rundt omkring. Det er en sjov video med masser af gode eksempler.
Er du bekymret for konsekvenserne af deepfake-videoer? Det er bestemt et emne, vi skal huske på, mens vi også arbejder på at finde løsninger.
