Deepfake

L?r dig vad som menas med deepfake och hur dessa skapas. Techopedia g?r igenom allt du beh?ver veta om deepfakes – fr?n anv?ndningsfall och hur du uppt?cker dem till etiska och juridiska konsekvenser vid anv?ndning.

Inneh?llsf?rteckning Inneh?llsf?rteckning

1. Vad ?r en deepfake?
   1. Techopedia f?rklarar inneb?rden av Deepfake
2. Hur skapas deepfakes?
3. Vad ?r "Deepfake-As-A-Service"?
4. Anv?ndningsfall av deepfakes
5. Vem ?r det som g?r deepfakes?
6. Hur man uppt?cker en deepfake
   1. Verktyg f?r detektering av deepfake
7. Deepfakes inverkan p? samh?llet
8. Exempel p? missbruk av deepfake
9. Etiska konsekvenser av deepfakes
10. Juridiska konsekvenser av deepfake-teknik
11. Slutsatsen om deepfakes
12. Vanliga fr?gor om deepfake
13. Referenser

Visa fullst?ndig lista

Inneh?llsf?rteckning

1. Vad ?r en deepfake?
   1. Techopedia f?rklarar inneb?rden av Deepfake
2. Hur skapas deepfakes?
3. Vad ?r "Deepfake-As-A-Service"?
Visa fullst?ndig lista
4. Anv?ndningsfall av deepfakes
5. Vem ?r det som g?r deepfakes?
6. Hur man uppt?cker en deepfake
   1. Verktyg f?r detektering av deepfake
7. Deepfakes inverkan p? samh?llet
8. Exempel p? missbruk av deepfake
9. Etiska konsekvenser av deepfakes
10. Juridiska konsekvenser av deepfake-teknik
11. Slutsatsen om deepfakes
12. Vanliga fr?gor om deepfake
13. Referenser

Vad ?r en deepfake?

En deepfake avser datorgenererade videor, ljudinspelningar och bilder som anv?nds f?r att portr?ttera personer som s?ger eller g?r saker som de aldrig faktiskt gjorde eller sa. I huvudsak anv?nder deepfake-teknik artificiell intelligens (AI) och maskininl?rning (ML) f?r att generera syntetiskt digitalt inneh?ll som ser ut och l?ter som om det ?r autentiskt.

?ven om deepfakes kan skapas f?r godartade ?ndam?l, till exempel inom filmskapande eller satir, har de f?tt en negativ klang eftersom de mest omskrivna till?mpningarna av deepfake-teknik har varit bedr?gerirelaterade. De har uppm?rksammats f?r sin f?rm?ga att vilseleda tittare att tro att falskt avbildade h?ndelser eller uttalanden ?r verkliga.

Teknikens f?rm?ga att missbrukas har gett upphov till etiska, juridiska och sociala fr?gor, s?rskilt n?r det g?ller felaktig information, kr?nkningar av den personliga integriteten och manipulation av den allm?nna opinionen.

Techopedia f?rklarar inneb?rden av Deepfake

Deepfake-definitionen ?r en sammanslagning av ”deep learning” och ”fake”. I det h?r sammanhanget ?r deep learning en typ av maskininl?rning och fake ?r en synonym f?r fabricerad eller syntetisk data.

Det ?r viktigt att komma ih?g att ?ven om alla deepfakes anv?nder syntetisk data, ?r det inte allt syntetiskt digitalt inneh?ll som kvalificerar sig som deepfakes. Den avg?rande skillnaden ligger i avsikten bakom skapandet av inneh?llet och dess potential f?r bedr?geri.

Hur skapas deepfakes?

Deepfake-modeller kan skapas med generativa adversariala n?tverk (GAN), autoencoders eller variational autoencoders. N?r modellen ?r tillr?ckligt tr?nad kan den anv?ndas f?r att skapa deepfakes genom att mata in nya tr?ningsdata eller uppmaningar.

Vad ?r “Deepfake-As-A-Service”?

F?r tio ?r sedan beh?vde den som ville skapa ?vertygande deepfake-inneh?ll ha en gedigen bakgrund inom matematik, datavetenskap och datorprogrammering.

Idag kan m?nniskor anv?nda gratis eller billiga appar och molntj?nster som kan skapa ?vertygande deepfakes fr?n bara n?gra f? referensbilder eller videor. Tencent har till exempel en kommersiell deepfake-tj?nst som kan skapa h?guppl?sta, realistiska deepfake-m?nniskor med bara tre minuters live-action-video och 100 talade meningar som k?llmaterial.

Tyv?rr har detta gjort det enklare ?n n?gonsin f?r hotakt?rer att ocks? skapa deepfakes. Under de senaste fem ?ren har det f?rekommit anm?rkningsv?rda fall d?r deepfakes har anv?nts f?r att sprida felaktig information, beg? ekonomiska bedr?gerier, skapa icke-konsensuellt inneh?ll f?r vuxna och otillb?rligt p?verka politiska kampanjer.

Kvaliteten p? deepfakes som skapats med billig programvara ?r dock inkonsekvent. Det ?r d?rf?r som deepfakes med m?rkbara brister eller inkonsekvenser ofta kallas cheapfakes eller shallow fakes (motsatsen till deepfakes).

Anv?ndningsfall av deepfakes

Deepfakes har anv?nts i olika sammanhang, allt fr?n godartade och underh?llande till kontroversiella och illasinnade. H?r ?r n?gra anm?rkningsv?rda exempel (b?de bra och d?liga).

Vem ?r det som g?r deepfakes?

En del av det inledande arbetet med deepfake-teknik utf?rdes i akademiska milj?er och inom forskning f?r att utforska m?jligheterna att anv?nda AI inom film. Praktiska till?mpningar av tidig deepfake-teknik inkluderade matchning av en sk?despelares l?ppr?relser till ljud inspelat p? ett annat spr?k, av?ldring av sk?despelare eller ers?ttning av en sk?despelares ansikte med en annans i en specifik scen utan att beh?va filma scenen igen.

Idag skapas ett betydande antal deepfakes av hobbyister och teknikentusiaster. Deepfake-teknikens tillg?nglighet har ?kat med den utbredda tillg?ngen till anv?ndarv?nlig deepfake-mjukvara och molntj?nster, och m?nniskor med varierande niv?er av teknisk skicklighet kan skapa realistiska deepfakes.

Hur man uppt?cker en deepfake

?ven om det blir allt sv?rare att identifiera falska bilder, ljud och video i takt med att tekniken f?rb?ttras, finns det fortfarande vissa tecken och tekniker som du kan anv?nda f?r att identifiera falska bilder.

Verktyg f?r detektering av deepfake

Idag finns det ett antal tekniska verktyg och tj?nster som m?nniskor kan anv?nda f?r att uppt?cka inkonsekvenser och artefakter som inf?rts under deepfake-skapandeprocessen.

• Sentinel: Enligt deras webbplats arbetar Sentinel med regeringar, media och f?rsvarsorgan f?r att hj?lpa till att skydda demokratier fr?n desinformationskampanjer, syntetiska medier och informationsoperationer.
• Deepfake-detektor: F?retagets AI Voice Detector kan hj?lpa anv?ndare att uppt?cka om ett ljud- eller videoklipp ?r en deepfake.
• Sensity: Sensitys egenutvecklade API (Application Programming Interface) kan identifiera AI-?ndrade bilder 98,8% av tiden.
• Intel FakeCatcher: Enligt Intels webbplats analyserar FakeCatcher blodfl?det i videopixlar f?r att best?mma en videos ?kthet.
• Resemble AI: Resemble AI-tj?nster inkluderar en banbrytande AI-r?stgenerator och robust deepfake-ljuddetektering.

Det ?r viktigt att komma ih?g att medan verktyg och tj?nster f?r deepfake-detektorer st?ndigt f?rb?ttras, g?r tekniken bakom deepfakes ocks? fram?t. Det ?r d?rf?r som deepfake-detektering ofta kategoriseras som ett katt-och-r?tta-spel.

Deepfakes inverkan p? samh?llet

?ven om deepfakes kan fungera som kraftfulla verktyg f?r underh?llning, utbildning och sociala kommentarer, har teknikens potential f?r missbruk i n?tfiskebedr?gerier, identitetsst?ld och finansiella bedr?gerier gjort den till ett betydande s?kerhetsproblem.

Deepfake-teknik har f?rm?gan att undergr?va f?rtroendet f?r medier, underl?tta kampanjer f?r felaktig information, underbl?sa politisk polarisering och utg?ra ett allvarligt hot mot individers rykte och k?nslom?ssiga v?lbefinnande.

I samh?llet v?cker skapandet och spridningen av deepfakes fr?gor om samtycke och integritet, liksom fr?gor om teknikens potential att p?verka m?nskligheten p? ett skadligt s?tt.

Exempel p? missbruk av deepfake

H?r ?r n?gra exempel p? missbruk av deepfake-teknik i den verkliga v?rlden:

• En finansanst?lld i Hongkong ?verf?rde mer ?n 25 miljoner dollar till bedragare efter att ha blivit ”deepfaked” genom ett videokonferenssamtal.
• I USA fick tusentals m?nniskor ett deepfake-robocall fr?n president Joe Biden som uppmanade dem att inte r?sta.
• Ett energif?retags VD lurades att ?verf?ra 220 000 € efter att ha blivit deepfaked att tro att han talade i telefon med sin chef.
• En deepfake-video av Japans premi?rminister Kishida Fumio fick det att se ut som om premi?rministern yttrade vulg?ra kommentarer.
• En video av Microstrategys verkst?llande ordf?rande Michael Saylor uppmanade tittarna att skicka honom Bitcoin med l?ftet att han kunde f?rdubbla deras kryptoinvestering.

Etiska konsekvenser av deepfakes

I takt med att deepfake-tekniken blir allt mer sofistikerad och tillg?nglig v?cker den fr?gor om hur man kan verifiera k?llinneh?llets ?kthet.

Andra fr?gor som r?r den etiska anv?ndningen av deepfakes ?r bland annat

• Beh?ver vi nya lagar eller f?rordningar f?r att reglera anv?ndningen av deepfake-teknik?
• Kan vi anv?nda AI-vattenst?mplar f?r att p? ett tillf?rlitligt s?tt identifiera deepfake-inneh?ll?
• Vem ska h?llas ansvarig om syntetiskt inneh?ll skadar n?gons rykte?
• Tar befintliga lagar och f?rordningar itu med utmaningarna i domstolar d?r video- och ljudbevis en g?ng ans?gs vara tillf?rlitliga?
• Kan blockkedjeteknik anv?ndas f?r att autentisera legitimt inneh?ll och fastst?lla ursprunget f?r en digitaliserad tillg?ng, inklusive text, ljud och video?

Juridiska konsekvenser av deepfake-teknik

Deepfake-tekniken skapar utmaningar i domstolar d?r video- och ljudbevis tidigare ans?gs vara tillf?rlitliga.

I m?nga l?nder hanterar befintliga lagar och regler inte nyanserna i deepfake-tekniken p? ett tillfredsst?llande s?tt, och detta har lett till krav p? nya regler och r?ttsliga ramar.

Flera l?nder och jurisdiktioner har b?rjat inf?ra lagar och f?rordningar som ?r s?rskilt utformade f?r att h?lla deepfake-skapare och distribut?rer ansvariga f?r skadliga effekter.

• I USA har minst tio delstater antagit lagar som kriminaliserar skapande och distribution av deepfake-pornografi utan samtycke och deepfake-videor som syftar till att st?ra val.
• Kina har strikta lagar som specifikt f?rbjuder produktion av deepfakes utan anv?ndarens samtycke och som kr?ver att inneh?ll som genereras med artificiell intelligens ska m?rkas tydligt.
• EU:s Artificial Intelligence Act inneh?ller best?mmelser som kr?ver att den som skapar eller sprider en deepfake ska avsl?ja inneh?llets artificiella ursprung och tillhandah?lla information om hur inneh?llet skapades.

Slutsatsen om deepfakes

Deepfake-tekniken i sig ?r inte farlig. Den kan anv?ndas f?r att engagera elever, s?nka produktionskostnaderna f?r film och effektivisera anpassningen av inneh?ll till m?lgrupper som talar olika spr?k.

Den l?tthet med vilken hotakt?rer anv?nder tekniken f?r att skapa ?vertygande falska videor och videoklipp bidrar dock till att undergr?va m?nniskors f?rtroende f?r digitala medier.

Vanliga fr?gor om deepfake