Cybersäkerhetsföretaget NordVPN varnar för att deepfakes blir ett växande hot mot privatpersoner, företag och samhällen. Med hjälp av AI används tekniken för att skapa manipulerade videor, ljudinspelningar och texter som kan framstå som äkta. Enligt företaget används deepfakes redan i bedrägerier, desinformationskampanjer och utpressningsförsök samtidigt som tekniken utvecklas snabbt.
Deepfakes har på kort tid gått från tekniska experiment till ett konkret hot mot både individer, företag och samhällen. Med hjälp av AI skapas videor, ljudinspelningar och texter där det framstår som att personer säger eller gör saker som aldrig har hänt. Tekniken används redan i bedrägerier, desinformationskampanjer och utpressningsförsök – och likt det mesta inom AI går utvecklingen snabbt.
“Deepfakes har förändrat hur vi avgör vad som är sant och falskt. När bilder, ljud och videor kan manipuleras på ett trovärdigt sätt räcker det inte längre att lita på det vi känner igen – information måste verifieras. Det ställer helt nya krav på hur vi bedömer innehåll i dag,” säger Adrianus Warmenhoven, cybersäkerhetsexpert på NordVPN.
Hur går det till?
Många deepfakes bygger på så kallade generative adversarial networks (GAN), ett nätverksbaserat system för maskininlärning där två AI-modeller arbetar mot varandra. Den ena modellen har som uppgift att skapa nytt innehåll, till exempel bilder eller videor, medan den andra tränas på att avslöja om materialet är äkta eller manipulerat. Genom att ständigt försöka överlista varandra förbättras båda systemen, tills det AI-skapade innehållet blir tillräckligt trovärdigt för att misstas för verkligt.
Förutom bilder och videos används tekniken även för att skapa falska röstinspelningar, trovärdiga texter och till och med manipulation i realtid under videosamtal. Särskilt allvarligt är den ökade spridningen av deepfake-baserat sexuellt material, där bilder och videor skapas utan samtycke. Dessa riktas ofta mot privatpersoner i syfte av att attackera och kan få långtgående konsekvenser för både psykiskt välbefinnande och privatliv.
Så minskar du risken att drabbas
För att skydda sig mot deepfake-relaterade hot krävs både försiktighet och en ökad medvetenhet. Att vara källkritisk, verifiera information via flera kanaler och begränsa mängden personligt material som delas offentligt är enkla men effektiva åtgärder.
Tecken på att innehåll kan vara manipulerat:
- Onaturligt släta eller suddiga partier i ansiktet – Där det manipulerade ansiktet möter personens riktiga ansikte kan ytan ibland se onaturligt slät eller suddig ut. Snabba huvudrörelser eller förändringar i ljussättning kan tillfälligt avslöja oskarpa kanter runt ansiktet.
- Detaljer utanför ansiktet som inte stämmer – Händer, hår, kroppsform eller proportioner kan avvika från hur personen normalt ser ut och rör sig.
- Stela eller begränsade rörelser –Huvud och kropp kan upplevas som onaturligt stilla, vilket kan tyda på att tekniken haft svårt att återskapa rörelse.
- En röst som inte låter helt övertygande – AI-genererade eller imiterade röster kan skilja sig från originalet i tonfall, tempo eller uttal.
”Det viktigaste skyddet mot deepfakes är inte ett enskilt verktyg, utan medvetenhet. Att stanna upp, kontrollera källor och vara försiktig med vilken information man delar gör stor skillnad, särskilt i en tid där manipulerat innehåll blir allt svårare att upptäcka,” avslutar Adrianus.
