Deepfake-röster imiterar chefer – nya bedrägeriet på svenska kontor

När rösten i telefonen ljuger – så fungerar tekniken

Tekniken bakom röstbaserade bedrägerier har utvecklats i en rasande takt under de senaste åren. Det som tidigare krävde avancerad studioutrustning och timmar av ljudmaterial kan idag genomföras på några få sekunder med hjälp av allmänt tillgängliga AI-modeller. Genom att analysera frekvenser, tonfall, andningsmönster och klangfärg skapar algoritmerna en digital profil av en specifik person. Denna klonade röst kan sedan läsa upp vilken skriven text som helst i realtid med häpnadsväckande precision, vilket gör det nästan omöjligt för det mänskliga örat att avslöja att det i själva verket rör sig om en syntetisk generering.

Källmaterialet som gör bedrägeriet möjligt

För att bedragare ska kunna skapa en trovärdig röstkopia krävs det numera extremt lite datamaterial. Ett kort videoklipp från en kvartalsrapport, en intervju på nätet eller en presentation på sociala medier räcker ofta mer än väl. Kriminella dammsuger internet på offentligt ljudmaterial från nyckelpersoner på svenska företag. Därefter matar de in ljudfilerna i syntetiseringsprogram som blixtsnabbt lär sig chefens unika sätt att tala, inklusive specifika dialekter och personliga talspråksuttryck. Resultatet blir ett perfekt verktyg för att manipulera anställda som är vana vid att höra just den rösten under hektiska arbetsdagar.

Från talsyntes till direkt interaktion

Moderna bedrägerier stannar inte vid förinspelade meddelanden utan sker allt oftare genom direkta samtal. AI-systemen kan idag integreras med telefonitjänster så att bedragaren pratar i mikrofonen och programvaran omvandlar rösten i realtid till chefens röst. Det innebär att den som ringer upp kan svara på frågor, reagera på motargument och anpassa samtalet efter situationen. Den tekniska tröskeln för att genomföra dessa attacker har sjunkit dramatiskt, vilket innebär att metoden inte längre är förbehållen avancerade statliga aktörer utan nu används flitigt av vanliga kriminella nätverk.

• Ljudmaterial samlas in från öppna källor på nätet

• Algoritmer analyserar tonfall, dialekt och unika talspråksmönster

• Syntetiska röstmodeller genereras på bara några sekunder

• Realtidsomvandling gör det möjligt att föra naturliga telefonsamtal

• Samtalen sker ofta under hård tidspress för att undvika kontroll

Mänskliga faktorn: Varför vi går i fällan

Det är lätt att tro att säkerhetsbrister främst handlar om svaga lösenord eller ouppdaterade datorsystem, men i dessa fall utnyttjas vår mänskliga psykologi. När vi hör en röst som vi känner igen kopplas vårt kritiska tänkande delvis bort eftersom hjärnan är programmerad att lita på bekanta ljud. Bedragarna utnyttjar denna biologiska genväg och förstärker den genom att skapa en känsla av brådska eller kris. När en anställd tror att vd:n ringer i ett akut ärende hamnar fokus på att lösa problemet snabbt snarare än att ifrågasätta om personen på andra sidan faktiskt är den den utger sig för att vara.

Auktoritet och stress som verktyg

Social engineering, eller social manipulation, bygger på att utnyttja organisationers interna hierarkier. När en hög chef ber om en snabb insats uppstår en naturlig vilja hos den anställde att vara hjälpsam och effektiv.

Bedragarna planerar ofta sina samtal till tidpunkter då offret är stressat, till exempel sent på fredag eftermiddag eller under semestertider då bemanningen är låg. I dessa situationer är risken som störst att den anställde hoppar över vanliga kontrollsteg för att inte framstå som motsträvig eller långsam inför företagsledningen, vilket är exakt vad de kriminella kasserar in på.

Den illusionära tryggheten i telefonkontakter

Vi har under lång tid lärt oss att vara försiktiga med misstänkta e-postmeddelanden och klicka på okända länkar. Telefonsamtal har däremot uppfattats som en betydligt säkrare och mer personlig kommunikationskanal. Denna falska trygghet gör oss extra sårbara när attackerna nu flyttar över till röstmedier. Eftersom vi inte förväntar oss att rösten i luren är falsk, söker vi inte efter tecken på bedrägeri på samma sätt som vi gör när vi läser ett skumt mail. Den mentala omställningen till att vara skeptisk även mot talat språk tar tid och kräver aktiv träning.

Så skyddar ni företaget mot röstkapningar

För att möta det nya hotet räcker det inte med att förlita sig på tekniska brandväggar eller antivirusprogram. Företag måste bygga upp en stark säkerhetskultur där det är helt acceptabelt att ifrågasätta och verifiera osedvanliga instruktioner, oavsett vem som ser ut att ge dem. Det handlar om att skapa rutiner som gör det omöjligt för en enskild person att godkänna stora utbetalningar eller ändra känsliga uppgifter baserat på ett enskilt telefonsamtal. Säkerheten måste vara inbyggd i arbetssättet så att verifiering blir en naturlig del av vardagen för alla medarbetare.

Fasta verifieringsrutiner och lösenord

Ett av de mest effektiva sätten att stoppa röstbedrägerier är att införa interna säkerhetskoder eller tvåstegsverifiering vid oväntade förfrågningar. Om en chef ringer och ber om en akuthantering ska den anställde alltid använda en förbestämd metod för att bekräfta identiteten.

Det kan handla om att ringa tillbaka på ett officiellt telefonnummer eller ställa en specifik kontrollfråga som bara den riktiga chefen kan svaret på. Genom att strikt följa dessa principer neutraliseras AI-teknikens övertag, eftersom bedragaren inte kan svara på interna hemligheter oavsett hur perfekt rösten låter.

Utbildning och kontinuerlig medvetenhet

Tekniken för att skapa falska röster kommer bara att bli bättre och mer tillgänglig med tiden, vilket gör kontinuerlig utbildning avgörande. Anställda på ekonomiavdelningar och i nyckelpositioner måste regelbundet få information om hur dessa bedrägerier går till och vilka varningstecken man ska se upp med. Det handlar om att avdramatisera processen att kontrollera uppgifter så att ingen känner skuld för att de dubbelkollar en order från ledningen. När hela organisationen förstår hotbilden och arbetar tillsammans blir företaget en betydligt svårare måltavla för de digitala bedragarna.