Så använder bedragare AI

Det brukade vara ganska lätt att känna igen ett bluffsms eller ett bluffmejl. Ofta avslöjades det av knagglig svenska, tydliga stavfel eller en avsändaradress som uppenbart var falsk. I dag har bedragarna fått ett kraftfullt verktyg: AI. Med hjälp av AI kan de skriva helt felfri text, härma rösten på någon du känner och bygga sajter som ser exakt ut som den du tänkte logga in på.

I den här artikeln går vi igenom exempel på hur bedragare använder AI.

Text och dokument: perfekt svenska och falska fakturor eller brev

Idag kan AI skriva felfria texter och kan skapa fakturor eller kravbrev som ser officiella ut, med rätt logotyp och samma språk som till exempel Skatteverket använder. I vissa fall är det omöjligt att avgöra om en faktura eller ett kravbrev är äkta eller inte just för att AI har blivit så pass duktig att kopiera material.

Hemsidor: falsk kundtjänst

En bedragare kan bygga en falska hemsida på några minuter som över tid rankar högt på Googles sidor. Det innebär att du kan råka ringa ett nummer till eller chatta med en bedragare som påstår sig vara ett företags kundtjänst. I den kontakten ber bedragaren dig om blidär en chattbot ber om din BankID-kod. Ingen äkta kundtjänst behöver den koden.

Telefon och video: klonade röster och deepfakes

En AI som är tränad på röster och ljud behöver bara några sekunders inspelning, till exempel från en film på sociala medier, för att härma eller klona en röst. En bedragare kan då ringa dig och låta precis som ditt barn eller barnbarn som påstår att hen akut behöver pengar. Det förekommer redan i Sverige, och polisen känner till flera fall. Liknande AI-teknik skapar deepfake-videor där kända personer ser ut att tipsa om investeringar.

Romansbluffar och falska jobb

Över datingsidor eller sociala medier använder bedragare AI för att bygga relationer. En AI-bot kan hålla igång personliga konversationer dygnet runt i veckor och bygga upp förtroende med en människa, tills en påhittad kris och en begäran om pengar dyker upp. Falska jobbannonser fungerar likadant: efter en snabb intervju ombeds du logga in med BankID för en id-kontroll. En riktig arbetsgivare ber dig aldrig om det.

Tre saker att komma ihåg

Samma enkla vanor gör dig mycket säkrare:

1. Ingen bank eller myndighet skulle be dig om din BankID-kod eller be dig lämna ut ett lösenord över telefon eller mail.

2. Lägg på eller pausa! Om någon ringer dig från ett okänt nummer, försöker stressa dig och få dig att ge ut koder eller föra över pengar så lägg på. Om du får sett sms svara inte. Logga in på den officiella sidan som bedragaren påstod sig ringa eller smsa ifrån för att dubbelkolla. Om en bedragare utger sig för att vara en anhörig, lägg på och ring upp din anhöriga på hens nummer i din telefon.

3. Kom överens om ett kodord i familjen, så att ni alltid kan känna igen varandra på riktigt.

Nästa vecka: Falska nätbutiker och AI-recensioner

Tidigare i veckan höll Internetstiftelsen ett långt webinar om bedrägerier som vi kommer prata om i nästa vecka. Bland annat pratade de om hur otroligt enkelt det är för bedragare att skapa falska nätbutiker och fylla dem med tusentals påhittade, femstjärniga recensioner som ser trovärdiga ut. Just när det gäller att handla på nätet har det blivit mycket svårare att veta vad som är äkta.

I nästa veckas artikel dyker vi djupt ner i e-handeln: Hur synar du fejkade nätbutiker och vilka betalningsmetoder ska du välja för att handla tryggt?

Källor

Internetstiftelsen, Tänk säkert: https://internetstiftelsen.se/tanksakert/

Polisen