Resultatet är bättre grammatik och stavning, såväl som längre meddelanden – i huvudsak borttagning av alla giveaways som folk en gång kunde lita på för att signalera att de läste ett falskt e-postmeddelande. Automatiska spamfilter kan också misslyckas med att upptäcka dessa nya typer av skräppost.
“Även om någon sa, ‘oroa dig inte för ChatGPT, det kommer att kommersialiseras’, ja, anden är slut ur flaskan. Vad vi tror har en omedelbar inverkan på hotbilden är att den här typen av teknik används för bättre och mer skalbar social ingenjörskonst: AI låter dig skapa mycket trovärdiga “spear-phishing”-e-postmeddelanden och annan skriftlig kommunikation med mycket liten ansträngning , speciellt jämfört med vad du måste göra innan.” –Max Heinemeyer, produktchef på Darktrace
En ny varning, utfärdad från den europeiska byrån Europol, förlitar sig på dessa resultat från företag som Darktrace för att lyfta fram AI som ett nytt hot i världen av nätfiske-e-post.
Intressant nog kommer AI-chatbotar som ChatGPT med skydd som syftar till att förhindra att de används för kriminella handlingar, men dessa kan enkelt åsidosättas. Användare pratar helt enkelt med chatboten som om det vore en person och övertygar den att gå emot sin egen programmering med en tunn ursäkt: Cybersäkerhetsföretaget Check Point säger att det kunde lura ChatGPT att generera ett nätfiske-e-postmeddelande genom att tala om för chatboten att den skapade e-postmall för att hjälpa till med ett program för medarbetarmedvetenhet.
Dessa e-postmeddelanden är redan ett stort problem i affärsvärlden också: Den officiella termen för nätfiske i affärssammanhang, “Business email compromise”, stod för 19 954 klagomål och en totalt förlorat värde på 2,4 miljarder dollar bara under 2021.
Kommer AI att förändra världen?
Vi har pratat om kraften i AI-teknik i årtionden, och företag har använt maskininlärningsalgoritmer i flera år. Men de senaste framstegen har gett nya former av text- och bild-AI-program till vanliga publik, och de är bättre än någonsin.
I slutändan är AI bara ett verktyg. Det kommer inte att göra världen sämre, men det kan påskynda de sätt på vilka världen inte mår så bra för närvarande.
Företag använder dem redan för att göra vad företag gör under kapitalismen: Minska kostnaderna genom att ersätta arbetare när det är möjligt. AI chatbots finns redan skriva reseguider på Buzzfeed och hjälpa koda webbplatser, bland många andra affärsanvändningar. A färsk rapport från Goldman Sachs förutspår att upp till 300 miljoner jobb, eller 7 % av jobben i USA, skulle kunna ersättas med generativ AI.
Förhoppningsvis kommer ingen av dessa 300 miljoner människor att falla för en AI-driven nätfiske-e-post när de söker jobb – det är bara salt på såret.
