Hoe cybercriminelen AI-tools zoals ChatGPT gebruiken

De techwereld op z’n kop 

Zelden heeft een nieuwe technologie de techwereld zó op z’n kop gezet als ChatGPT. De generatieve AI-tool van OpenAI gebruikt een zogeheten large language model (LLM), dat is getraind op zo’n beetje het hele internet. Dankzij de talloze toepassingen – waar ChatGPT over het algemeen vrij goed in is – had de tool binnen een half jaar na z’n lancering in november 2022 al meer dan 100 miljoen gebruikers.  

Schaduwzijde: extra cyberdreigingen 

Eén van de schaduwzijden: meteen na de lancering waarschuwden cybersecurity-experts dat ChatGPT ook een handige tool is voor cybercriminelen. Er zijn voldoende aanwijzingen dat hackers LLM’s en andere verwante AI-tools gebruiken voor het uitvoeren van cyberaanvallen.  

Een bekend cybersecuritybedrijf signaleerde in de eerste twee maanden na lancering al vijf verschillende aanvallen die terug te voeren waren op ChatGPT. Volgens dit bedrijf wordt ChatGPT vooral gebruikt door cybercriminelen zonder programmeerervaring. 

eBook: 15 Security Basics voor het MKB

Voorkom dat je bedrijf slachtoffer wordt van deze 15 meest gebruikte trucs door cybercriminelen.

Download

Hackers gebruiken LLM AI-tools onder meer op de volgende vier manieren: 

1. Phishing en spear phising

Bij phishing wordt er een algemeen bericht, bijvoorbeeld via e-mail of social media, naar een hoop mensen gestuurd. Spear phishing is daarop een variant: er worden unieke, op maat gemaakte berichten verzonden. De (spear) phishers sturen bijlages met malware mee, in de hoop dat die geïnstalleerd wordt. Of ze linken door naar nagemaakte sites van betrouwbare organisaties om zo gevoelige informatie zoals inloggegevens buit te maken.  

ChatGPT kan overtuigende en menselijk ogende berichten maken. Phishers kunnen daarnaast veel sneller unieke teksten genereren, wat vooral voor spear phishing handig is. Tot slot wordt het voor bijvoorbeeld hackers die geen Engels spreken makkelijker om overtuigende (spear) phishing-berichten te creëren. 

2. Social engineering zoals CEO-fraude

Bij social engineering worden mensen gemanipuleerd om gegevens te verstrekken of bepaalde acties te verrichten. Een goed voorbeeld is ​​CEO-fraude, waarbij de oplichter zich voordoet als bijvoorbeeld een leidinggevende van het bedrijf. Momenteel worden slachtoffers overwegend via e-mail benaderd.  

Stel: een medewerker wordt niet gemaild, maar gebéld door een leidinggevende in verband met een gevoelige transactie: er moet snel geld worden overgemaakt. In feite is er echter een oplichter aan het werk. Die maakt gebruik van onder meer technieken als een LLM, dat is getraind en finetuned voor CEO-fraude, aan het LLM gekoppelde spraakherkenningstechnologie en een tool waarmee iemands stem kan worden gekloond op basis van een paar minuten audio. Gevolg? Voor de medewerker klinkt het of de CEO écht belt. 

eBook: Gehackt!

Wat moet je doen bij hacks, phishing, ransomware of andere cybercrime? Wees voorbereid met ons eBook.

Download

Het lijkt voor veel mensen wellicht nog toekomstmuziek, maar de Amerikaanse telecomtoezichthouder Federal Trade Commission (FTC) heeft onlangs een waarschuwing gepubliceerd omdat dit soort vormen van AI-fraude nu in rap tempo toenemen.  

Video is natuurlijk nog overtuigender. Misschien heeft een medewerker in de toekomst wel een Teams-meeting met ‘de CEO’? Er zijn namelijk al technologieën beschikbaar die van één foto bewegend beeld maken én waarmee je de lippen op natuurlijke wijze kunt laten meebewegen met de gesproken taal. 

3. Malware maken

ChatGPT is verrassend goed in het schrijven en verbeteren van programmeercode. Cybercriminelen kunnen dit misbruiken door malware te ontwikkelen, ook als ze geen programmeerkennis hebben. Er zijn daadwerkelijk al voorbeelden van bekend. Ergens op het wereldwijde web wordt zelfs omschreven hoe je met ChatGPT een volledige marktplaats voor het darkweb kunt maken, inclusief de mogelijkheid om te betalen met cryptocurrencies.  

4. Kwetsbaarheden vinden

LLM’s blijken verrassend goed te zijn in het opsporen van kwetsbaarheden in de software. Soms stoppen developers bewust een kwetsbaarheid in de code, laten ze het testen en concludeert het LLM (naar later blijkt: terecht) dat er ook andere kwetsbaarheden in zitten die de developer zelf nog niet had gezien. Hackers kunnen LLM’s natuurlijk ook inzetten om kwetsbaarheden te vinden. 

Waakzaamheid is geboden 

Hoe je het ook wendt of keert: LLM’s geven hackers extra mogelijkheden. Het is daarom belangrijk om je zogeheten security-basishygiëne op orde te hebben. Daarbij horen zaken als regelmatig back-uppen, een goed updatebeleid, netwerksegmentatie, end-to-end encryptie en een incidentresponsplan.  

Een paar cybersecuritymaatregelen zijn éxtra belangrijk geworden door de opkomst van LLM’s:

• Anti-virussoftware, waarbij geldt: modernere systemen zoals endpoint detection & response (EDR)-oplossingen scannen niet alleen op malware, maar detecteren ook verdacht gedrag en afwijkende activiteiten van het systeem.

• Security-awarenesstrainingen: medewerkers leren tijdens zo’n training onder meer om cyberdreigingen zoals phishing te herkennen. KPN EEN MKB klanten kunnen hun personeel trainen op security-awareness via Censornet.

• Tweefactorauthenticatie (2FA): inloggen met een tweede factor is een bijzonder effectieve maatregel tegen phishing.

• Zet Extra Veilig Internet aan als je KPN EEN MKB klant bent. Met dit DNS, web- en malware filter worden malafide websites automatisch geblokkeerd.

• Zorg voor goede back-ups van al je data. Ook in de cloud. Bijvoorbeeld met Acronis Cyber Protect.