Af Peter Witten og Line Horndal Hjørne, AAU Kommunikation og Public Affairs
Foto: Colourbox

Du har sikkert oplevet at få en sms eller en mail, der vil narre dig til at klikke på et risikabelt link eller åbne en falsk hjemmeside. Lynhurtigt er din mobil eller computer inficeret med ondsindet software, dine koder aflures, og måske franarres du større beløb.

Cyberkriminaliteten er i hastig fremmarch og bliver sværere at opdage. Hackere har for længst taget AI i brug, og de digitale trusler bliver mere og mere udspekulerede.

Nu skal forskningsprojektet AI:DEFENCE fra Aalborg Universitet udvikle nye metoder til at opdage og stoppe avancerede cyberangreb, og projektet skal samtidig gøre AI-teknologien mere sikker.

Viden kombineres

AI:DEFENCE ledes af de to AAU-forskere professor Johannes Bjerva fra Institut for Datalogi og adjunkt Qiongxiu (‘Jane’) Li fra Institut for Elektroniske Systemer.

Johannes Bjerva arbejder med flersproget NLP og sikkerhed i store sprogmodeller, og Qiongxiu Li er specialist i cybersikkerhed, privatlivsbeskyttelse og maskinlæring.

Dermed kombineres viden om cybersikkerhed og NLP, Natural Language Processing.

NPL handler om at forstå og arbejde med menneskesprog, som når vi kommunikerer med en chatbot, ChatGPT, Google translate osv.

Tegn på svindel

Ved at analysere sproget, for eksempel i en e-mail, vil AI:DEFENCE kunne finde tegn på svindel, som vi mennesker eller almindelig software kan have svært ved at opdage. Men med hjælp fra AI skal det blive nemmere at opdage svindlen.

Forskerne bag AI:DEFENCE vil bruge avancerede teknikker som:

• Sproganalyse til at opdage phishing-mails og deepfakes (falske beskeder skabt med AI).
• Forstærkningslæring, hvor AI lærer at forsvare sig selv ved at simulere angreb.
• Træning, hvor man "angriber" AI under udviklingen for at gøre den stærkere.
  Krypteret AI, så beslutninger træffes sikkert og privat.

Malware og deepfake

Her eksempler på digitale trusler, som AI:DEFENCE med hjælp af AI vil fokusere på:

• Polymorf malware - skadelig software, der hele tiden ændrer sig for at undgå at blive opdaget.
• Deepfake phishing - falske beskeder genereret af AI, der prøver at snyde dig.

Ved at analysere sproget i realtid, skal truslerne opdages, inden de når at gøre skade.

Open source

De værktøjer, AI:DEFENCE vil udvikle, skal blandt andet bruges til chatbots, der ikke kan overtage eller manipuleres. Samt kritisk infrastruktur som hospitaler og energinet, hvor det er altafgørende at undgå datalæk.

Systemerne fra AI:DEFENCE bliver tilgængelige som server-software eller API'er, der nemt kan kobles til eksisterende sikkerhedssystemer som opgradering af det digitale forsvar.

Værktøjerne bliver open source, så både små virksomheder og store organisationer verden over kan bruge dem.