Spring til indhold.
Forside

Nyhed

Johannes Bjerva og den skjulte fare ved AI

Lagt online: 11.08.2025

Han er lige fyldt 35 år, men har allerede modtaget flere millionstore forskningsbevillinger. Hans fokus retter sig mod en skjult fare ved AI. Mød professor Johannes Bjerva fra Institut for Datalogi, AAU.

Nyhed

Johannes Bjerva og den skjulte fare ved AI

Lagt online: 11.08.2025

Han er lige fyldt 35 år, men har allerede modtaget flere millionstore forskningsbevillinger. Hans fokus retter sig mod en skjult fare ved AI. Mød professor Johannes Bjerva fra Institut for Datalogi, AAU.

Af Peter Witten, AAU Kommunikation og Public Affairs

Hvordan blev du interesseret i at forske i det, du har specialiseret dig i nu?

"Jeg har været meget interesseret i sprog i hele mit liv og valgte derfor efter gymnasiet at studere japansk i et års tid, inden jeg begyndte at studere lingvistik. Halvvejs igennem studiet fik jeg øjnene op for, at der var et helt forskningsområde, der omhandlede automatisk analyse af sprog - Natural Language Processing (NLP), mere specifikt den gren, der kaldes Computational Linguistics ("Datalingvistik"). Det synes jeg lød som en meget spændende mulighed, selv om forskningen på det område var meget begrænset på det tidspunkt. Med de nye metoder, så som store sprogmodeller (LLM’er), har den forskning virkelig fået fart på. For at illustrere det: Jeg har lige deltaget i vores største konference, og der var over 6.000 deltagere og omkring 3.000 artikler. Det er mere end 10 gange flere, end da jeg selv var ph.d.-studerende for otte år siden," fortæller professor Johannes Bjerva.

Hvordan var din vej fra Norge til Aalborg Universitet - og hvorfor lige AAU?

"Jeg voksede op et stykke ude på landet i Norge og derefter i den ret lille by Hamar. Efter gymnasiet på Hamar Katedralskole havde jeg lyst til at flytte til noget større og valgte at tage til Stockholm. Da jeg selv var bachelor og kandidatstuderende dér, fik jeg set hvor spændende det virkede til at være, hvis man var ph.d.-studerende. Jeg bestemte mig for også at gå den vej. Det førte til en ph.d.-stilling i Groningen i Nederlandene, hvor jeg boede i fire års tid. Det var mere eller mindre tilfældigt at jeg endte i Danmark. Lige efter min ph.d. fik jeg tilbudt en stilling som postdoc på DIKU (Datalogisk Institut, Københavns Universitet), og jeg trivedes godt i København. I 2020 så jeg et meget spændende stillingsopslag som tenure-track adjunkt på AAU i København. Jeg kunne læse mig frem til, at det handlede om at være en central del af at starte en ny uddannelse (Software) og opbygge en helt ny sektion."

Strategisk valg

Johannes Bjerva fortsætter: "Der fandtes ikke NLP-forskning på AAU i 2020, så for mig var det også et strategisk valg, at jeg dermed kunne forsøge at opbygge noget helt nyt - både på uddannelsesfronten og som forskningsgruppe. I dag er det en meget hurtigt voksende gruppe, der bygger på de fine forskningsbevillinger, jeg har fået i de seneste år. I 2021 fik jeg et Semper Ardens: Accelerate fra Carlsbergfondet, hvilket virkelig har været altafgørende for min karriere. På baggrund af det projekt er vi nu etableret som et højkvalitets forskningsmiljø indenfor NLP og har haft betydning både for samfundet og forskningsverdenen. I min optik er det denne første bevilling fra Carlsbergfondet, der har gjort det muligt for mig at finde de gode idéer, der i det sidste halve års tid har ført til mit DFF: Sapere Aude, NNF: Data Science Investigator, og også det AAU-finansierede AI:X lab. Alt i alt sidder vi med ca. 10 ph.d.-studerende indenfor NLP omkring sommeren 2026."

Hvilken betydning har det for din forskning, at den foregår hos AAU?

"Der er en række konkrete fordele for mig i at det lige er på AAU det hele foregår. Blandt andet giver PBL mig og de andre forskere i gruppen en rigtigt tæt kobling til de studerende. Det gør at vi f.eks. kan arbejde med mindre byggeklodser med forskningsrelevans i gruppeprojekter i Software-uddannelsen, og at vi har rigeligt med muligheder til at identificere top-studerende og rekruttere de allerbedste til ph.d.-stillinger. Faktisk er en af de ph.d.-studerende, der starter i vores AI:X lab, en af de studerende fra den allerførste årgang af Software på AAU-KBH. Det vigtigste for mig er nok også den frihed jeg har fået til at gå den vej jeg selv synes giver mest mening. Jeg har virkelig oplevet en stor opbakning til min forskning, karriereudvikling, og til det at oprette en ny gruppe, både fra kolleger, institutledelsen og på fakultetsniveau." 

Tænk hvis alles yndlings-chatbot dagligt forsøger at gøre alle borgere i EU en lille smule mere højreekstreme, uden at almindelige borgere lægger mærke til de retoriske greb.

Johannes Bjerva, professor, Institut for Datalogi

Hvorfor er det så vigtigt at forske i det, du forsker i nu? (TRUST)

Sprogmodeller (LLM’er) og generativ AI er allerede udbredt over hele samfundet, og det vil fortsætte, efterhånden som vi finder relevante use-cases, og modellerne bliver bedre. Mange er dog ikke klar over, at sådanne sprogmodeller kan påvirkes af ondsindede aktører til f.eks. at indføre mere eller mindre subtil bias. TRUST er en essentiel byggesten til at sikre sådanne modeller og gøre det muligt for os at opdage, hvis en sprogmodel er blevet påvirket udefra."

Hvilke perspektiver har din forskning for samfundet? 

"Der er to hovedperspektiver. Det ene er at få kommunikeret ud at problematikken findes. Mange ved nok, at en sprogmodel kan ”hallucinere” eller skrive noget, der ikke passer. Men jeg tror ikke at mange ved, at en sprogmodel kan påvirkes til subtilt at generere indehold, der følger en bestemt politisk agenda. Tænk hvis alles yndlings-chatbot dagligt forsøger at gøre alle borgere i EU en lille smule mere højreekstreme, uden at almindelige borgere lægger mærke til de retoriske greb, den bruger. Det andet er at få teknologien på plads, så modellerne rent faktisk er mere sikre. Hvis vi lykkes med det, vil vi kunne begrænse, hvor tit det sker at en sprogmodel påvirkes udefra."

Hvordan kan din forskning gavne andre mht. forskning?

"TRUST udgør grundforskning indenfor mit felt, så målet er først og fremmest at skabe fremskridt, der kan påvirke, hvordan fremtidig forskning bedrives, og som fremtidig forskning og teknologi kan bygge på. Blandt andet har projektet en hypotese, der bl.a. siger at det at bruge lingvistisk viden kan give os langt mere effektive forsvarsmekanismer. De to ph.d.'er og den post.doc, der skal arbejde på TRUST, får mulighed for at arbejde med noget, der er ved at blive rigtigt hot i NLP som område. De vil være blandt de første, der får en ph.d. og forskningserfaring indenfor emnet. De vil have et unikt og eftertragtet skill-set, når projektet er afsluttet. Meget store, internationale virksomheder interesserer sig mere og mere for dette nye forskningsområde."

Ironman i København

 Lidt mere om dig selv? 

"Jeg er lige fyldt 35 år. Næste år har jeg boet i udlandet i det halve af mit hidtidige liv. For et par år siden bosatte jeg og min hustru os i Farum, og vi er lige blevet forældre til barn nr. tre. Det er ret hektisk med tre små børn på 4, 2, og 0 år, så det kan godt være udfordrende at få arbejde og familieliv til at hænge sammen. Specielt når det at være forsker tit indebærer en hel del rejser, måske især når man arbejder på et universitet med flere campusser. I fritiden har jeg tidligere været ret aktiv med langdistancetræning, primært løb og triatlon, og jeg gennemførte Ironman i København i 2022. Træningen har desværre været lidt på pause siden da, men jeg er ved at finde ud af at få det opprioriteret igen."

Fakta

  • AI:X Labs er AAU-initiativ for at fremme AI-forskning og skabe reel effekt gennem tværfagligt samarbejde. Johannes Bjerva samarbejder med Qiongxiu Li i det nyoprettede lab AI:SECURITY, der vil skabe et mere sikkert digitalt samfund gennem sikker AI og LLM-baseret cybersikkerhed. 
  • DFF: Sapere Aude er er et bevillingsprogram der sigter mod at give excellente, yngre forskere, som har præsteret forskning i toppen inden for deres område, mulighed for at udvikle deres forskningsideer samt udvikle eller styrke deres kompetencer som uafhængige forskningsledere af andre forskere.
  • LLM (Large Language Model) er en avanceret kunstig intelligens-model, der er trænet på store mængder tekst for at kunne generere menneskelignende sprog i forskellige sammenhænge, f.eks. chatbots.
  • NLP (Natural Language Processing) er et område inden for kunstig intelligens, der gør det muligt for computere at fortolke og generere menneskesprog. Det kombinerer maskinlæring med store mængder data og viden fra lingvistik, for at behandle tekst og tale med forståelse for betydning, kontekst og nuancer. NLP bruges i chatbots, oversættelsessystemer, søgemaskiner og værktøjer til analyse af store mængder tekst.
  • NNF: Data Science Investigator er et bevillingsprogram beregnet til fremragende og uafhængige forskere med ambitionen og potentiale til at opnå forskning på det højeste internationale niveau. Bevillingen er en del af NNF’s Research Leader Programme, som har som mål at støtte excellente forskere med de nødvendige ressourcer til at gennemføre banebrydende forskning.
  • PBL (Problem-Based Learning) er en læringsform, hvor studerende arbejder med virkelige problemstillinger i grupper for at udvikle viden og kompetencer gennem selvstændig og samarbejdsbaseret læring.
  • TRUST er er et DFF: Sapere Aude-forskningsprojekt ledet af professor Johannes Bjerva, som skal afsløre skjult manipulation i AI-skabt tekst ved at identificere sproglige mønstre, der afslører såkaldt "forgiftning" af sprogmodeller. Projektet udvikler metoder til at opdage og forhindre sådanne angreb. Hed tidligere AI:Defence.

Kontakt

  • Johannes Bjerva, professor, Institut for Datalogi, tlf.: +45 22 64 11 09, mail: jbjerva@cs.aau.dk
  • Peter Witten, AAU Kommunikation og Public Affairs, tlf.: +45 20 29 48 14, mail: pewi@adm.aau.dk 

Læs også