Sådan kan kunstig intelligens blive misbrugt i de forkerte hænder

Er kunstig intelligens farlig? Det spørgsmål har flere forskere, politikere og borgere spurgt om gennem flere år.

Det korte svar er, at den kan være farlig.

Organisationen World Economic Forum har i sin seneste rapport om globale risici peget på, at kunstig intelligens (AI) er en af de største trusler mod demokratiet.

På kort sigt er det især AI-genereret misinformation, som skaber bekymring.

I USA har præsident Joe Bidens administration meldt ud, at den er klar til at øge sine bestræbelser på beskytte amerikansk udviklet AI mod Kina og Rusland.

Bidens administration vil blandt andet indføre eksportkontrol af AI-modeller, skriver Reuters.

USA's regering er bekymret for, at modstandere af USA kan misbruge AI til at udføre aggressive cyberangreb eller udvikle biologiske våben.

AI bruges for at få en computer eller computerstyret robot til at tænke og handle som et menneske.

Det sker ved hjælp af modeller, der bruger store mængder af tekst og billeder til at sammenfatte information og generere indhold.

Med maskinlæring kan computere endda selv genkende mønstre og lære nye ting.

Læs her, hvordan kunstig intelligens kan blive misbrugt i de forkerte hænder.

* Deepfakes og misinformation.

Deepfake bruges til at beskrive et manipuleret billede, en falsk video eller lydoptagelse, der er skabt ved hjælp af AI.

De dukker op med jævne mellemrum på de sociale medier - typisk for at sprede misinformation.

USA's tidligere præsident og republikanernes præsidentkandidat, Donald Trump, har flere gange været offer for deepfakes.

For et par måneder siden begyndte der at cirkulere falske billeder af Trump i selskab med sorte vælgere.

De var blevet skabt af Trump-tilhængere for at påvirke det kommende præsidentvalg, skrev det britiske medie BBC dengang.

Også den danske statsminister, Mette Frederiksen, er blevet misbrugt gentagne gange i deepfake-videoer.

En af de seneste viser Mette Frederiksen på et pressemøde, hvor hun siger, at pinsen, påsken og julen vil blive afskaffet.

Både videoen og budskabet i den er blevet forfalsket af Dansk Folkeparti. Det fremgår af et mærke i videoens øverste højre hjørne, at den er AI-genereret.

* Cybervåben.

Cyberaktører vil sandsynligvis bruge AI til at udvikle nye værktøjer til at muliggøre mere effektive cyberangreb.

Sådan lyder det i den seneste trusselsvurdering fra USA's ministerium for indenlandsk sikkerhed.

Angrebene kan blive rettet mod kritisk infrastruktur såsom elnettet, jernbaner eller rørledninger, der bruges til at transportere væsker eller gas.

* Biologiske våben.

Den amerikanske efterretningstjeneste og forskere er i stigende grad bekymrede over de risici, der er forbundet med, at aktører med ond hensigt får adgang til avanceret AI.

Forskere hos blandt andet den amerikanske tænketank Rand Corporation har erfaret, at avancerede AI-modeller kan give oplysninger, der kan hjælpe med at udvikle biologiske våben.

Det skriver Reuters.

Rands forskning viste, at såkaldte store sprogmodeller, der bruges i AI, kunne hjælpe med at planlægge og udføre et biologisk angreb.

/ritzau/

Efter manipulerede videoer: Folketingsformand ønsker aftale