Hvorfor og hvordan vil myndighederne regulere kunstig intelligens?

En teknologi med store muligheder og voksende magt

Kunstig intelligens bruges allerede til at vurdere jobansøgere, analysere sygdomme, behandle personoplysninger og støtte militære operationer. EU har vedtaget omfattende regler, men reguleringen handler om mere end teknologiens sikkerhed. Den handler også om forskningens frihed, de store virksomheders magt og muligheden for at kortlægge menneskers politiske og religiøse overbevisning.

Kort fortalt: EU regulerer kunstig intelligens efter, hvor stor risiko teknologien indebærer for menneskers sikkerhed og rettigheder. Visse anvendelser er forbudt, mens andre er underlagt særlige krav. Samtidig kan AI give store videnskabelige fremskridt, koncentrere økonomisk magt og skabe nye muligheder for overvågning. Det afgørende spørgsmål er, hvordan mennesker bevarer kontrollen med de systemer, der påvirker deres liv.

Hvad er det egentlig, myndighederne vil regulere?

Forestil dig, at du søger et arbejde, men bliver afvist, fordi et computersystem har vurderet, at du ikke er egnet. Ingen har nødvendigvis læst din ansøgning, og du får ingen forståelig forklaring på afslaget. Eller at du søger et banklån, men bliver afvist på grundlag af oplysninger, som et AI-system har sammenstillet og fortolket. Det kan også være et hospital, hvor kunstig intelligens hjælper med at vurdere røntgenbilleder, eller en offentlig myndighed, der anvender automatiske systemer til at undersøge borgernes forhold. I alle disse situationer kan teknologien være en hjælp, men den kan også begå fejl, videreføre fordomme eller føre til afgørelser med alvorlige konsekvenser for det enkelte menneske.

Det er især sådanne anvendelser, myndighederne ønsker at regulere. Man vil sikre, at mennesker ikke bliver udsat for urimelig forskelsbehandling, at personlige oplysninger beskyttes, og at nogen kan stilles til ansvar for de systemer, der anvendes. Samtidig ønsker man at forhindre bestemte former for overvågning og manipulation. Kunstig intelligens kan bruges til at analysere menneskers adfærd, genkende ansigter eller fremstille overbevisende falske billeder og videoer. Det kan være nyttigt i nogle sammenhænge, men også misbruges til at kontrollere, vildlede eller skade mennesker.

Derimod er det ikke hensigten at forbyde almindelige mennesker at bruge ChatGPT eller lignende tjenester til at skrive breve, oversætte tekster, undersøge spørgsmål eller få hjælp til deres arbejde. Lovgivningen retter sig især mod dem, der udvikler og anvender AI-systemer, og kravene afhænger af, hvilken risiko systemerne indebærer. Det afgørende er ikke alene, hvor avanceret teknologien er, men hvad den bruges til, og hvilke konsekvenser anvendelsen kan få.

Sådan fungerer EU’s regler i praksis

EU’s AI-forordning trådte i kraft den 1. august 2024, og dens bestemmelser indføres gradvist. Grundtanken er, at reglerne skal være strengere, jo større risiko et AI-system kan udgøre for menneskers sikkerhed og grundlæggende rettigheder. Lovgivningen skelner derfor mellem anvendelser, der er forbudt, systemer med høj risiko, anvendelser med særlige krav om gennemsigtighed og almindelige systemer, som ikke er underlagt de samme omfattende forpligtelser.

Siden februar 2025 har bestemte anvendelser været forbudt. Det gælder blandt andet visse former for skadelig manipulation, udnyttelse af menneskers sårbarhed, social bedømmelse og biometrisk overvågning. Et system må eksempelvis ikke bruges til at give mennesker en social karakter, som efterfølgende fører til urimelig eller uvedkommende forskelsbehandling. Politiets anvendelse af ansigtsgenkendelse i det offentlige rum er også underlagt strenge begrænsninger, selv om der findes nærmere afgrænsede undtagelser. Fra december 2026 gælder yderligere forbud mod bestemte AI-systemer, der fremstiller seksuelt krænkende intimt materiale uden samtykke eller materiale med seksuelle overgreb mod børn.

Andre anvendelser er ikke forbudt, men betegnes som højrisikosystemer. Det gælder blandt andet bestemte AI-systemer, der anvendes til ansættelser, kreditvurdering, uddannelse og sikkerhedskritiske funktioner i regulerede produkter. Her stilles der krav til risikostyring, dokumentation, datakvalitet, menneskeligt tilsyn og systemernes pålidelighed. Virksomheder og myndigheder skal kunne dokumentere, at de har undersøgt risiciene og truffet foranstaltninger for at begrænse dem.

Gennemførelsen af lovgivningen er imidlertid blevet udskudt på flere områder. I juli 2026 ændrede EU tidsplanen, så centrale krav til højrisikosystemer inden for blandt andet beskæftigelse, uddannelse og kreditvurdering først får virkning den 2. december 2027. For bestemte AI-systemer, der indgår i produkter omfattet af EU’s særlige produktlovgivning, gælder fristen den 2. august 2028. Udskydelsen skal give virksomheder og myndigheder bedre tid til at forberede sig og få de nødvendige tekniske standarder på plads. De vigtigste datoer er samlet i faktaboksen nederst i artiklen.

Der findes desuden regler om gennemsigtighed, som i vidt omfang har været gældende siden den 2. august 2026. I bestemte situationer skal mennesker oplyses om, at de kommunikerer med et AI-system, og der gælder krav om mærkning eller oplysning om visse former for kunstigt fremstillet og manipuleret indhold. Det omfatter blandt andet realistiske falske billeder og videoer samt visse AI-genererede tekster, der offentliggøres for at informere om forhold af offentlig interesse. Der findes dog undtagelser, blandt andet for tekster, der har gennemgået menneskelig redaktionel kontrol, og hvor en person eller organisation har det redaktionelle ansvar. Ikke alt AI-genereret indhold skal derfor mærkes på samme måde.

Lovgivningen indeholder også særlige krav til udbydere af AI-modeller, der kan anvendes til mange forskellige formål. Det gælder blandt andet dokumentation, oplysninger til virksomheder, der bygger videre på modellerne, og forpligtelser vedrørende ophavsret. De mest avancerede modeller kan være underlagt yderligere krav, hvis de vurderes at indebære systemiske risici. Reglerne håndhæves gennem nationale tilsynsmyndigheder og EU’s egne kontrolordninger, herunder AI-kontoret under Europa-Kommissionen. Alvorlige overtrædelser kan føre til betydelige bøder.

En teknologi, der allerede har forandret hverdagen

For blot få år siden var kunstig intelligens for de fleste mennesker noget, der hørte fremtiden til. Vi kendte begrebet fra science fiction-film og forestillinger om robotter og computere, der en dag ville kunne tænke som mennesker. I dag er teknologien blevet tilgængelig for næsten enhver med en computer eller mobiltelefon. Vi kan få oversat fremmede sprog på få sekunder, få hjælp til at forstå komplicerede tekster, analysere oplysninger og skabe billeder, musik og film. Arbejdsopgaver, som tidligere krævede timer, kan nu løses på minutter, og viden, der før var vanskelig at få adgang til, er blevet lettere at finde og bearbejde.

Det er en udvikling med betydelige muligheder. Kunstig intelligens kan hjælpe mennesker med handicap, støtte undervisning, forbedre adgangen til information og give mindre virksomheder og organisationer redskaber, som tidligere krævede store økonomiske ressourcer. For mennesker, der har vanskeligt ved at læse, skrive eller forstå komplicerede oplysninger, kan teknologien give større selvstændighed. Samtidig kan den overtage rutineopgaver og frigøre tid til arbejde, hvor menneskelig kontakt og dømmekraft har større betydning.

Men der er forskel på at bruge et redskab og at overlade beslutninger til det. En computer, der hjælper med at formulere et brev, er noget andet end et system, der automatisk vurderer tusindvis af menneskers muligheder for at få arbejde, eller som indgår i et militært våbensystem. Teknologien kan være beslægtet, men konsekvenserne er vidt forskellige.

Forskningen skal have frihed til at udvikle sig

Inden for den videnskabelige forskning har kunstig intelligens allerede fået stor betydning. Et af de mest kendte eksempler er arbejdet med proteiners tredimensionelle strukturer, hvor AI har gjort det muligt at foretage forudsigelser i et omfang, som tidligere var utænkeligt. Det har åbnet nye muligheder inden for biologien og forskningen i sygdomme. Kunstig intelligens anvendes også inden for lægemiddeludvikling, kræftforskning, klimaforskning, astronomi og materialevidenskab til at undersøge store datamængder og finde sammenhænge, som ellers ville være vanskelige at opdage. Der er tale om forskning, som på længere sigt kan få betydning for millioner af menneskers liv.

Her opstår et problem for lovgiverne. Hvis kunstig intelligens kan hjælpe med at udvikle nye behandlinger, forbedre energiforsyningen eller give større forståelse af naturens processer, har samfundet en stærk interesse i, at forskningen kan fortsætte. Omfattende krav om dokumentation, kontrol og sikkerhed kan imidlertid blive en betydelig byrde for universiteter og mindre forskningsinstitutioner. EU’s AI-forordning indeholder derfor særlige undtagelser for systemer og modeller, der udelukkende udvikles og anvendes til videnskabelig forskning. Det betyder ikke, at forskere står uden ansvar eller uden for anden lovgivning, men at man ønsker at undgå unødvendige hindringer for videnskabeligt arbejde.

Forskningens frihed kan dog ikke være ubegrænset. Kunstig intelligens kan også anvendes til at undersøge biologiske og kemiske processer, som både har fredelige og skadelige anvendelser. Viden, der kan bidrage til udviklingen af medicin, kan i visse tilfælde misbruges til at udvikle farlige stoffer eller understøtte biologiske og kemiske våben. Det kaldes forskning med dobbelt anvendelse, fordi den samme viden kan tjene både civile og militære formål. Problemet er ikke nyt, men kunstig intelligens kan gøre visse undersøgelser hurtigere og lettere at gennemføre. Derfor må forskningen ledsages af etiske vurderinger og sikkerhedsforanstaltninger, som står i forhold til risiciene.

De mest avancerede AI-systemer kræver desuden betydelig computerkraft, specialiserede chips og adgang til omfattende datamateriale. Universiteter og offentlige forskningsinstitutioner kan derfor blive afhængige af private virksomheder, som stiller disse ressourcer til rådighed. Hvis virksomhederne får afgørende indflydelse på, hvilke projekter der kan gennemføres, og hvilke resultater der offentliggøres, kan det påvirke den frie forskning. Vigtig videnskabelig viden bør ikke være forbeholdt nogle få økonomisk stærke aktører.

De store teknologivirksomheders økonomiske magt

Udviklingen af kunstig intelligens er i høj grad koncentreret hos nogle af verdens største teknologivirksomheder. Microsoft, Google, Amazon, Meta og OpenAI spiller centrale roller i udviklingen af avancerede modeller, digitale tjenester og den tekniske infrastruktur, som systemerne bygger på. Der investeres enorme beløb i datacentre, computerchips, energiforsyning og nye produkter. Det skaber en industri, hvor adgang til kapital og tekniske ressourcer får afgørende betydning for, hvem der kan deltage.

Kunstig intelligens kan blive en grundlæggende del af næsten alle samfundets funktioner. Banker, hospitaler, skoler, offentlige myndigheder, medier og virksomheder kan blive afhængige af systemer, som udvikles og kontrolleres af et begrænset antal leverandører. Dermed kan økonomisk magt også blive til indflydelse på, hvordan vi arbejder, kommunikerer, lærer og træffer beslutninger.

Denne magtkoncentration kan ikke håndteres gennem AI-forordningen alene. EU’s konkurrenceregler, databeskyttelseslovgivning og regler om digitale markeder spiller også en rolle. Myndighederne kan blandt andet undersøge konkurrencebegrænsende adfærd og gribe ind over for visse former for misbrug af en dominerende markedsstilling. AI-forordningen beskæftiger sig derimod først og fremmest med sikkerhed, grundlæggende rettigheder og bestemte forpligtelser for dem, der udvikler og anvender AI.

Også selve reguleringen kan påvirke konkurrencen. Store virksomheder har ressourcer til at ansætte jurister, gennemføre sikkerhedstest og dokumentere deres systemer. Mindre virksomheder kan have vanskeligere ved at opfylde de samme krav. Lovgivning, der skal beskytte samfundet, kan dermed utilsigtet gøre det sværere for nye konkurrenter at etablere sig.

Det militærindustrielle kompleks og udviklingen af autonome våben

Den militære anvendelse af kunstig intelligens rejser nogle af de alvorligste spørgsmål. Moderne forsvar bygger allerede på omfattende elektroniske systemer, satellitter, droner, sensorer og avanceret databehandling. Kunstig intelligens bruges til at analysere efterretninger, identificere mulige mål, planlægge operationer og støtte militære beslutninger. Den kan behandle oplysninger med en hastighed, som mennesker ikke kan følge, og dermed give militære styrker betydelige fordele. Men netop hastigheden kan også blive et problem, hvis mennesker mister muligheden for at kontrollere beslutningerne.

Bag udviklingen står et tæt samspil mellem stater, militære myndigheder, forsvarsvirksomheder, universiteter og teknologiske forskningsmiljøer. Det er dette samspil, der ofte betegnes som det militærindustrielle kompleks. Kunstig intelligens er blevet en del af konkurrencen mellem verdens militære stormagter, og ingen ønsker at stå tilbage, hvis en modstander udvikler mere avancerede systemer. Resultatet kan blive et våbenkapløb, hvor hensynet til militær overlegenhed får større betydning end overvejelserne om sikkerhed og menneskelige konsekvenser.

Det mest alvorlige spørgsmål handler om autonome våbensystemer, som efter aktivering kan udvælge og angribe mål uden en særskilt menneskelig beslutning om hvert enkelt angreb. Her opstår et etisk problem, som ikke kan løses alene gennem bedre software. Skal en maskine kunne udvælge et menneske som mål for dødelig magtanvendelse? Hvem bærer ansvaret, hvis systemet tager fejl? Og hvordan sikrer man, at krigens regler om beskyttelse af civile og proportionalitet bliver overholdt?

EU’s AI-forordning omfatter som udgangspunkt ikke systemer, der udelukkende anvendes til militære formål, forsvar eller national sikkerhed. Det betyder ikke, at militæret står uden juridiske forpligtelser. Krigens folkeret og andre nationale og internationale regler gælder fortsat. Men AI-forordningen er ikke en samlet regulering af militær kunstig intelligens. Spørgsmålet om autonome våben må derfor også behandles gennem internationale aftaler og de regler, der gælder for væbnede konflikter.

Den katolske Kirke har gentagne gange advaret mod udviklingen af autonome dødelige våbensystemer. Pave Frans opfordrede til, at mennesker fortsat har kontrollen over beslutninger om anvendelse af dødelig magt. Det følger af Kirkens grundlæggende syn på menneskelivets værdighed. Et menneskes liv må ikke reduceres til resultatet af en computerberegning, uanset hvor avanceret teknologien bliver.

Sandheden, overvågningen og det private liv

Kunstig intelligens kan fremstille billeder, stemmer og videoer med en realisme, som gør det vanskeligt at afgøre, om materialet er ægte. En politiker kan tilsyneladende holde en tale, som aldrig har fundet sted. En person kan optræde i en kompromitterende video uden nogensinde at have deltaget i den situation, der vises. Falske oplysninger kan fremstilles og spredes i et omfang, som tidligere krævede betydelige ressourcer. Hvis ethvert billede kan betvivles, og enhver optagelse kan afvises som kunstig, risikerer vi ikke alene at tro på løgne. Vi risikerer også at miste tilliden til ægte dokumentation.

Samtidig kan kunstig intelligens analysere enorme mængder personlige oplysninger om vores helbred, økonomi, uddannelse, interesser, vaner og relationer. Samlet kan oplysningerne give et detaljeret billede af vores liv og bruges til at forudsige, hvordan vi sandsynligvis vil handle. Det kan være nyttigt, når en læge forsøger at opdage en sygdom, men den samme teknologi kan anvendes til overvågning, forskelsbehandling og påvirkning af menneskers valg.

Derfor er reguleringen tæt forbundet med retten til privatliv. EU’s databeskyttelsesregler gælder fortsat ved siden af AI-forordningen og stiller krav til, hvordan personoplysninger må indsamles, behandles og anvendes. AI-forordningen tilføjer særlige krav og begrænsninger for bestemte teknologiske anvendelser. Tilsammen skal reglerne bidrage til, at mennesker ikke mister kontrollen over deres oplysninger eller bliver udsat for beslutninger, som de ikke har mulighed for at gennemskue.

Kunstig intelligens kan kortlægge vores politiske og religiøse overbevisning

Kunstig intelligens gør det muligt at danne et detaljeret billede af menneskers politiske og religiøse overbevisning, uden at de selv har oplyst noget om den. Ved at sammenholde tilgængelige oplysninger om besøgte hjemmesider, læsevaner, sociale medier, søgninger og geografiske bevægelsesmønstre kan et AI-system forsøge at beregne sandsynligheden for, at en person tilhører et bestemt religiøst miljø eller sympatiserer med en politisk bevægelse. En person, der regelmæssigt læser katolske medier, følger kirkelige begivenheder og besøger religiøse arrangementer, kan eksempelvis blive kategoriseret som sandsynligvis katolik. Tilsvarende kan læsevaner, deltagelse i debatter og reaktioner på politiske opslag bruges til at udlede en persons mulige politiske sympatier. Sådanne vurderinger kan være præcise, men de kan også være forkerte. Den, der undersøger en bestemt religion eller politisk bevægelse, behøver hverken at tilhøre eller sympatisere med den.

Det alvorlige er, at oplysningerne kan anvendes, uden at personen er klar over, at profilen eksisterer. I kommerciel sammenhæng kan sådanne profiler bruges til at målrette budskaber, mens den i hænderne på en stat eller en efterretningstjeneste kan anvendes til at identificere og overvåge bestemte befolkningsgrupper. I lande, hvor religionsfriheden og den politiske opposition er under pres, kan sådanne systemer blive et effektivt redskab til kontrol. Men problemstillingen vedrører også demokratiske samfund, hvor mennesker har ret til at danne deres egne holdninger og udøve deres religion uden at blive registreret og kategoriseret på grundlag af formodninger om deres overbevisning.

EU’s databeskyttelsesregler giver oplysninger om politiske og religiøse overbevisninger en særlig beskyttelse. Det gælder også oplysninger, der udledes gennem analyse og profilering, når de afslører sådanne forhold. Behandling af disse oplysninger er som udgangspunkt forbudt, medmindre en særlig undtagelse i lovgivningen finder anvendelse. EU’s regler for digitale tjenester forbyder desuden onlineplatforme at vise annoncer baseret på profilering med sådanne følsomme personoplysninger. AI-forordningen indeholder særskilte forbud mod bestemte former for biometrisk kategorisering, hvor menneskers følsomme egenskaber udledes af biometriske oplysninger.

Det er værd at bemærke, at teknologien ikke behøver at kende sandheden om et menneske for at få indflydelse på dets liv. En beregnet sandsynlighed kan være tilstrækkelig til, at personen placeres i en bestemt kategori. Dermed bliver det muligt at behandle mennesker på grundlag af overbevisninger, de aldrig selv har givet udtryk for, og som de ikke nødvendigvis har. Retten til privatliv omfatter derfor ikke alene beskyttelsen af de oplysninger, vi selv afgiver, men også beskyttelsen mod, at andre uden lovligt grundlag forsøger at udlede vores inderste holdninger.

Menneskets værdighed som etisk udgangspunkt

Den katolske Kirkes sociallære giver et vigtigt bidrag til diskussionen om kunstig intelligens. Menneskets værdighed afhænger ikke af dets evner, produktivitet, økonomiske betydning eller nytteværdi. Den er grundlæggende og kan ikke tildeles eller fratages af en stat, en virksomhed eller en teknologisk vurdering. I den kristne forståelse hænger denne værdighed sammen med, at mennesket er skabt i Guds billede. Det gælder det stærke og det svage menneske, det raske og det syge, det unge og det gamle.

Det betyder ikke, at Kirken afviser teknologiske fremskridt. Forskning og teknologisk udvikling kan være udtryk for menneskets evne til at forstå og tage ansvar for den verden, vi lever i. Men teknologien må vurderes efter, hvad den betyder for mennesker og for det fælles bedste. At noget kan lade sig gøre, er ikke i sig selv en tilstrækkelig begrundelse for at gøre det.

I januar 2025 offentliggjorde Vatikanet dokumentet Antiqua et Nova om forholdet mellem kunstig og menneskelig intelligens. Her understreges det, at menneskelig intelligens ikke blot handler om at behandle information. Den er knyttet til hele menneskets liv, dets erfaringer, relationer, samvittighed og moralske dømmekraft. Kunstig intelligens kan efterligne bestemte resultater af menneskelig tænkning, men det gør den ikke til et menneske. En computer kan analysere en patients sygdomshistorie, men den kan ikke bære det moralske ansvar for de beslutninger, der træffes om patientens behandling. Den kan formulere trøstende ord, men den oplever ikke medfølelse. Den kan forklare religiøse tekster og teologiske spørgsmål, men den har ikke selv tro eller et personligt forhold til Gud.

Dette menneskesyn er ikke kun relevant for troende. Det peger på et spørgsmål, som alle samfund må tage stilling til: Hvilke beslutninger ønsker vi fortsat, at mennesker skal træffe, også når en computer kan gøre det hurtigere? Der findes forhold i menneskelivet, hvor effektivitet ikke er det afgørende. Omsorg, retfærdighed, ansvar og respekt kan ikke uden videre omsættes til tal og beregninger.

Reguleringens grænser

Lovgivning kan ikke løse alle de problemer, som kunstig intelligens rejser. Teknologien udvikler sig hurtigt, mens love ofte tager år at udarbejde og gennemføre. Regler, som er skrevet med udgangspunkt i én generation af AI-systemer, kan vise sig utilstrækkelige, når nye systemer kommer til. Samtidig er udviklingen international. Europa kan stille krav til AI-systemer på det europæiske marked, men kan ikke alene bestemme, hvordan teknologien udvikles i USA, Kina eller andre dele af verden.

Der er også forskel på, hvad myndighederne kan forbyde, og hvad de kan kontrollere i praksis. Et AI-system kan være udviklet i ét land, drives fra et andet og anvendes af mennesker over hele verden. Det kan være vanskeligt at fastslå, hvem der har ansvaret for en bestemt anvendelse, og hvordan reglerne skal håndhæves på tværs af landegrænser. Samtidig kan teknologien indgå som en del af større systemer, hvor ansvaret er fordelt mellem flere virksomheder og institutioner.

Reglerne må derfor stå i forhold til den risiko, som anvendelsen indebærer. Et almindeligt skriveværktøj bør ikke behandles efter samme målestok som et system, der bruges til at vurdere patienter, overvåge borgere eller udvælge militære mål. Men selv et system, der opfylder alle formelle krav, kan anvendes på måder, som svækker menneskelig selvstændighed eller skaber urimelig afhængighed. Juridisk lovlighed og etisk forsvarlighed er ikke altid det samme.

Magten over teknologien skal forblive hos mennesket

Mennesket har altid udviklet redskaber, som har ændret dets muligheder. Bogtrykkerkunsten, elektriciteten, bilen, computeren og internettet har hver på deres måde forandret samfundet. Kunstig intelligens føjer sig til denne historie, men med en særlig egenskab: Den kan ikke alene udføre opgaver for os. Den kan også påvirke, hvad vi ved, hvilke muligheder vi får, og hvilke beslutninger der bliver truffet om vores liv.

Debatten om regulering handler derfor også om, hvordan magten skal fordeles mellem borgere, stater, virksomheder og institutioner. De største teknologivirksomheder kontrollerer allerede en væsentlig del af den tekniske infrastruktur, mens offentlige myndigheder og private virksomheder i stigende omfang anvender AI til at behandle oplysninger og understøtte beslutninger. Borgerne skal kunne forstå, hvordan disse systemer påvirker deres muligheder, og have adgang til at anfægte afgørelser, der griber ind i deres liv.

EU kan vedtage regler for kunstig intelligens, men lovgivningen kan ikke alene afgøre, hvor stor indflydelse teknologien skal have på menneskers liv. Det spørgsmål bliver også afgjort, hver gang en myndighed, en virksomhed eller en institution vælger at overlade en beslutning til et computersystem. Reguleringens egentlige prøve bliver derfor ikke kun, om reglerne overholdes, men om mennesker fortsat har mulighed for at forstå og anfægte de beslutninger, der træffes om dem.

-karn