EU’s AI Act: Hvad betyder det for undervisere i Danmark?

EU’s AI Act er nu trådt i kraft som verdens første omfattende lovgivning, der regulerer udvikling og brug af kunstig intelligens. Mange vil måske tænke, at dette kun handler om store teknologivirksomheder og avancerede algoritmer. Men som underviser på en videregående uddannelse bliver man også direkte berørt både som bruger af AI og som den, der skal klæde de studerende på til at forstå og anvende teknologien ansvarligt.

• Briefing
• Vil du have det som Podcast

I dette indlæg vil jeg dele de vigtigste pointer, som jeg mener, vi i uddannelsessektoren bør være særligt opmærksomme på.

Risikobaseret tilgang – hvad betyder det i praksis?

AI Act inddeler AI-systemer i fire kategorier:

• Forbudte systemer, fx systemer der manipulerer adfærd på skadelig vis eller overvåger følelser i undervisningssammenhæng.
• Højrisikosystemer, som fx systemer til automatiseret bedømmelse, adgangskontrol eller rekruttering af studerende. Disse kræver dokumenteret risikovurdering, gennemsigtighed og menneskelig kontrol.
• Begrænset risiko, typisk AI-assistenter, chatbots eller tekstgenerering, der skal ledsages af tydelig information om, at det er AI.
• Minimal risiko, fx stavekontrol eller spamfiltre, som ikke reguleres yderligere.

Som underviser kan du sagtens komme i berøring med både lav- og højrisikosystemer. Hvis din skole fx anvender AI-baseret software til at sortere ansøgninger eller analysere studerendes adfærd, vil det sandsynligvis falde under højrisiko-kategorien. Det betyder, at institutionen skal kunne dokumentere både datakvalitet, sikkerhed og ikke-diskriminerende funktion.

Nye krav til kompetencer og undervisning

Noget, jeg ser som en særlig vigtig nyskabelse, er kravet om AI-færdigheder (artikel 4). Alle organisationer, der bruger AI, også uddannelsesinstitutioner, har pligt til at:

• Sikre, at personalet er uddannet i ansvarlig brug af AI.
• Undervise i, hvordan AI fungerer, og hvilke risici der er forbundet med anvendelsen.
• Opdatere medarbejdernes kompetencer løbende, fordi teknologien udvikler sig konstant.

Det er i praksis en forpligtelse til at opbygge et grundlæggende AI-beredskab på alle niveauer. For eksempel skal undervisere i fag som pædagogik, jura, datalogi eller forvaltning kunne redegøre for, hvordan AI påvirker beslutningstagning, og hvordan man håndterer bias og datasikkerhed.

Hvordan påvirker det selve undervisningen i AI?

Mange af os har allerede eksperimenteret med at inddrage AI i undervisningen, fx ved at lade studerende arbejde med ChatGPT, billedgenerering eller automatiseret feedback. AI Act ændrer ikke, at disse værktøjer er lovlige, men stiller krav om gennemsigtighed.

Eksempler:

• Hvis du bruger en chatbot i undervisningen, skal du tydeligt informere de studerende om, at det er en maskine.
• Hvis du anvender AI til at generere materiale (tekst, billeder), skal det mærkes som AI-genereret indhold.
• Hvis du underviser i AI, skal du hjælpe de studerende med at forstå både potentialer og risici, herunder hvordan EU-lovgivning regulerer brugen.

Vigtige overvejelser for uddannelsesinstitutioner

På ledelsesniveau bliver det afgørende at kortlægge:

• Hvilke AI-systemer bruger vi allerede?
• Hvilken risikokategori tilhører de?
• Hvem er ansvarlig for tilsyn, dokumentation og uddannelse?
• Hvordan dokumenterer vi, at vi overholder kravene, fx logning og risikovurderinger?

Som underviser bør du forholde dig til:

• Hvordan kan du bidrage til at øge bevidstheden blandt dine studerende om ansvarlig AI-brug?
• Hvordan kan du selv holde dig ajour med krav og tekniske standarder?
• Hvordan kan dine undervisningsforløb integrere viden om etik, retssikkerhed og datasuverænitet?

Mine erfaringer og anbefalinger

Personligt ser jeg AI Act som et vigtigt skridt mod at professionalisere AI-brugen i uddannelse. Det kan virke bureaukratisk, men jeg oplever også, at lovgivningen giver et solidt grundlag for at skabe mere tillid og gennemsigtighed.

Jeg anbefaler, at vi som undervisere:

• Begynder at udforske, hvordan AI Act konkret gælder for vores fag og institutioner.
• Inddrager diskussioner om ansvar og etik som faste elementer i undervisningen – ikke som bilag eller særtemaer.
• Tør være kritiske, men også nysgerrige på, hvordan AI kan styrke læring, hvis det bruges med omtanke.

En opfordring

Hvis du ikke allerede har sat dig ind i AI Act, vil jeg varmt anbefale at begynde nu. Læs en oversigt over reglerne, tal med din ledelse og drøft med dine kolleger, hvordan I kan sikre, at både ansatte og studerende bliver klædt ordentligt på til den nye virkelighed.

Vil du vide mere om, hvordan du som underviser kan arbejde med AI i praksis?

Her på undervis.ai deler jeg løbende eksempler, guides, skabeloner og værktøjer, der hjælper dig i gang.