GDPR-sikre AI-værktøjer i skolen: en tjekliste til konsekvensanalyse

Syv trin. Så mange trin beder Styrelsen for It og Læring en skole om at gennemgå, før et AI-værktøj kommer ind i et klasseværelse, i sin miniguide om lovlig brug af kunstig intelligens (udgivet januar 2026). Et af trinnene er en systematisk risikoanalyse, en konsekvensanalyse (DPIA), som guiden siger er nødvendig i næsten alle tilfælde, hvor AI bruges. Dette indlæg handler om de GDPR-sikre AI-værktøjer, skoler faktisk kan godkende: de spørgsmål en kommunes databeskyttelsesrådgiver stiller, og vores egne svar for GradeAid, på skrift.

I maj 2026 satte Jammerbugt Kommune farten ned på AI, efter at kommunens databeskyttelsesrådgiver advarede om, at ingen havde overblik over, hvilke værktøjer medarbejderne brugte (Version2, 26. maj 2026). Jeg synes, det var en fornuftig beslutning. En kommune, der ikke ved, hvilke værktøjer lærerne skriver i, kan ikke lave en konsekvensanalyse af nogen af dem.

GDPR er ikke grunden til, at skoler ikke kan bruge AI

Vi taler om GDPR, som om det er bremsen på AI i skolen. Det er det ikke. Det er en kort liste med spørgsmål, der skal besvares, før et værktøj tages i brug, og de fleste leverandører har ikke besvaret dem i et almindeligt sprog.

De danske regler er klare om, hvem der spørger. Børne- og Undervisningsministeriets vejledning om lovlig brug af kunstig intelligens (maj 2025) siger, at skolen eller kommunen normalt er dataansvarlig, og at leverandøren er databehandler. Den dataansvarlige bærer ansvaret. Miniguiden tilføjer, at det er en ledelsesbeslutning at tage et værktøj i brug, ikke én lærers valg ved køkkenbordet klokken 21.

Samme vejledning siger, at Datatilsynet betragter AI som ny teknologi, så risikoen normalt er høj, og en konsekvensanalyse ofte vil være påkrævet. Det er ikke en formalitet. Det er et dokument, som nogen skriver under på med deres navn.

Reglerne er den samme GDPR i Oslo, Stockholm, Madrid og Bukarest. Den danske vejledning er bare en af de klareste skriftlige udgaver af dem, og derfor bruger vi den her.

De GDPR-sikre AI-værktøjer, skoler kan godkende, svarer på fem spørgsmål

Når en databeskyttelsesrådgiver læser en leverandørs papirer, ender spørgsmålene med at være de samme fem. Her er de, med hvordan et godt svar ser ud.

1. Hvem er underdatabehandlerne, og hvor er de?

Ministeriets vejledning beder skolen om at finde ud af, før behandlingen starter, om personoplysninger forlader EU og EØS, og til hvilket land. Gør de det, skal skolen have et overførselsgrundlag, og for et usikkert tredjeland en overførselsanalyse (TIA). En god leverandør afleverer én liste: navn, formål, land, garanti.

2. Bliver noget brugt til at træne en model?

Vejledningen siger, at en skole normalt ikke har hjemmel til at lade en leverandør bruge elevernes personoplysninger til leverandørens egne formål, herunder træning af nye modeller. Miniguidens eksempel med AI-feedback holder kun, hvis databehandleraftalen udelukker modeltræning. Bed om den sætning i aftalen, ikke på en markedsføringsside.

3. Hvad gemmer AI-udbyderen, og hvor længe?

Det er her, det med småt står. Googles side om datastyring for Gemini på Vertex AI (senest opdateret 30. oktober 2026) siger, at Google ikke træner på kundedata uden tilladelse. Samme side siger, at cachelagrede data kan gemmes i op til 24 timer, og at Google kan logge prompts for at opdage misbrug. Ingen datalagring er muligt, men kun hvis leverandøren slår flere indstillinger fra. Spørg, hvilke der er slået fra.

4. Blev selve modellen bygget lovligt?

Det Europæiske Databeskyttelsesråd skrev i december 2024, at en model udviklet med ulovligt behandlede data kan påvirke lovligheden af, at den tages i brug. En skole kan ikke revidere Google eller OpenAI. Den kan spørge leverandøren, hvilken model den bruger, og hvad modeludbyderens vilkår siger, og skrive svaret ind i konsekvensanalysen.

5. Hvad kommer ind i prompten?

Miniguiden siger til medarbejderne, at de aldrig må indtaste personoplysninger, eksamensbesvarelser eller karakterer. Det bedste design gør det svært at gøre forkert: læreren skriver et emne og et niveau, ikke et barns navn.

En konsekvensanalyse er ikke en dom over AI, det er et skriftligt svar på fem spørgsmål om, hvor data bliver af.

Vores egne svar, på skrift

Det ville være mærkeligt at udgive denne tjekliste og ikke køre den på os selv. Her er GradeAid, taget fra vores privatlivspolitik (version af 30. oktober 2026).

Hosting, database og fillagring kører på Google Cloud i Belgien. Indholdet genereres med Googles Gemini-modeller gennem Vertex AI's EU-endpoint. I dag er det kun lærere, der bruger AI'en. Den del af platformen, der er til børn, er sat på pause, og de konti, børn brugte, slettes efter 27. november 2026.

Det, vi sender til Gemini, er lærerens emne og niveau uden personhenførbare oplysninger, plus sidebilleder og tekst, når en lærer uploader en side fra en lærebog. Google er kontraktligt forhindret i at træne på det, og vi træner heller ikke nogen model på uploadet materiale.

Nu den akavede del. Ikke alt ligger i EU. Transaktionsmails går gennem Postmark og betaling gennem Stripe, begge i USA, under EU-US Data Privacy Framework med standardkontraktbestemmelser som ekstra sikring. Brugsstatistik (PostHog, hostet i Frankfurt) og Metas annoncemåling kører kun, hvis læreren accepterer dem i cookiebanneret. En databeskyttelsesrådgiver bør se den liste, før der skrives under, ikke bagefter.

Indstillingerne for datalagring i Vertex AI, som er beskrevet ovenfor, er et rimeligt spørgsmål at stille os, som enhver anden leverandør. Vi svarer på skrift, sammen med databehandleraftalen, som vi sender på forespørgsel.

Hvad en skole kan gøre

1. Lav en liste over alle AI-værktøjer, medarbejderne bruger, også de gratis, der ligger åbne i en browserfane. Et delt ark med tre kolonner er nok: værktøj, hvem bruger det, hvad kommer ind. Cirka 30 minutter på ét personalemøde.

2. Send alle leverandører de fem spørgsmål ovenfor i én mail, og bed om databehandleraftalen og den fulde liste over underdatabehandlere. Cirka 10 minutter pr. leverandør. Kommer der intet svar, stopper tjeklisten der.

3. Kør ministeriets regneark til risikovurdering, bilaget til miniguiden, på hvert værktøj, der svarer. To til tre timer pr. værktøj for den, der har ansvaret for GDPR, én gang.

4. Skriv den godkendte liste på tre linjer: hvilket værktøj, til hvad, med hvilke data. Del den med medarbejdere og forældre. Cirka 45 minutter.

5. Sæt en dato i kalenderen til at kigge på det igen om tolv måneder, eller før, hvis en leverandør ændrer sine vilkår. Fem minutter.

Hvor GradeAid passer ind

GradeAid er en dansk platform til lærere. Læreren skriver emnet og niveauet ind og får på få sekunder en lektionsplan, et arbejdsark, en quiz, en præsentation og skærmfrie aktiviteter, som man også kan differentiere. Materialet kan printes. Den ligger på lærerens side af stregen, og vi vil hellere have, at en databeskyttelsesrådgiver læser vores liste over underdatabehandlere, før der skrives under, end at hun finder den bagefter.

Hvis du arbejder med databeskyttelse i en kommune eller leder en skole et sted i Europa, vil vi gerne høre fra dig. Skriv til os på founders@gradeaid.ai.