Dansk skoleplatform bygger AI-regler ind i den enkelte opgave

AI er allerede blevet en del af mange elevers skolearbejde. For skolerne er spørgsmålet derfor ikke længere kun, om eleverne må bruge AI, men hvornår, hvordan og under hvilke regler.

I den danske skoleplatform SkoleElev.ai kan hver skole fastlægge sin egen fælles AI-politik. Inden for de overordnede rammer kan læreren vælge, hvor meget AI-hjælp der er tilladt i et bestemt fag, på et bestemt klassetrin og i den enkelte opgave.

Det fremgår direkte af opgaven, om eleven slet ikke må bruge AI, må bruge teknologien til eksempelvis idéudvikling og disposition eller må anvende den mere omfattende med krav om at oplyse, hvordan den er blevet brugt.

AI-brug i platformen logges, så skolen kan følge op og skabe ensartede rammer på tværs af lærere, fag og klasser.

"Skolerne mangler ikke endnu en generel hensigtserklæring om AI. De mangler regler, der kan omsættes til hverdagen og være tydelige for både lærere og elever. Derfor er AI-niveauet knyttet direkte til den enkelte opgave."

AI skal guide – ikke levere svaret

Det pædagogiske udgangspunkt for SkoleElev.ai har siden lanceringen været, at AI ikke skal fungere som elevens svarmaskine.

AI-systemet skal i stedet stille spørgsmål, forklare vanskeligt stof og hjælpe eleven videre i læreprocessen. Det skal understøtte elevens selvstændige tænkning frem for at overtage den.

"Vi har ikke bygget en maskine, der skal løse opgaverne for eleverne. AI skal hjælpe eleven med at forstå problemet, stille bedre spørgsmål og komme videre. Læreren er fortsat den faglige autoritet."

Når platformen giver læreren et forslag, en vurdering eller et udkast, præsenteres det som et fagligt input – ikke som en automatisk afgørelse. Den endelige vurdering træffes af læreren.

Platformen er ikke udviklet til at træffe afgørelser om elever alene på baggrund af automatiseret behandling, når afgørelsen kan have retsvirkning eller tilsvarende væsentlig betydning for den enkelte elev.

Forberedt på kommende krav til AI i uddannelse

EU's AI-forordning, også kaldet AI Act, bliver indført i etaper. Visse AI-systemer på uddannelsesområdet kan blive klassificeret som højrisiko-systemer. Det gælder blandt andet systemer, der er beregnet til at:

• •vurdere læringsresultater og bruge vurderingen til at styre elevens videre læring
• •afgøre adgang eller optagelse på en uddannelse
• •vurdere, hvilket uddannelsesniveau en person bør have adgang til
• •overvåge og opdage forbudt adfærd under prøver

De detaljerede krav til denne type højrisiko-AI-systemer træder i kraft den 2. december 2027.

SkoleElev.ai har valgt at indrette platformen efter centrale principper i forordningen, uanset om den enkelte funktion ved en konkret anvendelse juridisk vil blive klassificeret som højrisiko. Det gælder blandt andet gennemsigtighed, sporbarhed, dokumentation og menneskelig kontrol.

Elever, lærere og forældre kan se, hvornår AI har været involveret, og hvilken funktion teknologien har haft. Skolen kan samtidig kræve, at eleven redegør for brugen af AI i en aflevering.

Skolen fastlægger selv grænserne

Det er den enkelte skole – ikke platformen – der fastlægger reglerne for elevernes brug af AI.

Skolen kan vælge forskellige niveauer for AI-hjælp og tilpasse dem til hvert fag, klassetrin og opgavetype. En dansklærer kan eksempelvis tillade AI til idéudvikling, men ikke til den endelige formulering, mens en lærer i et andet fag kan tillade mere omfattende støtte.

Læreren skal dermed ikke fortolke en overordnet AI-politik fra gang til gang. Det fremgår direkte af opgaven, hvilken hjælp eleven må anvende.

"Skolerne har meget forskellige pædagogiske tilgange til AI. Derfor skal en leverandør ikke diktere én bestemt politik. Vores opgave er at give skolen værktøjerne til at fastlægge sin egen linje og håndhæve den på en tydelig og ensartet måde."

Kerneinfrastruktur og backup i EU

Ifølge SkoleElev.ai er platformens kerneinfrastruktur placeret hos Hetzner i Falkenstein i Tyskland. Miljøet er spejlet i Nürnberg, og der foretages daglig krypteret backup i Helsinki.

Der indgås en databehandleraftale efter GDPR artikel 28, og skolerne får adgang til en opdateret oversigt over de underdatabehandlere, der indgår i driften.

Identificerende oplysninger om eleverne pseudonymiseres, før oplysninger sendes til behandling i sprogmodeller. Ifølge virksomheden anvendes elevernes data ikke til at træne modeller, og der vises ikke reklamer til børn.

Eleverne skal også lære at forholde sig kritisk til AI

Ansvarlig brug af AI handler ikke kun om tekniske sikkerhedsforanstaltninger og databehandling. Det handler også om, at lærere og elever forstår teknologiens muligheder og begrænsninger.

SkoleElev.ai indeholder derfor materiale til lærere om ansvarlig brug af AI. Eleverne arbejder blandt andet med kildekritik, skævheder i AI-systemer og risikoen for, at en sprogmodel kan levere fejlagtige eller opdigtede oplysninger.

Eleverne skal lære, at et velformuleret AI-svar ikke nødvendigvis er korrekt, og at svar fra AI skal vurderes på samme måde som andre kilder.

"Regulering bliver ofte fremstillet som en bremse. For os er AI-forordningen en kvalitetsstandard, vi byder velkommen — den beskriver præcis den ansvarlighed, skolerne har efterspurgt hele tiden."