AI-etik i praksis
En vejledning til bevidst brug af kunstig intelligens i undervisning og læring, så AI støtter mennesket, ikke omvendt.
Kunstig intelligens er ikke et neutralt værktøj. Hvordan vi bruger det, får konsekvenser for læring, autonomi, tillid og social retfærdighed. Denne guide samler de spørgsmål, du bør stille dig selv og dine elever, før AI bliver en fast del af klasselokalet.
Fem grundprincipper
Center for AI Etik ved Syddansk Universitet peger på fem områder, der bør præge enhver samtale om ansvarlig AI-brug. De er formuleret her i en form, der kan bruges direkte i undervisningen:
Autonomi
Bruger jeg AI til at støtte min egen tænkning, eller til at slippe for at tænke selv?
Værdighed
Behandler AI'en de mennesker, der optræder i mine prompts, med respekt? Anonymiserer jeg, når jeg bør?
Ansvar
Hvem har ansvaret, når AI'en tager fejl? Kan jeg forklare og forsvare de svar, jeg bringer videre?
Inklusion
Virker mit AI-materiale for alle elever, også dem med læsevanskeligheder, andet modersmål eller særlige behov?
Social retfærdighed
Er der elever, mit AI-brug utilsigtet forfordeler eller efterlader bag? Hvem har adgang til de bedste værktøjer?
Sådan skaber du en etisk AI-praksis
1. Vær bevidst om, hvad AI gør, og ikke gør
En sprogmodel forstår ikke etik, bare fordi den kan tale om det. Den forudsiger tekst ud fra mønstre, den har set før. Det betyder, at den kan reproducere fordomme, forenkle komplekse dilemmaer og lyde sikker på ting, den tager fejl i. Din opgave som underviser er at være det etiske filter, AI'en ikke selv har.
2. Beskyt persondata altid
Elevers navne, sygdomshistorik, karakterer, familieforhold og andre personoplysninger hører ikke hjemme i en AI-prompt uden klar hjemmel. Gør det til en fast klasseregel, at man ikke deler personoplysninger med AI-tjenester, medmindre skolen har en databehandleraftale, der dækker formålet.
3. Modellér gennemsigtighed
Fortæl eleverne, hvornår du bruger AI, hvad du har bedt den om, og hvad du selv har ændret bagefter. Det gør både din praksis mere ærlig og lærer eleverne, at brug af AI kræver åbenhed, ikke skjulen.
4. Undervis i kritisk tænkning, ikke kun i brug
Det er nemmere at lære elever at klikke "generér" end at lære dem at vurdere svaret. Men den kritiske vurdering er det, der forbliver værdifuldt, når teknologien ændrer sig. Prioritér øvelser, hvor eleverne finder fejl, sammenligner AI-svar med primærkilder og forklarer, hvorfor et svar er utilstrækkeligt.
5. Overvej hvem der bliver hængende
AI-værktøjer koster ofte penge, kræver god internetforbindelse og forudsætter et ordforråd, ikke alle elever har. Tænk over, om dit AI-baserede materiale utilsigtet skaber en ny skillelinje mellem dem, der let kan bruge det, og dem, der ikke kan.
Refleksionsspørgsmål før du bruger AI i undervisningen
- Hvad er mit pædagogiske mål, og er AI det bedste værktøj til det?
- Hvilke persondata risikerer jeg at eksponere?
- Hvem kan jeg spørge til råds, hvis AI'en giver forkert eller problematisk output?
- Hvordan lærer mine elever noget af processen, ikke kun af resultatet?
- Er der elever, der bliver ekskluderet, hvis jeg bygger undervisningen på AI?
UNESCO's globale anbefaling om AI-etik
De principper, du lige har læst, står ikke alene. I 2021 vedtog UNESCO's 194 medlemslande Recommendation on the Ethics of Artificial Intelligence, den første globale standard for etisk og ansvarlig brug af kunstig intelligens. Anbefalingen bygger på fire grundværdier, som udmøntes i ti principper, der i dag går igen i det meste af verdens AI-lovgivning og -vejledning, herunder EU's AI-forordning.
Fire grundværdier
Menneskerettigheder og værdighed
AI skal respektere og fremme menneskerettigheder og den enkeltes værdighed, aldrig underminere dem.
Retfærdige og fredelige samfund
AI skal bidrage til retfærdige, fredelige og sammenhængende samfund, ikke til splittelse eller undertrykkelse.
Mangfoldighed og inklusion
AI skal udvikles og bruges, så den fremmer mangfoldighed og inklusion frem for at udviske eller ekskludere.
Miljø og økosystemers trivsel
AI's udvikling og drift har en miljømæssig pris, som skal indregnes, ikke ignoreres.
Ti principper
Proportionalitet og "gør ikke skade"
AI må ikke bruges ud over, hvad der er nødvendigt for formålet, og skal undgå at skade mennesker, samfund eller miljø.
Sikkerhed
AI-systemer skal være robuste og undgå utilsigtede skader eller sikkerhedsrisici, også ved misbrug.
Ret til privatliv og databeskyttelse
Personoplysninger skal beskyttes gennem hele AI-systemets livscyklus, fra udvikling til daglig brug.
Samarbejde om styring
Ingen enkelt aktør kan regulere AI alene. Det kræver samarbejde mellem myndigheder, forskning, civilsamfund og erhvervsliv.
Ansvarlighed
Der skal altid kunne placeres et menneskeligt ansvar for en AI-afgørelse. Ansvaret kan aldrig lægges over på AI'en selv.
Gennemsigtighed og forklarlighed
Det skal være muligt at forstå og forklare, hvordan og hvorfor et AI-system er nået frem til et givent resultat.
Menneskeligt tilsyn
Mennesker skal altid kunne gribe ind og bevare den endelige beslutningsret over for et AI-system.
Bæredygtighed
AI's udvikling og udbredelse skal holdes op imod FN's verdensmål, ikke mindst klima- og ressourceforbrug.
Bevidsthed og dømmekraft
Borgere har brug for uddannelse og oplysning, så de forstår, hvad AI kan og ikke kan. Det er selve grunden til dette kursus.
Retfærdighed og ikke-diskrimination
AI-aktører skal aktivt modvirke bias og fremme social retfærdighed, så ingen grupper systematisk forfordeles.
Fra brugertankegang til borgerskabstankegang
Der er en vigtig forskel på at lære elever at bruge AI og at lære dem at leve i et samfund præget af AI. Den første er en færdighed. Den anden er dannelse. Vi har brug for begge, men det er den anden, uddannelsessystemet er sat i verden for.
Målet er ikke, at eleverne bliver hurtigere til at få AI til at gøre deres arbejde. Målet er, at de bliver borgere, der kan gennemskue, forholde sig kritisk til og tale med om, hvad kunstig intelligens gør ved os og for os.
Kilde og fagligt grundlag: Denne guide er inspireret af principper og perspektiver fra Center for AI Etik ved Syddansk Universitet, som forsker i etisk ansvarlig udvikling og anvendelse af kunstig intelligens.
Centret understreger, at ansvarlig AI kræver dialog på tværs af humaniora, samfundsvidenskab og datalogi, og at kunstig intelligens skal respektere autonomi, værdighed, menneskerettigheder, inklusion og social retfærdighed.
Guidens afsnit om de fire grundværdier og ti principper bygger på UNESCO's Recommendation on the Ethics of Artificial Intelligence (vedtaget 2021 af alle 194 medlemslande), verdens første globale standard for etisk AI.