Trygg KI i skolen krever mer enn gode avtaler

Debatt: Elevenes tekster behandles av utenlandske teknologiselskaper. Staten bør selv drifte skolens KI-tjenester.

Publisert Sist oppdatert

Tenk på en elevtekst med lærerens kommentarer. Den forteller hvordan en tenåring tenker, hva eleven strever med og hvordan eleven utvikler seg.

Så still deg spørsmålet: Hvor havner denne teksten når vi bruker kunstig intelligens?

Jeg er lærer i informasjonsteknologi på videregående skole, og før det jobbet jeg med webutvikling og drift av webservere i over tjue år. Jeg er ikke redd for kunstig intelligens i skolen og ønsker den velkommen. På få år har den blitt et arbeidsverktøy for de fleste av oss, og vi bruker den daglig. Lærerne bruker den til å lage oppgaver og få hjelp til tilbakemeldinger, og elevene får hjelp til fagstoff når læreren er opptatt. Det meste av dette er ønsket. Problemet er hvor tekstene tar veien.

Fylkeskommunen gir oss ansatte Copilot. Flere av kollegaene mine sier at versjonen vi får ikke er bra nok, og velger å betale for andre KI-tjenester av egen lomme. Elevene får gratisversjoner, med kvoter som kan være brukt opp midt i skoledagen. Flere har derfor kjøpt abonnement selv.

Lærere får hjelp til å vurdere elevtekster, og de sier at de passer på å fjerne personopplysninger om eleven først. Men gjør alle det, hver gang? Vi mennesker har jo lett for å velge den lettvinte løsningen.

Elevene kan også dele opplysninger som ikke har noe med skolearbeidet å gjøre. Det kan være personlige spørsmål og informasjon om andre elever. Nettopp derfor er det viktig å vite hvem som får tilgang til samtalene.

Så hva har Skole-Norge gjort?

Svaret har vært å tilby godkjente KI-tjenester, og det er jo bedre enn at alle bruker private kontoer. Sikt, statens tjenesteleverandør for kunnskapssektoren, tilbyr Sikt KI. NDLA har en praterobot. Vestfold har bygd sin egen tjeneste.

Men hva betyr det egentlig at en KI-tjeneste er «trygg»? Dette ville jeg finne ut av, og i oktober leste jeg det de tre selv hadde publisert om hvor dataene behandles. Og dette fant jeg:

Sikt KI kjører språkmodellen hos Microsoft og lagrer samtalene hos Amazon. Begge er amerikanske konsern, og Sikt skriver selv at det derfor finnes en restrisiko for at myndigheter i et tredjeland kan få indirekte tilgang til dataene. Sikt vurderer risikoen som lav. NDLAs praterobot sender det elevene skriver til Microsoft, og Vestfolds tjeneste sender samtalene videre til OpenAI, Mistral og Amazon.

La oss stoppe litt opp ved dette. Tre løsninger som skal gi elever og lærere trygg tilgang til KI, og ingen av dem behandler teksten på utstyr det offentlige selv eier. For disse løsningene betyr «trygg KI» kryptering, en databehandleravtale med et utenlandsk selskap og servere innenfor EU.

Jeg sier ikke at avtalene er dårlige. Men det er jo forskjellen på å leie og å eie. Leier du, har du en kontrakt. Eier du, har du nøkkelen. En avtale gir oss rettigheter, men ikke kontroll. Den regulerer hva leverandøren lover, ikke hva en lovgiver i et annet land bestemmer.

Og husk hva slags tekster vi snakker om. Tekster om hvordan en tenåring tenker og strever. Vi vet ikke hva slike opplysninger kan brukes til om tjue år, og det er jo nettopp derfor vi har personvernregler.

Hva betyr det egentlig å ha kontroll?

For meg betyr kontroll tre ting som henger sammen. At det offentlige eier utstyret, at utstyret står i Norge, og at det offentlige drifter det selv. Er vi da garantert mot alt? Nei, selvsagt ikke. Med eget utstyr bestemmer vi hva som lagres, hvor lenge det lagres og hvem som får tilgang, og vi kan faktisk gjennomføre det vi bestemmer. Vi slipper ikke å jobbe med sikkerhet, men vi får muligheten til å gjøre jobben selv og dermed ha kontroll.

La oss ta tilbakemeldinger fra lærer til elever. Å gi gode tilbakemeldinger på en bunke elevtekster tar lang tid, og det er nettopp der lærerne trenger hjelp. Men tjenestene fraråder at elevtekster lastes opp, så den hjelpen får lærerne i dag bare ved å bryte rådene, eller ved å stole på at alle husker å fjerne personopplysningene først. På eget utstyr kan skoleeier vurdere risikoen og si ja, med vilkår.

Men finnes det et alternativ?

Ja, og det finnes allerede. Språkmodeller med åpne lisenser som kan lastes ned og kjøres på egen maskinvare, uten at noe sendes videre. NorMistral er et eksempel. Modellen er utviklet for norsk språk ved Universitetet i Oslo og Nasjonalbiblioteket. Vestfold tilbyr faktisk NorMistral til elevene sine. Men også den kjører hos Amazon, utenfor vår kontroll.

Jeg har selv kjørt slike åpne modeller på skolens eget utstyr. Det viser at det er mulig, selv om det ikke er en ferdig tjeneste for en hel skole. Til det kreves det kraftigere utstyr.

Er modellene gode nok?

Det er den innvendingen jeg tar mest alvorlig. Lærere går jo utenom Copilot fordi de mener den ikke er bra nok. Hva skjer hvis vi tilbyr en åpen modell som heller ikke er god nok? Da vil den lide samme skjebne. Derfor bør vi begynne der de åpne modellene beviselig er gode nok, og utvide etter hvert. At de ikke er best på alt, er en grunn til å begynne med det de mestrer, ikke en grunn til å vente.

I dag avhenger KI-tilbudet av hvilket fylke skolen ligger i. Fylket avgjør hvilken tjeneste elever og lærere får, og dermed om teksten havner hos Microsoft, OpenAI eller Mistral. Vi har lenge spurt hvordan elever og lærere skal få trygg tilgang til KI. Nå bør vi stille et annet spørsmål. Trenger elevenes tekster egentlig å forlate landet? Jeg mener at svaret er nei.

Staten må ta ansvaret

Løsningen på dette skal ikke være en lærer med eget datarom slik jeg har. Dette bør være statens ansvar. Staten har allerede et redskap for det i Sikt, som har musklene som trengs. Så vidt jeg kan se av personvernerklæringen, drifter Sikt ingen språkmodell selv. Det bør staten sørge for at de gjør, enten alene eller sammen med andre offentlige driftsmiljøer.

Se for deg at en åpen språkmodell kjøres på offentlig eid utstyr i Norge, at elever og lærere logger inn gjennom Feide, og at staten betaler, slik at alle elever og lærere i landet får den samme løsningen.

Les også: Dere bommet på den ene sjansen dere hadde

Utdanningsforbundet ba i mars om trygg infrastruktur og lik tilgang til KI for alle elever. Dette er ett konkret svar på det. Skoleeierne har jo allerede ansvaret for elevenes data. Med eget utstyr får de nøkkelen.

Jeg vet at egen drift krever kompetanse. Og etter min erfaring gir de kommersielle KI-tjenestene foreløpig bedre svar på mye av det vi spør om. Begge deler er sant, men ingen av dem er en grunn til å la være. Tvert imot. Det er en grunn til at staten gjør dette. Én gang, for alle, i stedet for at hvert fylke kjøper sin egen avtale og kaller løsningen trygg.