– Ukritisk bruk av kunstig intelligens og uregulert tilgang til elevdata kan få store utilsiktede konsekvenser, skriver Tormod Korpås. Illustrasjon: Pixabay
– Ukritisk bruk av kunstig intelligens og uregulert tilgang til elevdata kan få store utilsiktede konsekvenser, skriver Tormod Korpås. Illustrasjon: Pixabay

Skal elevene møte kunstig intelligente lærere?

Debatt: Kunstig intelligens (KI) er det neste store steget i digitaliseringen av samfunnet. Det har potensial til å revolusjonere undervisning og læring, men kan også bli en Pandoras eske av dimensjoner.

Publisert

Regjeringen utarbeider nå en nasjonal strategi. Jeg mener lærerprofesjonen raskt må involveres i en strategi om bruk av KI i skolen. Feltet er for viktig til å overlates til IKT-bransjen alene.

Forestill deg en skole i nærmiljøet ditt noen få år fra nå. Det er inngått avtale med et stort teknologiselskap om at skolene i kommunen skal ta i bruk et KI-basert læringsprogram – en Lærerassistent, og på vår skole har den første læreren fått opplæring og er sertifisert til å bruke den i klasserommet. KI-en på sin side er lært opp på et datasett fra 8 millioner kinesiske elever og har tilgang til alle læreplanene i OECD. Algoritmene gjør den i stand til å støtte læreren i forberedelsene til undervisningen. Den samler og bearbeider materiale til et læringsmål og foreslår varierte presentasjonsformer bestående av tekst, video og virtuell virkelighet som læreren kan velge blant.

KI er lærenem og er derfor gitt tilgang til en rekke data om læreren for å lette menneske-maskin-samarbeidet. Den analyserer lærerens utdanning og foretrukne metoder, og høster data fra lærerens nettaktivitet. Læreren som tidligere har brukt mye av sin tid på retting av oppgaver, vurdering av elevarbeid og å skrive læringsfremmende tilbakemeldinger til elevene, føler seg etter hvert trygg på KI-en og benytter den til flere av disse oppgavene. Det frigjør dyrebar tid som læreren bruker sammen med elevene. For læreren skal tilpasse opplæringen til alle elevene i klassen, og tiden hun har til rådighet for å følge opp hver enkelt, er knapp.

En viktig grunn til at kommunen valgte å åpne for KI-assistenter i skolene, var prisen. For kommunens budsjett var stramt, og læringsplattformen som KI er del av, var gratis. Dessuten ble det lovet gode elevresultater. Den eneste motytelsen dataselskapet skulle ha, var tilgang til elev- og skoledata. Teknologiselskapet driver nemlig også en stor søkemotor og et verdensomspennende sosialt nettverk, og kan nå koble elevdata sammen med private data for å identifisere elevenes læringsforutsetninger. Så gir den læreren anbefalinger om hvordan læringssituasjonen kan tilrettelegges optimalt for hver enkelt elev. Dette bidrar til høyere motivasjon, raskere progresjon og bedre læringsutbytte, og det reises snart krav om at alle lærere i kommunen skal ta i bruk KI-assistenter. De få kritiske stemmene blir stilnet av gode elevresultater og lave kostnader.

Dette er ikke utopi. Men la oss forlate eksempelet og returnere til nåtid. I dag gir vi villig fra oss data om vanene våre for å få tilgang til gratistjenester som Google-søk og Facebook. Dette skjer også i skolen. Stramme budsjetter kombinert med høye forventninger til bruk av IKT har åpnet for at eksempelvis Facebook og kraftige læringsverktøy som Google Classroom brukes tilsynelatende kostnadsfritt i norske skoler. Valutaen er elevdata som maskinlæringsalgoritmer bruker til å produsere informasjon som kan selges til tredjeparter.

Dette begrenser lærernes valgfrihet og utfordrer elevenes datasikkerhet.

Er det verdt risikoen å betale for teknologi med elevenes data?

Er det verdt risikoen å betale for teknologi med elevenes data? Ukritisk bruk av KI og uregulert tilgang til elevdata kan få store utilsiktede konsekvenser. En KI med målsetting om å tilpasse læringsstrategier til hver elev vil ikke nøye seg med kartleggingsprøver, elevsamtaler og lærerobservasjoner. Elevens læringsforutsetninger påvirkes jo også av elevens helse, bostedsadresse og foreldrenes utdanning. Videre er elevens søkehistorikk på nettet, bruk av sosiale medier, likes, vennekrets og forbruksmønster eksempler på datakilder som kan høstes og kobles for å lage en læringsprofil. Dette reiser en rekke vanskelige problemstillinger, ikke bare om personvern og eierskap til data, men også for samfunnsutviklingen. Cambridge Analytica høstet i sin tid persondata fra Facebook for å påvirke demokratiske prosesser som presidentvalget og Brexit gjennom målrettet påvirkningsarbeid. Liknende kan skje i Norge. Det må derfor fastsettes etiske prinsipper og reguleringer som sikrer at bruk av KI i skolen både er til elevenes og samfunnets beste.

Etter hvert som KI blir bedre og tas i bruk innen læring, virker det sannsynlig at både KI og menneskelige lærere trengs for å gi elevene best mulig, motiverende og tilpasset opplæring. Men skolen er mer enn fag, og med sterkere læringsverktøy blir den menneskelige læreren som ser og kjenner barna og som kan ta hensyn til om barnet er trist, opplever mestring, er bekymret eller opprømt desto viktigere. For barnas trivsel og sosiale tilhørighet er både et mål i seg selv og en forutsetning for god læring. Skal KI fungere som et støttesystem til beste for elevene mener jeg derfor KI i fremtiden må underordnes menneskelige lærere.

Det bør også stilles minst like høye krav til dokumentasjon for en KI-assistent som til en menneskelig lærer. Lærere blir intervjuet, og det kreves politiattest og formell kompetanse før tilsetting. På samme måte må det gis innsyn i algoritmene og datahåndteringen som utgjør en KI. Skoleledere må kunne støtte seg til et regelverk for å forsikre seg om at datahåndteringen er forsvarlig, og lærerne må ha kompetanse som profesjonelt gjør dem i stand til å utfordre KI-ens råd. Men slik kompetanse finnes ikke i skolene i dag, og lovverket er mangelfullt.

... det haster å få på plass en strategi som trekker opp rammer for hva vi ønsker å oppnå med KI i skolen, hvilke løsninger vi tillater og hvilke vi sier nei til.

Jeg mener at det haster å få på plass en strategi som trekker opp rammer for hva vi ønsker å oppnå med KI i skolen, hvilke løsninger vi tillater og hvilke vi sier nei til. Den må inneholde prioriteringer og krav til kompetanse hos skoleledere og lærere. For at en slik strategi skal virke etter hensikten må lærerprofesjonen involveres i et samarbeid med IKT-bransjen og myndighetene. KI representerer både muligheter og risiko, og en viktig del av profesjonens arbeid må være å vise hva som kan gjøres for å redusere risikoen.