AI-chatbotter i forskellige sfærer - og rationaler

Der er en efterhånden vedvarende debat omkring AI-chatbotter og generativ kunstig intelligens (GenAI fremover) i uddannelsessystemet. Forskellige aktører både internt i uddannelsessystemet og eksternt argumenterer for, at GenAI skal integreres meget mere i undervisningen. De klassiske argumenter er blandt andet: 1) eleverne skal bruge dem på arbejdspladserne, 2) de bruger dem alligevel og 3) værktøjerne er i det samfund de lukkes ud i. Det er valide pointer. Men betyder disse faktorer, at uddannelsessystemet skal integrere GenAI ”meget mere”. Eventuelt på bekostning af anden vigtig læring og dannelse? Tid eleverne skal bruge i skolen bliver ikke der nemlig ikke mere af. Dertil skal vi også være opmærksom på at der nogle vigtige forskelle. Det er nemlig nogle forskellige rum eller sfærer vi taler om, hvor brugen af GenAI kan foregå i. Tre sfærer der har nogle ret forskellige principper iboende, som jeg vil uddybe senere i teksten:

Fordi formålene vil naturligvis være forskellig eller have forskellige betoning og logikker i de enkelte sfærer. Jeg har prøvet at typologisere nogle formål her. Dog uden at listen er udtømmende, men udvalgt for at illustrere nogle af forskellene:

Jeg vil selvfølgelig her primært have fokus på uddannelsessfæren – og jeg vil lige kort gør opmærksom på at der i artiklen ikke bliver behandlet hvordan en lærer kan bruge GenAI-værktøjer til variation mm. Det er et helt andet emne.

Men lad os starte med at perspektivere til privatsfæren for, at overveje hvad det eventuelt gør ved os som mennesker og vores sociale relationer. De centrale principper i den private sfære må være de sociale relationer, livskvalitet og værdier. I privatsfæren kan GenAI fungere som en forstærker af mange af de tendenser vi allerede ser på sociale medier – på godt og ondt. Meme-generatorer vil have indbyggede GenAI-værktøjer. Her er fokus og formål først og fremmest underholdning. Men vil vi implementere GenAI i alle aspekter af vores sociale liv? Hvad med autogeneret svar til bedsteforældrene – altså mere end de korte svarforslag diverse besked-applikationer kommer med? Det er sandsynligt, at mange formentlig vil bruge det til at skrive udkast til e-mails. Og særligt hvis man i forvejen gør det i mange andre områder i sit liv. En tendens der potentielt vil blive forstærket over årgangene. Når man skal skrive taler eller fællessange – hvorfor overhovedet investere særligt meget tid i at lave disse når man har GenAI til at gøre det? Det vil være forskelligt fra person til person, men de fleste er vel enige om at det kunstigt genereret produkt vil have mindre sjæl i sig. Selvom modtageren ikke ved at det ikke er håndlavet. Det er (jo) tanken der tæller (?). Og hvordan skal den sætning forstås i denne sammenhæng? Sociale relationer kræver arbejde og investering – GenAI kan potentielt mindske nogle af de omkostninger, men er det det værd i det store billede? I mødet med institutioner som bruger og som forbruger vil vi også støde på GenAI – både hvor vi tydeligt oplever at interagere med GenAI og hvor det er meget mere subtilt. Her vil vi som brugere og forbrugere så kunne stemme med fødderne ift. om vi kan lide det ene eller andet. I privatsfæren vil brugen af GenAI være mangfoldig – nogle vil søge gevinster ved effektivisering ligesom man kan gøre med robotstøvsugere og -plæneklippere. For at have mere tid til andre aspekter af livet. Måske som hjælp til at få skrevet talen til den 60-års fødselsdag. Til at finde information om mulige feriedestinationer, om sygdomme og skader osv.

I arbejdssfæren kan GenAI komme til at indgå som et kraftfuld effektiviserings- og automatiserings-værktøj. På samme måde som anden AI har betydet og fortsat vil i fremtiden. Det har skrevet nærmere om i del 2. Og effektivisering giver i overvejende grad god mening – da det centrale princip i arbejdssfæren er at lave et output. Uanset om det er en service eller en vare. Der vil selvfølgelig være masser af diskussioner om en eventuel effektiviseringsproces: hvem bliver til overs, hvad skal vi lave i stedet for, afhjælpe eller forstærke stress (?), faldgruber i brugen af AI generelt (bias, fejlapproksimeringer, datasikkerhed mv.) og måske andre potentielle usikkerheder vi endnu ikke er klar over eller har fået italesat. LLM’ernes indlejret natur stiller nogle andre krav til en automatiseringsarkitektur end klassiske AI-løsninger gør. Overvejelserne omkring brugen vil blive mere eller mindre institutionaliseret i organisationerne. Det vil sige at i arbejdssfæren vil det i overvejende grad være virksomhedernes og de offentlige institutioners egen politik og behov, der vil afgøre omfanget og hvorvidt medarbejderne skal/må bruge GenAI-værktøjer i arbejdsprocessen. Hvorvidt det er værktøjer som medarbejderen kommer til have mere eller mindre aktiv eller passiv interaktion med. Fokus vil primært være på at øge effektiviteten og derved øge virksomhedens output og/eller mindske omkostninger i produktionen. Implementeringen af AI – og herunder GenAI - giver på den måde i overvejende grad god mening. Et andet formål AI kan have i arbejdssfæren er analyse – og her kan der også store overlap med effektivisering. Her er fokus på at anvende AI – herunder LLM’erne – til at bistå i analyse og fortolkning af data. Som analyseredskab har AI været tilgængeligt længe via fx maskinelæring (ML). Det nye er at man også kan få en formidlet fortolkning af data og at det er blevet mere tilgængeligt, for flere. Effektivisering vil formentlig være det primære fokus og formål med integrationen og anvendelsen af GenAI når det kommer til arbejdssfæren. Herefter analyse. Det er dog også oplagt at mange vil bruge GenAI som led af at finde information. Og i en vis grad som sporadisk hjælp.

Noget vil altså blive bygget ind i organisationens IT-struktur og andet vil mere eller mindre være for den enkelte medarbejder selv at gøre.

Udannelsessfæren

Hvordan forholder det sig i uddannelsessfæren? Her er de centrale principper dannelse, udvikling og læring. Der er et mindre fokus på effektivisering som modus. Der er nogle aktører der drømmer om at kunne effektivisere læringen. Og her tænker jeg ikke på fx lærer-til-elev-ratio (det er en anden drøm), men nærmere hastigheden den enkelte elev kan lære og hvor meget. Altså den enkeltes optimering af læring. Der er et optimeringspotentiale for mange elever. Men sker det ved at eleven bliver mere effektiv ved at bruge GenAI-værktøjer? Det kræver først og fremmest en accept hos eleven – om det så sker gennem indre eller ydre motivation. En accept om faglig udvikling og fagligt arbejde, hvilket jeg vender tilbage til længere nede. Det andet element af effektiviseringsmodus handler om det enkelte produkt – i uddannelsessfæren de arbejdsopgaver eleverne støder på i undervisningen eller som hjemmeopgaver. Man kan potentielt med et GenAI-værktøj lave produkterne bedre og hurtigere. Det kunne være at få GenAI-værktøjer til at besvare de læsefokusspørgsmål man har fået til en tekst; give et resume af en tekst der skal læses, skrive et udkast til en aflevering osv. Men til hvilken gavn? For en del elever vil produktet ligge på et højere fagligt niveau end hvad eleven selv ville kunne præstere uden værktøjet. Og det er måske den eneste reelle læring eleven i det tilfælde har fået ud af det processen. Der er selvfølgelig nogle nuancer. GenAI-værktøj kan indtænkes på sådan en måde, hvor den som sådan ikke overtager nogle væsentlige kognitive processer ift. opgaven. Men muliggør at man for eksempel kan få lavet en visualisering af sit produkt. GenAI-værktøjet kan også, i stedet for at skrive afleveringen, komme med feedback på en opgave. Men så er vi mindre over i effektivisering og mere over i hjælp. Kort sagt logikken om effektivisering, forstået som produktion, meget mindre relevant i uddannelsessfæren end den er i privat- og arbejdssfæren.

Det kunne også være relevant i forhold til at finde information. Her kan GenAI-værktøjerne overtage dele af for eksempel søgemaskinernes funktion eller det at gå biblioteket. H skal man være opmærksom på hvor formålet med informationssøgningen. Er det for at lære noget, er det for at finde relevante kilder man kan arbejde med, er det for få viden om et konkret emne. Her bliver GenAI-værktøjets rolle forskellig – og outputtet er enten endestation eller en trædesten til en videre undersøgelse. Hvis det er endestationen, bliver alle forbehold omkring fejlapproksimeringer og bias mv. relevante at påpege: at det er approksimeret tekst, approksimeret viden GenAI-værktøjet leverer. Og problemet er så at eleverne oftest vil have dårlige faglige forudsætninger for at bedømme outputtet. Dertil er outputtet fra GenAI-værktøjerne udtryk for en udvælgelse den laver – en udvidelse vi har dårlig indsigt i. Informationssøgningen i en søgemaskine eller i bøger på biblioteket kan give et ganske andet resultat. Det er selvsagt erfaringer der vil være godt eleverne får. Er den hurtige adgang til information – og meget målrettet information – et gode? Mister man noget i forhold til ikke at skulle læse sig frem til den relevante viden på forskellige sider eller i forskellige bøger, hvor man måske i processen finder anden relevant viden man ikke var klar over man var på jagt efter? Når det nu er det eleverne gør af sig selv var det måske også en god idé at vise eleverne alternative metoder til informationssøgningen, metoder de kan bruge til at hjælpe med at verificere og som de måske også vil finde mere nyttige i nogle situationer.

Det største potentiale i uddannelsessfæren er måske på hjælp-formålet. At GenAI kan agere som ekstra hjælper eller assistent til læreren bredt og for den enkelte elev individuelt. Det er en klassisk problemstilling i mange klasserum, at elever bliver frustreret over ikke at kunne modtage hjælp med at komme i gang eller videre med en opgave. Her vil en AI-lærerassistent, som læreren eventuelt selv har rammesat, potentielt kunne træde til. På den måde kan AI-lærerassistenten måske fastholde eleven på sporet og mindske en del af det motivationstab elever oplever når de ikke kan få hjælp. Så det er en potentiel stor gevinst for fastholdelsen og motivationen. På samme måde kan finde information-formålet også komme i spil i forbindelse med en forklaring af nogle begreber, som eleven har svært ved at forstå ud fra materialet vedkommende arbejder med. AI-lærerassistenten kan måske også hjælpe med at differentiere udfordringerne for de enkelte elever, så de bliver mødt ved deres såkaldte nærmeste udviklingszone. Hjælp-formålet bliver her ved at fastholde eleven med opgaver, der passer til det faglige niveau. Tilsvarende kunne hjælpen også foregå i forbindelse med skriftligt arbejde, hvor eleven kan få løbende feedback fra assistenten.

Så GenAI – og anden digital teknologi før det – kan hjælpe med at fastholde eleverne i de centrale processer, der oftest sker i læringen: vedholdenhed, bearbejdning af og refleksion over materiale, tilegnelse af nye begreber og værktøjer mv. Lad os i første omgang antage at eleven har lært at bruge værktøjet ordentlig og har en accept omkring sin egen faglige udvikling og det nødvendige med det faglige arbejde. Også selvom det er kedeligt. Vil GenAI i den situation kunne bruges skævt? Vil den kunne bruges på en måde der medfører en form for læringstab? Her kan det argumenteres for, at hjælpen kan komme for hurtigt, for ofte og fjerne noget af elevens autonomi. Fordi GenAI-værktøjet er potentielt hele tiden til rådighed. Eleven når måske i mindre grad, at lave afsøgningen i opgaven selv. Noget der kan kræve stort mentalt arbejde. Der er de senere år i den forbindelse netop også blevet italesat, at i læringsfasen er der friktion. Der vil være situationer, hvor man skal kræve mere af sig selv for at få ”hul på bylden”. Det er friktionen, der måske også får os til at grave dybere ned i egne tidligere læringserfaringer, ”er der noget man kan trække på”. Man får måske aktiveret sin ”anden hjerne”, sine noter. Den løbende friktion og måske frustration, før man knækker koden, er måske også et væsentligt element for at ny læring efterfølgende sætter sig bedre. Dette kan til gengæld siges at være nogle elementer af dannelse, det at skulle håndtere friktionen og frustrationerne. Et GenAI-værktøj der hele tiden er klar med at skubbe en videre mindsker eller måske ligefrem fjerner disse elementer. Og det kan lyde besnærende, men er måske i virkeligheden en bjørnetjeneste.

Men har elever altid en accept af læringssituationen? Motivation er en nøglefaktor i spørgsmålet omkring anvendelsen af GenAI i uddannelsessfæren. Som så meget andet skal vi anskue det i et spektrum-perspektiv – det er ikke binært. Den mest simple præsentation skelner dog mellem en indre og en ydre motivation. Der er skrevet meget om motivationsteori og denne artikel har ikke til formål at diskutere det igennem. Men grundlæggende gælder det at lysten og viljen til læring både kan komme indefra og udefra. Og ”afhænger også af de forskellige faglige og sociale sammenhænge, som eleven indgår i med klassekammerater og undervisere”. Det er således plastiske og formbare størrelse – også i forhold til alderstrin og modenhed og den enkelte vil have forskelle tærskelgrænse for hvornår det tipper over. Det er via de faglige og sociale sammenhænge også plastisk og formbart i klassekulturen. Motivationen kan gå op og ned over årene – for den enkelte og for klasserne!

Generelt peger undersøgelser på, at motivationen daler i udskolingstrinene i grundskolen. Mit simple bud er at det vil den gøre uanset hvad vi gør. Det er til dels aldersbetinget. Det er en udpræget – på den ene side – frigørelsesalder og – på den anden side - ”finde-sin-plads”-alder. De voksnes autoritative og rammesættende rolle mindskes og er i stigende grad irriterende. Der er så vanvittigt meget i luften, så mange bolde at jonglere i den alder. Selvfølgelig falder motivationen – gennemsnitligt – for skolearbejdet, for det lærer(voksen)styret i den aldersgruppe. Det kan være en selvforstærkende mekanisme. Den – altså motivationen – kommer oftest igen på et eller andet tidspunkt. Det kan også illustreres med de drømme mange børn og unge har – i de mindre årgange er det ofte heltedrømmene og i det senere årgange er det i højere grad ”get rich quick”-drømmene der huserer. Gennemsnitligt.

Men den mindskede motivation – eller måske ligefrem manglende motivation – er noget vi skal være opmærksom på i uddannelsessfæren. Herunder i forhold til anvendelsen af GenAI-værktøjer. Fordi den rammesatte, stilladseret, legesyge og respektfulde (både overfor teknologien og overfor lærerens anvisninger) anvendelse af teknologi kan for mange elever smuldre væk. Nu skal den – i højere grad – bruges effektiviserende. Præ-GenAI skete dette også med informationsværktøjer og internettet. Den nysgerrige og afsøgende tilgang blev med alderen svækket i forhold til det hurtige svar, det hurtige produkt. En del af det er nok individuelt, noget andet er formentlig nogle af de sociale mekanismer, der foregår iblandt eleverne. Det er sjældent særligt smart at være en stræber eller en såkaldt try-harder. Og igen vil jeg gerne understrege at jeg taler i skalaer her og mit argument er fordelingen ændrer sig i løbet af skoletiden. Så kan vi kalde det skoletræthed eller bare andre lyster og interesser. Noget er der på spil, der som sådan ikke har så meget at gøre med selve skolens natur.

En af årsagerne til ændringen i motivationen handler formentlig også om præstationsprincippet, der også hersker i uddannelsessfæren, som både kan virke med og mod de øvrige principper. Et princip der netop også først begynder at sætte ind i udskolingen. Nogle bliver motiveret for at præstere (jf. målorienteringsteorien – hvilket så både kan underbygge principperne om læring og udvikling. Men det er netop ingen garanti. Præstationsprincippet påvirker nok også lærernes agenda og rammerne for undervisningen. Således kan andre blive demotiveret af præstationselementet og den måske mere stramme rammesætning af undervisningen og større fokus på præstationer (jf. selvbestemmelsesteorien og selvopfattelsesteorien) og andre igen føler et behov for at nå de gode – eller gode nok – præstationer lidt lettere. Også selvom de måske godt ved de kan komme til at anvende nogle metoder som måske ikke helt er legitime. Her kan teknologierne (nettet, Youtube, GenAI) spille med og mod disse tendenser – på godt og ondt. Nogle vil bruge det til at øge sit eget faglige niveau, mens andre af forskellige årsager vil bruge det til at hutle sig igennem eller snyde mere eller mindre på vægten.

Så her kan altså være et misalignment mellem hvad de centrale principper for uddannelsessfæren lægger op til i forhold til brug af GenAI og hvad – de vel nok mest centrale eleverne – aktører kan finde på at bruge dem til. Af forskellige årsager. Også selvom de er blevet undervist og trænet til at bruge værktøjerne på den rigtige måde. Fx fordi eleven ikke accepterer præmissen for læringen – ”hvorfor skal jeg dog lærer det”. Det vil i hvert fald ikke være første gang det sker. Risici for læringstab er her derfor relativt store. Så kan det argumenteres for at eleven uden eller med kun lidt motivation alligevel ikke vil få noget ud af det. Og det er måske også rigtigt. Men gør vi det nemmere eller lettere, mere eller mindre sandsynligt ved at inddrage GenAI? Et argument kunne være at anvendelsen af GenAI vil være en motivationsfaktor for nogle typer af elever. Men er det en kritisk masse? Og på hvilken måde?

Rammesætning

Overvejelserne ovenfor kalder også på, at man måske skal gøre sig nogle grundige overvejelser om hvordan man rammesætter brugen ift. elevens læring. I den forbindelse har jeg udviklet følgende model, hvor man kan tænkte på GenAI-værktøjet på en skala fra hvor lukket den er til hvor åben den er. Og hvor passiv-aktiv brugeren er ift. GenAI-værktøjet. Se tabellen for uddybning.

Igen skal man huske at tænke på det i skalaer og ikke binært. Så det er mere eller mindre lukket/åbent og brugeren er mere eller mindre passiv/aktiv. Det kan skitseret i fire-dimensionalt skema som nedenfor. Der eksisterer allerede flere løsninger, der passer ned i de forskellige kasser. For eksempel AI-chatbotter til iBøger; AI-chatbotter der kun svarer indenfor et konkret område; AI-chatbotter der er designet efter den såkaldte sokratiske metode; og så selvfølgelig de åbne modeller, hvor begrænsningerne er bestemt af udbyderne af LLM’en (herunder guardrails, hvad den er trænet på, i hvilken grad den laver internetsøgning for at finde ny materiale osv.)

Der ligger nogle grundige didaktiske overvejelser ift. brugen af hhv. typer af GenAI-værktøjer af typer fra hhv. Kravlegården, Sandkassen, Sheriffen eller Det vilde vesten. Som med andre læremidler (analoge som digitale) vil læreren formentlig støde på masser af løsninger hvor udbyderen har forsøgt lave en del af dem rammesætning.

Opsummering

Når vi taler skolesystemet, uddannelse og læring skal vi – som i mange andre situationer – huske at skelne mellem de tre sfærer: privatsfæren, arbejdssfæren og uddannelsessfæren. De er overlappende og påvirker selvsagt hinanden. Men er samtidig også væsensforskellige. Det er forskellige formål, modi og logikker der gælder for hvert af de sfærer. Derfor når vi støder på argumentet om, at ”det gør man nemlig i erhvervslivet” skal vi altid lige trække vejret dybt og huske på hvad de centrale formål i uddannelsessystemet er. Undervisningen kan ikke blive 1:1 det der eventuelt foregår på en arbejdsplads! Og skal det heller ikke – fordi der skal først og fremmest foregå læring og dannelse. Det betyder ikke at grundskolen og ungdomsuddannelserne ikke skal være opmærksom på hvad aftagere – om det gælder virksomheder eller videregående uddannelser – laver og gør. Og, lige så vigtigt, i øvrigt forholde sig til hvad der generelt foregår i samfundet. Der skal selvsagt foregå noget spejling, men det skal ske på uddannelsessystemets præmisser: herunder formålene. Det betyder selvfølgelig at eleverne skal stifte bekendtskab med GenAI-teknologien. De skal i den grad lære OM teknologien. De skal PRØVE teknologien. De skal til en vis grad også undervises I BRUGEN af teknologien. Men som jeg har argumenteret for ovenfor, skal vi være meget opmærksomme på hvilken betydning en stærk integration af GenAI-værktøjerne kan have for elevernes læring generelt. Værktøjerne inviterer i høj grad til effektivisering og det vil i mange tilfælde måske gavne produktskabelse, men ikke læring. Produktivitets- og effektiviseringselementet er ikke særligt relevant i uddannelsessfæren. Der mangler eleverne nogle fundamentale faglige ståsteder først.

Det er heller ikke givet at GenAI-lærerassisten eller -tutoren vil have en net-positiv effekt på den enkelte elevs læring. Nogle ja, men andre nej. Der er en del forskning i gang på området, der peger lidt forskellige veje. De bedste bud på en positiv effekt, indtil videre, har været ret lukkede systemer med indbygget adaptiv struktur (for eksempel med en databank med konkrete øvelser). Det vil sige LLM’en også bevæger sig en ret lukket struktur – noget der minder meget om Kravlegården eller Sandkassen.