Hver femte svar er fyldt med fejl (Kritik af EB-artikel)

Breaking news!

Generativ AI/Chatbots fortæller ikke altid eleverne (og alle andre) sandheden!

Det har en AI-ekspert sammen med Ekstra Bladet afsløret.
Find artiklen her

Hvis du ved lidt om chatbots i forvejen, vil du nok ikke mene, at det hverken er “breaking” eller “news”. Det er blot oplysning om, hvordan generativ kunstig intelligens virker.

Derfor virker det mildt sagt også som en noget spøjs vinkel, EB og eksperten har lagt over artiklen. Det, jeg læser som deres kritik, er netop den vigtige, grundlæggende kritiske viden, elever (og lærere) skal have, når de arbejder med chatbots (generativ AI) i skolen. Vi skal netop (alle sammen) lære, at det ikke er i chatten, vi skal lære ny fakta. Vi skal faktisk vide ret meget om de emner, vi arbejder med – det skal vi gennem valide kilder, som ikke er baseret på statistisk sandsynlighed.

Til gengæld er sprogmodellerne rigtig gode til fx at sætte sin viden i spil, få nye perspektiver, nye idéer og udfordre holdninger.

Det er også rigtigt, at fx SkoleGPT er en mindre model, som ikke har så stor en datamængde at trække på som flere andre modeller. Det vil give flere forkerte svar. Problemet er, at hele formålet og opstillingen af disse test rammer ved siden af, og udstiller en manglende didaktisk forståelse for, hvordan chatbots kan spille en positiv rolle i skolen.
Det jeg læser i artiklen er. Dette er en helt forkert måde at bruge chatbots på i skolen - og de chatbots de bruger er ikke gode til det. Så synes jeg, at det er et større problem, at chatbots nogle gange bliver brugt forkert, end at de nogle gange tager fejl.

Selv de allerbedste modeller tager fejl (især når der spørges til særlige danske forhold), men de er ofte bedre til at skjule deres fejl. Måske er det ikke så skidt, at eleverne oplever en chatbot som ret tydeligt ikke svare rigtigt på konkrete faktaspørgsmål.

Hvis jeg skulle lave lidt sparring til EB (og andre) og hjælpe med at finde den gode, kritiske vinkel, har jeg lige fem friske forslag:

Indtager klasseværelserne: – men bruges det hensigtsmæssigt?
Indtager klasseværelserne: – men er lærerne klædt på til at guide eleverne?
Indtager klasseværelserne: – men er der styr på data?
Indtager klasseværelserne: – men er det lige for alle?Indtager medierne: – men forstår journalisterne muligheder og begrænsninger?