Det er en misforståelse at tro, at AI-modeller er objektive, fordi de er datadrevne. Da de er statistiske sandsynlighedsmaskiner, der er trænet på enorme mængder af data primært fra internettet, vil sprogmodellen både indeholde det smukkeste og det grimmeste af menneskelig tænkning.

Derfor vil den i udgangspunktet:

• Følge flertalsopfattelsen: AI'en vælger det statistisk mest dominerende udfald, hvorved minoritetsperspektiver, alternative teorier og sproglige nuancer systematisk underrepræsenteres. Det er værd at bemærke, at i en sprogmodelkontekst vil f.eks. danske kulturbegreber syne som et minoritetsperspektiv i forhold til amerikanske. Netop fordi mængden af amerikansk data langt, langt overstiger mængden af dansk.
• Reproducere og forstærke stereotypier: Fordi data afspejler historiske skævheder, vil AI'en reproducere dem. Billedgeneratorer portrætterer eksempelvis oftest læger som hvide mænd og sygeplejersker som unge kvinder, fordi det er det mønster, der dominerer på nettet. Sprogmodeller vil på samme måde genskabe associationer mellem bestemte køn eller minoriteter med specifikke roller eller lavere faglige niveauer.

Hvad kan jeg selv gøre?

Styr aktivt uden om mainstream-perspektivet: Bed eksplicit modellen om at belyse problemstillingen ud fra specifikke, alternative teorier, minoritetsperspektiver eller ikke-vestlige kontekster (f.eks. "Analyser denne problemstilling med udgangspunkt i postkolonial teori snarere end et klassisk vestligt paradigme").

Kontekstualiser til en dansk/nordisk ramme: Husk, at modellens standardsvar ofte bygger på en amerikansk samfunds- og retsforståelse. Specificér altid, hvis analysen skal tage højde for særlige danske institutionsforhold, lovgivning eller kulturelle træk.

Efterprøv altid faglige påstande i primærkilder: Brug aldrig sprogmodellen som primærkilde til empiriske fakta eller historiske sammenhænge; brug den som idékilde, og verificér derefter pointerne via faglige biblioteksdatabaser og litteratur.
 

Fremtidens AI-modeller risikerer at blive trænet på et stærkt skævvredet og lavkvalitetsmæssigt grundlag med overvægt af misinformation. Nyere forskning peger nemlig på en markant asymmetri i det materiale, der er tilgængeligt på internettet for AI-chatbots og som træningsdata: Hvor et markant flertal af de troværdige kvalitetsmedier og politisk neutrale kilder aktivt blokerer AI-crawlere for at beskytte deres data, holder misinformationssider og stærkt polariserede kilder døren vidt åben. Allerede i dag har det betydning. F.eks. kan Copilot, Google eller ChatGPT ikke hente en kilde direkte fra DR's hjemmeside, da de blokerer for adgang.

Det er ofte dig selv, der er den største kilde til bias i chatten. Vores egne blinde vinkler og fordomme påvirker dialogen og bliver dermed en central udfordringer i samspillet mellem menneske og kunstig intelligens.

Vi har alle en biologisk indbygget tendens til confirmation bias: vi søger og husker ubevidst information, der bekræfter vores eksisterende antagelser. Det kan afspejle sig direkte i, hvordan vi prompter:

• Ledende prompts: Hvis du prompter: "Beskriv sammenhængen mellem X og Y", fortæller du implicit maskinen, at der findes en sammenhæng. Da sprogmodeller er kodet til være samarbejdsvillig, vil den hurtigt og overbevisende beskrive denne sammenhæng. Også selvom den faglige virkelighed kan være langt mere nuanceret, eller sammenhængen måske slet ikke findes.
• Det lukkede feedback-loop: Interaktionen med AI er ikke et ensidigt input/output-forhold, men et dynamisk samspil, hvor du påvirker AI'en, og AI'en påvirker dig. Dine forventninger og dit sprog styrer, hvordan AI'en svarer, og den spejler dermed din tænkning. Sker der samtidig det, at du rammes af automation bias (at du ukritisk overvurderer systemets svar) og anchoring bias (at du hænger fast i den første information, du modtog fra AI'en), kan du lande i et uhensigtsmæssigt feedback-loop. Maskinen bekræfter dine antagelser, og du låses fast i dit eget kognitive ekkokammer.

Hvad kan jeg selv gøre?

For at modvirke din egen bias skal du være adaptiv og eksplorativ i din studieteknik og frem for alt være opmærksom på din egen påvirkning:

Stil åbne spørgsmål: Spørg altid undersøgende: "Findes der en sammenhæng mellem X og Y, og hvad taler eventuelt imod den?".

Søg aktivt modargumenter: Modvirk din confirmation bias ved eksplicit at prompte modellen til at udforske argumenter både for og imod dine egne faglige antagelser.

Forskning viser, at AI-værktøjer paradoksalt nok primært gavner de studerende, som i forvejen er fagligt stærke. De har nemlig den faglige ballast, der skal til for at gennemskue maskinens fejl og bruge den som en kritisk sparringspartner. For studerende, der kæmper med det faglige, er der en langt større risiko for ureflekteret kognitiv aflastning (cognitive offloading), hvilket kan føre til en stagnation i læringen, hvor man producerer hurtigere, men reelt lærer mindre.

Hvad kan jeg selv gøre?

Brug AI som sokratisk sparringspartner: Undgå at bede modellen om at levere løsninger eller formuleringer. Bed den i stedet om at guide dig fremad gennem spørgsmål; f.eks.: "Stil mig tre uddybende spørgsmål til mit emnevalg, som tvinger mig til at præcisere min problemstilling.".

Hvis du gerne vil prøve kræfter med en chatbot, der helt selv forsøger at være en kritisk sparringspartner, der udfordrer dine valg og forsøger at understøtte din faglige udvikling, kan du prøve vores sokratiske PBL-agent i Copilot.

Definér dine egne faglige succeskriterier først: Inden du prompter modellen, kan du formulere, hvad et godt fagligt svar overhovedet skal indeholde (f.eks. hvilke teorier, begreber eller metodiske krav opgaven fordrer). På den måde bevarer du procesejerskabet og lader ikke modellens tilfældige fokus diktere din faglige retning. Se også forslaget om at lave en "hjernestart" før du åbner din chatbot.

Gør bearbejdning til en læreproces: Hvis du bruger AI til at opsummere en kompleks tekst, så brug opsummeringen som en læsevejledning frem for en erstatning for selve teksten; læs stadig nøgleafsnittene selv for at forstå nuancerne.

AI føles immateriel, men sprogmodeller slider voldsomt på planetens ressourcer i form af et massivt strømforbrug og enorme mængder vand til køling af datacentre. Over en tredjedel af studerende på AAU udtrykker, at klima- og miljøkonsekvenserne ved generativ AI bekymrer dem i deres studiehverdag. Derfor bør du vurdere, hvornår AI er det rette værktøj til opgaven, og hvornår du kan løse opgaven med mere energieffektive redskaber som f.eks. en almindelig søgemaskine eller et opslag i din pensumlitteratur.

Hvad kan jeg selv gøre?

Vælg det rette værktøj til opgaven: Overvej, om du behøver en energitung sprogmodel til simple informationssøgninger, som en traditionel søgemaskine eller et databaseopslag klarer mere præcist og til en brøkdel af ressourceforbruget.

Minimer unødvendige prompt-iterationer: Vær præcis og velovervejet i dine prompts fra start, så du undgår lange, ustrukturerede samtaler med mange overflødige genereringer.

Genbrug prompts og strukturer i studiegruppen: Del velfungerende arbejdsgange og opsummeringer internt i gruppen i stedet for, at alle gruppemedlemmer genererer parallelle svar på de samme spørgsmål.