Lad dig ikke forføre
Lad dig ikke forføre
Det betyder dog også, at vi begynder at nærme os en virkelighed, hvor vi ikke nødvendigvis kan kende forskel på, om det er en computer eller et menneske, vi skriver sammen med.
Sprogmodeller og generativ kunstig intelligens generelt, er ikke nødvendigvis designet til at give sande udsagn, men de udsagn der statistisk set er belæg for. Endvidere er systemerne ofte bevidst designet til at være meget menneskelige, og derfor kan man nemt blive imponeret over deres svar. Der er også ofte grund til at være imponeret, men foruden den kildekritiske tilgang, er det væsentligt lige at kigge sig selv i spejlet, og overveje følgende ...
- 1
Benytter du et system, eller er du i dialog med en robot?
Har du fanget dig selv i sætninger som "ChatGPT skriver til mig at ...", skrive "tak for svaret", sendt eller modtaget smileyer til en generativ AI-platform, så er det helt naturligt. Det hedder antropomorfisme, når systemer tillægges menneskelige egenskaber. Og det forstærkes når ChatGPT eksempelvis skriver langsomt tilbage, bruger smileys mv.
Overvej konsekvent at omtale det som et system, og overvej om du ønsker at omtale det som at være i dialog med en sprogmodel. Vær bevidst når du evaluerer, at det har en stærk overbevisende kraft når systemer kan gå i "dialog".
- 2
Kan du vurdere svaret?
Mennesker kan have en tendens til at overvurdere viden fra systemer, kontra viden fra andre kilder. Det kaldes for automation bias, og kan betragtes som en tendens til at overvurdere i stil med "når systemet nu siger .... så er det jo nok rigtigt".
Jf. Unesco's materiale om ChatGPT er et væsentligt spørgsmål du altid må stille dig selv; har du ekspertise nok inden for et givent område, til at vurdere et svars gyldighed? Særligt fordi AI kan give misvisende svar, og pga. automation bias, er det derfor vigtigt at du er kritisk og reflekterende. Jo mindre du ved om et emne, jo mere kritisk bør du være, og overveje om andet end generativ AI, kan give dig et bedre indblik i eksempelvis et emne.
- 3
Hænger din hjerne fast på første antagelse?
Den første information vi får om et givent emne, har en tendens til at blive hængende, og kan blive rammen for vores videre vurdering af anden information. Denne skævhed kaldes for anchoring bias, og det er væsenligt at sætte os fri af denne. Det gælder i al tænkning, men særligt ift. generativ AI kan det være væsentligt at arbejde bevidst med. Udfordr derfor dig selv, når du finder ny information om et emne, om du vurderer det selvstændigt, eller ift. det første input du fik, f.eks. fra generativ AI.
- 4
Får du svar som du spørger?
Confirmation bias er den skævhed der gør, at vi ofte søger, tolker og husker oplysninger på en måde, der bekræfter eller styrker vores eksisterende overbevisninger eller hypoteser, samtidig med at vi undgår eller ignorerer oplysninger, der modsiger dem.
For at modvirke confirmation bias er det vigtigt at være opmærksom på det og bestræbe sig på at søge en bred vifte af kilder og synspunkter. Det kan du gøre på tværs af platforme, men du kan også sørge for at du er åben i dine prompts, og ikke forsøger at præge i en specifik retning. Du kan eksempelvis prøve med input der udforsker argumenter både for og imod en antagelse.
Arbejd klogt i gruppen
Arbejder du i en gruppe, så overvej om I skal lave jeres prompts sammen, eller hver for sig, og så efterfølgende sammenligne. Sidstnævnte tager længere tid, men kan være med til at sikre at I ikke tænker for ens i gruppen, og får udfordret nogle af de skævheder vi har.