Lad dig ikke forføre
Lad dig ikke forføre
Det betyder dog også, at vi begynder at nærme os en virkelighed, hvor vi ikke nødvendigvis kan kende forskel på, om det er en computer eller et menneske, vi skriver sammen med.
Sprogmodeller og generativ AI er ikke nødvendigvis designet til at give sande udsagn, men snarere udsagn, der statistisk set er belæg for i relation til modellens træningsdata. Systemerne er ofte bevidst designet til at fremstå meget menneskelige, i den måde de responderer, hvilket betyder, at vi også nemt bliver imponerede over deres svar. Der er ofte ganske god grund til at være imponeret, men udover en kildekritisk tilgang er det vigtigt at kigge sig selv i spejlet og overveje følgende ...
- 1
Benytter du et system, eller er du i dialog med en robot?
Det er helt naturligt, hvis du har fanget dig selv i at skrive sætninger som "ChatGPT skriver til mig at ...", hvis du skriver "vil du være sød at hjælpe mig med ..." og "tak for svaret", sendt eller modtaget smileyer til fra en generativ AI-platform. Det kaldes for antropomorfisme, når systemer tillægges menneskelige egenskaber. Og det forstærkes når f.eks. ChatGPT skriver langsomt tilbage, bruger smileys og taler meget direkte til dig mv.
Overvej konsekvent at omtale det som et system, og overvej om du ønsker at omtale det som at være i dialog med en sprogmodel. Vær bevidst når du evaluerer, at det har en stærk overbevisende kraft når systemer kan gå i "dialog".
- 2
Kan du vurdere svaret?
Mennesker har en tendens til at overvurdere information fra systemer i sammenligning med information fra andre kilder. Dette fænomen kaldes automation bias og kan beskrives som en tilbøjelighed til at tænke: "Når systemet nu siger ... så må det nok være rigtigt."
Ifølge UNESCO's materiale om ChatGPT er et væsentligt spørgsmål, du altid bør stille dig selv: Har du ekspertise nok inden for et givent område til at vurdere et svars gyldighed? Særligt fordi AI kan give misvisende svar, og bl.a. på grund af automation bias er det derfor vigtigt, at du er kritisk og reflekterende. Jo mindre du ved om et emne, jo mere kritisk bør du være og overveje, om andet end generativ AI kan give dig et bedre indblik i eksempelvis et emne.
- 3
Hænger din hjerne fast på første antagelse?
Den første information, vi modtager om et givent emne, har en tendens til at blive hængende og kan danne grundlag for vores videre vurdering af anden information. Denne skævhed kaldes for anchoring bias, og det er vigtigt at frigøre sig fra den. Dette gælder i al tænkning, men især i forhold til generativ AI kan det være væsentligt at arbejde bevidst med det. Udfordr derfor dig selv, når du finder ny information om et emne, om du vurderer det selvstændigt eller om du vurderer det i forhold til det første input, du fik, f.eks. gennem generativ AI.
- 4
Får du svar som du spørger?
Confirmation bias er den skævhed der gør, at vi ofte søger, tolker og husker oplysninger på en måde, der bekræfter eller styrker vores eksisterende overbevisninger eller hypoteser, samtidig med at vi undgår eller ignorerer oplysninger, der modsiger dem.
For at modvirke confirmation bias er det vigtigt at have opmærksomhed på det og bestræbe sig på at søge en bred vifte af kilder og synspunkter. Det kan du gøre på tværs af platforme og i etablerede kilder, men du kan også sørge for, at du er åben i dine prompts og ikke forsøger at præge i en specifik retning. Du kan eksempelvis prøve med input, der udforsker argumenter både for og imod en antagelse.
Arbejd klogt i gruppen
Arbejder du i en gruppe, så overvej om I skal lave jeres prompts sammen, eller hver for sig, og så efterfølgende sammenligne resultatet. Sidstnævnte tager længere tid, men kan være med til at sikre, at I ikke tænker for ens i gruppen og får udfordret nogle af de skævheder, vi har.