Grundig indføring i bias i kunstig intelligens
Bias – eller skævheder – er en af de mange risici der er ved store sprogmodeller (og andre typer af de teknologier vi kalder kunstig intelligens). På viden.ai har Claus skrevet en rigtig god og grundig artikel om dette.
Der er tale om en rigtig fin indføring i forskellige typer af bias, fra den algoritmiske, hvor det er skævheder i træningsdata, over tilgængelighedsbias og repræsentationsbias og til de mere modtagerbårne som bias i kontekst, forankring eller bekræftelsesbias, hvor vi kun hører det som understreger vores allerede eksisterende overbevisninger.
Artiklen har en fin pointe om, at finjustering af sprogmodeller med menneskelig feedback kan introducere yderligere bias afhængigt af feedbackgiverens perspektiv.
Endelig påpeges skævheder ud fra personaliserede visninger, for eksempel i søgeresultater eller køb, baseret på brugernes tidligere adfærd.
Artiklen opfordrer til en kritisk forståelse af skævheder i sprogmodeller og informationskilder generelt. Den er lang. Men den er også virkelig informativ, saglig og lærerig:
Malte
Jeg er viceskoleleder på Langebjergskolen i Humlebæk. Tidligere har jeg blandt andet været it-didaktisk konsulent i Future Classroom Lab, innovationschef i Gyldendal, afdelingsleder og it-vejleder på Lindehøjskolen i Herlev, it-vejleder på Utterslev Skole i København og uddannelseskonsulent hos Dansk IT. Jeg har tidligere siddet i styrelsen for Danmarks IT-vejlederforening, hvor jeg frem til 1. september 2010 var formand. Jeg cand.it i It, læring og organisatorisk omstilling fra AAU. Jeg har bl.a. deltaget i arbejdet med Undervisningsministeriets it-bevis, bedømmelseskomiteen for projektkonkurrencen om netbaserede læringsmidler og som ekspert i Danmarks Evalueringsinstituts evaluering af IT i Folkeskolen (ITiF). Desuden har jeg optrådt som oplægsholder og kursusleder på en række foredrag, kurser og workshops om skole, it og læring. I 2006 fik jeg ideen til Torvet på Uddannelsesforum som siden er blevet gentaget i større og større omfang. Grundideen i Torvet er at man udveksler gode ideer til gratis programmer og hvordan de kan bruges i skolen, men da jeg ved at man ikke altid er så god til at give ideer fra sig plejer jeg at alliere mig med et par gode bidragsydere og sikre at der programmer nok på programmet! Torvet var med på Danmarks Læringsfestival for foreløbig sidste gang i 2019. Bloggen blev startet i 2008 og har genn m tiden haft mange gæstebloggere og mere faste bidragsydere - og der er altid plads til andre der vil være med til at dele.
