Profilering
Hvad er det?
Profilering handler om at bruge data til at forudsige eller antage noget om en person – for eksempel deres adfærd, præferencer, økonomi eller troværdighed. Med kunstig intelligens og adgang til store datamængder er det blevet muligt at lave meget detaljerede og præcise profiler af enkeltpersoner, selv ud fra tilsyneladende harmløse oplysninger.
AI-systemer kan analysere købsmønstre, browserhistorik, sociale medier, sundhedsdata og økonomisk adfærd – og derefter forudsige, hvem der vil købe et bestemt produkt, snyde med skat, være en god ansøger eller måske en potentiel trussel. Men denne form for profilering rejser en række etiske og samfundsmæssige spørgsmål.
Hvis profilerne er meget præcise, kan de give enorm magt til dem, der ejer og bruger dem – hvad enten det er kommercielle virksomheder eller offentlige myndigheder. Det kan bruges til at personalisere markedsføring eller til at identificere sociale bedragere – men det kan også grænse til masseovervågning, hvor folk styres eller straffes på baggrund af statistiske forudsigelser frem for handlinger.
Omvendt kan fejlbehæftede eller biased profiler have katastrofale konsekvenser for den enkelte. Når mennesker fejlprofileres, kan det føre til uretfærdige afslag på lån, uberettiget mistænkeliggørelse, tab af velfærdsydelser eller endda straf og fængsling.
Eksempler
Et af de mest kendte og alvorlige eksempler på fejlslagen AI-profilering fandt sted i Holland i 2021, hvor tusindvis af borgere uretmæssigt blev anklaget for socialt bedrageri baseret på en AI-algoritme. Systemet ramte især borgere med anden etnisk baggrund og lav socioøkonomisk status. Skandalen førte til, at hele regeringen måtte gå af – og det blev et internationalt wake-up call om, hvor farligt det er, når algoritmisk profilering får faktiske konsekvenser uden tilstrækkelig menneskelig kontrol.
I skrivende stund behandles et lovforslag, som vil give Politiets Efterretningstjeneste mulighed for at bruge AI til at profilere danske borgere på baggrund af sundhedsdata, sociale medier og bevægelsesmønstre – uden konkret mistanke. Kritikere advarer om masseovervågning og svækket retssikkerhed.
Hvad skal man overveje?
Overvej altid, hvordan og hvorfor du laver profiler med AI. Spørg dig selv: Hvilke data bruger jeg? Er de retvisende? Og bliver der taget beslutninger direkte på baggrund af profilerne – eller fungerer de blot som støtte til menneskelig vurdering?
Hvis din organisation bruger AI til at segmentere, prioritere eller forudsige menneskelig adfærd, bør du sikre, at profilerne ikke diskriminerer eller rammer skævt, og at der er mulighed for indsigt og klage for de borgere eller kunder, der bliver berørt.
AI-profilering kan være effektivt – men det kræver ydmyghed, transparens og ansvarlighed, hvis vi skal undgå, at teknologi bliver til digital magtmisbrug.