AI-charter stiller krav til spiludbydere: Mennesket skal kunne gribe ind

En ny branchemodel fra Malta stiller skarpt på de beslutninger, som spiludbydere overlader til kunstig intelligens. Især når teknologien opdager risikospil, overvåger kunder eller træffer afgørelser med betydning for deres konti.

Kunstig intelligens kan opdage et mistænkeligt spillemønster, udpege en kunde som mulig hvidvaskrisiko eller registrere tegn på spilproblemer.

Men hvad sker der, hvis systemet tager fejl?

Det spørgsmål er centralt i et nyt AI Gaming Charter, som Malta Gaming Authority og Malta Digital Innovation Authority offentliggjorde 18. september.

Charteret er målrettet spiludbydere og leverandører med tilladelse fra Malta Gaming Authority. Det anbefaler blandt andet, at virksomhederne dokumenterer, hvordan deres AI-systemer anvendes, gemmer relevante beslutningsspor og sikrer, at et menneske kan kontrollere, tilsidesætte og i relevante tilfælde omgøre en automatisk afgørelse.

Maltas spillemyndighed kalder charteret et af de første europæiske initiativer, der omsætter generelle principper for kunstig intelligens til konkrete forhold i spillebranchen.

Det omfatter både AI i kundeservice, markedsføring og spiludvikling samt systemer, der bruges til spillerbeskyttelse, svindelkontrol og bekæmpelse af hvidvask.

AI bruges allerede på tværs af branchen

Charteret bygger blandt andet på en undersøgelse blandt spilvirksomheder med maltesisk tilladelse.

Den viser ifølge myndigheden, at AI allerede anvendes til blandt andet personaliserede anbefalinger, chatbots, automatiseret kundeservice, målrettet markedsføring, udvikling af spil og analyse af kundernes adfærd.

Teknologien bruges også til at identificere mistænkelige aktiviteter, opdage mulig svindel, overvåge hvidvaskrisici og finde tegn på problematisk spil.

Men virksomhedernes formelle styring af teknologien er ikke nødvendigvis fulgt med udviklingen.

Kun et mindretal af de virksomheder, der deltog i myndighedens undersøgelse, oplyste, at de allerede havde en formel AI-strategi eller køreplan. Hos en større gruppe var strategien fortsat under udvikling.

Det betyder, at teknologien i nogle virksomheder kan være taget i brug, før der er etableret en samlet model for ansvar, kontrol og håndtering af fejl.

En medarbejder skal kunne overtage

Et af charterets mest konkrete principper er, at AI ikke bør erstatte menneskelig dømmekraft i beslutninger, der kan få væsentlig betydning for en spiller.

Spiludbyderen bør ifølge dokumentet sikre et kontrolniveau, der passer til systemets risiko og betydning. Det skal være muligt for en medarbejder at gennemgå og tilsidesætte systemets resultat - og om nødvendigt omgøre en AI-genereret beslutning.

Det gælder eksempelvis, hvis et system udpeger en kunde som mulig svindler, registrerer tegn på hvidvask eller påvirker en beslutning om spillerbeskyttelse.

Virksomheden kan ikke blot henvise til sin algoritme, hvis afgørelsen får negative konsekvenser. Charteret understreger, at spiludbyderen fortsat bør være ansvarlig for resultaterne af de AI-systemer, som den anvender.

Hvis en spiller rammes af en skade eller en fejlagtig beslutning, bør virksomheden derfor have procedurer til at identificere problemet, rette fejlen og gennemføre relevante afhjælpende tiltag.

FAKTA: Det anbefaler AI-charteret

Spiludbyderen bør dokumentere, hvor og hvorfor AI anvendes.

Systemets version, input, resultat og eventuelle fejl bør kunne spores.

Menneskelig kontrol skal tilpasses beslutningens risiko og betydning.

En medarbejder bør kunne gennemgå, tilsidesætte og om nødvendigt omgøre en beslutning.

Spillere bør kunne få menneskelig hjælp, når automatiseret kundeservice ikke slår til.

Virksomheden bør løbende kontrollere systemet for fejl, skævheder og diskrimination.

Charteret er frivilligt og indfører ikke nye juridiske forpligtelser.

Chatbotten skal opdage, hvornår den ikke er nok

Charteret går også tæt på virksomhedernes brug af AI i kundeservice.

Spiludbydere bør på forhånd fastlægge situationer, hvor en chatbot eller anden automatiseret kundekontakt skal sende samtalen videre til en uddannet medarbejder.

Det kan ifølge dokumentet være tilfældet, hvis systemet gentagne gange leverer usikre svar, ikke kan løse kundens problem eller registrerer tegn på sårbarhed, mistrivsel eller spilskade.

En kunde, der direkte beder om at tale med et menneske, bør ligeledes kunne blive stillet videre.

Anbefalingen er særlig relevant i spillebranchen, fordi den samme chatbot både kan møde en kunde med et almindeligt teknisk problem og en spiller, der er ved at miste kontrollen over sit spil.

Hvis systemet ikke forstår forskellen, kan automatiseringen forsinke den hjælp, som spilleren har brug for.

Beslutninger skal kunne spores

Virksomhederne opfordres også til at føre log over deres AI-systemer.

Dokumentationen kan blandt andet omfatte systemets version, tidspunktet for en aktivitet, det anvendte input, det genererede resultat og efterfølgende menneskelig kontrol.

Hvis en medarbejder har tilsidesat eller gennemgået systemets vurdering, bør det også fremgå.

Kravet til dokumentationen skal ifølge charteret afhænge af systemets betydning.

Et internt værktøj til administrative opgaver kræver ikke nødvendigvis samme kontrol som et system, der påvirker en spillers konto, markedsføring, spillerbeskyttelse eller behandling som mulig hvidvaskrisiko.

Samtidig advarer charteret mod en anden risiko: Mere dokumentation må ikke føre til unødvendig indsamling og opbevaring af personoplysninger.

Frivilligt charter – eksisterende lovgivning gælder stadig

Charteret er ikke en ny lov og skaber ikke i sig selv bindende krav.

Malta Gaming Authority understreger i sin meddelelse, at der er tale om en frivillig og principbaseret ramme. Virksomheder med maltesisk tilladelse opfordres til at følge den, men charteret ændrer ikke deres eksisterende juridiske forpligtelser.

Det betyder dog ikke, at brugen af AI er uden bindende regler.

EU’s AI-forordning bygger på en risikobaseret model, hvor kravene afhænger af systemets formål og konsekvenser. EU-Kommissionen fremhæver blandt andet gennemsigtighed, dokumentation og menneskelig kontrol som centrale elementer.

GDPR kan samtidig give personer rettigheder, når en virksomhed træffer afgørelser alene gennem automatiseret behandling, og afgørelsen har juridiske eller tilsvarende væsentlige konsekvenser.

Hvor reglerne finder anvendelse, kan en berørt kunde blandt andet have ret til information om den automatiserede behandling, menneskelig indgriben og mulighed for at anfægte afgørelsen.

Også relevant for det danske marked

Det maltesiske charter er ikke dansk lov, og en maltesisk tilladelse giver ikke i sig selv ret til at udbyde spil i Danmark.

Charteret er alligevel relevant for det danske marked, fordi AI-forordningen og GDPR gælder på tværs af EU, når deres betingelser er opfyldt.

Flere af de teknologier og leverandører, der anvendes af internationale spilkoncerner, går desuden på tværs af selskaber og nationale markeder.

Dokumentet giver derfor et konkret indblik i de spørgsmål, som spilvirksomheder kan blive nødt til at besvare, efterhånden som flere afgørelser overlades til kunstig intelligens.

Det afgørende spørgsmål er ikke længere kun, om AI kan opdage en risikabel spiller eller en mistænkelig transaktion.

Det er også, hvem der kontrollerer systemets vurdering, hvem der har ansvaret, når det tager fejl - og om spilleren stadig kan få et menneske i tale.