Auteur: Nathan Genicot

Samenvatting

Social scoring is een van de AI-praktijken die verboden wordt door de AI-wet. Dit verbod is expliciet geïnspireerd door China, dat in 2014 aankondigde een grootschalig overheidsproject te willen opzetten – het Social Credit System – met als doel elke Chinese burger te beoordelen op goed gedrag, met behulp van digitale technologieën en AI. Maar in Europa worden individuen ook beoordeeld door publieke en private instanties in verschillende contexten, zoals het beoordelen van kredietwaardigheid, het monitoren van de productiviteit van werknemers, het opsporen van sociale fraude of terroristische risico’s, enzovoort. Het is echter niet de bedoeling van de AI-wet om deze vormen van scoring te verbieden, aangezien ze als “AI-systemen met een hoog risico” zouden worden aangemerkt, die zijn toegestaan maar aan verschillende eisen moeten voldoen. Je zou daarom kunnen denken dat het verbod op sociale scores geen praktisch effect zal hebben op de scoringspraktijken die al in Europa worden gebruikt en dat het slechts een vage waarborg is voor het geval een autoritaire macht in de verleiding komt om een dergelijk systeem op Europees grondgebied op te zetten. In tegenstelling tot deze zienswijze wordt in dit artikel betoogd dat het verbod op een flexibele manier is geformuleerd, waardoor het waarschijnlijk een nuttig instrument wordt, vergelijkbaar met en complementair aan artikel 22 van de Algemene Verordening Gegevensbescherming, om individuen te beschermen tegen bepaalde vormen van onevenredig gebruik van AI-gebaseerde scoring.