AMSTERDAM — Wie in een bepaalde wijk in Rotterdam-Zuid woont, een studieschuld heeft of een niet-Nederlands klinkende achternaam bezit, heeft bij de grote Nederlandse banken en verzekeraars een onzichtbare achterstand. Achter de schermen van de financiële sector is de beoordeling van kredietwaardigheid en frauderisico’s vrijwel volledig overgedragen aan geavanceerde AI-systemen. Uit intern onderzoek van deze krant, gebaseerd op gelekte algoritme-specificaties en gesprekken met data-engineers, blijkt dat deze 'zwarte dozen' op grote schaal discrimineren. De wet wordt omzeild en de burger tast volledig in het duister.
Wanneer u tegenwoordig een hypotheek aanvraagt, een lening wilt afsluiten voor een auto, of simpelweg een autoverzekering online invult, is het al lang niet meer een menselijke adviseur die uw dossier beoordeelt. Binnen enkele milliseconden velt een algoritme het vonnis. "Goedgekeurd" of "Afgewezen". De belofte van deze AI-modellen was helder: objectiviteit. Computers hebben immers geen vooroordelen, zo luidde het verkoopargument van de softwareontwikkelaars. De realiteit blijkt echter exact het tegenovergestelde te zijn. AI automatiseert en vergroot de bestaande menselijke vooroordelen uit het verleden.
De proxy-variabelen van Rotterdam-Zuid
Het grote geheim van de financiële AI-modellen zit in het gebruik van zogenaamde proxy-variabelen. Volgens de Nederlandse wet is het expliciet verboden om te selecteren of te discrimineren op basis van afkomst, geslacht of religie. Maar een algoritme heeft die data helemaal niet nodig om die groepen er toch uit te filteren.
"Als we het model trainen op historische data, leert de AI patronen herkenen," legt een data-scientist uit die tot begin dit jaar werkte bij een van de drie grootbanken in Nederland. Hij spreekt op voorwaarde van anonimiteit, omdat hij een strikt geheimhoudingscontract heeft getekend. "Het algoritme ontdekt al snel dat mensen in bepaalde postcodes, met specifieke tijdelijke contracten of met een bepaald type telefoonabonnement statistisch gezien vaker betalingsproblemen hebben. Postcode en inkomen worden zo een proxy voor etniciteit. Zonder dat het woord 'afkomst' één keer in de code voorkomt, sluit het model wel exact die groepen uit."
Uit de documenten die deze redactie kon inzien, blijkt dat een grote Nederlandse verzekeraar een AI-model gebruikte voor het opsporen van verzekeringsfraude. Het model gaf een 'rode vlag' bij aanvragen waarbij de klant binnen een bepaalde straal van een specifieke Turkse of Marokkaanse supermarkt woonde, of een achternaam had die door het systeem werd gecategoriseerd als "niet-westerse klankstructuur". Het gevolg? Duizenden eerlijke burgers werden zonder pardon geweigerd of moesten torenhoge premies betalen, simpelweg omdat ze in de verkeerde straat woonden.
Het Toeslagenaffair-syndroom in de private sector
Dit patroon doet direct denken aan het Toeslagenaffaire bij de Belastingdienst, waar een discriminerend algoritme de levens van duizenden gezinnen verwoestte. Maar waar de overheid in theorie nog ter verantwoording kan worden geroepen via de politiek en de rechter, opereren private banken en verzekeraars in een juridisch schemergebied.
"De financiële sector verschuilt zich achter het intellectueel eigendom," zegt prof. dr. Frederieke de Jong, hoogleraar recht en kunstmatige intelligentie. "Als een burger vraagt waarom zijn lening is geweigerd, krijgt hij te horen: 'U voldoet niet aan onze risicoprofielen'. De bank weigert de exacte werking van het algoritme prijs te geven aan de klant of de rechter, omdat dit hun 'bedrijfsgeheim' zou zijn. Dit creëert een totale rechtsongelijkheid. Je bent schuldig tot het tegendeel is bewezen, maar je weet niet eens waarvan je wordt beschuldigd."
Bovendien blijkt uit ons onderzoek dat veel van deze AI-modellen niet eens door de Nederlandse banken zelf zijn gebouwd. Ze worden als kant-en-klare softwarepakketten ingekocht bij Amerikaanse techbedrijven. Deze systemen zijn getraind op Amerikaanse data, waar raciale en sociaaleconomische scheidslijnen nog vele malen dieper zijn. Dit 'black box'-model wordt vervolgens zonder fundamentele aanpassingen losgelaten op de Nederlandse samenleving.
De falende toezichthouder
Hoe kan het dat de Autoriteit Financiële Markten (AFM) en de Autoriteit Persoonsgegevens (AP) dit laten gebeuren? Uit interne memo's van de toezichthouders blijkt dat er een chronisch gebrek is aan technische expertise. De toezichthouders controleren of de banken de juiste procedures op papier hebben staan, maar ze hebben simpelweg de mankracht en de tools niet om de miljoenen regels code van de AI-modellen daadwerkelijk door te lichten (een zogenaamde algoritme-audit).
Een inspecteur van de AP reageert gefrustreerd: "De banken lachen ons uit. Ze komen aan met rapporten van dure consultancykantoren waarin staat dat hun AI 'fair' en 'transparant' is. Wij hebben niet de capaciteit om dat te controleren. De tech-industrie loopt lichtjaren voor op de wetgeving en op ons als toezichthouder. We lopen achter de feiten aan terwijl er dagelijks burgers worden gedupeerd."
De onzichtbare uitsluiting
Voor de getroffenen is de impact enorm, maar vaak onzichtbaar. Wie wordt geweigerd voor een hypotheek krijgt geen brief waarin staat dat het algoritme hem heeft gecategoriseerd als risico vanwege zijn buren. Men zoekt de fout bij zichzelf, of accepteert de afwijzing als een voldongen feit. De sociale mobiliteit in Nederland wordt hierdoor in stilte verstikt: wie al achterstaat, wordt door de AI definitief in de hoek gezet waar de klappen vallen.
Terwijl de banken in hun jaarverslagen pronken met miljardenwinsten dankzij "efficiëntere, door AI-gedreven risicoanalyses", groeit aan de onderkant van de samenleving de groep burgers die digitaal wordt buitengesloten. De vooringenomenheid is gecodeerd, geautomatiseerd en op bestelling leverbaar. En zolang de code geheim blijft, blijft de discriminatie perfect legaal.
In het volgende deel van dit onderzoek: De opkomst van de deepfake-industrie in Nederland. Hoe criminelen met spotkope AI-software de stemmen van kinderen nabootsen om Nederlandse ouders duizenden euro's afhandig te maken.