Kunstmatige intelligentie is niet neutraal. Het weerspiegelt bestaande discriminatie en ongelijkheden in de maatschappij en versterkt die zelfs. Dat is de uitkomst van een onderzoek aan de VUB.
Artificiële intelligentie lijkt een krachtig hulpmiddel dat ons leven kan verbeteren, maar er leven ook zorgen. Die gaan vooral over bias in de systemen. De onderzoekers van de VUB stellen nu dat die bias niet zomaar een technisch probleem is. Het wordt beïnvloed door maatschappelijke machtsdynamieken en is dus volgens het onderzoek een veel groter probleem.
Dat komt doordat AI-systemen worden getraind met historische gegevens, die vaak onderhevig waren aan vooroordelen. Dat betekent dus dat AI-systemen die vooroordelen overnemen en verder verspreiden. AI reproduceert dus ongelijkheid en versterkt ze.
AI zonder menselijke controle versterkt discriminatie
“Onze studie belicht pertinente voorbeelden waarin AI bestaande vooroordelen heeft versterkt,” zegt professor Bircan. “Een opvallend geval is Amazons AI-gestuurde wervingshulpmiddel, dat mannelijke kandidaten bevoordeelde en zo genderongelijkheid op de arbeidsmarkt versterkte. Evenzo hebben door de overheid gebruikte AI-systemen voor fraudedetectie ten onrechte gezinnen, met name migranten, beschuldigd van fraude, met ernstige gevolgen voor de betrokkenen. Deze voorbeelden tonen aan dat AI, in plaats van vooroordelen te elimineren, discriminatie kan versterken als er geen controle en transparantie is. Zonder verantwoordelijkheid en transparantie loopt AI het risico een instrument te worden dat bestaande sociale hiërarchieën verstevigt in plaats van ze uit te dagen.”
Het onderzoek van professor Bircan benadrukt dat AI-beheer verder moet gaan dan techbedrijven en ontwikkelaars. Omdat AI afhankelijk is van data van gebruikers en ontwikkelaars, moeten transparantie en inclusiviteit centraal staan in het ontwerp, de inzet en de regulering. Zonder dat zal AI de digitale kloof verder vergroten en socio-economische ongelijkheden verdiepen.
Ondanks de uitdagingen biedt de studie ook hoop. “In plaats van de tekortkomingen van AI als onvermijdelijk te accepteren, pleiten we in ons werk voor proactieve beleidsmaatregelen en kaders die ervoor zorgen dat AI sociale rechtvaardigheid bevordert in plaats van ondermijnt. Door eerlijkheid en verantwoordelijkheid vanaf het begin in AI te verankeren, kunnen we het potentieel ervan benutten voor positieve verandering, in plaats van het te laten bijdragen aan systemische ongelijkheden,” concludeert professor Bircan.
Tip:
- Belgen verwachten dat AI financiële transacties zal versnellen