Training Bias in AI Aanpakken: IBM's AI Fairness 360 Toolkit

Eerlijkheid is een hoeksteen van verantwoordelijke kunstmatige intelligentie. Toch blijft het definiëren en afdwingen ervan een complexe uitdaging – vooral wanneer de technologie gebruikt wordt in high-stakes domeinen zoals gezondheidszorg, werving en autonome voertuigen.

IBM's Nieuwe Aanpak

IBM Research lanceert AI Fairness 360, een cloud-gebaseerde, bias-detectie en mitigatie-service die organisaties in staat stelt de eerlijkheid van hun AI-systemen te testen en te verifiëren. De toolkit is gebouwd op open-source metrics en algoritmen die bias meten over datasets en modellen.

De Eerlijkheidskloof in Huidige AI-Praktijken

Volgens Saska Mojsilovic, een Fellow bij IBM Research, heeft de industrie traditioneel nauwkeurigheid boven eerlijkheid geprioriteerd. Ze merkt op dat de eerste vraag die de meeste mensen over AI stellen is: "Kunnen machines mensen verslaan?" In plaats daarvan argueert Mojsilovic: "Wat met eerlijkheid?" en waarschuwt dat ongecontroleerde bias kan leiden tot catastrofale uitkomsten in kritieke sectoren.

Eerlijkheid Ontleden

Om het concept actionable te maken, begon IBM's team met het ontleden van eerlijkheid in meetbare componenten. Kush Varshney, een Research Scientist bij IBM, legde uit dat ze eerlijkheid zowel op individueel als groepsniveau onderzochten, rekening houdend met attributen zoals geslacht en ras, alsook juridische en regulatorische implicaties. Het resultaat was een set van 30 verschillende metrics die bias evalueren in data, modellen en besluitvormingsprocessen.

Bias Meten en Mitigeren

De AI Fairness 360 toolkit integreert deze metrics en biedt algoritmen niet alleen om bias te detecteren, maar ook om modellen te debiassen. Het doel is om ontwikkelaars actionable inzichten te geven die door de hele AI-levenscyclus toegepast kunnen worden.

Bias mitigeren door de AI-levenscyclus heen (Bron: IBM)

Interdisciplinaire Collaboratie

Erkennend dat eerlijkheid computerwetenschap overschrijdt, heeft IBM scholars betrokken uit ethiek, recht en sociale wetenschappen. Varshney presenteerde op de Uehiro-Carnegie-Oxford Ethics Conferentie, terwijl Mojsilovic deeldeed aan een UC Berkeley Law School AI workshop. Hun samenwerking zorgt ervoor dat de toolkit zowel technische rigueur als maatschappelijke waarden weerspiegelt.

Is een Algoritme Neutraal?

Sociale wetenschappers zoals Young Mie Kim van de University of Wisconsin-Madison wijzen erop dat AI-bias op elk stadium kan ontstaan – van data-sampling tot model-training. In haar studie "Algorithmic Opportunity: Digital Advertising and Inequality of Political Involvement" toont Kim aan hoe algorithmische beslissingen bestaande ongelijkheden kunnen versterken. Ze waarschuwt dat beweren dat een algoritme "neutraal" is de ingebedde biases die tijdens ontwikkeling en deployment verschijnen, negeert.

Door transparante metrics en mitigatiestrategieën te bieden, stelt AI Fairness 360 organisaties in staat AI-systemen te bouwen die niet alleen nauwkeurig maar ook rechtvaardig zijn.