Bias is de automatische piloot van ons brein. Het kost tijd en energie om bewust andere keuzes te maken. Het brein zal afstand moeten doen van zijn automatische piloot om nieuwe informatie en indrukken te kunnen uploaden. Woorden hebben kracht, het is een programmeertaal die ons denken en gevoel beheerst, het bepaalt uiteindelijk hoe wij elkaar zien en hierin schuilt het gevaar dat we juist de mooie dingen van elkaar niet kunnen herkennen. Wellicht is A.I. en bias een goede match?
Bias is een programmering en als je denkt het gedelete te hebben dan komt het alsnog in een andere vorm terug. We zijn geprogrammeerd om te leven vanuit ongelijkwaardigheid. De woorden black lives matter, inclusiviteit, racisme, discriminatie, positieve discriminatie, etc. vergroot juist de weerstand en heeft dus een averechtse werking. Niemand ontkomt aan deze programmering, het is voor driekwart van de wereldbevolking echter zeer vermoeiend, want hun afkomst, ras en/of gender behoort niet tot de ‘default’ groep!
Gender Bias in A.I.
Zie het voorbeeld van Amazon en een studie van de universiteit van Melbourne (2020). Het bevestigt dat kunstmatige intelligentie, gender bias veelal vergroot in plaats van afzwakt.
In de Melbourne studie worden de drie vormen waarin gender bias voor komt benoemt:
- Bias in datasets
- Bias in the system
- Bias in human decisions
Conclusie van professor Leah Ruppaner van de universiteit van Melbourne is dan ook: “human bias is now being programmed into technology”. (Youtube, 1:07)
A.I. en recruitment
Er zijn programma’s en software ontwikkeld om bijvoorbeeld bias in het recruitmentproces te elimineren. Bedrijven zoals Harver, Tengai en Equalture zijn hier voorbeelden van. Het is overduidelijk, start-ups hebben de recruitment markt betoverd met hun innovatieve ideeën en doen uiteraard hun best, maar we moeten voorzichtig zijn.
Het gebruik van recruitmenttechnologieën kan het risico
op discriminatie en uitsluiting versterken. -TNO
Uit het TNO-onderzoek blijkt dat er factoren zijn die het risico kunnen versterken of veroorzaken:
1. Kennis over technologie en gebrek aan bewustzijn van risico’s bij gebruik van technologieën.
2. Gebruik van technologieën ondanks gebrek aan (transparante) validatie.
3. Gebrek aan overzicht over het proces door werkgevers.
4. Gebrek aan transparantie voor de kandidaat.
Kenmerken van de systemen die het risico op discriminatie kunnen vergroten:
- Informatieaanbod.
- Bias in toepassing van algoritmen.
Zwarte vrouwen take the lead
Wat zeker is, is dat kunstmatige intelligentie ons dwingt om in actie te komen. Vrouwen kunnen meehelpen om dit te veranderen. Het is onze verantwoording om data op een ethische wijze te implementeren, verwerken en vrij te geven. Daarom moeten we vrouwen aansporen om een carrière in de Tech wereld te overwegen, want anders is de kans zeer groot dat A.I. en bias in de maatschappij en de virtuele wereld alleen maar erger wordt. Wij moeten mee bepalen welke ‘default’ groepen er gebruikt gaan worden.
Alhoewel recruitmenttechnologie in essentie de potentie heeft om unbiased te werven, betwijfel ik of de kennis hiervan in voldoende mate bij recruitment bureaus en organisaties aanwezig is en/of programmeurs de ware essentie van het vak recruiten begrijpen om de vertaalslag naar unbiased werven te maken. Om bias grondig aan te pakken zal een derde partij die hierin gespecialiseerd is bij het proces betrokken moeten worden.
Er is geen industrie waarin A.I. nu nog unbiased is, gewoonweg vanwege het feit dat wij als mensen, onze eigen vooroordelen in data implementeren. A.I. en bias is nu nog geen match, data moet diverser worden en jij kan hierin bijdragen. Daarom een oproep aan zwarte vrouwen, take the lead en help mee!
Wil jij meer weten? 23 september organiseert ZVVT.nl een Tech event speciaal voor jou! Laat je inspireren en motiveren, lees het interview van de oprichter Marianne Dorder-Servet.