In 2015 werkten Jildert en zijn team bij Randstad aan een revolutionair matching-algoritme. Ze waren ervan overtuigd dat ze de toekomst van recruitment in handen hadden. De resultaten waren inderdaad verbluffend: kandidaten en vacatures werden met ongekende precisie gematcht op basis van ontologie van vaardigheden. Maar er zat een addertje onder het gras. Het algoritme was gebaseerd op historische gegevens en die gegevens bleken verre van onbevooroordeeld.
Het algoritme nam de patronen uit het verleden over, inclusief de vooroordelen die erin sluimerden. Als gevolg daarvan werden bepaalde groepen kandidaten systematisch benadeeld. Vrouwen, mensen met een migratieachtergrond, oudere sollicitanten - zij kregen simpelweg minder kansen. Jildert en zijn team hadden een krachtig instrument gecreëerd, maar het was een instrument dat onbedoeld discriminatie in de hand werkte.
.jpg)
Een les in biased AI

De opkomst van verantwoorde AI en de ISO 42001-certificering
Gelukkig zijn de tijden veranderd. Tegenwoordig is er een groeiend bewustzijn van het belang van verantwoorde AI. Europese leiders zoals 365Talents en TechWolf hebben het voortouw genomen en de ISO 42001 certificering behaald. Deze certificering is een mijlpaal in de ontwikkeling van ethische en betrouwbare AI-systemen.
Wat houdt de ISO 42001 certificering in?
In essentie garandeert de ISO 42001-certificering dat AI-systemen op een ethische, transparante en betrouwbare manier worden ontwikkeld en gebruikt. Het helpt organisaties om:
- Risico's te beheren: Denk aan het voorkomen van discriminatie, het beschermen van privacy en het waarborgen van veiligheid.
- Kansen te benutten: AI kan een krachtige motor zijn voor innovatie en groei, mits het verantwoord wordt gebruikt.
- Vertrouwen opbouwen: Door te laten zien dat u AI serieus neemt, wint u het vertrouwen van werknemers, klanten en de maatschappij als geheel.
De ISO 42001-norm biedt een kader voor het hele AI-ontwikkelingsproces, van de eerste ontwerpfase tot implementatie en beheer. Het is een kompas dat organisaties helpt om door het complexe landschap van AI te navigeren.
Waarom verantwoorde AI belangrijk is
Het belang van verantwoorde AI kan niet genoeg worden benadrukt. In een wereld waarin AI ons dagelijks leven steeds meer beïnvloedt, is het essentieel dat we de controle behouden. We moeten ervoor zorgen dat AI-systemen onze waarden en ethische principes weerspiegelen.
Bij verantwoorde AI gaat het niet alleen om het voorkomen van schade, maar ook om het creëren van kansen. Door AI ethisch te gebruiken, kunnen we bijdragen aan een eerlijkere en meer inclusieve samenleving.
De toekomst van AI
De ontwikkelingen op het gebied van AI gaan snel. Het is daarom belangrijk dat organisaties zich blijven informeren en aanpassen aan de nieuwste inzichten en standaarden. De ISO 42001-certificering is hierbij een waardevol hulpmiddel.
Wilt u meer weten over ISO 42001 en hoe u dit kunt toepassen in uw organisatie, neem dan gerust contact met ons op. Samen kunnen we ervoor zorgen dat AI een kracht ten goede wordt.
