Kunstmatig intelligentie behandelt de ene groep mensen anders dan de andere. De computer discrimineert, heet het dan. Maar eigenlijk is zo’n programma alleen maar een spiegel van onze samenleving, zegt neuro­informaticus Sennay Ghebreab.

Door kunstmatige of artificiële intelligentie (AI) kunnen machines allerlei menselijke vaardigheden leren. Laat ze bijvoorbeeld naar foto’s kijken en ze krijgen gaandeweg onder de knie hoe ze beelden kunnen herkennen. Kunstmatige intelligentie is ook verwerkt in allerlei chatbots van klantenservices en virtuele assistenten op telefoons. Dit is handig, maar soms pakt het toepassen van AI verkeerd uit. Zo herkenden zelfrijdende auto’s zwarte mensen minder goed en kregen vrouwen bij een creditcard van Apple een lagere krediet­limiet dan mannen.

De algoritmes van AI kunnen bepaalde groepen dus anders beoordelen, wat leidt tot discriminatie. Volgens neuro-informaticus Sennay Ghebreab discrimineren algoritmes echter niet, maar laten ze juist zien wat er fout gaat in de samenleving. ‘Ik probeer AI als spiegel te gebruiken voor de maatschappij.’

'We moeten anders  gaan betalen voor zorg'
LEES OOK
'We moeten anders gaan betalen voor zorg'

AI als spiegel: wat moeten we ons daarbij ­voorstellen?

‘Een onderzoek uit Amerika is een van de beste voorbeelden van AI als een spiegel. Daar hebben wetenschappers een algoritme onderzocht dat de grootste zorginstellingen en verzekeraars gebruiken bij ongeveer 200 miljoen Amerikanen. Dit programma produceert voor elk persoon een gezondheidsrisico om te bepalen wie meer zorg nodig zal hebben. Bij een bepaalde score word je naar een huisarts of specialist gestuurd. Onderzoekers hebben duizend patiënten die in een ziekenhuis waren opgenomen met elkaar vergeleken. Wat bleek: de zwarte patiënten met hetzelfde gezondheidsrisico als de witte patiënten hadden veel meer actieve chronische ziektes dan witte patiënten. Oftewel: om doorgestuurd te worden naar de huisarts of specialistische zorg, moesten zwarte patiënten meer aandoeningen hebben dan ­witte patiënten. Het aantal zwarte patiënten dat toegang zou krijgen tot de zorg zou twee keer zo groot zijn als het algoritme niet zou discrimineren.’

Een discriminerend algoritme dus.

‘Dat hoor je inderdaad vaak. Omdat organisaties eigenlijk niet weten hoe AI werkt, geven ze de algoritmes de schuld van het anders beoordelen van bepaalde groepen. Maar de bron van die AI zit in de samenleving en in de mens. Kunstmatige intelligentie laat namelijk zien wat wij allemaal doen; legt onze bewuste en onbewuste gedragingen en uitingen bloot. En dat zie ik als iets positiefs.’

Wat is daar positief aan?

‘Het geeft ons een kans om te laten zien wat er in de maatschappij speelt. Ik probeer AI te gebruiken om te zien waar het fout gaat en wat we kunnen doen om dat te corrigeren. Je kunt AI ook gebruiken om met nieuwe, creatieve ideeën te komen om de samenleving te ver­beteren.’

Is AI niet meer dan alleen een spiegel? Bedrijven als Facebook, Twitter en Google gebruiken het ook. Kan AI onze emoties, onze beeldvorming, ook beïnvloeden?

‘Bedrijven als Facebook en Google creëren bubbels waarin onze emoties alleen maar versterkt worden. Dat is óók AI. Wat we niet moeten doen, is denken dat we daar niets tegen kunnen doen en onszelf overgeven aan hun algoritmes. Nee, hier kun je verandering in brengen. Dat moet uit de mensen zelf komen.’

‘Ook Google is begonnen in een garage, dus waarom zou iemand anders dat niet kunnen? Mijn beeld is dat straks niet een of twee grote bedrijven de macht op sociale media hebben, maar dat allerlei community’s op lokaal niveau hun eigen sociale media hebben. Dat heeft tijd nodig, maar waarom zou dat niet kunnen? ­Denken dat techbedrijven te groot zijn, is precies de val waarin ze je willen hebben.’

AI is overal. Hoe ziet u de toekomst?

‘Ik denk dat AI een onwijs grote impact gaat hebben op de samenleving. Op dit moment staan we op een kruispunt. We kunnen AI inzetten om de menselijke waarden te ondersteunen en de omgang met elkaar te verbeteren. Maar het kan ook de andere kant op gaan: dat een paar grote AI-spelers de dienst gaan uitmaken. Dat betekent dat ze ook lokaal veel invloed zullen hebben op hoe mensen met elkaar omgaan. Het is een strijd tussen bottom-up- en top-downbestuur. De verschuiving naar bottom-upbestuur is in opkomst, mede door de invloed van AI.’

‘Met AI kun je veel beter gaan kijken naar de behoeftes van mensen. Als AI de goede kant op gaat, gaat het beleid naar bottom-up en lokaal georiënteerd. Het idee van een set regels die voor iedereen geldt, komt onder spanning te staan. Ik denk dat dat goed is. Je moet kijken naar de talenten en krachten die je lokaal hebt. AI geeft hierin nieuwe inzichten en handvatten. Dat is de AI die ik wil.’

Op 26 februari is Sennay Ghebreab samen met Sanne Kruikemeier te gast bij AHA!, een avond over wetenschap in brouwerij Oedipus. Meer informatie hier, bestel tickets hier.