Kunstmatige intelligentie en big data leiden tot technologieën met zelflerende systemen. Maar wat levert dat op? Hoe staat het met toezicht en privacy? Dat zijn vragen die filosoof Katleen Gabriels aan de orde stelt.

Zelfs een computer zou moeite hebben met het beheer van haar overvolle agenda. Katleen Gabriels is een duizendpoot die niet alleen doceert aan de Maastricht University, maar ook boeken schrijft over hoe de digitale wereld het leven bepaalt, en discussies voert met technici en het publiek over morele kwesties rond kunstmatige intelligentie (AI).

AI wordt gebruikt voor ongelooflijk veel toepassingen. Zo kun je met stemanalyse een hartaanval voorspellen. Robotdrones schakelen de vijand uit. Hebben we er nog wel greep op?

‘We doen in ons dagelijkse leven vaak een beroep op AI. Met Siri, de virtuele assistent van Apple, de tijdlijn van Facebook en de zoekmachine van Google bijvoorbeeld. We zijn erg afhankelijk van de mobiele telefoon. Mensen keren terug naar huis als ze hun smartphone vergeten zijn. De digitale maatschappij heeft ons gedrag veranderd, evenals onze normen en onze waarden. We denken anders over informatie die we delen. Als je iemand 22 jaar geleden had verteld dat we nu foto’s van ons eten met anderen delen, dan hadden ze je voor gek verklaard. De digitalisering kent vele valkuilen. Ik wil er twee noemen. Onze slaapkwaliteit holt achteruit, want we willen altijd bereikbaar zijn. En met de personalisatie kunnen grote bedrijven veel data van iedereen verzamelen en bijvoorbeeld doelgericht adverteren.’

Op jacht naar geluk
LEES OOK
Op jacht naar geluk

Klopt het dat technologie niet neutraal is? Algoritmen bepalen immers wanneer we wat en hoe te zien krijgen.

‘Ik denk niet dat dit overal goed doordringt. Mensen zien algoritmen vooral als wiskunde, een neutraal vakgebied. Dat is niet zo. Gelukkig komt er regelgeving over de toepassing van algoritmen. Als daarmee een ingrijpend besluit wordt gemaakt over jouw leven – bijvoorbeeld met een afwijzing van een hypotheek, dan heb je recht op uitleg over hoe dat besluit tot stand is gekomen.’

Is AI gevaarlijk?

‘Robots kunnen zichzelf niet ontwerpen. Als machines met kunstmatige intelligentie vanuit zichzelf leren, gebeurt dat onder supervisie van mensen. Er is geen systeem dat zichzelf heeft ontworpen. Machines hebben geen eigen vrije wil. Bij AI beslist de mens. AI is een tool, een gereedschap.’

Bij computertechnieken worden vragen over ethiek veelal pas gesteld als het ontwerp klaar is. Is ethiek in ons technologisch bestaan een bijzaak?

‘Niet altijd. Er is een recent voorbeeld van hoe het wel kan en moet: de ontwikkeling van de corona-app. Daarbij zijn de ethische vragen wel vooraf gesteld; is van meet af aan overleg gevoerd tussen ingenieurs, ethici, beleidsmakers en burgers.’

Maar dit is een uitzondering op de regel?

‘Zeker, maar je kunt het ook zien als een startschot. Bedrijven als Google en Facebook gaan niet meteen overstag. Teveel van hun technieken zijn ontwikkeld op basis van distraction by design, ontworpen om de aandacht te trekken en die met beloning van het brein vast te houden.’

Belangrijke kritiek komt soms ook van ontwerpers zelf.

‘Gelukkig zijn er spijtoptanten. Zoals Tim Berners-Lee, de bedenker van het wereldwijd web. Hij pleit voor een ‘webcontract’ met basisprincipes voor bedrijven, regeringen en individuen. Hij werkt aan het platform Solid, waarbij het databeheer bij de gebruiker ligt. De ontwerper van de iPhone, Tony Fadell, twijfelt er hevig over of hij daarmee wel goed heeft gedaan. Toen hij in de twintig was heeft hij de iPhone ‘vooral voor zichzelf ontwikkeld’. Als veertiger met tienerkinderen ziet hij de schadelijke effecten. Nu pleit hij voor een eed van Hippocrates, niet alleen voor artsen maar voor ontwerpers. Of neem Chris Wetherell de uitvinder van de retweetknop bij Twitter. Hij vergelijkt die knop nu met een geladen wapen in de handen van een vierjarige. Hij dacht met zo’n knop de stem van minderheden harder te laten klinken maar de knop zwengelt polarisatie, heksenjachten aan.’

Blijft het mensenwerk om oplossingen te bieden?

‘De sleutel tot verbetering ligt in de samenwerking tussen de verschillende disciplines. Zoals bij de coronamelder. Technologische ontwikkelingen moeten meteen zorgen voor debat. Vanaf het ontwerp, in het onderzoek, bij beleidsmakers. Een beleidsmaker die de techniek niet kent, weet niet wat er met data kan gebeuren. We moeten veel meer met zo’n model werken zoals bij de coronamelder.’

Op welke andere terreinen zou je dit model graag toegepast zien?

‘Bij de inzet van zorgrobots. Hoe kunnen we die zo gebruiken dat verpleegkundigen meer ruimte krijgen voor een praatje; voor een persoonlijke invulling van zorg? Met AI kun je mensen thuis op afstand verzorgen. Slimme doosjes houden bij of mensen hun medicijnen innemen en slaan alarm als het mis gaat. Mensen moeten zelf de copiloot worden van hun gezondheid, met self trackers en apps omdat we allemaal oud willen worden zonder het te zijn. Maar waar is dan de menselijke warmte? En in hoeverre moet je dat overlaten aan particuliere bedrijven? Wat gebeurt er met de data? En als je niet wil, verlies je het recht op een zorgverzekering?’

Elke wetenschapper droomt van een ideale situatie. Waar wil techniekfilosoof Katleen Gabriels naartoe?

‘Naar een wereld met meer kritisch denken, met meer samenwerking bij de ontwikkeling van technologieën en meer onderwijs in ethiek. Het is doodnormaal dat elke arts wordt onderwezen in ethiek. Dat moet ook gebeuren met elke ingenieur, data- en computerwetenschapper.’


Op 26 november vindt New Scientists Gala van de Wetenschap plaats, waar Katleen Gabriels een van de sprekers is.  Via galavandewetenschap.nl vindt u informatie over het gala en tickets voor de livestream.

gala van de wetenschap 2020