Voor de beste ervaring schakelt u JavaScript in en gebruikt u een moderne browser!
Je gebruikt een niet-ondersteunde browser. Deze site kan er anders uitzien dan je verwacht.

Mensen helpen wilde Sennay Ghebreab, associate professor Socially-Intelligent AI, al van kleins af aan. Eigenlijk wilde hij arts worden. Jaren later kwam de IvI-onderzoeker erachter dat hij het anders aan kon pakken, misschien zelfs wat groter. Sennay gebruikt nu Artificial Intelligence (AI) als zwaard om de vele gezichten van ongelijkheid te bestrijden.

‘Als mens zijn we beperkt, we kunnen ons maar richten op een beperkt aantal zaken. AI kijkt en vergelijkt duizenden dingen tegelijk. Daarom moeten we deze technologie inzetten voor de analyse van complexe materie, bijvoorbeeld bij sociale rechtvaardigheid en klimaatverandering,’ vertelt Sennay,

Om die grote problemen op te lossen, moet je wel breed durven denken en handelen. ‘Ik ben eigenlijk altijd interdisciplinair bezig geweest, binnen de medische faculteit, bij sociale wetenschappen en natuurlijk binnen de FNWI. Dat geeft je vocabulaire om te praten met mensen uit verschillende disciplines, en daardoor een bredere blik.’

Sennay Ghebreab
Sennay Ghebreab

Focus op nieuwe generatie

Die focus op interdisciplinariteit geeft Sennay al een decennium lang door aan zijn studenten. ‘Rond 2010 besloot ik om mijn energie niet meer te stoppen in mijn eigen onderzoek, maar in the next generation. Vragen die ik behandelde in mijn onderwijs: Hoe verwerkt het brein informatie? Hoe komt patroonherkenning terug? En hoe gaat AI om met patroonherkenning en bias? Hoe gebeurt dat in sociale netwerken? Mijn studenten vonden het aan het begin vrij moeilijk om al die interdisciplinaire technieken en perspectieven bij elkaar te brengen. Na een aantal jaren begonnen ze de link te leggen. Dat was mooi om te zien.’

Na een aantal jaren onderwijs geven in patroonherkenning en bias, wilde hij ook de wereld buiten de universiteit vertellen over de donkere kant van AI-technologie. Die kans kwam in 2015. Google lanceerde een app waarbij zwarte mensen als apen werden gecategoriseerd. Blijkbaar was het algoritme zodanig getraind dat het racistisch werkte.

Sennay: ‘De app kreeg wereldwijd veel publieke aandacht. Hoe kunnen algoritmes discrimineren? Machines kunnen toch niet racistisch zijn? Dat moment greep ik aan om ook hier het publieke debat aan te zwengelen via een gesproken column: ‘Wat computers ons kunnen leren over discriminatie”.’

De kansen van AI: maatschappelijke samenwerking binnen Civic Lab

Afgelopen 10 jaar was Sennay veel bezig met het wijzen op de gevaren van AI. Die tijd is voor hem voorbij. Nu focust hij zich meer op de potentiële kansen van AI.  Met die reden richtte hij het Civic AI Lab op, waar hij wetenschappelijk directeur is. Het lab is een publiek-publieke-samenwerking tussen drie Amsterdamse partijen, de gemeente, de Vrije Universiteit (VU) en de UvA, en het ministerie van Binnenlandse Zaken. 

Sennay: ‘Mijn doel is om met het lab AI-technologie te ontwikkelen om aan de ene kant de kans op ongelijkheid in de stad bloot te leggen, en aan de andere kant kansengelijkheid te bevorderen. Binnen het lab hebben we samen een aantal onderwerpen gedefinieerd waarop we onderzoek willen doen voor de stad: onderwijs, mobiliteit, gezondheid, welzijn en omgevingsfactoren.’

Binnen het project welzijn werken promovendi samen met de GGD aan obesitas. Bij dit wicked problem spelen veel factoren een rol zoals bijvoorbeeld de thuissituatie en de mate waarin iemand beweegt. Veel data is aanwezig, maar er is niet bekend waarom in sommige wijken meer obesitas voorkomt dan in andere wijken.

Met behulp van AI willen ze onder meer de volgende vragen beantwoorden: Hoe ontstaat ongelijkheid in obesitas? Waar komt die ongelijke verdeling door? Wat zegt dat over obesitas en hoe je dat kunt aanpakken?

‘Bij het onderwijsproject kijken we met AI naar hoe het geld van de overheid wordt verdeeld onder leerlingen en scholen,’ vertelt Sennay. ‘De vraag is waarom de ongelijkheid alleen maar lijkt te groeien? Waar ligt dat aan? Gebeurt de verdeling op zo’n manier dat het terecht komt daar waar het terecht zou moeten komen?’

Migratie en AI

Een ander interessant project doet Sennay binnen het VU-Institute for Societal Resilience. Als gastonderzoeker is hij al jaren bezig aan het verbeteren van de participatieprocessen voor nieuwkomers in Nederland. Zoals gezegd, Sennay wil mensen helpen. Met behulp van AI-technologie pakt hij vraagstukken aan die spelen rond migratie, bijvoorbeeld bij de plaatsing van vluchtelingen in het land van aankomst.

‘Nu bepalen de IND en COA de plaatsing op basis wie het is en waar er plek is, terwijl dit veel beter kan,’ vertelt hij. ‘Met een algoritme ontwikkeld in Stanford, kunnen we kijken hoe je vluchtelingen kunt plaatsen op plekken waar zij en de plek waar zij ontvangen worden, er het meest aan hebben.

Met behulp van AI kunnen patronen herkend worden binnen eerdere plaatsingen van gezinnen en personen. Wie is waar terecht gekomen? En was de plaatsing een succes of niet? Deze patronen worden vervolgens gebruikt om een individu daar te plaatsen waar de kans op werk, of scholing het grootst is. Eigenlijk een heel simpele matchmaking die al goed werkt in de Verenigde Staten en Zwitserland.’

Kritische geluiden

Er is ontzettend veel gaande op het gebied van AI. In minder dan twee jaar is het Innovation Center for AI (ICAI) uitgegroeid tot een landelijk ecosysteem van publiek-private en publiek-publieke AI-labs. Vorig jaar hebben 9 kennisinstituten in Amsterdam hun krachten gebundeld in de coalitie AI-technologie voor mensen. Nationaal is de NL AI Coalitie gestart met ELSA-labs (Ethical Legal Social 'labs').

Sennay is daar blij mee, maar ziet ook een keerzijde. ‘Iedereen, op alle niveaus, is zijn AI-gebied aan het claimen. Maar, waardeer de wetenschappers die er al tijden aan werken. Vul elkaar aan in plaats van elkaars gebiedje te willen afpakken. Als we niet samenwerken loopt de ontwikkeling van AI juist vertraging op.’

Het is een van de kritische kanttekeningen die Sennay zet bij de huidige aandacht voor Artificial Intelligence. ‘Binnen en buiten universiteit zie ik instellingen, organisaties, overheden en bedrijven zelf aan de slag gaan met AI. Daardoor ontstaan problemen zoals een discriminerend algoritme. Ik weet zeker dat als ze meer aan co-creatie hadden gedaan, we minder problemen hadden gehad, zoals bij het hele verhaal rond de toeslagenaffaire.’

Ook is hij kritisch over het AI-onderwijs in Nederland. ‘In andere landen wordt veel meer ingezet op AI-onderwijs, ook op middelbare scholen. Als vroeg begint met dit soort onderwijs, zorg je ervoor dat verschillende lagen ermee in aanraking komt. Juist voor een eerlijke AI is het belangrijk dat mensen van alle lagen in de maatschappij eraan kunnen bijdragen.’

Sennay Ghebreab is universitair hoofddocent sociaal intelligente AI, programmadirecteur van de master Information Studies en wetenschappelijk directeur van het Civic AI Lab. Hij promoveerde bij de IvI-groep Intelligent Sensory Information Systems en keerde in 2020 terug naar het instituut. In de jaren daarvoor werkte hij bij het psychologie-instituut van de UvA en als afdelingshoofd sociale wetenschappen aan het Amsterdam University College.

Jaarmagazine FNWI 2020

Dit artikel is ook gepubliceerd in het FNWI Jaarmagazine 2020. Lees ons jaarmagazine voor nieuws en achtergrond over FNWI onderwijs en onderzoek in 2020, inclusief interviews met docenten, onderzoekers en studenten, cijfers over instroom en medewerkers, nieuws over organisatorische ontwikkelingen en valorisatie-activiteiten.