Sennay Ghebreab – ‘Hoe kunnen mensen leren van de fouten die AI maakt?’

‘None but ourselves can free our minds’  

Hoogleraar Informatiekunde en oprichter van Civic AI Lab Sennay Ghebreab is expert op het terrein van Artificial Intelligence. En ervaringsdeskundige in de discriminerende werking ervan. In 2015 verricht hij baanbrekend onderzoek naar discriminerende patronen in algoritmes, nadat de sensoren in de draaideur aan de universiteit waar hij werkte stopte met draaien voor hem. Het mechanisme herkende alleen de gezichtskleur van zijn witte collegae en niet van hem.   

Tijdens deze podcast gaat Sennay in op de vraag van Derk Loorbach hoe wij als mens kunnen leren van de fouten die AI maakt. Als ‘fout’ neemt Sennay de discrimerende mechanismen bij de hand. Met een weergaloze Redemption Song van ‘filosoof’ Bob Marley zet hij het onderzoek in vanuit het perspectief van de onderdrukte. Het antwoord op de centrale vraag ligt dichterbij dan we denken. Met ‘None but ourselves can free our minds’ roept hij ons op om het heft in eigen handen te nemen.  ‘Wij zijn AI en AI zijn wij’. 

Luister mee met het curiosophische onderzoek naar deze actuele vraag. 

De kern

• Redemption Song van Bob Marley heb ik gekozen omdat hij het verleden, heden en de toekomst samenbrengt. Marley zingt niet alleen over liefde en menselijk contact maar ook vanuit het perspectief van de onderdrukten. Hij probeert zijn songs te reduceren tot simpele dingen want die maken mensen veerkrachtig en strijdbaar voor de toekomst.
• Marley citeert met ‘None but ourselves can free our minds’ Marcus Garvey. In dit nummer heeft hij het over fysieke én mentale vrijheid. Deze mentale vrijheid is ook nu relevant door de informatie gevangenschap waarin wij zitten.
• Mensen, organisaties en bedrijven weten dat beeldvorming cruciaal is. Het is niet zonder reden dat machthebbers van dictaturen de media afsluiten of overnemen. Techbedrijven gebruiken informatie om mensen in hokjes te plaatsen en tegen elkaar op te zetten – dat is informatie gevangenschap.  
• Artificial Intelligence (AI) wordt vaak ingezet om verschillende bevolkingsgroepen te benadelen. Uit algoritmes in vooral Amerika blijkt bijvoorbeeld dat zwarte mensen veel minder dan witte mensen worden doorverwezen naar de huisarts.
• Als wetenschapper wil ik antwoord geven op vragen die nog gesteld gaan worden.
• Eén van mijn eerste onderzoeken ging over wat computers ons kunnen leren over discriminatie. Op basis van foto’s leert een AI-systeem wat een auto of mens is. Daaruit bleek dat zwarte mensen als gorilla’s werden gecategoriseerd. Door het systeem te voeden met meer voorbeelden kan je het minder discriminerend maken.
• Er zijn drie stappen in het AI-ontwikkelproces: intentie, creatie en correctie.
• De uitdaging is om uit de frame van grote Tech-bedrijven te komen. We moeten vooral de jongeren bewust maken van de keerzijde van AI. Ik ben overtuigd dat mensen hun eigenaarschap kunnen nemen met verbeelding, veerkacht en vaardigheden.
• Uiteindelijk zorgt liefde, verbinding en dialoog voor veerkracht. Dat noemt hoogleraar Ann Masten ‘ordinaray magic’. Dat mag terugkomen want het creëert nieuwe energie en motivatie.
• Als niemand komt met alternatieven, dan gaan anderen dat ook niet voor jou doen.
• Mensen denken eenmaal in categorieën. De vraag is dan: wat zijn de labels die ons verbinden in plaats van polariseren?
• Wij denken heel erg eendimensionaal. Een voorbeeld is dat er vrouwenquota ingezet worden op gendergelijkheid, maar niet op zwart-wit diversiteit in organisaties. AI kan helpen om soortgelijke vragen tegelijkertijd op te lossen.   
• We moeten onszelf de vraag stellen: kunnen we het, maar vooral willen wij het?
• Op de vraag ‘Hoe leren wij van de fouten die AI maakt?’ volgt een circulair antwoord. Want wij zijn AI en AI zijn wij. Het is een verlengstuk van wat wij zijn.