Geertrui Mieke De Ketelaere, AI-expert: ‘The Voice doet me huilen van ontroering’

Elke week vraagt Knack aan ondernemende mensen hoe ze lijf en psyche in balans houden. Als directeur artificiële intelligentie bij Imec (IDLab) kant Geertrui Mieke De Ketelaere zich tegen een al te groot breinchauvinisme. ‘De mens is niet het enige intelligente wezen op deze planeet. Door een beetje nederig te zijn, kunnen we nog veel leren.’

Mens versus machine heet het boek dat Geertrui Mieke De Ketelaere tijdens het coronajaar schreef. Ze deed dat voornamelijk in het schrijfhok achteraan in haar tuin in Waals-Brabant, waar we nu met een kop thee in de hand tegenover elkaar zitten. Een boek over artificiële intelligentie maakte geen deel uit van haar plannen, vertelt ze. Als vrouw met tientallen jaren ervaring in de hogere regionen van het bedrijfsleven wilde ze het liever hebben over alle technieken die ze ontwikkelde om staande te blijven in een soms toxische omgeving. Want ja, zal ze een paar keer tijdens het gesprek herhalen, de bedrijfswereld kan iemand maken en kraken.

‘Ik heb mensen als dieren leren zien’, legt ze glimlachend uit. ‘Zo zette ik me buiten al te harde of emotionele discussies. Jij bent een zeemeeuw, dacht ik over de nieuwe bedrijfsleider die collega’s afsnauwde. Een zilvervisje is dan weer een manager die wegglipt telkens als je hem nodig hebt. In totaal heb ik zo vijftig dieren beschreven. Vrienden zeiden als grap: “Je wordt vijftig. Schrijf er een boek over.”‘

Maar het werd een boek over artificiële intelligentie.

Geertrui Mieke De Ketelaere: Al sinds mijn ingenieursstudies ben ik daardoor gefascineerd, en tegelijk ben ik te veel ingenieur om mee te surfen op de hypes rond AI. Ik ben in mijn loopbaan altijd nuchter gebleven over de mogelijkheden én de beperkingen ervan, en ben hoe langer hoe meer de nadruk gaan leggen op de ethiek en de menselijke factor. Maar ik zag mezelf er geen boek over schrijven. Tot ik een paar keer in een debat gezeten had waar de vraag ‘Als AI een fout maakt, wie is er dan verantwoordelijk?’ zonder blikken of blozen beantwoord werd met: ‘De ingenieur.’ Hm, dacht ik, misschien is dat boek meer dan nodig. Want er wordt net iets te veel gepraat over AI zonder de kern van de zaak te beroeren.

Ik heb me laten vertellen dat de coronacrisis u over de publicatie van uw boek heeft doen twijfelen.

De Ketelaere: Ik heb gigantisch met mezelf geworsteld. Die crisis diende zich aan en ik wreef me in de handen: ‘We zullen de wereld eens tonen tot wat AI in staat is.’ Maar verder dan maskers 3D-printen raakten we eerst niet. Ik keek naar Het journaal en vroeg me af, bij alles wat ik zag: wat kan AI hier betekenen? Kan een autonoom systeem deze taak overnemen? Ik zag verpleegsters bloed afnemen: AI kan dat niet. Aan alles wat er in de wereld nodig was, had AI bitter weinig toe te voegen. Ook omdat de fundamenten ontbraken. De data zaten niet juist, de kwaliteit was niet goed, en de Chinezen wilden niet met de Europeanen uitwisselen en omgekeerd.

Ik zeg altijd dat AI een hulp kan zijn bij de vier D’s: dirty, difficult, dangerous en dull. Vuile, moeilijke, gevaarlijke en saaie taken. Maar die moeilijke taken bleken duidelijk nog te hoog gegrepen. Zelfs de vuile durf ik nog niet aan AI uit te besteden.

Hoe heeft die interne strijd zich opgelost?

De Ketelaere: Ik heb heel veel gewandeld, hier in de bossen en velden rond ons huis. Plots zag ik de natuur ontwaken, iets wat ik door mijn drukke leven de voorbije jaren nooit had opgemerkt. Ik reisde veel, leefde uit mijn koffer, en had weinig tijd om stil te staan bij essentiële vragen: waarom doen we dit? Hebben we AI nodig om onze tanden beter te poetsen of om beter te zorgen voor de wereld?

Ik volgde met mijn ogen een zwerm vogels in de lucht en was verbaasd door hun choreografie, terwijl wij in het laboratorium er niet eens in slaagden vier drones samen te laten vliegen zonder te botsen.

Voor het eerst las ik ook de borden in het bos waarop beschreven staat dat men er onderzoekt hoe intelligent vlinders zijn. Ik kon alleen denken: we zijn helemaal verkeerd bezig. We denken dat we als mens bovenaan de piramide van de slimmigheid staan, maar er zijn zo veel vormen van intelligentie die we nu pas ontdekken.

En zo ben ik als een gek beginnen te lezen over natuurlijke intelligentie. Ons breinchauvinisme zet ons oogkleppen op. Terwijl alles met elkaar verbonden is – mensen, planten, dieren – en het respect ook in alle richtingen moet gaan. Ik beweer niet dat we de menselijke intelligentie plat moeten relativeren, wel dat het deugd doet om open te staan voor andere vormen van intelligentie. Vooral omdat het onevenwicht zo groot is. We pompen massa’s geld in de ontwikkeling en promotie van de door ons brein geïnspireerde AI, terwijl de onderzoekers naar intelligentie van vlinders hier in het bos moeten schrapen om budgetten bij elkaar te krijgen. Door een beetje nederig te zijn, kunnen we nog veel leren.

Uw uitstap naar de wereld van de natuurlijke intelligentie is het laatste hoofdstuk van uw boek geworden.

De Ketelaere: Het is voor mij de ziel van mijn boek. Het vat samen wie ik ben.

Ik heb twee voornamen, Geertrui en Mieke. Dat ik ze allebei ben beginnen te gebruiken, komt door een vertaalprobleem in Duitsland. Toen ik daar woonde, werd mijn naam in administratieve computersystemen altijd vervormd tot ‘Geertruide Ketelaere’. Daardoor kwam mijn post niet aan, had ik moeite om me te registreren. Om aan die ambtelijke poespas te ontsnappen, gaf ik uiteindelijk ook mijn tweede naam op. Het gekke is dat die namen staan voor de twee persoonlijkheden die ik in mezelf verenig. Geertrui is de gedisciplineerde en de zakelijke. Zij kan de harde tante zijn in vergaderingen. Zij is wie ik ben door mijn opvoeding. Mieke is de creatieve en frivole. Haar heb ik ontwikkeld door te reizen, te schilderen en voor mezelf uit te maken wat ik van mijn opvoeding wilde meenemen en wat niet. Die twee hebben elkaar nodig. Mieke levert het vuur en de ideeën, Geertrui maakt dat er ook iets mee gebeurt. Mieke wandelt vol verwondering door het bos, Geertrui schrijft het ’s avonds op.

Wat ik eigenlijk wilde vragen: halen ingenieurs bij Imec niet minstens de wenkbrauwen op als u het hebt over de intelligentie van planten en dieren?

De Ketelaere: En toch heeft Imec onderzoeksgroepen die daar deels mee bezig zijn. Ze plaatsen onder andere sensoren op planten om te kijken hoe stressbestendig ze zijn. Met die onderzoeksgroepen wordt alleen niet uitgepakt, misschien vanuit een soort arrogantie. Toen ik in 2019 bij Imec begon, was ik de eerste persoon op directieniveau die hun vroeg waar ze mee bezig waren. Op voorhand was tegen mij gezegd: ‘Die groep, ach, die is niet belangrijk, daar kunnen we niets mee.’ Hetzelfde geldt voor de groep die inzet op sociale intelligentie, die kijkt hoe AI en de mens elkaar kunnen versterken. Computers zijn goed in wat wij moeilijk vinden – ingewikkelde berekeningen – en wij zijn sterk in wat computers niet kunnen – sociale vaardigheden, impliciete communicatie, associatief denken. Dat geeft aan in welke richting het volgens mij moet met AI. Waarom zou je van computers mensen willen maken?

Of omgekeerd. ‘We moeten van kinderen geen computers maken’, schrijft u.

De Ketelaere: Ja, ik word kregelig als iemand tegen mij zegt dat zijn zoon of dochter slim is omdat hij of zij goed is in wiskunde. Wat heeft dat met slim zijn te maken?

Ik kijk niet vaak televisie, maar er is één programma dat ik nooit wil missen: The Voice. Mijn dochters lachen daarmee – ‘Mama gaat weer huilen.’ Het klopt. Iemand die mooi zingt, ontroert me. Ik vind dat minstens zo fantastisch als een honderd procent voor wiskunde. Ik maak me eerlijk gezegd veel minder zorgen over het niveau van ons wiskundeonderwijs dan over de achteruitgang van de sociale vaardigheden. Inlevingsvermogen heb je niet zomaar, je moet dat oefenen. Rond de tafel zitten, met elkaar praten, luisteren, debatteren zonder de ander te beledigen. Dat vergt training die we via onze opvoeding krijgen. Ik heb dat zelf moeten leren en ontdekken. Ik ben toch eerder opgevoed vanuit het credo ‘Luister en zwijg’.

Reizen, maar ook schilderen heeft u geholpen om daaraan te ontsnappen, vertelde u net.

De Ketelaere: Als ik er nu op terugkijk, ben ik mijn hele leven bezig geweest me los te wrikken uit het keurslijf waarin we in vroegere generaties gewrongen werden. Ik ben de middelste van drie meisjes, het typische sandwichkind. Ik hing ertussenin. Talloze grenzen heb ik opgezocht om aandacht te krijgen. Ik hield een thermometer onder heet water om koorts te veinzen, smeet mezelf van de trap om mijn been te breken, stak een naald in mijn arm, en ik studeerde alleen voor vakken die me interesseerden. Op zich zijn dat signalen van een kind dat de wereld niet begrijpt en de woorden niet heeft om dat uit te leggen. Toen ik nog schilderde – nu ontbreekt me de tijd – waren dat vaak naakte vrouwen achter tralies. Ze toonden hoe ik me voelde, gevangen in vastgeroeste denkbeelden.

In Nieuw-Zeeland, waar ik aan mijn doctoraat over AI en verloskunde werkte, heb ik ook een cursus gevolgd om te stoppen met denken en te leren voelen. Daar heb ik geleerd hoe je de geloofsovertuigingen die je meedraagt, kunt onderscheiden van wat je zelf denkt, voelt en belangrijk vindt. ‘Ik moet de beste zijn’ was zo’n aangeleerd geloof. Dat heb ik uit mijn rugzak gegooid.

Wat hebt u wel bewaard?

De Ketelaere: De discipline. Voltooien waar je aan begint. Maar ook respect en vertrouwen. Die drie elementen vormen mijn kompas in alles wat ik doe. Telkens als ik vertrokken ben bij een bedrijf of een vriendschap stopte, was dat omdat het respect en het vertrouwen geschaad waren. Als je daaraan blijft knabbelen, knakt er uiteindelijk iets – voorgoed.

Ik heb je al verteld dat de bedrijfswereld bij momenten bikkelhard is. Ik heb het meegemaakt dat een leidinggevende me probeerde te ondermijnen door te beweren dat ik geen emotionele intelligentie had. Ik heb het meegemaakt dat berekeningen twee keer werden nagekeken omdat ze van een vrouw kwamen. Ik heb het meegemaakt dat er cartoons over mij verspreid werden waarin ze mijn competentie hekelden. En ik kan nog wel een aantal zaken opsommen. Op zulke momenten voel je je erg eenzaam en moet je een enorme veerkracht hebben om overeind te blijven.

Waar haalt u die veerkracht vandaan?

De Ketelaere: Ik ben drie keer alleen rond de wereld gereisd. De tijd die je met jezelf doorbrengt, en jij die voor jezelf beslist wat je meeneemt voor het leven en wat niet: dat is van onschatbare waarde.

Ik heb ook altijd veel gelezen. Op mijn zestiende probeerde ik Marx en Freud te ontcijferen, maar een boek waar ik nog altijd naar teruggrijp, is The Road Less Traveled van Morgan Scott Peck uit 1978. ‘ Life is difficult‘: dat is de openingszin. Als je accepteert dat het leven moeilijk is, wordt al het andere gemakkelijk.

Tijdens die cursus in Nieuw-Zeeland waarover ik daarnet vertelde, hebben ze mij ook geleerd hoe je je eigen begrafenis kunt voorstellen, en wat het betekent wie en wat je daarbij ziet. Sommige mensen zijn sterk aanwezig, andere mensen slechts vaag: dát zijn de mensen met wie je iets niet hebt afgerond. Mij heeft het geleerd dat je omgekeerd moet leven. Dat je niet mag denken: dat doe ik later wel. Want wat als het te laat is? Ik probeer altijd in het reine te zijn met mezelf en met de mensen van wie ik hou.

Ik hoor bij u een bijzondere liefde voor filosofie. Hoe verbindt u dat met de passie voor AI en technologie?

De Ketelaere: Als kind al werd ik gedreven door twee vragen: ‘Waarom zijn de dingen zoals ze zijn?’ en ‘Hoe werken ze?’ Alles haalde ik uit elkaar: speelgoedautootjes, balpennen. Waarbij ik er niet altijd in slaagde ze ook weer in hun oorspronkelijke staat te herstellen. Toen de eerste pc’s opkwamen, vond ik het interessanter spelletjes te herschrijven dan ze te spelen. Daarvoor moet je die programmeertalen kennen, natuurlijk. Op school had ik slechte punten voor alle talen, maar ik leerde mezelf wel programmeren. Mijn eerste auto was een Toyota Corolla uit 1974. Ik kon het motorblok eruithalen, de verwarming repareren. Ik kan lassen en solderen. Als hier in huis iets kapot gaat, is de kans groot dat ik het kan maken.

De ironie wil net dat moderne technologie en AI het almaar moeilijker maken om zelf pakweg een auto te herstellen. Maakt AI ons dommer?

De Ketelaere: Al te vaak wel. Door de navigatieapp Waze denken we nog amper na over welke weg we nemen van A naar B. We vergeten dat die app geen rekening houdt met schooluren die anders zijn tijdens de examens, waardoor we domweg door schoolstraten razen om sneller op onze bestemming te zijn. Is dat een meerwaarde? Technologie is er, in wezen, om onze levens te optimaliseren zodat wij meer vrije tijd hebben. Maar daar falen we dramatisch in. We verdoen onze vrije uren op Facebook of om spullen te kopen, en daar heeft AI dan weer een versneller op gezet. Ook al is het voor de gebruiker onzichtbaar. Bij het softwarebedrijf SAS deed ik dat: afleiden uit klikgedrag of iemand in surf- of koopmodus zat. Optimaliseren is prima, maar we mogen de grenzen niet uit het oog verliezen.

Wat zijn die grenzen?

De Ketelaere: Het laatste boek dat ik heb gelezen, geeft daarop een antwoord: Donuteconomie van de Britse econome Kate Raworth. Enerzijds hebben we ecologische bovengrenzen, waar AI met haar gigantische energieverbruik te grote happen uit neemt. Anderzijds hebben we ons eigen fundament: onze sociale rechten. Als AI binnen die grenzen blijft, is het zinvol. Vragen aan Siri wat er morgen op de planning staat, stoot grofweg berekend 14 gram CO2 uit. Hebben we dat nodig? Willen we dat AI cv’s screent en autonoom beslist over mensen? Ik zou in dat geval nooit aangenomen zijn. We weten dat de data niet feilloos zijn en de vooroordelen uit de echte wereld kopiëren.

Maar AI gebruiken om scans in kankeronderzoek te analyseren? Absoluut. Dat is een no-brainer. AI is een hulpmiddel, geen geloof. Het mag niet het plastic van de volgende generatie worden.