'Of het nu over 70 of 150 jaar zal zijn, dat valt onmogelijk te voorspellen. Maar runaway intelligence - een explosie van intelligentie door zelflerende machines - komt er zeker', zegt Jonathan Berte. Urenlang praatte hij met Knack, in twee interviewsessies, en altijd zag je die flikkering in zijn ogen. Met diezelfde blik richtte hij in 2008 het Vlaamse technologiebedrijf Robovision op in Zwijnaarde. Vandaag stuurt hij er een team van ruim 50 ingenieurs aan die goochelen met deep learning en neurale netwerken - eenvoudig gezegd: computers die zichzelf steeds beter maken, zonder menselijke tussenkomst.
...

'Of het nu over 70 of 150 jaar zal zijn, dat valt onmogelijk te voorspellen. Maar runaway intelligence - een explosie van intelligentie door zelflerende machines - komt er zeker', zegt Jonathan Berte. Urenlang praatte hij met Knack, in twee interviewsessies, en altijd zag je die flikkering in zijn ogen. Met diezelfde blik richtte hij in 2008 het Vlaamse technologiebedrijf Robovision op in Zwijnaarde. Vandaag stuurt hij er een team van ruim 50 ingenieurs aan die goochelen met deep learning en neurale netwerken - eenvoudig gezegd: computers die zichzelf steeds beter maken, zonder menselijke tussenkomst. Robovision ontwikkelt onder meer zelflerende robots voor bedrijven in Silicon Valley, algoritmes die beter kanker opsporen dan specialisten en veiligheidstechnologie voor de Nederlandse politie. Berte heeft geen bestsellers geschreven zoals Yuval Noah Harari met zijn Sapiens, Homo Deus en 21 lessen voor de 21e eeuw, maar net als de Israëlische historicus en futuroloog heeft hij een zeldzaam zicht op de einder. Hij biedt het perspectief van de doener, die ondernemen in technologie combineert met belezen denken en een wereldwijd netwerk. Een ingenieur met de verbeeldingskracht van een driejarig kind. 'We staan aan de vooravond van een revolutie', zegt hij. 'De voorbije vijf à tien jaar zijn niet meer dan een microseconde in het licht van de leeftijd van het heelal, maar voor de mens als soort is er iets cruciaals aan de gang. De darwinistische evolutie waarmee we van eencelligen tot homo sapiens zijn geëvolueerd, gaat ongelooflijk traag. Daar kunnen we als samenleving niet meer mee om. Hier en nu is onze soort zich aan het loskoppelen van de natuurkundige, biologische evolutie die ons tot homo sapiens heeft gemaakt. Door technologie die we zelf ontwikkelen, is dat langzaam maar zeker bezig. We zullen binnen afzienbare tijd nog wel armen en voeten hebben, maar tegelijk zullen we evolueren tot half technologische wezens, met een significante portie synthetisch DNA in ons genoom.' Voor we het over artificiële intelligentie (AI) hebben eerst dit: hoe definieert u intelligentie? Jonathan Berte: (omzichtig) Intelligentie betekent voor mij dat je te midden van een grote hoeveelheid informatie zelf kunt redeneren, je daarin je weg kunt vinden en je je daarin kunt manifesteren. Het gaat naar de kern van de natuur, omdat het te maken heeft met onze overlevingsdrang. Intelligentie is ontstaan als overlevingsmechanisme om ons voortbestaan te garanderen. De term artificiële intelligentie bestaat al sinds 1956. Hoe zou u die omschrijven? Berte: Bijna al onze artificiële intelligentie produceren we vandaag op computersystemen. Omdat we zo'n model vormgeven in wat we voor het gemak chiptechnologie noemen, is de term 'artificieel' natuurlijk to the point. Die drager staat dan tegenover de biologische vormen van intelligentie. Kijk bijvoorbeeld naar de C.-Elegansworm, een organisme met hooguit 300 zenuwcellen of neuronen. Hij kan intelligent interageren met zijn omgeving en wegvluchten van iets wat hem bedreigt. Daartegenover heb je deep learning-systemen, die miljoenen meer neuronen hebben, die in bepaalde toepassingsgebieden veel intelligenter zijn dan zo'n C. Elegansworm. De term AI zorgt voor verwarring, omdat we intelligentie - ook die van machines - altijd hebben benaderd vanuit onze eigen, menselijke invulling ervan. En net dát is nu aan het veranderen. Vorig jaar lanceerde de Vlaamse regering het Vlaams Actieplan AI, goed voor 32 miljoen euro per jaar voor onderzoek, implementatie, ethiek en opleiding. Op de website van de VDAB kwam er een gratis basiscursus AI. En in de Vlaamse theaterzalen kon u terecht voor Move 37. Die lezing -performance van acteur Thomas Ryckewaert en kosmoloog Thomas Hertog (KU Leuven) was vernoemd naar de magische 37e zet waarmee het algoritme AlphaGo vier jaar geleden de Zuid-Koreaanse bordspelkampioen Lee Sedol verraste, ja zelfs ontroerde. De zet, die kenners eerst dom leek, bleek achteraf geniaal en vernieuwend - en daarmee toonde hij een glimp van bewijs dat AI ook creatief kan zijn. Berte: 'Als je creativiteit definieert als buiten de lijntjes kleuren en zoeken naar iets wat toeschouwers een aha-erlebnis bezorgt, dan staan we aan het begin van een enorme creatieve golf die de homo sapiens ook op dát vlak zal degraderen.' Nadat de schaakcomputer Deep Blue in 1997 Garri Kasparov had verslagen, was de winst van AlphaGo in maart 2016 een nieuw ijkmoment in de ontwikkeling van AI. Het eeuwenoude en intuïtieve Chinese bordspel Go, waarbij je op een rooster van negentien bij negentien vakjes met witte en zwarte stenen elkaar probeert in te sluiten, is veel complexer dan schaken. Eind 2017 werd AlphaGo zelf verslagen door opvolger AlphaGo Zero, in 90 procent van de spellen, met compleet nieuwe, 'onmenselijke' strategieën. Waar de beslissingen van AlphaGo voortkwamen uit data van talloze go-wedstrijden waarmee de makers het systeem hadden gevoed, was AlphaGo Zero opgezet from scratch. Het kreeg alleen de regels van het spel, speelde miljoenen keren tegen zichzelf en leerde zo wat werkte en wat niet. In minder dan 24 uur had het een onbegrijpelijke, bovenmenselijke kracht ontwikkeld. Toch is AlphaGo Zero, net als de spamfilter in onze mailbox, een voorbeeld van zwakke AI: het kan één welomschreven taak beter dan de beste mens, maar het is en blijft maar één taak - het doet geen verschillende dingen in telkens nieuwe contexten. Professor Amy Webb (New York University), oprichtster van het Amerikaanse Future Today Institute en auteur van The Big Nine, een verhelderend boek over AI, scenario's en geopolitiek, maakt het onderscheid tussen ANI met de N van ' narrow' of 'eng'; AGI, met de G van ' general' of alles wat mensen kunnen maar dan beter; en ASI, wat staat voor 'superintelligentie' en singulariteit, het moment waarop machines aan de haal kunnen gaan met zichzelf en een intelligentie-explosie veroorzaken - precies waar wijlen Stephen Hawking in 2014 voor waarschuwde omdat ze het einde van de mensheid kan betekenen. Waar staan we vandaag in die evolutie? Berte: Ergens tussen ANI en AGI in. Een goed voorbeeld is wat onderzoeker Olivier Gevaert aan Stanford University doet met radiologie en kankeronderzoek. Door duizenden scans te labelen - 'waar is er een probleem en waar niet?' - en al die gegevens in een neuraal netwerk te stoppen, herkende het sneller sporen van kanker dan radiologen. Enkele jaren geleden is daarbij ontdekt dat je, parallel aan die beelden, ook andere soorten van data kunt toevoegen. 3D-data of de verslagen van de radiologen, bijvoorbeeld, waarin ze schreven dat het gezwel van patiënt x wellicht zus of zo zou evolueren. Het deep learning-netwerk zoekt dan naar relevante links tussen al die data, met als resultaat een nóg accurater algoritme. Dat blijft nog altijd maar één taak - kanker opsporen - en dus toch 'maar' ANI? Berte: Ja, maar die evolutie is een continuüm. Op de NIPS-conferentie (jaarlijkse bijeenkomst over 'machine learning' en neurowetenschap, nvdr) in 2017, waar al de knapste koppen in de AI samenkwamen, schatte een meerderheid van die experts dat we AGI bereiken rond 2060. Maar denk nu niet dat er een iconische dag komt waarop we dat kunnen afkloppen - 'Het is 21 december 2060, we zijn er!' Zo'n moment komt er nooit. Hoezo? Berte: De evolutie is als een kraan die almaar zwaardere lasten kan tillen. Neem nu een agenda-app. Een algoritme dat jouw agenda plant, zoekt in zijn eenvoudigste vorm naar lege plekken voor een afspraak. Maar gaandeweg komt er een punt waarop de app die afspraak exáct plant waar en wanneer jij dat wilt, zelfs beter dan wat je zelf had kunnen bedenken. Die AGI brengt dan alle beschikbare informatie in rekening - jouw levensdromen, dat je op maandagavond tennist en daarna een pint pakt waardoor je de volgende ochtend niet scherp staat, of dat je graag avonden meer thuis zou willen zijn bij je gezin. Een ander voorbeeld is een AGI in de bouwsector. Willen we een brug bouwen over een rivier? Dan doet de AGI voor jou alle berekeningen, ze neemt contact op met de aannemers, plaatst de bestellingen enzovoort. In dat stadium zal AGI de mens aansturen en niet omgekeerd. En robots, die bedienen de kranen? Berte: Dat kan, maar het kunnen evengoed nog mensen zijn. In de media wordt de AI-revolutie vaak voorgesteld als een robotrevolutie, maar die twee hebben gek genoeg weinig met elkaar te maken. In het voorbeeld van die brug creëert de AGI alle data en plannen en afspraken, maar in de praktische uitvoering daarvan kunnen nog altijd mensen de kraan besturen. De ultieme fase, ASI, boezemt angst in. Net zoals wij het moreel aanvaardbaar vinden om een insect te doden omdat we het inferieur intelligent vinden, kan een ASI zich tegen de mens keren als die óns een belemmering vindt, luidt de metafoor. Is dat gevaar reëel? Berte: Dat geloof ik wel, ja. Het hangt af van hoe de ASI zich belichaamt. Is het een supercomputer waarvan jij als mens nog altijd de hoofdschakelaar bedient? Dan kun je hem afzetten. Maar als de ASI verspreid zit, vergelijkbaar met het internet, dan is het een heel ander verhaal. Stel je even voor dat het - via een blockchainachtige technologie - een soort subcloud is van het internet, die autonoom zijn bronnen kan aankopen en beslissen om uit te breiden. Dan wordt het gevaarlijk. En als technologie maar geavanceerd genoeg is, wordt ze ooit opgepikt door mogendheden of enkelingen om ze negatief te gebruiken. Daarom stellen dat ze de hele mensheid kan uitroeien, is drie bruggen verder. Maar ze kan veel amok maken, laat dat duidelijk zijn. Geeft u daar even een voorbeeld van. Berte: Een totale beurscrash veroorzaken, bijvoorbeeld. Een AI-module die performanter dan wat ook de beurskoersen voorspelt en op een gegeven moment zichzelf nog versterkt - zoals een kettingreactie in de nucleaire techniek - kan, wanneer ze wordt ingezet of zichzélf inzet, ontiegelijk veel geld verdienen en de markt doen imploderen. Een ander, minder vergezocht voorbeeld zijn verzekeringen. Het hele verzekeringswezen - ook de sociale zekerheid - steunt op de onzekerheid dat een risico zich voordoet en op het solidariteitsprincipe. Als je de grijze zones zwart-wit gaat maken - dat gebeurt al en AI doet nog veel meer - dan erodeert de solidariteit. ASI zal ervoor zorgen dat dingen die heel moeilijk te voorspellen vallen toch ontrafeld worden. Die dag stond de driejarige Jonathan Berte onder aan de trap in het ouderlijke huis. Opkijkend naar de treden die boven hem uittorenden werd hij plots overweldigd door een warme gloed. 'Een mystieke ervaring. De realiteit viel op mij', zo omschrijft hij het nu. 'Hoe komt het dat ik bewust ben? Autonoom van de werkelijkheid, en tegelijk er deel van?' Dat was achteraf bekeken wat hij voelde, zegt hij, en die bewustzijnsvraag heeft hem nooit losgelaten. 'Was het telepathie? Bestaat God of zijn er geesten?' Tijdens zijn pubertijd wierp Berte zijn geloof af. Geschiedenis of filosofie zou hij studeren, op advies van zijn bevlogen geschiedenisleraar Geert Tanghe, die hem hegeliaanse dynamiek leerde en die - even terzijde - in 2014 het hoogst haalbare bereikte in de tv-quiz De Canvascrack. 'Ik ging overtuigd geschiedenis of filosofie doen, tot ik op het boek Gödel, Escher, Bach van Douglas Hofstadter botste in de boekenkast van mijn vader. Ik las het in één ruk uit, en plots zag ik kristalhelder: de ware filosofie, dat is de wiskunde en de schoonheid van de natuur.' Fysica werd het en daarna, aan het einde van de dotcombubbel in 1999, een jaar neuroinformatica in Zürich aan het pas opgerichte Institute for Neuroinformatics. Dat instituut wil de principes achter ons brein ontrafelen, om ze te kunnen toepassen in artificiële systemen. 'Tijdens mijn allereerste college daar, van professor Tobi Delbruck, zat ik als natuurkundig ingenieur klaar om formules te noteren. Toen zei hij dat we een essay moesten schrijven: "Wat betekent bewustzijn voor u?". Holy fuck, dacht ik toen, ik zit hier op mijn plaats.' We spoelen weer door naar vandaag. En vooral ook naar morgen. Waar ingenieurs zich twintig jaar geleden lieten inspireren door nieuwigheden uit de biologie en hersenwetenschap om neurale netwerken te ontwerpen, is er nu een tegenbeweging aan de gang, zegt Berte. 'Neurologen en biologen hopen vandaag iets te leren van de deep learning-netwerken die schrikbarend straffe resultaten geven - vaak beter dan een mensenbrein, maar zonder dat we dat kunnen verklaren. Zelfs de topwetenschappers tasten in het duister. "Het werkt ontzettend goed, maar we weten niet waarom", zeggen de pioniers Geoffrey Hinton, Yoshua Bengio en Yann LeCun. Je kunt de sfeer van tegenwoordig vergelijken met de spanning die er in de tweede helft van de negentiende eeuw hing net vóór de basiswetten van de thermodynamica werden blootgelegd. We leven in een ongelooflijk spannende, prerevolutionaire tijd. We hebben de basiswetten van de intelligentie nog nét niet ontdekt.' Wetenschappers gaan ervan uit dat alles ontstaat uit materie. Finaal dus ook bewustzijn en emoties. Die aanname impliceert dat machines ook emoties zullen hebben. Bent u het daarmee eens? Berte: Emoties zijn iets moeilijks. Ze zijn de drijfveren van menselijk gedrag. In zekere zin creëren we bij 'diepe neurale netwerken' nu al artificiële drijfveren die het leerproces in een bepaalde richting dwingen. Alleen zijn die niet chemisch van aard, zoals bij dieren en mensen. Als AI systemen zouden evolueren en bestaan in ander materiaal - dus niet in puur silicon zoals nu - dan kunnen we misschien ook artificiële dopamine gebruiken om ze te enthousiasmeren om iets nieuws te leren. Zullen u en ik, vroege veertigers, sterven als cyborgs? Berte: Onze generatie is daar psychologisch niet klaar voor, denk ik. Een pacemaker laten we nog wel plaatsen, omdat het moet. Maar vrijwillig een draad of chip in ons lijf? Daar bedanken we voor. Een uitzondering is misschien de lab-on-a-chip voor online bloedanalyse in realtime. Als je die zonder ongemakken zou kunnen inbouwen, zou je permanent microwaarden in het bloed kunnen opsporen die bijvoorbeeld wijzen op darmkanker, een ziekte waarvan we weten dat de genezingskans veel groter is naarmate je ze vroeger ontdekt. Dan zou je een boodschap krijgen zoals: 'Maakt u zich geen zorgen, maar sinds 13 uur zijn er enkele verhoogde indicatoren. Gaat u voor alle zekerheid even naar het ziekenhuis.' Onze kinderen, die zullen dus wél cyborgs zijn? Berte: Sowieso. Als je cyborg definieert als 'met minstens één module in je lichaam', dan zullen onze kinderen dat zijn. Neuralink, bijvoorbeeld (een project van Tesla-stichter Elon Musk, nvdr) heeft de ambitie om een brein-elektronische interface te maken, waardoor je alleen met denken je smartphone kunt aansturen. Maar ik geloof niet dat onze kinderen nanotechnologische draadjes in hun hersenen zullen laten inbouwen, zoals Musk voorspiegelt. De interactie tussen onze hersenen en een databank - het internet - zal volgens mij eerder gebeuren via genetische manipulatie, synthetisch DNA, of genmateriaal van andere organismen. Met een kleine ingreep of een inspuiting die iets doet groeien, zouden we bijvoorbeeld een stukje van onze schedel transparant kunnen maken, wat optische communicatie zónder draadjes mogelijk maakt. Zoiets lijkt ver weg, maar misschien is het wel dichterbij dan je denkt. Vorig jaar heeft het ETH Zürich, waar ik destijds heb gezeten, voor het eerst synthetisch DNA ontwikkeld (ETH roept op tot een maatschappelijk debat over mogelijk gebruik en misbruik van deze technologie, nvdr). Welke implicaties heeft dat? Berte: Het betekent dat we nu zelf DNA kunnen creëren. Eerst in China - dat voorspel ik - zullen we sleutelen aan ons genoom. Geen enkele ouder op aarde wenst dat zijn kind een pedofiel wordt, dus als we daar een gencombinatie voor vinden, schakelen we die wellicht uit. Hier en nu is dat taboe, maar in privéziekenhuizen in Peking zal dat anders zijn. Erfelijke belasting voor pakweg borstkanker kunnen we al detecteren, maar voor intelligentie zitten we nog in een grijze zone: wetenschappers vermoeden dat er enkele honderden genen voor instaan. Als we die straks in detail kennen, dan kunnen we van jouw kind een soort Einstein maken. Stel dat jij in een cultuur van eenkindgezinnen woont. Waarvoor kies je dan? Voor een Einstein, of laat je de natuur haar gang gaan? Heel wat mensen die het kunnen betalen, zullen voor die laatste optie kiezen. Hoever ligt dat van ons verwijderd? Berte: Niet ver. Echt niet ver. Decennia? Berte: Geen decennia, maar jaren. Dat het mogelijk is, en ook zal gebeuren. Als ik het geluk heb om 100 jaar te worden en ik ben dan in China, dan zullen kleinkinderen van onze Chinese leeftijdgenoten opmerken dat ik een wipneus heb en kennelijk nog een biologische puur-natuur-DNA-mens ben. Met name in China, waar dat ook past in de cultuur, zal de gemodificeerde mens dan veeleer norm dan uitzondering zijn. Als je vandaag het nieuws wilt presenteren op de Chinese nationale televisie is voldoen aan de onnatuurlijke fysieke vereisten in de jobomschrijving vrijwel onmogelijk zonder plastische chirurgie. China, met zijn traditie van meerjarenplannen en een president die sinds 2018 voor het leven is benoemd, heeft de uitgewerkte ambitie om tegen 2030 wereldleider in AI te zijn. Worden we geknecht omdat de Chinezen die wapenwedloop winnen? Daar vreest Berte niet voor. 'Elke nieuwe technologie wordt op een gegeven moment zo alomtegenwoordig dat ze niet meer ter discussie staat', zegt hij. 'Kijk naar elektriciteit, kijk naar het internet: die zijn gedemocratiseerd, en dat zal ook met AI zo zijn. Hyperperformante AI-engines zullen ons omringen. Denken dat AI in handen kan zijn van één welbepaalde partij, lijkt me overroepen. Als jij TensorFlow downloadt (open source-software van Google waarmee je neurale netwerken kunt bouwen, nvdr), dan staat het op je computer en kun je zelf aan de slag.' De meeste wetenschappelijke papers over AI die Berte van Chinezen heeft gelezen - ze produceerden er in zeven jaar tijd dubbel zoveel als er waren in 2010 - zijn geen fundamentele research, maar toegepast AI-onderzoek, zegt hij. 'Hoe de Chinezen de Oeigoeren onderdrukken en hoe ze DNA-onderzoek willen toepassen om te weten wie Oeigoer is en wie niet, is weerzinwekkend (naar schatting een miljoen Oeigoeren zitten opgesloten in 'heropvoedingskampen', nvdr). Maar dat heeft in feite weinig te maken met research naar AGI.' 'Mens en machine zullen gradueel in elkaar opgaan. Wij denken in iconische, hollywoodiaanse mijlpalen - HAL 9000 uit de film 2001: A Space Odyssey, of de Terminator, of Neo uit The Matrix. Maar dat is fictie. De evolutie waar we voorstaan, is een continue, langgerekte grijze zone. We zullen almaar bionischer worden door modificaties of implantaten, en op een gegeven moment zullen we versmelten tot een nieuwe soort die niet langer homo sapiens heet. Wanneer we ophouden mens te zijn, is onduidelijk. Maar dát het gebeurt, staat buiten kijf.' 'We zullen ASI zijn, begrijp je?'