Tijdens de nieuwjaarstoespraak van Xi Jinping konden tv-kijkers in de boekenkast van de Chinese president behalve klassiekers over het communisme - Het kapitaal van Karl Marx, het verzamelde werk van Mao Zedong - ook een onverwachte titel spotten: The Master Algorithm. In die bestseller uit 2015 beschrijft de in Amerika werkende Portugese professor Pedro Domingos hoe lerende machines ons leven bepalen, van sociale netwerken over wetenschap, economie en politiek tot moderne oorlogvoering.
...

Tijdens de nieuwjaarstoespraak van Xi Jinping konden tv-kijkers in de boekenkast van de Chinese president behalve klassiekers over het communisme - Het kapitaal van Karl Marx, het verzamelde werk van Mao Zedong - ook een onverwachte titel spotten: The Master Algorithm. In die bestseller uit 2015 beschrijft de in Amerika werkende Portugese professor Pedro Domingos hoe lerende machines ons leven bepalen, van sociale netwerken over wetenschap, economie en politiek tot moderne oorlogvoering. Xi, die volop investeert in artificiële intelligentie (AI), was niet de eerste prominente lezer van het boek: ook Microsoft-oprichter Bill Gates en oud-Google-baas Eric Schmidt hebben een exemplaar in hun bibliotheek staan. En het zou ons niet verbazen als hetzelfde geldt voor de Russische president, want:'Wie de leiding neemt in de ontwikkeling van AI, zal de wereld overheersen', zegt Vladimir Poetin. Heeft hij gelijk? Pedro Domingos: Jazeker. AI doet de kostprijs van kennis gigantisch dalen. Efficiënte systemen die uitgaan van lerende machines kun je op de meest uiteenlopende domeinen inzetten, van economie tot cyberspionage. Een land dat daarin de leiding neemt, zal tot duizend keer meer kennis kunnen produceren dan alle andere landen - stel je voor! AI is, met andere woorden, een machtige technologie. En de wapenwedloop op dat gebied is al lang begonnen. Over twintig jaar zou de strijd beslecht kunnen zijn. Rusland gaat er met rasse schreden op vooruit, maar de kans is groter dat China zal winnen. Misschien leven we binnenkort wel in een wereld die niet letterlijk, maar toch feitelijk door de Chinezen gecontroleerd wordt, omdat zij de cyberwereld overheersen.Was u verbaasd toen u begin dit jaar uw boek in president Xi's boekenkast zag staan? Domingos: Niet echt, nee. Met de boeken in die kast geeft Xi blijkbaar telkens weer een boodschap. In het geval van het mijne luidde die: 'Wij geloven in AI.' Peking steekt niet onder stoelen of banken dat het op cybervlak een wereldmacht wil worden. Hoe ik me daarbij voel? Ik vind het tegelijk spannend en een beetje beangstigend. Met AI kun je, zoals met elke technologie, goede dingen doen. Maar er kan ook misbruik van gemaakt worden. Dat uitgerekend autocraten als Xi en Poetin in de ban van AI zijn, is geen toeval. Hun is het - helaas - om het autoritaire potentieel van die technologie te doen, niet om het libertaire, bevrijdende potentieel. In China heerst een regime dat vastbesloten is om algoritmen te gebruiken om zijn bevolking te controleren. En we staan nog maar aan het begin van die ontwikkeling. Dat The Master Algorithm al vertaald is in het Chinees en het Russisch, maar niet in het Frans, Duits of Nederlands: is dat evenmin toeval? Domingos: Nee. Amerikanen, Europeanen en Aziaten denken totaal anders over AI. In Silicon Valley heerst een optimistisch beeld, in Europa een pessimistisch. Onlangs was ik in Berlijn op een conferentie over het thema. Ik was stomverbaasd - tijdens elke sessie kon je horen: 'O, daarvoor moeten we oppassen!' Tot iemand terecht opmerkte: 'Waarom heet deze conferentie eigenlijk Humanity Disrupted - "verscheurde mensheid" - en niet Humanity Enhanced of "versterkte menselijkheid"? Als het over AI gaat, zie ik een duidelijke culturele breuk. Er zijn veel toepassingen die in Amerika en China al lang ingeburgerd zijn - in de gezondheidszorg, het verkeersbeleid, noem maar op - maar waaraan Europa zich amper durft te wagen. In de regulering van AI staat de Europese Unie dan weer wél verder dan de States. Domingos: Dat klopt. Als je het mij vraagt, reguleert de EU zelfs te véél. Zonder de techniek te begrijpen. De nieuwe Europese privacyregels, die eind mei van kracht worden, schenken te veel aandacht aan de zogenoemde 'verklaarbaarheid', aan de vraag waarom een algoritme een bepaalde keuze maakt. Neem het kankeronderzoek, waarin machinaal leren al een grote rol speelt. Ik heb liever een diagnose die voor 90 procent accuraat is maar niet tot in de details verklaard kan worden, dan een begrijpelijke diagnose die voor 80 procent klopt. Is het niet allebei tegelijk mogelijk: precisie en begrijpelijkheid? Domingos: De beste lerende algoritmen zijn gekopieerd van kunstmatige neurale netwerken, die op hun beurt geïnspireerd zijn door zenuwsystemen zoals ze te vinden zijn bij mens en dier. Die algoritmen zijn uitermate accuraat. Ze kunnen, op basis van enorme hoeveelheden data, een aspect van de wereld beter begrijpen dan wij. Maar ze zijn volkomen ondoorzichtig. Zelfs wij specialisten begrijpen niet hoe ze precies functioneren; we weten alleen dát ze functioneren. En dus kun je beter geen regels opstellen die alleen volledig verklaarbare algoritmen toelaten. Het is moeilijk om de complexiteit van de werkelijkheid te vatten en er tegelijk voor te zorgen dat alles eenvoudig blijft. Wat kun je dan wél reguleren? Domingos: De objectieve functies van een algoritme. Neem de doelstelling van Facebook om de aandacht van gebruikers zo lang mogelijk vast te houden. Hetzelfde doet ook elke goede televisieshow, elke roman of elk sportevenement. Maar Facebook gebruikt daarbij AI, en dat richt schade aan: mensen laten zich misleiden door nepnieuws. De overheid zou daarover kunnen zeggen: 'Oké, jullie willen geld verdienen. Maar dan moeten jullie je wel aan sociaal relevante regels houden.' Door transparant te zijn, bijvoorbeeld. En door valse informatie tegen te houden. Wat je beter níét kunt vastleggen is, bijvoorbeeld, dat data alleen gebruikt mogen worden voor het doel waarvoor ze verzameld werden. Als de mensheid dat principe vroeger zou hebben gehanteerd, zou er nu geen penicilline of röntgentechniek geweest zijn. Zonder de mogelijkheid om in oude data nieuwe dingen te ontdekken, kan er van wetenschappelijke vooruitgang geen sprake zijn. Hebt u dat al aan Europese politici uitgelegd? Domingos: Ik heb al met veel politici gepraat, maar niet zo vaak met Europese. Dat is eigenlijk vreemd, want Europa heeft uitstekende specialisten op het vlak van AI. Maar China is Europa aan het inhalen... ... en zal ons, zoals u al aanstipte, met zijn autoritaire model inhalen. Domingos: De vroegere baas van Google, Eric Schmidt, voorspelt dat China in 2025 koploper zal zijn omdat het strategisch sterk staat. Wellicht is dat juist. Amerika staat dan weer sterk op het vlak van fundamenteel onderzoek en sprankelend risicokapitaal, dat nodig is om de kennis van de universiteiten naar de economie over te brengen. China's voordeel is dat lerende algoritmen er kunnen putten uit enorme hoeveelheden data. Maar die Chinese data zijn heel homogeen en daarom op veel vlakken redundant. Europa heeft het voordeel van de verscheidenheid. Als ik tussen de datapools van Europa en China zou moeten kiezen, zou ik Europa nemen. Bovendien gaat China slordig om met de privacy, wat zowel een voor- als een nadeel is. Waarom? Domingos: Bij het kankeronderzoek, bijvoorbeeld, vind ik dat patiënten de ethische plicht hebben om hun gegevens te delen. Maar dat zullen ze niet doen als ze, zoals in China, niet zeker weten of hun gegevens wel veilig zijn. De kwaliteit van de gegevens in China is daardoor wellicht kleiner, hoewel hun hoeveelheid groter is. Waar zal de wapenwedloop rond AI zich in de toekomst vooral afspelen: tussen landen of tussen bedrijven? Domingos: Op die vraag kan ik geen eenduidig antwoord geven, omdat de wereld in dat opzicht compleet zal veranderen. De grenzen zullen verschuiven. Ik praat geregeld met Amerikaanse legeroversten - een groot deel van mijn onderzoek wordt door het Pentagon gefinancierd - en zij hebben de hoop opgegeven dat je de vijand buiten kunt houden. In de cyberwereld ís hij al binnengedrongen, hoe we ook proberen om alle kieren te dichten. Daarom doen de Chinezen ook zo hun best om een controlestaat op te bouwen. Wat heeft dat met internetbedrijven te maken? Domingos: Daar is de competitie het grootst. De grote cyberbedrijven werken vooral in stilte aan AI, alleen al vanwege de concurrentie. De tien grootste spelers werken nog altijd helemaal onafhankelijk - in Amerika zitten er vijf of zes, in China twee of drie. Maar binnen afzienbare tijd zullen ze nauwer met de staat gaan samenwerken. Ook op dat vlak loopt China voorop: in dat land staat er, in tegenstelling tot in de Verenigde Staten, geen rem op de samenwerking tussen de regering en de bedrijven. Welke bedrijven staan aan de leiding? Domingos: De nummer één is Google, waar een enorm aantal specialisten en afdelingen als DeepMind en Google Brain zich alleen bezighouden met AI en machinaal leren. Op de tweede plaats komt Microsoft, en daarna komen Facebook en Amazon, dat in zijn logistieke centra honderdduizenden mensen tewerkstelt die het wellicht liever vandaag dan morgen door robotten zou willen vervangen. En in China? Domingos: Daar hebben de onlinehandelaar Alibaba en de internetgigant Tencent de leiding. En zeker ook de zoekmachine Baidu, die enorm inzet op AI. AI wordt ingezet door autoritaire regimes en legerleiders, voor spionagezaken, en in april was er het dataschandaal bij Facebook: waarom blijft u desondanks een believer? Domingos: Je moet zien hoezeer de wereld de afgelopen tweehonderd jaar veranderd is door de technologie. Er zijn vreselijke dingen gebeurd, maar over het algemeen kun je spreken van een overweldigend positieve ontwikkeling. Er zijn goede redenen om zowel optimistisch als pessimistisch te zijn. Ik blijf voorzichtig optimistisch. Is het Facebook-schandaal niet juist de 'grote knal' in de digitale wereld waarvoor u in uw boek al waarschuwde? Domingos: Facebook is altijd al bijzonder nonchalant met gebruikersgegevens omgegaan. Het bedrijf van Mark Zuckerberg nam grote risico's - en heeft zichzelf pas gecorrigeerd nadat het al te ver was gegaan. Het is geen toeval dat het minder vertrouwen geniet dan de andere grote internetbedrijven. Aan de andere kant is Facebook niet meer wat het enkele jaren geleden was. Gegevens doorspelen aan een consultancybedrijf als Cambridge Analytica, zoals in de aanloop naar de Amerikaanse presidentsverkiezingen van 2016: vandaag zou het niet meer kunnen. Kunnen sociale netwerken een democratie in gevaar brengen? Domingos: Ze zijn gevaarlijk, maar ze bieden ook kansen. Eigenlijk is de democratie blijven steken in de negentiende eeuw. De communicatie met onze volksvertegenwoordigers beperkt zich tot een paar bits per jaar - dat is belachelijk. Via een digitaal model zouden burgers beter betrokken kunnen worden bij beslissingen van hun regeringen. Je zou bijvoorbeeld zo'n model kunnen opstellen van de individuele burger en zijn politieke prioriteiten, waarna volksvertegenwoordigers het kunnen raadplegen. Zoiets kun je via machinaal leren perfect realiseren; het wordt zelfs al uitgetest. Dat zou een kans kunnen zijn. En wat is het gevaar? Domingos: Dat sociale netwerken misbruikt worden voor manipulatie. Waarbij je de zaken niet mag overdrijven: voor Facebook, dat leeft van advertenties, is een gebruiker nu ongeveer 50 dollar waard, terwijl die gebruiker per jaar misschien 50.000 dollar uitgeeft. Tot méér heeft al dat machinale leren dus nog niet geleid. Dat je via AI de uitslag van verkiezingen kunt bepalen, lijkt mij dan ook sterk overdreven. Maar de technologie staat natuurlijk niet stil. Wat zal AI uiteindelijk gevaarlijker maken: datalekken zoals bij Facebook, of een orwelliaanse staat zoals de autocraten hem willen vormen? Domingos: Als autoritaire staten betere algoritmen zullen schrijven dan wij in de democratieën, zullen we een probleem hebben. Vrij naar de Russische revolutionair Leon Trotski zou je kunnen zeggen: jij bent misschien niet geïnteresseerd in AI, maar AI is wel geïnteresseerd in jou. Zoals Amerika gelooft in advocaten, gelooft China in ingenieurs. Een aantal Chinese leiders zijn zelfs ingenieurs. Voor hen is de manier waarop de maatschappij wordt vormgegeven een technisch probleem: 'We programmeren een machine, die zich vervolgens gedraagt zoals wij dat willen.' Voor zulke politici is AI verleidelijk. Ook de leiders in de voormalige Sovjet-Unie hadden de wereld graag overheerst. Domingos: Stel je voor wat die heerschappen met de algoritmen van onze tijd hadden kunnen uitspoken! Computers zijn de ultieme bureaucraten. Ze kunnen iedereen op elk moment controleren, ze zijn absoluut onomkoopbaar - maar in handen van een corrupt systeem zijn zo ook absoluut corrupt. In een open maatschappij kan ik als opperbevelhebber van een leger bevelen geven aan mijn soldaten, maar in de meeste westerse landen hebben die het recht een slecht bevel te weigeren. Een computer? Die stelt geen vragen. Hij doet wat ik hem opdraag. 'Eender welke voldoende geavanceerde technologie is ononderscheidbaar van God', schrijft u in uw boek. Dat vraagt om uitleg. Domingos: Die quote is gebaseerd op een 'wet' van de Britse sciencefictionschrijver Arthur C. Clarke: 'Eender welke voldoende geavanceerde technologie is ononderscheidbaar van magie.' Wat ik daarmee wil zeggen, is dit: wij mensen vrezen een Opstand der Machines. Maar die zal er nooit komen, want machines hebben geen wil. Wat wél mogelijk is, is dat wij de controle vrijwillig aan hen zullen overlaten, simpelweg omdat ze zo fantastisch zijn en meer data kunnen verwerken dan wij. Vindt u een smartphone misschien geen magisch, goddelijk toestel? Ik in elk geval wel. Wie de machines of AI aanstuurt: daar zal het uiteindelijk op aankomen? Domingos: Zo is dat. Zullen wij de controle hebben - of wordt het Xi Jinping? Dát is de hamvraag.© Der Spiegel