De Waag, hartje Amsterdam. Hier deed Rembrandt inspiratie op voor zijn meesterwerk De anatomische les. Gildenhuis, stadswaag, anatomisch theater, gevangenis, brandweerkazerne: het gebouw op de Nieuwmarkt heeft in de loop der eeuwen vele meesters en bestemmingen gekend. Nu is dit het werkterrein van Waag Technology & Society, een stichting waar een bonte coalitie van wetenschappers, studenten, kunstenaars en burgeractivisten werkt aan open, inclusieve technologie en tegelijkertijd de maatschappelijke impact van innovatie onderzoekt. De eerste en tweede verdieping vormen een labyrint van ateliers vol computers, lasers en 3D-printers, naast labs met microscopen, reageerbuizen en... naaimachines. Duurzaam textiel is een van de specialiteiten, naast cognitieve wetenschappen en biotechnologie. Thema's en redenen genoeg voor de VPRO om Marleen Stikker uit te nodigen voor het avondvullende praatprogramma Zomergasten. Het werd een beklijvende aflevering, waarin de stichter en directeur van Waag onder meer poneerde dat het internet 'kapot' is. Uit haar mond klonk dat niet als een gratuite bewering, want Stikker is een internetpionier. Nog voor ze Waag oprichtte, stichtte ze in 1993 De Digitale Stad als eerste publieke internetprovider van Nederland.

Zorgverzekeraars die mensen op basis van algoritmes uitsluiten. Dat is geen sciencefiction meer, het gebeurt elke dag.

U bevindt zich met uw diagnose in goed gezelschap. Ook Tim Berners-Lee slaat alarm over het world wide web dat hij samen met de Belg Robert Cailliau heeft uitgevonden. Hij hekelt vooral de manier waarop reuzen als Google en Facebook onze persoonlijke gegevens misbruiken om formidabele winsten te genereren. Waar is het fout gegaan?

Marleen Stikker: Er zijn meerdere problemen. Om te beginnen is het internet volledig onderschept. Er zijn nu zelfs condooms die je om je USB-stick moet doen als je internet op gaat. Of het nu gaat om hardware, firmware, operating systems, wifi, zoekmachines of browsers, alles is manipuleerbaar, overal zitten lekken waaruit data wegsijpelen. Dat is geen opinie maar een vaststelling. Het zijn tragisch genoeg nationale overheden die dat legitimeren, tuk als ze zijn op intelligence. Maar wie daar het meest van profiteert, zijn de giganten van de data-industrie die geen enkele scrupule hebben om gegevens te misbruiken. Daarmee zitten we meteen bij een tweede fundamenteel probleem: het huidige businessmodel van het internet is op extractie gebaseerd. Zoals Shell olie uit de grond oppompt, zo mijnen Google, Facebook en Amazon onze data.

Dat misbruik heeft verregaande gevolgen, zo blijk uit het schandaal rond Cambridge Analytica. Het databedrijf, in handen van financiers met een uitgesproken rechts-conservatieve agenda, zou via geroofde Facebookgegevens zowel het brexitreferendum als de Amerikaanse presidentsverkiezingen hebben beïnvloed. Heeft die case u de ogen geopend?

Stikker: Nee, het moment van de waarheid kwam eerder, toen Edward Snowden in 2013 de wereldwijde spionageactiviteiten van de NSA onthulde. Op zich was dat geen verrassing, de praktijken van de NSA waren bij hackers en internetactivisten al langer bekend. Snowden was trouwens niet de eerste klokkenluider, zijn voorgangers hadden zelfs de namen van de NSA-programma's al bekendgemaakt. Maar hij was wel de eerste die de bewijzen op tafel gooide. In Zomergasten heb ik de metafoor van The Matrix gebruikt. Wie de blauwe pil slikt, kiest voor een veilig bestaan binnen een schijnrealiteit. Alleen wie zoals Neo de rode pil neemt, krijgt te zien hoe de wereld er werkelijk uitziet. Dat is dus wat Snowden heeft bewerkstelligd: hij heeft ons allemaal verplicht die rode pil te slikken. We zien nu de onfrisse realiteit, een wereld waarin sociale media en big data een ongezonde cocktail vormen. Een wereld die bevolkt wordt door figuren zoals Peter Thiel en Robert Mercer, miljardairs die hun kapitaal, goeddeels geaccumuleerd via Wall Street en het internet, voor politieke doeleinden gebruiken en mannen als Steve Bannon financieren. De verkiezing van Trump, de rol van Poetin, het is onwaarschijnlijk wat er de voorbije twee jaar allemaal is gebeurd én onthuld. Want Trumps presidentschap mag dan een drama zijn, er zit een interessant neveneffect aan vast. Onderzoeksjournalistiek is nooit urgenter geweest dan vandaag.

Wat als die drones straks voor ons raam hangen om te kijken of er iemand thuis is? In zo'n wereld wil je niet leven.

Tot zover de diagnose. Hebt u ook een remedie om het internet te repareren?

Stikker: We moeten als individu, maar ook als samenleving, de soevereiniteit over het internet terugclaimen. Laten we om te beginnen de architectuur aanpakken. Privacy by design moet het uitgangspunt worden. En we moeten toe naar een nieuwe vorm van digitale identiteit. Nu moet je alles prijsgeven als je sociale media gebruikt, online shopt of een app installeert, van je e-mail en woonplaats tot je telefoonnummer. Waarom? Iemand die in Nederland online bier wil kopen, moet alleen kunnen aantonen dat hij meerderjarig is. Waar hij woont, wat zijn mailadres of telefoonnummer is, dat gaat niemand aan. Afgezien daarvan zie ik drie voorname criteria voor het Nieuwe Internet. De technologie moet open en accountable zijn, iedereen moet de instructies kunnen lezen. We moeten voorts los komen van het extractiemodel dat vooral de belangen van aandeelhouders van databedrijven dient. Internet moet een digital commons worden, een publieke voorziening die zich aan het economische marktdenken onttrekt. En last but not least: een veilig internet moet voor iedereen te gebruiken zijn, niet alleen de experts. Het succes staat of valt met het bouwen van extreem gebruiksvriendelijke interfaces.

Hoelang moeten we nog op dat Nieuwe Internet wachten?

Stikker: Er werden al heel wat stappen gezet. Zoek je een veilige berichtendienst? Signal, een versleutelde communicatieapp, biedt een volwaardig alternatief voor Whatsapp en Messenger. Met Brave hebben we nu ook een open source browser die reclame en webtrackers blokkeert, compatibel onder meer met de privacyvriendelijke zoekmachine DuckDuckGo. Veilig mailen, dat kan dan weer met ProtonMail. Voor Facebook en Instagram bestaat er nog geen alternatief. Het is aartsmoeilijk om een public space te bouwen die even intuïtief als Facebook werkt en bovendien veilig is. Maar er wordt hard aan gewerkt door de community, wereldwijd. Er zijn voorlopers als Mastadon. Tim Berners-Lee is ermee bezig, de eerste prototypes staan al online, voorlopig als exclusieve speeltuin voor early adopters. Maar het gaat hard, binnen hooguit vijf jaar hebben we een alternatief voor Facebook. Ik verwacht veel van het 'next generation internet platform', een initiatief van de Europese Commissie waar ook organisaties als Waag aan deelnemen.

U hebt in Nederland al verschillende Farewell Facebook Parties georganiseerd. Roept u niet in de woestijn? De doorsneegebruiker lijkt niet wakker te liggen van 'big brother Facebook' en van een massale uittocht is geen sprake.

Stikker:(lacht) Mijn oproep werd in april door VPRO-presentator Arjen Lubach overgenomen. Dat gaf wel een boost, een bekende Nederlander met 66.000 volgers die van Facebook af ging. Natuurlijk kun je daarmee nog niet van een massale uittocht spreken. Facebook de rug toedraaien is nu eenmaal een grote stap. Het zit verankerd in je sociale leven, heel wat gebruikers hebben er ook professioneel belang bij. Freelancers bijvoorbeeld gebruiken Facebook om opdrachten te versieren. Maar je vaststelling klopt wel: mensen onderschatten de dominantie van datagiganten zoals Facebook en Google. Ze zien de gevolgen niet, terwijl die er wel degelijk zijn.

© linelle deunk

Bijvoorbeeld?

Stikker: Zorgverzekeraars die mensen op basis van algoritmes uitsluiten. HR-programma's die met data-analyse bepalen of je al dan niet voor een sollicitatiegesprek wordt uitgenodigd. Tickets die duurder worden als je onder een bepaalde postcode valt. Rechtbanken die algoritmes gebruiken om de strafmaat te bepalen. Dat is geen sciencefiction meer, het gebeurt elke dag. Zover zijn we dus al: bedrijven leveren de software en data die belangrijke maatschappelijke processen sturen. Een publiek debat komt er niet aan te pas. Onbegrijpelijk, want dit gaat niet alleen de individuele burger aan. Waar zitten middengroepen zoals vakbonden? Algoritmes in de HR, dat raakt aan hun corebusiness. En waar blijft de politiek? Dit gaat over macht, inclusie, marktwerking, maatschappelijke cohesie. Bij uitstek politieke thema's, maar partijen hebben er geen standpunt over. Al begint stilaan het besef door te sijpelen dat er iets aan de hand is. Uber en Airbnb hebben daar een rol in gespeeld. Een bedrijf dat de stedelijke mobiliteit op zijn kop zet, een ander bedrijf dat de leefbaarheid van steden bedreigt door onbeheersbare massa's toeristen aan te zuigen. Dat waren de eerste wake-upcalls. Dankzij Cambridge Analytica weten politici nu ook dat big data hun eigen biotoop bedreigen. Ik denk dat ze wakker geschoten zijn.

De Chinese overheid wil in 2020 haar veelbesproken sociaalkredietsysteem lanceren. Een fijnmazig netwerk van slimme camera's met gezichtsherkenning, gecombineerd met geolocatie en artificiële intelligentie, zal burgers permanent in de gaten houden. Burgers die er de kantjes aflopen, komen op een zwarte lijst terecht. Ze verliezen uitkeringen, hun paspoort wordt ingetrokken, ze moeten meer betalen voor trein en vliegtuig. Is dat de ultieme nachtmerrie?

Stikker: Ja. Zo'n systeem staat haaks op ons idee van menselijke waardigheid, het ontneemt de burger al zijn vrijheid en verantwoordelijkheid. Het is alsof de hele maatschappij één grote airportterminal wordt, een plek met strikte veiligheidsregels waar de burger alleen nog mag werken, shoppen en consumeren, onder permanent cameratoezicht. China heeft natuurlijk een andere traditie qua burgerschap en individuele vrijheid. Alles is onderworpen aan de staat, het wordt ook aanvaard dat die staat in het algemeen belang toeziet op het gedrag van zijn burgers. Met alle middelen, ook technologie. Het andere uiterste vind je in Silicon Valley, waar techentrepreneurs een hyperindividualistische toekomstvisie uitdragen. We hebben geen staat meer nodig, dankzij de technologie kan het individu zichzelf maximaal ontplooien. Peter Thiel, stichter van PayPal en adviseur van Trump, heeft het letterlijk gezegd: technologie is God, politiek is de duivel. Europa moet een derde weg zoeken, een gelaagd model dat de vrijheid van het individu verzoent met de rol van de gemeenschap, zeg maar de context van dat individu. Ik ben daar optimistisch over, er gebeurt veel in Europa.

Heel wat mensen zijn geïntimideerd door technologie. Terwijl je het recept voor een botercake kunt lezen als een algoritme.

U werd door de Europese Commissie als adviseur gevraagd. Verklaart dat uw optimisme?

Stikker: Ik ben inderdaad lid van de high level stuurgroep voor innovating cities en werk voorts mee aan het project The Next Generation Internet. Dan krijg je een helikopterzicht. Het is indrukwekkend hoeveel partners meewerken aan het internet van de toekomst. Wat is digitale identiteit? Hoe gaan we data veilig opslaan? Hoe behouden we het internet als een open, publieke infrastructuur? Overal zijn mensen met die thema's aan de slag.

Heeft Europa wel de nodige knowhow in huis? Het is geen toeval dat digitale innovatie ons meestal vanuit Silicon Valley komt aanwaaien.

Stikker: Europa heeft geen gebrek aan knowhow. De angst is dat al onze bright minds weglopen naar Californië. Als we precies hetzelfde doen met minder geld, dan is dat inderdaad het gevaar. Maar we kunnen expliciet zijn over de waarden die we in de technologie leggen. Dat zal bright minds juist naar Europa lokken omdat ze het oneens zijn met de praktijken van Google, Facebook of Amazon. Dit is een kans om te bewijzen dat we onze eigen toekomst kunnen uitstippelen, zonder ons met handen en voeten aan Silicon Valley te binden. Europa beleeft moeilijke tijden, daar hoeft geen tekening bij. Een wervend project zoals de transitie naar digitale commons kan voor een nieuwe dynamiek zorgen. Dit gaat om meer dan technologie. De hele commons-beweging sluit met haar focus op kleinschaligheid aan bij de waarden van Europa, een continent van kleine gemeenschappen en grote diversiteit.

In mei is de Algemene Verordening Gegevensbescherming, beter bekend als GDPR, in werking getreden. Een stap in de goede richting voor Europa?

Stikker: Het is alleszins een teken dat het de Europese Unie menens is met de bescherming van waarden zoals het recht op privacy. Al blijft het spannend om te zien hoe ze de wetgeving zal afdwingen. De regeling is niet volmaakt, maar de GDPR geniet brede steun onder hackers en internetactivisten.

Vorige week liep het in Antwerpen storm voor SuperNova, een technologiebeurs waar je als bezoeker onwillekeurig met een rooskleurig toekomstbeeld weer buiten stapte. Robots, drones, artificiële intelligentie, biotech, zelfrijdende auto's: gaat u mee in al dat optimisme?

Stikker: Niet onvoorwaardelijk. Het enthousiasme over zelfrijdende auto's, daar heb ik een groot probleem mee. Ik vind de technologie fascinerend, we hebben er bij Waag zelf mee geëxperimenteerd. Het uitgangspunt zit evenwel verkeerd. Kiezen voor de zelfrijdende auto betekent dat we hele steden daarop gaan instellen, terwijl we weten dat het recept voor duurzame mobiliteit openbaar en collectief moet zijn. Denk aan de hype rond mobility as a service, het model van Uber. De aanname was dat het tot minder autogebruik zou leiden. Uit onderzoek blijkt echter het tegendeel, een verschuiving van 18 procent ten nadele van het openbaar vervoer. Zo zal het ook met zelfrijdende auto's gaan. Helaas ben ik een van de weinigen die tegen het dominante discours ingaan. Met de zelfrijdende auto zijn enorme belangen gemoeid. De IT-sector wil het, autoconstructeurs zien het als een ultieme kans om een verouderd concept nieuw leven in te blazen. Het beleid draait mee, er worden onderzoeksbudgetten vrijgemaakt, de zelfrijdende auto staat centraal in allerlei toekomstscenario's voor onze steden. Veel gezond verstand komt er niet bij kijken.

© linelle deunk

De drukste stand op SuperNova was die van de drones. Bent u daar milder voor?

Stikker: Ik acht drones wel in staat om veilig pakjes af te leveren, via gereserveerde luchtcorridors en dropzones. Toch rijst ook hier een principiële kwestie: willen we de dominantie over het publieke domein wel aan autonome systemen overleveren? Op de begane grond in de steden is het al zover, we worden constant in de gaten gehouden door bewakingscamera's, zowel van publieke als van private instanties. Gaan we dat nu ook in de lucht boven die steden tolereren? Wat als die drones straks voor ons raam hangen om te kijken of er iemand thuis is? In zo'n wereld wil je niet leven.

Mensenrechtenorganisaties maken zich grote zorgen over killer robots, zeg maar de optelsom van drones, AI en vuurkracht. Deelt u hun bekommernis?

Stikker: Absoluut, we moeten er alles aan doen om dat aan banden te leggen. Drones zijn een gamechanger in de oorlogsvoering. De partij die het technologische overwicht heeft, loopt geen risico meer. Zo wordt oorlog niet alleen gevaarlijk goedkoop, het wordt bovendien meer dan ooit een spel van machtsongelijkheid. Geen strijd tussen mens en machine, zoals het vaak wordt voorgesteld. Oorlog wordt een strijd van mensen met machines tegen mensen zonder machines.

Wordt u nooit voor technologie-scepticus versleten?

Stikker: Ik ben kritisch, wat niet wil zeggen dat ik anti ben. Kritisch denken is onderscheidend denken, met zin voor nuance en kennis van zaken. Dat is het uitgangspunt van Waag: of je ergens voor of tegen bent, je moet weten waar je over praat. Kijken onder de motorkap, of het nu over het internet, biotech of kwantumcomputers gaat. Veel mensen zijn tegen genetisch gemodificeerde organismen (ggo's), zonder dat ze enig benul hebben van hoe die technologie werkt. Waag heeft een vergunning voor genetische manipulatie. In ons biolab knutselen we met CRISPR aan levende organismen, we ontwikkelen onze eigen antibiotica en gaan op zoek naar bacteriën om textiel te maken of plastics af te breken. Niet om zelf ggo's te produceren, daar hebben we de vergunning noch de faciliteiten voor. We willen de kennis vergroten en verspreiden, buiten het kringetje van de academische wereld en de industrie. Do It Yourself is onze leuze. Heel wat mensen zijn geïntimideerd door technologie. Laat het woord algoritme vallen, en ze lopen gillend weg. Dat is alleen voor bollebozen, denken ze. Terwijl een algoritme niks anders is dan een instructie, je kunt het recept voor een botercake als een algoritme lezen. Dat is dus wat we doen: technologie demystificeren om ze voor iedereen toegankelijk te maken. We geven workshops in scholen, we hebben satellietlabs in tien Amsterdamse bibliotheken.

Elon Musk waarschuwt voor artificiële intelligentie die de mens overtreft en ons misschien zelfs op een dag als soort elimineert. Wat denkt u daarover?

Stikker: Er bestaat geen multi-purpose artificiële intelligentie. Je kunt wel een zelflerend systeem ontwerpen dat de beste go-spelers verslaat of feilloos kankercellen in databases identificeert, maar je kunt diezelfde machine niet leren om een baby te voeden of de hond uit te laten. Het is een vorm van oogklepdenken. Ingenieurs zoals Musk herleiden menselijke intelligentie tot IT-skills zoals logische en mathematische vaardigheden. Maar menselijke intelligentie gaat veel breder. Wat is denken? Wat zijn emoties? Wat is bewustzijn? Allemaal vragen waar we geen sluitend antwoord voor hebben. Meer en meer groeit het besef dat micro-organismen zoals maag- en darmflora een rol in de menselijke cognitie spelen. Soms denk ik dat het een rookgordijn is. Door te schermen met het doembeeld van alleskunnende AI-machines die de mens verdringen, leiden Musk en co de aandacht af van de essentie. Waar zit het kapitaal achter de reëel existerende, single-purpose AI? Wie heeft er belang bij? Wat is de impact? En is het niet dringend nodig om die booming business te reguleren? Daar zouden we beter wakker van liggen.

Marleen Stikker

- 1962 geboren in Groningen (NL)

- begint studie filosofie, die ze afbreekt

- 1993 staat aan de wieg van De Digitale Stad, de eerste publieke internetprovider van Nederland

- 1994 richt de Maatschappij voor Oude en Nieuwe Media op, later herdoopt tot Waag Technology & Society

- Adviseert de Europese Commissie over Innovating Cities en over Next Generation Internet

- stond in augustus centraal in een aflevering van VPRO-programma Zomergasten

Reageren op dit artikel kan u door een e-mail te sturen naar lezersbrieven@knack.be. Uw reactie wordt dan mogelijk meegenomen in het volgende nummer.