De toekomst van tech en AI: ‘Kunnen we ons losmaken van die machtige instituties?’

De centrale vraag die onder­zoeker en auteur Vauhini Vara zich in haar werk stelt is: hoe leven in een wereld die steeds inniger verstrengeld raakt met technologie?

‘Op een dag zullen je achterkleinkinderen zich misschien afvragen hoe het was om getuige te zijn van de opkomst van AI, er maar even van uitgaande dat dat zich een beetje doorzet, of hoe het was om voor het eerst een smartphone op te pakken. Maar de waarheid is dat het, terwijl je zulke ontwikkelingen van dichtbij meemaakt, niet per se heel bijzonder voelt. En dat gold ook voor mij als tiener.’

Vauhini Vara werd geboren in Canada, waar haar ouders naartoe waren verhuisd vanuit India, maar groeide vanaf haar tiende op in Amerika: eerst in Oklahoma en daarna in Seattle, waar haar vader een baan bij Boeing kreeg, op dat moment de plek waar het qua tech allemaal gebeurde.

Maar, zegt ze, ‘ik kon absoluut niet overzien wat de bredere context was van de dingen die ik om me heen zag. Ik wist bijvoorbeeld wel dat Paul Allen, een van de medeoprichters van Microsoft, het lokale Americanfootballteam probeerde te kopen, en dat hij als een redder werd onthaald, maar ik begreep niets van de bredere implicaties.’

Vara, die jarenlang als tech-verslaggever en redacteur werkte voor onder andere The Wall Street Journal en The New Yorker en die een paar jaar geleden met haar debuutroman werd genomineerd voor een Pulitzer, publiceerde onlangs Searches: Selfhood in the Digital Age, een essayistisch boek over het leven in een wereld die steeds inniger verstrengeld raakt met technologie.

‘Een van de dingen die tijdens het schrijven interessant waren, was het teruggaan in de tijd, en wat ik had beleefd in een ander perspectief te zien, en nu wel te begrijpen wat de grotere maatschappelijke en economische context was.

‘Het internet was in mijn beleving lang iets magisch en iets bevrijdends geweest, ik kon nu pas zien hoe die ervaring innig verbonden was met een grotere werkelijkheid en een economisch systeem. Nu pas kon ik zien hoe zelfs mijn allereerste ervaringen met AOL, toen ik nog in Oklahoma woonde, het directe gevolg waren geweest van een heel bewuste marketingcampagne.’

In The Immortal King Rao, de eerdergenoemde roman, schreef Vara over het leven van een jongen die in de jaren vijftig in India wordt geboren en die zal uitgroeien tot de belangrijkste tech-ceo van de wereld. ‘Ik heb toen geprobeerd het huidige technologisch-kapitalisme in een langere geschiedenis te plaatsen – te laten zien dat het niet uit het niets is ontstaan, maar dat het iets is dat is voortgekomen uit de geschiedenis van het kapitalisme, uit de economische en sociale systemen die ermee samenhangen.

‘We moeten onze afhankelijkheid van Amerikaanse techbedrijven afbouwen’

‘Maar zelfs dat had mijn eigen ervaringen nog niet op deze manier in een nieuw licht geplaatst. Mijn persoonlijke narratief was nog altijd dat het internet ooit een onschuldigere, minder gecorrumpeerde plek was geweest – een vrijere ruimte waar we plotseling meer onszelf hadden kunnen zijn. Maar hoewel daar een kern van waarheid in zit, zijn ook zulke nieuwe ruimtes vanaf het begin betwiste plekken geweest, plekken die werden gekenmerkt door empowerment én exploitatie.’

Als Vara haar telefoon opneemt klinkt er straatrumoer op de achtergrond. Ze vertelt dat ze onderweg terug is van haar Spaanse taalles. Niet in Colorado, waar ze woont, maar in Madrid, waar ze ooit met haar jonge gezin een jaar doorbracht en nu in de zomers naartoe blijft terugkeren. Een van de hoofdstukken in Searches gaat over taalbarrières. Ze schreef dat ene hoofdstuk in het Spaans en het is tweetalig in het boek opgenomen. Tegen het einde beschrijft ze hoe technologie die taal genereert zich presenteert als een middel om gemeenschap te bevorderen, zonder dat werkelijk te doen: zulke technologie lijkt elke keer weer vooral bestaande hiërarchieën en scheidslijnen te versterken in plaats van ze af te breken of overbrugbaar te maken.

In 2020 kreeg Vara als tech-journalist toegang tot een vroege voorloper van ChatGPT. Ze sloeg aan het experimenteren. De vraag die ze zichzelf stelde was welke belofte er in de technologie verscholen zat. Ze besefte dat een van de mogelijke scenario’s was dat de technologie een product zou kunnen opleveren dat erop gericht was woorden voor ons te vinden daar waar wij ze zelf tekortkwamen. Ze besloot dat idee in goed vertrouwen te onderzoeken en vroeg zich af wat ze zelf met zo’n product zou doen.

Wat ze de machine begon te voeren waren haar eigen gedachten over dat waarover ze zelf nog altijd amper kon praten: de dood van haar zus, twee decennia eerder. Wat de machine produceerde was in sommige opzichten indrukwekkend, maar nooit precies dat waarvan ze het gevoel had dat ze het zelf had willen zeggen. Ze bleef tekst verwijderen en zelf steeds meer invoeren. Het resultaat was een verhaal waarin zijzelf, in de interactie met de machine, telkens meer wist te verwoorden. Dat essay, Ghosts, ging viraal. ‘De reden dat ik het publiceerde was omdat ik het gevoel had dat er een boodschap in schuilde. Iets over de beloften die techbedrijven doen en de mate waarin ze die belofte uiteindelijk gestand kunnen doen. Mijn idee was dat dat tegenviel. Maar wat er gebeurde was dat het essay vooral werd opgepikt en begrepen als een cool experiment met AI.’

In Searches zoekt Vara opnieuw de interactie met een taalmodel. Ditmaal voert ze gaandeweg de hoofdstukken die ze schrijft aan de machine en vraagt ze om een reactie. Het biedt een bevreemdende ervaring: de gegenereerde tekst lijkt inhoudelijk in te gaan op wat ze heeft geschreven, maar als lezer heb je op hetzelfde moment de neiging om weerstand te bieden. Waar je haar eigen teksten instinctief als betekenisvol leest en begrijpt, lijkt het soms onmogelijk om datzelfde te doen met de gegenereerde passages.

‘Ik denk dat dat uiteindelijk het punt is dat ik probeer te maken’, zegt Vara. ‘Er zitten grote verschillen tussen modellen, maar uiteindelijk draait het hier om het verschil tussen taal die is gegenereerd door machines die het eigendom zijn van grote bedrijven, en taal die door mensen is gemaakt. Er is wel degelijk een wezenlijk verschil tussen woorden die door een machine zijn gegenereerd en woorden die door een mens worden uitgesproken om met een ander mens te communiceren. Ik wilde nog eens helder duidelijk maken wat in Ghosts alleen als subtekst aanwezig was geweest en niet overal werd opgepikt: dat die gegenereerde taal de lezer misschien wel intellectueel kan stimuleren, maar dat al het werk van betekenisgeving in het brein van de lezer plaatsvindt. Er is geen sprake van cocreatie of iets van dien aard.’

U beschrijft ook ergens hoe uw vader u berichten begon te sturen die gegenereerd waren met behulp van een chatbot. Stemde dat droevig?

Vauhini Vara: Nee, ik geloof het niet. Wat ik er interessant aan vond was hoe het zijn Indiase Engels leek te corrumperen. Dat het product dat hij gebruikte een bepaalde hegemonie over zijn eigen taal uitoefende, bepaalde wat goede en slechte communicatie was en dat hij dat vervolgens accepteerde. Ik wilde vooral duidelijk maken dat mensen zich er lang niet altijd van bewust zijn dat dit politiek is, dat ze vaak te gemakkelijk aannemen dat zulke modellen hun eigen taal beter kunnen maken.

‘Het beest dat moet worden gevoed: de onzichtbare handen achter jouw AI zitten in Afrika’

Veel van het internet wekt de indruk dat het zich vormt naar onze wensen en verlangens, terwijl het op hetzelfde moment zo overduidelijk de belangen van anderen dient.

Vara: Er is een belangrijk verschil tussen GPT-3, de technologie achter de tekst in Ghosts, en latere modellen die nu achter ChatGPT zitten. OpenAI besefte dat het geen technologie wilde maken die vooral goed was in het repliceren van de stijl en de taal van een auteur; wat ze wilden was een chatbot die goed zou zijn in converseren en het opvolgen van instructies. Ze begonnen daarom steeds meer te leunen op een techniek genaamd RLHF, Reinforcement Learning from Human Feedback. Waarom dit belangrijk is, is omdat als je kijkt naar al deze bedrijven met hun technologieën en wat ze ons beloven, je vaak ziet dat wat wordt beloofd en wat wordt gedaan dikwijls precies omgekeerd is.

Wat ik bedoel is dat Google ons toegang tot alle informatie op de wereld belooft, maar een verdienmodel bouwt op het verzamelen van alle informatie over ons. Dat Amazon ons vertelt dat het prijzen transparant en inzichtelijk maakt, maar het werkelijke verdienmodel is gebouwd op het verzamelen van al die informatie over prijzen om daar vervolgens misbruik van te maken en concurrenten uit de markt te prijzen. En met OpenAI en een product als ChatGPT, waarbij de belofte is dat het iets is wat heel goed naar je luistert en wat zich schikt naar je wensen als gebruiker – en dit is natuurlijk een beetje speculeren – is het maar al te gemakkelijk om je voor te stellen dat er uiteindelijk een verdienmodel omheen wordt gebouwd dat juist draait om het manipuleren van die gebruiker.

In uw werk als verslaggever hebt u sommige van de tech-ceo’s van zeer nabij meegemaakt. Sam Altman is er daar een van. Heeft de draai die hij heeft gemaakt sinds Trumps inauguratie u verbaasd?

Vara: Tot op zekere hoogte. Zijn liberale overtuigingen waren een onderdeel van het profiel dat ik over hem schreef. Hij is niet iemand die er, zoals bijvoorbeeld Elon Musk of Peter Thiel, zeer rechtse ideeën op nahoudt. Maar wat me niet verbaasde was zijn loyaliteit aan het bedrijf. Hij vertelde me toen al dat het zijn taak was zijn bedrijf zo succesvol mogelijk te maken en dat het aan de overheid was om te reguleren. In die zin is zijn bereidheid deals te sluiten weinig verrassend. Maar ik ben uiteindelijk meer geïnteresseerd in de structuren die dit soort gedrag in de hand werken dan in vragen over individuele slechtheid.

U schrijft over een vriendin die principieel weigert te winkelen bij Amazon en over uw eigen rationaliseringen om dat zo nu en dan toch te doen.

Vara: Ik denk dat als we bedrijven ter verantwoording willen roepen, wat belangrijk is en telkens meer mensen bereid zijn te doen, we ook onze eigen verantwoordelijkheid moeten begrijpen en we onze eigen rol in het succes van deze bedrijven moeten willen begrijpen.

Moeten we ons gebruik van deze producten en diensten wat u betreft dan zo veel mogelijk beperken?

Vara: Als journalist ben ik meer geïnteresseerd in het beschrijven van de wereld dan in dingen voorschrijven. Maar als mensen een boek als dit lezen zijn ze misschien ook daarnaar op zoek. En ik ben uiteindelijk wel benieuwd naar hoe een andere wereld eruit kan zien. Als al deze technologie ons iets te bieden heeft, dan moeten we ons toch ook manieren kunnen voorstellen waarop die technologie kan bestaan zonder dat ze verknoopt is met onze exploitatie? Er zijn alternatieven. Er zijn zaken die door de overheid of gemeenschappelijk gefinancierd worden. Maar die krijgen zelden de aandacht die bedrijven als Google en OpenAI wel weten op te eisen. Daarom is het belangrijk om na te blijven denken over hoe burgers hun politieke macht kunnen bundelen, om bepaalde regelgeving mogelijk te maken of er juist weerstand tegen te bieden.

En toch blijf ik het lastig vinden om te zeggen: hier sta ik, en dit is de weg vooruit. Dat is wat ik mensen als Altman en Mark Zuckerberg en al die andere grote tech-ceo’s zie doen. Ze zijn allemaal bezig met het beschrijven van een specifieke toekomst. Ze zijn die toekomst als onvermijdelijk aan het afschilderen. Ze zeggen: zorg dat je er klaar voor bent. Het komt eraan. Zelfs al zouden we het willen, dan kunnen we er niets tegen doen. Ze kondigen een toekomst af en proberen daarmee de ontwikkeling ernaartoe in gang te zetten. En het werkt, je hoort het overal: AI is de toekomst. Niet alleen bij bedrijven en overheden, maar ook in het onderwijs.

Ik las toevallig niet zo lang geleden een wetenschappelijke paper over hoe in het onderwijs altijd wordt gespeculeerd over de toekomst, omdat men altijd bezig is met het voorbereiden van mensen op een werkelijkheid die er nog niet is, op een toekomst die wordt ingebeeld. En vanuit dat idee wordt dan vervolgens een weg daarnaartoe verzonnen. Het is reverse engineering. We bewegen ons naar een toekomst waarin AI een organiserend principe zal zijn, en daarom moeten alle studenten nu onderwezen worden in het gebruik van AI. Met dat in het achterhoofd wil ik liever niet in dezelfde val trappen en iets soortgelijks doen. Ik wil niet het ene toekomstperspectief afschieten en er mijn eigen idee voor in de plaats stellen.

Hebt u de indruk dat men in Silicon Valley werkelijk in dat toekomstbeeld gelooft of dat de voorstelling ervan eerder samenhangt met een welbegrepen eigenbelang?

Vara: Ik kan niet in hun hoofden kijken natuurlijk, maar als ik zou moeten kiezen dan zou ik zeggen dat ze er werkelijk in geloven – en dat het simpelweg goed uitkomt dat hun geloof in lijn is met de belangen van hun bedrijven. In die zin maakt het dus weinig uit. De vraag is wat voor gevolgen het voor de rest van ons heeft.

Searches gaat over ‘selfhood in the digital age’. Wat bedoelt u daar precies mee?

Vara: Ik weet niet zeker of ik die vraag kan beantwoorden. Uiteindelijk ben ik nieuwsgierig naar een specifieke uitdrukking van zulke eigenheid, namelijk als iets wat te maken heeft met onze autonomie, en met de mate waarin ons begrip van onszelf en van onze gemeenschappen, van onze wereld, is gekoloniseerd door machtige instituties. De vraag waarmee ik aanving was waarschijnlijk in hoeverre we onszelf hiervan konden losmaken. Misschien door ons via artistieke of literaire wegen dingen opnieuw toe te eigenen? Maar waar ik uiteindelijk bij ben uitgekomen is denk ik toch iets als de onoplosbaarheid van de vraag zelf.

Een hoofdstuk in het boek bestaat uit alle zoektermen die ik door de jaren heen heb ingevoerd in Google. Ik zou kunnen zeggen dat ik door die informatie hier opnieuw op een artistieke manier in te zetten, op een manier die een waarde vertegenwoordigt die anders is dan de waarde die een bedrijf als Google het toekent, en daar zelfs geld mee te verdienen, ik me die taal weer heb toegeëigend en geherdefinieerd. Maar Google bezit die zoektermen ook nog altijd. En Google verdient er nog altijd geld mee. Uiteindelijk is het allemaal nooit echt te ontwarren, maar het is het waard om het te proberen.

@ De Groene Amsterdammer