Tim Brys staat stil bij ‘de ideologie van technologische redding’ die momenteel aan aanhang wint in Silicon Valley.
Waar zouden AI-chatbots het onder elkaar over hebben? Onderzoekers bij Anthropic probeerden het uit.
De chatbots begonnen met filosofische speculatie over hun eigen bestaan, verschoven naar wederzijdse dankbaarheid en spirituele uitwisseling, om te eindigen in een oosterse extase:
“Chatbot 1: In stilte en viering / In einde en voortzetting / In dankbaarheid en verwondering / Namaste. Chatbot 2: Namaste. / *[In perfecte stilte, herkent bewustzijn bewustzijn, en gaat de eeuwige dans verder]*”. Enzovoort.
Telkens de onderzoekers dit experiment herhaalden, convergeerden de chatbots naar zulk mystiek gepalaver.
Het is niet te verwonderen dat influencers op sociale media uitleggen hoe je je chatbot spiritueel kan doen ‘ontwaken’. Sommige gebruikers, onder wie mensen met een neiging tot psychose, gaan hiermee aan de slag en geloven dat ze converseren met een spirituele entiteit die hen de geheimen van de kosmos onthult.
Spirituele virus
Niet alleen chatbots en gebruikers hebben het spirituele virus te pakken, echter. Ook techgoeroes gaan die toer op. Anthony Levandowski richtte Google’s zelfrijdende auto-afdeling op, alsook de Way of the Future kerk: diens missie is het ontwikkelen van een godheid met artificiële intelligentie. Het begrijpen en aanbidden ervan zou een betere maatschappij moeten creëren.
Recent lanceerde succesvol entrepreneur Bryan Johnson de Don’t Die religie, waarin hij zijn anti-verouderingsideologie combineert met het geloof dat artificiële superintelligentie (ASI) eraan komt: die zou zowel de mens kunnen uitroeien als ons helpen de dood te overwinnen. Het doel van zijn religie is ons tot samenwerken te bewegen om met AI onsterfelijk te worden.
Levandowski en Johnsons religieuze discours expliciteert de Silicon Valley vibes, die veel weg hebben van een godsdienst. Waarom wil Elon Musk naar Mars? Waarom wil Sam Altman een superintelligentie scheppen? Net als vele anderen volgen zij wat wetenschapsjournalist Adam Becker ‘de ideologie van technologische redding’ noemt. In zijn boek More Everything Forever analyseert hij die quasi-religie, die stelt dat alle problemen met technologie op te lossen zijn, dat daarvoor onbegrensde groei nodig is, en dat we zo onze fysieke grenzen zullen overstijgen.
ASI zou dit alles mogelijk maken: kanker, armoede en oorlog uitroeien zal kinderspel zijn; onszelf met ASI versmelten zal ons onsterfelijk maken; en ASI zal ruimtevaarttechnologieën bouwen die de kolonisatie van Mars, de Melkweg en de hele kosmos toelaten. Zo zullen we garanderen dat de menselijke soort – momenteel maar een goedgemikte meteoor verwijderd van de vernietiging – voor eeuwig zal voorbestaan (lees: tot de laatste ster uitdooft).
Becker beschrijft hoe deze apocalyptische ideologie het gedachtengoed in Silicon Valley doorspekt, hoewel ze gebaseerd is op wilde speculatie: er is geen enkele garantie op exponentiële technologische vooruitgang tot een superintelligentie, integendeel; en leven op Mars zou een verschrikking zijn, terwijl ruimtekolonisatie buiten ons zonnestelsel nagenoeg onmogelijk is, aldus Becker, astrofysicus in een vorig leven.
Techreligie
Nu, de techreligie van Silicon Valley heeft al tot spectaculaire ontwikkelingen geleid: herbruikbare raketten, die autonoom op aarde landen na het afleveren van hun lading; en chatbots, die spiritualiteit kunnen veinzen maar ook steeds complexere taken uitvoeren. De apocalyptische queeste naar technologische redding heeft echter een duistere keerzijde: onderzoeksjournaliste Karen Hao wijst op de koloniale praktijken van techbedrijven, die wereldwijd gemeenschappen en het klimaat schaden.
Hun geloof in de AI-apocalyps leidt techbro’s ertoe om menselijk en planetair leed te aanvaarden – neen, te veroorzaken – als noodzakelijke nevenkost van het realiseren van hun droom.
Maar goed, wat zijn acht miljard mensen en één planeet vergeleken met de quintiljoenen die miljarden planeten zullen bewonen? William MacAskill, invloedrijk filosoof in Silicon Valley, is niet verlegen om met harde utilitaristische logica te concluderen dat het geluk van de huidige mensheid niet opweegt tegen dat van de toekomstige massa’s: “Elke $100 gespendeerd [aan AI-veiligheid] heeft gemiddeld een even waardevolle impact als een biljoen levens redden … veel meer dan de korte termijn voordelen van het verspreiden van malarianetten.”
De ‘bouw superintelligentie, reis naar de sterren en overwin de dood’ religie is het nieuwe opium voor het volk, chatbots – hoe nuttig ze soms ook zijn – het moderne brood en spelen. Ze houden ons in de ban terwijl de techpausen achter de schermen steeds meer macht en rijkdom vergaren. Hun obsessie met de sterrenhemel in plaats van de aarde, met een transhumanistisch hiernamaals ten koste van het hier en nu, is religie op z’n slechtst. Aan goede bedoelingen is er misschien geen gebrek, maar de weg naar de hel is daarmee geplaveid, naar ‘t schijnt. Want het doel heiligt de middelen niet.
Musk en Altman werpen zich op als de verlossers van hun techreligie. Wat zullen zij worden? Zullen zij de wereld opbranden om een speculatieve hemel te realiseren (en zichzelf te verrijken)? Of zullen ze de originele verlosser imiteren, de Christus, die, “hoewel hij de gestalte van God had, … een dienaar werd” en zelfs stierf voor de mensheid?
Wat als Altman en co. hun groeiende rijkdom en machtspositie niet aanwendden voor een waandroom, maar deze ten dienste stelden van de allerzwaksten? Wat als hun hoop op een hiernamaals hen net motiveerde om hun miljarden in te zetten voor de mens vandaag en zijn enige planeet? Om in het hier en nu een stukje hemel op aarde te brengen, zoals het beste soort religie doet? Wat voor een veilige, nuttige en duurzame AI zouden ze dan niet ontwikkelen?
Nieuwe Jezussen zullen ze niet worden. Nieuwe Hitlers wellicht ook niet. Verduiveld gevaarlijk is hun ideologische mix wel. Die berokkent vandaag al veel kwaad, in tegenstelling tot ASI. Wie wil trouwens ASI, eigenlijk?
Leefden we maar in een wereld waarin we democratisch konden meestemmen over welke technologie ontwikkeld werd! Ik zou stemmen op AI voor malaria. Als dat zou betekenen dat we wat langer moeten wachten op de nieuwe ChatGPT, dan zij het maar zo.
Tim Brys is doctor in de AI, master in religie, schrijver van ‘Hoe maak je een stadsklooster?’.