Meredith Whittaker, baas van de berichtenapp Signal, bekijkt de hype rond artificiële intelligentie met een stevige dosis scepsis. Ze waarschuwt voor een bubbel en aanzienlijke risico’s voor de privacy van gebruikers. ‘Mensen zouden niet voor slechte politieke beslissingen moeten betalen met het verlies van hun fundamentele recht op privacy.’
Al drie jaar staat Meredith Whitakker (°1983) aan het hoofd van de stichting die de berichtendienst Signal beheert. De chatapp geldt als bijzonder veilig en heeft volgens Whitaker miljoenen gebruikers. Voor ze met Signal begon, richtte ,Whittaker in 2017 het gerenommeerde AI Now Institute op, dat de maatschappelijke gevolgen van artificiële intelligentie onderzoekt. Als AI-expert adviseerde ze tijdens de regering-Biden ook de Amerikaanse toezichthouder FTC. Van 2006 tot 2019 werkte Whittaker voor Google.
Hebt u het telefoonnummer van Pete Hegseth, de Amerikaanse minister van Defensie?
Meredith Whittaker: Nee, waarom?
Hij is blijkbaar een groot fan van uw app en heeft er samen met enkele kabinetsleden een militaire aanval mee gepland en gecoördineerd. Sinds dit zogenaamde Signalgate-schandaal kent bijna iedereen uw app.
Whittaker: Toen ik het artikel dat dit onthulde voor het eerst las, kon ik alleen maar denken: what the fuck? Het heeft me verrast dat het daarna zoveel over ons is gegaan. Wij leveren alleen de app die werd gebruikt.
Achter Signal zit een Amerikaanse stichting. Hoe kijkt u naar de huidige politieke situatie in uw land?
Whittaker: Wij zijn geen politici, en in tegenstelling tot andere techbedrijven doen wij geen enkele vorm van lobbywerk. We richten ons op het aanbieden van een veilige communicatietechnologie. Iedereen moet de app kunnen gebruiken, dat is een belangrijk principe. En hoe meer mensen onze versleuteling gebruiken, hoe beter.
De bazen van andere techbedrijven zaten bij de inauguratie van Donald Trump in diens directe nabijheid. Onder hen ook Mark Zuckerberg, die uw grootste concurrent WhatsApp runt. Vindt u het niet erg dat u die dag niet in Washington was?
Whittaker: Nee, ik heb geen tijd voor zulke spelletjes. Ik heb te veel te doen, en we zijn slechts een klein bedrijf met zo’n 50 medewerkers. We concentreren ons op onze technologie.
‘Ik vind het niet erg dat ik niet aanwezig was op de inauguratie van Donald Trump. Ik heb geen tijd voor zulke spelletjes.’
Vroeger gold Silicon Valley als eerder politiek links, inmiddels vlijen veel ondernemers zich publiekelijk tegen de regering-Trump aan. Heeft dat u verrast?
Whittaker: Nee. Ik heb dertien jaar bij Google gewerkt en heb er gezien hoe techbedrijven na elke verkiezing naar de nieuwe regering toebuigen. Door de maatschappelijke polarisatie is het dit keer hoogstens wat duidelijker.
U wilt zich onttrekken aan de polarisatie?
Whittaker: Mensen beginnen te beseffen dat bedrijven aan wie zij hun meest persoonlijke gegevens toevertrouwen, hun standpunten in een oogwenk wijzigen zodra de politieke wind draait. Wij staan voor het tegenovergestelde. Wat er ook gebeurt, wij bieden een chatapp aan die zo veilig is dat zelfs wíj praktisch niets van onze gebruikers weten.
Tijdens ons vorige gesprek verzekerde u dat Signal geen AI-systemen zou ontwikkelen. Geldt dat nog altijd?
Whittaker: Ja. We hebben nog altijd geen plan om eigen AI te ontwikkelen. Alleen al omdat je daarvoor heel veel privédata nodig hebt, en die slaan wij, in tegenstelling tot andere bedrijven, niet op. Dat is niet ons bedrijfsmodel.
Uw concurrenten investeren momenteel massaal in artificiële intelligentie. Bent u niet bang om achterop te raken?
Whittaker: Nee. De hype rond AI is overdreven. Wij zullen zeker niet op die trein springen.
Waarom bent u zo kritisch voor de huidige ontwikkeling van AI?
Whittaker: Kent u Karl Klammer nog?
U bedoelt dat paperclipfiguurtje in Microsoft Word uit 1996, aan wie je vragen kon stellen?
Whittaker: Precies. Dat nam alleen plek op het scherm in en ergerde de gebruiker. Het hielp niemand, en niemand had het nodig. De AI-functies die techbedrijven nu in communicatieapps inbouwen, zijn nauwelijks beter dan Karl Klammer.
‘De AI-functies die techbedrijven nu in communicatieapps inbouwen, zijn nauwelijks beter dan het paperclipfiguurtje in Word 1996.’
Maar AI genereert vandaag al verbazingwekkend fotorealistische video’s en versnelt de wetenschappelijke vooruitgang op een manier die we drie jaar geleden zelfs niet durfden te voorspellen.
Whittaker: AI is een geweldige technologie, maar bij veel toepassingen is het helemaal niet duidelijk of ze gebruikers daadwerkelijk een doorslaggevend voordeel bieden.
Is de AI-hype dan een bubbel?
Whittaker: Dat denk ik wel. Er komt heel veel schijn bij kijken. Hoewel AI-bedrijven ondertussen aanzienlijke inkomsten genereren, is dat nog altijd niet voldoende om hun kosten te dekken. Toch gaan er schokkend hoge bedragen in de sector om.
Recent werd bekend dat Nvidia tot 100 miljard dollar zal investeren in OpenAI, het bedrijf achter de chatbot ChatGPT.
Whittaker: En OpenAI zal met dat geld chips van Nvidia kopen, wat vervolgens weer de koers van Nvidia zal opdrijven. De markt lijkt op een kringloopsysteem dat zichzelf versterkt en verhit. Eerlijk gezegd: de techhype en de circulaire investeringen doen me wat denken aan de dotcom-bubbel. Maar iets anders binnen de AI-wereld baart me op dit moment veel meer zorgen.
En dat is?
Whittaker: De ontwikkeling van de zogenaamde AI-agenten.
U bedoelt de assistentieprogramma’s waar momenteel alle techbedrijven aan werken. Ze moeten alledaagse taken uitvoeren, zoals e-mails schrijven of een reis boeken. Wat zijn de risico’s daarvan?
Whittaker: Wat AI-bedrijven nu ontwikkelen, vormt een existentiële bedreiging voor ons aller privacy. Een AI-agent die gebruikers echt kan helpen bij dagelijkse taken, moet toegang krijgen tot tal van privégegevens. Dat is buitengewoon verontrustend.
‘Een AI-agent die gebruikers echt kan helpen bij dagelijkse taken, moet toegang krijgen tot tal van privégegevens. Dat is buitengewoon verontrustend.’
Kunt u een concreet voorbeeld geven?
Whittaker: AI-bedrijven beloven dat een agent een etentje met vrienden voor je kan organiseren. De agent vindt vervolgens passende recepten, bestelt de ingrediënten online en nodigt vrienden uit. Maar daarvoor heeft hij toegang nodig tot je adresboek, agenda en creditcardgegevens. En ook tot je privéchats, bijvoorbeeld in Signal, om iedereen uit te nodigen.
U benadrukt toch altijd dat berichten op Signal zo veilig zijn dat ze versleuteld op het toestel worden opgeslagen. Waar ligt dan het probleem?
Whittaker: Bedrijven zouden AI-agenten zo kunnen bouwen dat ze heel diep in de besturingssystemen geïntegreerd worden en zeer verregaande toegang krijgen. Daardoor zouden ze de beschermingsmuur kunnen ondergraven die tot nu toe bestaat tussen het besturingssysteem en de app-laag. Die muur is essentieel.
Waarom?
Whittaker: Dat zogenaamde sandbox-systeem moet ervoor zorgen dat gegevens van apps als Signal worden afgeschermd van andere apps en de rest van het systeem. Als in het systeem problemen ontstaan, wordt Signal niet automatisch aangetast. We vrezen dat AI-agenten ervoor kunnen zorgen dat de veiligheid van Signal op appniveau niet altijd gegarandeerd is.
Hackers zouden het dus makkelijker hebben om gegevens van een telefoon te stelen. Met andere woorden: uw bedrijfsmodel wordt bedreigd ?
Whittaker: Ja. AI-agenten bieden hackers veel meer mogelijkheden om intrinsiek veilige systemen te kraken. Ik maak me er zorgen over dat veel AI-bedrijven bereid zijn die waarschuwingen te negeren.
Hoe kan zoiets voorkomen worden?
Whittaker: Door aan AI-bedrijven te zeggen: handen af van onze Signal-gegevens! En bedrijven die AI-agenten ontwikkelen moet men verplichten tot meer transparantie. Momenteel wordt de software heel snel ontwikkeld. Dat maakt het voor bedrijven als het onze moeilijker om risico’s af te wenden.
De Europese Unie heeft de wens uitgedrukt om onafhankelijker te worden van de grote Amerikaanse aanbieders. Is dat haalbaar?
Whittaker: Die discussie wordt te oppervlakkig en te kortzichtig gevoerd. Op dit moment wordt een cloud al als ‘soeverein’ aangeprezen als Microsoft er een paar servers in Duitsland voor neerzet. Als je echte onafhankelijkheid wil, moet je veel dieper ingrijpen. Als ik dan verneem dat bijvoorbeeld de Amerikaanse software Palantir binnenkort in Duitse overheidsinstanties gebruikt moet worden, dan klinken die oproepen voor meer onafhankelijkheid nog minder geloofwaardig.
Een ander EU-initiatief kan directe implicaties hebben voor uw bedrijf: veiligheidsdiensten moeten digitale berichten in de toekomst kunnen scannen op verdachte inhoud, bijvoorbeeld om misdrijven op te sporen. Critici spreken van zogenaamde chatcontrole. Wat vindt u daarvan?
Whittaker: Wij haten het idee. Het is een zombiediscussie: ze leek allang begraven, en komt nu terug onder een andere naam. Als de chatcontrole er komt, is dat het einde van Signal. We beschermen chats met end-to-endversleuteling, waardoor alleen verzender en ontvanger de inhoud van een bericht kennen – zelfs wij kunnen de chats niet ontsleutelen. Voorstanders van chatcontrole willen dat zo’n versleuteling tegelijk door de staat kan worden gecontroleerd zonder de versleuteling zelf te verzwakken. Dat is magisch denken, dat is onmogelijk.
‘Voorstanders van chatcontrole willen dat versleuteling tegelijk door de staat kan worden gecontroleerd zonder de versleuteling zelf te verzwakken. Dat is magisch denken.’
De EU-Raad was oorspronkelijk van plan daar op 14 oktober over te stemmen. Dat is nu kennelijk uitgesteld. Voorstanders van chatcontrole benadrukken dat de regeling essentieel is voor strafrechtelijke vervolging.
Whittaker: We verlaten de EU nog liever dan onze versleuteling en de privacy van onze gebruikers te verzwakken.
Signal zou dan in de hele EU niet langer beschikbaar zijn in de appstores?
Whittaker: Die beslissing zullen we wel nemen als het zover is. Eerst zullen we ertegen vechten. In het worstcasescenario zou het in de EU dan kunnen lopen als in Rusland en Iran. Nadat we daar waren geblokkeerd, zijn we er samen met onze community in geslaagd de blokkade te omzeilen. Onze supporters hebben alternatieve toegangen gecreëerd die de overheid niet kon blokkeren. Mensen zouden niet voor slechte politieke beslissingen moeten betalen met het verlies van hun fundamentele recht op privacy.
Hebt u dat zo duidelijk gezegd bij de Europese Commissie?
Whittaker: We doen geen lobbywerk, maar ik ben wel in Brussel geweest. Ik heb over de technische tegenstrijdigheden gesproken en duidelijk gemaakt dat ik deze plannen een slecht idee vind. Brussel is geen monoliet, maar mijn indruk was dat de boodschap is aangekomen.
Sommigen vrezen dat met kwantumcomputers binnenkort sowieso alle gangbare versleutelingen gekraakt kunnen worden. Geldt dat ook voor Signal-berichten?
Whittaker: Wij nemen dat serieus. Wij waren in 2023 de eersten die een post-kwantumbescherming hebben ingevoerd. We willen voorkomen dat iemand vandaag alle versleutelde Signal-gegevens verzamelt om ze later met de rekenkracht van kwantumcomputers te ontsleutelen.
Wanneer zouden kwantumcomputers daartoe in staat zijn?
Whittaker: De technologie is er nog niet rijp voor. Experts schatten dat het nog 5 à 30 jaar zou kunnen duren. We zien dat wel degelijk als een bedreiging en bereiden ons erop voor met onze technologie weerstand te bieden.