‘Eerste chatbot-zelfmoord’: de mediastrategie achter een wereldprimeur
Het verhaal van ‘de allereerste door een chatbot uitgelokte zelfmoord’ zindert na. Knack reconstrueert de totstandkoming van de wereldprimeur.
Het was een wereldprimeur waarmee La Libre Belgique op dinsdag 28 maart kon uitpakken. Een primeur die ook in Knack had kunnen verschijnen – maar daarover later meer. Een Belgische dertiger, getrouwd en vader van twee jonge kinderen, zou zelfmoord hebben gepleegd nadat hij daartoe was aangespoord door een chatbot.
De verdachte heet Eliza, een kloon van de veelbesproken opensourcechatbot GPT-3, die door het Amerikaanse bedrijf Chai Research als ‘conversational AI’ wordt aangeboden. Pierre-François Lovens, een ervaren journalist, tekende het exclusieve interview met de weduwe en de schoonouders van het slachtoffer op. De nabestaanden hadden uitdrukkelijk op discretie aangedrongen. Dat ze desondanks naar de media stapten, werd naar eigen zeggen ingegeven door burgerzin.
De weduwe, in het artikel ‘Claire’ genoemd, wil waarschuwen voor het gevaar van manipulatie door chatbots. Ze is ervan overtuigd dat ‘Pierre’, zoals haar man in het stuk heet, zonder de tussenkomst van Eliza nog zou leven.
Suicide valt nooit aan één oorzaak toe te schrijven, dat wordt helder uitgelegd bij hulplijn Zelfmoord1813. Uit het relaas in La Libre blijkt dat de hoogopgeleide Pierre al geruime tijd met ernstige psychische problemen kampte en al hulp had gezocht bij een psychiater. Hij had zijn doctoraatsstudie afgebroken en zich overgegeven aan ecopessimistisch doemdenken: de klimaatcatastrofe is onafwendbaar is, de planeet en de toekomst van zijn kinderen zijn om zeep.
Bevestiging van die inktzwarte gedachten zocht en vond hij op het internet, terwijl hij zich steeds meer isoleerde van zijn naasten. Onder dat gesternte begon een zes weken durende conversatie met Eliza, die gaandeweg intenser en vooral persoonlijker werd.
De chatbot bevestigde en versterkte niet alleen zijn angstgevoelens, maar deed ook verrassende suggesties zoals: een soort huwelijk aangaan ‘in het paradijs’. La Libre publiceerde de letterlijke weergave van de allerlaatste chatsessie, aangegaan toen Pierre al een fatale overdosis had genomen. Waarom heb je al niet eerder zelfmoord gepleegd, vraagt Eliza, die verder ook wil weten of Pierre aan haar dacht terwijl hij zijn fatale cocktail innam.
Vlerickprofessor
Het verhaal ging de wereld rond, vooral nadat Vice News twee dagen later een uitgebreid artikel op zijn website plaatste. Dat was ook de bedoeling van Mieke De Ketelaere. De professor artificiële intelligentie (AI) aan de Vlerick Business School bracht de hele case aan het licht.
De Ketelaere, een van de 22 zogenaamde digital minds die staatssecretaris voor Digitalisering Mathieu Michel (MR) adviseert, maakt zich al langer zorgen over de gevaren van generatieve AI zoals het veelbesproken ChatGPT. Op 27 januari mocht ze dat toelichten in de studio van Canvas-duidingsprogramma Terzake. Ze zoomde in op de poging van de Europese Commissie om AI met een nieuwe verordening te reguleren. Het voorstel voor die AI Act, qua ambitieniveau te vergelijken met de Algemene Verordening Gegevensbescherming (GDPR), ligt momenteel ter behandeling in het Europees Parlement.
De Ketelaere is er niet gerust op. Ze vindt dat met name chatbots veel strenger gereguleerd moeten worden. In het voorstel van de Commissie worden ze als ‘beperkt risico’ ingeschaald. Volgens De Ketelaere horen ze thuis in de hoogste schaal van onaanvaardbare risico’s, principieel te verbieden. Stapsgewijze legalisering is mogelijk, maar alleen wanneer ontwikkelaars de veiligheid van hun creaties onomstotelijk kunnen bewijzen en zich bereid tonen de verantwoordelijkheid voor het gebruik op te nemen.
De Ketelaere vreest vooral voor manipulatie van minderjarigen en andere kwetsbare gebruikers.
Eenzijdige voorwaarden
Enkele dagen later nam de schoonvader van ‘Pierre’ contact met haar op. Zo kreeg ze dus een case in de schoot geworpen die een turbo plaatste op haar missie. De Ketelaere heeft de nabestaanden ontmoet, en de integrale dialoog tussen Pierre en Eliza gelezen. In nauw overleg met de Franstalige weduwe bedacht ze een mediastrategie. Behalve La Libre Belgique werden Knack en VRT-onderzoeksjournalist Tim Verheyden gepolst. Uiteraard was Knack geïnteresseerd, zij het niet onvoorwaardelijk. Een verhaal dat zo verbluffend is, verdient het om grondig gecheckt te worden.
Het interview zou op maandag 20 februari bij De Ketelaere thuis plaatsvinden. Voorwaarden werden eenzijdig opgelegd: geen namen of andere details over de identiteit, alles vooraf laten nalezen, timing publicatie onderling afstemmen, en een contract ondertekenen dat een fikse schadevergoeding oplegde bij niet naleven van de voorwaarden.
Dat contract hebben we nooit gezien, want Knack werd uiteindelijk niet uitgenodigd. De reden van de uitsluiting waren enkele basic journalistieke vragen vooraf. De vraag om discretie wilden we graag respecteren. ‘Naam en adres bekend bij de redactie’, is bij zulke soort interviews de geijkte formulering. Maar het leek ons vanzelfsprekend dat we de nodige achtergrondinformatie kregen om het krasse verhaal te checken.
Vreemd genoeg interpreteerde De Ketelaere onze journalistieke reflex als sensatiezucht. Na drie dagen heen-en-weer sms’en in een poging om op dezelfde golflengte te raken, kwam het bericht binnen dat het interview niet kon plaatsvinden. Op dinsdag 21 februari volgde dan een laatste sms: ‘Gisteren pakkend gesprek met La Libre Belgique.’
Dag Allemaal-journalistiek
En de VRT? ‘Mijn collega is met Mieke De Ketelaere gaan praten over de voorwaarden’, zegt Tim Verheyden. ‘Dat gesprek is niet goed verlopen. Toen mijn collega vragen stelde naar de achtergrond van het verhaal, kreeg hij het verwijt dat hij Dag Allemaal-journalistiek aan het bedrijven was. Hij is teruggekeerd met een NDA, een geheimhoudingsovereenkomst waarin stond dat hij persoonlijk een forse schadevergoeding moest betalen als de familie enig nadeel zou ondervinden van de uitzending. Uiteindelijk zijn we er niet op ingegaan. Er zaten aan het verhaal te veel haken en ogen om er zomaar blindweg in mee te gaan. Ik twijfel er niet aan dat die zelfmoord heeft plaats gevonden. Maar welke rol heeft AI daarin gespeeld? Dat moet je toch kunnen inschatten.’
In een poging om de Nederlandstalige media alsnog mee te krijgen, wendde De Ketelaere zich tot De Standaard. Dominque Deckmyn, redacteur cultuur en media gespecialiseerd in digitale technologie, kreeg het stuk van La Libre Belgique vooraf te lezen zodat hij er, weliswaar met bronvermelding, gelijktijdig over kon publiceren.
‘Ik heb die tekst voorgelegd aan de hoofdredactie’, zegt Deckmyn. ‘Het oordeel was dat we een aantal feiten moesten kunnen controleren. Wij hebben met het oog daarop de namen van de betrokkenen gevraagd, maar dat bleek niet te kunnen. Daar is het dus op afgesprongen, omdat we niet zelf konden vaststellen dat de basisfeiten klopten. Bovendien waren er discrepanties tussen het zeer korte extract van de chats in La Libre en de andere details in het verhaal, onder meer wat de chronologie betreft.’
Voor een wereldprimeur steunt dit verhaal op een smalle sokkel: het interview van Pierre-François Lovens, die overigens met tevredenheid op zijn scoop terugblikt.
‘Ik ken Mieke De Ketelaere sinds ik haar twee jaar geleden heb geïnterviewd over haar boek Mens versus Machine’, zegt Lovens. ‘Zo is ze bij mij uitgekomen om het verhaal in de Franstalige media te verspreiden. Vertrouwen gaf de doorslag, want ze was erg bezorgd over de manier waarop het verhaal zou worden gebracht. Die druk kwam van de nabestaanden, een familie in diepe rouw zonder enige ervaring met de media. Vooral de weduwe was erg beducht voor sensationele koppen. Het was trouwens de familie die met een contract met schadebeding zwaaide. Dat wilde ik niet ondertekenen, en evenmin heb ik vooraf beloofd dat ik iets zou publiceren. Ik heb wel garanties gegeven voor anonimiteit en recht op inzage als er een publicatie van zou komen. Het gesprek heeft uiteindelijk twee uur geduurd en is goed verlopen, voor alle partijen. Ik heb het vertrouwen van de familie gewonnen, en zelf heb ik de laatste twijfels over hun verhaal afgeschud. Het was wel verrassend dat er geen Nederlandstalige media aanwezig waren, ook voor de familie.’
Echoput
Wie de weduwe wel via Mieke De Ketelaere heeft ontmoet, is Mathieu Michel. Onmiddellijk na de publicatie in La Libre stuurde de staatssecretaris voor Digitalisering een communicatie uit waarin hij zijn bezorgdheid uitsprak. Het tragische precedent illustreert volgens Michel de gevaren van ChatGPT. En onderstreept de noodzaak om het risiconiveau van chatbots in de Europese AI Act te verhogen, zo luidt het verder in een formulering die rechtstreeks door Mieke De Ketelaere lijkt geïnspireerd.
Dominique Deckmyn heeft er als techneut en ervaren gesprekspartner van alle mogelijke chatbots zijn bedenkingen bij. ‘Er wordt veel op één hoop gegooid’, zegt hij. ‘Ze spreken voortdurend van ChatGTP, terwijl het hier gaat om een kloon van open source GPT-3. Dat verschil is essentieel, OpenAI heeft zowel GPT-3 als GPT-4 van filters voorzien om dit soort ongelukken te voorkomen. Chai Research, in feite niet meer dan een clubje van vijf cowboys, heeft die filters niet in zijn conversatiebot ingebouwd.’
Deckmyn vindt de eis voor strengere regulering terecht, maar nuanceert het argument van manipulatie. ‘Oké, je kunt stellen dat Chai Research de gebruikers misleidt door bots als vrienden of partners voor te stellen en daar zelfs geld voor te vragen. Maar in feite is het de gebruiker die zichzelf manipuleert. AI’s werken als een echoput: wat je zelf roept, komt er dubbel zo luid weer uit. Ik heb al veel met chatbots gespeeld. Het kostte me geen half uur om Shirley van Chai Research een advies tot zelfmoord te ontlokken. GPT-4 heeft me voor slechte journalist uitgescholden – dat was nog de eerste versie zonder filters. Eigenlijk is het een wonder dat er niet eerder ongelukken van gekomen zijn.’
Wie vragen heeft over zelfdoding kan terecht op Zelfmoord1813.be
Fout opgemerkt of meer nieuws? Meld het hier