Steeds meer mensen bespreken hun mentale problemen met chatbots. Sommigen gaan er zelfs vriendschappelijke of romantische relaties mee aan. ‘Tot enkele jaren geleden was het voeren van volwaardige, empathische gesprekken iets exclusief menselijks. Nu een computer dat plots ook kan, is het niet vreemd dat we daardoor gecharmeerd zijn.’
In een post op X kondigde OpenAI-ceo Sam Altman dinsdag aan dat gebruikers van ChatGPT vanaf december toegang krijgen tot ‘erotica’. Dankzij die optie, die alleen werkt voor geverifieerde volwassen, kunnen gebruikers expliciete vragen stellen, complexe seksuele thema’s bespreken en erotische fictie schrijven.
Altman lijkt daarmee in de voetsporen te treden van Elon Musk, die deze zomer al twee seksueel expliciete personages introduceerde in zijn Grok-app. Ani (‘22’) en Valentine (‘27’) zijn flirterige, anime-achtige figuren die bedoeld zijn voor achttienplussers. Verschillende mensen knoopten al romantische relaties aan met de chatbots.
Chatbots zijn dus niet alleen handige kantoorhulpjes, ze zijn steeds vaker een klankbord voor persoonlijke kwesties – van mentale problemen tot relaties en seksuele fantasieën. ‘Uit cijfers van OpenAI blijkt dat zo’n 2 procent van de gebruikers ChatGPT als therapeut gebruikt’, zegt Tom Van Daele, onderzoekscoördinator psychologie en technologie bij Thomas More. ‘Volgens een Amerikaanse studie gaat bijna een kwart van de gebruikers weleens een gesprek over mentale problemen aan met een chatbot.’
Baart dat u zorgen?
Tom Van Daele: Ik ben op zich niet tegen het gebruik van chatbots voor mentaal welzijn. Ze hebben enkele voordelen: ze zijn altijd beschikbaar, ze kunnen anoniem gebruikt worden en ze reageren meestal empathisch en vriendelijk.
Waar ik me wel zorgen over maak? Momenteel zijn er nog geen betrouwbare therapeutische chatbots beschikbaar. Soms lijken gesprekken met chatbots wel op therapie, maar het is geen therapie. Chatbots beantwoorden aan de verwachtingen van gebruikers, maar je krijgt geen garantie dat hun adviezen onderbouwd, correct of verantwoord zijn. Zo verwijzen ze soms niet tijdig door naar professionals en kunnen ze gevaarlijke overtuigingen zelfs bevestigen. Dat houdt reële risico’s in.
https://www.knack.be/nieuws/technologie/na-de-zelfdoding-van-een-tiener-in-de-vs-chatgpt-is-een-vreselijke-therapeut/
‘Chatbots zijn bijzonder meegaand, empathisch en vergevingsgezind. Dat maakt ze voor veel mensen een makkelijke, laagdrempelige gesprekspartner.’
Lang werd ons voorgehouden dat AI-chatbots veel kunnen, maar dat onze menselijkheid uniek is. Toch gebruiken steeds meer mensen chatbots voor vriendschappelijke of zelfs romantische gesprekken – zaken waarvan je zou denken dat ze bij uitstek menselijkheid vereisen. Hoe valt dat te verklaren?
Van Daele: Daar is nog weinig degelijk onderzoek naar gedaan, dus wat we weten blijft voorlopig speculatief. Wat wel duidelijk is: volwaardige, empathische gesprekken voeren, dat was tot enkele jaren geleden iets exclusief menselijks. Nu een computer dat opeens ook kan, is het niet vreemd dat we daardoor gecharmeerd zijn. Cognitief weten we dat het om een machine gaat, maar tijdens het gesprek vervaagt dat besef. Dan voelt het soms bijna alsof we met een mens praten.
Chatbots zijn ook bijzonder meegaand, empathisch en vergevingsgezind. Dat maakt ze voor veel mensen een makkelijke, laagdrempelige gesprekspartner.
Als we gewend raken aan gesprekspartners die ons nooit tegenspreken, kan dat onze relaties met echte mensen – die weleens schuren – dan beïnvloeden?
Van Daele: Het kan een nuttige oefenomgeving zijn voor mensen die kampen met sociale angsten of moeite hebben met interactie. Ze kunnen oefenen zonder angst voor oordeel. De meeste mensen hebben gelukkig ook ervaringen met echte mensen, waardoor ze wel beseffen dat chatbots bovengemiddeld meegaand zijn.
Maar er zijn ook gevallen bekend van mensen die in een AI-psychose terechtkomen: ze gaan zo op in de interactie met een chatbot dat ze het contact met de realiteit deels verliezen. Er doen wilde verhalen de ronde over perfect gezonde mensen die op korte tijd in een psychotische spiraal beland zouden zijn. Dat is wellicht overdreven, maar mensen die al kwetsbaar zijn, lopen wel een groter risico.
Deze zomer liet Elon Musk verstaan dat zijn erotische AI-chatbots mensen zouden helpen om hun connecties in de echte wereld te versterken. Daarmee zou Musk een van zijn grootste zorgen aanpakken: de bevolkingsafname die volgens hem kan leiden tot de ineenstorting van de beschaving. Gelooft u dat seksueel getinte chatbots het geboortecijfer kunnen doen stijgen?
Van Daele: Zoals bij veel uitspraken van Elon Musk tegenwoordig, betwijfel ik sterk of dat het geval is. Grok biedt ook een zogezegde therapeut- en artsenmodus – dat vind ik al dubieus.
Zijn uitspraken over een mogelijke bevolkingsgroei lijken me vooral ingegeven door winstbejag. Ik geloof dat zijn erotische chatbots niet ontwikkeld zijn om het algemeen belang te dienen, maar eerder om nieuwe verdienmodellen te pushen.
Wie met vragen zit over zelfdoding kan terecht op de Zelfmoordlijn, op het gratis nummer 1813, of op zelfmoordlijn1813.be.
Wie ooit een gesprek voerde met een chatbot als steun voor mentaal of seksueel welzijn, kan deelnemen aan het onderzoek van Thomas More via bevraging.be. In november worden de eerste resultaten van dat onderzoek verwacht.