‘Sommige van mijn studenten praten nu al twee uur per dag met een chatbot’, zegt Pattie Maes, die aan het Massachusetts Institute of Technology (MIT) in Cambridge het onderzoek leidt naar de interactie tussen de mens en technologie.
‘Momenteel worden AI-systemen vooral ontwikkeld door private bedrijven die min of meer neutraal zijn, maar ik geloof dat overheden – zeker in de VS of in China – die systemen op een subtiele manier kunnen manipuleren zonder dat burgers zich daarvan bewust zijn. Als we daar niet voldoende over praten, ben ik bang dat onze democratie ondermijnd zal worden door technologie.’
Waarin schuilt het gevaar precies?
Pattie Maes: Om te beginnen zorgen chatbots ervoor dat we steeds slechter worden in het praten met andere mensen. Democratie vereist nochtans dat we in gesprek gaan met andersdenkenden en dat we constructieve gesprekken voeren over onze meningsverschillen.
‘Ik geloof niet dat alle techreuzen zo extreem zijn als pakweg Elon Musk.’
De afgelopen jaren hebben we een verschuiving gezien van de mainstream naar de sociale media. Dat heeft mensen in bubbels van gelijkgestemden geduwd en polarisatie in de hand gewerkt. Ik vrees dat AI dat alleen maar zal versterken. Mensen gaan steeds vaker gesprekken aan met chatbots en die gedragen zich niet zelden als een sycofant, iemand die zegt wat je wil horent, ongeacht de waarheid – iets waar vandaag ook al zo veel discussie over bestaat. Met AI krijgen we dus bubbels van één. Zo verleren we de kunst om met elkaar in gesprek te gaan.
De gevaren van ChatGPT: ‘We dreigen collectief dommer te worden’
Is het al zo erg gesteld?
Maes: Sommige van mijn studenten praten nu al twee uur per dag met een chatbot. Ze vragen advies over zowat alles in hun leven: hun studies, gezondheid, relaties… Vroeger zouden ze daarvoor praten met vrienden, familie, artsen of therapeuten, nu doen ze een beroep op AI.
Samen met OpenAI deden we bij MIT onderzoek naar de impact van chatten met chatbots op het emotioneel en sociaal welzijn van de gebruikers. We onderzochten bijvoorbeeld de mate waarin mensen nog sociale interactie gingen zoeken met andere mensen. Verschillende chatbots bleken verschillend gedrag te vertonen. Terwijl het ene model de gebruiker zo lang mogelijk aan de praat houdt, moedigt het andere model net aan om met echte mensen te spreken. Wie vaak chat met chatbots, blijkt ook minder contact te zoeken met echte mensen, en voelt zich ook sneller eenzaam.
Hebben chatbots dan ook een impact op ons denken?
Maes: Absoluut. In de basis is AI pure wiskunde en is het dus een neutrale technologie. Maar afhankelijk van de data die gebruikt worden om het model te trainen, is de uitkomst anders. Ik denk dat het daarom belangrijk is dat bedrijven daar transparant over zijn.
‘Chatbots moeten mensen niet naar de mond praten, maar de waarheid weerspiegelen.’
Experimenten tonen aan dat als mensen een AI-model gebruiken om teksten te genereren, de eventuele bias die in de data zit, doorschemert in hun finale tekst en zelfs doordrong in hun eigen mening. Dat de gebruikers dat niet eens beseffen, vind ik best eng. Ik ben dus zeker bezorgd voor de manier waarop AI-chatbots onze gedachten en meningen op een subtiele manier kunnen manipuleren.
Kunnen we dat voorkomen?
Maes: Deels wel. In AI-modellen worden immers gedragsregels geïntegreerd. Die kunnen de technologie in een bepaalde richting duwen. Zo is het perfect mogelijk om chatbots te ontwikkelen die niet gewoon terugkaatsen wat je denkt, maar die je eerder naar het centrum brengen. Chatbots moeten mensen niet naar de mond praten, maar de waarheid weerspiegelen. En dat kan. Er zijn al gevallen bekend van mensen die dankzij chatbots beseften dat de complottheorieën waarin ze geloofden uit de lucht zijn gegrepen.
ChatGPT: superverspreider van desinformatie?
Zijn dat wel realistische verwachtingen? In januari zaten de techreuzen vooraan bij de inauguratie van Trump. Ze wekken niet de indruk dat ze wakker liggen van een gezonde democratie.
Maes: Toch geloof ik niet dat alle techreuzen zo extreem zijn als pakweg Elon Musk. Volgens mij willen ze Trump vooral paaien en er zo voor zorgen dat technologie niet te sterk gereguleerd wordt in de VS. Want zij vrezen dat regelgeving de ontwikkeling van technologie afremt. Hun voornaamste doel? is om zo snel mogelijk Artificial General Intelligence (AGI) te ontwikkelen, en daar hebben ze blijkbaar veel voor over. Dat dat gebeurt op een manier die voordelen biedt voor mens en maatschappij, lijkt van secundair belang.
Is de democratie in Europa beter beschermd omdat technologie hier, mede dankzij de AI Act, strenger gereguleerd is?
Maes: Op dat gebied loopt Europa absoluut voor op de VS.
Nederlandse man trouwt met chatbot: is liefde mogelijk tussen mens en AI?
Op 22 april gaat Pattie Maes samen met onderzoeker en datawetenschapper Paola Verhaert in De Singel in gesprek over AI en democratie. Alle info: www.desingel.be
Fout opgemerkt of meer nieuws? Meld het hier