Hoe een algoritme kan helpen tegen pesten

© iStock

een algoritme kan beledigingen en bedreigingen uit onlineberichten halen.

De cijfers zijn hallucinant: een derde van de tieners zou online gepest worden. Maar digitaal pestgedrag is niet gemakkelijk te detecteren, zeker als de kinderen er zelf niets over zeggen. Taaltechnoloog Gilles Jacobs van de Universiteit Gent en zijn collega’s hebben nu via artificiële intelligentie een algoritme ontwikkeld dat pesterijen op sociale media kan opsporen. Hun concept is verschenen in Public Library of Science One.

De ontwikkeling vertrok bij een analyse door linguïsten van 200.000 berichten op sociale media. Daarna werd een algoritme getraind om woorden en zinnen op te pikken die met pestgedrag geassocieerd kunnen worden. In de ultieme test bleek het algoritme in staat twee derde van alle bedreigingen, beledigingen en gevallen van seksueel wangedrag te detecteren in berichten die het nooit eerder had gezien.

Alleen als het echt subtiel werd, ging het rekenwonder in de fout en miste het dingen. Ook met sarcasme had het algoritme het moeilijk. Maar de ontwikkelaars verwachten dat het door zijn leerpotentieel almaar beter zal worden.

Socialenetwerksites als Instagram zijn al begonnen met het implementeren van vergelijkbare technologie. Ondervraagde tieners zouden er alvast niet tegen zijn.

Fout opgemerkt of meer nieuws? Meld het hier

Partner Content