‘Techniek is nooit neutraal: verplicht ethiekvakken voor toekomstige techniekontwikkelaars’

Bij de start van het nieuwe academiejaar pleiten techniekfilosofen Mark Coeckelbergh en Katleen Gabriels samen met robotingenieur Bram Vanderborght voor verplichte ethiekvakken in de opleidingen van ingenieurs, programmeurs en andere techniekontwikkelaars in spe.

Ontwikkelingen in elektronica, artificiële intelligentie (AI) en robotica brengen indrukwekkende toepassingen voort die ons leven eenvoudiger, gezonder en aangenamer (zullen) maken. Borstkanker sneller opsporen met AI , files verminderen met zelfrijdende voertuigen, exoskeletten die fysieke arbeid verlichten: er wordt ons een mooie toekomst voorspeld.

Techniek is nooit neutraal: verplicht ethiekvakken voor toekomstige techniekontwikkelaars.

Tegelijkertijd rijzen de ethische vragen. Wie is er verantwoordelijk als een zelfrijdende auto inrijdt op een mens? Hoe kunnen we zorgrobots inzetten op maat van de patiënt? Wat als financiële algoritmen, die autonoom beslissen over kopen en verkopen, een land richting bankroet duwen? Wat met algoritmen die nu al bepalen wie er voor een jobinterview geselecteerd wordt? Stel dat die algoritmen kandidaten tegenhouden die in achtergestelde of probleemwijken wonen? En dit is slechts een handvol voorbeelden.

Verantwoordelijkheid van de maker

Een cruciale vraag is: welke rol spelen computerwetenschappers en ingenieurs hierin? Doen ze enkel maar hun werk, zonder verantwoordelijk te zijn voor de (ethische) consequenties ervan? Dit gaat niet enkel over duidelijke situaties zoals het bewust meewerken aan technologieën met als doel mensen te kwetsen of doden, zoals wetenschappers die bijdragen aan oorlogsvoering.

Het gaat ook over onbedoelde gevolgen. Ontwikkelaars zijn zich niet altijd bewust van de ethische problemen en maatschappelijk gevoelige aspecten die ze kunnen genereren. Als AI bijvoorbeeld niet getraind wordt met gezichten van mensen met verschillende huidskleuren, zal de computer niet-blanken misschien discrimineren of, erger nog, niet herkennen als mensen. Een Afro-Amerikaans koppel werd door een Google-algoritme foutief gelabeld als ‘gorilla’s’. Onvoldoende inzicht in hoe menselijke input het systeem kan beïnvloeden leidde al tot chatbots met een racistische en seksistische toon. Ontwerp is duidelijk niet neutraal en weerspiegelt vaak de voorkeuren van de ontwerper, al dan niet bewust. Bovendien hebben ontwikkelaars veel macht bij het maken van ontwerpkeuzes.

Tony Fadell, die mee aan de wieg stond van de iPhone, gaf al aan spijt te hebben van een aantal keuzes. Toen hij de iPhone ontwierp, was hij ongetrouwd en kinderloos. Vandaag ondervindt hij hoe de smartphone spanning zet op zijn gezinsleven. Als zijn tienerkinderen afgeleid zijn door hun telefoon, laat zijn vrouw verstaan dat hij hiervoor medeverantwoordelijk is. Fadell stelt dat ze indertijd geen rekening hielden met de smartphone in een gezinscontext en noemt dat nu een ontwerpfout. Ze namen hun eigen kinderloze leven immers als norm.

Maakbaarheid

Een maatschappij is tot op grote hoogte maakbaar en technologie speelt daar een onmiskenbare rol in. Hoe willen we leven? Welke samenleving willen we? Er worden voortdurend keuzes gemaakt. Het maken van wenselijke keuzes, in het algemeen belang, is geen exacte wetenschap en is allerminst eenvoudig, aangezien een deel van de samenleving een andere voorkeur zal hebben. Net daarom is het essentieel dat ook ingenieurs zich er bewuster mee bezighouden en samen met andere experten nadenken over het vormgeven van de toekomst. Dit gebeurt natuurlijk al, onder meer in de medische sector, waar technologische vooruitgang ons voor nieuwe ethische vraagstukken stelt. Er zijn allerhande ethische commissies en procedures en we vinden het volstrekt logisch dat toekomstige artsen medische ethiek opgelegd krijgen.

Voor ingenieurs is er in Vlaanderen momenteel, in tegenstelling tot medici, te weinig aandacht voor ethiek, als verplicht opleidingsonderdeel. Nochtans is de maatschappelijke vraag groot, zeker na schandalen zoals Cambridge Analytica waarin de rol en verantwoordelijkheid van data scientists moeilijk genegeerd kan worden. Ook vanuit de sector is een kentering te zien. Verschillende ingenieurs zeggen vandaag ‘nee bedankt ‘ tegen rekruteerders van Silicon Valley omwille van ethische bezorgdheden over de bedrijfswaarden. Google moest recent afzien van een contracthernieuwing met het Amerikaanse Departement van Defensie om AI aan te bieden voor de analyse van drone-opnames. Duizenden werknemers hadden hier immers via een petitie om gevraagd en tientallen werknemers namen ontslag uit protest. En steeds meer technologieontwikkelaars betrekken ethici bij hun werk.

Bewustwording en kennis rond (techniek)ethiek moet systematisch tijdens de opleiding plaatsvinden. Wij pleiten voor verplichte ethiekvakken vanaf het eerste bachelorjaar. Ingenieurs, computerwetenschappers en andere ontwikkelaars in spe kunnen zich zo rustig de ethische vragen eigen maken en technieken aanleren om hierop antwoorden te bieden, zoals waardebewust ontwerp (value sensitive design). Zo kunnen ethische vragen een vanzelfsprekendheid en een vast onderdeel van ontwerp worden. Hoe beter de makers zélf de ethische vraagstukken en maatschappelijke processen begrijpen, zoals de impact van hun ontwerp en het feit dat dat niet zomaar neutraal is, hoe beter de beslissingen zijn die ze kunnen maken.

Mark Coeckelbergh (techniekfilosoof, Universiteit van Wenen), Katleen Gabriels (techniekfilosoof, TU Eindhoven) en Bram Vanderborght (robotica, VUB)