Kunnen robots denken?

Over die vraag hoor en lees je vaak. Mijn indruk is dat de meeste deskundigen die vraag bevestigend beantwoorden. Ik vermoed dat nadere analyse van de manier waarop de deskundigen tot hun oordeel komen aan het licht zou brengen dat zij ‘denken’ definiëren als datgene wat robots doen zodat hun oordeel automatisch (!) zichzelf bevestigt.

Interessanter is de vraag of robots moreel kunnen oordelen. Die vraag kwam aan de orde in de openbare les die Aloy Soppe 28 mei aan de Hogeschool Arnhem en Nijmegen gaf over ethiek, fintech, future proof control en de wisselwerking tussen mens en machine.

‘Financiële technologische ontwikkeling, de zogeheten fintech, is hot en happening’, begint de samenvatting. ‘Inmiddels is de technologie van sommige fintech bedrijven zo ver dat informatie als facebookupdates en twitter-uitspraken kunnen worden meegenomen bij het automatisch berekenen van kredietwaardigheid van individuen. Dit soort ontwikkelingen zet de deur open voor – op zijn minst – moreel kwetsbare praktijken. Zijn dit soort praktijken te verantwoorden aan de maatschappij? Een geautomatiseerd systeem de schuld geven van economische uitbuiting zou onzinnig zijn. Dan rijst echter de vraag: zijn de technologische ontwikkelingen zélf nog wel te verantwoorden aan de maatschappij? In welke mate speelt ethiek hier nog, of juist opnieuw, een rol? De MoralScan van een onderneming, bijvoorbeeld, is een poging om soft controls te kwantificeren en te meten. Het is een poging om niet alleen de financiële kant van bedrijfsactiviteiten beheersbaar te maken, maar daar ook andere waarden aan te verbinden en in besluitvorming mee te nemen. Echter, als technologie steeds meer financiële besluitvorming uit handen gaat nemen, hoe kunnen we dan nog controleren of beslissingen bijvoorbeeld juist of onjuist zijn? Als mensen kunnen wij het met elkaar oneens zijn over wat acceptabel is en wat niet, hoe kunnen wij dan fintech in staat stellen verantwoord beslissingen te nemen? En bovendien, “verantwoord” volgens welke standaard?’

Tot zover Aloy Soppe. Het zijn ingewikkelde zaken. Om het iets eenvoudiger te maken, geef ik een voorbeeld dat iedereen kan herkennen.

Een psycholoog doet een experiment. Hij ‘neemt’ twee groepen proefpersonen waarbij de mensen in de ene groep gemiddeld zo goed mogelijk lijken op die in de andere groep, en brengt de ene groep in een omgeving waar het zálig ruikt naar vers gebakken croissantjes en stelt de andere groep bloot aan een afgrijselijke stank; de mensen van de ene groep weten niets van de andere en omgekeerd. Dan worden de mensen langs een bedelaar geleid, en u raadt wat uit het experiment komt.

Het verhaal komt uit een frans boek: Ruwen Ogien, L’Influence de l’odeur des croissants chauds sur la bonté humaine et autres questions de philosophie morale experimentale (Grasset, Paris, 2011): The influcence of the smell of fresh, warm croissants on the goodness of people and other questions concerning experimental moral philosophy.

Experimentele “morele filosofie” – tussen aanhalingstekens, want de vertaling deugt niet, maar om dàt uit te leggen, zou een lang verhaal worden. Maar de impact van het experiment is klaar en duidelijk. Het experiment ligt griezelig dichtbij de handel die de katholieke kerk in een ver verleden dreef in zogenoemde ‘aflaten’ [= vrijbrieven die maakten dat je na je dood in de hemel kon komen ondanks je zonden op aarde]. Begrijpt u wat ik bedoel?

Bron: zie Marc Maas en Kevin Gorissen, juni 2016, QNH Consulting BV, ‘Digitale finance identiteiten manage je in de cloud’, whitepaper geraadpleegd op 19 april 2018.

PS: Iets wat ik ook niet wist en moest nakijken: FinTech is een samentrekking van de Engelse woorden financial en technology. Het begrip omvat alle innovatieve financiële producten en diensten die de manier waarop we met geld omgaan digitaliseert. Het zijn vooral financiële startups die dit proces aanjagen en inspelen op het massale gebruik van smartphones en de talloze apps die (financiële) dienstverlening faciliteren. Hypotheekaanvragen, bijvoorbeeld, kunnen volledig via internet plaatsvinden, evenals personeelsselectie via algoritmes en crowdfunding. Deze producten die dicht tegen de privacy van individuen respectievelijk bedrijfsgeheimen aanzitten doen een zwaar beroep op de rol van de huidige informatietechnologie (IT). Er zijn een aantal ontwikkelingen binnen de IT die veel aandacht nodig hebben en die tot grote morele dilemma’s kunnen leiden. Dit zijn respectievelijke a) de massale opslag van gegevens in de cloud en de bijbehorende uitdagingen op het terrein van veiligheid; b) de toename van het aantal externe devices (smartphones en tablets) en tenslotte c) de spagaat van IT managers tussen het waarborgen van veiligheid en de flexibiliteit en gebruikersgemak voor medewerkers (zie voetnoot). Vooral voor IT bedrijven en IT managers is het goed beveiligen van digitale identiteiten en bedrijfsapplicaties in de cloud van groot belang. Vaak geldt dat hoe meer beveiliging van een systeem er nodig is, hoe minder de gebruiksvriendelijkheid wordt voor het inloggen op een netwerk.

Hugo Verbrugh

Meld u aan voor De Ster nieuwsbrief (U ontvangt een bevestigingsmail)