Jeroen van den Hoven_455

INNOVATIE

 
Jeroen van den Hoven 

Professor Ethiek en Technologie

 

Denk als registercontroller ethisch na over data en AI” 

De Europese Commissie werkt achter de schermen hard aan toekomstig beleid en wet- en regelgeving voor het gebruik van kunstmatige intelligentie en algoritmes. Burgers en consumenten moeten kunnen vertrouwen dat er op zorgvuldige wijze met hun persoonsgegevens wordt omgegaan. “Europese waarden en normen krijgen op die manier invloed op internationale wet- en regelgeving. Alle mondiale spelers die actief willen zijn in Europa moeten zich daaraan houden”, zegt Jeroen van den Hoven, Professor Ethiek en Technologie aan de TU Delft.    


Lees meer

Sebastiaan van Welie_374

Het is volgens Van den Hoven zaak dat de registercontroller – eigenlijk geldt dit voor elke professional - op de hoogte is van wat er op dit gebied op hem of haar af gaat komen. “Er schuilt een moeilijkheid in deze wetgeving. Op het moment dat de inkt van de nieuwe AI-wetgeving droog is, is de techniek alweer zodanig verder ontwikkeld dat deze bijna achterhaald is. Dat brengt met zich mee dat die wetgeving en regulering altijd een zekere flexibiliteit, een bepaald soort openheid en vaagheid hebben. Er zitten open normen en concepten in. Er moet bijvoorbeeld ‘voldoende gedocumenteerd zijn welke data gebruikt zijn. Maar wat ‘voldoende’ is, is voor iedere situatie anders.”

 

Huiswerk voor registercontroller

Er wacht dus huiswerk voor de registercontroller om zich hierin te verdiepen. Van den Hoven: “De professional moet in staat zijn om binnen de professionele context deze vrij open normatieve kaders te interpreteren. Je moet je buigen over vragen die met privacy, rechtvaardigheid, verantwoordelijkheid, aansprakelijkheid én verantwoording samenhangen. Dit is natuurlijk een beetje out of the comfort zone voor de meeste registercontrollers. Die heeft in de basis vooral verstand van financiële planningen en registercontrole.”

 

Interdisciplinair samenspel

Er ligt dus een grote uitdaging voor de financial. “Zij moeten leren nadenken over onderwerpen die niet in de studieboeken stonden toen ze studeerden. Waarom heb je deze data wel gebruikt en die data niet? Wat is voldoende, zorgvuldig, proportioneel, fair? Je moet expertise opbouwen in je eigen organisatie en in je omgeving om deze onderwerpen bespreekbaar te maken met partijen buiten de professie. Het vraagt om een interdisciplinair samenspel van juristen, computerwetenschappers en van mensen die gewend zijn om over deze wat meer ethische vraagstukken na te denken.”

 

Accountability en transparancy verwacht

Doordat er in nieuwe normenkaders in het digitale domein open normen en concepten in de beleidsvorming zitten, betekent dat dat er veel ruimte voor interpretatie en verantwoordelijkheid bij de professional komt te liggen. “De professional moet er zelf over nadenken. Dat principe kennen we al met horizontaal toezicht. Er wordt niet in honderdduizend regels vastgelegd wat iemand moet doen. Dat leidt tot onwerkbare situaties en gevallen waarin mensen proberen de regels te omzeilen. Er wordt accountability en transparency van het individu verwacht. En de organisatie verwacht dat jij in control bent. De professional is in staat om te bepalen wat dergelijke regels betekenen voor de sector of de organisatie. Van hogerop wordt vervolgens bekeken of het individu in control is en of het klopt wat hij of zij doet. De professional heeft dus zelf in belangrijke mate in de hand om gezien te worden als betrouwbare partner of niet. De betrouwbare partner heeft als voordeel dat hij of zij niet continu gecontroleerd wordt en geniet een bepaalde vrijheid.”

 

Speciale verantwoordelijkheid

Datagedreven werken en het gebruik van algoritmes en AI brengen een speciale verantwoordelijkheid met zich mee, stelt Van den Hoven. “De overheid is op zowel nationaal als internationaal niveau bezig om de regulering vorm te geven. Dat zal behoorlijk wat verantwoordelijkheid terugleggen bij de professional. Die zijn in de beste positie wat expertise en mogelijkheden betreft om daar als professie, maar ook individueel en per organisatie invulling aan te geven.”

Jeroen van den Hoven

Jeroen van den Hoven: “Je verantwoordelijkheid neemt alleen nog maar verder toe


Is het verantwoord en ethisch?

“De registercontroller is zodoende niet langer uitsluitend bezig met data, maar hij of zij moet ook nadenken of die omgang met de data ethisch verantwoord is. “Kan ik dit soort data wel gebruiken? Wat kan het betekenen als deze data gecombineerd worden met die data? Is er een wettelijke grondslag voor de verwerking? Is er informed consent gegeven door het datasubject? Zo ja, is dit wel echte toestemming? Wat voor secondary use ligt er op de loer? Met wie kunnen we deze data verantwoord delen? Op al deze vragen moet antwoord worden gegeven. We hebben in de publieke sector gezien dat dit wel eens misgaat. Zo moest de overheid stoppen met het gebruik van het Systeem Risico Indicatie (SyRi) omdat dit niet in overeenstemming was met het Europees Verdrag voor de Rechten van de Mens. Allerlei gegevens van burgers werden aan elkaar gekoppeld om fraude te ontdekken. Dit was een te grote inbreuk op de privacy."

Waakzaamheid geboden

Het beschermen van de data van burgers is een belangrijk onderwerp voor de overheid en dus is waakzaamheid geboden voor de registercontroller. “Hij of zij moet niet met de mond vol tanden staan als er opeens gevraagd wordt: leidt het gebruik van data en algoritmes hier of daar niet tot problemen? Er wordt op dit onderwerp steeds meer gevraagd en verwacht van de professional. En dus dien je een belangrijke publieke waarde.”

 

Verantwoorde innovaties

Daarnaast zijn privacy, gelijkheid en accountability belangrijke waarden om rekening mee te houden. Ook bij het bedenken van innovaties voor het gebruik van data. Van den Hoven: “De technologie moet je gebruiken om zoveel mogelijk van die waarden te realiseren. Wat mensen vaak denken: het is óf de privacy óf de transparantie. Als je transparant bent, gaat het ten koste van de privacy en vice versa. Maar verantwoorde innovaties komen vaak tot stand omdat je tobt over hoe je die twee aspecten kunt combineren. Soms zijn mensen geneigd om te snel het ene aspect op te geven, maar verantwoorde innovaties gaan een stap verder. Kan ik niet iets bedenken waarmee beide aspecten bediend zijn?”

 

Treffend voorbeeld

De Professor Ethiek en Technologie geeft een treffend voorbeeld. “Je wilt buiten wandelen en wat lichaamsbeweging krijgen, maar je wilt ook droog blijven terwijl het regent. Je gaat naar buiten en wordt dus nat, maar je hebt wel je lichaamsbeweging. Of je blijft binnen en dan blijf je droog. De paraplu is een uitvinding die je in staat stelt om naar buiten te gaan, droog te blijven én je lichaamsbeweging te krijgen. Je kunt aan alle eisen voldoen die je hebt omdat je gedacht hebt aan een paraplu. Echte innovaties zijn dingen die je toevoegt aan de wereld en die er nog niet waren. En ze vormen een oplossing voor een conflict aan eisen wat je had. In de ethiek gaat het dan in het bijzonder om eisen die voortkomen uit morele waarden in plaats van uit bevliegingen.”

 

 

“De registercontroller moet meer ethisch huiswerk over kunstmatige intelligentie en algoritmes doen”

 

 

Geef niet te snel op

Het is volgens Van den Hoven essentieel dat een professional niet te snel opgeeft bij het bedenken van innovaties. “Als je dat niet doet, zie je dat er vaak verrassende oplossingen komen. De innovatie kan verschillende waarden waarmaken. Bijvoorbeeld het voldoen aan de privacy, accountability, transparantie, duurzaamheid én veiligheid die je mag verwachten. En niet dat je probeert ergens de hoekjes eraf te snijden, in de hoop dat er niemand achter komt.”

 

Aan de bal blijven

In het licht van verdere ontwikkelingen op het gebied van datagebruik en de regulering daarvan, vindt Van den Hoven het essentieel dat de financials ‘zelf aan de bal blijven’. “Ze moeten niet denken dat het automatisch goed gaat en dat anderen het wel doen. Je mag wel denken dat anderen het wel gaan doen, maar dan moet dat een uitkomst zijn van een analyse die je hebt gemaakt. Waaruit blijkt dat het op iemand anders zijn of haar bordje hoort en wel om een bepaalde, aangegeven reden. Iedereen, ook de registercontroller, moet meer filosofisch huiswerk over deze onderwerpen doen. Je verantwoordelijkheid is toegenomen en neemt alleen nog maar verder toe.”

Naar boven 


Jeroen van den Hoven

9/13
Loading ...