Dit artikel is eerder verschenen in het iBestuur magazine van juni 2023

Wie het nieuws aanzet kan er niet omheen: we leven in een tijdperk van grote maatschappelijke opgaven: tekorten op de arbeidsmarkt, de energietransitie, schulden en de gebrekkige compensatie rond de Toeslagenaffaire, opvang asielzoekers en Groningen. Publieke organisaties worstelen met deze opgaven en kijken naar de mogelijkheden die digitale oplossingen bieden. Steeds meer start-ups en scale-ups demonstreren onder het label ‘GovTech’ digitale oplossingen voor de publieke sector. Denk bijvoorbeeld aan arbeidsbesparende technologieën zoals AI gedreven assistenten, data wallets en digital twins. Dit zien we niet alleen in Nederland, de markt van GovTech oplossingen op Europees niveau groeit zo hard dat er intussen intermediairs zijn die databases bijhouden en aanbieden aan investeerders en mogelijke publieke inkopers.

Europese beleidsmakers zien met de kleine startups en scale-ups achter GovTech ook een kans om tegenwicht te bieden tegen verdergaande monopolisering door BigTech. Dit zou de digitale soevereiniteit van Europa verstevigen. Recentelijk zijn twee grote GovTech programma’s gestart in de EU: GovTech4All en GovTech Connect. Allemaal wind in de zeilen voor GovTech incubators, accelerators, pilots en experimenten. Het is niet vreemd dat GovTech zoveel momentum krijgt. Het biedt een behoorlijke verdienpotentie dankzij geharmoniseerde EU-regelgeving: de data wallet uit Nederland kan ook worden aangeboden in Spanje.

“Dit is precies het moment waar we extra waakzaam moeten zijn” waarschuwt Nitesh Bharosa, hoogleraar GovTech aan de TU Delft. GovTech oplossingen zijn vol met technische componenten waar verschillende leveranciers achter zitten. Zo bestaat een data-wallet uit onder meer een digitale identiteit, user interface, algoritmen, functionaliteiten, APIs en verschillende publieke en private data-bronnen, die weer gevoed worden door allerlei andere registraties en algoritmen. En het is zeker niet zo dat alles precies in elkaar pasten met elkaar praat. Interoperabiliteit en datakwaliteit zijn geen gegeven. Er is geen grand design en geen enkele partij heeft een integrale verantwoordelijkheid voor de som der delen. Wie is er waarvoor verantwoordelijk? Wat als de burger, op advies van het algoritme een aanvraag doet, op basis van verkeerd geconverteerde data? Wat voor checks en controls zitten er in dat proces en is aan de condities voldaan dat d mensen die checks en controls ook kunnen uitvoeren? Hoe nemen we burgers daarin mee? Wat voor verantwoordelijkheid verwachten we van publieke organisaties die deze oplossingen toestaan of zelfs een deel van de data aanbieden?

“Dat is precies waarom we moeten ontwerpen vanuit een vooruitkijkende perspectief” vult Jeroen van den Hoven aan. Jeroen is Hoogleraar Ethiek en Techniek en wereldwijd een trekker van de ‘designing for values’ aanpak. De impact van GovTech op de levens van mensen is groot. Als publieke en private organisaties elk verantwoordelijk zijn voor een functionele component of een deel van de data, ontstaan automatisch gaten in de verdeling van verantwoordelijkheid om te voorkomen dat mensen in de problemen komen. Politici en ingenieurs realiseren zich steeds meer dat morele n publieke waarden belangrijk zijn bij de ontwikkeling van technologische artefacten. Nadenken over waarden is niet genoeg, we moeten proberen ‘voor te denken’ en te ontwerpen voor de juiste conceptualisering van deze waarden. We kunnen niet verantwoordelijk ontwerpen, innoveren en technologie vormgeven in overeenstemming met onze morele waarden, zonder een systematische en continue ‘conceptual engineering’. Wat betekent ‘menselijke maat’ en ‘respect voor de burger’, Er zijn tientallen definities van democractie. Als we gaan experimenteren met digitale democratie, dan zullen we gerechtvaardigd keuzen moeten maken. Wat staat centraal? Information, contestation, deliberation, delegation, respresentation? Dit betekent dat we morele waarden moeten opvatten als ‘requiremenst’ en ze moeten voegen bij de functionele en kwaliteitseisen die we aan GovTech stellen. Dit is niet alleen een academische of theoretische kwestie, het is ook niet alleen een kwestie voor het overheidsbeleid of de politiek, of toezichthouders, het is een centraal probleem geworden in de wereld van GovTech. En dat is waar Digicampus en de Delft Digital Ethics Centre elkaar versterken.

Giulietta Marani, programmadirecteur bij Digicampus is blij met de samenwerking. “Bij Digicampus komen publieke organisaties, wetenschappers, marktpartijen en burgers bij elkaar om GovTech oplossingen en de randvoorwaarden voor verantwoord gebruik daarvan vorm te geven. Dankzij de samenwerking met Delft Digital Ethics Centre brengen we wetenschappelijke kennis en methoden op het gebied van ‘designing for values’ vanaf het begin in bij innovatietrajecten. Zo werken we aan systematische en continue ‘conceptual engineering’ op GovTech”.

Van den Hoven: “Digicampus biedt een plek waar de verschillende partijen vooraf, al in de ontwerpfase, kunnen werken aan de vertaling van abstracte concepten zoals privacy en transparantie, accountability in termen van requirements. Dit is een belangrijke stap die je actief moet stimuleren, want het gaat niet vanzelf”.

Een belangrijk onderdeel van de samenwerking is dat er kennisontwikkeling en kennisdeling plaats vindt middels promotieonderzoek. Zo wordt onderzoek gedaan naar het ontwerpen voor verantwoordelijkheid, in complexe data en AI-ecosystemen, zodat actoren al in de ontwerpfase worden gestimuleerd om de gevolgen in de keten te verkennen en de condities in te vullen waardoor actoren hun verantwoordelijkheid kunnen nemen.

Bharosa ziet veel meerwaarde in deze combinatie en noemt dit ook wel ‘de ethificering van GovTech’. Door het met elkaar nadenken over zingeving en vormgeving van publieke waarden in de ontwerpfase voorkomen we dat we later moeten bijsturen met complexe wet- en regelgeving. Hiermee scheppen we de voorwaarden voor het ontwikkelen van verantwoorde GovTech oplossingen.

Geschreven door: Giulietta Marani, Nitesh Bharosa en Jeroen van den Hoven