FORUM
Recente blogs
Archief
Meest gelezen blogs
Tags
Zoekfilters
Auteur
Artikel
Trefwoord
29.06.2021Corien Prins

Klassiekers democratische rechtsstaat #3: Turing, slimme technologie en vrijheid


Alan Turing is vast niet de eerste persoon die in uw gedachten opkomt bij ‘klassiekers op het gebied van de democratische rechtsstaat’. Toch wil ik een poging wagen hem hiermee in verband te brengen. Op z’n minst ligt zijn werk aan de basis van zowel onze huidige vrijheden als diverse fundamentele kwesties die onze moderne democratische rechtsstaat aangaan.

De Tweede Wereldoorlog werd primair uitgevochten in de fysieke wereld: op het slagveld en met ongekende gruweldaden in concentratiekampen. De ‘digitale wereld’, die in deze tijd een aantrekkelijk toneel voor vijandige handelingen vormt, bestond toen nog niet. Toch was het juist in de nadagen van de Tweede Wereldoorlog dat het fundament werd gelegd voor ons moderne arsenaal voor verdediging en aanval: killer drones, fake news, cyberspionage en andere vormen van cyberwarfare. Het werk van Alan Turing speelt voor dat fundament een cruciale rol.

Zoals wellicht bekend, communiceerden de Nazi’s over hun oorlogsstrategie en de verplaatsing van troepen via een gecodeerd systeem, genaamd Enigma. Als wiskundige en computerpionier werkte Turing bij de Britse Government Code and Cipher School in het geheim aan het ontcijferen van de Enigma-code. En dat lukte. Het is deze prestatie die wordt vaak aangehaald als een cruciale stap in de uiteindelijke overwinning van de geallieerden. En aldus leverde Turing een wezenlijke bijdrage aan hernieuwde vrijheid en de stappen die vanaf dat moment werden gezet in het vormgeven van onze huidige democratische rechtsstaat. Indachtig de fundamentele vrijheden en rechten die in de naoorlogse periode met het EVRM werden verankerd, is het overigens tragisch vast te stellen dat Turing in 1952 werd veroordeeld voor homoseksuele handelingen, hetgeen tot 1967 strafbaar was in het Verenigd Koninkrijk.   

Het werk van Turing speelde niet alleen een cruciale rol in het beëindigen van de Tweede Wereldoorlog. Het wordt algemeen ook gezien als het theoretisch fundament voor wat nu kunstmatige intelligentie heet. Vlak na de oorlog ontwikkelde hij een gedachtenexperiment dat alom bekend staat als de Turingtest: bij deze test beantwoorden zowel een computer als een mens vragen die door een mens zijn opgesteld. De computer slaagt voor de Turingtest als de mens niet kan vaststellen of de antwoorden die werden gegeven afkomstig zijn van een mens of van de computer. We beseffen het veelal niet, maar de zgn. CAPTCHAs die we regelmatig online moeten uitvoeren om te bewijzen dat we bij een bestelling of andere handeling geen zgn. bot zijn (bijvoorbeeld door alle foto’s aan te klikken waar straatlantaarns op afgebeeld staan) is een welbekend voorbeeld van deze test. De afkorting CAPTCHA staat dan ook voor “Completely Automated Public Turing tests to tell Computers and Humans Apart”.

Slimme computers, intelligente systemen, liggen aan de basis van een groeiend hoeveelheid applicaties die onze democratische rechtsstaat alsmede het realiseren van fundamentele rechten en vrijheden het nodige te bieden hebben. Illustratief zijn systemen voor slimme distributieplanning t.b.v. mondiale voedselzekerheid, applicaties die vooringenomenheid in juryrechtspraak scherper in beeld kunnen brengen en gepersonaliseerd afstandsonderwijs dat kinderen in achterstandssituaties de mogelijkheid biedt zich verder te ontwikkelen. Maar slimme systemen zetten onze democratische rechtsstaat ook onder druk. Talloze voorbeelden zijn daarvan te geven. Ik beperk me hier tot twee illustraties die wat mij betreft niet alleen spanning aantonen met de onderliggende waarden van onze democratische rechtsstaat, maar vooral ook duidelijk maken dat de overheid zich veel actiever moet opstellen dan ze momenteel doet.      

Allereerst: het in art. 4 Gw verankerde kiesrecht en in verband daarmee de verspreiding van politieke boodschappen. We weten allemaal dat Facebook, Google en andere internetgiganten informatie over ons (online) gedrag verzamelen, analyseren en verrijken. Ze stellen profielen op - type burger, consument, etc. – en faciliteren daarmee andere partijen. Deze kunnen daarmee hun klanten beter, dat wil zeggen meer ‘op maat’, bereiken en bedienen. Tot die andere partijen behoren, zo weten we inmiddels, ook politieke partijen. Of kwaadwillende organisaties die zich als zodanig voordoen. Niet alleen in landen als de VS en het VK, maar ook in Nederland. Aan de hand van grote hoeveelheden data en profielen van potentiële kiezers brengen slimme systemen individuele personen in beeld om hen vervolgens te benaderen met een op hun situatie en opvattingen afgestemde boodschap. Kortom, toegespitst op persoonlijke voorkeuren, levensovertuiging, religie en opvattingen over de grote kwesties van deze tijd zoals klimaat en COVID-19. Wat bij de ene potentiële kiezer onder de aandacht wordt gebracht, krijgt de andere niet te zien.

Deze ontwikkeling raakt de kern van ons kiesrecht, in de zin dat dit recht vrije verkiezingen en een niet tot individuele personen te herleiden keuze dient te garanderen. Met andere woorden, er mag geen bedreiging of dwang worden uitgeoefend om wel of niet voor een bepaalde kandidaat of politieke beweging te stemmen. Vooralsnog lijken slimme systemen in ons land nog niet grootschalig te zijn benut voor het manipuleren en destabiliseren van het democratisch proces, zoals eerder wel in de VS, het VK en Frankrijk. Maar we mogen onze ogen niet sluiten voor het risico dat ook hier de uitkomsten van referenda en verkiezingscampagnes buiten ons gezichtsveld worden beïnvloed. In ieder geval zijn we inmiddels al wel zo ver dat de vraag of we bepaalde – soms ook suggestieve of zelfs onware - politieke boodschappen online wel of niet te zien krijgen in belangrijke mate wordt gedicteerd door ondoorzichtige systemen in handen van nauwelijks te controleren bedrijven.

Het kiesrecht is als grondrecht sterk verbonden met een ander vrijheidsrecht, de vrijheid van meningsuiting. Onze Grondwet legt die verbinding niet expliciet. Art. 3 Eerste Protocol bij het EVRM doet dat wel. Ook de vrijheid van meningsuiting is essentieel voor een democratische samenleving. Dit in artikel 7 Gw en art. 10 EVRM verankerde recht omvat zowel de vrijheid een mening te koesteren als de vrijheid om informatie en denkbeelden te ontvangen en te verstrekken. Concreet betekent het onder meer dat de overheid pluriformiteit van media heeft te eerbiedigen. Maar wat als pluriformiteit voorhanden en door de overheid gegarandeerd is, maar vrijwel niemand meer pluriform is in zijn of haar aandacht voor de beschikbare informatie? We zien dat slechts een handvol primair buitenlandse commerciële bedrijven (Facebook, Twitter, Instagram, YouTube, Snapchat en sterk opkomend: Tiktok) in feite dicteert waar de aandacht van een groot deel van de bevolking naar uitgaat. De slimme systemen van deze partijen bepalen steeds dwingender hoe wij in het leven staan. Belangrijk is daarbij te beseffen dat online platforms al lang niet meer uitsluitend doorgeefluik zijn. Ze maken ook inhoudelijke keuzes door bepaald aanbod te verwijderen en via algoritmes voor een bepaald type gebruiker een heel specifiek aanbod toegankelijk te maken. Kortom, ze hebben inhoudelijke macht in het sturen op onze aandacht. Veelvuldig is inmiddels gewezen op de keerzijde hiervan, zoals de groeiende fragmentatie van meningen over onze samenleving: ieder zijn eigen (media)bubbel.

Dat brengt me op de rol van de overheid en daarmee de functie van beide bovenstaande vrijheidsrechten. Voor art. 4 Gw geldt al veel langer dat het om meer dan alleen onthouding door de overheid gaat. Er vloeien ook verplichtingen voor de overheid uit voort: het organiseren van verkiezingen en het faciliteren van politieke activiteiten. Maar het kiesrecht gaat ook uit van de gedachte dat burgers in staat moeten worden gesteld om een rationele keuze te maken. En dus moeten zij via onafhankelijke media kennis kunnen nemen van politieke ideeën en opvattingen van kandidaten. Vanuit de verplichtingen voor de overheid die uit art. 4 Gw voortvloeien is het opvallend dat in ons land de vrijheid van meningsuiting nog altijd wordt opgevat als een afweerrecht. De tegenhanger in het EVRM (art. 10) kent wel duidelijk positieve verplichtingen. Daarin sluit het EVRM veel beter aan bij de waarborgende opdracht die inmiddels ook in de vrijheid van meningsuiting verankerd dient te liggen dan ons art. 7 Gw. Want wat mij betreft is het helder: willen we nog iets van een publieke sfeer overhouden dan heeft de overheid een actieve rol te pakken en wel door ook de positieve verplichtingen die uit de vrijheid van meningsuiting voortvloeien serieus te nemen. Immers, bij maatschappelijke deliberatie, autonoom denkvermogen binnen een samenleving en het kunnen adresseren van polarisatie zijn zowel een pluriform aanbod als voldoende maatschappelijke aandacht daarvoor voorwaarden voor constructief overleg en een open uitwisseling van argumenten. Onlangs schetste ik in het Nederlands Juristenblad twee routes voor de overheid. Een idealistische stip op de horizon: art. 7 Gw ook als sociaal grondrecht opvatten. En een realistische concrete actie voor nu: de Nederlandse overheid geeft veel beter en actiever dan nu het geval is uitvoering aan art. 10 EVRM. Een bepaling die immers geldend recht is in ons land en behalve een afweerrecht ook positieve verplichtingen kent. Illustratief is de maart 2018 door de Raad van Europa aangenomen Aanbeveling 2018 nr. 1 over pluriformiteit en eigenaarschap van media.

Terug naar Alan Turing. Een democratie moet het hebben van gelijke kansen op informatie, inclusief de toegang daartoe. Zichtbaar maken wat anders onzichtbaar blijft vormt een essentiële voorwaarde om dit te kunnen blijven garanderen. Turings inspanningen om de Enigma-codete kraken staan in die zin symbool voor zowel de democratische rechtsstaat als het belang om slimme systemen vooral in dienst van onze vrijheid te laten werken.
VERWANTE GRONDWET ARTIKELEN
OVER DE AUTEUR
REAGEER

www.nederlandrechtsstaat.nl wordt ondersteund door Tilburg University, het Vfonds en het Ministerie van Binnenlandse Zaken en Koninkrijkrelaties