De Europese Commissie wil een verordening invoeren die platformen op het Internet verplicht om alle visuele communicatie en URL’s te scannen op kindermisbruik. Die verordening kreeg de bijnaam Chatcontrol. Donderdag 20 juni zouden de lidstaten van de Europese Unie dit goedkeuren, maar op het allerlaatste moment werd die stemming uitgesteld. Omwille van een storm van kritiek die afgelopen dagen losbarstte. Chatcontrol zet volgens critici een deur open naar massasurveillance.

In Vlaanderen kwam minister van binnenlandse zaken Annelies Verlinden (cd&v) als tijdelijk voorzitter van de Europese Unie onder vuur te liggen. Haar diplomatiek adviseur Viktor Opsomer verdedigde het stemmen van de chatcontrol-verordening als volgt: ‘We scannen geen enkel privébericht onder het voorstel. Tekst en audio vallen expliciet buiten toepassingsgebied. Het gaat enkel over het strafbaar feit, gerichte detectie van harde beelden van kindermisbruik.’ Amper een dag later verschoof het voorzitterschap de stemming.

Waar gaat het over? In een normaal puur formele en administratieve vergadering, genaamd Coreper II, zouden de lidstaten stemmen over een voorstel dat afgelopen twee jaar op alle EU-niveaus werd goedgekeurd. Na stemming dus door het Europees Parlement die de verordening goedkeurde.

Tijdens de vergadering van 20 juni zou de laatste versie van 14 juni gestemd worden. Officieel is de naam Proposal for a Regulation of the European Parliament and of the Council laying down rules to prevent and combat child sexual abuse Partial mandate for negotiations with the European Parliament. Logisch dat dit een bijnaam kreeg: chatcontrol.

Dat chatcontrol is eigenlijk het invoeren van een CSEM-scanner. Dat acroniem staat voor child sexual exploitation material. De EU gebruikt ook CSAM (child sexual abuse material). Beelden dus van kindermisbruik. Het gaat over automatisch scannen van alle berichten en het automatisch doorsturen aan de overheid, de politie en zelfs niet-gouvernementele organisaties (NGO’s).

De tegenstanders spreken van ‘chatcontrol 2.0’ omdat er al een chatcontrol bestaat. Daarbij wordt ‘vrijwillig’ gescand zoals in de gebruiksvoorwaarden staat van veel platformen. Facebook, Google en Microsoft doen dit dus al. Het gaat hierbij over voornamelijk Amerikaanse diensten vooral zoals GMail, Facebook/Instagram Messenger, Skype, Snapchat, de e-mail van Apple’s iCloud en de berichten via X-Box.

Het grote verschil is dat de Europese Commissie dit scannen verplicht wil maken voor alle berichten en e-mail-diensten. Tenminste bij die platformen die de Commissie als een risicocategorie bestempelt. De meeste van die diensten zijn versleuteld. Dat wil zeggen dat ze door encryptie beschermd zijn tegen hacking. De Commissie wil dus de overheid toestemming geven al die berichten automatisch en systematisch te hacken.

Veel instanties lobbyen hard om dit te bereiken. Europol bijvoorbeeld is geen voorstander van versleuteling. Tegenstanders spreken daarom van massasurveillance.

Sofie Royer, specialiste mensenrechten aan de KU Leuven en de UAntwerpen merkte op dat er blijkbaar heel veel vertrouwen is dat technologie het probleem van beelden van kindermisbruik gaat oplossen. ‘Zolang er vraag is gaat er aanbod zijn.’ Maar Royer stelt dat technologie alleen niet volstaat. ‘We moeten inzetten op begeleiding van daders en op de jeugd. Heeft het onderwijs zich aangepast om kinderen weerbaar te maken? Een aanpak op vele fronten is vereist. Technologie kan helpen.’

Op 11 mei 2022 kwam de Europese Commissie met haar oorspronkelijk voorstel. De Commissie rechtvaardigde zich met de melding dat ze een openbare consultatie deed en daaruit bleek dat de meerderheid van de respondenten (burgers zowel als stakeholders) voorstander waren om kindermisbruik te bestrijden. Nochtans bleek uit diezelfde bevraging dat de meerderheid tegen verplichte chatcontrol waren. Meer dan 80% was zelfs tegen het controleren van versleutelde berichten.

Het grote verschil met wat al bestaat is dat de chatcontrol opgelegd wordt in de EU. ‘Dat sommige uitbaters het vrijwillig doen is ook al gebaseerd op Europese regels’ verklaart Royer ‘De nieuwe verordening gaat plots veel verder door een verplichting in het leven te roepen.’

‘Belangrijke nuance is dat eerst een risico-inschatting moeten worden gemaakt en als een platform dan in hoogste risicocategorie terechtkomt dan geldt de verplichting’ aldus Royer. Dan volgt een zogenaamde ‘detection order’ en moet het platform alle berichten scannen. ‘De vrees die bij velen heerst is dat alle mainstream-applicaties in die hoogste categorie zullen vallen en dat onze communicatie massaal zal gecontroleerd worden’ aldus Royer.

‘De vraag is dan of de capaciteit bestaat om het te verwerken en of dat de beste manier is om het aan te pakken’ vervolgt Royer ‘Wetenschappers berekenden dat als die technologie een vals-positieve ratio heeft van 1 op 1000 (wat vrij laag is want bij huidige technologie is die veel hoger) dan zou dit onwerkbaar zijn.’ Die missers vormen een probleem. ‘Als de overheid 1 op 100 van alle verstuurde berichten behandelt, levert dat 1,4 miljoen vals positieven per dag op’. Volgens Royer is de technologie niet helemaal betrouwbaar.

‘Technologie kan ook geen context zien. Zo mogen minderjarigen aan sexting doen sinds 2022. Wil men daar zoveel tijd aan verliezen?’ Royer stelt hardop de vraag: ‘Welk is de beste manier en hoeveel offer je op en wat krijg je terug?’

Daarnaast zullen daders hun toevlucht zoeken tot andere platformen. Volgens Royer is er een derde probleem. Dat van het ‘hellend vlak’. Ze zogenaamde function creep. ‘Dit verkoopt enorm goed want iedereen is tegen kindermisbruik. Eens die technologie er is, is het maar kleine stap om die technologie ook anders toe te passen’ waarschuwt Royer. ‘Je begint met iets en je glijdt af.’

De verordening is al heel specifiek, maar wat met de toevallige ontdekkingen? Royer verwijst naar de camera’s op de openbare weg. ‘Eens ze er zijn lijkt het heel handig camera’s bedoeld tegen terroristen ook te gebruiken om belastingbetalers die niet betaalden van de weg te halen’.

De kern van de zaak volgens Royer is dat de technologie al bestaat voor openbare profielen. ‘Maar hier gaat het wel over privé-communicatie. Het privacy-risico is vele malen groter’. Royer kijkt dan naar de uitspraken van het Europees Hof voor de Rechten van de Mens (EHRM). ‘Sowieso stelde het EHRM dat end-to-end-encycriptie dient om burgers te beschermen.’ Rusland verplichtte Telegram om te kunnen meelezen en verloor die zaak bij het EHRM.

‘De vraag is hoeveel controle willen we dat de overheid heeft in een rechtsstaat?’ aldus Royer. ‘We zien dat zoiets bestaat als het chilling effect, als je het gevoel hebt dat constant wordt meegekeken ga je aan zelfcensuur doen.’ Royer ziet een bedreiging voor de vrije meningsuiting. ‘We moeten daar een evenwicht in vinden. Ik vind dat we de grens mogen of zelfs moeten trekken bij privé-communicatie.’

Royer ziet trouwens nog bedreigingen vanuit die hoek bij de Europese Commissie. ‘De EU zette ook al het licht op groen voor gezichtsherkenning in publieke ruimte door nieuwe regelgeving die in de pijplijn zit.’ De hele discussie draait dus rond privacy.

Wat is privé-communicatie? ‘Soms voelt een whatsappgroep met collega’s aan als privé, maar wat doe je met racistische uitlatingen zoals onlangs bij een aantal leraren? Dat is niet privé voor het strafrecht. Wat dat betreft zijn er verschillende stromingen. Een ruime interpretatie of een minder ruime. Maar er moet wel een online veilige zone zijn.’

‘Het punt van die verordening is dat ze geen rekening houdt of communicatie privé is of niet.’ Vat Royer samen.