EU-Tech Policy Brief: september 2024

Welkom terug bij de Tech Policy Brief van het Centrum voor Democratie en Technologie Europa. Deze editie behandelt de meest urgente technologie- en internetbeleidskwesties die in Europa ter discussie staan ​​en geeft CDT’s perspectief op de impact op digitale rechten. Om u aan te melden voor de AI-nieuwsbrief van CDT Europe, Bezoek onze website. Aarzel niet om contact op te nemen met ons team in Brussel: Silvia Lorenzo Perez, Laura Lazaro Cabrera, Aimée Duprat-Macabies, David Klotsonis, En Giulia Papapietro.

👁️ Beveiliging, bewaking en mensenrechten

Het maatschappelijk middenveld neemt een standpunt in tegen surveillance-spyware

Als reactie op recente spyware-aanvallen en het uitblijven van een krachtige politieke reactie op de risico’s die deze opdringerige technologieën met zich meebrengen, hebben CDT Europe en dertig maatschappelijke organisaties en journalistenorganisaties een gezamenlijke verklaring uitgebracht over het gebruik van surveillance-spyware in de EU en daarbuiten. De coalitie uitte haar diepe bezorgdheid over het onvermogen van de EU-instellingen om het misbruik van spywaretechnologieën in de EU aan te pakken, die een ernstige bedreiging vormen voor de democratische waarden, het publieke debat en de gezonde openbare ruimte van de EU.

In de verklaring werden bevindingen van de PEGA-commissie van het Europees Parlement aangehaald, waaruit in mei 2023 bleek dat een meerderheid van de EU-lidstaten spyware had verworven, en dat sommigen deze op onrechtmatige wijze gebruikten tegen journalisten, mensenrechtenverdedigers en politici. De coalitie bekritiseerde de onlangs aangenomen European Media Freedom Act omdat deze er niet in slaagt journalisten adequaat te beschermen, met het argument dat deze ingrijpende juridische gronden introduceert om zeer opdringerige spyware zoals Pegasus en Predator tegen journalisten te gebruiken zonder cruciale waarborgen.

Onze coalitie riep de nieuwe EU-instellingen op om in de nieuwe zittingsperiode de bedreigingen aan te pakken die spyware vormt voor de grondrechten. Dit zou een verbod moeten omvatten op de productie, verkoop en gebruik van spyware die de fundamentele rechten op grove wijze schendt en waarvoor strikte waarborgen nooit voldoende zouden zijn om de schade aan de rechten van slachtoffers te beperken.

Andere eisen van de coalitie zijn onder meer de noodzaak van strengere exportcontroles door een definitie van spyware op te nemen in de EU-verordening voor tweeërlei gebruik, en het versterken van de fundamentele rechtenwaarborgen om ervoor te zorgen dat deze instrumenten niet worden gebruikt voor repressie of mensenrechtenschendingen in landen buiten de EU. . De coalitie eist ook sterkere verantwoordingsmaatregelen, meer transparantie in overheidscontracten waarbij spyware betrokken is, en dat EU-besluitvormers systematisch overleg plegen met het maatschappelijk middenveld en belanghebbenden bij het proces van herziening, implementatie en handhaving van de EU-wetgeving.

Betreffende de update over de EU-verordening inzake seksueel misbruik van kinderen

De start van het Hongaarse voorzitterschap bracht in september een zorgwekkend nieuw compromisvoorstel met zich mee voor de EU-verordening inzake seksueel misbruik van kinderen, wat leden van de Global Encryption Coalition Steering Committee ertoe bracht hun ernstige zorgen te uiten. Hoewel het voorstel de detectie beperkt tot bekend materiaal over seksueel misbruik van kinderen (CSAM) en de evaluatie van nieuwe technologieën vertraagt, verplicht het nog steeds het scannen op gecodeerde berichtendiensten. Elke vorm van scannen van inhoud, inclusief scannen aan de clientzijde, ondermijnt het kernprincipe van end-to-end-encryptie en introduceert aanzienlijke veiligheidsrisico’s voor alle gebruikers. Deze maatregelen zouden de encryptie verzwakken, waardoor systemen kwetsbaar worden voor uitbuiting door derden, zonder de verspreiding van CSAM effectief aan te pakken.

Aanbevolen leesvoer: Silvia Lorenzo Perez van CDT Europe legde uit hoe de gezamenlijke verklaring over spyware aan het licht kwam, en waarom het werk van het maatschappelijk middenveld belangrijk is in de strijd tegen spyware-misbruik in de EU.

💬 Online expressie en burgerlijke ruimte

Wet op de digitale diensten in het nieuwe mandaat

In verschillende missiebrieven waarin het volgende mandaat voor de Europese Commissie wordt uiteengezet, heeft Commissievoorzitter Von der Leyen bijzondere nadruk gelegd op het Europees Democratieschild, dat nieuwe EU-capaciteiten zal creëren en bestaande kaders zoals de Digital Services Act (DSA) zal benutten om buitenlandse inmenging te bestrijden. en desinformatie. Wij dringen er bij de Commissie op aan ervoor te zorgen dat elke poging om haar informatieruimte te beschermen niet ten koste gaat van de vrijheid van meningsuiting door overmatige verwijdering van legale online-inhoud, gezien de complexiteit van het onderscheid tussen legale en illegale desinformatie. Wij verwachten dat het maatschappelijk middenveld een belangrijke rol zal spelen in dit proces.

Ook de kandidaat-commissaris Henna Virkunnen, die als vicevoorzitter van de Europese Commissie en hoofd van DG CNECT toezicht zal houden op de handhaving van de Digital Services Act (DSA) en de online kinderbescherming, en Michael McGrath zullen van cruciaal belang zijn voor de ontwikkeling van het Europees Democratieschild. , kandidaat-commissaris voor Democratie, Justitie en de Rechtsstaat, die leiding zal geven aan DG JUST. DG CNECT en DG JUST zullen niet alleen samenwerken aan het European Democracy Shield, maar ook aan de Digital Fairness Act, die zich zal richten op bredere digitale consumentenbescherming. Hoewel DG JUST het voortouw zal nemen bij de Digital Fairness Act, zal de wetgeving aanzienlijke overlap hebben met de DSA, aangezien kinderen per definitie als kwetsbare consumenten worden beschouwd. De coördinatie van DG JUST met DC CNECT, vooral op het gebied van kwesties als verslavend ontwerp en donkere patronen – die beide als risico’s worden gezien in het kader van de DSA – zal dus essentieel zijn om een ​​samenhangend beleid in de digitale ruimte van de EU te garanderen.

Von der Leyen gaf McGrath bovendien de opdracht een platform voor het maatschappelijk middenveld op te bouwen om “een meer systematische civiele dialoog te ondersteunen en te werken aan het versterken van de bescherming van het maatschappelijk middenveld, activisten en mensenrechtenverdedigers en hun werk.” Dit zou een belangrijke stap zijn voor het betrekken van het maatschappelijk middenveld bij het ontwerp en de handhaving van digitaal beleid, en weerspiegelt het pleidooi van CDT voor een formeel overlegmechanisme voor het maatschappelijk middenveld in de context van de Board of Digital Services, die werd opgericht door de DSA.

Oproep tot bewijs voor de online bescherming van minderjarigen

In reactie op de recente oproep van de Europese Commissie om bewijsmateriaal op te stellen over de richtlijnen voor de onlinebescherming van minderjarigen, op grond van artikel 28 van de Digital Services Act (DSA) – die onderworpen zal zijn aan openbare raadpleging zodra een ontwerp gereed is – benadrukte CDT Europe een evenwichtige , op rechten gebaseerde aanpak om minderjarigen online te beschermen. In onze reactie worden drie belangrijke punten benadrukt:

• De EU Digital ID is geen wondermiddel om minderjarigen online te beschermen: Hoewel de EU Digital Identity Wallet mogelijkheden biedt voor leeftijdsgarantie, is het geen alomvattende oplossing. De technologie wordt geconfronteerd met verschillende uitdagingen, waaronder privacyproblemen en hiaten in de inclusiviteit, vooral voor gemarginaliseerde groepen. Methoden voor het garanderen van de leeftijd moeten evolueren terwijl de privacy van gebruikers behouden blijft en overmatige gegevensverzameling vermeden wordt.
• Gebruikersbedieningen zijn veelbelovend: Door minderjarigen tools aan te bieden om hun online interacties te beheren, kunnen ze veiligere keuzes maken. Aanpasbare filters, blokkeerlijsten en andere functies stellen jonge gebruikers in staat hun online-ervaring in realtime aan te passen, waardoor zich sneller ontwikkelende risico’s kunnen worden aangepakt dan traditionele maatregelen voor inhoudsmoderatie.
• Het raadplegen van jongeren is essentieel: Het betrekken van jongeren bij de ontwikkeling van de richtlijnen, en het aanmoedigen van platforms om hen tijdens het ontwerpproces te betrekken, is van cruciaal belang. De inzichten van jongeren zorgen ervoor dat maatregelen relevant zijn en inspelen op hun behoeften, waardoor een veiligere en gebruiksvriendelijkere onlineomgeving wordt bevorderd.

Aanbevolen leesvoer: Tech Policy Press, Onderzoeker Datatoegang onder de DSA: lessen uit de API-problemen van TikTok tijdens de Europese verkiezingen van 2024

⚖️ Eigen vermogen en data

AI-agenda in het nieuwe mandaat

Hoewel de implementatie van de AI-wet noodzakelijkerwijs binnen de portefeuille Tech Soevereiniteit, Veiligheid en Democratie van kandidaat-commissaris Henna Virkkunen zal vallen, wordt in de missiebrief van Virkkunen met name niet verwezen naar de handhaving van de AI-wet. In plaats daarvan wordt de kandidaat-commissaris gevraagd verschillende stappen te ondernemen om de regionale introductie van AI te vergemakkelijken, onder meer door toegang te bieden tot op maat gemaakte supercomputercapaciteit voor AI-startups, het industriële gebruik van AI te stimuleren en een Europese AI-onderzoeksraad op te richten. De missiebrief roept op soortgelijke wijze op tot de ontwikkeling van een EU Cloud and AI Development Act om de rekencapaciteit te vergroten, en tot de creatie van een EU-breed raamwerk voor het verstrekken van “computationeel kapitaal” aan innovatieve kleine en middelgrote ondernemingen.

Andere portefeuilles die AI zullen raken zijn onder meer die van de commissaris voor Mensen, Vaardigheden en Paraatheid, die zal werken aan algoritmisch management, en de commissaris voor Intergenerationele Eerlijkheid, die de taak kreeg een AI-strategie voor de creatieve industrie te ontwikkelen, waarbij mogelijk kwesties van copyright.

Hoewel de missiebrief geen verdere regulering van nieuwe technologieën suggereert, gaat een recent rapport van de European Parliamentary Research Service (EPRS) in deze richting. In zijn aanvullende effectbeoordeling van het ontwerp van de AI-aansprakelijkheidsrichtlijn (AILD) – een instrument dat een ontwerp van juridisch kader voorstelt voor buitencontractuele wettelijke aansprakelijkheid voor schade veroorzaakt door AI-systemen, die tijdens de onderhandelingen over de AI-wet werd opgeschort – pleitte de EPRS voor de AILD te herzien, te versterken en vooruit te helpen. In onze nieuwste blogpost gaan we dieper in op de relatie tussen de AILD en de AI Act, de belangrijkste suggesties uit het EPRS-rapport en het potentieel van de AILD voor de toekomst.

Intussen ziet de implementatie van de AI-wet de volgende stappen. Na de selectie van geïnteresseerde belanghebbenden door het AI Office zal CDT Europe als organisatie met technische expertise deelnemen aan het Codes of Practice-proces – aangestuurd door het AI Office – om regels te ontwikkelen voor AI-modellen voor algemene doeleinden. Het proces begon gisteren formeel met een besloten plenaire vergadering, waarin de covoorzitters en vicevoorzitters werden voorgesteld, de basisregels voor het proces werden uiteengezet en het vertrouwelijke karakter van de procedure werd onderstreept. Het AI Office heeft tot april 2025 de tijd om de Codes of Practice op te stellen en af ​​te ronden. Er zullen meerdere belanghebbenden bij betrokken zijn, waaronder aanbieders van AI-modellen voor algemene doeleinden, academische experts, organisaties met technische expertise en maatschappelijke organisaties. In een eerdere publicatie hebben wij de geschiktheidscriteria uiteengezet.

Uitdagingen en kansen van AI in de publieke sector

Half september nam Laura Lazaro Cabrera van CDT Europe deel aan een multistakeholderconsultatie over de uitdagingen en kansen van kunstmatige intelligentie in de publieke sector, georganiseerd door het Europees Comité van de Regio’s. Laura benadrukte hoe belangrijk het is dat overheidsinstanties een weloverwogen en zorgvuldige aanpak volgen ten aanzien van de inzet van AI, en benadrukte dat een verantwoorde adoptie van AI-aangedreven tools veel middelen vergt, niet in de laatste plaats vanwege de verplichtingen die de AI-wet aan overheidsinstanties oplegt. In het licht van deze verplichtingen riep ze de publieke autoriteiten op om alomvattende informatie van AI-leveranciers op te vragen alvorens contracten te sluiten, om ervoor te zorgen dat de effectiviteit, voordelen en risico’s van AI-systemen uitgebreid worden aangepakt en beperkt.

Aanbevolen leesvoer: De Financial Times publiceerde een opiniestuk waarin werd uitgelegd waarom lobbyen voor onbelemmerde innovatie slecht is voor de democratie.

🗞️ Druk op Hoek

⏫ Aankomende evenementen

Topconferentie over technologie en samenleving: CDT Europe is vandaag mede-gastheer van de Tech and Society Summit in Brussel. Het zal het maatschappelijk middenveld en EU-besluitvormers samenbrengen om de wisselwerking tussen technologie, maatschappelijke impact en ecologische duurzaamheid te onderzoeken. De nadruk zal liggen op belangrijke onderwerpen die de toekomst van digitale rechten en beleid in de EU vormgeven, waaronder spywareregulering, de belangrijke rol van het maatschappelijk middenveld in de beleidsvorming en de handhaving van digitale wetten.

Mondiale encryptiedag: De Global Encryption Coalition, waarvan CDT Europe lid is, organiseert op 26 oktober haar jaarlijkse Global Encryption Day-evenement. Houd deze ruimte in de gaten voor meer informatie.