Geen vrijgeleide meer: ​​regelgeving begint strenger op sociale mediaplatforms | Technologie

De in Rusland geboren tycoon Pavel Durov, oprichter en CEO van Telegram, werd op 24 augustus buiten Parijs gearresteerd toen hij uit zijn privéjet stapte. Hij wordt beschuldigd van medeplichtigheid aan de verspreiding van kinderporno op Telegram, dat veel wordt gebruikt voor criminele activiteiten. Slechts een week later beval een rechter de sluiting van X in Brazilië vanwege het “herhaaldelijk niet naleven van gerechtelijke bevelen” door het sociale netwerk. De eigenaar, Elon Musk, weigert profielen te blokkeren die bijdragen aan de “massale verspreiding van nazistische, racistische, fascistische, haatdragende en antidemocratische uitlatingen.”

Deze twee acties zijn symptomatisch voor hoe de tijden veranderen. In het eerste decennium van deze eeuw werd de wereld verleid door sociale media, zozeer zelfs dat tegenwoordig meer dan de helft van de wereldbevolking — ongeveer 4,5 miljard mensen — deze platforms elke dag gebruikt. In het tweede decennium groeiden socialemediabedrijven uit tot alomtegenwoordige, zakelijke giganten. De wereld kreeg ook een glimp van de duistere kant van sociale media, met het Cambridge Analytica-schandaal als eerste grote wake-upcall. En in het derde decennium worden er maatregelen genomen om sociale media aan banden te leggen.

De repressie tegen Telegram en X is onderdeel van deze laatste golf. De arrestatie van de in Rusland geboren tycoon — los van de geopolitieke gevolgen — stuurt een boodschap naar de topbestuurders van technologiebedrijven: ook zij kunnen persoonlijk verantwoordelijk worden gehouden voor wat er op hun platforms gebeurt. Ondertussen laat de sluiting van X in Brazilië zien dat regeringen niet langer aarzelen om actie te ondernemen tegen socialemediabedrijven. “Het is het eerste voorbeeld dat Latijns-Amerikaanse landen hun eigen toekomst in de digitale economie kunnen bepalen, een nieuwe regelgevende toolbox tegen technologiebedrijven kunnen openen en, zonder zich aan te sluiten bij de Verenigde Staten of China, hun eigen pad naar technologische soevereiniteit kunnen bepalen”, zegt Ekaitz Cancela, onderzoeker bij het Internet Interdisciplinary Institute (IN3) van de Universitat Oberta de Catalunya in Spanje.

Paloma Llaneza, een advocaat gespecialiseerd in digitaal recht, gelooft dat de trend duidelijk is veranderd: platforms zijn gegaan van helemaal geen regulering naar een regelgevende waanzin. Volgens Llaneza is deze verschuiving “heel gewoon bij alle technologische revoluties.” Ze gelooft dat sociale media laten zien dat het niet werkt om een ​​fenomeen te laten opkomen voordat je het reguleert.

“Ik denk dat we een nieuwe fase ingaan,” beaamt Rodrigo Cetina, rechtenprofessor aan de Barcelona School of Management van de Pompeu Fabra Universiteit in Spanje, en expert op het gebied van sociale netwerken en het Amerikaanse rechtssysteem. “De Europese Unie is actiever dan ooit en de DSA (Digital Services Act) begint te worden toegepast. Wat er in Brazilië is gebeurd, is een krachtig teken dat sommige landen niet bereid zijn om alles te tolereren.”

De reactie op de grote sociale mediaplatforms is al een tijdje in de maak. De EU heeft een ambitieuze juridische architectuur ingezet die begon in 2018, toen de Algemene Verordening Gegevensbescherming (AVG) van kracht werd. Deze verordening vereist dat bedrijven aangeven welke informatie ze van internetgebruikers gaan gebruiken en voor welk doel.

Ondertussen wordt de DSA — die tegelijk met de Digital Markets Act (DMA) is opgesteld — sinds februari dit jaar breed toegepast. Het stelt specifieke verplichtingen vast voor digitale platforms, zoals het verbeteren van de transparantie en het bestrijden van de verspreiding van illegale content, die snel moet worden verwijderd om boetes te voorkomen. In slechts een half jaar van zijn bestaan ​​is de DSA onderzoeken gestart tegen X, voor het overtreden van regels over illegale content, en tegen Meta, het moederbedrijf van Facebook en Instagram, om de mogelijke schadelijke effecten ervan op minderjarigen te beoordelen. Het dwong TikTok ook om een ​​applicatie in te trekken die gebruikers beloonde voor het bekijken van video’s.

De nieuwste toevoeging aan dit regelgevend kader komt in 2026, wanneer de AI Act van kracht wordt. Deze regelgeving stelt verschillende eisen en verplichtingen voor AI-toepassingen vast, afhankelijk van hun risico’s.

In de VS wordt de meeste tegenreactie op de schijnbare straffeloosheid van socialemediaplatforms gevoeld in de rechtbanken. Een reeks rechtszaken die zijn aangespannen door families en onderwijsinstellingen beschuldigt de grote sociale netwerken ervan platforms te ontwerpen op een manier die willens en wetens de mentale en fysieke gezondheid van minderjarigen schaadt. Ondertussen is er vorig jaar in Californië een privacywet van kracht geworden die vergelijkbaar is met de AVG, en wordt er gewerkt aan nieuwe wetten om deepfakes tijdens verkiezingsperiodes te verbieden en om waarborgen in te stellen voor de toekomstige ontwikkeling van AI-modellen.

Er zijn ook pogingen gedaan om Sectie 230 te hervormen, de Amerikaanse regelgeving die technologiebedrijven vrijstelt van verantwoordelijkheid voor content van derden die op platforms wordt gedeeld. Maar ze zijn nog niet succesvol geweest. “Het is erg moeilijk om veranderingen door te voeren als elke partij het probleem om te beginnen op een heel andere manier diagnosticeert dan de ander. Voor Republikeinen is het probleem met sociale media censuur; voor Democraten is het dat ze desinformatie en haatcontent verspreiden,” zegt Cetina.

Een wereldwijde, maar ongecoördineerde, reactie

Wanneer begon de tegenreactie tegen platforms? De eerste significante bewegingen vonden ongeveer tien jaar geleden plaats. Het jaar 2016 was om twee redenen cruciaal: de Europese Unie keurde de AVG goed, die in 2018 van kracht zou worden, en Donald Trump won de Amerikaanse presidentsverkiezingen tegen alle verwachtingen in, in een overwinning die werd geholpen door de verspreiding van nepnieuws ter ondersteuning van de campagne van de Republikeinse kandidaat.

De roep om verandering werd sterker door de tekortkomingen van sociale media zelf, zegt Carissa Véliz, een expert in toegepaste ethiek in technologie en hoogleraar aan het Centre for Ethics and Humanities aan de Universiteit van Oxford. “We zijn waar we zijn, voornamelijk vanwege de opbouw van slechte ervaringen: van Cambridge Analytica tot de schade aan tieners die onthuld is door (Facebook-klokkenluider) Frances Haugen, en de sociale polarisatie die veroorzaakt wordt door sociale media. Overheden kunnen druk uitoefenen op de platforms, deels omdat burgers boos zijn, maar ook om redenen van nationale veiligheid.” Deze overheidsacties zijn echter ongecoördineerd, wat de kracht van de maatregelen heeft verminderd.

Zelfs Ierland — dat doorgaans tegen de maatregelen van de EU is om big tech aan banden te leggen — lijkt te reageren op de publieke tegenreactie op sociale media. “Er zijn tekenen dat de Ierse Data Protection Commission (DPC), die verantwoordelijk is voor de handhaving van de digitale wetgeving van de EU bij de meeste Amerikaanse en Chinese techbedrijven die in de EU actief zijn (omdat hun Europese hoofdkantoor in Ierland is gevestigd), van koers verandert”, zegt Johnny Ryan, directeur van de afdeling digitale rechten van de Ierse Raad voor Burgerlijke Vrijheden. “De DPC heeft onlangs een spoedprocedure gebruikt die het nog nooit eerder heeft gebruikt om X ervan te weerhouden de gegevens van zijn gebruikers te gebruiken om zijn AI-model te trainen, en is ook tussenbeide gekomen om Meta ervan te weerhouden hetzelfde te doen.”

Een andere factor heeft ook bijgedragen aan de plotselinge interesse in het reguleren van sociale media: kunstmatige intelligentie. “Toen sociale media ontstonden, was er een heel interessant juridisch debat over hoe ze gereguleerd moesten worden. Moeten ze als communicatiemiddel worden behandeld of niet? Als dat zo is, moeten ze verantwoordelijk worden gehouden voor de content die ze publiceren, net als een krant. Er werd besloten dat ze dat niet moesten zijn, en dit werd weerspiegeld in de Amerikaanse Communications Decency Act van 1996,” legt Borja Adsuara uit, een jurist en consultant die gespecialiseerd is in digitaal recht.

Maar sociale media evolueerden en algoritmes begonnen beetje bij beetje een grotere rol te spelen in de vergelijking. “Wanneer een platform niet neutraal is, maar bepaalde content aanbeveelt en andere uitstelt op basis van bepaalde criteria, dan handelt het met redactionele bevoegdheden en moet het dezelfde verantwoordelijkheid dragen als een uitgever”, benadrukt de advocaat. Dit is dezelfde conclusie waar veel landen toe zijn gekomen.

Technologie en geopolitiek

Er zitten sterke geopolitieke ondertonen aan de arrestatie van Durov, die onlangs verzoend is met Vladimir Poetin nadat de Russische president hem dwong zijn eerste startup, vKontakte, te verkopen en Rusland te verlaten. Het is niet de eerste keer dat politiek en technologie botsen. In 2018 werd de vicepresident van Huawei en de dochter van de oprichter, Meng Wanzhou, op verzoek van Washington gearresteerd in Canada. Ze werd drie jaar vastgehouden nadat ze was aangeklaagd voor het overtreden van de Amerikaanse economische sancties tegen Iran. De episode was onderdeel van het handelsconflict tussen de Verenigde Staten en China in die tijd, wat ertoe leidde dat de toenmalige president Donald Trump de oorlog verklaarde aan Huawei.

Tech-CEO’s waarschuwen overheden vaak tegen regulering, maar doen dat zelden. OpenAI-CEO Sam Altman zei vorig jaar dat de inspanningen van de EU om AI te reguleren ertoe zouden kunnen leiden dat zijn bedrijf het continent zou verlaten. De EU negeerde de waarschuwing en keurde dit jaar de AI Act goed. OpenAI bleef en Altman zegt nu dat hij zich inzet om de wet te handhaven.

Een vergelijkbare situatie deed zich jaren geleden voor, toen de AVG werd opgesteld, die Europese burgers het recht geeft om te weten hoe en voor welke doeleinden bedrijven hun gegevens beheren. Facebook-oprichter en CEO Mark Zuckerberg ontmoette leden van het Europees Parlement en bezocht de Europese Commissie. Hij dreigde Europa te verlaten, omdat hij de eisen van Brussel buitensporig vond. De AVG trad in 2018 in werking en Facebook, nu Meta, is nog steeds actief op het continent.

Een nieuwe horizon

Of het nu ongecoördineerd is of niet, overheidsacties hebben effect op social media-bedrijven. Platforms zijn nu steeds voorzichtiger met wat ze doen. “Activisten roepen al lange tijd op tot veranderingen en geleidelijk en op een niet-radicale manier begint er vooruitgang te worden geboekt in deze richting,” zegt Simona Levy, een technopolitiek strateeg en oprichter van het Xnet-collectief. Ze heeft zojuist Democratische Digitalisering. Digitale Soevereiniteit voor het Volk, een boek dat instellingen oproept om ervoor te zorgen dat grote platforms de wet naleven.

De EU heeft een juridisch kader opgezet dat nu wordt toegepast. In de VS zullen rechtszaken en nieuwe wetten die in de maak zijn ook een grote impact hebben op de toekomst van grote social media platforms. En, zoals we in Brazilië hebben gezien, schrikken landen niet langer terug voor technologiebedrijven die de wet overtreden.

De zware raderen van het systeem beginnen te draaien. De maatschappij reageert en wil de gevaren van sociale mediaplatforms inperken, van de verspreiding van misinformatie en het aanzetten tot haat tot de verslaving en schade die jongeren wordt toegebracht. Maar net zoals 2016 een keerpunt markeerde in deze race naar regulering, zou 2024 ook een game changer kunnen zijn. Bijna heel Silicon Valley, met Elon Musk aan het roer, heeft zijn weddenschap geplaatst voor de Amerikaanse presidentsverkiezingen in november. Hun man is Trump, en de kandidaat is zich terdege bewust van zijn aanhangers.

Meld je aan voor onze wekelijkse nieuwsbrief om meer Engelstalige nieuwsverslaggeving te krijgen van EL PAÍS USA Edition