Sociale media, verbieden of niet verbieden – Deel 1

Sociale media: verbieden of niet verbieden
Deel 1: Het openingssalvo van de regering

Voorspel

Ongeveer vier weken geleden begon ik over dit onderwerp te schrijven. Het begon als een subsectie in mijn hoofdartikel “Privacy, GenAI, jij en sociale media”, waar ik de gelegenheid had om Zsofi Paterson, de CEO van Tinybeans, enkele vragen te stellen over GenAI en sociale media.

Terwijl ik het onderwerp in het konijnenhol achtervolgde, werd het te uitgebreid en week het af van de focus van dat hoofdartikel. Zelfs toen ik het in een eigen stuk uitsplitste, was de feedback van andere DRN-redacteuren dat ik het nog wat verder moest opsplitsen.

De TL;DR

Dit artikel is het eerste deel van een hoofdartikel waarin een voorgesteld verbod op sociale media door de Australische regering wordt besproken, dat tot doel heeft om tegen eind 2024 een minimumleeftijd van 16 jaar voor het gebruik van sociale media af te dwingen. De wetgeving richt zich op het beschermen van kinderen tegen online schade en ondersteunt tegelijkertijd ouders en verzorgers bij het beheren van de online interacties van hun kinderen.

Australië is geen onbekende in het aanbieden van onlinebeschermingsmaatregelen, te beginnen met vroege internetfiltering op scholen eind jaren negentig en het mislukte National Filter Scheme in 2007. Ondanks deze inspanningen blijven gevaren zoals afpersing en cyberpesten ernstige risico’s voor kinderen vormen. Het Australian Centre to Counter Child Exploitation (ACCCE) rapporteerde in het boekjaar 2022-2023 40.232 gevallen van seksuele uitbuiting van kinderen.

We bespreken ook de recente ontwikkelingen, zoals de introductie door Instagram van “Tieneraccounts” voor gebruikers van 13 tot 17 jaar, ontworpen om ongewenst contact te beperken en de blootstelling aan schadelijke inhoud te verminderen.

Concluderend benadrukt dit redactionele artikel de groeiende bezorgdheid over de veiligheid van kinderen online, waarbij sociale media een aanzienlijk risico vormen. Er bestaan ​​echter ook gevaren bij online gaming en andere platforms. In het volgende deel van het hoofdartikel worden de acties onderzocht die andere technologiebedrijven hebben ondernomen om deze uitdagingen aan te pakken.

Invoering

De afgelopen weken is er veel gepraat over het voornemen van de Albanese Labour-regering om wetgeving in te voeren die een minimumleeftijd voor sociale media en andere relevante digitale platforms afdwingt (tot mogelijk zestien jaar heeft de Albanese voorkeur). De wetgeving, een door het Gemenebest geleid initiatief dat zich richt op de bescherming van Australische kinderen tegen online schade, zal ook ouders en verzorgers ondersteunen om hun aanklachten te beschermen.

Het is niet verwonderlijk dat gemeenschappen zijn uitgebroken met discussies en verdeeldheid over deze potentiële wetgeving. De digitale wereld mag dan een geweldig egaliserend medium zijn, dat kinderen over de hele wereld gelijke toegang biedt tot informatie en diensten, maar met paradigmaverschuivingen ontstaan ​​nieuwe ongelijkheden.

Als ouder is het balanceren en begeleiden van de interacties van kinderen met anderen, op welk medium dan ook, in de beste tijden een werk in uitvoering. Tel daar een mix van leeftijdsverschillen van wel tien jaar, online games en sociale media-interacties bij op, en het vermogen om een ​​absolute wetgevingsnachtmerrie te creëren wordt heel reëel.

Een korte (en ongetwijfeld onvolledige) geschiedenis van Australische onlinebescherming

Eind jaren negentig was ik een ondersteuningstechnicus met een nieuw gezicht toen internet voor het eerst beschikbaar werd op Victoriaanse scholen, niet minder via een inbelverbinding. Destijds deed ik veel Novell (kent iemand ze nog?) BorderManager-implementaties om het internetverkeer voor scholen te filteren.

Een tijdje later introduceerde het ministerie van Onderwijs een trefwoordfilter om onsmakelijke inhoud van schoolgaande kinderen te blokkeren. Het duurde niet lang voordat docenten me vertelden dat studenten manieren hebben gevonden om dit te omzeilen.

Sindsdien zijn er verschillende vormen van internetfiltering geïmplementeerd op scholen van de Victoriaanse overheid. Andere soorten scholen hebben ook hun eigen internetfilterbeleid opgesteld. Maar eerlijk gezegd is het een kat-en-muisspel met studenten. De filtering werkt meer als een afschrikmiddel voor de toevallige ‘overtreder’ dan als een volledige Fort Knox-beveiliging.

In 2007 creëerde de Howard Liberal Government het National Filter Scheme “NetAlertprogramma. Dit initiatief heeft vijftien gratis softwareproducten beschikbaar gesteld waarmee ouders en verzorgers inhoud op hun thuiscomputers kunnen blokkeren. Het is bekend dat het NetAlert-filter uit 2007 in ongeveer dertig minuten door een 16-jarige werd “gehackt”. Voormalig senator Helen Coonan zei destijds: “Helaas kan geen enkele maatregel kinderen beschermen tegen online schade en … traditionele ouderschapsvaardigheden zijn nog nooit zo belangrijk geweest.”

Dit National Filter Scheme duurde niet lang en werd in 2008 stopgezet door de toenmalige minister van Arbeidscommunicatie Stephen Conroy. De destijds verzamelde statistieken lieten een adoptiepercentage zien van nauwelijks meer dan 10% van de doelmarkt op het moment dat het programma werd stopgezet. De vervangende oplossing zou een internetfilterbeleid op ISP-niveau zijn.

Veel marktleiders pleitten destijds voor beter onderwijs op het gebied van cyberveiligheid. De algemeen directeur van Symantec Australia, Craig Scroggie, merkte op dat “consistent, relevant en gedenkwaardigEr was informatie nodig om onze kinderen te beschermen.

Deze maatregelen waren een vroege poging om hulpmiddelen te introduceren om ouders en kinderen te helpen bij veilig surfen op het internet. Op dat moment was browsen de dominante activiteit op internet, samen met Internet Relay Chat (IRC) en AOL-kamers.

De Apple App Store werd pas in juli 2008 geïntroduceerd met iOS 2.0, wat het huidige tijdperk van apps inluidde. Het NetAlert-filter dateert met name van vóór de lancering van de razend populaire sociale mediaplatforms zoals Instagram (2010) en Snapchat (2011), waarbij laatstgenoemde tot nu toe nog steeds bijzonder populair is bij tieners.

De internetcensuur in Australië werd in juni 2015 verder uitgebreid, waardoor censuur op bevel van de rechter mogelijk werd gemaakt op websites die geacht worden in de eerste plaats inbreuk op het auteursrecht te vergemakkelijken.

De valkuilen van sociale media

De minimumleeftijd voor het aanmaken van een social media-account lijkt doorgaans 13 jaar te zijn. Dit lijkt het geval te zijn voor Facebook, Snapchat, Instagram, Tiktok, X en Discord. Uit fundamenteel onderzoek blijkt echter dat dit verschilt per land (wetgevend), per app en soms per clausule in de Servicevoorwaarden van de app.

Zeggen dat sociale media giftig kunnen zijn, zou een terechte opmerking zijn. Maar breder gezien kan elk interactieforum dat zijn – kijk maar eens naar enkele subreddits! Toch beschikken de sociale media niet eens over die laag van moderatoren die zich kunnen bemoeien.

Deze kwestie houdt duidelijk de aandacht van veel Australische ouders en de huidige Australische regering van die tijd. Houd deze ruimte in de gaten, aangezien er binnen de komende twaalf maanden federale verkiezingen plaatsvinden.
Brendan Hawke, een van onze DRN-redacteuren, is dagelijks aanwezig als docent. Een app die vanuit zijn ervaring grote zorgen baart, is Snapchat. Hij omschrijft het als “het perfecte hulpmiddel voor sextortion, omdat kinderen denken dat ze dingen kunnen posten en laten verdwijnen. Vervolgens wordt u verteld wanneer iemand een screenshot van uw berichten heeft gemaakt en deze heeft opgeslagen. Het probleem is verschrikkelijk wijdverspreid.”

Het grotere probleem is dat kindveilige apps alleen werken als het een gemeenschappelijk platform is. Maar het eerste kind dat een app kiest, is vaak degene die het platform dicteert waarmee de sociale groep massaal verbinding maakt.

In de ervaring van Brendan zijn de ringleiders bijna altijd degenen met weinig of geen ouderlijk toezicht. De bescherming van onze kinderen vereist vooruitziendheid en coördinatie – tussen ouders en de schoolgemeenschap als geheel. Tegelijkertijd heeft een school beperkte invloed buiten de formele leeromgeving, waardoor de lastige gesprekken geïsoleerd tussen oudergroepen kunnen worden gevoerd.

Sextortion is slechts één aspect van misbruik dat online plaatsvindt. Cyberpesten komt ook veel voor en kan onder de radar blijven als kinderen te bang zijn om het aan vertrouwde volwassenen te vertellen.

Wat zijn de statistieken in Australië?

Waar Brendan het over had is seksuele afpersing, ook wel bekend als sextortion.

Het Australian Centre to Counter Child Exploitation (ACCCE) definieert het als “een vorm van chantage waarbij iemand u verleidt om uw seksuele afbeeldingen te verzenden en deze vervolgens dreigt te delen, tenzij aan de eisen wordt voldaan.”

Volgens de ACCCE-statistieken ontving de ACCCE Child Protection Triage Unit in het boekjaar 2022-2023 40.232 meldingen van seksuele uitbuiting van kinderen.

In kalenderjaar 2023 ontvingen zij gemiddeld 300 meldingen per maand. In de eerste zes maanden van 2024 zijn de aantallen gedaald naar gemiddeld 93 per maand. Het is nog vroeg en er is nog veel werk aan de winkel om de cijfers op nul te krijgen.

Kijkend naar de statistieken van de eSafety Commissioner, werden er in mei 2023 1.700 gevallen van sextortion gerapporteerd die pas in het eerste kwartaal van 2023 werden gemeld, waarbij 90% afkomstig was van mannen (meestal in de leeftijd van 18 tot 24 jaar).

In dezelfde periode van januari tot en met maart 2023 ontving de eSafety Commissioner bijna 3.000 meldingen van materiaal over seksueel misbruik van kinderen (CSAM). In september 2023 werd gemeld dat één op de acht kinderen werd gedwongen om CSAM op afstand te produceren. “Zelfs in de veiligheid en heiligheid van uw huis kunnen online roofdieren via slimme apparaten de wereld van uw kind infiltreren.”

Uit analyse blijkt ook dat 25 procent van al het geanalyseerde materiaal werd geproduceerd in delen van een gezinswoning: 16 procent in een slaapkamer, 5 procent in een woonkamer en 4 procent in een badkamer. Een overweldigende 88% van het materiaal bevat meisjes en 86% zijn kinderen in de pre-puberteit.

Het is duidelijk dat sociale media niet de enige weg zijn waar slechte actoren hun slachtoffers vinden, en ook behoren mannen tot de meest risicovolle demografische groepen buiten de door de Albanese regering voorgestelde leeftijdsgroep.

Wie doet wat? Instagram

Vers van de pers terwijl ik dit hoofdartikel aan het doorwerken ben, kondigde Instagram op 17 september 2024 de introductie aan van Instagram Teen Accounts voor al zijn gebruikers van 13 tot 17 jaar oud. Het is een nieuwe gecontroleerde omgeving die is ontworpen om ongewenst contact en ongepast materiaal te voorkomen, en die ouders tools biedt om de schermtijd te beheren.

Accounts die binnen deze leeftijdscategorie vallen, worden automatisch overgezet naar deze nieuwe omgeving. Een snelle blik door de belangrijkste items is:

Privérekeningen: Met standaard privéaccounts moeten tieners nieuwe volgers accepteren en kunnen mensen die hen niet volgen hun inhoud niet zien en er geen interactie mee hebben. Dit geldt voor alle tieners onder de 16 jaar (inclusief degenen die al op Instagram zitten en degenen die zich aanmelden) en tieners onder de 18 jaar wanneer ze zich aanmelden voor de app.

Berichtbeperkingen: Tieners worden in de strengste berichtinstellingen geplaatst, zodat ze alleen berichten kunnen ontvangen van mensen die ze volgen of waarmee ze al verbonden zijn via de app.

Beperkingen voor gevoelige inhoud: tieners worden automatisch in de meest restrictieve instelling van ons beheer van gevoelige inhoud geplaatst, waardoor het type gevoelige inhoud wordt beperkt (zoals inhoud waarin mensen vechten of cosmetische ingrepen worden gepromoot) die tieners zien op plaatsen als Explore en Reels.

Beperkte interacties: Tieners kunnen alleen worden getagd of vermeld door mensen die ze volgen. We zullen ook automatisch de meest beperkende versie van onze anti-pestfunctie, Hidden Words, inschakelen, zodat aanstootgevende woorden en zinsneden uit de opmerkingen en DM-verzoeken van tieners worden gefilterd.

Herinneringen voor tijdslimieten: Tieners krijgen elke dag na 60 minuten een melding dat ze de app moeten verlaten.

Slaapmodus ingeschakeld: De slaapmodus wordt ingeschakeld tussen 22.00 uur en 07.00 uur, waardoor meldingen ‘s nachts worden gedempt en automatische antwoorden naar DM’s worden verzonden.

Instagram noemt het een opnieuw ontworpen ervaring voor tieners en op het eerste gezicht is er een goede focus op belangrijke kwesties. Binnen 60 dagen zullen Teen Accounts worden afgedwongen in Australië, het Verenigd Koninkrijk en de Verenigde Staten – drie van de vijf landen in het HMD-onderzoek. De EU zal eind 2024 volgen en de rest van de wereld zal volgen vanaf januari 2025.

Meta heeft verklaard dat Teen Accounts in 2025 naar andere Meta-platforms zullen worden gebracht.

Tussentijdse conclusie

In dit eerste deel hebben we een korte en onvolledige geschiedenis van internetfiltering in Australië onderzocht.

We hebben een korte maar ontnuchterende blik geworpen op de sextortion- en CSAM-statistieken in Australië – onze kinderen. Uitbuiting van kinderen bestaat, en sociale media zijn slechts één vector die op grote schaal wordt gebruikt. Ja, een deel ervan komt via sociale media, maar zoals al heel lang het geval is, ook in online games.

Ten slotte hebben we het gehad over de recente stap van Meta om Instagram Teen Accounts te introduceren.

In het volgende deel zullen we onderzoeken wat andere partijen in de technologieruimte aan dit probleem doen.