Key takeaways
- Europeiska kommissionen (EC) har föreslagit en ny uppsättning regler för att stävja spridningen av material om sexuella övergrepp mot barn.
- Förslaget kräver genomsökning av privata onlinekonversationer och har panorerats av integritetsförespråkare.
- Det som krävs är att använda teknik för att hjälpa föräldrar att övervaka sina barn online, föreslår experter.
Barnmisshandelsmaterial över onlinekanaler har nått oöverträffade nivåer, men en föreslagen lösning för att regera i detta hot passar inte bra med integritetsförespråkare.
Europeiska kommissionen (EC) har nyligen föreslagit nya bestämmelser som kräver att chattappar som WhatsApp och Facebook Messenger ska kamma igenom flaggade användares privata meddelanden för material om sexuella övergrepp mot barn (CSAM).
"Det här är ett imponerande djärvt och ambitiöst förslag för att systemiskt förhindra barnmisshandel och skötsel som kan undvikas som sker på rekordnivåer", Andy Burrows, chef för Child Safety Online på National Society for the Prevention of Cruelty to Children (NSPCC), berättade för Lifewire via e-post. "Om det godkänns kommer det att ställa ett tydligt krav på plattformar för att bekämpa övergrepp varhelst det sker, inklusive i privata meddelanden där barn löper störst risk."
End-to-End?
Förordningen syftar till att fastställa nya regler för onlineplattformar, gemensamt kallade onlinetjänsteleverantörer, och täcker ett brett utbud av tjänster inklusive appbutiker, webbhotell och alla leverantörer av "interpersonell kommunikationstjänst."
Den ena aspekten av förslaget som har fått en del fjädrar bland sekretessgrupperna är skyldigheterna som skulle gälla för meddelandetjänster som WhatsApp och Facebook Messenger.
Under förslaget, om och när en meddelandetjänst får en "detekteringsorder" från EU, skulle de behöva skanna de flaggade användarnas meddelanden för att leta efter bevis på CSAM och annat kränkande beteende som involverar barn. Istället för att anställa människor för uppgiften kräver förslaget att man använder verktyg för maskininlärning (ML) och artificiell intelligens (AI) för att gå igenom samtalen.
Margaritis Schinas, vice ordförande för främjande av vårt europeiska sätt att leva, påpekade att förslaget också kräver att man sätter skyddsåtgärder för att förhindra missbruk. "Vi talar bara om ett program som söker efter markörer för olagligt innehåll på samma sätt som cybersäkerhetsprogram kör ständiga kontroller för säkerhetsintrång", noterade Schinas i EC:s tillkännagivande.
Organisationer som arbetar för att skydda barn har gett sitt stöd för förslaget. "Detta banbrytande förslag kan sätta standarden för reglering som balanserar de grundläggande rättigheterna för alla internetanvändare samtidigt som barnskydd prioriteras", hävdade Burrows.
Höggafflar och facklor
Sekretessförespråkare hävdar dock att förslaget effektivt motverkar användningen av end-to-end-kryptering.
"Genom att hota företag med rättsliga åtgärder försöker kommissionen sannolikt att tvätta händerna från ansvaret för farliga och integritetskränkande åtgärder, samtidigt som de de facto uppmuntrar dessa åtgärder med lagen", sa Ella Jakubowska, Policy Rådgivare för den digitala påverkansgruppen European Digital Rights (EDRI) i ett pressmeddelande.
br/
EDRi hävdar att åtgärderna i förslaget äventyrar den viktiga integriteten för säker kommunikation, och går så långt som att hävda att de nya reglerna skulle "tvinga företag att förvandla våra digitala enheter till potentiella spionprogram." Det kräver också undantag från användningen av AI-baserade skanningsverktyg, och hänvisar till dem som "ökänt felaktiga."
Dimitri Shelest, grundare och VD för OneRep, ett sekretessföretag online som hjälper människor att ta bort sin känsliga information från internet, är övertygad om att inga statliga eller sociala medier-appar ska skanna användarnas privata meddelanden, inte ens selektivt.
"Genom att legitimera den här typen av övervakning öppnar vi Pandoras låda och skapar flera möjligheter att missbruka informationen som erhållits till följd av ett sådant integritetsintrång", sa Shelest till Lifewire via e-post.
Jakubowska håller med. I pressmeddelandet frågar hon om företag i dag får skanna våra privata meddelanden, vad hindrar regeringar från att tvinga dem att "söka efter bevis på oliktänkande eller politisk opposition i morgon?"
Men allt kan komma att gå om intet. Jesper Lund, ordförande IT-Pol Danmark tror att vissa aspekter av förslaget kanske inte är genomförbara i första hand.
"Förslaget innehåller ett krav för internettjänsteleverantörer att blockera åtkomst till specifika delar av innehåll på webbplatser på order från nationella myndigheter", förklarade Lund i EDRis pressmeddelande. "Den här typen av blockering kommer dock att vara tekniskt omöjlig med HTTPS, som nu används på nästan alla webbplatser."
På frågan om integritetskränkning var det enda sättet att skydda barn på nätet, svarade Shelest med ett tydligt "Nej." Han tror att en verklig fungerande lösning kombinerar föräldrarnas engagemang med stöd från teknik, vilket kan hjälpa föräldrar att hålla koll på sina barns onlineaktiviteter.
"En bra början skulle vara för teknikjättar som Apple och Google att tillhandahålla bredare förmågor på sina plattformar som stödjer föräldrar med mer avancerad automatisering", föreslog Shelest. "Nyckeln är att stödja föräldrar i att stödja sina barn."
