Key takeaways
- Sociala medieföretag letar efter sätt att förhindra att användare utsätts för övergrepp.
- Instagram gör det enklare att förhindra oönskade kommentarer och direktmeddelanden.
- Onlinemissbruk är vanligt, enligt en undersökning från Pew Research Center.
Sociala medieföretag försöker slå ner på det fortsatta problemet med missbruk på sina plattformar.
Instagram sa nyligen att det skulle göra det lättare att förhindra oönskade kommentarer och direktmeddelanden på den sociala nätverkstjänsten för foto- och videodelning. Användare kan nu automatiskt filtrera bort stötande innehåll och dölja kommentarer och direktmeddelandeförfrågningar från specifika användare.
"Om sociala medieföretag inte slår ner på kränkande meddelanden kommer de bara att sluta med att kränkande användare missbrukar varandra, och ingen kommer faktiskt att konsumera soci alt medieinnehåll på ett rimligt sätt", Thomas Roulet, professor vid University of Cambridge som studerar problem med sociala medier, berättade för Lifewire i en e-postintervju.
"De kommer i princip att förlora de bra och värdefulla användarna på längre sikt."
Attacker är utbredda
Sport har nyligen varit en brandpunkt för attacker på sociala medier. Efter EM 2020-finalen attackerade arga fans engelska fotbollsspelare på Instagram efter lagets nederlag. Incidenterna, som inkluderade rasistiska kommentarer och emoji, lyfte fram Instagram-användares hjälplöshet att förhindra attacker på plattformen. Modellen Chrissy Teigen raderade sitt Twitter-konto i mars efter att ha klagat på övergrepp på plattformen.
"Vi utvecklade den här funktionen eftersom kreatörer och offentliga personer ibland upplever plötsliga toppar av kommentarer och DM-förfrågningar från personer de inte känner", skrev chefen för Instagram Adam Mosseri i ett blogginlägg.
Instagrams nya Limits-funktion är tänkt att hjälpa till att förhindra missbruk genom att låta användare välja vem som kan interagera med dem under hektiska tider. Användare kan aktivera begränsningar för konton som inte följer dem och de som tillhör de senaste följare. När gränser är aktiverade kan dessa konton inte skicka kommentarer eller skicka DM-förfrågningar under en viss period.
En annan Instagram-funktion som heter Hidden Words, designad för att skydda användare från oönskade DM-förfrågningar, utökas också. Dolda ord filtrerar automatiskt förfrågningar som innehåller stötande ord, fraser och emojis. Filtret placerar saker du inte vill se i en dold mapp, där du kan bestämma om du vill se dem. Det filtrerar också bort förfrågningar som sannolikt är spam eller på annat sätt är av låg kvalitet.
Instagram har uppdaterat sin dolda ord-databas med nya typer av stötande språk, inklusive strängar av emoji, och inkluderat dem i filtret, sa Mosseri. Funktionen har lanserats i utvalda länder och kommer att vara tillgänglig över hela världen i slutet av månaden.
Twitter överväger sätt att förhindra missbruk
Andra sociala medieplattformar överväger också åtgärder mot missbruk.
Twitter undersöker sätt att hjälpa användare att förhindra oönskad uppmärksamhet. Företagets aviseringssystem varnar en användare när de har blivit direkt taggade i en tweet. Funktionen är användbar om tweeten är intressant. Men kränkande innehåll kan leda till nätmobbning.
Företaget har sagt att det överväger olika sätt att förhindra missbruk, inklusive att låta användare "avnämna" sig själva. Denna förmåga skulle tillåta användare att ta bort sitt namn från en annans tweet så att de inte längre är taggade i den och skulle förhindra att oönskade kommentarer dyker upp i deras flöde.
Onlinemissbruk är vanligt. En nyligen genomförd undersökning från Pew Research Center visade att 41 % av amerikanerna personligen har upplevt någon form av trakasserier online. När de ombads betygsätta hur väl dessa företag hanterar trakasserier eller mobbning online på sina plattformar, sa bara 18 % att sociala medieföretag gör ett utmärkt eller bra jobb.
Roulet sa att missbruk på sociala medier är ett svårt problem att åtgärda. De första kontaktpunkterna är de missbrukade användarna som kan rapportera kränkande meddelanden. När en användare har rapporterats flera gånger kan IP-adressen förbjudas.
"Viktigt, när sociala medieföretag samlar data om rapporterade meddelanden, kan de kanske automatisera och förbättra upptäckten av stötande meddelanden med hjälp av maskininlärning, med risken att de ibland censurerar acceptabelt innehåll", tillade Roulet.
Mosseri sa att Instagram skulle "investera i organisationer som fokuserar på rasrättvisa och rättvisa."
"Vi vet att det finns mer att göra, inklusive att förbättra våra system för att hitta och ta bort kränkande innehåll snabbare och hålla dem som lägger upp det ansvariga", skrev Mosseri.
