Facebook sa att det testar en modereringsteknik för artificiell intelligens i grupper för att stävja konflikter i inlägg och kommentarer.
Det nya AI-drivna verktyget kallas Conflict Alerts och är tänkt att hjälpa gruppadministratörer att få mer kontroll över sina gemenskaper. AI-tekniken kommer att meddela en administratör om den upptäcker "omstridda eller ohälsosamma konversationer" så att en administratör kan vidta nödvändiga åtgärder snabbare.
För den genomsnittliga Facebook-användaren betyder det här nya verktyget att du med största sannolikhet kommer att se mindre käbbel och argument i inlägg från grupper du följer, så saker och ting blir mindre negativa överlag.
Administratörer kan använda verktyget konfliktvarningar för att skapa varningar när användare kommenterar med specifika ord eller fraser, och maskininlärning kan upptäcka dessa instanser för att varna en administratör när de inträffar. Verktyget tillåter även administratörer att begränsa aktivitet för specifika personer och inlägg.
Facebook sa till The Verge att maskininlärningen skulle använda "flera signaler som svarstid och kommentarsvolym för att avgöra om engagemang mellan användare har eller kan leda till negativa interaktioner."
Facebook använder redan AI-verktyg för att flagga andra typer av innehåll på sin plattform, inklusive hatretorik. Enligt en Community Standards Enforcement Report från augusti 2020 var Facebooks AI-verktyg för hatretorik 95 % korrekt, jämfört med 89 % från första kvartalet 2020. Facebook sa att de ökade sina åtgärder mot hatpropagandainnehåll från 9,6 miljoner fall under det första kvartalet 2020 till 22,5 miljoner under andra kvartalet.
För den genomsnittliga Facebook-användaren betyder det här nya verktyget att du med största sannolikhet kommer att se mindre käbbel och argument i inlägg från grupper du följer
Det sociala nätverket arbetar också med en AI-teknik som kan "se" foton genom att använda rådata för att låta modellen träna sig själv - oberoende och utan att använda en algoritm - när den ser fler bilder. AI-projektet, känt som SEER, skulle kunna bana väg för mer mångsidiga, exakta och anpassningsbara datorseende modeller, samtidigt som det ger bättre sök- och tillgänglighetsverktyg för användare av sociala medier.
