Key takeaways
- Forskare har utvecklat ett AI-system för att upptäcka och flagga falska nyheter.
- Modellen letar igenom en offentlig datauppsättning av falska nyheter, varnar användare och omdirigerar dem till verifierade informationskällor.
-
Det finns ett växande antal AI-metoder för att motverka falska nyheter online.
Artificiell intelligens (AI) hjälper till att bromsa den snabba spridningen av desinformation online, säger experter.
Forskare har utvecklat ett AI-system för att upptäcka och flagga falska nyheter. Modellen letar igenom en offentlig datauppsättning av falska nyheter, varnar användare och omdirigerar dem till verifierade informationskällor. Det är en del av ett växande antal AI-metoder för att motverka falska nyheter.
"Mängden information som flödar kastar ut internet, särskilt sociala nätverk, är enorm och kan inte hanteras manuellt, särskilt med hög noggrannhet", Wael AbdAlmageed, professor i datateknik vid University of Southern California, som har utvecklat AI-algoritmer för att upptäcka visuell desinformation, berättade Lifewire i en e-postintervju.
"Det är viktigt att övervaka och flagga desinformation i re altid eftersom när desinformation väl börjar spridas är det svårt att övertyga folk om att informationen är falsk, särskilt när desinformation bekräftar våra fördomar", tillade han.
Keeping It Real
AI-tekniken som utvecklats av ett team vid Australiens Macquarie University kan hjälpa till att minska spridningen av falska nyheter. Modellen kan integreras i en app eller webbprogramvara och erbjuder länkar till relevant "sanna" information som är i linje med varje användares intressen.
"När du läser eller tittar på nyheter online, föreslås ofta nyhetsartiklar om liknande händelser eller ämnen för dig med hjälp av en rekommendationsmodell", sa Shoujin Wang, en datavetare vid Macquarie University som arbetade med forskningen, i pressmeddelande.
Wang säger att korrekta nyheter och falska nyheter för samma evenemang ofta använder olika innehållsstilar, vilket förvirrar datormodeller till att behandla dem som nyheter för olika evenemang.
Macquarie Universitys modell "lösgör" informationen för varje nyhet i två delar: skyltarna som visar om nyheten är falsk och den händelsespecifika informationen som visar ämnet eller händelsen som nyheten handlar om. Modellen letar sedan efter mönster i hur användare växlar mellan olika nyhetsartiklar för att förutsäga vilken nyhetshändelse användaren kan vara intresserad av att läsa härnäst.
Forskarteamet tränade modellen på en offentlig datauppsättning av falska nyheter publicerade på GitHub, kallad FakeNewsNet, som lagrar falska nyheter från PolitiFact och GossipCop tillsammans med data som nyhetsinnehåll, soci alt sammanhang och användarens läshistorik.
The Growth of Fake News
Falska nyheter är ett växande problem, tyder studier på. NewsGuard har upptäckt att en betydande del av tillväxten inom sociala medier kom från opålitliga webbplatser. År 2020 kom 17 procent av engagemanget bland de 100 bästa nyhetskällorna från rödklassade (i allmänhet opålitliga) webbplatser, jämfört med cirka 8 procent 2019.
Subramaniam Vincent, chef för journalistik och medieetik vid Markkula Center for Applied Ethics vid Santa Clara University, sa till Lifewire i en e-postintervju att AI kan hjälpa till att motverka desinformation.
Tekniken kan användas för att "övervaka kontobeteende för orkestrerad delning som korrelerar med hatretorik eller redan avvisade påståenden eller att debunkras av faktagranskare eller kända propagandistiska statliga enheter eller begynnande grupper med snabb medlemsökning", förklarade Vincent. "AI kan också användas tillsammans med design för att flagga innehåll av särskilda typer för att lägga till friktion innan de delas."
AbdAlmageed sa att sociala nätverk måste integrera algoritmer för upptäckt av falska nyheter som en del av sina rekommendationsalgoritmer. Målet, sa han, är att "flagga falska nyheter som falska eller inte korrekta om de inte helt vill förhindra att de delar falska nyheter."
Med det sagt, även om AI kan vara användbart för att motverka falska nyheter, har tillvägagångssättet sina baksidor, sa Vincent. Problemet är att AI-system inte kan förstå innebörden av mänskligt tal och skrift, så de kommer alltid att ligga bakom kurvan.
"Ju mer exakt AI kan bli med vissa former av öppet hatretorik och desinformation, desto mer kommer mänsklig kultur att gå över till nyare kod och underjordisk överföring för att organisera", sa Vincent.
Wasim Khaled, VD för desinformationsövervakningsföretaget Blackbird. AI, sa i ett mejl till Lifewire att desinformation online är ett växande hot. Nya AI-system måste kunna förutsäga var falska nyheter kommer att dyka upp härnäst.
"I de flesta fall kan du inte bygga en AI-produkt och kalla den färdig", sa Khaled. "Beteendemönster förändras över tiden, och det är viktigt att dina AI-modeller hänger med i dessa förändringar."
