Key takeaways
- Algorithmic bias är skadligt för tonåringar som spenderar mycket tid på internet, säger experter.
- Twitteranvändare stötte nyligen på ett problem där svarta ansikten utplånades till förmån för vita.
- Tonåringars hjärnor som utvecklas kan vara särskilt mottagliga för de skadliga effekterna av algoritmiska fördomar, säger forskare.
Fördomen som finns inbakad i viss teknik, känd som algoritmisk bias, kan vara skadlig för många grupper, men experter säger att det är särskilt skadligt för tonåringar.
Algorithmic bias, när datorsystem visar fördomsfulla resultat, är ett växande problem. Twitter-användare hittade nyligen ett exempel på partiskhet på plattformen när en bilddetekteringsalgoritm som beskär foton klippte ut svarta ansikten till förmån för vita. Företaget bad om ursäkt för problemet, men har ännu inte släppt en lösning. Det är ett exempel på den fördom som tonåringar möter när de går online, vilket de gör mer än någon annan åldersgrupp, säger experter.
"De flesta tonåringar är omedvetna om att sociala medieföretag har dem på plats för att marknadsföra specifikt innehåll som de tror att användarna kommer att gilla [för att] få dem att stanna så länge som möjligt på plattformen," Dr. Mai- Ly Nguyen Steers, biträdande professor vid School of Nursing vid Duquesne University som studerar användning av sociala medier bland ungdomar/högskolestudenter, sa i en e-postintervju.
"Även om det finns en viss nivå av medvetenhet om algoritmen, är effekten av att inte få tillräckligt många likes och kommentarer fortfarande kraftfull och kan påverka tonåringars självkänsla", tillade Steers.
Developing Brains
Algorithmic bias kan påverka tonåringar på oförutsedda sätt eftersom deras prefrontala cortex fortfarande utvecklas, förklarade Mikaela Pisani, Chief Data Scientist på Rootstrap, i en e-postintervju.
Effekten av att inte få tillräckligt många likes och kommentarer är fortfarande kraftfull och kan påverka tonåringars självkänsla.
"Tonåringar är särskilt sårbara för fenomenet "Social Factory", där algoritmer skapar samhälleliga kluster på onlineplattformar, vilket leder till ångest och depression om tonåringens behov av soci alt godkännande inte tillgodoses", sa Pisani. "Algorithmer förenklas baserat på tidigare ofullkomliga data, vilket leder till en överrepresentation av stereotyper på bekostnad av mer nyanserade tillvägagångssätt för identitetsbildning.
"Med en bredare synvinkel är vi också lämnade att ifrågasätta, som samhälle, om vi vill ha algoritmer som formar våra tonåringars resor in i vuxenlivet, och stöder detta system ens snarare än att kväva individuell personlig tillväxt?"
På grund av dessa problem finns det ett växande behov av att ha tonåringar i åtanke när de utformar algoritmer, säger experter.
"Baserat på input från utvecklingsspecialister, datavetare och ungdomsförespråkare, skulle 2000-talets policyer kring datasekretess och algoritmisk design också kunna konstrueras med ungdomars speciella behov i åtanke," Avriel Epps-Darling, doktorand student vid Harvard, skrev nyligen. "Om vi istället fortsätter att bagatellisera eller ignorera hur tonåringar är sårbara för algoritmisk rasism, kommer skadorna sannolikt att återspeglas i generationer framöver."
Combating Bias
Tills det finns en lösning försöker vissa forskare hitta sätt att minska skadorna på ungdomar av partiska algoritmer.
"Interventioner har fokuserats på att få tonåringar att inse att deras sociala mediemönster påverkar deras mentala hälsa negativt och försöker komma på strategier för att mildra det (t.ex. minskad användning av sociala medier", sa Steers.
"Några av studenterna som vi har intervjuat har angett att de känner sig tvungna att generera innehåll för att förbli "relevant", även om de inte vill gå ut eller posta", fortsatte hon. "Men de känner att de behöver skapa innehåll för att behålla sina kontakter med sina följare eller vänner."
Det ultimata svaret kan vara att ta bort mänsklig fördom från datorer. Men eftersom programmerare bara är människor är det en tuff utmaning, säger experter.
En möjlig lösning är att utveckla datorer som är decentraliserade och programmerade att glömma saker som de har lärt sig, säger John Suit, Chief Technology Officer på robotföretaget KODA.
"Genom ett decentraliserat nätverk sammanställs och analyseras data och analys av dessa data från flera punkter", sa Suit i en e-postintervju. "Data samlas in och bearbetas inte från en enda AI-sinnesbehandling inom gränserna för dess algoritm, utan hundratals eller till och med tusentals.
"När den data samlas in och analyseras glöms gamla "slutsatser" eller överflödig data bort. Genom detta system kommer en algoritm som kan ha börjat med bias så småningom att korrigera och ersätta den biasen om den visar sig vara fel."
Även om partiskhet kan vara ett urgamm alt problem, kan det finnas sätt att bekämpa det, åtminstone online. Att designa datorer som tappar våra fördomar är det första steget.
