Twitter tillkännagav resultaten från sin öppna tävling för att hitta fördomar i sitt fotobeskärningssystem.
Bounty-utmaningen öppnade i juli efter att Twitter-användare visade att webbplatsens automatiska beskärningsverktyg gynnade ansiktena på människor med ljusare hy framför personer med mörkare hy. Det väckte några frågor om hur programvaran prioriterade hudfärg och vissa faktorer framför andra.
Utmaningen försökte hitta vilka andra buggar och fördomar som beskärningssystemet kan ha för att åtgärda problemen.
Förstaplatsen gick till Bogdan Kulynych, vars bidrag visade hur skönhetsfilter kunde spela algoritmens poängmodell, som i sin tur förstärker traditionella skönhetsstandarder. Inlämningen visade att algoritmen föredrog unga och smala ansikten med antingen en ljus eller varm hudton. Kulynych vann $3 500.
Andra plats gick till HALT AI, en teknisk startup i Toronto, som upptäckte att bilder på äldre och funktionshindrade beskurits bort från foton. Laget fick $2 000 för att de kom tvåa.
Tredje plats, och $500, gick till Roya Pakzad, grundare av Taraaz Research, som upptäckte att algoritmen gynnade beskärning av latinska skript framför arabiska skrifter, vilket kan skada den språkliga mångfalden.
De detaljerade resultaten presenterades på DEF CON 29 av Rumman Chowdhury, chef för Twitters META-team. META-teamet studerar de oavsiktliga problemen med algoritmer och rensar bort all sorts köns- och rasfördomar som sådana system kan ha.
Datan som erhålls från den här tävlingen kommer att användas för att lindra buggar och fördomar i beskärningsalgoritmen och hjälpa till att säkerställa en mer inkluderande miljö.
