Key takeaways
- Sekretessexperter uttrycker oro över Facebooks användning av offentliga Instagram-bilder för att träna artificiell intelligens.
- Programmet lärdes känna igen bilder genom att visa datorn över 1 miljard offentliga foton.
- Instagrams sekretesspolicy innehåller ett avsnitt som låter användarna veta att information kan användas i forskning och utveckling.
Facebooks användning av Instagram-foton för att träna artificiell intelligens väcker integritetsproblem.
Den sociala mediejätten meddelade nyligen att den hade byggt mjukvara som kan lära sig av vad den tittar på. Programmet lärdes känna igen bilder genom att granska över 1 miljard offentliga foton. Experter säger att användare bör vara medvetna om att Facebook använder deras bilder.
"Det handlar om att känna till samtycke", sa James E. Lee, operativ chef för Identity Theft Resource Center, i en e-postintervju.
"Instagrams integritetspolicy - som de flesta förmodligen inte läser - säger så tydligt att företaget förbehåller sig rätten att använda bilderna du lägger upp för forskning. Användare kan slå på/av ansiktsigenkänning i sina sekretessinställningar."
Bättre än resten
Facebooks program, med smeknamnet SEER for SElf-supERvised, överträffade andra artificiell intelligens (AI)-modeller i ett objektigenkänningstest, hävdade företaget. Programmet uppnådde en "klassificeringsnoggrannhetspoäng" på 84.2 % när det testades som kontrollerar om ett AI-program kan identifiera vad som finns på en bild.
"SEER:s prestanda visar att självövervakad inlärning kan utmärka sig i datorseendeuppgifter i verkliga miljöer", sa företaget i ett blogginlägg.
"Det här är ett genombrott som i slutändan banar vägen för mer flexibla, exakta och anpassningsbara datorseendemodeller i framtiden."
Även om Facebooks villkor kan tillåta dem att utnyttja användardata på ett sådant sätt, är de flesta användare inte uttryckligen och aktivt medvetna om att deras data utvinns för sådana ändamål.
Om det lanseras kommersiellt, skulle SEER hjälpa till att identifiera objekt - inte människor - utan att vara programmerad att veta via en etikett vad som finns på ett foto, sa Lee. "Det är ett effektivare och snabbare sätt än den nuvarande metoden som kräver enorma datamängder för att matcha ett objekt med dess identitet", tillade han.
"Det finns alltid risk för missbruk, men det finns också legitima potentiella fördelar med den här typen av teknik."
Facebooks program kan hjälpa företaget att förbättra polisinnehåll som bryter mot dess policyer, till exempel att begränsa oönskad exponering för obscena eller grafiska bilder, sa Aimee O’Driscoll, säkerhetsforskare på integritetssajten Comparitech, i en e-postintervju. Den kan också användas för att automatiskt beskriva bilder, vilket förbättrar användarupplevelsen för personer med synnedsättning.
Du har redan godkänt det här programmet
Instagrams sekretesspolicy innehåller ett avsnitt som låter användarna veta att information kan användas i forskning och utveckling. "Företaget använder sin mängd data för en annan del av sin verksamhet, på samma sätt som det använder användardata för att mata sin reklamverksamhet", sa O’Driscoll.
"Även så kan användare fortfarande känna sig obekväma med att deras bilder används på det här sättet."
Yashar Behzadi, VD för Synthesis AI, ett företag som använder artificiell intelligens för datorseende, sa att Facebooks senaste AI-framsteg representerar en "betydande förbättring" i datorseende förmåga.
"Användare kan sannolikt förvänta sig bättre bildtaggning och kontextuell sökning, medan annonsörer kommer att dra nytta av mer exakt användarinriktning", tillade han.
Men Facebooks tillvägagångssätt att utnyttja miljarder Instagram-bilder väcker allvarliga integritets- och regleringsproblem, sa Behzadi.
"Även om Facebooks villkor kan tillåta dem att utnyttja användardata på ett sådant sätt, är de flesta användare inte uttryckligen och aktivt medvetna om att deras data utvinns för sådana ändamål", sa han.
"Vi anser att företag borde vara mer direkta och transparenta med användarna, så att de får full kontroll över sin data."
Många andra företag har använt artificiell intelligens för att identifiera en bilds innehåll, påpekade Bobby Gill, VD för apputvecklaren Blue Label Labs, i en e-postintervju. "Men det faktum att detta nästan säkert kommer att användas för marknadsföring är det som är oroande", tillade han.
Det nya programmet kan ge upphov till potentiella integritetsproblem, beroende på hur Facebook planerar att använda systemet, sa Gill.
"Denna information skulle sannolikt vara tillgänglig för tekniska marknadsförare som skulle använda den för att identifiera vissa trender baserat på olika element som identifieras i en bild", sa han.
"Att till exempel kunna hämta information från bilder som folk lägger upp lägger till ytterligare en dimension för associativa system som i allmänhet använder beteende för att profilera och rikta in sig på individer. Det kan komma att lära sig att alla med t.ex. grodor i 3- 7 % av deras bilder kommer med stor sannolikhet att köpa hemträningsutrustning."
