Key takeaways
- Företag använder artificiell intelligens för att övervaka sina anställda.
- Amazon installerade maskininlärningsdrivna kameror i sina leveransbilar tidigare i år.
- AI-övervakning kan leda till integritets- och säkerhetsproblem om den används av skrupelfria företag.
Arbetsgivare spårar i allt högre grad sina anställda med hjälp av artificiell intelligens, och observatörer säger att metoden väcker integritetsproblem.
Amazon installerade maskininlärningsdrivna kameror i sina leveransbilar tidigare i år. Företaget sa nyligen till sina förare att de måste gå med på att använda dem. Praxis med övervakning på jobbet kan vara lagligt, men alla håller inte med om att det är etiskt.
"Företag har använt verktyg för övervakning av anställda i årtionden, men med avancerad teknik blir de mer invasiva", sa Aimee O'Driscoll, säkerhetsforskare på webbplatsen för teknikjämförelse Comparitech, i en e-postintervju.
"De flesta anställdas övervakning kan betraktas som ett intrång i integriteten, och det kan hävdas att det Amazon gör inte skiljer sig mycket från att ha CCTV-kameror på ett kontor."
Bli sedd eller få sparken
Amazons cirka 75 000 leveransförare i USA måste nu underteckna ett "biometriskt samtycke". Tillståndsformuläret låter AI-drivna kameror titta på förares plats, rörelser och biometriska data. Anställda som inte undertecknar dokumentet kan få sparken.
AI-övervakning spårar allt som Amazon-förarna gör och invaderar försökspersonens antagna integritet, sa Chris Hauk, en integritetsforskare på integritetswebbplatsen Pixel Privacy, i en e-postintervju.
"Detta inkluderar inspelning varje gång motivet gäspar eller skrapar ett känsligt område", tillade han. "En förare har åtminstone en viss rätt till ett sken av integritet när han är inne i sina fordon."
Anställdas övervakning av AI är ett växande problem. Walmart har patenterat en AI-teknik som gör det möjligt att lyssna på anställdas interaktioner med kunder i kassorna, påpekade O’Driscoll.
Mjukvaruutvecklaren Enaible tillhandahåller produktivitetsverktyg baserade på AI-programvara. Olika företag, inklusive Macy’s, använder Microsofts analyssystem, som kan övervaka anställdas beteende. Domino’s har använt AI-teknik för att kontrollera att pizzorna är rätt gjorda.
"En av huvudproblemen är att när den används på fel sätt kan bristande integritet leda till säkerhetsproblem", sa O’Driscoll.
"Övervakningsdata kan hamna i händerna på brottslingar, eller så kan dåliga aktörer själva använda AI-övervakning för att rikta in sig på offer."
Biometriska ansiktsskanningar resulterar i en matematisk representation av den registrerades ansikte som kan användas för att identifiera och spåra dem var som helst, under resten av livet, säger Ray Walsh, en integritetsexpert på webbplatsen ProPrivacy, i en e-postintervju.
"Detta väcker allvarliga integritets- och säkerhetsrisker för Amazon-förare vars data kan komma att brytas, läcka eller potentiellt till och med utnyttjas av statliga snoopar som använder en order", tillade han.
Eftersom AI-teknik är relativt ny, finns det inga konkreta riktlinjer för användningen av den när det gäller integritet, sa O’Driscoll. "Som sagt, säkerhet kommer sannolikt alltid att vara en legitim ursäkt för integritetsintrång, så Amazon omfattas av dess nuvarande avsikter", tillade hon.
Medan anställda har rätt att sluta eller samtycka till den föreslagna AI-övervakningen, gör de det inför en enorm maktobalans, O’Driscoll sa att AI-övervakning borde regleras. "Företag bör helst ha legitima skäl (som säkerhet) för AI-övervakning", tillade hon.
Vissa delstater har antagit lagförslag som begränsar och reglerar användningen av övervakning på arbetsplatsen, men federal lagstiftning saknas, påpekade Walsh.
Under 2019 infördes lagen om algoritmisk ansvarighet i kammaren och senaten, men den avvisades till slut. En liknande handling kan komma att införas i år, och "förhoppningen är att en demokratledd kongress och Vita huset kan förbättra sina chanser att gå igenom", sa Walsh.
Förvänta inte sekretess på jobbet
Inte alla tycker att Amazons övervakning av dess förare är ett intrång i integriteten.
"Jag tycker att det är svårt att argumentera för att en anställd har rimliga förväntningar på integritet i ett företagsägt fordon", sa Will Griffin, chefs etikansvarig för AI-företaget Hypergiant, i en e-postintervju.
"Det större problemet är att alla dessa förare inom några korta år kommer att ersättas av autonoma fordon. Så varje debatt om förarpolitik kommer att bli en omtvistad fråga när flottan blir helt autonom."
Amazonfallet belyser behovet av en facklig eller riktad federal intervention som ett sätt att återställa maktbalansen mellan Amazons arbetare och företaget, sa Griffin.
"Medan anställda har rätt att sluta eller samtycka till den föreslagna AI-övervakningen, gör de det inför en enorm maktobalans", tillade han.
