Key takeaways
- AI-system som övervakar leveranslastbilar straffar Amazon-förare orättvist, hävdar en ny rapport.
- Amazon-systemet är en del av en växande trend av företag som använder teknik för att övervaka sina arbetsgivare på distans.
-
Vissa AI-programvara tillåter arbetsgivare att kontinuerligt övervaka anställdas beteende i bakgrunden och rita mönster i deras arbetsflöde.
Arbetsgivare vänder sig alltmer till programvara för att övervaka anställda på distans, vilket ger upphov till oro bland vissa integritetsförespråkare.
En ny rapport hävdar AI-drivna kameror i Amazons leveransbilar har orättvist straffat förare. Artikeln fann att förare led av felaktiga varningar, felaktiga styrkort för förare, opraktiska antaganden om trafiktillstånd och förare som använde metoder för att kringgå tekniken.
"Medan AI förbättras kommer misstag fortfarande att göras", sa Raymond Ku, chef för Center for Cyberspace Law & Policy vid Case Western Reserve University, till Lifewire i en e-postintervju. "För rättvisans skull tror jag att vi alla anser att någon som på något sätt bestraffas av AI-beslut bör göras medveten om detta och ges en möjlighet att ifrågasätta beslutet."
Amazon's AI-kameror
Amazon har sagt att de installerat AI-drivna kameror i sina leveransfordon som en säkerhetsåtgärd. Kamerorna är avsedda att övervaka när leveransförare utför farliga manövrar som att köra stoppskyltar eller göra olagliga U-svängar.
När kamerorna upptäcker möjliga "händelser" vid körning, tar dessa tillfällen hänsyn till arbetarnas resultat. Lägre poäng minskar chansen att förare får bonusar, extra lön och priser.
Men Amazon-förare sa till Motherboard att de straffas för vissa körvanor som anses vara säkra eller utanför deras kontroll. Amazon svarade inte på en begäran från Lifewire om kommentar.
Ku påpekade att eftersom förarna gick med på att bli registrerade lider de inte av ett intrång i integriteten enligt lagen.
"Det betyder dock inte att den genomsnittliga arbetaren skulle vara nöjd med övervakningen eller inte skulle invända om de kunde", tillade han. "Detta gäller särskilt när övervakningen börjar inkräkta på mer traditionella personliga utrymmen."
Rapporten väcker bredare frågor om huruvida data kan nås och användas i rättsprocesser eller av polis och federala tjänstemän, sa datasekretessadvokat Bethany A. Corbin till Lifewire i en e-postintervju. Det kan också påverka ansvar, påpekade hon.
"Till exempel, om AI-tekniken säger åt medarbetaren att inte titta i sidospeglarna och den anställde råkar ut för en olycka som en direkt följd av det rådet, vem är felet?" Corbin lade till.
Växande övervakning
Övervakningen slutar inte med Amazon. Allt fler företag använder teknik för att titta på sina anställda på distans, sa integritetsexperten Chris Hauk till Lifewire i en e-postintervju.
Till exempel använder AI-marknadsföringsföretaget Blackbelt ett Allocate time tracking-system, vilket gör att företaget kan övervaka och spåra sina anställdas datoraktivitet autonomt. Microsofts Workplace Analytics kommer att göra det möjligt för arbetsgivare att titta på en anställds tid på webbplatser, skriva e-postmeddelanden och mer under en arbetsdag.
Walmart arbetar också med ett system som lyssnar efter ljudet av prasslande påsar eller pip från kassaskannrar för att spåra anställdas mätvärden och säkerställa att anställda utför sina uppgifter korrekt och effektivt. Sensorerna kan till och med lyssna på kunder när de chattar medan de står i kö och upptäcker om anställda hälsar kunderna ordentligt eller inte.
Arbetsplatsövervakning har blivit mer utbredd sedan pandemin började, sa integritetsexperten Pankaj Srivastava till Lifewire i en e-postintervju.
"Det mesta av den här tekniken är positionerad som att "förbättra produktiviteten", men hur vissa av dessa verktyg fungerar antyder en större tolerans för arbetsgivare att övervaka varje aktivitet i deras arbetsstyrka", tillade han. "Till exempel övervaka hur mycket tid anställda lägger ner på varje uppgift, ta ett fjärrfoto för att se till att anställda finns vid deras skrivbord och till och med övervaka besökta webbplatser och registrera en anställds tangentbordstryck och musrörelser."
Medan AI förbättras kommer misstag fortfarande att göras.
Vissa AI-programvara tillåter arbetsgivare att kontinuerligt övervaka anställdas beteende i bakgrunden och rita mönster i deras arbetsflöde, sa han.
"En anställd kan avskedas baserat på sin personliga resultatrapport som citerar att de tog några minuter längre tid att slutföra en uppgift än vanligt", sa Srivastava.
"Adjö, badrummet går sönder."
