Key takeaways
- En rad nya appar kanske kan upptäcka elevernas känslor.
- Intel och klassrumstillverkaren Class utvecklar enligt uppgift programvara som kommer att vaka över digitala elevers ansikten och kroppsspråk.
- Vissa experter är oroade över att användning av AI för att övervaka elever kan leda till integritetsintrång.
Skolorna kan snart använda artificiell intelligens (AI) för att övervaka elevernas känslotillstånd.
Intel och klassrumstillverkaren Class utvecklar programvara som vakar över digitala elevers ansikten och kroppsspråk. Systemet kan enligt uppgift upptäcka om elever är uttråkade, distraherade eller förvirrade, men vissa experter är oroliga för att programvaran kan leda till intrång i integriteten.
"Sådana AI-baserade övervakningsprodukter bör vara transparenta om hur denna data används", sa Michael Huth, medgrundare av företaget Xayn och chef för datoravdelningen vid Imperial College London, till Lifewire i ett mejl intervju. "Om det används för att spåra engagemang i en elevkull, där engagemang på individnivå inte registreras, är detta något mindre problematiskt ur ett integritetsperspektiv. Om någon av dessa uppgifter skulle användas för att påverka elevbedömningen skulle jag dock kan se alla möjliga problem som uppstår."
Watching Over Students
Class och Intel har samarbetat för att integrera en AI-baserad teknik som körs tillsammans med videokonferensmjukvaran Zoom, rapporterade Protocol. Programvaran kan användas för att övervaka elever, sa rapporten.
"Genom vårt partnerskap med Intel kommer vi att kunna tillföra nya, uppslukande funktioner till Class mjukvara som drivs av forskningsstödda funktioner", enligt företagets webbplats. "Vi kommer också att arbeta tillsammans med Intel för att dra nytta av resurser och ge pedagoger och studenter värdefulla insikter, gemensamma fallstudier, vitböcker, webbseminarier och mycket mer."
Intel sa till Protocol att klassrumsmjukvaran är i ett tidigt skede och att det inte finns några planer på att skicka produkten till marknaden.
Samarbetet med Class är inte det enda potentiella samarbetet mellan Intels mjukvara för känsloläsning och andra tillverkare. En onlinebroschyr från Intel presenterar en ny elektronisk whiteboard kallad Viewboard riktad till skolor. Intels programvara "gör det möjligt för myViewboard att bedöma och visa elevers känslomässiga tillstånd som omedelbar feedback för lärare", enligt broschyren.
Class är en av många mjukvaruprodukter som utger sig för att spåra elevers känslor med hjälp av AI. Det finns också 4Little Trees, en inlärningsplattform för emotiondetektering som är "en virtuell lärarassistent [som] skulle hjälpa genom att välja de mest lämpliga frågorna för dig eller utmana dig när det behövs", enligt företagets webbplats.
Ashish Fernando, VD för AI-företaget iSchoolConnect, sa till Lifewire i en e-postintervju att AI kan tränas för att bedöma mänskligt beteende och egenskaper utan påverkan av subjektiva fördomar som individer har.
"AI kan bedöma ett betydligt större antal mänskliga beteenden, inklusive mikrouttryck som är lätta att missa, i en takt som är mycket snabbare än en människa", sa Fernando. "Där feedback kunde ha tagit timmar, kan AI nu tillhandahålla samma inom några minuter."
Sekretessfrågor
Användningen av AI för att övervaka människor växer. Snapchat har AI-teknik som bedömer den känslomässiga nivån hos en grupp människor vid ett liveevenemang. Mad Street Den använder datorseende AI för att hjälpa återförsäljare att känna igen potentiella köpares ansiktsuttryck och känslor. BrainQ använder AI för att förstå hur passagerare interagerar med de autonoma fordon de använder. Och företag använder AI för att spåra förarens trötthet.
"Det här är ett bra användningsfall för trafiksäkerhet, men det väcker frågor om förares integritetsrättigheter i deras personliga fordon", sa Huth. "Kommer information om trötthet att delas med försäkringsbolaget eller biltillverkaren? Eller kommer det bara att varna föraren att stanna och vila? Detta är ett mindre problem för kommersiella bilparker som lastbilar, skåpbilar eller hytter."
En fråga är att AI:s information, som muskelrörelser för att sluta sig till känslomässigt tillstånd, kanske inte är tillförlitlig, sa Huth. "Detta skapar ett dilemma, eftersom mer tillförlitlig AI kan kräva tillgång till ännu känsligare data som EEG-signaler", tillade han.
För studenter kan AI vara användbart för att övervaka efterlevnad under onlineprov när en proctor inte kan vara fysiskt närvarande. Men denna användning av AI för detta är kontroversiell, sa Huth, eftersom systemet försöker avgöra om en elev tänker fuska eller fuskar, och det finns en verklig potential för falska positiva resultat som resulterar i omotiverad bestraffning av elever som inte har gjort något fel.
"All AI som används för detta ändamål skulle behöva vara tillräckligt robust för att klara av toalettraster, nervösa tics hos enskilda elever (som oberäkneliga ögonrörelser) och så vidare", sa Huth.
