Key takeaways
- Artificiell intelligensprogram som Cogito försöker lära människor empati i hanteringen av kunder.
- Experter är oense om huruvida det är möjligt för en maskin att lära människor empati eller om den helt enkelt hittar datapunkter.
- Vissa experter är också oroade över att undervisning i AI-empati kan beröva mänskligheten den känslan.
Föreställ dig att du arbetar i ett callcenter och en kund ringer. Du svarar, och genast börjar det gå dåligt. Kunden är arg och spänningen ökar.
Du börjar säga saker du kan ångra senare. Plötsligt visas ett meddelande på din datorskärm. "Empati Cue-Tänk på hur kunden mår. Försök att relatera."
Det är inte en riktig person som säger åt dig vad du ska göra. Det är ett meddelande från Cogito, ett artificiell intelligensprogram utformat för att hjälpa arbetare att känna empati med frustrerade uppringare och öka prestanda. Cogito är ett av ett växande antal AI-program som försöker lära människor empati.
Det finns en uppenbar ironi här. Mänskliga vetenskapsmän har i årtionden försökt göra mer verklighetstrogna datorer. Nu berättar maskinerna för oss hur vi ska bete oss. Men kan mjukvara verkligen lära oss att vara mer empatiska? Det är en fråga som kan få djupgående konsekvenser när artificiell intelligens börjar genomsyra det dagliga livet.
AI härmar mänskligt beteende
Från en teknisk synvinkel är det tydligt att AI kan fånga upp ledtrådar om hur människor känner och ge feedback.
"AI och maskininlärningssystem är mycket bra på att hitta mönster i data", sa Adam Poliak, en postdoktor i datavetenskap vid Barnard College, i en e-postintervju.
"Om vi ger en AI massor av exempel på empatisk text, kan AI:n upptäcka mönster och signaler som framkallar eller visar empati."
AI kan vara programmerad att bryta ner några av de mänskliga beteenden som följer med empati och påminna människor om att utföra dem, men det är inte att lära ut empati.
AI som analyserar mänskliga reaktioner kan hjälpa till att överbrygga den växande klyftan mellan människor när vi kommunicerar digit alt, sa Bret Greenstein, en AI-expert på Cognizant Digital Business, i en e-postintervju.
"Under det senaste året växte re altid, video, röst och meddelanden snabbare än någon kunde ha föreställt sig, och med det följde enorma utmaningar att skapa verkligt empatiska relationer utan att faktiskt spendera fysisk tid med människor", han lagt till.
AI kan hjälpa till att analysera och bedöma egenskaper som ton och känslor i tal, sa Greenstein. "Detta kan hjälpa personen som tar emot kommunikation att bättre förstå vad som menades, och hjälper personen som "talar" genom att visa hur meddelanden kan tolkas", tillade han.
Medan företag skyndar sig att tjäna pengar på AI-träningsprogram som Cogito, är frågan om huruvida AI kan lära människor empati öppen. Och svaret kan ha lika mycket att göra med filosofi som teknik.
Ilia Delio är teolog vid Villanova University vars arbete fokuserar på skärningspunkten mellan tro och vetenskap. Hon tror att AI kan lära ut empati.
Delio påpekade att ett team på MIT har byggt robotar som kan efterlikna mänskliga känslor som glädje, sorg och medkänsla. "Medan robotkänslorna är programmerade kan robotarna interagera med människor och på så sätt etablera eller förstärka neurala mönster", sa hon.
Kan en maskin förstå empati?
Experter definierar minst tre former av empati, alla involverar förmågan att förstå och relatera till en annan person, säger Karla Erickson, sociolog vid Grinnell College i Iowa och författare till den kommande boken Messy Humans: A Sociology of Human/Machine Relations, som utforskar våra relationer med teknik.
"Att relatera är inget AI kan göra, och det är grunden för empati", sa Erickson i en e-postintervju.
"AI kan vara programmerad att bryta ner några av de mänskliga beteenden som åtföljer empati och påminna människor om att utföra dem, men det är inte att lära ut empati. Att relatera, särskilt när det gäller empati, skulle kräva att lyssnaren har nödvändig kontext för att relatera med detta menar jag att en AIs 'liv' inte inkluderar förlust, längtan, hopp, smärta eller död."
Men experter krockar om huruvida AI kan lära oss att känna empati. En del av problemet är att inte alla är överens om vad "empati" eller "AI" ens betyder. Begreppet artificiell intelligens slängs ofta runt, men det är för närvarande inte den typ av intelligens vi tänker på som mänsklig.
Detta är rent ingenjörsarbete, och jag har ingen sådan illusion att AI:n i fråga själv har känslor eller verkligen förstår känslor.
"De "empatiska signalerna" har ingenting att göra med empati", sa Michael Spezio, professor i psykologi, neurovetenskap och datavetenskap vid Scripps College, i en e-postintervju.
"De är signaler från röster som mänskliga bedömare har klassificerat som röster från människor som är irriterade/irriterade. Så det är bara att använda mänsklig expertis i en matematisk modell och sedan hävda att modellen byggd på mänsklig expertis-är intelligent. Begränsade metoder för maskininlärning som detta hypas ofta som AI utan att vara intelligenta."
Vid Rensselaer Polytechnic Institute bygger Selmer Bringsjords laboratorium matematiska modeller av mänskliga känslor. Forskningen är avsedd att skapa en AI som kan få höga poäng på känslomässiga intelligenstester och tillämpa dem på människor. Men Bringsjord, en AI-expert, säger att all undervisning som AI gör är oavsiktlig.
"Men detta är rent ingenjörsarbete, och jag har ingen sådan illusion att AI:n i fråga själv har känslor eller verkligen förstår känslor", sa han i en e-postintervju.
Vad kan gå fel?
Medan företag som Cogito ser en ljus framtid för AI-träning av människor, är andra observatörer mer försiktiga.
Supportiv, en onlinetjänst för psykisk vård, använder AI för att dirigera varje användare, baserat på varje enskild tanke de uttrycker, i re altid, till en ämnesspecifik peer-supportgrupp som dynamiskt samlas för användare med liknande problem.
Varje grupp har en "superdriven" mänsklig moderator som håller den textbaserade chatten säker och trollfri och kan dyka upp, återigen genom AI, relevanta resurser, rekommendationer och hänvisningar direkt in i gruppkonversationen. Med hjälp av AI utbildar Supportiv sina moderatorer att vara skickliga på att upptäcka intensiteten i känslomässiga behov.
"Empati är en muskel vi bygger", sa Zara Dana, en datavetare på Supportiv, i en e-postintervju.
"Om vi börjar använda en krycka för att gå, kommer våra muskler att atrofieras. Jag kan inte låta bli att undra, skulle en beroende arbetare känna sig säker om AI-systemet inte är online en dag? Kan hon göra det jobb effektivt? Vilka är de långsiktiga effekterna på arbetarna? Hur skulle de navigera i komplexa sociala situationer där AI saknas?"
Även om det fungerar att använda AI för att lära ut empati, vad händer när vi börjar lita för mycket på AI för att träna känslor? En möjlig nackdel är att människor kan bli mer fästa vid robotar än till andra människor eftersom robotar inte kan välja mot sitt program, påpekade Delio.
"Den mänskliga förmågan till fri vilja placerar mänsklig handlingsfrihet i en mer tvetydig position", sa Delio. "En person kan vara medkännande ena dagen och hänsynslös nästa; en robot kommer att förbli konsekvent medkännande om inte tränad att göra något annat."
Det finns mycket som kan gå fel om AI lär människor hur man beter sig som människor, säger experter.
Vi har utvecklats till att vara sociala djur, och vår empati är central för vår förmåga att få kontakt med andra och bry oss om de kollektiv som vi tillhör.
"Utan mänsklig tillsyn kan eleven lära sig något helt galet", sa Bringsjord.
"Röstens ton och tonhöjd är enbart beteendemässiga korrelat, utan något innehåll. Dollar till munkar min röst när jag undervisar i klassrummet skulle läsas av många…som ett tecken på att jag är upprörd, medan jag i verkligheten" Jag är bara passionerad och i det minsta behov av empati."
Om AI-träning av människor blomstrar kan vi komma att lita på det. Och det är inte nödvändigtvis bra.
"Den här utbildningen nedvärderar mänskliga färdigheter, som är betydande, och flyttar uppmärksamheten mot AI som om det vore de med expertis", sa Erickson."Vi har utvecklats till att vara sociala djur, och vår empati är central för vår förmåga att få kontakt med andra och bry oss om de kollektiv som vi tillhör."
