Key takeaways
- AI- och maskininlärningsalgoritmer tittar på mänskligt beteende och kan lära sig att manipulera det, säger experter.
- Forskare skapade nyligen ett sätt att hitta och utnyttja sårbarheter på det sätt som människor gör val med hjälp av AI.
- Den mest sofistikerade sociala mediealgoritmen just nu är TikTok, säger en observatör.
Artificiell intelligens (AI) och maskininlärningsalgoritmer lär sig alltmer hur man påverkar användarnas beteende, säger experter.
Forskare vid Australiens nationella vetenskapsbyrå skapade nyligen ett sätt att hitta och utnyttja sårbarheter i hur människor gör val med AI. Den senaste forskningen är bara en av en våg av AI-drivna system utformade för att manipulera mänskligt beslutsfattande.
"Det finns inget slut på de många sätt som AI redan påverkar beteendet", Kentaro Toyama, professor vid University of Michigan School of Information och författare till Geek Heresy: Rescuing Social Change from the Cult of Technology, sa i en e-postintervju.
"Faktum är att om du någonsin har gjort en Google-sökning och följt upp en länk, påverkades du av ett AI-system som gissade dina intressen och gav resultat som det trodde var mest relevanta för dig."
AI vs. människor
I den australiensiska forskningen som publicerades i en ny artikel spelade mänskliga deltagare spel mot en dator i olika experiment. Det första experimentet fick deltagarna att klicka på röd- eller blåfärgade rutor för att vinna pengar.
AI:n var framgångsrik ungefär 70 % av tiden, lärde sig deltagarens valmönster och vägledde dem mot ett specifikt val.
I ett annat experiment tittade deltagarna på en skärm och tryckte på en knapp när de visades en viss symbol, eller tryckte inte på den när de erbjöds en annan. AI:n lärde sig att ordna om symbolerna, så deltagarna gjorde fler fel.
Resultatet av experimenten, drog forskarna slutsatsen, var att AI lärde sig av deltagarnas svar. Maskinen identifierade och riktade sedan in sårbarheter i människors beslutsfattande. I själva verket kan AI:n manipulera deltagarna till att göra särskilda handlingar.
Det faktum att AI eller maskininlärning kan manipulera människor borde inte komma som någon överraskning, säger observatörer.
"AI påverkar vårt beteende varje dag", sa Tamara Schwartz, biträdande professor i cybersäkerhet och företagsekonomi vid York College of Pennsylvania, i en e-postintervju.
"Vi hör hela tiden om algoritmerna i sociala medieapplikationer som Facebook eller Twitter. Dessa algoritmer riktar vår uppmärksamhet mot relaterat innehåll och skapar "ekokammareffekten", som i sin tur påverkar vårt beteende."
TikTok tittar
Den mest sofistikerade sociala mediealgoritmen just nu är TikTok, sa Schwartz. Appen analyserar vad du är intresserad av, hur länge du tittar på något och hur snabbt du hoppar över något, och förfinar sedan utbudet för att hålla dig kvar.
"TikTok är mycket mer beroendeframkallande än andra plattformar på grund av denna AI-algoritm, som förstår vad du gillar, hur du lär dig och hur du väljer information", tillade hon. "Vi vet detta eftersom den genomsnittliga tiden som användare spenderar på TikTok är 52 minuter."
Manipulationen av mänskligt beteende genom artificiell intelligens kan ha positiva användningsområden, hävdade Chris Nicholson, VD för AI-företaget Pathmind, i en e-postintervju. Folkhälsomyndigheter kan till exempel använda AI för att uppmuntra människor att fatta bättre beslut.
"Men sociala medier, videospelstillverkare, annonsörer och auktoritära regimer letar efter sätt att få människor att fatta beslut som inte ligger i deras bästa intresse, och detta kommer att ge dem nya verktyg för att göra det," lade han till.
De etiska frågorna med AI-påverkande beteende är ofta av grad, sa Toyama. AI tillåter fokuserad reklam där individuella preferenser och svagheter kan utnyttjas.
"Det är till exempel möjligt för ett AI-system att identifiera personer som försöker sluta röka och peppa dem med frestande cigarettannonser", tillade han.
Alla håller inte med om att AI-manipulation av mänskligt beteende är problematisk. Både klassisk psykologi och AI observerar data, påpekade Jason J. Corso, chef för Stevens Institute for Artificial Intelligence, i en e-postintervju.
"Mänskliga vetenskapsmän är förmodligen bättre på att generalisera observationer och destillera teorier om mänskligt beteende som kan vara mer allmänt tillämpliga, medan AI-modellerna skulle vara mer mottagliga för att identifiera problemspecifika nyanser", sa Corso.
"Ur en etisk synvinkel ser jag ingen skillnad mellan dessa."
