Key takeaways
- Ny forskning visade att AI kunde övervaka och kontrollera ditt beteende online.
- Vissa experter säger att AI redan kontrollerar mänskligt beteende genom algoritmer.
- För att förhindra AI från att kapa deras beslut bör användarna komma ihåg att det inte finns något sådant som integritet online.
Datorer kanske snart kan styra de val du gör online.
Forskare fann nyligen att artificiell intelligens (AI) kunde hitta och utnyttja svagheter i mänskligt beslutsfattande och vägleda människor mot vissa beslut. Experter säger att upptäckten är ett tecken på algoritmernas växande inflytande på mänskligt beteende.
"Människor som är stora användare av digitala onlineplattformar löper en större risk att bli påverkade, jämfört med en genomsnittlig person, i kraft av att de tillhandahåller bakom kulisserna, AI och maskininlärning erbjuder betydande fördelar i många områden, inklusive hälsa, sa han. "I slutändan, hur ansvarsfullt vi använder dessa tekniker kommer att avgöra om de kommer att användas för goda resultat för samhället eller manipuleras för vinning."
Inte bara teori
Medan den senaste tidningen lyfte fram AI:s förmåga att påverka beslut, säger vissa experter att datorer redan gör just det. Alla som går online och använder webben är föremål för AI:s genomträngande makt, sa Josephine Yam, en AI-advokat och etiker, till Lifewire i en e-postintervju.
"AI är den fjärde industriella revolutionen", sa Yam. "Dess växande förmåga att fatta autonoma beslut snabbare, bättre och billigare än människor påverkar våra liv djupt. Förarassistansfunktioner gör våra bilar säkrare. Datorseende gör diagnostisering av sjukdomar mer exakt. Maskinöversättning gör det möjligt för oss att kommunicera över oceanerna trots språkbarriärer."
Eftersom AI är invävt i de flesta aspekter av våra liv, påverkar det våra dagliga beslut, oavsett om vi är medvetna om det eller inte, sa Yam. Den visar onlineannonser och nyhetsflöden baserat på våra tidigare klick. Den rekommenderar musik, filmer och presentidéer baserat på vårt tidigare lyssnande, tittande och shoppingbeteenden.
"AI är världens största förutsägelsemaskin", tillade Yam. "Eftersom stora volymer av historisk data används för att träna algoritmer, upptäcker AI-systemets maskininlärningsmöjligheter nyanserade mönster i vår personliga data för att ge mycket exakta rekommendationer om oss."
Men Theresa Kushner, en AI-expert på NTT DATA Services, bestred tanken att AI för närvarande påverkar onlinebeslut. "Man kan säga att AI hjälper till att informera beslut", sa Kushner till Lifewire i en e-postintervju.
"Men inflytande är en specifik förmåga att ha en effekt på karaktär, utveckling eller beteende hos någon eller något", tillade Kushner. "Ditt Google-flöde är ett bra exempel på att AI fungerar idag. Köper du fler möbler på sistone eftersom Google vet att du har tittat på soffor?"
För att förhindra AI från att kapa deras beslut, sa Yam att användare bör komma ihåg att det inte finns något sådant som integritet online längre.
"Människor lämnar digitala fotspår av sina identiteter eller personliga data vart de än går. AI-algoritmer registrerar, kompilerar och minar all deras online personliga data", tillade Yam. "Dessa algoritmer samlar in tusentals personliga datapunkter om en användare för att göra förutsägelser om användarens mest sannolika beteende."
Oavsett om AI för närvarande påverkar mänskliga beslut eller inte, efterlyser observatörer mer branschreglering. Den föreslagna EU-lagen om artificiell intelligens är till exempel det första globala regelverket som kommer att göra människor ansvariga för de skadliga effekterna av deras AI, sa Yam.
"Det enda realistiska sättet att förhindra den här typen av AI-missbruk av stora teknikföretag är att kräva att de, antingen genom påtryckningar från allmänheten eller genom lagstiftning, gör sina förstärkande inlärningsalgoritmer tillgängliga för allmänhetens granskning", sa Borhani. "Detta är inte en stor fråga, med tanke på att dessa företag fortfarande får behålla sina användares data, utan vilken algoritmerna i sig inte är till någon praktisk användning."
