Key takeaways
- Ett växande antal program kan förstå ditt tal.
- Ny teknik genererar anpassade ljudbrus i bakgrunden när du pratar för att förvirra programvaran som kan lyssna.
-
Den nya tekniken uppnår re altidsprestanda genom att förutsäga en attack mot framtiden för signalen eller ordet.
Många program kan förstå ditt tal under telefon- eller videosamtal, och experter säger att de kan utgöra ett integritetshot.
En ny teknik utvecklad av Columbia University-forskare, kallad Neural Voice Camouflage, kan erbjuda ett försvar. Den genererar anpassade ljudbrus i bakgrunden när du pratar, vilket förvirrar den artificiella intelligensen (AI) som lyssnar och transkriberar röster.
"Närvaron av AI-transkription väcker frågor om förtroende", Michael Huth, medgrundare av Xayn, en integritetsskyddande sökmotor, och chef för Department of Computing vid Imperial College London, som inte var involverad i forskningen, berättade Lifewire i en e-postintervju. "Mötesdeltagarna kan vara mer försiktiga med vilka punkter de tar upp och hur deras tal transkriberas. Detta kan vara bra eftersom det kan förbättra ett respektfullt beteende, men det kan också vara en dålig sak eftersom samtalet kan vara mindre öppet p.g.a. reservationer om den teknik som används."
Lyssna och lära
Forskarna från Columbia arbetade med att designa en algoritm som kunde bryta neurala nätverk i re altid. Det nya tillvägagångssättet använder "prediktiva attacker" - en signal som kan störa vilket ord som helst som automatiska taligenkänningsmodeller är tränade att transkribera. Dessutom, när attackljud spelas upp i luften måste de vara tillräckligt höga för att störa alla falska "inlyssnande" mikrofoner som kan vara långt borta.
"En viktig teknisk utmaning för att uppnå detta var att få det hela att fungera tillräckligt snabbt", sa Carl Vondrick, professor i datavetenskap vid Columbia och en av författarna till en studie som beskriver det nya tillvägagångssättet, i en nyhet släpp. "Vår algoritm, som lyckas blockera en oseriös mikrofon från att höra dina ord korrekt 80 % av gångerna, är den snabbaste och mest exakta på vår testbädd."
Den nya tekniken uppnår prestanda i re altid genom att förutsäga en attack mot framtiden för signalen eller ordet. Teamet optimerade attacken, så den har en volym som liknar norm alt bakgrundsljud, vilket gör att människor i ett rum kan konversera naturligt och utan att framgångsrikt övervakas av ett automatiskt taligenkänningssystem.
Mötesdeltagarna kan vara mer försiktiga med vilka poäng de tar upp och hur deras tal transkriberas.
Forskarna sa att deras teknik fungerar även när du inte vet något om den oseriösa mikrofonen, till exempel dess plats, eller till och med datorprogramvaran som körs på den. Den kamouflerar en persons röst över luften, döljer den från dessa lyssningssystem och utan att störa samtalet mellan människor i rummet.
"Än så länge fungerar vår metod för majoriteten av det engelska ordförrådet, och vi planerar att tillämpa algoritmen på fler språk, samt så småningom få viskningen att låta helt omärklig", Mia Chiquier, huvudförfattaren av studien och en doktorand i Vondricks labb, sa i pressmeddelandet.
Håll dina konversationer privata
Som om allt detta inte vore nog, kan annonser rikta sig mot dig baserat på ljud som samlats in från din smartphone eller smarta hemenheter också.
"Med enheter som [Amazon Echo] och deras motsvarigheter är dessa enheter inte bara alltid i ditt hem, de lyssnar ständigt på allt du säger eller gör, men de har - genom år av datainsamling från sina användare - har perfekt bearbetning av naturligt språk (som förvandlar talat ord till text/användbar data för enheter via en kombination av mikrofoner, mjukvara och AI), säger Erik Haig, en assistent vid Harbour Research, ett strategikonsult- och riskutvecklingsföretag, i ett e-postmeddelande.
AI-transkriptioner av konversationstal är nu en standarddel av kommersiell kommersiell programvara, sa Huth. Till exempel har Microsoft Teams ett rekordmötes alternativ med inbyggda AI-transkriptioner som kan ses av alla deltagare i re altid. Den fullständiga utskriften kan fungera som ett referat från mötet. Vanligtvis tillåter sådana utskrifter protokollföring (aka anteckningar), där protokoll skulle godkännas vid nästa möte.
"Människor kan vara oroliga för att bli spionerade på när AI-transkription är på", tillade Huth."Detta verkar mycket likt oron över att ha en konversation inspelad utan samtycke eller hemligt."
Men inte alla håller med om att smarta enheter är ett hot. De flesta människor behöver inte oroa sig för program som lyssnar på dina konversationer, sa Brad Hong, en kundframgångsledare på cybersäkerhetsföretaget Horizon3, till Lifewire via e-post. Han sa att det viktigaste problemet nu inte är vem som registrerar dig, utan snarare hur de lagrar data.
"Alla historier man hör om en mikrofon på sin dator eller mobila enheter som aktiveras, Alexa eller Google Home som lyssnar på, eller till och med statlig övervakning, det är sant att alla dessa får lekmannens mage att kurra", tillade Hong. "Men sammantaget är människor sällan i en situation som faktiskt kräver kamouflering av sina röster."
