Key takeaways
- Deep Nostalgia är ett nytt program som låter dig animera gamla foton.
- Tekniken visar hur enkelt det är att skapa videor av människor som gör saker som de faktiskt inte har gjort i verkligheten.
- Djup falsk teknik är redan så sofistikerad att det är svårt att avgöra om en video är verklig eller datorgenererad, säger en expert.
Var försiktig med ny programvara som kan skapa så kallade "djupa förfalskningar", där videor av riktiga människor kan simuleras, varnar experter.
Deep Nostalgia, släppt av företaget MyHeritage, är trendigt på sociala medier, med användare som återupplivar alla från kända kompositörer till döda släktingar. Programvaran drar blandade reaktioner, med vissa människor glada över skapelserna, och andra tycker att de är läskiga. Tekniken visar hur enkelt det är att skapa videor av människor som gör saker de faktiskt inte har gjort i verkligheten.
"Deepfake-tekniken blir mer sofistikerad och farligare", sa Aaron Lawson, biträdande chef för SRI Internationals Speech Technology and Research (STAR) Laboratory, i en e-postintervju. "Detta beror delvis på artificiell intelligenss natur. Där "traditionell" teknik kräver mänsklig tid och energi för att förbättras, kan AI lära av sig själv.
"Men AI:s förmåga att utveckla sig själv är ett tveeggat svärd", fortsatte Lawson. "Om en AI är skapad för att göra något välvilligt, bra. Men när en AI är designad för något skadligt som djupa förfalskningar, är faran aldrig tidigare skådad."
Programvara ger liv till foton
Genealogy-webbplatsen MyHeritage introducerade animationsmotorn förra månaden. Tekniken, känd som Deep Nostalgia, låter användare animera bilder via MyHeritage-webbplatsen. Ett företag som heter D-ID designade algoritmer för MyHeritage som digit alt återskapar rörelsen av mänskliga ansikten. Programvaran applicerar rörelserna på fotografier och modifierar ansiktsuttryck för att röra sig som mänskliga ansikten brukar göra, enligt MyHeritages webbplats.
Deep Nostalgia visar att djupfalsk teknik blir mer tillgänglig, sa Lior Shamir, professor i datavetenskap vid Kansas State University, i en e-postintervju. Det går snabbt framåt och eliminerar även de subtila skillnaderna mellan falsk och äkta video och ljud.
"Det har också gjorts betydande framsteg mot djupa falska i re altid, vilket innebär att övertygande djupa falska videor genereras vid tidpunkten för videokommunikation", sa Shamir."Till exempel kan man ha ett Zoom-möte med en viss person, samtidigt som man ser och hör rösten från en helt annan person."
Det finns också ett växande antal språkbaserade djupa förfalskningar, sa Jason Corso, chef för Stevens Institute for Artificial Intelligence vid Stevens Institute of Technology, i en e-postintervju. "Att generera hela stycken av djup falsk text mot en specifik agenda är ganska svårt, men moderna framsteg inom djup naturlig språkbehandling gör det möjligt", tillade han.
Hur man upptäcker en djup förfalskning
Medan tekniken för deep-fake-detektion fortfarande är i ett begynnande stadium, finns det några sätt du kan upptäcka en, sa Corso och började med munnen.
"Variabiliteten i utseendet på insidan av munnen när någon talar är mycket stor, vilket gör det svårt att animera på ett övertygande sätt", förklarade Corso. "Det kan göras, men det är svårare än resten av huvudet. Lägg märke till hur Deep Nostalgia-videorna inte visar fotografiets förmåga att säga "Jag älskar dig" eller någon annan fras under den djupa falska skapelsen. Att göra det skulle kräva öppning och stängning av munnen, vilket är mycket svårt för djupa falska generering."
Ghosting är en annan giveaway, tillade Corso. Om du ser suddighet runt kanterna på huvudet, är det ett resultat av "snabb rörelse eller begränsade pixlar tillgängliga i källbilden. Ett öra kan delvis försvinna tillfälligt, eller håret kan bli suddigt där du inte skulle förvänta dig det", han sa.
Du kan också hålla utkik efter färgvariationer när du försöker upptäcka en djup falsk video, till exempel en skarp linje över ansiktet, med mörkare färger på ena sidan och ljusare på den andra.
"Datoralgoritmer kan ofta upptäcka dessa distorsionsmönster", sa Shamir. "Men djupa falska algoritmer går snabbt framåt. Det är oundvikligt att strikta lagar kommer att krävas för att skydda mot djupa falska och den skada som de lätt kan orsaka."
