Key takeaways
- Ny forskning tyder på att det kanske inte finns något sätt att kontrollera supersmart artificiell intelligens.
- En tidskrift hävdar att kontroll av AI skulle kräva mycket mer avancerad teknik än vi för närvarande har.
- Vissa experter säger att verkligt intelligent AI kan vara här tidigare än vi tror.
Om människor någonsin utvecklar supersmart artificiell intelligens, kanske det inte finns något sätt att kontrollera det, säger forskare.
AI har länge ansetts som antingen ett botemedel mot mänsklighetens problem eller en apokalyps i Terminator-stil. Än så länge har AI inte ens kommit i närheten av intelligens på mänsklig nivå. Men att hålla i koppel på avancerad AI kan vara ett alltför komplext problem för människor om det någonsin utvecklats, enligt en nyligen publicerad artikel publicerad i Journal of Artificial Intelligence Research.
"En superintelligent maskin som kontrollerar världen låter som science fiction", sa Manuel Cebrian, en av tidningens medförfattare, i ett pressmeddelande.
"Men det finns redan maskiner som utför vissa viktiga uppgifter självständigt utan att programmerare helt förstår hur de lärt sig det. Frågan uppstår därför om detta någon gång kan bli okontrollerbart och farligt för mänskligheten."
Kommer snart till en superdator nära dig
Tidskriften hävdar att kontroll av AI skulle kräva mycket mer avancerad teknik än vi för närvarande har.
I sin studie utformade teamet en teoretisk inneslutningsalgoritm som säkerställer att en superintelligent AI inte kan skada människor under några omständigheter, genom att först simulera AI:s beteende och stoppa den om den anses vara skadlig. Men författarna fann att en sådan algoritm inte kan byggas.
"Om du bryter ner problemet till grundläggande regler från teoretisk datavetenskap, visar det sig att en algoritm som skulle beordra en AI att inte förstöra världen av misstag kan stoppa sin egen verksamhet." Iyad Rahwan, chef för Center for Humans and Machines vid Max Planck Institute for Human Development i Tyskland, sa i pressmeddelandet.
"Om detta hände skulle du inte veta om inneslutningsalgoritmen fortfarande analyserar hotet, eller om den har slutat innehålla den skadliga AI:n. Detta gör faktiskt inneslutningsalgoritmen oanvändbar."
Verkligen intelligent AI kan vara här tidigare än vi tror, hävdar Michalis Vazirgiannis, professor i datavetenskap vid École Polytechnique i Frankrike. "AI är en mänsklig artefakt, men den håller snabbt på att bli en autonom enhet", sa han i ett mejl till Lifewire.
"Den kritiska punkten kommer att vara om/när singularitet inträffar (d.v.s. när AI-agenter kommer att ha medvetande som en enhet) och därför kommer de att göra anspråk på oberoende, självkontroll och eventuell dominans."
Singulariteten kommer
Vazirgiannis är inte ensam om att förutsäga den förestående ankomsten av super AI. Sanna troende på AI-hotet gillar att prata om "singulariteten", som Vazirgiannis förklarar är poängen att AI kommer att ersätta mänsklig intelligens och "att AI-algoritmer potentiellt kommer att inse sin existens och börja bete sig själviskt och samarbetsvilligt."
Enligt Ray Kurzweil, Googles ingenjörschef, kommer singulariteten att komma före mitten av 2000-talet. "2029 är det konsekventa datumet jag har förutspått när en AI kommer att klara ett giltigt Turing-test och därför uppnå mänskliga intelligensnivåer", sa Kurzweil till Futurism.
Om vi inte kan städa vårt eget hus, vilken kod ska vi be AI att följa?
"Jag har satt datumet 2045 för 'Singularity', vilket är då vi kommer att multiplicera vår effektiva intelligens en miljard gånger genom att smälta samman med den intelligens vi har skapat."
Men inte alla AI-experter tror att intelligenta maskiner är ett hot. Den AI som är under utveckling är mer sannolikt användbar för läkemedelsutveckling och visar inte någon riktig intelligens, sa AI-konsulten Emmanuel Maggiori i en e-postintervju. "Det finns en stor hype kring AI, vilket gör att det låter som att det verkligen är revolutionerande", tillade han. "Nuvarande AI-system är inte så exakta som publicerade och gör misstag som en människa aldrig skulle göra."
Ta kontroll över AI, nu
Det kan vara svårt att reglera AI så att den inte slipper vår kontroll, säger Vazirgiannis. Företag, snarare än regeringar, kontrollerar resurserna som driver AI. "Till och med själva algoritmerna produceras och distribueras vanligtvis i forskningslabben hos dessa stora och kraftfulla, vanligtvis multinationella, enheter", sa han.
"Det är därför uppenbart att staternas regeringar har mindre och mindre kontroll över de resurser som krävs för att kontrollera AI."
Vissa experter säger att för att kontrollera superintelligent AI måste människor hantera datorresurser och elkraft. "Science fiction-filmer som The Matrix ger profetior om en dystopisk framtid där människor används av AI som biokraftkällor", sa Vazirgiannis.
"Även om det är avlägsna omöjligheter, bör mänskligheten se till att det finns tillräcklig kontroll över datorresurserna (d.v.s. datorkluster, GPU:er, superdatorer, nätverk/kommunikation), och naturligtvis kraftverken som tillhandahåller elektricitet, vilket är absolut skadligt för AI:s funktion."
Problemet med att kontrollera AI är att forskare inte alltid förstår hur sådana system fattar sina beslut, sa Michael Berthold, medgrundare och VD för datavetenskapsmjukvaruföretaget KNIME, i en e-postintervju. "Om vi inte gör det, hur kan vi "kontrollera" det?"
Han tillade, "Vi förstår inte när ett helt annat beslut fattas baserat på, för oss, irrelevanta input."
Det enda sättet att kontrollera risken med att använda AI är att se till att den bara används när den risken är hanterbar, sa Berthold. "Med andra ord, två extrema exempel: Ge inte AI ansvarig för ditt kärnkraftverk där ett litet fel kan få katastrofala bieffekter", tillade han.
"Å andra sidan förutspår AI om din rumstemperatur bör justeras upp eller ner lite kan mycket väl vara värt den lilla risken till förmån för boendekomforten."
Om vi inte kan styra AI är det bättre att vi lär det sätt, sa den tidigare NASA-dataingenjören Peter Scott i en e-postintervju. "Vi kan i slutändan inte säkerställa kontrollerbarheten av AI lika mycket som vi kan säkerställa våra barns," sa han.
"Vi uppfostrar dem rätt och hoppas på det bästa; än så länge har de inte förstört världen. För att uppfostra dem väl behöver vi en bättre förståelse för etik; om vi inte kan städa vårt eget hus, vad kod ska vi be AI att följa?"
Men allt hopp är inte ute för människosläktet, säger AI-forskaren Yonatan Wexler, executive vice president of R&D på OrCam. "Även om framstegen verkligen är imponerande, är min personliga övertygelse att mänsklig intelligens inte bör underskattas", sa han i en e-postintervju. "Vi som art har skapat ganska fantastiska saker, inklusive AI själv."
Sökningen efter allt smartare AI fortsätter. Men det kan vara bättre att överväga hur vi kontrollerar våra skapelser innan det är för sent.
