Key takeaways
- En toppforskare säger att AI redan är medveten.
- Men andra AI-experter säger att datorer är långt ifrån att få kognitiva förmågor på mänsklig nivå, inklusive medvetande.
- Att avgöra om något är medvetet kan vara svårt.
Idén om medveten artificiell intelligens (AI) frammanar bilder av maskiner som tar över världen, men experter är oense om huruvida de ska ta konceptet på allvar.
En ledande AI-forskare hävdade nyligen att AI redan är smartare än vi tror. Ilya Sutskever, chefsforskaren för forskningsgruppen OpenAI, twittrade att "det kan vara så att dagens stora neurala nätverk är något medvetna." Men andra AI-experter säger att det är alldeles för tidigt att fastställa något sådant.
"För att vara medveten måste en enhet vara medveten om sin existens i sin miljö och att åtgärder den vidtar kommer att påverka dess framtid", sa Charles Simon, VD för FutureAI, till Lifewire i en e-postintervju. "Ingen av dessa finns i nuvarande AI."
Superhuman?
Sutskever har tidigare varnat för att supersmart AI kan orsaka problem. Intervjuad i AI-dokumentären iHuman sa han att avancerad AI kommer att "lösa alla problem som vi har idag" men varnade också för att de har "potentialen att skapa oändligt stabila diktaturer."
OpenAI grundades som en ideell organisation för att undvika riskerna med intelligenta datorer, men har också genomfört forskning för att skapa AI.
Medan många forskare har avfärdat Simons påstående att AI är medveten, har han åtminstone en välkänd försvarare. MIT datavetare Tamay Besiroglu försvarade Sutskever i en tweet.
"Att se så många framstående [maskininlärnings] människor förlöjliga den här idén är en besvikelse", skrev Besiroglu på Twitter. "Det gör mig mindre hoppfull om fältets förmåga att på allvar ta mig an några av de djupgående, konstiga och viktiga frågor som de utan tvekan kommer att ställas inför under de närmaste decennierna."
Vad är medvetande?
Även att avgöra om något är medvetet kan vara knepigt. AI-forskaren Sneh Vaswani sa till Lifewire i ett mejl att medvetandet har flera stadier. AI har gjort "anständiga inbrytningar" i de första stegen, sa han.
"Idag kan en maskin förstå känslor, bygga en personlighetsprofil och anpassa sig till en människas personlighet", tillade han. "När AI utvecklas, går den mot de avancerade stadierna av medvetande snabbare än vi ens kan förstå."
Det finns många definitioner av medvetande, och vissa skulle hävda att träd och myror är något medvetna, en idé som "sträcker definitionen bortom vanlig användning", sa Simon. Han hävdar att självmedvetenhet är förståelsen av en själv som en medveten enhet.
"Både medvetande och självmedvetenhet manifesteras i ett antal beteenden som att visa egenintresse men också i en inre känsla", sa Simon. "Om AI: er verkligen är medvetna kommer vi att kunna observera beteendena men kommer att ha liten kunskap om den inre sensationen. Det är möjligt att fejka medvetandet med ett bibliotek av medvetna beteenden som att hänvisa till sig själv som "jag", men en en verkligt medveten enhet kan planera och överväga flera resultat."
Vaswani är optimistisk om resultatet av att skapa supersmart AI även om Elon Musk är bland dem som har varnat för att medveten AI kan leda till mänsklighetens förstörelse.
"När AI får fullt medvetande, kommer det att fullborda ett "ofullständigt" samhälle: Människor och AI kommer att samexistera", sa Vaswani. "Vi kommer att uppnå större mål tillsammans, och AI kommer sömlöst att smälta in i vår värld."
Vissa AI-experter säger att själva konceptet med medveten AI är mer sci-fi än verkligheten. Problemet tenderar att överbetona robotar i "terminatorstil" och inte den verkliga potentiella skadan från partisk AI som redan finns, sa Triveni Gandhi, ansvarig AI-chef på AI-företaget Dataiku, i ett mejl till Lifewire.
"Vi kanske inte står inför nästa Ex Machina, men vi står inför några riktiga utmaningar", sa Gandhi. "Detta kan ses i missbruket av kraftigt partisk AI för att förutsäga sjukvårdskostnader, i rekryteringsverktyg som filtrerar bort meritförteckningar orättvist, eller i kreditlånemodeller som förstärker befintliga ojämlikheter."
AI är inte i sig bra eller dåligt, det är bara data som gör vad vi säger åt den att göra, hävdar Gandhi.
"Mänskliga fördomar hittar sin väg in i data- och maskininlärningsmodeller, så vi bör vara mycket tydliga med vilken data vi använder, varför vi väljer att använda AI i den egenskapen och hur valen sedan presenteras för människor påverkas av ett AI-system", tillade Gandhi.
