I det senaste numret (i butik 5 juni) av magasinet Sans (fritanke) har jag en artikel som är en omarbetning av ett tidigare blogginlägg. Köp gärna tidningen, läs artikeln och återkom med kommentarer.
Många tack till redaktionen på Sans för hjälp med redigering och kommentarer.
Elon Musk, techentreprenören bakom samtidens kanske mest kända techbolag Tesla och SpaceX, är på ett sätt förkroppsligandet av den variant av den progressiva teknologiska utvecklingstanken som uppstod i den tävlingsinriktade kulturen kring Stanford University och Silicon Valley i den första rymdkapplöpningens efterdyningar. Att utveckla, förfina och återanvända befintlig teknik på nya, innovativa sätt har blivit något av hans signum. Och han uppvisar samma intellektuella flexibilitet i sin relation till populärkultur – i medierna citerar han klassisk science fiction, klipper, klistrar och anpassar populärkulturella referenser efter sina behov. I den här artikeln vill jag lyfta fram ett perspektivskifte i Elon Musks tekniksyn, framför allt i relationen till artificiell intelligens (AI) som, vill jag hävda, uppstår efter han läst författaren Iain M. Banks i december 2014.
»Also dig Mass Effect. It’s all fun & games until the AI decides people suck. Maybe we can be their limbic system.« Orden är från en tweet publicerad av Elon Musk i april 2012, där han relaterar riskerna med AI till den populära tv-spelstrilogin Mass Effect. I trilogins avslutande del utvecklar the Catalyst – den AI som är spelseriens övergripande antagonist – det Musk insinuerar i sin tweet:
Organics create synthetics to improve their own existence, but those improvements have limits. To exceed those limits, synthetics must be allowed to evolve. They must, by definition, surpass their creators. The result is conflict, destruction, chaos. It is inevitable.[1]
Denna tanke, att teknikutvecklingen kommer att sätta den slutgiltiga punkten för mänsklighetens historia, är inte ny. Det som blir känt som konceptet teknologisk singularitet eller, kort och gott, singulariteten tillskrivs redan 1958 fysikern John von Neumann (1904–1957) av kollegan Stanislaw Ulam (1909–1984). I en dödsruna över von Neumann erinrar Ulam ett samtal där von Neumann ska ha sagt att de tekniska framstegen på sikt skulle kunna leda till en »essential singularity«, bortom vilken människans angelägenheter, som vi kan förstå dem, inte längre kan fortgå. [2] John von Neumans lösa resonemang, där frågor som när, var eller hur denna singularitet kommer att uppstå lämnas öppna, gör att ämnet lämpar sig särskilt väl för två typer av kreativ spekulation: akademisk debatt och science fiction. Det är i dessa grumliga vatten mellan vetenskap och populärkultur som Elon Musk har sin naturliga hemvist.
Den 26 december 2014 publicerar Musk ännu ett AI-kritiskt inlägg: »Reading The Culture Series by Banks. Compelling picture of a grand, semi-utopian galactic future. Hopefully not too optimistic about AI«. [3] Den Banks som Musk twittrar om är den skotska författaren Iain M. Banks (1954–2013), känd för både sin surrealistiska prosa och sina storslagna science fiction-romaner. Nio av dem utspelar sig i eller omkring den galaxomspännande civilisationen the Culture. [4] När den första boken i serien, Consider Phlebas, publiceras 1987 bryter Banks med den rådande trenden inom science fiction. I till exempel William Gibsons Neuromancer (1984), Philip K. Dicks Do androids dream of electric sheep? (1968), samt serier som Battlestar Galactica (1978–1979), berättas om en dystopisk framtid där mänskligheten rör sig allt närmare singulariteten och mänsklighetens undergång. Banks berättelser är mer teknikoptimistiska.
Consider Phlebas utspelar sig i periferin av det pågående kriget mellan the Culture och the Idrians. Kriget är skoningslöst. Miljarder medborgare i de båda civilisationerna har dött. Planeter och hela stjärnor har förintats i en konflikt som bottnar i en skillnad i tekniksyn. The Idrians kämpar för sin religion som fundamentalt motsätter sig allt syntetiskt liv, särskilt artificiell intelligens. Medan the Culture – i vilken AI är en absolut grundläggande förutsättning – kämpar för sin rätt att existera.
Hos Banks the Culture är inte artificiell intelligens det existentiella hot som Musk vill utmåla. I stället är AI grunden för en ny och spännande framtid. Genom att göra AI till en konstituerande del av the Culture går Banks tillbaka till von Neumanns och Ulams tanke om singulariteten som en fundamentalt samhällsförändrande händelse. I Banks universum är det inte utvecklandet av självmedveten AI som är singulariteten – mängder av civilisationer runt om i galaxen har tidigare lyckats med detta. I stället är det erkännandet av AI som fullvärdiga medborgare, med samma rättigheter och skyldigheter som de biologiska medborgarna, som ändrar förutsättningarna i grunden. Tillskrivningen av rättigheter till AI sker ungefär samtidigt som mänskligheten utvecklar tekniken att lämna sin planetbundna existens och ta sig ut i galaxen. Denna migration möjliggörs genom ett jämställt samarbete mellan människa och AI – ett samarbete som handlar om att säkerställa de båda livsformernas gemensamma överlevnad i en ogästvänlig galax. [5]
23 januari 2015, lite drygt en månad efter att Musk twittrade om hur han börjat läsa Iain M. Banks och hoppas att böckerna inte ska vara för positivt inställda till AI, publicerar han två tweets i snabb följd. Först: »Repairs almost done on the spaceport drone ship and have given it the name ’Just Read the Instructions’.« [6] Följt av: »…in honor of IMB. RIP.« [7] Musks inställning har nu, som vi ska se i det följande, förändrats radikalt.
I the Culture skapas ett nytt så kallat Mind delvis genom design. Alla Minds får grundläggande egenskaper som till viss del är anpassade efter sina syften – ett Mind som ska placeras i ett rymdskepp har exempelvis vissa skillnader i grundläggande funktionalitet mot ett som ska placeras i en rymdstation. Programmeringen är dock medvetet ofullständig och en viktig del av ett Minds mognadsprocess är att skriva sin egen programmering, vilket bidrar till att skapa en individuell personlighet. När de slutligen är redo att placeras i en kropp väljer de sitt eget namn. »Just Read the Instructions«, som Musk refererar till i tweeten, är namnet på ett Mind från boken The Player of Games, den andra boken i Banks the Culture-serie. Något senare ska SpaceX andra drone ship komma att namnges till »Of Course I Still Love You« efter ett annat Mind från samma bok. Att Elon Musk, med sin tidigare negativa hållning till artificiell intelligens, väljer att namnge flytande autonoma landningsplattformar efter superintelligenta artificiella intelligenser från Banks är värt att notera. När Musk refererar till Banks böcker kan det läsas som att han att börjat betrakta frågan från en ny position. I och med läsandet av Banks verkar det som att en möjlig väg till samexistens med AI öppnas för Musk. Ytterligare några månader senare, i december 2015, blir Musk en av medgrundarna till OpenAI – ett icke vinstdrivande forskningsprojekt som genom att dela med sig av sina forskningsresultat vill motverka att ett land eller företag får exklusiv tillgång till artificiell intelligens.
Att Elon Musk, med sin tidigare negativa hållning till artificiell intelligens, väljer att namnge flytande autonoma landningsplattformar efter superintelligenta artificiella intelligenser från Banks är värt att notera
Lika självklart som AI i Banks the Culture är tekniken som möjliggör både direkt kommunikation mellan människa och maskin, och uppladdningen – eller kopierandet – av det mänskliga medvetandet. Kommunikationen kan ske på flera sätt, bland annat genom ett neurologiskt implantat, ett så kallat »neural lace«. I boken Excession från 1996 nämns konceptet neural lace för första gången. En av protagonisterna, Ulver Seich, känner en viss stolthet över att inte ha gjort några modifikationer sin kropp: »it was a matter of some pride to Ulver that she had never had any form of physical alteration carried out (well, apart from the neural lace of course, but that didn’t count).« [8] Något senare i samma bok försöker en annan av karaktärerna, Leffid Inspanteli, desperat komma ihåg namnet på sin sexpartner. Han har tagit beslutet att under en månad leva utan sin neural lace, vilket leder till oanade konsekvenser:
It was oddly liberating to have to ask things or people for information and not know precisely what the time was and where he was located in the habitat. But it also meant that he was forced to rely on his own memory for things like people’s names. And how imperfect was the unassisted human memory (he’d forgotten)! [9]
Från att först vara ett medel för att främja kommunikation mellan de biologiska och syntetiska medborgarna i the Culture kommer neural lace användningsområden att utvecklas under bokserien, och bli till en teknologi med möjlighet att säkerhetskopiera även en biologisk livsform. Det är något som sker frekvent i de senare böckerna om the Culture, där människor väljer att ladda upp sig själva till en virtuell verklighet eller bara helt enkelt välja att låta sig lagras för att vid ett senare tillfälle laddas ned i en ny kropp. I the Culture har en »slutgiltig« död förvandlats till ett aktivt val – eller resultatet av extrem klantighet.
I juni 2016 publicerar Musk ytterligare en tweet: »Creating a neural lace is the thing that really matters for humanity to achieve symbiosis with machines.« [10] Några veckor innan var Musk med i ett samtal vid den exklusiva konferensen Code Conference 2016:
The solution that seems maybe the best one is to have an AI-layer… if you think about your limbic system, your cortex, and a digital layer above the cortex… that… could work well […] and symbiotically with you, just like your cortex works symbiotically with your limbic system […] your third digital layer could work symbiotically with the rest of you. [11]
Det grundläggande problemet, menar Musk, handlar om människans bandbredd – input och output – alltså vår förmåga att skicka och ta emot information. Han hävdar att mänskligheten redan är cyborger – vi har redan en digital version av oss själva online genom e-mail, sociala medier och andra avtryck vi lämnar i den virtuella världen. Genom våra datorer och smarta telefoner har vi i praktiken redan superkrafter, säger han och fortsätter: »you have more power in your phone, than the president of the United States had twenty years ago.« [12] Vår begränsning som art ligger i input/output – speciellt output, menar Musk, och ger exemplet hur vi använder våra tummar för att skriva på våra smartphones, en process som är väldigt långsam. Vår förmåga till input är mycket bättre då våra ögon utgör en »high bandwith visual interface«, det vill säga att vi kan processa det vi ser väldigt effektiv. Genom att förena mänskligheten symbiotiskt med en digital intelligens så kommer vi att få bukt med denna input/output-begränsning, menar han, och även här använder han Banks begrepp neural lace för att beskriva tekniken som ska möjliggöra symbiosen. [13]
Två år efter att Elon Musk börjat läsa Iain M. Banks har han alltså startat två företag som arbetar direkt med utvecklandet av AI
I juli 2016 är Elon Musk en av grundarna till företaget Neuralink – ett neurotechföretag som ska utveckla »implantable brain–machine interfaces (BMI)«. Inledningsvis är syftet med Neuralink att hjälpa förlamade återfå en grad av oberoende genom att ge dem direkt kontroll över datorer och mobiltelefoner. Detta ska ske genom en direkt länk mellan den mänskliga hjärnan och vardagsteknologi. Företagets långsiktiga mål är, skriver de på sin hemsida, att utveckla BMI som är så säkra att även friska individer kommer att vilja använda tekniken. [14]
Två år efter att Elon Musk börjat läsa Iain M. Banks har han alltså startat två företag som arbetar direkt med utvecklandet av AI och teknik för att möjliggöra en symbiotisk interaktion mellan människan och artificiell intelligens. Där Musk före december 2014 fokuserade på det existentiella hot som AI potentiellt kan utgöra mot mänskligheten, så visar han i juli 2016 tydliga tecken på att ha genomgått ett skifte mot en mer pragmatisk »if we can’t beat them, join them«-mentalitet i relationen till AI. Att Musk ska komma att påverkas så mycket av en science fiction-författare är inte förvånande. Den person som vi känner som Elon Musk är i så hög grad själv en skapelse av populärkulturen att han nu i praktiken inte kan betraktas som något annat än ett populärkulturellt objekt. Musks relation till Banks är ett tydligt exempel på hur han existerar i symbios med populärkulturen – en relation där stora summor kan intjänas eller gå förlorade på ett ögonblick om han röker en joint i en podcast, eller publicerar en tweet. Det är också detta som gör Musk till ett intressant studieobjekt. Han är på gott och ont både en manifestation av en tekniksyn – den teknologiska framstegsoptimismen – och en möjlighet att i realtid uppleva hur populärkulturen påverkar, och påverkas av, sin samtid.
Denna artikel har tidigare publicerats i det första numret av Tidskriften Idé, en studenttidning utgiven vid Göta Studentkår. Besök den gärna och läs fler intressanta artiklar!