Ett tankeobjekt skapas i relation till vad det inte är
Den moderna tidens förbannelse, sa Hannah Arendt (dock med ganska många flera ord) är förgrumlingen av orden ”veta” och ”tänka”.
Naturvetenskaperna har nått fantastiska resultat som gjort det möjligt för mänskligheten som ett kollektiv att tillgodose sig en kraftigt ökad kunskap om både vår värld och om det universum i vilket vi lever. Samtidigt har denna ständiga sökan efter allt mer kunskap – begäret att ta reda på vad som Är eller Inte Är flyttat oss allt längre bort från förståelsen vad Vi är. Att veta vad någonting Är, säger Arendt, är bara det första steget mot att förstå de konsekvenser denna kunskap kan komma att få. Denna förståelse kan bara komma genom kontemplationen – det medvetna begrundandet av tingens betydelse.
Det som bekymrade henne mest var hur naturvetenskapernas exakthet migrerade över till andra vetenskapliga discipliner, som human- och socialvetenskaperna. Efter det Andra världskriget kom hon till insikt om att det traditionella sättet att skriva historia – som en händelsekedja av kausala sammanband – måste vara fel. För om denna syn på historieskrivning var rätt, sa Arendt, så måste Förintelsen ha varit förutbestämd och då bara ett steg på vägen mot mänsklighetens totala undergång. Istället för den traditionell, linjär historieskrivning talade hon om en historia som ständigt föränderlig och under oavbruten utveckling; där historiska händelser inte är definitiva vändpunkter för människor och nationer utan istället blir till talpunkter i det mellanmänskliga samtal som formar vår gemensamma värld.
[it’s] midnight in the dark ages just the thickness of a book away, the thickness of a skull away; just the turn of a page away.
Iain Banks – State of the Art.
Detta samtal, menar Arendt, är trans-temporärt; det är ständigt fortgående över tid och talpunkterna ligger och väntar på att lyftas och diskuteras, och stötas och blötas av kommande generationer. generationer. Genom att plocka upp en bok kan vi ta del av idéer och tankar från människor som varit döda i tusentals år och sätta dem i vår egen kontext och använda dem som bas för vårt vidare tänkande som argument för, eller en varning mot – eller bara som ett exempel. Litteratur, musik, konst, poesi – de är alla manifestationer av det mänskliga tänkandet och de har lika stor betydelse för det ständigt pågående mänskliga samtalet som historiska händelser som slagen om Midway eller Trafalgar, Förintelsen eller det som skedde i Washington D.C den 6 januari 2021. Skillnaden mellan de olika kategorierna är att där de senare exemplen kommit att definiera nationers officiella historia så har de förstnämnda en direkt verkan på den individuella människan, om den är villig att se, och genom individen öppnas vägen till resten av det samtida samhället. Arendt talar om en antik staty eller ett klassiskt mästerverks tidlösa skönhet, den inneboende kraften i en väl framförd berättelse i en bok- eller på en teaterscen, eller de direkta, råa känslor som kan väckas av en dikt. Alla dessa är samtidigt objekt i sig själva, men också början på helt nya samtalsämnen i mänsklighetens ständiga samtal.
Men det är inte ett samtal för alla. Det krävs att en gör ett aktivt val att delta, säger Arendt, för det kan vara en farlig – rent våldsam – aktivitet. Genom att öppna sig själv för nya intryck, åsikter och diskussioner så kommer du ovillkorligen att förgöras. Människans utveckling är en våldsam process. Så fort vi låter oss påverkas av källor utanför oss själva så börjar förstörelsen och vi finner oss inblandad i en strid med oss själva, våra åsikter och våra ståndpunkter. Och det är genom detta förändringen kommer. Upplevelsen kan mycket väl förankra vissa av våra tidigare övertygelser än djupare i oss, men ytterligare andra kommer att stryka på foten då vi skapar nya perspektiv på och till världen.
There is only darkness, starless and complete. The waves glitter like a million dull knives.
Iain Banks – The Bridge
I naturvetenskapens värld så kommer undergången med Den Stora Tystnaden då universum är utsträckt nog för att det enda som återstår är ett tomt utrymme med temperaturer en fraktion över den absoluta nollpunkten, där ingen rörelse längre kan ske. Mänsklighetens död, säger Arendt, kommer i den totala konformiteten – en värld där alla tycker, tänker och gör likadant. Det enda sättet att säkerställa att detta inte sker är att fortsätta det mänskliga samtalet. Så: läs en bok, knäpp ett kort, måla en tavla, skriv en text, sjung som om ditt liv hänger på att du kan framföra en berusad version av Culture Beats Mr. Vain!
Det viktiga är att finna sitt eget sätt att mota känslan av meningslöshet i grind och att hitta sin egen plattform för att delta i det mellanmänskliga samtalet – på sina egna villkor.
Elon Musk, techentreprenören bakom samtidens kanske mest kända techbolag Tesla och SpaceX, är på ett sätt förkroppsligandet av den variant av den progressiva teknologiska utvecklingstanken som uppstod i den tävlingsinriktade kulturen kring Stanford University och Silicon Valley i den första rymdkapplöpningens efterdyningar. Att utveckla, förfina och återanvända befintlig teknik på nya, innovativa sätt har blivit något av hans signum. Och han uppvisar samma intellektuella flexibilitet i sin relation till populärkultur – i medierna citerar han klassisk science fiction, klipper, klistrar och anpassar populärkulturella referenser efter sina behov. I den här artikeln vill jag lyfta fram ett perspektivskifte i Elon Musks tekniksyn, framför allt i relationen till artificiell intelligens (AI) som, vill jag hävda, uppstår efter han läst författaren Iain M. Banks i december 2014.
»Also dig Mass Effect. It’s all fun & games until the AI decides people suck. Maybe we can be their limbic system.« Orden är från en tweet publicerad av Elon Musk i april 2012, där han relaterar riskerna med AI till den populära tv-spelstrilogin Mass Effect. I trilogins avslutande del utvecklar the Catalyst – den AI som är spelseriens övergripande antagonist – det Musk insinuerar i sin tweet:
Organics create synthetics to improve their own existence, but those improvements have limits. To exceed those limits, synthetics must be allowed to evolve. They must, by definition, surpass their creators. The result is conflict, destruction, chaos. It is inevitable.[1]
Denna tanke, att teknikutvecklingen kommer att sätta den slutgiltiga punkten för mänsklighetens historia, är inte ny. Det som blir känt som konceptet teknologisk singularitet eller, kort och gott, singulariteten tillskrivs redan 1958 fysikern John von Neumann (1904–1957) av kollegan Stanislaw Ulam (1909–1984). I en dödsruna över von Neumann erinrar Ulam ett samtal där von Neumann ska ha sagt att de tekniska framstegen på sikt skulle kunna leda till en »essential singularity«, bortom vilken människans angelägenheter, som vi kan förstå dem, inte längre kan fortgå. [2] John von Neumans lösa resonemang, där frågor som när, var eller hur denna singularitet kommer att uppstå lämnas öppna, gör att ämnet lämpar sig särskilt väl för två typer av kreativ spekulation: akademisk debatt och science fiction. Det är i dessa grumliga vatten mellan vetenskap och populärkultur som Elon Musk har sin naturliga hemvist.
Den 26 december 2014 publicerar Musk ännu ett AI-kritiskt inlägg: »Reading The Culture Series by Banks. Compelling picture of a grand, semi-utopian galactic future. Hopefully not too optimistic about AI«. [3] Den Banks som Musk twittrar om är den skotska författaren Iain M. Banks (1954–2013), känd för både sin surrealistiska prosa och sina storslagna science fiction-romaner. Nio av dem utspelar sig i eller omkring den galaxomspännande civilisationen the Culture. [4] När den första boken i serien, Consider Phlebas, publiceras 1987 bryter Banks med den rådande trenden inom science fiction. I till exempel William Gibsons Neuromancer (1984), Philip K. Dicks Do androids dream of electric sheep? (1968), samt serier som Battlestar Galactica (1978–1979), berättas om en dystopisk framtid där mänskligheten rör sig allt närmare singulariteten och mänsklighetens undergång. Banks berättelser är mer teknikoptimistiska.
Consider Phlebas utspelar sig i periferin av det pågående kriget mellan the Culture och the Idrians. Kriget är skoningslöst. Miljarder medborgare i de båda civilisationerna har dött. Planeter och hela stjärnor har förintats i en konflikt som bottnar i en skillnad i tekniksyn. The Idrians kämpar för sin religion som fundamentalt motsätter sig allt syntetiskt liv, särskilt artificiell intelligens. Medan the Culture – i vilken AI är en absolut grundläggande förutsättning – kämpar för sin rätt att existera.
Hos Banks the Culture är inte artificiell intelligens det existentiella hot som Musk vill utmåla. I stället är AI grunden för en ny och spännande framtid. Genom att göra AI till en konstituerande del av the Culture går Banks tillbaka till von Neumanns och Ulams tanke om singulariteten som en fundamentalt samhällsförändrande händelse. I Banks universum är det inte utvecklandet av självmedveten AI som är singulariteten – mängder av civilisationer runt om i galaxen har tidigare lyckats med detta. I stället är det erkännandet av AI som fullvärdiga medborgare, med samma rättigheter och skyldigheter som de biologiska medborgarna, som ändrar förutsättningarna i grunden. Tillskrivningen av rättigheter till AI sker ungefär samtidigt som mänskligheten utvecklar tekniken att lämna sin planetbundna existens och ta sig ut i galaxen. Denna migration möjliggörs genom ett jämställt samarbete mellan människa och AI – ett samarbete som handlar om att säkerställa de båda livsformernas gemensamma överlevnad i en ogästvänlig galax. [5]
23 januari 2015, lite drygt en månad efter att Musk twittrade om hur han börjat läsa Iain M. Banks och hoppas att böckerna inte ska vara för positivt inställda till AI, publicerar han två tweets i snabb följd. Först: »Repairs almost done on the spaceport drone ship and have given it the name ’Just Read the Instructions’.« [6] Följt av: »…in honor of IMB. RIP.« [7] Musks inställning har nu, som vi ska se i det följande, förändrats radikalt.
I the Culture skapas ett nytt så kallat Mind delvis genom design. Alla Minds får grundläggande egenskaper som till viss del är anpassade efter sina syften – ett Mind som ska placeras i ett rymdskepp har exempelvis vissa skillnader i grundläggande funktionalitet mot ett som ska placeras i en rymdstation. Programmeringen är dock medvetet ofullständig och en viktig del av ett Minds mognadsprocess är att skriva sin egen programmering, vilket bidrar till att skapa en individuell personlighet. När de slutligen är redo att placeras i en kropp väljer de sitt eget namn. »Just Read the Instructions«, som Musk refererar till i tweeten, är namnet på ett Mind från boken The Player of Games, den andra boken i Banks the Culture-serie. Något senare ska SpaceX andra drone ship komma att namnges till »Of Course I Still Love You« efter ett annat Mind från samma bok. Att Elon Musk, med sin tidigare negativa hållning till artificiell intelligens, väljer att namnge flytande autonoma landningsplattformar efter superintelligenta artificiella intelligenser från Banks är värt att notera. När Musk refererar till Banks böcker kan det läsas som att han att börjat betrakta frågan från en ny position. I och med läsandet av Banks verkar det som att en möjlig väg till samexistens med AI öppnas för Musk. Ytterligare några månader senare, i december 2015, blir Musk en av medgrundarna till OpenAI – ett icke vinstdrivande forskningsprojekt som genom att dela med sig av sina forskningsresultat vill motverka att ett land eller företag får exklusiv tillgång till artificiell intelligens.
Att Elon Musk, med sin tidigare negativa hållning till artificiell intelligens, väljer att namnge flytande autonoma landningsplattformar efter superintelligenta artificiella intelligenser från Banks är värt att notera
Lika självklart som AI i Banks the Culture är tekniken som möjliggör både direkt kommunikation mellan människa och maskin, och uppladdningen – eller kopierandet – av det mänskliga medvetandet. Kommunikationen kan ske på flera sätt, bland annat genom ett neurologiskt implantat, ett så kallat »neural lace«. I boken Excession från 1996 nämns konceptet neural lace för första gången. En av protagonisterna, Ulver Seich, känner en viss stolthet över att inte ha gjort några modifikationer sin kropp: »it was a matter of some pride to Ulver that she had never had any form of physical alteration carried out (well, apart from the neural lace of course, but that didn’t count).« [8] Något senare i samma bok försöker en annan av karaktärerna, Leffid Inspanteli, desperat komma ihåg namnet på sin sexpartner. Han har tagit beslutet att under en månad leva utan sin neural lace, vilket leder till oanade konsekvenser:
It was oddly liberating to have to ask things or people for information and not know precisely what the time was and where he was located in the habitat. But it also meant that he was forced to rely on his own memory for things like people’s names. And how imperfect was the unassisted human memory (he’d forgotten)! [9]
Från att först vara ett medel för att främja kommunikation mellan de biologiska och syntetiska medborgarna i the Culture kommer neural lace användningsområden att utvecklas under bokserien, och bli till en teknologi med möjlighet att säkerhetskopiera även en biologisk livsform. Det är något som sker frekvent i de senare böckerna om the Culture, där människor väljer att ladda upp sig själva till en virtuell verklighet eller bara helt enkelt välja att låta sig lagras för att vid ett senare tillfälle laddas ned i en ny kropp. I the Culture har en »slutgiltig« död förvandlats till ett aktivt val – eller resultatet av extrem klantighet.
I juni 2016 publicerar Musk ytterligare en tweet: »Creating a neural lace is the thing that really matters for humanity to achieve symbiosis with machines.« [10] Några veckor innan var Musk med i ett samtal vid den exklusiva konferensen Code Conference 2016:
The solution that seems maybe the best one is to have an AI-layer… if you think about your limbic system, your cortex, and a digital layer above the cortex… that… could work well […] and symbiotically with you, just like your cortex works symbiotically with your limbic system […] your third digital layer could work symbiotically with the rest of you. [11]
Det grundläggande problemet, menar Musk, handlar om människans bandbredd – input och output – alltså vår förmåga att skicka och ta emot information. Han hävdar att mänskligheten redan är cyborger – vi har redan en digital version av oss själva online genom e-mail, sociala medier och andra avtryck vi lämnar i den virtuella världen. Genom våra datorer och smarta telefoner har vi i praktiken redan superkrafter, säger han och fortsätter: »you have more power in your phone, than the president of the United States had twenty years ago.« [12] Vår begränsning som art ligger i input/output – speciellt output, menar Musk, och ger exemplet hur vi använder våra tummar för att skriva på våra smartphones, en process som är väldigt långsam. Vår förmåga till input är mycket bättre då våra ögon utgör en »high bandwith visual interface«, det vill säga att vi kan processa det vi ser väldigt effektiv. Genom att förena mänskligheten symbiotiskt med en digital intelligens så kommer vi att få bukt med denna input/output-begränsning, menar han, och även här använder han Banks begrepp neural lace för att beskriva tekniken som ska möjliggöra symbiosen. [13]
Två år efter att Elon Musk börjat läsa Iain M. Banks har han alltså startat två företag som arbetar direkt med utvecklandet av AI
I juli 2016 är Elon Musk en av grundarna till företaget Neuralink – ett neurotechföretag som ska utveckla »implantable brain–machine interfaces (BMI)«. Inledningsvis är syftet med Neuralink att hjälpa förlamade återfå en grad av oberoende genom att ge dem direkt kontroll över datorer och mobiltelefoner. Detta ska ske genom en direkt länk mellan den mänskliga hjärnan och vardagsteknologi. Företagets långsiktiga mål är, skriver de på sin hemsida, att utveckla BMI som är så säkra att även friska individer kommer att vilja använda tekniken. [14]
Två år efter att Elon Musk börjat läsa Iain M. Banks har han alltså startat två företag som arbetar direkt med utvecklandet av AI och teknik för att möjliggöra en symbiotisk interaktion mellan människan och artificiell intelligens. Där Musk före december 2014 fokuserade på det existentiella hot som AI potentiellt kan utgöra mot mänskligheten, så visar han i juli 2016 tydliga tecken på att ha genomgått ett skifte mot en mer pragmatisk »if we can’t beat them, join them«-mentalitet i relationen till AI. Att Musk ska komma att påverkas så mycket av en science fiction-författare är inte förvånande. Den person som vi känner som Elon Musk är i så hög grad själv en skapelse av populärkulturen att han nu i praktiken inte kan betraktas som något annat än ett populärkulturellt objekt. Musks relation till Banks är ett tydligt exempel på hur han existerar i symbios med populärkulturen – en relation där stora summor kan intjänas eller gå förlorade på ett ögonblick om han röker en joint i en podcast, eller publicerar en tweet. Det är också detta som gör Musk till ett intressant studieobjekt. Han är på gott och ont både en manifestation av en tekniksyn – den teknologiska framstegsoptimismen – och en möjlighet att i realtid uppleva hur populärkulturen påverkar, och påverkas av, sin samtid.
Denna artikel har tidigare publicerats i det första numret av Tidskriften Idé, en studenttidning utgiven vid Göta Studentkår. Besök den gärna och läs fler intressanta artiklar!
