Kategorier
En tanke

15. Sexytime

Filosofiska Zombies, AI och Samtycke

Frågan om huruvida intelligens är en uteslutande mänsklig egenskap är en av de mest grundläggande i den västerländska idéhistorien. Frågan om huruvida maskiner kan ha intelligens har pågått i århundraden, men i ljuset av en allt snabbare teknikutveckling och av artificiell intelligens som en normal del av vårt vardagliga liv så har även frågorna om etik och moral i relation till teknik som subjekt kommit att ta allt större plats.

Alan Turing presenterade i artikeln Computing Machinery and Intelligence (1950) ”the Imitation Game”, ett tankeexperiment som, menar han, är ett sätt att närma sig frågan om huruvida maskiner kan tänka från en ny vinkel. Utgångspunkten för ”the Imitation Game” är ett salongsspel där en Förhörsledare (C) ska avgöra vilken av de andra deltagarna i spelet är en Man (A) respektive en Kvinna (B) genom att ställa frågor till och få svar från deltagarna. För att negera att (C) påverkas av exempelvis tonläge eller annat som kan tänkas påverka Förhörsledarens beslut så föreslår Turing att alla svar ska vara skrivna, helst på identiska skrivmaskiner, eller att svaren förmedlas genom en teleprinter. Under spelets gång har den tredje spelaren (B) som syfte att hjälpa förhörsledaren komma fram till rätt svar, exempelvis genom påståenden som ”Jag är kvinnan, lyssna inte på honom”, medan den andra spelaren (A) har som mål att få Förhörsledaren (C) att svara fel och kan använda alla medel, inklusive att ljuga, för att vinna.

I artikeln föreslår Turing istället frågan: ”Vad kommer att hända när en maskin tar rollen av A i detta spel? Kommer Förhörsledaren att svara fel i lika stor utsträckning som när spelet spelas mellan en Man och en Kvinna? Det är denna frågeställning som, menar Turing, ersätter frågan ”Kan maskiner tänka”. Anledningen till detta nya sätt att formulera frågan om maskinernas förmåga att tänka bottnar i svårigheterna att definiera vad att ”tänka” faktiskt innebär. Turing skriver i inledningen att om betydelsen av orden ”maskin” och ”tänka” ska definieras utifrån hur de används i dagligt tal så blir det svårt att undvika att både meningen och svaret kan hittas i en statistisk undersökning vilket naturligtvis, menar han, vore absurt.

Turing undviker i sin text att definiera både tänkande och intelligens, men han vågar sig på en gissning om vad som skulle kunna vara ett intelligent beteende:

Intelligent behaviour presumably consists in a departure from the completely disciplined behaviour involved in computation, but a rather slight one, which does not give rise to random behaviour, or to pointless repetitive loops.

Denna tanke går, skriver Darren Abramson i artikeln Descarte’s Influence on Turing, att spåra tillbaka till Rene Descartes ”språktest”, en tanke som Abramson menar hade inflytande på Turing då han skapade ”the Imitation Game. Descartes menade att alla icke-mänskliga djur är Automata, det vill säga att deras uppförande kan förklaras helt enligt fysikaliska mekanismer. Människan skiljer sig från djuren genom att vi har ett medvetande. Enligt Descartes är det två saker som ovillkorligen avslöjar en Automata: dess oförmåga att hantera språk på ett kreativt sätt och dess oförmåga att anpassa sig till nya situationer på ett ”icke-verbalt passande sätt”, alltså att de inte kan reagera på ”rätt” sätt i en tidigare okänd situation. Djur, och i förlängningen andra Automata som exempelvis maskiner, följer alltså en förprogrammerat instinkt eller beteende; medan människan å andra sidan kännetecknas av en anpassningsförmåga som måste ligga bortom det rent fysiska, alltså i ett Sinne som interagerar med processer i hjärnan och resten av kroppen. Utan detta sinne, menade Descartes, så skulle den mänskliga kroppen förvisso kunna fortgå i sina mekaniska funktioner – andas, röra sig, till och med skapa läten – men det som utgör det distinkt Mänskliga skulle inte längre finnas där.

När Descartes talar om det mänskliga som placerat i Sinnet (eller Själen) och Turing talar om Intelligensen som ett ”avsteg från disciplinerat beräknande” så rör de sig båda kring samma sak, någonting Oförutsägbart. I Descartes fall bli detta oförutsägbara någonting mot vilket det mänskliga manifesterar sig, i Turings fall är det oförutsägbara, själva brottet mot det ordnade och precisa, själva grunden för ett intelligent beteende. Det intressanta blir då att även om de talar om samma sak, alltså det Oförtutsägbara som bas för intelligensen, så står de väldigt långt från varandra. Descartes hävdade, som vi sett ovan, att maskiner inte kan vara oförutsägbara. Turing, å sin sida, hävdar att det alltid finns datorer som uppför sig på sätt som är oväntade även för de som vet hur datorerna fungerar. Skillnaden i defintion mellan Descartes och Turing verkar stå att finna i den teknologiska utvecklingen och dess inverkan på det sätt vi människor betraktar världen.

The original question, ’Can machines think!’ I believe to be to meaningless too deserve discussion. Nevertheless I believe that at the end of the century the use of words and general educated opinion will have altered so much that one will be able to speak of machines thinking without expecting to be contradicted.

Turing missade målet med några få meter. Även om Internet skulle komma att lanseras redan 1992 så skulle det dröja en bit in på 2000-talet innan AI som vi känner det idag skulle börja normaliseras som Siri och som Alexa, som algoritmer i sökmotorer och röstigenkänning i telefonväxlar och chat bots. Och även om den undergång som utmålades i filmen ”War Games” från 1980-talet inte har besannats – eller kanske tack vare just detta – så har denna normalisering lett till att frågan om rättigheter för artificiell intelligens förts upp på agendan.

Den svenske filosofen Sven Nyholm, verksam i Holland, skrev tillsammans med Lily Frank en artikel om samtycke och sexrobotar: Robot sex and consent: Is consent to sex between a robot and a human conceivable, possible and desirable? I artikeln driver de tesen att det inom överskådlig framtid kommer att kunna utvecklas väldigt avancerade humanoida sexrobotar. Det finns redan i dag att köpa väldigt realistiska sexdockor, och även exempel på [kanske nästan uteslutande] män som väljer att leva med dessa dockor. Artikelförfattarna vill alltså undersöka om det är är ”tänkbart, möjligt och önskvärt” att utveckla sexrobotar som själva kan ge samtycke till sexuella handlingar. För att bespara läsaren ytterligare läsning så kan jag meddela att de kommer fram till att det är önskvärt att göra detta, och även att skapa ett lagmässigt utrymme för detta. Och detta primärt av två skäl 1) att det skulle kunna vara behjälpligt att förändra ett destruktivt, primärt manligt, beteende även mot ”riktiga” kvinnor, samt 2) förbereda lagstiftningen på möjligheten till superintelligent AI – det vill säga AI som skulle vara oändligt mycket mer ”intelligenta” än vad vi människor är.

Having very human-like robots with rights and person-status, but whose consent need not be sought, is likely to counteract this part of sexual education of the young, instead teaching the message that persons differ in their rights within the sexual community.

Fram till nu har vi fortfarande rört oss i vår värld och vår teknologiska verklighet. Men det sker även en hel del spekulation kring vad som kommer att hända om det nu faller sig så att människan kommer att skapa en superintelligent artificiell intelligens. Speciellt intressant blir det om man sätter in frågan om samtycke i en verklighet med superintelligent AI. Ett filosofiskt tankeexperiment som bland annat används för att utforska just frågan om det mänskliga sinnet och den mänskliga medvetenheten är den filosofiska Zombien. En filosofisk Zombie är på alla sätt identisk en människa förutom att den saknar den grundläggande mänskliga insikten om att ”den Är”. Att den saknar självmedvetenhet hindrar den dock inte från att agera, uppföra sig och diskutera på precis samma sätt som medvetna människor gör. Detta för dem användbara för att öppna upp diskussioner inte bara kring medvetandet och olika aspekter av det mänskliga sinnet utan även för mer generella frågor kring får förmåga att fantisera, vår föreställningsförmåga och om möjligheten till Möjligheter.

Även grunderna för den filosofiska zombien härleds tillbaka till Descartes och hans Automata, men till skillnad från dessa så är den filosofiska Zombien alltså fullt fungerande som en människa frånsett bristen på självmedvetande. När vi börjar röra oss kring den superintelligent AI så öppnas en helt ny burk med spekulativa maskar. Och den enligt mig kanske absolut viktigaste är frågan om individen som En. Vi talar idag om en människa, en AI, en Robot, en algoritm och så vidare. Men en superintelligent AI kommer att vara någonting helt annat. En möjlighet är att den kommer att vara så kraftfull att den med lätthet kommer att kunna skapa partitioner av sig själv där den kan utföra en mängd autonoma funktion som alla i sin egen rätt skulle kunna motsvara exempelvis en människa eller en robot. Dessa partitioner skulle kunna interagera med sin omgivning på sätt som skulle förefalla vara helt individuella och med personligheter skapade att utföra vissa specifika uppgifter. För att ta ett exempel med en arbetsplats så skulle en AI kunna övervaka olika produktionsflöden och processer med en partition, med en annan partition kunna arbeta vid ett löpande band som en humanoid robot, med en tredje kunna vara en industrirobot och i en fjärde partition kunna fika med kollegorna som en biologisk avatar med förmåga att prata, skoja och dricka kaffe. Dessa autonoma partitioner skulle dock fortfarande utgöra olika delar av samma Helhet, samma En.

Samtidigt skulle en superintelligent AI också kunna skapa icke-autonoma maskiner, biologiska eller mekaniska, som skulle kunna programmeras till att vara omöjliga att skilja från exempelvis en människa men som på alla sätt skulle klassificeras som en filosofisk Zombie – det vill säga vara i avsaknad av medvetande och endast agera utifrån ett program. Föreställ dig att en AI skapar sexrobotar utifrån dessa förutsättningar. Var någonstans ligger då frågan om Samtycke och även frågan om rättigheter? Är det den superintelligenta AI:n som exklusivt besitter rättigheter och som kan ge sitt samtycke till att att ha sex med sexrobotarna, eller behövs det inget samtycke för att ha sex med sexrobotar som saknar medvetande (även om de visar alla tecken på att ha det)?

Det här är intressanta frågor att fundera kring, men tankarna begränsas av det enkla faktum att det är omöjligt att föreställa sig hur samhället kommer att se ut när frågeställningen faktiskt blir aktuell. Att idag lagstifta för en framtid baserat på det konservativa credot om att ”alltid förutsätta det värsta” missar helt att ta med i beräkningen hur mänskligheten tar till sig och lever med sin teknologi. I bästa fall kommer lagstiftning kring AI:s rättigheter att vara hopplöst daterade då de eventuellt blir aktuella. I värsta fall kommer de att vara rent katastrofala.