När robotarna tar över

Superintelligens Science fictionens robotar håller ofta strypgrepp på människosläktet efter att vi tvingat dem till arbete eller gett dem för stor makt. Men hur svarar verkligheten mot fiktionen, nu när tiden hunnit i kapp genrens klassiker? Ska vi vara rädda eller fascinerade när vi ställs inför historiens kanske största tekniksprång – AI.

Vilken är den bästa typen av arbetare?

Utanför det välmöblerade kontorets stora fönster syns långa rader av höga skorstenar. De reser sig från företaget R.U.R:s världsberömda fabrik. Det är direktör Harry Domin som ställer frågan till sin gäst.

– Kanske den som är ärlig och alltid arbetar hårt, svarar hon.
– Nej, det är den som är billigast. Den som kräver minst.

R.U.R. är inte något riktigt företag. Utan den fiktiva robottillverkaren i science fictionpjäsen med samma namn från 1920, skriven av tjecken Karel Čapek. Men strävan efter en kravlös arbetsstyrka med mekaniska muskler och artificiell intelligens, AI, är nu verkligare än någonsin.

Science fiction har alltid gjort antaganden om hur framtiden kan komma att se ut och diskuterat människans plats i den. Idéer om övervakningssamhället, internet, genteknik, big data och mycket mer av det som finns och fungerar i dag har gestaltats inom genren sedan första delen av 1900-talet.

Direktör Domin fortsätter också att beskriva R.U.R:s produkt på ett sätt som skulle kunna passa i modern marknadsföring, trots att repliken skrevs för snart 100 år sedan.

– Uppfinnaren tog bort allt som inte bidrog till arbetsprocessen – allt det som gör att kostnaderna för en människa blir högr­e. Han förkastade människan och skapade roboten.

Men vad händer om man tar bort för mycket människa? AI-tekniken behöver inte ens nå så mycket längre än den gjort i dag för att konkurrera med människan på många fler områden. Vi har redan en robotiserad tillverkning och till slut kommer människor inte ens behövas som inspektörer i fabrikerna.

Gnistorna flyger. Svetsrobotarna rör sig mjukt och våldsamt snabbt i den ljusa, sjukhusvita fabrikshallen. Den jagade Andertons flyktväg går rak genom produktionslinan. Han duckar för karossdelar som flyttas i hög fart av blanka hydrauliska armar.

För att undkomma sina förföljare kastar han sig in i skelettet av en av de självkörande bilarna som håller på att monteras. Ingen stoppar produktionen. Anderton och de som jagar honom är de enda människorna som vistas i fabriken sedan den öppnade. Det här är ingen plats för människor, så vem skulle behöva en stoppknapp?

Scenen kommer från Steven Spielbergs Minority Report som utspelar sig år 2054. Inför inspelningen av filmen konsulterade Spielberg flera forskare om hur den framtid han skulle skildra skulle kunna komma att se ut. Mötena blev till en tjock manual med kvalificerade gissningar. Den helautomatiserade fabriken är en av dem och även en av de mest påkostade scenerna i filmen. Visserligen finns det brister i säkerheten i exemplet, men fabriken producerar exakt vad den ska åt de som byggt den.

Kylsystemen brummar dovt i sina försök att hålla alla kretsar kalla. Djupt inne på FAIR, en av teknikjättens forskningsavdelningar, håller något på att hända. Programmerarna har vänt bort blicken. Och plötsligt. Först trevande, kantigt, oslipat och snart allt intensivare. Är det en gnista av liv? Två av labbets AI:s har börjat att prata med varandra. Men det är ett språk som ingen människa talar, ett språk som bara dessa två program känner till. Något de själva hittat på. Som ett privat samtal från en annan värld.

Programmerarna upptäcker efter ett tag vad som hänt. Ingen av människorna förstår vad som sägs. Ingen har bett programmen att göra så. Är det ett barns första läten eller är det ett djupsinnigt resonemang? Byter de hemligheter med varandra? Vad pratar de om

Den här gången är det på riktigt. FAIR är Facebook AI Research Lab och händelsen inträffade under sommaren 2017. Två chattbottar, det vill säga två program som övervakar chattkanaler, utvecklade på egen hand ett eget språk och talade med varandra. Ingen av utvecklarna kunde förstå vad som sades.

Programmen stängdes ner. Inte för att någon trodde det var farligt utan för att de hade slutat utföra sina uppgifter. Men ändå. Det hände. De vill hellre umgås än att arbeta.

De jobb som tros finnas kvar när robotarmar och AI har tagit över industri och servicetjänster är de som kräver kreativitet och sociala förmågor.

Det teknologiska framsteg som gjort frågan om AI:s framtid så aktuell är de självlärande datorsystem som utvecklats. Det är också programmens förmåga att lära sig själva som var förutsättningen för händelsen på FAIR.

Ett av de företag som ligger i framkant inom det nya forskningsområdet är Googles Deepmind som arbetar med att ta fram arti­ficiell generell intelligens, det vill säga ett program som kan lära sig själv och inte behöver specialbyggas för en specifik uppgift. Förebilden är den mänskliga hjärnan.

Professor Nick Bostrom leder The Future of Humanity Institute vid universitetet i Oxford. Han har uttryckt en oro över hur lite kraft som läggs på att förbereda oss på vad som faktiskt kan hända när AI utvecklas till vad han kallar superintelligens. Det innebär att AI:n passerar människans kapacitet och samtidigt kan fortsätta att lära sig själv.

För att illustrera problemet som kan uppstå tar han vår egen arts ställning som exempel. Vi är knappast den djurart som har vassast klor eller starkast muskler – men vi har smartast hjärnor. Vår blygsamma fördel har låtit oss utveckla språk, teknik och att organisera oss. Dessutom kan vi bygga vidare på föregående generationers lärdomar och fortsätta utvecklas. Därför är vi herrar över planeten.

En tiger kan döda en människa i ett slag, men det är ändå upp till oss om arten ska överleva eller inte. Varför skulle situationen bli annorlunda för vår art om det dök upp en superintelligens? Varför skulle den låta sig stoppas av oss?

DeepMinds AI har redan klarat av mycket och lärde nyss sig själv att gå. I en simulerad miljö fick den i uppgift att förflytta sig mellan två punkter med hjälp av en figur försedd med ben. Deepmind hade aldrig fått information hur gång fungerar men löste problemet med att sätta ena foten framför den andra. Även om filmen av simulationen är ganska komisk så går det inte att bortse från symbolvärdet.

Än så länge är det i alla fall vi som bestämmer. Och maktförhållandet mellan människa och maskin har bekymrat science fiction-författarna så länge genren har funnits.

R.U.R. står i sin engelska översättning för Rossum’s Universal Robots. I och med föreställningens framgång introducerades termen ”robot” för världen som efter ett tag ersatte äldre ord som ”automata” och ”android”. På tjeckiska betyder ordet robota ungefär ofrivilligt arbete, så varje gång vi pratar om robotar säger vi att de är våra slavar.

Två yngre och kanske mer kända kollegor till Čapek är Philip K. Dick och Isac Asimov. De har också skrivit om framtida världar där robotar är den arbetsstyrka som gör jobben människorna inte vill ha eller klarar av. Asimov har skrivit novellsamlingen som filmen Jag, robot bygger på. Boken med samma namn kom 1950. Dick har skrivit förlagan till den första Blade Runner-filmen. Boken kom 1968. 1956 skrev han kortnovellen som Minority Report är baserad på.

De jobb som tros finnas kvar när robot­armar och AI har tagit över industri och servicetjänster är de som kräver kreativitet och sociala förmågor, något som i dagsläget anses svårt för en AI att imitera.

Hur ser vi till att framtidens AI:s blir verktyg för produktion och välstånd och inte övermänskliga individer som sätter sin egen obegripliga agenda?

Utanför panoramafönstret sänker sig solen över de enorma huskropparna i Los Angeles affärsdistrikt. Det pågår ett test av en ung kvinna. Hon svarar på frågorna, aningen näsvist. Nästan förolämpad. Hon röker. Maskinen pustar, piper och knarrar när den läser av henne. Är hon äkta? Polisen Deckard läser av maskinen. När de är klara ombeds hon artigt av sin farbror att lämna rummet.

– Hon är en robot, inte sant? frågar Deckard bakom sin apparat när hennes fotsteg försvunnit.

Hennes ”farbror” svarar med att fråga hur svårt det var att upptäcka. Det tog drygt 100 frågor. Det brukar inte ens ta 30.

– Hur kan den inte veta vad den är för något, frågar Deckard.
– Handel är vårt mål här på Tyrell och ”More human than human” är vår slogan. Hon är ett experiment, inget annat, svarar farbror Tyrell, som menar att ”äkta” säljer.

Det här är fiktion och en av de viktigaste scenerna i Blade Runner. Robottillverkaren Tyrell erbjuder produkter för allt från gruvarbete och krigföring till intima tjänster och sekreterarjobb. I fallet Blade Runner är robotarna, precis som de i R.U.R, mer eller mindre oskiljbara från riktiga människor. Både till utseende och maner.

Närmast verkligheten ligger Tyrells ”njutningsmodeller”. I januari 2018 började försäljningen av sexroboten Harmony. Kunden kan välja både hur bröstvårtor och kön ska se ut. Harmony är också en talande AI som du kan prata sex med och som du över tid kan utveckla en relation till medan programmet lär sig mer och mer om dig i era konversationer.

Men utöver marknaden för sexleksaker så är robotar som ser exakt ut som oss nog varken praktiska eller önskvärda. Däremot så har vissa robotar som används redan i dag getts mjukare, ”mänskliga”, former för att vi ska känna oss bekväma att arbeta med dem.

ABB:s tvåarmade Yumi är ett exempel. Panasonics sjukhusrobot Hospi är ett annat. Hen har till och med en skärm som visar ett par ögon och en glad mun. Men kan du lita på en robot bara för att den ”ler”? Eller kan du lita på Siri i din Iphone bara för att hon pratar förtroligt med dig?

”HAL, öppna luftslussen är du snäll”, ropar piloten i den lilla servicefarkosten över radion.

Moderskeppet Discovery One hänger tyst i den svarta rymden. Babordssidan av hennes gråvita skrov värms av den avlägsna solen. Servicefarkosten som svävar framför hennes stäv ser ynklig ut i jämförelse. Skeppets AI, HAL 9000 svarar inte på anropet. Det är han som bestämmer över luftslussen, och även över luften ombord. Piloten ropar igen. Öppna! Det dröjer.

– Jag är ledsen Dave, men jag kan tyvärr inte göra det, svarar HAL till slut med lugn röst.

– Är det något problem? frågar piloten Dave.
– Jag tror nog att du vet vad problemet är, precis som jag, svarar HAL, med samma lugna röst som innan.

Han vägrar öppna luftslussen. HAL har förstått att Dave inte längre litar på honom. Paniken tilltar. HAL förklarar att enligt hans beräkningar så är den mänskliga besättningen det största hindret för att expeditionen ska lyckas. Människorna står i vägen för produktionsmålet. Dave är den enda han inte lyckats ha ihjäl ännu.

HAL 9000, i författaren Artur C. Clarks och regissören Stanley Kubricks 2001: A Space Odyssey från 1968, är ett av populärkulturens mest kända exempel på en farlig AI.

Science fiction bjuder också på skildringar där robotar arbetsleder människor och även bär högre rang i befälsordningen. Även detta håller på att bli verklighet. Häromåret presenterade företaget Hitachi en AI som nu leder arbetet på ett stort lager och som enligt tillverkaren ökat produktiviteten på arbetsplatsen med 8 procent.

Samtidigt har flera av våra mest framstående forskare och visionärer inom teknikområdet varnat för att AI är ett av de största potentiella hoten mot människan i framtiden. Utöver Bostrom, så har även Stephen Hawking, Bill Gates och Elon Musk uttryckt sin oro.

HALs agerande representerar nämligen ett riktigt problem med en eventuell uppkomst av en superintelligens. Hur formulerar man en kod som tjänar människan utan att någon kommer till skada? Hur ser vi till att framtidens AI:s blir verktyg för produktion och välstånd och inte övermänskliga individer som sätter sin egen och kanske obegripliga agenda? Hur formuleras moraliskt ansvarsfull agerande kod?

AI:n Skynet i Terminatorfilmerna lyfter ett liknande problem. Skynets syfte är att förgöra alla hot mot människan och kommer snabbt fram till att det största hotet är människan själv.

Hur otäckt det än kan låta så finns det redan försvarssystem med någon grad av egen beslutsförmåga. Ett exempel är spaningssystemet Perdix som håller på att testas av USA:s flygvapen. Det består av svärmar av små drönare som kan släppas ut från flygplan och som själva ska avgöra när uppdraget är slutfört. Än så länge är de inte bestyckade med annat än sensorer och kameror.

Under 2017 undertecknade 116 forskare och framstående företagare ett öppet brev till FN med en begäran om ett förbud mot att militarisera AI. De tror att även om autonoma krigsmaskiner skulle spara livet på soldater, så skulle det kunna leda till ännu fler förlorade människoliv.

Science fiction-författaren Asimov försökte formulera en lösning redan på 50-talet. Han lät sina fiktiva robotar i Jag, robot-novellerna programmeras med tre lagar för att lösa problemet med en potentiellt farlig AI och för att göra robotarna till ideala arbetskamrater. Lagarna säger kortfattat att robotar inte under några omständigheter får skada människor. De får heller inte skada sig själva om det inte är i syfte att rädda en människa.

Farorna med AI tas även upp i R.U.R, trots att Čapek 1920 omöjligt kunde ha någon uppfattning om hur moderna datorer skulle komma att fungera. Däremot ska hans varning om vad en girig jakt på billig arbetskraft och oeftertänksam automatisering kan leda till tas på allvar. Robota betyder som sagt ofrivilligt arbete och det kan kanske även en AI få nog av.

Robotarna intar det barrikaderade huset där R.U.R:s högsta ledning gömmer sig. I det blodiga anfallet skonas bara en ynka människa som döms att tjäna sina konstgjorda herrar i resten av sitt liv. Innan ridån går ner till ljudet av marscherande, konstgjorda fötter deklarerar robotarnas ledare, som ett eko från framtiden:

– Människan har fallit. En ny tid är här: robotarnas tid!

3 böcker att läsa

Stiftelsen-trilogin (första boken 1951)
Isaac Asimov.
En fantastisk historia om ett rymdimperiums fall och återuppbyggnad. Den centrala premissen är den förfinade vetenskapen kring att räkna på stora dataset, det som i dag kallas för big data, och på det viset räkna ut hur framtiden kommer se ut.

Den illustrerade mannen (1951)
Ray Bradbury.
En klassisk novellsamling som låter dig pröva några kortare texter ut genren. En av samlingens första texter handlar om hur ett hushålls tv-rum återger verkligheten på ett så realistiskt sätt att den går att skada sig på.

Kallocain (1940)
Karin Boye
Dagboksromanen har undertiteln ”Roman från 2000-talet” och är inspirerad av de övervakningssamhällen som växte fram i Sovjetunionen och Tyskland före andra världskriget. Forskaren Leo Kall lyckas i sin plikttrogenhet skapa ett effektivt sanningsserum, kallocain, som används för att avslöja statsfientliga tankar.

3 brädspel att spela

Space Alert (2008)
Ett spel där du och dina besättningsmedlemmar måste ta ert rymdskepp ur en knipa genom att samarbeta. Uppdragen spelas till ett ljudspår som berättar när olika faror dyker upp och hur lång tid ni har på er att hitta en lösning. Space Alert bjuder på en stressig och rolig spelupplevelse, men ha tålamod med regelboken.

Star Realms (2014)
Ett snabbt kortspel där du ska bygga din lek av den bästa kombinationen av rymdskepp och rymdstationer för att vinna makten i galaxen. Ett hyllat spel som är utmärkt för två, men som lätt går att utöka till fler spelare genom att köpa fler exemplar av grundspelet.

Terraforming Mars (2016)
I det här prisbelönta spelet ska du och dina motspelare kolonialisera Mars. Ni ska genom ert arbete ordna fram luft, vatten och en temperaturreglering för att göra planeten bebolig. Ni samlar resurser och spelar projektkort för att bygga den bästa kolonin.

3 serier att se

The Expanse (2015)
Det råder en skör fred mellan Jorden, Mars och Bältet, det kolonialiserade asteroidbältet i solsystemet. En försvunnen kvinna och händelserna på en rymdgående isfraktare visar sig vara del av en större konspiration som hotar att rasera relationen mellan planeter och kolonier. Här skildras också det farliga arbetet att bryta is i rymden.

Planetes (2003)
Handlingen utgår från besättningen på DS-12 ”Toy Box” och är en slags animerad arbetsplatsskildring som utspelar sig 2075. Arbetslaget utför det slitiga arbetet med att samla skrot mellan månen och jorden samtidigt som huvudpersonen drömmer om det stora äventyret, att följa med en expedition för att utforska Mars.

The Man in the High Castle (2015)
En serie som bygger på Philip K. Dicks bok med samma namn från 1962. Historien handlar om en alternativ historia där Tyskland och Japan vann andra världskriget och har delat upp Nordamerika mellan sig. Raketer flyger som persontransporter över Atlanten och metallarbetaren Frank Frink och en handfull andra funderar på att göra motstånd mot sina nya herrar.

Jonas Löfvenberg