Robotar och krig

För inte så länge sedan hade jag nöjet att träffa Noel Sharkey, professor i artificiell intelligens och robotteknik vid Sheffield University. Vi var båda inbjudna till en konferens med titeln»Peace and War – Digital.» Sharkey är kanske mest känd för allmänheten som expertkommentator för det brittiska programmet Robot Wars, ett program där man tävlar i att bygga robotar som sedan får duellera mot varandra. Men den här gången talade vi dock inte om robotar som en lekfull sammansmältning av ingenjörskap och underhållning, utan som ond, bråd död.

Sharkey berättade om de 4000 semiautonoma robotar just nu tjänstgör i Irakkriget. Vissa har fredliga arbetsuppgifter, som att desarmera minor och bomber, medan andra är beväpnade med varierande skjutvapen. Några av dem är små och rullar omkring på marken medan andra flyger högt i luften. Gemensamt för alla robotar som används i krig i dagsläget är att de är just semiautonoma, vilket innebär att de lyder order av en människa, även om denna kan vara långt borta. Roboten mq-1 Predator kunde under 2002 flyga i fatt en bil innehållande terrormisstänkta Al-Qaidamedlemmar och genom en knapptryckning över tusen mil längre bort, i ett kontrollrum med amerikanska piloter som själva aldrig lämnade marken, kunde en Hellfire-missil avlossas och spränga bilen och passagerarna i bitar. Markbaserade väktarrobotar patrullerar redan gränserna i Israel och Sydkorea.

Nästa steg är fullt autonoma robotar, där beslutsförmågan är helt delegerad till en maskin. Prototyperna är redan väl utvecklade och miljardbelopp pumpas in i forskningen. Inom en snar framtid kommer vi se de första icke-människorna fatta beslut om vem som skall falla offer och vilka som ska skonas i de tragiska konflikter vi ser i samtiden. En maskin sombeslutar… jo, det är faktiskt den terminologi som just nu används. 

Jag fick kalla kårar av Sharkeys berättelser, men samtidigt väckte de en rad frågor om hur man kan förhålla sig till teknik ur ett politiskt och existentiellt perspektiv. Robotar kan som bekant vara väldigt nyttiga genom att de kan utföra farliga räddningsuppdrag, bidra till medicinska framsteg och ta oss till nya planeter. Samtidigt som man ser hur teknik kan få olika betydelser beroende på hur den används, inser man ganska snabbt att människor alltid har varit kopplade till teknologiska artefakter, från samtidens ständigt uppkopplade datorer och mobiltelefoner till de gigantiska energibaserade maskiner som har byggt vår välfärd i fabriker – ja, ända tillbaka till då vi fällde det första trädet med en flintyxa. 

Hur kan vi förstå de sammanhang vi skapar med teknologier, relationer som stundtals är våldsamma men lika ofta produktiva och positiva? Det räcker nämligen inte med att tänka sig att tekniken i sig har något speciellt väsen, själva relationen och effektuerandet måste ske isammansättningarna mellan människa och teknik, och i de lokala eller globala tillstånd som dessa skapar. Vad som avgör om ett tekniskt element är ett dödligt och destruktivt vapen eller ett vitalt och produktivt verktyg kan inte avgöras genom dess tekniska karaktär, lika lite som krig eller fred går att härleda ur en mänsklig essens eller natur. Frågan blir ännu mer komplicerad i vår digitala samtid eftersom vi befinner oss i en informationsbaserad maskinisk tidsålder som inte är mycket mer är femtio år gammal. Denna har givit upphov till en rad nya teoretiska utgångspunkter, där cybernetiken kanske är den som går längst i det att den inte gör någon skillnad mellan människor och maskiner i sina definitioner av vad intelligens är. Vår samtid kräver således av oss att vi åter öppnar upp både våra begreppsliga och tekniska »svarta lådor» (för att låna ett cybernetiskt begrepp), och ser vilka juridiska, filosofiska, och existentiella
register som kan hantera kopplingarna mellan människan, maskinerna och samhället.

Gemensamt för det teoretiska anslaget är att de abstraktioner som begreppen »människan», »samhället» och »tekniken» utgör i vårt språkliga och analytiska register måste falla, eftersom de inte kan förklara särskilt mycket, utan snarare måste förklaras genom att man ser till de processer som gör dem möjliga från första början. Frågan förvandlas då istället till hur människan, samhället och tekniken blir till. Svaren finner vi i de subjektiveringsprocesser som leder till att vi intar olika mänskliga roller i vissa situationer, i de innovationsprocesser som leder fram till teknovetenskapliga entiteter, eller i de kopplingar och sammansättningar som gör samhället möjligt. Men dessa kopplingar måste undersökas utan att vi tillskriver delarna egenskaper som redan förutsätter en totalitet eller essens. 

Människor, maskiner och samhällen har aldrig varit separata entiteter, utan alltid delar av heterogena sammansättningar. Dessa sammansättningar, i sin pluralism, bildar paradoxalt nog alltid en helhet, alltså den konkreta värld vi lever i, men riktningen för denna helhet är aldrig fixerad. Om en artefakt¹ är ett vapen eller ett verktyg avgörs av hur de komponeras samman med andra entiteter i en given situation, på samma sätt som det inte går att reducera exempelvis ett tåg till att vara ett tekniskt eller mänskligt fenomen; det är en irreducibel
sammansättning av järnvägar, elektroner som flödar i ledningar, konduktörer, lokförare, passagerare och stationer. 

På så sätt är begreppet posthumanism, som beteckning på en generell idéströmning i samtiden, egentligen hopplös eftersom det varken finns något före eller efter ett »humanistiskt» tillstånd. Allt som finns är sammansättningar, flöden och samhälleliga diagram som effektuerar och positionerar oss som människor mellan artefakter och andra människor i tillstånd av krig och fred. 

Maskiniska tidsåldrar

Everywhere it is machines – Real ones, not figurative ones: machines driving other machines, machines being driven by other machines, with all their necessary couplings and connections. An organ-machine is plugged into an energy-source-machine: the one produces a flow that the other interrupts².

Gilles Deleuze och Félix Guattaris projekt i boken Anti-Oedipus innebär att frilägga begärsproduktionen från teaterns metaforik och istället få den att resonera med de sociala flöden som utgör världen (mekanosfären). I det moderna samhället, där motorn är den dominerande abstrakta maskin som organiserar huvuddelen av våra aktiviteter, måste även de »mänskliga» begären fungera maskiniskt, och således påverka vår sociala organisering. I industrikapitalismens tidsålder är vi sysselsatta med att arbeta (våra kroppar kopplade till tekniska maskiner), konsumera (våra kroppar kopplade till monetära flöden) och reproducera oss (våra kroppar kopplade till andra kroppar). Vad som länkar samman arbete, konsumtion, reproduktion och andra praktiker kallade Deleuze och Guattari för ett diagram. (National)stater såg till att reglera arbete, konsumtion och reproduktion genom lagar, skatter och uppbyggnaden av biopolitiska institutioner för att upprätthålla denna ordning som produktiv (sjukhus, skolor, fängelse et cetera).

Denna moderna förhårdnad, där både det undermedvetna och det samhälleliga följer samma maskinella logiker, där vi resonerar längs de flöden som våra begärsmaskiner kopplar till och bryter av, skapar inte med nödvändighet en harmonisk »megamaskin». Varje flöde (av pengar, materia, energi, idéer) kan dock alltid potentiellt styras om, fungera fel, eller ge upphov till nya heterogena konstellationer som är mer eller mindre avsiktliga.

De teknologier som dominerar en viss historisk tidsperiod kallas maskiniska eror³. Om industrialismen centrerades kring just energibaserade maskiner har detta fått konsekvenser inte bara genom att det etablerat en relation mellan konsumtion och produktion genom att materiella och monetära flöden korsade dem, utan även att psykosociala kopplingar och relationer resonerade tillsammans med maskinerna. 

Donna Haraway är kanske den teoretiker som har drivit detta resonemang längst:

What constitutes an apparatus of bodily production cannot be known in advance of engaging in the always messy projects of description, narration, intervention, inhabiting, conversing, exchanging, and building.⁴ 

Det viktiga är Haraways betoning på aktiviteter. Att »läsa» världen är en otillräcklig strategi, vi måste intervenera, engagera, bygga och ockupera den. Vad som
räknas är alltså vad vi gör, snarare än hur vi förstår sammansättningarna mellan kroppar och maskiner. Tillbaka till våra vapen och robotar:

It would be futile to credit weapons with a magical power in contrast to the constraints of tools: weapons and tools are subject to the same laws, which define, precisely, their common sphere. But the principle behind all technology is to demonstrate that a technical element remains abstract, entirely undetermined, as long as one does not relate it to an assemblage it presupposes. It is the machine that is primary in relation to the technical element: not the technical machine, itself a collection of elements, but the social or collective machine, the machinic assemblage that determines what is a technical element at a given moment, what is its usage, extension, comprehension, et cetera⁵.

Det är de maskiniska sammansättningarna av de tekniska elementen vi ständigt är kopplade till som bestämmer deras karaktär, antingen som verktyg eller vapen (eller underhållning, kommunikation et cetera). Optiska proteser kan sättas samman som glasögon, mikroskop eller kikare som då förvandlas till verktyg som förstärker vår syn när de kombineras med böcker, bakteriesamlingar eller fåglar i träd. Under andra förhållanden kan de
sättas samman med gevär (kikarsikten),
soldater och arméer och formera vapen. Olika sammansättningar skapar olika subjektiviteter; När blick-kikare-fågel sätts samman, skapas fågel(-)skådaren. Den maskiniska affekt som produceras mellan dessa element, gör att människan blir en konstitutiv del av sammansättningen djur och verktyg. Men samtidigt som denna maskiniska konstitution äger rum, sker en externalisering och fågelskådaren kan göra fågeln till ett objekt samtidigt som hon eller han skapar sig själv som beskådare, alltså konstituerande en maktrelation. Samma process gäller sammansättningen blick-kikarsikte-gevär-fiende. Soldaten blir till genom att å ena sidan vara kopplad till de tekniska element som skapar kraften i en militär anfallslinje, samtidigt som det är genom sammansättningen som fienden kan konstituteras som ett externt objekt för
terminering. Men, som Deleuze och Guattari påpekar, dessa specifika sammansättningar måste kopplas samman med, och förutsätter, andra sociala eller kollektiva maskiner som föregår kikaren som verktyg och geväret som vapen. Dessa artefakter måste produceras i fabriker, som är maskiner som kopplar samman andra tekniska
element med människor, med konsumtionen, friluftsmänniskan eller en statsarmé, och med kollektiva formationer såsom föreningar, bokförlag, plutoner och förband.  

Singulariteten; dagen då maskinerna blir mer intelligenta än människorna 

Vad händer då om maskiner oberoende av människor kan skapa sammansättningar? Finns det en punkt i framtiden där maskinerna blir smartare än människor? Kommer nya gränssnitt (så kallad wetware) att leda till att gränsen mellan det biologiska och det tekniska helt suddas ut? Vad händer om autonoma robotar är beväpnade, och dessutom kan replikera sig själva?

Vernor Vinge skriver i en essä från 1993 att någon gång mellan 2005 och 2030 kommer den så kallade singulariteten att inträffa. Med detta menas att det kommer en punkt i historien när maskinerna får övermänsklig intelligens, och därmed träder vi in i en posthumanistisk tidsålder. Denna brytpunkt är för Vinge absolut:

Thus the first ultraintelligent machine is the _last_ invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control. … It is more probable than not that, within the twentieth century, an ultraintelligent machine will be built and that it will be the last invention that man need make⁶.

Vad som talar emot Vinges prediktion är den klassiska frågan om intelligens kan finnas hos icke-biologiska entiteter eller inte. Filosofen John Searle har länge drivit tesen om attmedvetandet, alltså den fakultet vi människor besitter, är helt och hållet nödvändig för att vi ska kunna tala om intelligens över huvudtaget. Vinge ser dock inte medvetande som en nödvändig komponent, utan för honom är Moores lag, alltså den empiriska regelbundenhet med vilken datorkraften dubbleras var artonde månad, nog för att orsaka superintelligenta maskiners första entré som aktörer på jordens arena (se figuren på  följande sida). Med tillräckligt snabba datorer kommer singulariteten att inträffa, vare sig vi vill det eller inte.

För att ge ett alternativ till Vinges absoluta singulatitetshypotes kan vi återvända till Deleuze & Guattari och Manuel Delanda, som tänker sig singulariteter som ständigt pågående evolutionsprocesser i såväl biologiska som mekaniska strata. Vid vissa »innovationströsklar» tar både den sociala och tekniska historien nya och ibland oväntade riktningar. Den singularitet som skulle kunna ge upphov till något som liknar artificiell intelligens skulle enligt Delanda vara kopplingen av transistorn och den integrerade kretsen. Denna möjliggör för binär information att beräknas med allt snabbare hastigheter. Men för Delanda krävs det ytterligare en koppling för att vi ska närma oss något som liknar intelligenta maskiner – kopplingen till människan. 

Dock behöver inte en sådan koppling med nödvändighet bestå av att ett chip opereras in i hjärnan. Istället tar vi hela tiden ett steg närmare att ingå i en ekologi av informationsbaserade maskiner, som i allt högre utsträckning strukturerar vår vardag. Mobiltelefoner, digitalkameror, datorer, elektronisk tväggstugebokning, rfid-chip på spårvagnskorten… listan adderas hela tiden med en rasande fart. 

Flyttar vi fokus till kopplingarna försvinner egentligen den absoluta fråga som Vinge ställer upp. Det finns nämligen varken någon människa eller maskin som kan veta, och därmed vara intelligent. Vi vet istället med våra informationsbaserade »proteser», vare sig dessa är böcker i bibliotek eller den sekundsnabba kunskap om våra vänner som vi får genom sociala nätverkssidor.

Problemet uppstår snarare den dag som människan inte längre behövs för att en maskin ska kunna replikera sig själv eller fatta beslut. Redan nu finns det långtgående försök till självreplikerande maskiner bland annat i RepRap-projektet.⁸ Än så länge kan maskinen replikera 60% av sina egna komponenter på 14 timmar, så viss mänsklig assistans krävs. RepRap drivs i en ideell anda och förhoppningen är att kunna tillverka billiga lösningar för områden med begränsad tillgång till elektricitet. 

Men Bill Joy varnar oss för att just självreplikering kan vara det avgörande hotet mot människor.

Thus we have the possibility not just of weapons of mass destruction but of knowledge-enabled mass destruction (kmd), this destructiveness hugely amplified by the power of self-replication. /…/ These combinations open up the opportunity to completely redesign the world, for better or worse: The replicating and evolving processes that have been confined to the natural world are about to become realms of human endeavor⁷.

Joys enda lösning är att helt enkelt begränsa utvecklingen av självreplikerande och autonoma system, till och med genom att begränsa de kunskaper som ligger till grund för denna utveckling. Enligt Joy har vissa kunskaper och teknologier redan bidragit till nog av mänskligt lidande, inte minst Manhattanprojektet och atomvapen. 

Avslutning 

Är då verkligen frågan om intelligens hos icke-människor den mest relevanta idag? Jag skulle vilja argumentera för att en överskattning av singuariteten kan leda till att vi missar de singulariteter som pågår runt omkring oss hela tiden. Till exempel har den en panskpektriska utvecklingslinjen⁹, alltså den process med vilken analoga spektra förvandlas till digital data och som ligger som grund för en rad teknologier i vår samtid, i viss utsträckning kastat om de maktrelationer som konstituteras genom övervakning. Från Försvarets radioanstalt till Facebooks databaser, loggas stora delar av våra vardagsliv, och medvetenheten om detta kommer säkerligen att förändra vårt spontana förhållningssätt till nya medier. Makten kommer således att koncentreras till den som äger databaserna över våra digitala liv, och denna information är en handelsvara både för stora företag och mellan underrättelsetjänster.

En allt för stor skräck för singulariteten kan göra att vi riskerar att inte lägga märke till de system som just nu rullas ut, både i vår absoluta närhet i form av övervakning av våra kommunikationsteknologier, och i länder som är indragna i globala krig, där det finns en trend att människor i allt högre utsträckning ersätts av maskiner. När detta sker under ensidiga förhållanden, på så sätt att civilbefolkning möter robotar, uppstår en maktasymmetri, som intensifieras om roboten saknar omdöme eller förhandlingsförmåga. Men oavsett om det är en människa eller en maskin som står för övervakningen eller dödandet, utgör dessa viktiga problem som human- och samhällsvetenskaperna, tillsammans med alla andra vetenskaper, måste söka lösningar på.

Noter

1. Se Latour, Bruno (1998) Artefaktens återkomst – Ett möte mellan organisationsteori och tingens sociologi, Stockholm: Nerenius & Santérus Förlag.

2. Deleuze, Gilles & Guattari, Félix (2004) Anti-Oedipus, London: Continuum, s. 1.

3. Von Busch, Otto & Palmås, Karl (2006) Abstrackt Hacktivism – The Making of a Hacker Culture, London: Open Mute.

4. Haraway, Donna (1994) »A Game of Cat’s Cradle: Science Studies, Feminist Theory, Cultural Studies», in Configurations 2.1 1994, s. 62)*

5. Deleuze, Gilles & Guattari, Félix (2004) A Thousand Plateaus – Capitalism and Schizophrenia, London: Continuum, s. 397-398.

6. Vinge, Vernor (1993) »What is the Singulariy?, http://mindstalk.net/vinge/vinge-sing.html»

7. Joy, Bill (2000) »Why the Future doesn’t need us», in Wired. April 2000. 

8. Se reprap.org

9. Kullenberg, Christopher & Palmås, Karl (2008) »Smitto(nto)logi: Om panspektrocismens politik och estetik (ladda ned som pdf)». Publicerad i Glänta 4.08.