D et finns många områden där de digitala möjligheterna vänder upp och ned på invanda föreställningar. Särskilt tydligt blir det när människor ersätts av maskiner. Sålunda är det numera maskiner, inte människor, som bestämmer mycket av det som köps och säljs på världens finansmarknader. Över 60 procent av börshandeln i USA sköts direkt av datorprogram. Ett datoriserat avslut på New York-börsen tar max 3,4 millisekunder. Resultatet har blivit en självförstärkande spiral där beslut måste fattas så snabbt att människorna inte hänger med. I Financial Times nyligen beskrevs detta som ett ”kallt krig” mellan datorprogram.

Datorers betydelse för den ”heta” krigföringen är lika stark. Vapenutvecklingen ställer nu vissa av den digitala teknikutvecklingens konsekvenser på sin spets. Kanske kan vi acceptera att datorer tar hand om delar av finansmarknaderna. Men vad ska man säga om vapen som agerar lika självständigt? Här handlar det direkt om liv och död. Vems liv? Vems död? På vilka villkor? En stark trend i nutida vapenutveckling är mot vapen som med hjälp av datorkraft sköter sig (nästan) själva, dvs ”intelligenta” krigsrobotar.

Robotar är mer än en datorer. De har sensorer, de har artificiell intelligens och de har olika sätt att fysiskt interagera med omgivningen. Intelligens i detta sammanhang betyder att en maskin har förmågan att varsebli komplexa samband och reagera adekvat på dem. Robotar sägs vara autonoma när de själva fattar beslut om vad de ska göra i ett ”skarpt” läge.

USA förfogar idag över uppskattningsvis 12000 markbundna och 7000 luftburna, delvis autonoma krigsrobotar. De har på senare år allt oftare använts vid insatser i Irak, Afghanistan och Pakistan. En drivkraft bakom utvecklingen är att minimera de egna förlusterna i människoliv. Det är ju inte bara det tråkiga och det svåra som kan skötas av maskiner, utan också det farliga. Och liksom i finansvärlden beror den ökade användningen av självstyrande vapen också på krigföringens ökade hastighet. Människor hinner inte längre med att i tid uppfatta hot och reagera adekvat, när robotar tar över själva skjutandet.

Det är fortfarande människor som ger order till robotarna, men man har ibland ingen direkt kontroll över vad de gör i realtid. Och de här systemen börjar snart bli så intelligenta och flexibla, att man i militära kretsar har börjat bekymra sig för hur man ska få framtidens krigsrobotar att agera ”etiskt” på eget bevåg. De komer att behöva lära sig att följa krigets lagar, som Genève-konventionen.

I en ny rapport från Office of Naval Research (USA-flottans forskningsorganistion) menar författarna, att robotar till och med skulle kunna bli mera etiska än människor, eftersom de varken styrs av känslor, adrenalin eller stress, något som ju ofta får oss att agera oetiskt.

Vilka kan följderna bli? Terminator-scenariot är välkänt i det allmänna medvetandet. Att robotvapen bokstavligen skulle börja föra krig mot mänskligheten är än så länge osannolikt. Däremot har det blivit mera sannolikt att de kommer att kunna föra krig åt oss. Men vad betyder ”krig” när det är robotar som dödar? Är det för gammaldags att hävda, att det på något sätt är ”mänskligare” att döda fiender själv än att låta maskiner göra det? En upprorsman i Irak uttryckte det så här till amerikanarna, apropå robotvapnen: ”Du visar att du inte är man nog att kämpa mot oss man mot man. Du visar hur feg du är.”.

Är det inte det Terminator-filmerna handlar om? Om att bevara mänsklig värdighet inför ett automatiserat krig. Det kan tyckas märkligt att försvara vår värdighet i så brutala termer. Men att den citerade irakiern inte är ute och cyklar visar ett yttrande från amerikansk sida. På frågan hur han trodde att det kändes att utsättas för en Predator-attack svarade en flygvapenofficer så här:
”Vet du, det är antagligen som öppningsscenen i Terminator-filmerna, där människorna gömmer sig i grottor och bunkrar och den här sortens skoningslös robotmakt attackerar dom.”
Tydligen är det lätt att se saken precis så – som robotarna mot (de andra) människorna.

Handlar då etik i sammanhanget bara om att få maskinerna att följa Genève-konventionen? Vad är det egentligen som som pågår i världen, när inte bara aktieprogram utan även vapen får ”sköta sig själva”?