Det var Deep Minds grundare själva som insisterade på en sådan kommitté. Vad är de rädda för? Och varför är det så hemligt? För alla som har sett WestWorld, Battlestar Galactica och Terminator är det lätt att låta fantasin gå i spinn. Det kan lätt bli väldigt överdrivet, som när Teslagrundaren Elon Musk säger att AI kan vara farligare än kärnvapen och samtidigt investerar i Deep Mind på grund av ”Terminator fears”. Eller som medgrundaren av Deep Mind, Shane Legg, uttryckte det innan försäljningen: ”Eventually, I think human extinction will probably occur, and technology will likely play a part in this”.
Jag undrar om inte alltihop är mera myt än konkret verklighet, på mer än ett sätt.
Bedrägeriet
En relevant myt i sammanhanget är den om Pandoras ask. Zeus, den högste guden, lät skapa Pandora som hämnd för att titanen Prometheus hade stulit den himmelska elden och gett den till människorna. Hefaistos, den gudomlige smeden, fullföljde uppdraget. Alla de andra gudarna bidrog med var sin egenskap som gåva. Zeus syfte var att Pandora med sin charm, skönhet och list skulle göra livet eländigt för människorna.
Hermes, gudarnas budbärare, tog henne med till Epimetheos, som inte var särskilt klyftig. Han hade tidigare fått rådet att inte ta emot några gåvor av Zeus. Men det glömde han och gifte sig med Pandora. Som bröllopsgåva av Zeus fick Pandora en ask, eller egentligen en pithos, ett förvaringskärl. I det fanns alla välsignelser hon hade fått av gudarna. De skulle komma människorna till godo så länge kärlet inte öppnades. Men Pandora var ju nyfiken och lyfte på locket. Då förvandlades välsignelserna till förbannelser. Endast hoppet förblev kvar i kärlet.
Pandora är ett ”bedrägeri”, en simulering, konstgjord som den vackra roboten i filmen Ex Machina. Under den förföriska ytan förkroppsligar hon, kan man säga, den korkade nyfikenheten, omedveten om vilka krafter som släpps lösa när man inte tänker efter före. Pandora och hennes öppnade ask kan således symbolisera forskning och utveckling för forskningens och utvecklingens egen skull, utan etisk kontroll.
De som varnar för AI:s katastrofala konsekvenser verkar tänka så – som om AI handlade om otroliga gudagåvor som inte borde släppas lösa hur som helst. Och vilka är gudarna här? Det är de stora teknologiföretagen, vilka nu hör till världens verkliga makthavare, synbarligen bortom all demokratisk kontroll. Därför känner sig heller inte Google tvungna att ha någon offentlighet kring vad man planerar i AI-väg, även om det kan komma att påverka hela samhället. Frågan är dock om AI verkligen är vad det synes vara, eller vad man vill att vi ska tro att det är.
Nakna kejsare
Här är det relevant att minnas något som Googles tidigare teknologichef Craig Silverstein sa 2004: ”I wish computer search engines would become as intelligent as human searchers. […] What probably will actually happen is they’ll just get better at faking it. Artificial intelligence is very, very hard. Luckily, sometimes faking it is good enough.”
Tekniskt sett är de AI-tillämpningar som finns hittills inte imponerande (som aktiv intelligens) utan det är mest prat om hur det ”kan bli”. Så vad tjänar alla högljudda farhågor till egentligen? Det är något lurt här. Vi förleds att tro att det som maskiner kan göra är ”intelligent”. Intelligens definieras alltså som det som ”intelligenta” maskiner skulle kunna göra. Detta är inget annat än en förminskning både av intelligensbegreppet och av människan. Fundera på vem som tjänar på det.
Ja, jag tror vi är lurade. Vi skulle behöva rannsaka vad det är i oss som får oss att tro att maskiner kan vara intelligenta. Det kan ju vara det teknikjättarna är rädda för, att avslöjas som nakna kejsare hela bunten. Så därför blåser de upp sig till gudar och hoppas att vi går på det. De kanske tror på det själva. Och just nu verkar det funka.
Fler krönikor
Roboten – din intimaste vän?
Ex Machina
Alfa och Beta
Lever vi i en simulering?
Spelmagi på gator och torg
En framtid värd att ha
Från ”mobilt först” till ”AI först”
Lär dig tänka – läs en riktig bok