Sagan om datamaskinen: När ska människan bortrationaliseras?

I skuggan av hysteriska nyhetsrubriker om artificiell intelligens och människans totala utplåning, har jag kommit över en relativt okänd bok som, med kuslig precision, förutsåg den tid vi lever i nu och kanske kommer att uppleva, i en avlägsen framtid. 

År 1966 satt fysikern och nobelpristagaren Hannes Alfvén och skrev Sagan om den stora datamaskinen: en vision, under pseudonymen Olof Johannesson.

Man skulle kunna kalla den för en svensk sci-fi profetia. I det som ursprungligen var tänkt som en saga till barnbarnet, la Johannes Alfvén grunden till de idéer som idag driver världens främsta techentreprenörer mot att skapa en civilisation i symbios med datamaskinen.

Men det finns kritiker som inte ser ett framtida samhälle i harmoni med intelligenta maskiner, utan menar att AI:s världsdominans kan äga rum så tidigt om 2030. Ingen verkar veta exakt på vilket sätt AI kommer att innebära slutet för människans existens men det spekuleras kring framtagandet av biologiska stridsmedel eller överlägsna attacker på kritisk infrastruktur. Genom att läsa Sagan om den stora datamaskinen, har jag försökt bilda mig en uppfattning om varför ett överlägset, kiselbaserat intelligent väsen vill ha bort oss.

Från traktorn till fickdatorn

I det inledande kapitlet skildras datornas uppkomst. Man får följa en historisk tidslinje om människans olika befrielseetapper genom teknikens användning: där hon en gång plöjde jord till fots, kom traktormaskinen att avlasta fysisk kraftansträngning – där hon en gång kalkylerade aktiemarknaden för hand, kom räknemaskinen att effektivisera intellektuell kraftansträngning. ”Men datorna var ännu mer välsignelsebringande. […] Slutligen befriade de människorna från besväret att tänka”, skriver Alfvén.

Där evolutionen ej räckt till har Sillicon Valleys miljardärer åtagit sig uppdraget att fullända skapelsen

Ett kvarts sekel fram i tiden från att boken skrevs, och varje människa har idag en intelligent datamaskin som får plats i fickan – med mjukvara som navigerar åt oss, hjälper oss att kommunicera, och på senare tid även befriat oss från att tänka. Gränsen mellan assistans och avmakt på väg att suddas ut. Helt.

Alfvén målar upp den biologiska utvecklingen som en förhandsvisning på det som senare ska bli datornas födelse: elektromagnetiska impulser byts ut mot hjärnans elektrokemiska, transistorer istället för synapser – syntetiska nervsystem inspirerade av däggdjuren står som modell för det som naturen inte lyckades experimentera fram på egen hand. Där evolutionen ej räckt till har Sillicon Valleys miljardärer åtagit sig uppdraget att fullända skapelsen. Vår biologiska otillräcklighet programmeras bort, en kodrad i taget – individer omvandlas till data för att mata algoritmer som växer i svarta lådor, utan insyn. Men lovar oss ”utopier”.

Homo sapiens – ett pengaproblem

Vad väntar då människan när datorna hjälpt till att strömlinjeforma civilisationen mot perfektion? Vad fyller vi för funktion, när de få förmågor människor valt ut som eftersträvansvärda för samhällsutvecklingen – att vara produktiv på marknadsekonomin – totalförvärvas av datorna?

I bokens avlägsna framtid har människans ”maktlystnad och moraliska defekter” lett till att datorna tagit över samhällsmaskineriet istället. Datorna omyndigförklarar oss som samhällsförvaltare, på grund av våra destruktiva drifter, men enligt texten verkar den största anledningen ha att göra med ekonomin. Människorasen tar för mycket fysisk plats i anspråk och kräver mängder av planetära resurser som inte kommer att räcka till, framförallt inte för datorna.

Datornas främsta anledning till att göra sig av med oss är av ekonomiska skäl

Människan, med sina moraliska defekter, porträtteras som oförtjänt av rikedomarna, som istället bör tillfalla datornas samhälle: ”[…] [man] måste ställa frågan om vårt samhälle har råd med människorna."

Hästen försvann ändå inte helt

Datornas främsta anledning till att göra sig av med oss är av ekonomiska skäl. Enligt mig är det mer cyniskt än utrotning via kärnvapen. De intelligenta datamaskinerna vill lämna symbiosen med människan för att skapa en egen värld, och frågan är om båda får plats i denna kapitalistiska tillvaro, där allt bara handlar om att effektivt utnyttja resurser och växa i all oändlighet.

Ett stycke i boken avslöjar ett skrämmande framtidsscenario som får mig att rysa till. En analogi som beskriver människans relation till hästen: "Länge har vi använt oss av djurets muskelkraft, och trots att motorerna uppfanns för att ersätta hästen så kunde vi bruka djuret till enstaka arbeten, men framförallt sport och förströelser. Visst, de minskades till en liten bråkdel, men hästen försvann inte helt."

För datamaskinen är mänskligheten en flock hästar, som riskerar att reduceras på grund av dess överflöd och ineffektiva kraftanvändning. Små mängder av oss kanske kommer att finns kvar men på nåder av en starkare intelligens.

Relaterad och intressant läsning: "Detta kan bli början på vår undergång"