Artificiell intelligens - om faran att förhålla sig teknikneutral
Niklas Svanlindh är politiskt sakkunnig på Centerpartiets riksdagskansli.
Här hans svar på kreaprenören Åke Blomdahls fråga om hur Centerpartiet ser på farorna med forskningen kring Artificiell intelligens.
- Att förutspå framtiden är omöjligt. Vad vi med säkerhet kan säga är att teknikutveckling kommer att ske oavsett statens inblandning. Oavsett om vi bidrar till den, försöker stoppa den eller väljer att inte agera alls. Det vi kan göra är att ständigt bevaka utvecklingen för att hålla en beredskap.
Kungl. Vetenskapsakademin höll t.ex. ett seminarium om detta i våras.
Det finns också oberoende grupper som arbetar med dessa frågor. Se här exempel på detta. Centerpartiet har en teknikneutral hållning och förhåller oss till vad erkänd forskning kommer fram till.
Vänligen, Niklas Svanlindh. politiskt sakkunnig på Centerpartiets riksdagskansli.
Åke Blomdahl svarar att "det räcker inte att tro att det bara är att dra ur sladden"
Tack för ditt svar! Är den hållning du redogör för fastslagen i Centerpartiets program?
Hur som helst kan jag inte låta bli att gå vidare med en diskussion om det rimliga att förhålla sig "teknikneutral".
Att förutspå framtiden är omöjligt, säger du. Vad vi med säkerhet kan säga är att teknikutveckling kommer att ske oavsett statens inblandning. Oavsett om vi bidrar till den, försöker stoppa den eller väljer att inte agera alls.
Kan en politiker verkligen tänka sig att gå framtiden till mötes i fullkomlig blindhet och hjälplöshet? Vi kan och MÅSTE givetvis föreställa oss olika framtidsscenarion. Och vi MÅSTE tro att vi genom politiska beslut kan välja att styra åt ena eller andra hållet? Ju längre tid framåt vi tänker desto större blir givetvis osäkerheten, men också friheten att välja riktning.
I just det här fallet är politikens betydelse särskilt stor. Det EU-finansierade "Human Brain Project" handlar om en storskalig satsning, med hundratals forskare, kring en gemensam uppgift: att "knäcka" gåtan hur människans hjärna producerar medvetande samt att tillämpa och testa den teori man får fram genom att skapa en datorsimulering av en mänsklig hjärna.
Det är en stor och mycket svår uppgift. Om politikerna inte skulle bevilja anslagen till denna forskning kommer inte det avgörande genombrottet för forskningen på detta område att ske. Du säger kanske, att då kommer amerikanerna, ryssarna eller kineserna att göra det istället.
Och jag svarar - kanske det. Eller kanske finns det omtänksamma, förnuftiga människor också i USA, Ryssland och Kina. Vi har vår del av ansvaret.
Du säger, att då kommer man att göra det nästa mandatperiod, om tjugo år eller om hundra år...
Ja, kanske det. Vi står på randen till en avgrund och kommer att fortsätta att stå här vid randen. Det vi kan göra nu är att besluta att just nu tänker vi inte hoppa. I alla fall inte innan vi noga har tänkt igenom konsekvenserna.
Om däremot "Human Brain Project" (eller motsvarande ryska eller amerikanska projekt) får genomföras och lyckas, kommer det att öppna ett fält för "förbättring" av detta artificiella medvetande.
Detta är viktigt att förstå; Efter det avgörande genombrottet kan de fortsatta stegen att ytterligare ”förbättra” resultatet vara allt lättare att ta och rent av möjliga att genomföra för en klipsk tonåring på hemdatorn.
Det kallas singularitet
Snart kommer denna Artificiella intelligens att själv delta i "förbättrandet" och skapa ännu "bättre" livsformer. Det är det framtidsforskarna kallar "Singularitet".
Vad som händer sedan är definitivt bortom all mänsklig makt och föreställning. Då blir det en helt ny livsform som bestämmer.
Det är det avgörande steget som inte får tas. Människohjärnans innersta funktion måste förbli en hemlighet. Om trollet ser sig i spegeln förstenas det.
Jämför gärna med kärnvapenutvecklingen. Under 2:a världskriget pågick en kapplöpning om att först konstruera en atombomb. Kriget gjorde att viktiga politiker kände sig tvungna att göra jättesatsningar. Utan Manhattanprojektet hade världen för lång tid framåt förskonats från kärnvapenhotet. En atombomb hade inte varit något som en vanlig liten "skurkstat" hade kunnat knåpa ihop på egen hand. Men att kopiera ett redan genomfört projekt kunde t.o.m. Nordkorea gå iland med.
Idag råder inte krig, som kräver omedelbar utveckling av Artificiell generell intelligens. Mänskligheten har fortfarande möjlighet att besinna sig.
Du säger kanske; Om inte Sverige deltar i "Human Brain Project" och andra liknande projekt missar vi chansen att leda utvecklingen och missar chansen att tjäna grova pengar och hålla våra ingenjörer sysselsatta och missar chansen till ekonomisk tillväxt och så vidare.
Visst! Men vi kommer att vara i gott sällskap. De allra flesta nationer, politiker, forskare och människor i allmänhet är uteslutna. Detta är något en elit vill ha
Du säger kanske: Om vi är med har vi möjlighet att se till att forskningen och dess tillämpningar sker med respekt för mänskliga rättigheter och andra vackra etiska världen.
Jag säger att du i så fall har en övertro på människors moraliska kapacitet. Och vilka är för övrigt ”vi” i sammanhanget?
Centerpartiet har en teknikneutral hållning och förhåller oss till vad erkänd forskning kommer fram till, säger du.
Tänker du att det finns en vetenskaplig etik? Att professionella filosofer skulle kunna tänka ut vad som är rätt? Du tänker att de kanske kommer fram till att den gamla biologiska människan bör ersättas med maskiner eller ”förbättrade” människor.
Det obehagliga är att forskarna skjuter ansvaret till politikerna. Jag var och lyssnade på KVA-seminariet du nämner. Jag tyckte mig höra en fråga mellan raderna, även från en sådan transhuman entusiast som dr Anders Sandberg; Är det här verkligen vad ni vill ha? Vi forskare kan göra det, men vill ni att vi ska göra det? Frågan är ställd till ”mänskligheten” och dess valda politiska beslutsfattande ombud.
Kan vi dra ur sladden?
Ett argument som jag gissar ligger bakom en ”teknikneutral” hållning är att; Man får väl se hur det går. Om det visar sig att den artificiella intelligensen är oss övermäktig så ”drar vi ur sladden”.
Det kan visa sig svårt att dra ur sladden. Vi överlåter steg för steg styrning och administration av vår infrastruktur till maskiner. Eldistribution, penningsystemet, telefoni, världshandel, logistik, sjukhusjournaler – allt är datoriserat.
Människor lever därtill i jättestäder och har förlorat kunskap om grundläggande överlevnadsteknik. Om det skulle visa sig att Internet vore infekterat av en illasinnad "artificiell intelligens", och vi försöker stänga ner Internet innebär det massmord.
Om dessutom denna Artificiella intelligens (som SkyNet i Terminatorfilmerna) försvarar sig? Det är ju inte så att någon politisk församling som FN, beslutar att låta maskinerna ta över. In i det sista kommer vi att tro - och intala oss - att vi människor har kontroll. Problemet är att vi omärkligt glider in i ett tillstånd av totalt beroende av maskiner, och den dagen maskiner är kapabla att ”ta över”, då har de i praktiken också tagit över. Politiker måste ta ansvar, även om det innebär att ingripa mot forskningen frihet. Det räcker inte med att tro att vi kan dra ur sladden.