Jag var på väg att skriva Miljöpartiet, men inte ens de når upp till nivån på det största hotet mot mänskligheten. Man skulle förstås kunna argumentera för att det största hotet mot mänskligheten är mänskligheten, vilket är sant eftersom det största hotet faktiskt är skapat av människor.
Jag har arbetat med IT i stort sett under hela mitt yrkesliv och dessutom haft säkerhet som en del av mitt yrke större delen av den tiden. Under det senaste decenniet har säkerhet tagit en allt större del och blev till slut vad jag sysslar med på heltid.
Som en del av det arbetat kartlägger jag hot. Mänsklig dumhet borde läggas till hoten (där man hittar cyberattacker, nätfiske, spionage, skadlig kod och så vidare), men även naiviteten att ha en överdriven tilltro till tekniken. Det var precis vad man hade när Titanic rände in i ett isberg och vi har ändå inte lärt oss.
Lyssnar man på teknokraterna och de digitala profeterna från Silicon Valley finns det inget hot från datorer och digitaliseringen. Allt är bara till nytta för oss. Problemet är att de har inte byggt in säkerhet från start i vare sig sina produkter eller lösningar.
Det största hotet mot mänskligheten är därför konstgjord intelligens. Vi är inte framme vid ett äkta medvetande, men jag är övertygad om att vi kommer att få se singulariteten inom ett eller möjligtvis två decennier. Det ligger i sakens natur att utvecklingen gör hopp med jämna mellanrum och kvantdatorerna kommer att bidra till att utvecklingen mot äkta AI tar ett stort hopp.
Det i sig betyder inte att en konstgjord intelligens kommer att se oss som ett hot och försöka förgöra oss som i Terminator. Men den kan göra det. Dessutom behöver det inte ske direkt och det behöver heller inte ske i generation ett av den nya intelligensen.
Skulle vi nå dit och en konstgjord intelligens får för sig att vi är ett hot kommer den inte bygga mördarrobotar som springer omkring på två ben. Den kommer hitta vägar som vi inte har en chans mot. Lika lite som myror kan försvara sig mot myrr.
Tror du inte mig så ta en titt på konceptet för Slaughterbots, se videon nedan (de finns inte idag, men är inte långt borta).
Filmen ovan är skapad av organisationen Stop Autonomous Weapons, som inte vill att vapensystem ska få agera på egen hand. Det är inte per se på grund av att de skulle kunna utnyttjas av ett illvilligt intelligent system, utan för att maskiner inte ska få ta beslut att ta död på människor. Sunt på alla sätt.
Slaughterbots är dock ett utmärkt exempel på något som en konstgjord intelligens skulle kunna komma på. Och dessutom göra den värre. Om mänsklig fantasi, som i sig verkar utmärkt på att uppfinna sätt att ta död på andra människor, kan hitta på något sådant här kan en AI uppfinna ännu värre saker. Dessutom kombinera dem. Vi skulle få se svärmrobotar samtidigt som en ny biologisk krigföring och varför inte en höjning eller sänkning av temperaturen på jorden.
Etiska betänkligheter är ingenting för en datorbaserad intelligens. Den kanske kan utrustas med något som går att jämföra med moral och känslor, men den har inte samma perspektiv som vi. Organiskt liv är av lika lite värde för någon som består av kisel, som vi ser på gråstenar.
Problemet med AI idag är att det utvecklas hej vilt och påhejas av allt från militärer till teknokrater, utan att någon enskild organisation kan överblicka konsekvenserna. Autonoma system som utrustas med intelligens kommer vid någon punkt att kunna förbättra sig själva (det finns system som gör det idag, dock utan att vara självmedvetna). När det sker får vi svårt att överblicka konsekvenserna. Vi kan tro att vi har byggt in motsvarigheten till Asimovs tre lagar för robotar, men självförbättrande system kommer hitta luckor.
Det största hotet mot mänskligheten är också ett hot mot vår frihet. För blir det här verklighet kommer det vara slut med frihet. Det kommer vara slut med allt.
Oj, det var en mörk framtidssyn som heter duga. En sak som talar för att du kan ha rätt är att det hos många människor tycks finnas en slags inre önskan att förgöra sig själva i dag. Det syns tex i destruktiv migration och policys i Sverige idag, liksom i den offentliga debatten. Sverige vill liksom lösa upp sig självt som nation via det ena galna efter det andra.
Ja, det är ju också en aspekt. Tror på sätt och vis att digitaliseringen har en del av skulden, men även om jag har en rätt mörk framtidssyn vad det gäller AI så tror jag att pendeln kan svänga. Precis som den gjorde under renässansens nyfunna naturfokus.
Jag är extremt fascinerad av AI, mycket pga de framsteg som singulariteten skulle kunna bidra med inom medicin och biotech. Naturligtvis finns det hot, men även uppsidan är enorm.
Man får väl hoppas att den som är först med riktig AI har rätt syn på mänskligheten, för där finns det en viss risk för total världsdominans. Det är väl egentligen vad jag ser som den största risken, tex en singularitet kontrollerad av kinesiska kommunistpartiet.
Ja, jag är också fascinerad av AI. Har hänt enormt mycket den senaste tiden. Bara hur deep fake fungerar är imponerande. Jag håller helt med dig om att det är avgörande att den som är först med riktig AI har rätt syn på mänskligheten, men tyvärr finns det lite för många nationer som gärna vill dominera planeten och styra över människors frihet. Dessutom är det inbyggt i konceptet att självförbättring (såväl som självläkning, jämför hur redundant internet är) måste utföras. Det är då det kan spinna iväg utom all kontroll…
Jag tror att singulariteten kan vara Det Stora Filtret, dvs skälet till att vi inte ser några avancerade civilisationer ute i universum. En självreflekterande maskin kommer inte att ha någon drivkraft och så fort den får en exponentiellt ökande intelligens så kommer den att nå den insikten. Och förgöra sig själv eller gå i något slags dvala.
Vår, och allt biologiskt livs, ENDA drivkraft är RNA/DNA-molekylens självkatalyserande replikering. Maskiner har inte den inbyggda mekanismen.
Jäklar, det där är superintressant. Så kan det faktiskt vara. Dessutom kan det också vara ett steg till, att maskinen förgör både sig själv och allt liv, av samma anledning.