I en intervju i BBC i december förra året beskriver Stephen Hawking sin rädsla för att en fullt utvecklad artificiell intelligens (AI) skall ta över världen och göra slut på mänskligheten.

Det senaste numret av Forskning och Framsteg innehåller en intressant artikel signerad en av våra bästa vetenskapsjournalister, Joanna Rose, (apropå Universums död och universitetens ansvar) som handlar om just denna möjlighet. Kan det gå så illa att datorerna genomför ett ondsint maktövertagande?

Hawking är inte ensam. Ett institut för livets framtid har skapats med inblandning av en lång rad framstående vetenskapsmän – och en del kända skådespelare lustigt nog – som specifikt ägnar sig åt den här frågan. De har också dragit igång en namninsamling för att varna för faran och bidra till att styra om forskningen inom området.

Som framgår i F&F finns det olika syn på det här. Det är inte riktigt alla som tror att det är så fullständigt självklart att AI kommer att kunna utveckla de förmågor som en mänsklig hjärna har under en överskådlig framtid. Och jag tror att de har rätt.

En av de personer som ges stor plats i artikeln är John Searle. Han har gjort sig känd för en argumentation som går ut på att det subjektiva medvetandet är ett verkligt existerande fenomen som inte på ett självklart enkelt sätt kan reproduceras av en maskin. Searle menar att det finns en grundläggande skillnad mellan en dators sätt att lösa en uppgift och en hjärnas.

I en grannblogg hävdar Olle Häggström att det finns problem med Searles argumentation. Olle hänvisar till en kommande bok där han kommer att utveckla resonemanget. Jag ser mycket fram emot att läsa den men dristar mig ändå att ge mitt preliminära stöd för grundtanken hos Searle. Jag tror helt enkelt att han i huvudsak har rätt. (Dessa tankar har jag förövrigt uttryckt i eget skrivande i andra sammanhang.)

Låt oss för ett ögonblick inta en strikt hållning där vi inte antar existensen av något utöver vad vi faktiskt kan observera med vetenskapliga instrument. En ganska rimligt vetenskapligt förhållningssätt. Vidare glömmer vi helt bort oss själva i sammanhanget. Det finns då förstås ingen anledning att anta att det finns något slags inre subjektiv erfarenhet hos en sten, ett träd, en räknedosa eller den mest högpresterande AI-maskin. Till vad nytta skulle det vara? Hur skulle man överhuvudtaget kunna representera detta i en värld som med Demokritos ord bara är atomer och tomrum?

Vi kan sedan gå vidare och slarvigt dra samma slutsats rörande en biologisk hjärna. Men där brister det plötsligt. Den egna subjektiva erfarenheten av denna hävdat onödiga subjektiva inre värld blir till en observation som inte omedelbart kan avfärdas.

Var i ligger felet? Det finns de som skulle hävda att resonemanget ovan är missvisande och att medvetandet antingen är en illusion eller någon slags konstruktion som inte har en primär existens i sig. Utifrån detta blir medvetande ett sekundärt fenomen som medföljer varje komplex form av informationsbehandling och det behöver inte nödvändigtvis finnas en skillnad mellan en dator och hjärna. Detta tror jag är att göra det för lätt för sig. Det finns helt enkelt ingen möjlighet att utifrån nuvarande grundläggande naturvetenskap ens på ett principiellt sätt förutsäga vilka objekt som delar denna subjektiva inre erfarenhet och i vilka system den uppträder. Alltså är det något som fattas i beskrivningen. Searle menar att det finns en skillnad mellan syntax, eller symbolhantering, som datorer är bra på, och semantik, där mening kommer in, som är den biologiska hjärnans specialitet. Skillnaden är fundamental.

Man kan också göra en annan observation: hjärnan är ett biologiskt organ. Det finns också andra biologiska organ som hjärta, lever eller mage vilka alla bjuder på rätt stora problem om man skall skapa artificiella motsvarigheter konstruerade från grunden. Jag talar inte om att göra det i någon slarvig principiell mening utan i en konkret och praktisk där det fungerar utan krus, reservationer eller ursäkter. Något som gör exakt vad det ska i skarpt läge.

Av något skäl tycks många mena att en hjärna i någon mening är mycket enklare. Påståendet är att man kan simulera en hjärnas funktion, och därmed dess medvetande, om man bara har en tillräckligt kraftfull dator. Simulera? En simulerad mage smälter inte riktig mat på något meningsfullt sätt alls. Och frågan är om en simulerad hjärna tänker några tankar?

Kroppens samtliga organ, inklusive hjärnan, är ett resultat av miljoner års evolution. De är inte enkla designade konstruktioner där var del har en tydlig och pedagogiskt avgränsad funktion. Det finns en komplexitet som vi helt enkelt inte förstår oss på. Neurologen Antonio Damasio har utvecklat resonemang kring detta i ett antal böcker där han också ifrågasätter hur väl en hypotetiskt isolerad hjärna utan kropp egentligen skulle fungera. Är PC Jersilds ”En levande själ” möjlig ens i teorin?

Detta utesluter förstås inte att hjärnan i grund och botten är ett mekaniskt system som skulle gå att rekonstruera åtminstone i princip, men uppgiften ter sig betydligt svårare. Jag delar Searles pessimism/optimism när det gäller möjligheten att skapa faktiskt medveten artificiell intelligens. För att detta skall bli möjligt krävs fundamentala genombrott, kanske till och med inom grundläggande fysik.

Som teoretisk fysiker vågar jag dessutom vara lite självkritisk till mitt eget skrå. De förenklade modeller som varit så framgångsrika inom den fundamentala fysiken riskerar att förblinda och få oss att tro att saker ibland är enklare än vad de faktiskt är. Jag säger det rent ut: biologi är svårare än fysik.

Men även om allt det jag skriver skulle vara rätt så kan det förstås gå åt skogen ändå. Jag ifrågasätter inte på något sätt att det finns faror med den snabba utvecklingen på området artificiell intelligens. I själva verket är jag nog i någon mening mer oroad än initiativtagarna till uppropet, men kanske på ett lite annat sätt.

Min misstanke är att en datororsakad mänsklighetens undergång inte kommer att vara fullt så glamorös och SF-betonad som det antyds. Det kan istället röra sig om att vi blir fullständigt beroende av tämligen dumma system som brakar samman som resultat av strömavbrott eller avsiktliga och illasinnade sabotage. Kedjereaktioner får sedan resten att kollapsa med anarki och samhällsupplösning som följd. Det kan också handla om dumma system som fixerade på en viss uppgift spårar ur. Datoriserad börshandel som ger instabilitet och kollaps kan vara ett exempel.

Det finns därför något aningen naivt i uppropen. Någon form av bakvänd framstegsoptimism. Varningen för den farliga framtiden blir inte riktigt trovärdig när den blandas med en lite pojkaktig fascination, kanske rentav en önskan om att åtminstone lite grand av mardrömmen trots allt skall slå in.

Tillägg: Läs också Jag robot? från 2015-10-12.