Kommer medvetna och intelligenta robotar att ta över världen? I Forskning och Framsteg nummer 8 kommenterar jag och Olle Häggström en tidigare artikel i tidskriften om artificiell intelligens. Olle har vidareutvecklat sina tankar på sin blogg och jag tar chansen att spinna vidare på mitt blogginlägg Dum, dummare, robot. Läs det för att hänga med i svängarna!
Till skillnad från Olle ställer jag upp på John Searles argument kring det kinesiska rummet. Jag menar helt enkelt att det finns fundamentala svårigheter när vi försöker förstå existensen av vårt subjektiva medvetande. Nuvarande vetenskap kan inte avgöra vilka system som har en subjektiv medvetenhet och kan därför heller inte skilja mellan en medveten varelse och en simulerande zombie. Detta är en avgörande brist vilken manar till försiktighet.
Jag och Olle har olika uppfattningar om detta. Innebär dessa olika utgångspunkter någon skillnad vad gäller oron för framtiden? Inte nödvändigtvis menar Olle och jag håller med. Trots, och i linje med, min (och Searles) argumentation kan det ju i princip vara möjligt att bygga farliga datorer alldeles oavsett om de är medvetna eller ej. Som Olle påpekar blir ju diskussionen om deras medvetenhet tämligen akademisk om de tar över jorden och förintar oss allihop.
Trots detta tenderar de olika utgångspunkterna att leda till olika fokus vad gäller framtida faror.
Dels menar jag att biologiska varelser är enormt mycket mer komplicerade än de maskiner som vi i praktiken kan konstruera och sätta ihop. När vi beskriver biologiska organismer använder vi vilseledande metaforer som antyder pedagogiskt konstruerade maskiner vilka inte på något sätt fångar kraften i miljarder år av evolution. Konsekvensen blir att vi på ett fundamentalt sätt underskattar svårigheterna – detta oavsett vad vi har för uppfattning om medvetandets roll.
Jag menar dessutom att medvetandet är en del av en fysikalisk verklighet som genom evolutionen frambringats hos varelser som människan, och rimligtvis i olika omfattning hos många andra djur, därför att det har ett överlevnadsvärde. Min misstanke är att det därför mycket väl kan finns en skillnad mellan en zombie och en medveten varelse. Detta trots att vi i nuläget inte förstår hur det fungerar.
(Poängen med zombieargumentet är att nuvarande vetenskap inte kan skilja mellan en zombie och en medveten varelse — trots vår egen subjektiva medvetna upplevelse. Däremot utesluter inte argumentet att det i realiteten faktiskt finns skillnader.)
Man kan förstås inte utesluta att man i en framtid faktiskt avslöjar den fysikaliska grunden för medvetenhet, hur den uppkommer, vilken funktion den har etc. Om detta skulle vara något som går att utnyttja teknologiskt, utan att förlita sig på eoner av evolution, kan läget bli ett annat. Men än så länge är detta ren science fiction och inte en del av det vi diskuterar.
Min slutsats blir att de datorer eller robotar som vi konstruerar inom en överblickbar framtid inte kommer ha några större likheter med medvetna hjärnor. Metaforer som går ut på att de är ”medvetna” och agerar med ”avsikt” i någon mänsklig mening riskerar därför att vara direkt missvisande när man skall undvika eller hantera eventuella farliga situationer.
Men inget av detta gör att jag ser framtiden an med någon större tillförsikt än till exempel Olle. Min enkla poäng är att det inte krävs maskiner (eller människor) som i någon bemärkelse är ”smarta” eller ”onda” för att förgöra världen. Lite gammaldags dumhet räcker gott.
Tillägg: Läs fortsättningen i Demokritos fattar galoppen.
Tack Ulf för ditt svar! Våra respektive positioner förtjänar nog att preciseras ytterligare, och i själva verket tror jag att det finns mer som förenar oss än som skiljer oss åt i frågan om medvetandets natur. Om jag får tid skall jag försöka samla mig till ännu en bloggpost där jag klargör vad jag menar med detta.
Tack för det! … och nu noterar jag på din blogg att du redan tagit dig tid. Det kommer mer från mig så småningom också!
Medvetande är svårförstått och det saknas tillräckliga teorier/modeller för att komma någon vart med den artificiella motsvarigheten. Personligen tänker jag ungefär så här ur ett informationsbehandlingsperspektiv:
Det är rätt uppenbart att hjärnan hela tiden skapar en kontinuerlig modell av verkligheten med hjälp av information från sinnen och till viss del kemi. I modellen ingår förstås även kroppen. Kroppen är medvetandets ankare, om man så vill, som finns med i alla neurala spår och hjälper oss att avgöra om vi faktiskt var på en plats eller bara satt i fåtöljen och fantiserade om platsen. Hjärnan har även tillgång till interna tillstånd som även de inkorporeras i modellen, liksom modellen själv. Modellen modelleras alltså (metamodell), kanske rekursivt, eller till ett djup som begränsas av våtvarans kapacitet. Och det är förmodligen där i den loopen som medvetandet uppstår, betraktaren som betraktar sig själv.
Så jaget är en del av modellen, det vi kallar verkligheten, men som egentligen är en virtuell modell av det där utanför. Och med den utgångspunkten ter det sig helt rimligt att alla varelser med en hjärna har en mer eller mindre avancerad modell av sin kropp och omgivning.
Att skapa medvetandet tar förstås tid, så det är ca en halv sekund fördröjt jämfört med verkligheten. Men samtidigt så innehåller modellen hela tiden den mest sannolika prognosen av de närmaste bråkdelarna av en sekund. Om något helt oväntat inträffar kan prognosen leva kvar ett ögonblick så att man efteråt upplever att något hände som faktiskt inte hände (representativt momentum).
Problemet med att som konstruktör av en AI kunna teoretisera över qualia, färg, smak, form, känslor, etc är att den försigår i informationsrymden av modellen. D.v.s. är ett resultat av informationsbehandling snarare än specifika mätbara kretsar. Så om man skall förstå den rätt grundläggande biten behöver man en teoretisk matematisk informationsmodell som beskriver hur detta fungerar. Men det finns förstås även specifika delar som har specifika uppgifter, men de är förmodligen av mer grundläggande natur för informationsprocessningen och säger inte så mycket om slutprodukten, medvetandets upplevelse.
Om min syn på det hela är någorlunda rätt så kommer det förmodligen att dröja rätt länge innan man ens börjar närma sig människans nivå på AI.