artificiell intelligens

Finns information? Ett meningsutbyte med Olle Häggström

Ulf Danielsson Medvetandet ,

För några veckor sedan hade jag ett meningsutbyte med matematikern Olle Häggström på Patrik Lindenfors Facebooksida om begreppet information och huruvida information verkligen existerar. Jag fann det tillräckligt intressant för att förtjäna publicering på bloggen, och med Olles tillåtelse gör jag det här nedan.

Det hela började med att Patrik läste en intervju med mig, rubricerad Tro inte på spöken, i senaste Axess, och blev provocerad, något han uttryckte i sin Facebookpost. Olle hade själv blivit provocerad på ungefär samma sätt när han läste samma intervju någon vecka tidigare. Hur som helst, jag svarade Patrik, Olle hakade på, och resultatet blev som följer. Också Olle har publicerat utbytet på sin blogg tillsammans med kommentarer.

UD: Det som är märkligt är att det jag hävdar inte ses som en självklarhet för den med en naturvetenskaplig grundsyn. Att säga ”information är en egenskap hos materien” är snömos. Låt mig ta ett exempel. En vägskylt med talet 70. Skylten informerar oss om att här får man inte köra fortare än 70 km/h (åtminstone om skylten befinner sig i Sverige). Denna information är inte alls en egenskap hos själva skylten. Det finns inte ens något ”70” hos den materia som bygger upp skylten. Om en symbolreform genomfördes där siffrorna 3 och 7 bytte betydelse skulle detta inte på något sätt förändra karaktären hos den materia som skylten består av. Isolerat innehåller skylten ingen som helst information om en hastighetsbegränsning. För att det som skylten avses förmedla skall ha någon mening krävs att ett annat materiellt system, vanligen den biologiska hjärnan hos en bilförare, gör en tolkning av skylten och förhoppningsvis justerar sitt beteende. Den aktuella informationen existerar inte oberoende av denna växelverkan utan enbart i relation till en uttolkare.

Mitt enkla budskap är att allt är materia och att alla de modeller vi gör av världen, inklusive de begrepp vi använder oss av, inte existerar på annat sätt än i sin materiella form. Vi är begränsade biologiska varelser, fångna i och delar av samma fysiska värld som den vi vill beskriva. Det finns en objektiv fysisk värld (detta är förövrigt det enda som finns) som vi med viss framgång lyckas beskriva med hjälp av vetenskapliga modeller som gör bruk av begrepp som matematik, information och naturlagar. Dessa begrepp utgör en karta som sitter rent fysiskt i våra huvuden och liksom alla kartor inte är identisk med den objektiva verklighet den försöker spegla.

I det dagliga livet behöver man inte vara så noga med åtskillnaden. Man kan många gånger handskas med begreppen som om de var identiska med verkligheten. Det är just det som är så fiffigt med riktigt bra modeller. Men när man vill gå lite djupare är det helt centralt att upprätthålla distinktionen. Begreppet information har i vissa kretsar getts en betydelse som går långt utöver den väldefinierade roll den spelar i vetenskapligt modellbygge (inklusive inom den esoteriska fysik som jag sysslar med rörande kvantgravitation och svarta hål.) Den ges i populärkulturella sammanhang en obeorende existens som inbjuder till spekulationer som gränsar till det rent religiösa när man inbillar sig att mänskliga medvetanden kan reduceras till ettor och nollor och via något som liknar själavandring laddas upp på datorer. Det är detta larv jag vänder mig emot.

OH: Om medvetandet kan man ha olika uppfattning, Ulf, vilket du och jag har (se gärna Avsnitt 3 i http://www.math.chalmers.se/~olleh/UploadingPaper.pdf), vilket i sin tur är helt i sin ordning. Men din tvärsäkerhet förvånar mig en smula, och om jag hade varit en upload hade jag blivit förnärmad och förgrymmad över den flagranta kol-chauvinism du ger uttryck för!

Att döma av ditt exempel med 70-skylten verkar du ha en Searliansk syn på informationsinnehåll och medvetande – en syn jag personligen har svårt att acceptera. Låt mig utmana med att i ditt exempel byta ut 70-skylten mot plåten ombord på Pioneer 10 och 11 – eller för den delen en sekvens av N1*N2 ettor och nollor, där N1 och N2 är hyfsat stora primtal med ungefär samma kvot N1/N2 som höjd/längd hos plåten, och där ettorna och nollorna svarar mot svarta och vita pixlar i en digital bild av plåten. Anser du att även denna plåt, och dess digitala motsvarighet, saknar informationsinnehåll? Jag gissar (men rätta mig gärna om jag har fel!) att du i konsekvensens namn svarar nej på det, och därmed hamnar i en ståndpunkt jag finner orimlig.

UD: Om du inte har någon slug baktanke tillför dina exempel ingenting nytt. Min inställning är konsekvent densamma. Att symboler och ord i sig själva och oberoende av sitt sammanhang skulle kunna bära på en absolut mening jämställer jag med magi vilket är för mig fullständigt främmande. Det vore intressant om du gav din tolkning av exemplet med 70-skylten. Jag är särskilt intresserad av på vilket sätt en symbolreform (där betydelsen av symbolerna 3 och 7 byts ut) registreras av den materia som bygger upp skylten.

OH: En enda bit ger ingen information utan kontext. Knappast 10 bitar heller, men någonstans kring uppskattningsvis 100 eller 1000 bitar börjar det bli möjligt att förmedla något utan att mottagaren behöver känna till kontexten.

70-skylten är helt enkelt för torftig för att förmedla information till den som inte har relevant kodbok. Pioneer-plåten är det inte. Den bär på information som varje tillräckligt avancerad civilisation i vårt universum åtminstone till del kommer att (trots avsaknad av med oss gemensamt kulturell historia) kunna avkoda och på så vis begripa vår avsikt.

Måhända går det här att invända att det bara är genom den kontext som vårt universum och dess fysik ger som Pioneer-plåten blir begriplig, och att plåten därmed i sig inte bär på någon information. Den tankegången, om än en smula sökt, kan jag ändå ha en viss förståelse för, och jag blir i så fall tvungen att korrigera mitt exempel ett snäpp till:

Låt oss sända meddelandet

1101110111110111111101111111111101111111111111011110111
1111111111011111111111111111110111111111111111111111110...

Om vi utsträcker det till säg 1000 bitar så vågar jag lova att varje tillräckligt avancerad civilisation (i vårt universum med vår fysik, eller i något helt annat) som läser meddelandet kommer att tänka ”aha, primtalssekvensen!”. Denna information ligger i själva meddelandet och kräver ingen kontext överhuvudtaget. Eller om vi skickar en tillräckligt stor 3D-realisering (två rumsdimensioner och en tidsdimension) av Game of Life, så kommer reaktionen att bli ”Oh wow, vilken cool cellulär automat, kolla de har upptäckt hur man riggar en fabrik som tillverkar gliders!”. Denna information ligger i meddelandet och kräver ingen kontext överhuvudtaget. Och från Game of Life-exemplet är det lätt att gå vidare och inse att vi med tillräcklig ansträngning kan berätta i stort sett vad vi vill om livet här på jorden utan att mottagaren behöver ha någon med oss gemensam kodbok eller kontext överhuvudtaget.

Allt detta kan man förstås förneka om man ditchar den matematiska platonismen och hävdar att matematiken blott är en kulturell konstruktion, men då har man verkligen irrat bort sig. Primtalssekvensen finns, oavsett oss människor, eller något fysiskt överhuvudtaget.3

UD: Jag tror vi gjort framsteg. Du tillstår att

det bara är genom den kontext som vårt universum och dess fysik ger som Pioneer-plåten blir begriplig, och att plåten därmed i sig inte bär på någon information.

Du ser det visserligen som lite sökt men ändå som varande en möjlig ståndpunkt. I mer lättviktiga sammanhang behöver man inte vara så petig men när det gäller det vi nu avhandlar är det centralt. Utan ett yttre kontext bär alltså inte ens Pioneerplåten på någon information.

Vi skulle kunna lämna allt vid denna bräckliga enlighet och ta sommarlov, men jag kan inte låta bli att dra det ett varv till. Precis som du indikerat kopplar detta över till Searle och gör enligt min mening teorin om medvetande baserat på beräkningar ohållbar. En räknande dator är inte mer medveten än en 70-skylt. Oavsett om någon tittar på den eller ej.

Jag gissar att din utväg blir en platonsk syn på matematiken – vilket jag förstår är vad du förespråkar. För egen del finner jag en utanför materien existerande idévärld full med matematik lika orimlig som en religiöst motiverad andevärld. Lyckligtvis finns andra alternativ till platonismen än kulturell konstruktion. Som motståndare till allt vad dualism heter ser jag det som betydligt rimligare att matematiken till en del är biologiskt konstruerad och djupt rotad i våra evolverade hjärnor baserad på en rent fysisk erfarenhet av världen. För mig är fysiken och materien mer fundamental än matematiken. Om detta är vi nog knappast överens.

OH: Tack Ulf för i någon mån klargörande svar! Om vi här har närmat oss roten till våra divergerande ståndpunkter är det helt klart ett framsteg. Att fysiken skulle utgöra ett fundament för matematiken är mig mycket riktigt främmande, men är kanske inte så lätt att motbevisa (bortom i intuitiva upplevelser grundade utrop typ ”hur i hela fridens namn skulle ett stycke materia kunna ha betydelse för huruvida antalet primtal är oändligt?”). Vi kanske får anledning att återkomma i ämnet?

Tills dess, tillåter du att jag återpublicerar vårt replikskifte på min blogg?

UD: Så många gånger du vill!

UD: Hoppas på tillstånd för en parallell publicering?

OH: Såklart!

* * *

I kommentarerna på sin blogg ifrågasätter Olle hur jag kan vara så tvärsäker på att en dator kan vara medveten. Vore inte lite ödmjukhet på sin plats? Det är riktigt att det inte är särskilt mycket man kan vara helt säker på. Liknande kritik kan framföras mot påståenden om att Gud inte finns, att det inte finns ett liv efter döden eller att det inte finns spöken.  Att man inte kan motbevisa ett givet påstående innebär dock inte att det inte kan finnas goda skäl att avvisa det. Och detta menar jag gäller lika mycket existensen av spöken som att datorer kan bli medvetna. 

Argumentet för att datorer skulle kunna bli medvetna utgår från en analogi. Vi vet att människor är medvetna. Det som karaktäriserar en mänsklig hjärna är att den kan bearbeta information. En dator kan göra samma sak och det är därför rimligt att tro att en tillräckligt avancerad dator också kommer att vara medveten.

Argumentet emot medvetna datorer utgår istället från en dator som ett fysiskt system likt vilket annat fysiskt system som helst. Vi har en fullständig förståelse av alla ingående komponenter och det finns inget gåtfullt alls med hur en dator uppträder. Det finns alltså inga belägg för att det i datorn skulle finnas några fenomen av typen medvetande och inget nytt kan heller förklaras av en sådan hypotes. Det är därmed lika dumt att tro att ett sådant medvetande skulle finnas som att tro på spöken. Trots att vi inte kan vara alldeles säkra på hur det ligger till föreligger ingen symmetri mellan existerar och existerar inte – den andra ståndpunkten är veenskapligt mycket rimligare än den första.

Det faktum att vi som människor rent empiriskt kan konstatera att just vi faktiskt har ett medvetande blir en separat fråga. Se vidare blogginlägget Dra ur sladden (med länkar vidare) i samband med en tidigare diskussion mellan Olle och mig. Världen är på riktigt är också relevant.

Med datorer avser jag för övrigt maskiner konstruerade utifrån en teknologi som är av princip samma slag som dagens. Självklart kan framtiden erbjuda andra möjligheter. Den mest lovande, och skrämmande, är att utnyttja biologi och genteknik.

Jag har genom åren haft flera givande och underhållande diskussioner tillsammans med Olle. Det mesta har vi varit överens om – läs gärna på Olles blogg om ett remarkabelt möte med klimatförnekare vi hade tillsammans för ett antal år sedan. De gånger man inte är överens måste det viktiga vara att lyhört försöka förstå den andres argument och hjälpa till att göra dem så starka som möjligt. Detta är något som alltid karaktäriserat våra samtal.

Demokritos fattar galoppen

Ulf Danielsson Medvetandet , , , ,

Min och Olle Häggströms stillsamma diskussion om huruvida den mänskliga civilisationens undergång kommer att orsakas av dumma människor eller smarta robotar har utlöst en engagerad nätdebatt om vad medvetandet egentligen är för någonting. Se bland annat Patrik Lindenfors.

Svårigheten i debatten är skiftande meningar om i vad mån det finns en fråga, i så fall vilken den är och om den är meningsfull, med följden att vi gladeligen pratar förbi varandra. Låt mig i bästa samförståndsanda göra ett nytt försök. Jag börjar i en lite mindre ambitiös ände med några reflektioner kring hur hjärnor fungerar. Det följande är en fortsättning på Dum, dummare, robot och Jag robot?

Det står utom all tvivel att man genom naturvetenskapliga studier av hjärnan som ett fysiskt objekt, tillsammans med observationer av försöksdjurs beteende (eller försökspersoners utsagor) kan lära sig mycket om hur en hjärna bearbetar den information som den snappar upp.

Det är mycket möjligt att begrepp som emergens kommer att spela en viktig roll när man väl förstår hur det fungerar. Emergens handlar om hur komplexa system kan tillskrivas egenskaper som inte uppbärs av de enskilda beståndsdelarna. Orkaner och fågelflockar utgör ett par välkända exempel och biologiskt evolverade informationshanterande system kan utgöra andra.

Jag vidhåller att det faktum att hjärnan är ett resultat av evolutionen är en viktig ledtråd när man skall förstå sig på dess funktion. Vilka metaforer och tankefigurer vi låter vägleda oss av är långt från betydelselöst. I våra dagar är det populärt inom många områden att resonera i termer av mjuk- och hårdvara. Synsättet är så väl inrotat att det tas som givet och man glömmer att det i allmänhet bara utgör förenklade modeller som vi mer eller mindre framgångsrikt använder oss av. Det är inte på något sätt självklart att en parallell till datorer i termer av mjuk- och hårdvara framgångsrikt fångar alla aspekter av hur hjärnan fungerar.

Det är viktigt att inte förväxla våra modeller och förutfattade meningar med ett faktiskt existerande naturligt objekt. (Många missuppfattningar inom fundamental fysik handlar om just detta.) Det är en avgörande skillnad mellan en biologisk hjärna och en konstruerad och skapad dator som blivit till för ett syfte och där konstruktören kan berätta på ett meningsfullt sätt om hur det var tänkt med mjukt och hårt. Något sådant är inte fallet med hjärnan som utgör en fysisk helhet. Detta förhindrar inte att man kan göra framsteg också med ett sådant synsätt men jag kan inte se annat än att det måste ha sina begränsningar. Syftet med min jämförelse av en simulerad hjärna och en simulerad mage i Dum, dummare, robot var att peka på detta.

(Exempel på skadliga metaforer finns det gott om också inom fysiken. Inte minst när det talas om den kosmiska bakgrundsstålningen som ”Guds ansikte”, eller Higgspartikeln som ”Gudspartikeln”. Vad leder detta till för slags förväntningar på hur universum ser ut? Själv biter jag mig alltid i tungan när jag råkar säga ”universums skapelse”.)

Det är förövrigt lustigt hur väl begreppen hård- och mjukvara lyckats föra det dualistiska arvet med kropp och själ vidare i en ny skepnad. I sammanhanget har det anförts att jag lägger alltför mycket fokus på kött och materia. Men vad skulle det annars handla om?

Lägg märke till att jag än så länge egentligen inte sagt någonting om vad medvetandet är. Inte ens dess existens har spelat någon roll. Jag har egentligen bara berört hjärnans yttre funktion. Så länge observatörens subjektivt upplevda medvetande hålls utanför ekvationen finns det ju inte så mycket att bekymra sig över. Modeller, tankar och mönster kan betraktas som delar av vår bild av världen och kategoriseras som ”ickefysikaliska” men icke desto mindre existerande. Så länge de håller hus i vårt medvetande innebär det ingen motsägelse.

Men med denna begränsning kan man förstås heller inte vetenskapligt komma vidare med frågan om vad medvetandet egentligen är för någonting. Å andra sidan kan frågan i detta perspektiv betraktas som ointressant eller meningslös. Mer eller mindre per definition finns det ju heller ingen möjlighet att objektivt studera det subjektiva och då torde det väl heller inte vara något lämpligt ämne för den som vill åstadkomma reella framsteg? Vissa vill stanna just där.

Men det retsamma är att den subjektiva upplevelsen knepigt nog tycks vara högst verklig i alla fall. Den springande punkten gäller i vad mån man nöjer sig med detta eller vill reflektera vidare – förvisso utan hopp om att nå någon större framgång.

Fällan det är lätt att gå i utgörs av att man trivialiserar frågan och återigen hänvisar till emergens och något ickemateriellt eller ickefysiskaliskt. Min bestämda uppfattning är att detta inte duger. Har man gett sig in i leken får man leken tåla. Om man betraktar medvetandet som något som det är möjligt att foga in i en naturvetenskaplig beskrivning måste det också vara något fysiskt. Eller så finns det inte alls. Den enda platsen för ickefysikaliska företeelser är inom ramen för ett medvetande som vi lämnat utanför den fysiska världen.

demokritos

Demokritos var tidigt detta på spåren:

Av sedvänja finns färg

Av sedvänja finns sötma

Av sedvänja finns bitter smak

Men i verkligheten finns atomer och tomrum.

Så hur skall vi ha det? Det finns två alternativ. Antingen konstaterar man att frågan saknar praktisk betydelse och försöker via spetsfundigheter sopa den under mattan. Eller så accepterar man att det finns en fundamental gåta där man kan ha olika förhoppning om den någonsin kommer att få sin lösning. Jag håller på det senare.