Sammanfattning av denna webbsida: Den här artikeln kan ses som ett försök att undersöka konsekvenserna av två förslag. (1) Avsiktlighet hos människor (och djur) är en produkt av hjärnans orsakssamband. Jag antar att detta är ett empiriskt faktum om det faktiska orsakssambandet mellan mentala processer och hjärnor. Det står helt enkelt att vissa hjärnprocesser är tillräckliga för avsiktlighet. (2) Att direktinitiera ett datorprogram är aldrig av sig självt ett tillräckligt villkor för avsiktlighet. Det huvudsakliga argumentet i detta dokument är att fastställa detta påstående. Formen av -argumentet är att visa hur en mänsklig agent kan ögonblickligen programmet och fortfarande inte har relevant intentionalitet. Dessa två satser har följande konsekvenser: (3) Förklaringen av hur hjärnan producerar avsiktlighet kan inte vara att det gör det genom att ögonblickligen ett datorprogram, Detta är en strikt logisk konsekvens av 1 och 2. (4) Alla mekanismer som kan ge upphov till avsiktlighet måste ha samma orsaksförmågor som hjärnans. Detta är tänkt att vara en trivial konsekvens av 1. (5) Varje försök att bokstavligen skapa avsiktlighet på konstgjord väg (stark AI) kunde inte bara lyckas genom att utforma program utan skulle behöva duplicera den mänskliga hjärnans orsakskrafter. Detta följer av 2 och 4. "Kan en maskin tänka?" På argumentet avancerat här bara en maskin kunde tänka, och endast mycket speciella typer av maskiner, nämligen hjärnor och maskiner med inre orsakskrafter likvärdiga med de av hjärnor. Och det är därför stark AI har lite att berätta 3.om tRinking, eftersom det inte handlar om maskiner utan om program, och inget program i sig räcker för att tänka. Nyckelord: artificiell intelligens; hjärna; intentionalitet; sinne Vilken psykologisk och filosofisk betydelse bör vi fästa vid den senaste tidens insatser vid datorsimuleringar av människans kognitiva kapacitet? När jag besvarar denna fråga, tycker jag att det är bra att skilja vad jag kommer att kalla "stark" AI från "svag" eller "försiktig" AI (Artificial Intelligence). Enligt svag AI, det huvudsakliga värdet av datorn i studien av sinnet är att det ger USA ett mycket kraftfullt verktyg. Det gör det till exempel möjligt för oss att formulera och testa hypoteser på ett mer rigoröst och exakt sätt. Men enligt stark AI, datorn är inte bara ett verktyg i studiet av sinnet; snarare, den lämpligt programmerade datorn är verkligen ett sinne, i den meningen att datorer som ges rätt program kan bokstavligen sägas förstå och har andra kognitiva tillstånd. I stark AI, eftersom den programmerade datorn har kognitiva tillstånd, programmen är inte bara verktyg som gör det möjligt för oss att testa psykologiska förklaringar; snarare, programmen själva förklaringar. Jag har inga invändningar mot påståenden svaga AI, & minst vad gäller denna artikel. Min diskussion här kommer att riktas mot de påståenden jag har definierat som starka AI, särskilt påståendet att den lämpligt programmerade datorn bokstavligen har kognitiva tillstånd och att programmen därmed förklarar mänsklig kognition. När jag härefter hänvisar till AI, Jag har i åtanke den starka versionen, som uttrycks av dessa två påståenden. • Jag tänker på Roger Schanks och hans kollegors arbete på Yale (Schank & Abelson 1977), eftersom jag är mer förtrogen med det än med andra liknande påståenden, och eftersom det är ett mycket tydligt exempel på det slags arbete jag vill undersöka. Men ingenting som följer beror på detaljerna i Schanks program. Samma argument skulle gälla för Winograd's SHRDLU (Winograd 1973), Weizenbaum's ELIZA (Weizenbaum 1965), och faktiskt någon Turing maskin Simulering av mänskliga mentala fenomen. Mycket kort, och utelämnar de olika detaljerna, kan man beskriva Schanks program som följer: syftet med programmet är att simulera människans förmåga att förstå berättelser. Det är karakteristiskt för människors story-förståelse förmåga att de kan svara på frågor om historien även om den information som de ger aldrig uttryckligen anges i berättelsen. Anta därför att du får följande berättelse: " En man gick in på en restaurang och beställde en hamburgare. När hamburgaren kom brändes den till en krispig, och mannen stormade ut ur restaurangen ilsket, utan att betala för hamburgaren eller lämna ett tips." Om man frågar dig: "Ät mannen hamburgaren?" Du kommer förmodligen att svara: "Nej, det gjorde han inte." På liknande sätt, om du får följande berättelse: "En man gick in i en restaurang och beställde en hamburgare; när hamburgaren kom var han mycket nöjd med det; och när han lämnade restaurangen gav han servitrisen ett stort tips innan han betalade sin räkning", och du får frågan, "Ät mannen hamburgaren?", kommer du förmodligen svara, "Ja, han åt hamburgaren." Nu kan Schanks maskiner på liknande sätt svara på frågor om restauranger på detta sätt. För att göra detta har de en "representation" av den typ av information som människor har om restauranger, vilket gör det möjligt för dem att svara på sådana frågor som de ovan, med tanke på denna typ av berättelser. När maskinen ges berättelsen och sedan ställs frågan, kommer maskinen att skriva ut svar av det slag som vi skulle förvänta oss att människor skulle ge om de berättade liknande historier. Partisaner av stark AI hävdar att i denna fråga och svar sekvens maskinen är inte bara simulera en mänsklig förmåga men också 417 Searle: Minder, hjärnor, och program (som verkligen är fallet) att jag vet ingen kinesiska, varken skrivna eller talade, och att r m inte ens säker på att jag kunde känna igen kinesiskt skrivande som kinesiskt skrivande skiljer sig från, säg, japanskt skrivande eller meningslösa fnissningar. För mig är kinesiskt skrivande bara så många meningslösa fnissningar. Antag vidare att efter detta första parti av kinesiskt skrivande får jag en andra sats av kinesiskt manus tillsammans med en uppsättning regler för att korrelera det andra partiet med det första partiet. Reglerna är på engelska, och jag förstår dessa regler liksom alla andra infödda talare av engelska. De gör det möjligt för mig att korrelera en uppsättning formella symboler med en annan uppsättning formella symboler, och allt det "formella" betyder här är att jag kan identifiera symbolerna helt och hållet genom deras former. Antag nu också att jag får en tredje omgång kinesiska symboler tillsammans med några instruktioner, återigen på engelska, som gör det möjligt för mig att korrelera delar av denna tredje sats med de första två omgångar, och dessa regler instruerar mig att ge tillbaka vissa kinesiska symboler med vissa typer av former som svar på vissa typer av former som ges mig i den tredje omgången. Okänd för mig, de som ger mig alla dessa symboler kallar den första omgången "ett skript", de kallar den andra omgången en "historia", och de kallar den tredje omgången "frågor". Dessutom kallar de symboler jag ger dem tillbaka som svar på den tredje omgången "svar på frågorna", och den uppsättning regler på engelska som de gav mig, de kallar "programmet". Nu bara för att komplicera berättelsen lite, föreställ dig att dessa människor också ger mig berättelser på engelska, vilket jag förstår, och de sedan frågar mig frågor på engelska om dessa berättelser, och jag ger dem tillbaka svar på engelska. Antag också att jag efter ett tag blir så bra på att följa instruktionerna för att manipulera de kinesiska symbolerna och programmerarna blir så bra på att skriva programmen att utifrån så är det, utifrån någon utanför det rum där jag är låst - mina svar på frågorna är absolut oskiljaktiga från de inhemska kinesiska talarnas. Ingen som bara tittar på mina svar kan säga att jag inte talar ett ord kinesiska. Låt oss också anta att mina svar på de engelska frågorna, eftersom de utan tvivel skulle vara oskiljaktiga från svaren från andra infödda engelsktalande, av den enkla anledningen att jag är infödd engelsktalande. Ur den externa synvinkeln - från någon som läser mina "svar" - svaren på de kinesiska frågorna och de engelska frågorna är lika bra. Men i det kinesiska fallet, till skillnad från det engelska fallet, producerar jag svaren genom att manipulera otolkade formella symboler. När det gäller kineserna beter jag mig helt enkelt som en dator; jag utför beräkningsoperationer på formellt specificerade element. För kinesernas skull är jag bara en direktion av datorprogrammet. Nu hävdar starka AI att den programmerade datorn förstår berättelserna och att programmet i någon mening förklarar mänsklig förståelse. Men vi är nu i stånd att undersöka dessa påståenden mot bakgrund av vårt tankeexperiment. 1. Vad är det för fel på dig? När det gäller det första påståendet förefaller det mig ganska uppenbart i exemplet att jag inte förstår ett ord av de kinesiska berättelserna. Jag har ingångar och utgångar som är oskiljaktiga från infödda kinesiska talare, och jag kan ha något formellt program du gillar, men jag förstår fortfarande ingenting: Av samma skäl, Schanks dator förstår ingenting av några historier, vare sig på kinesiska, engelska eller något, eftersom i det kinesiska fallet datorn är jag, och i de fall där datorn inte är jag, datorn har ingenting mer än jag har i fallet där 1 förstår ingenting. 2. Utgångspunkten är följande: När det gäller det andra påståendet, att programmet förklarar mänsklig förståelse, kan vi se att datorn och dess program inte ger tillräckliga villkor för förståelse eftersom datorn och programmet fungerar, och det finns ingen förståelse. Men ger det ens ett nödvändigt villkor eller ett betydande bidrag till under- På grundval av dessa två antaganden antar vi att även om Schanks program inte är hela historien om förståelse, det kan vara en del av historien. Tja, jag antar att det är en empirisk möjlighet, men inte den minsta anledning har hittills getts att tro att det är sant, eftersom vad som föreslås _ även om säkert inte visas - av exemplet är att datorprogrammet är helt enkelt irrelevant för min förståelse av ~tory. I det kinesiska fallet har jag allt som artificiell intelligens kan sätta in i mig av W$y av ett program, och jag förstår ingenting; i det engelska fallet förstår jag allt, och det finns hittills ingen anledning att anta att min förståelse har något att göra med datorprogram, det vill säga med beräkningsoperationer på rent formellt specificerade element. Så länge programmet definieras i termer av beräkningsoperationer på rent formellt definierade element, vad exemplet antyder är att dessa i sig inte har någon intressant koppling till förståelse. De är verkligen inte tillräckliga villkor, och inte det minsta skäl har getts att anta att de är nödvändiga villkor eller ens att de ger ett betydande bidrag till förståelsen. Lägg märke till att argumentet inte bara är att olika maskiner kan ha samma input och output samtidigt som de arbetar enligt olika formella principer - det är inte poängen alls. Snarare, oavsett rent formella prinCiples du sätter in i datorn, kommer de inte att vara tillräckliga för att förstå, eftersom en människa kommer att kunna följa de formella prinCiples utan att förstå någonting. Ingen anledning vad som än har erbjudits att anta att sådana principer är nödvändiga eller ens bidragande, eftersom ingen anledning har getts att anta att när jag förstår engelska jag arbetar med något formellt program alls. Vad har jag då i fråga om de engelska meningarna som jag inte har i fråga om de kinesiska meningarna? Det uppenbara svaret är att jag vet vad det förra betyder, medan jag inte har den blekaste aning om vad det senare betyder. Men i vad består detta och varför kunde vi inte ge det till en maskin, vad det än är? Jag återkommer till denna fråga senare, men först vill jag fortsätta med exemplet. Jag har haft tillfälle att presentera detta exempel för flera arbetare inom artificiell intelligens, och intressant nog verkar de inte vara överens om vad det rätta svaret på det är. Jag får en överraskande mängd olika svar, och i vad som följer kommer jag att betrakta de vanligaste av dessa (anges tillsammans med deras geografiska ursprung). Men först vill jag blockera några vanliga missförstånd om "förståelse": i många av dessa diskussioner finner man en hel del tjusigt fotarbete om ordet "förstå". Mina kritiker påpekar att det finns många olika grader av förståelse; att "förstå" inte är en enkel två plats predikat; att det finns även olika typer och nivåer av förståelse, och ofta lagen av uteslutna mitten inte ens gäller på ett enkelt sätt för uttalanden av formen "x förstår y", att det i många fall är en fråga för beslut och inte en enkel sak om x förstår y; och så vidare. Till alla dessa punkter vill jag säga: naturligtvis. Men de har inget att göra med de aktuella punkterna. Det finns tydliga fall där "förstå" bokstavligen gäller och tydliga fall där det inte är tillämpligt; och dessa två typer av fall är allt jag behöver för detta argument. 2 Jag förstår historier på engelska; i mindre grad kan jag förstå historier på franska; i ännu mindre grad, berättelser på tyska; och på kinesiska, inte alls. Min bil och min tilläggsmaskin, å andra sidan, förstår ingenting: de är inte i den branschen. Vi tillskriver ofta "förstå" och andra kognitiva predikat genom metafor och analogi till bilar, lägga till maskiner, och andra artefakter, men ingenting bevisas av sådana attribut. Vi säger, ''Dörren vet när man ska öppna på grund av sin fotoelektriska cell," "Tilläggsmaskinen vet hur (förstår hur, kan) att göra addition och subtraktion men inte division," och "The termostat uppfattar chanser i temperaturen." Anledningen till att vi gör dessa attribut är ganska intressant, och det har att göra med det faktum att i artefakter vi utökar vår egen intentionalitet;3 våra verktyg är förlängningar av våra syften, och så tycker vi att det är naturligt att göra metaforiska tillskrivelser av avsiktlighet till dem; men jag antar att ingen filosofisk is skärs av sådana exempel. Den betydelse i vilken en automatisk dörr "förstår instruktioner" från sin fotoelektriska cell är inte alls den betydelse i vilken jag förstår engelska. Om den betydelse som Schanks programmerade datorer förstår berättelser ska vara den metaforiska betydelse i vilken dörren förstår, och inte den betydelse som jag förstår engelska, skulle frågan inte vara värd att diskutera. Men Newell och Simon (1963) skriver att den typ av kognition de hävdar för datorer är exakt densamma som för människor. Jag tycker om att detta påstående är rättframt, och det är det slags anspråk jag kommer att överväga. Jag kommer att hävda att i bokstavlig bemärkelse förstår den programmerade datorn vad bilen och tilläggsmaskinen förstår, nämligen exakt ingenting. Datorförståelsen är inte bara (som min förståelse av tyska) partiell eller ofullständig; den är noll. Nu till svaren: Jag. Systemen svarar (Berkeley). "Även om det är sant att den enskilda person som är inlåst i rummet inte förstår historien, faktum är att han bara är en del av ett helt system, och systemet förstår historien. Personen har en stor liggare framför sig där är skrivna reglerna, han har en hel del skrappapper och pennor för att göra beräkningar, han har "databanker" av uppsättningar kinesiska symboler. Förståelsen tillskrivs inte blott och bart individen, utan den tillskrivs i stället hela detta system, som han är en del av." Mitt svar på systemteorin är ganska enkelt: låt individen internalisera alla dessa element i systemet. Han memorerar reglerna i liggaren och databankerna av kinesiska symboler, och han gör alla beräkningar i huvudet. Individen införlivar sedan hela systemet. Det finns ingenting alls i systemet som han inte omfattar. Vi kan till och med göra oss av med rummet och anta att han arbetar utomhus. Ändå förstår han ingenting av kineserna, och.~fortiori inte heller systemet, eftersom det inte finns något i systemet som inte finns i honom. Om han inte förstår, då finns det inget sätt systemet kan förstå eftersom systemet är bara en del av honom. ".................................................................. Egentligen känner jag mig lite generad över att ge även detta svar på systemteorin eftersom teorin verkar så osannolik att börja med. Tanken är att medan en person inte förstår kinesiska, på något sätt förbindelsen av den personen och bitar av papper kan förstå kinesiska. Det är inte lätt för mig att föreställa mig hur någon som inte var i en ideologis grepp skulle finna idén över huvud taget rimlig. Ändå tror jag att många människor som är engagerade i den starka Al-ideologin till slut kommer att vara benägna att säga något liknande, så låt oss gå lite längre. Enligt en version av denna uppfattning, medan mannen i den internaliserade Searle: Minder, hjärnor, och program system exempel inte förstår kinesiska i den mening som en infödd kinesisk talare gör (eftersom, till exempel, han inte vet att historien hänvisar till restauranger och hamburgare, etc.), fortfarande "mannen som en formell symbol manipulation system" verkligen förstår kinesiska. Delsystemet för den man som är det formella symbolmanipuleringssystemet för kinesiska bör inte förväxlas med delsystemet för engelska. Så det finns egentligen två delsystem i människan; en förstår engelska, den andra kinesiska, och "det är bara det att de två systemen har lite att göra med varandra." Men, jag vill svara, inte bara har de lite att göra med varandra, de är inte ens alls lika. Det delsystem som förstår engelska (förutsatt att vi tillåter oss att prata i denna jargong av "undersystem" för ett ögonblick) vet att berättelserna handlar om restauranger och äta hamburgare, han vet att han ställs frågor om restauranger och att han svarar på frågor så bra han kan genom att göra olika slutsatser från innehållet i berättelsen, och så vidare. Men det kinesiska systemet vet inget om detta. Medan det engelska delsystemet vet att "hamburgare" avser hamburgare, vet det kinesiska delsystemet bara att "squiggle sqUiggle" följs av "squoggle swoggle". Allt han vet är att olika formella symboler introduceras i ena änden och manipuleras enligt regler skrivna på engelska, och andra symboler går ut i andra änden. Hela poängen med det ursprungliga exemplet var att hävda att sådan symbolmanipulation av sig själv inte kunde vara tillräcklig för att förstå kinesiska i någon bokstavlig mening eftersom mannen kunde skriva "squoggle swoggle" efter "squiggle squiggle" utan att förstå något på kinesiska. Och det motsvarar inte det argumentet att postulera delsystem inom människan, eftersom delsystemen inte är bättre än människan var i första hand; de har fortfarande inte något ens på distans som vad den engelsktalande mannen (eller delsystemet) har. I det fall som beskrivs är det kinesiska delsystemet helt enkelt en del av det engelska delsystemet, en del som ägnar sig åt meningslös symbolmanipulation enligt regler på engelska. Låt oss fråga oss vad som i första hand ska motivera systemens svar. Det vill säga, vilka oberoende skäl ska det finnas för att säga att agenten måste ha ett delsystem inom sig som bokstavligen förstår historier på kinesiska? Såvitt jag kan säga de enda skälen är att i exemplet har jag samma input och output som infödda kinesiska talare och ett program som går från en till en annan. Men hela poängen med exemplen har varit att försöka visa att det inte kunde vara tillräckligt för att förstå, i den bemärkelsen att jag förstår berättelser på engelska, eftersom en person, och därmed den uppsättning system som går för att utgöra en person, kunde ha rätt kombination av input, output och program och fortfarande inte förstå någonting i relevant bokstavlig mening där jag förstår engelska. Det enda
Argumentet i avsnitt 3.1, med idén att utveckla bortom rote learning, är den typ av argument som också ges av Searle Ref.
Minds, brains, and programs
{'venue': None, 'journal': 'Behavioral and Brain Sciences', 'mag_field_of_study': ['Computer Science', 'Psychology']}