Kanske den mest ambitiösa vetenskapliga strävan i människans historia är skapandet av allmän artificiell intelligens, vilket ungefär innebär AI som är lika smart eller smartare än människor. Det dominerande förhållningssättet i maskininlärning gemenskapen är att försöka upptäcka var och en av de bitar som kan krävas för intelligens, med det implicita antagandet att någon punkt i framtiden någon grupp kommer att slutföra den herkuleiska uppgiften att räkna ut hur man kan kombinera alla dessa bitar till en extremt komplex maskin. Jag kallar det för "manuell AI-strategi". Detta papper beskriver en annan spännande väg som i slutändan kan vara mer framgångsrik på att producera allmän AI. Det bygger på den tydliga trenden i maskininlärningens historia att handgjorda lösningar så småningom ersätts av effektivare, lärda lösningar. Tanken är att skapa en AI-genererande algoritm (AI-GA), som själv automatiskt lär sig att producera allmän AI. Tre pelare är viktiga för tillvägagångssättet: 1) meta-lärande arkitekturer, 2) meta-lärande inlärningsalgoritmer själva och 3) skapande av effektiva inlärningsmiljöer. Medan arbetet med de två första pelarna har påbörjats har det inte gjorts mycket på den tredje. Här hävdar jag att antingen manualen eller AI-GA tillvägagångssätt kan vara den första att leda till allmän AI, och att båda är värdefulla vetenskapliga ansträngningar oavsett vilken som är den snabbaste vägen. Eftersom båda tillvägagångssätt är ungefär lika lovande, och eftersom maskininlärning gemenskapen är mestadels engagerade i den konstruerade AI-strategi för närvarande, hävdar jag att vår gemenskap bör flytta en betydande del av sin forskningsinvesteringar till AI-GA-metoden. För att uppmuntra sådan forskning beskriver jag lovande arbete inom var och en av de tre pelarna. Jag diskuterar också de säkerhetsmässiga och etiska överväganden som är unika för AI-GA-metoden. Eftersom det kan vara den snabbaste vägen till allmän AI och eftersom det är naturligt vetenskapligt intressant att förstå de förhållanden under vilka en enkel algoritm kan producera allmän AI (som hände på jorden där Darwin evolution producerade mänsklig intelligens), hävdar jag att jakten på AI-GAs bör betraktas som en ny stor utmaning för datavetenskap forskning. 1 Två metoder för att producera allmän AI: den manuella metoden vs. Argumentabelt den mest ambitiösa vetenskapliga strävan i människans historia är skapandet av allmän artificiell intelligens, vilket ungefär innebär AI som smart eller smartare än människor 1. Skapandet av allmän AI skulle förändra varje aspekt av samhället och den ekonomiska sektorn. Det skulle också katalysera vetenskapliga upptäckter, vilket skulle leda till oförutsägbara framsteg, inklusive ytterligare framsteg i själva AI (de potentiella etiska konsekvenserna av vilka jag diskuterar i avsnitt 4). 1 Denna uppsats kommer inte att försöka definiera allmän intelligens bortsett från att säga att det ungefär betyder AI som smart eller smartare än människor. Detta dokument engagerar sig inte heller i debatten om i vilken utsträckning något sådant existerar. Sådan terräng är vältrampad utan upplösning, och är inte fokus i detta dokument. Att veta ungefär vad de flesta människor menar med allmän AI är tillräckligt för syftet med detta papper. En metod för att producera allmän AI är via en tvåfas process. I Fas 1 upptäcker vi var och en av de bitar som kan krävas för intelligens. I fas två listar vi sedan ut hur vi ska sätta ihop alla dessa bitar i en extremt komplex maskin. Denna väg har följts sedan de tidigaste dagarna av AI, såsom inledande forskning om system avsedda att fånga logiskt tänkande eller processspråk [139]. Detta är också den väg som implicit intas av den stora majoriteten av maskininlärning forskarsamhället. De flesta papper införa eller förfina en enda byggsten av intelligens, såsom convolution [88], återkommande gated celler [63, 21, 22], hoppa över anslutningar [59, 161], uppmärksamhetmekaniker [194, 34], aktiveringsfunktioner [50, 56, 115, 102, 23], externt minne [51, 190], goda initialiseringar [48, 50], normaliseringssystem [72, 95], hierarkiska metoder [32, 11, 58, 185], kapslar [141, 62], oövervakade inlärningsmetoder [50, 132, 86, 49], värde eller fördel funktioner [176], inneboende motivation [171, 125, 123, 18], förtroende regioner [150], hjälpuppgifter [74], lösningar till katastrofala glömska [80, 38, 199, 184], och många, många fler. Tabell 1 innehåller många exempel på byggstenar, och denna lista är långt ifrån uttömmande. Att se längden på denna ofullständiga lista väcker följande frågor: Hur lång tid kommer det att ta att identifiera den rätta varianten av varje byggsten i listan? Hur många viktigare byggstenar har vi ännu inte uppfunnit? Hur lång tid tar det att upptäcka dem alla? Även om vi kunde skapa effektiva versioner av var och en av de viktigaste byggstenarna till allmän AI i en rimlig tid, vårt arbete skulle förbli oavslutade. Vad som sällan uttryckligen nämns är att samla viktiga byggstenar av intelligens är bara användbart när det gäller att bygga allmänna AI om någon grupp någon gång tar på sig den herkuleiska vetenskapliga utmaningen att räkna ut hur man kan kombinera alla dessa bitar till en intelligent maskin. Att kombinera flera, olika byggstenar är utomordentligt svårt på grund av (1) de många olika sätt de kan kombineras, (2) icke-linjära interaktionseffekter mellan moduler (t.ex. en version av en modul kan fungera bra i kombination med vissa byggstenar, men inte andra), och (3) de vetenskapliga och tekniska utmaningar som ingår i arbetet med komplexa system av dussintals eller hundratals interagerande delar, som var och en är en komplex, sannolikt svart-box, maskininlärning modul (t.ex. Tänk dig att försöka felsöka en sådan maskin eller identifiera vilken del som behöver justeras om saker och ting inte fungerar). Det har gjorts anmärkningsvärda, tappra, framgångsrika insatser för att kombinera flera (t.ex. runt sex till tretton) AI byggstenar [76, 60], men sådana försök fortfarande har ett lågt antal byggstenar vs. dussintals eller hundratals som kan krävas. Sådana insatser är också sällsynta och är förståeligt nog oförmögna att bedöma bidraget från varje separat byggsten, för att inte tala om olika kombinationer och/eller konfigurationer av varje byggsten. Sådan kunskap kan dock vara nödvändig för att vi skall kunna konstruera extrema intelligensnivåer i maskiner. En sista utmaning med att kombinera dussintals eller hundratals separata byggstenar är att det inte fungerar bra inom vår vetenskapliga kultur. Nuvarande vetenskapliga incitament, organisationer och traditioner belönar vanligtvis små forskarlag att producera några papper per år. Att kombinera alla nödvändiga AI-byggstenar tillsammans istället skulle sannolikt kräva en extremt stor, dedikerad team för att arbeta i år eller årtionden i något som liknar ett Apollo-program. Medan några utmärkta institutioner som DeepMind och OpenAI är stora, välfinansierade, och fokuserade på att skapa allmän AI, tenderar de fortfarande att ha mindre team fokuserade på separata projekt och publicering regelbundet, i stället för en organisation där alla händer på däck är engagerade i ett projekt, som kan krävas för att ingenjör AI. Naturligtvis kan deras strukturer utvecklas med tiden när byggstenarna tros ha identifierats. För att vara tydlig tror jag att den manuella AI vägen (1) har en chans att vara den snabbaste vägen till AI (avsnitt 1.6) och (2) är värt att fullfölja även om det inte är (avsnitt 1.5). Med detta sagt, det är viktigt att göra sina antaganden explicit - att det är en manuell ingenjörsstrategi som omfattar de två faser som beskrivs ovan - och att erkänna hur skrämmande en utmaning det är, av vetenskapliga, ingenjörstekniska och sociologiska skäl. Att göra dessa påpekanden är ett av syftena med det här manuskriptet. Det finns en annan spännande väg som i slutändan kan vara mer framgångsrik på att producera allmän AI: idén är att lära sig så mycket som möjligt på ett automatiserat sätt, med en AI-genererande algoritm (AI-GA) som bootstraps sig själv upp från grunden för att producera allmän AI. Som anförs nedan, kan detta tillvägagångssätt också visa sig vara den snabbaste vägen till AI, och är intressant att fullfölja även om det inte är. 2 Tabell 1 : En mycket partiell lista över de potentiella byggstenar för AI vi kan behöva för den manuella vägen till att skapa AI. När kommer vi att upptäcka den rätta varianten av var och en av dessa byggstenar? Hur många fler är nödvändiga, men återstår att upptäcka? Hur ska vi komma på hur vi ska kombinera dem till en komplicerad tankemaskin? Att se även denna partiella lista understryker hur svårt det kommer att vara att lyckas skapa allmän AI via den manuella vägen. Tanken med AI-GAs är att lära sig var och en av dessa byggstenar automatiskt. Den första pelaren, meta-lärande arkitekturer, skulle kunna upptäcka byggstenar (eller bättre alternativ) färgade svart (fasta cirklar). Den andra pelaren, metalärande algoritmer, skulle kunna lära sig de röda byggstenarna (diamanter). Den tredje pelaren, som genererar effektiva inlärningsmiljöer, kan lära sig saker som de blå byggstenarna (dolkar). Observera att det är svårt att placera element i bara en av pelarna. Till exempel vissa lösningar (t.ex. rumsliga transformatorer [73] ) kan genomföras via en arkitektonisk lösning (Pillar 1) eller läras att utföras inom ett återkommande neuralt nätverk utan några arkitektoniska förändringar (Pillar 2). Dessutom, om vissa inlärningsmiljöer uppmuntrar lärande av att utföra en funktion eller färdighet (t.ex. omvandla indata rumsligt), då skulle det också kunna anges i pelare 3. Kategoriseringen är således att ge det grova intrycket att var och en av byggstenarna i denna tabell skulle kunna läras inom ramen för AI-GA av åtminstone en av pelarna, snarare än att förbinda sig till vilken pelare det är bäst att lära sig. Dessutom, för att uppnå både bredd och djup, i vissa fall inkluderar jag en bred klass (t.ex. oövervakad inlärning) och exempel på tekniker inom den klassen (t.ex. Generativa kontradiktoriska nätverk [49]. • En motivering till att lära sig så mycket som möjligt är maskininlärningens historia. Det finns ett återkommande tema i maskininlärning (ML) och AI forskning. När vi vill skapa ett intelligent system försöker vi som gemenskap ofta först handdesigna det, vilket innebär att vi försöker programmera det själva. När vi inser att det är för svårt, försöker vi sedan att hand-koda vissa komponenter i systemet och har maskininlärning räkna ut hur man bäst använder dessa hand-designade komponenter för att lösa en uppgift. I slutändan inser vi att med tillräckliga data och beräkningar kan vi lära oss hela systemet. Det fullt inlärda systemet fungerar ofta bättre. Det är också lättare att tillämpa det på nya utmaningar (dvs. Det är en mer allmän lösning). Det tydligaste exemplet på denna trend är datorseendet. Först försökte vi handkoda beräkningsvisionssystem i början av decennierna av AI-forskning och fann att de inte fungerade bra [179]. Vi bytte sedan till en hybrid metod vari vi manuellt utformade funktioner (t.ex. kant-, textur-, objekt- och andra funktionsdetektorer, inklusive den berömda HOG [31] och SIFT [101] funktionsuppsättningar) och sedan hade maskininlärning algoritmer automatiskt lära sig det bästa sättet att använda dessa handkodade funktioner för att lösa ett visst problem [179]. Med början omkring 2012 [84] insåg vi att vi hade tillräckligt med beräkningar och data för att lära oss hela visionssystem utan att injicera handgjorda funktioner. Detta har förbättrat prestandan och sådana system är mycket allmänna: de kan tillämpas på en mängd olika visionsuppgifter och lära sig lämpliga funktioner för var och en av dem. Samma fenomen har förekommit i andra former av maskininlärning, såsom ljud (t.ex. tal-till-text system) [61], touch [47], naturligt språk förståelse och översättning [34, 8, 174], och många fler [50]. Denna trend har också skett inom andra områden av maskininlärning. I årtionden, men med särskilt intensiva ansträngningar sedan 2012, har vi som gemenskap handdesignat allt kraftfullare neurala nätverksarkitekturer [59, 66, 178, 50]. Allt fler forskare söker dock efter djupa neurala nätverksarkitekturer automatiskt med maskininlärningsalgoritmer [137, 134, 111, 200]. Trots alla de betydande ansträngningar som har gjorts för att utforma arkitekturer för bildklassificering manuellt, producerade en algoritm för arkitektursökning den senaste tekniken på CIFAR-riktmärket vid tidpunkten för dess publicering [136]. Den senaste tekniken på den extremt populära och överoptimerade ImageNET-riktmärket tillhör inte heller en människodesignad arkitektur, utan en som produceras av en arkitektursökningsalgoritm [136]. Dessutom, medan de flesta hyperparametrar har hittats för hand genom historien om maskininlärning, blir de alltmer lärda [156, 75]. Dessutom har det nyligen skett en ökning av metainlärningen av själva inlärningsalgoritmen [35, 188, 38, 184, 158] (diskuteras mer i avsnitt 2.2). Jag hör till dem som tror att denna trend med lärda rörledningar som ersätter handgjorda rör kommer att fortsätta, men i allt högre grad kommer det att gälla maskiner för maskininlärning. Det öppnar den lockande utsikten att vi kanske kan skapa en algoritm som lär sig allt som krävs för att producera allmän AI, och därmed producera en AI-GA. Det skulle undanröja behovet av att upptäcka, förfina och kombinera de enskilda byggstenarna i en intelligent maskin (t.ex. de som finns i tabell 1 och de många som ännu inte har upptäckts). En andra motivation för att lära sig så mycket som möjligt är att det är det enda tillvägagångssätt som vi är säkra på kan fungera. Det är för att det redan har det. På Jorden parades en anmärkningsvärt ointelligent algoritm i Darwins evolution ihop med de rätta förhållandena och bootstrappade sig upp från de enklaste replikatorerna för att slutligen producera det mänskliga sinnet. Darwins evolution är alltså den första general-intelligens-genererande algoritmen, som ger ett existensbevis för att begreppet generalintelligens-genererande algoritmer kan fungera. Den naturliga evolutionen krävde emellertid ofattbara mängder av beräkningar. En öppen vetenskaplig fråga är hur vi kan skapa abstraktioner av vad som drev den naturliga evolutionens framgång för att producera AI-GAs som kan fungera inom den beräkning som vi kommer att ha under de kommande åren. Det finns tre pelare som, om vi kunde få dem att fungera bra, borde producera allmän AI. Forskningen om AI-GA bör därför inriktas på att förbättra och kombinera dem. De tre pelarna är (1) meta-lärande arkitekturer, (2) meta-lärande inlärningsalgoritmer själva (ofta bara kallas meta-lärande), och (3) automatiskt generera effektiva inlärningsmiljöer. Avsnitt 2 beskriver varje pelare och hur forskningen i den kan se ut. Kort sagt, forskning om den första och andra pelaren är årtionden gammal, men båda har sett en ökning av den senaste tidens intresse och aktivitet. Det har gjorts mycket lite forskning om den tredje pelaren, även om vi nyligen publicerade vårt första steg i denna riktning [189]. Således den tredje pelaren är den minst-studerade och minst-förstådda. Jag anser att det är hårt-4 est. Jag förutspår att fler historiska upptäckter väntar i denna pelare än de andra två, vilket gör det till ett spännande, fruktbart forskningsområde. 1.4 AI-GAs: En ny stor utmaning för AI-forskning AI-GAs kan visa sig vara den snabbaste vägen till allmän AI. Men även om de inte är det, är de ändå värda att sträva efter. Det är i sig vetenskapligt värt att försöka besvara frågan om hur man skapar en uppsättning enkla villkor och en enkel algoritm som kan bootstrap sig själv från enkelhet för att producera allmän intelligens. Bara en sådan händelse hände på Jorden, där den extremt enkla algoritmen i Darwins evolution slutligen producerade mänsklig intelligens. Ett skäl till att det är fördelaktigt att skapa AI-GAs är att göra det skulle kasta ljus över ursprunget till vår egen intelligens. AI-GAs skulle också lära oss om intelligensens ursprung i allmänhet, även på andra håll i universum. De skulle till exempel kunna lära oss vilka förhållanden som är nödvändiga, tillräckliga och katalyserande för att intelligensen skall uppstå. De skulle kunna informera oss om hur sannolik intelligens är att uppstå när de tillräckliga förhållandena är närvarande, och hur ofta den allmänna intelligensen framträder efter det att den snäva intelligensen gör det. Förmodligen olika instantieringar av AI-GAs (antingen olika körningar av samma AI-GA eller olika typer av AI-GAs) skulle leda till olika typer av intelligens, inklusive olika, främmande kulturer. AI-GAs skulle sannolikt producera en mycket bredare mångfald av intelligenta varelser än den manuella vägen till att skapa AI, eftersom den manuella vägen skulle begränsas av vår fantasi, vetenskaplig förståelse och kreativitet. Vi skulle till och med kunna skapa AI-GAs som specifikt försöker skapa olika typer av allmän AI än vad som redan har producerats. AI-GAs skulle därmed bättre låta oss studera och förstå utrymmet för möjliga intelligenser, sprida ljus över de olika sätt intelligent liv kan tänka om världen. Skapandet av AI-GAs skulle göra det möjligt för oss att utföra den ultimata formen av kulturella resor, så att vi kan interagera med, och lära av, helt olika intelligenta civilisationer. Med en mångfald av sinnen skulle också katalysera ännu mer vetenskaplig upptäckt än produktionen av en enda allmän AI skulle. Vi skulle också vilja omintetgöra var och en av dessa sinnen av samma skäl som vi studerar neurovetenskap hos djur, inklusive människor: eftersom vi är nyfikna och vill förstå intelligens. Vi och andra har bedrivit sådan 'AI-Neurovetenskap' i åratal nu [117, 119, 121, 118, 197, 99, 196, 177, 104, 198, 97, 52], men arbetet har bara börjat. John Maynard Smith skrev följande om evolutionära system: " Hittills har vi bara kunnat studera ett enda evolverande system, och vi kan inte vänta på att interstellär flygning skall ge oss en sekund. Om vi vill upptäcka generaliseringar om evolverande system måste vi titta på konstgjorda sådana." [105] Detsamma gäller intelligens. Dessutom, förklaras i avsnitt 2.3, det sätt på vilket AI-GA sannolikt kommer att producera intelligens kommer att innebära skapandet av en bred mångfald av lärande miljöer, som kan omfatta nya virtuella världar, artefakter, gåtor, pussel, och andra utmaningar som sannolikt kommer att vara i sig själva intressant och värdefull. Många av dessa fördelar kommer att börja växa på kort sikt med AI-GA forskning, så AI-GAs kommer att ge kortsiktigt värde även om de långsiktiga målen förblir svårfångade. AI-GAs är också värt att driva eftersom de informerar våra försök att skapa öppna algoritmer (de som oändligt förnyar) [169]. Som beskrivs i avsnitt 1.2, bör vi också investera i AI-GA forskning eftersom det kan visa sig vara det snabbaste sättet att producera allmän AI. Av alla dessa skäl hävdar jag att skapandet av AI-GA bör betraktas som en egen oberoende vetenskaplig stor utmaning. 1.5 Både manuella och AI-GA vägar är värda att följa, oavsett vilka är mer sannolikt att vara den snabbaste vägen till allmän AI Både manuella och AI-GA vägar för att skapa allmän AI bör eftersträvas, oavsett vilken man anses mest sannolikt att lyckas först. Det tydligaste argumentet för detta är att även om den ena lyckas, skulle vi fortfarande vilja fullfölja den andra. För att se varför, överväga möjligheten att var och en är den första att producera allmän AI. Om den manuella vägen vinner, skulle vi fortfarande vara intresserade av att skapa AI-GAs av alla de skäl som bara anges i Avsnitt 1.4. Om AI-GA vägen vinner, skulle vi fortfarande vara intresserade av att skapa allmän AI via den manuella vägen. Det beror på att det är troligt att en AI-GA skulle producera en komplex maskin 5 vars inre funktioner vi inte förstår. Som Richard Feynman sa: "Det jag inte kan skapa förstår jag inte." Vi förstår genom att bygga, och ett bra sätt att förstå intelligens är att kunna ta isär det, koppla om komponenter, och lära sig hur man sätter ihop det bit för bit. AI-GAs kunde faktiskt katalysera den manuella vägen eftersom det skulle producera en stor mångfald av allmänna AIs, kanske göra det lätt för oss att känna igen vad som är nödvändigt, variabelt, och tillfälligt i skapandet av intelligenta maskiner. Dessutom skulle varje väg katalysera den andra eftersom den allmänna AI produceras av antingen kunde användas för att påskynda vetenskapliga framsteg i den andra vägen. Av alla dessa skäl anser jag att manualen och AI-GA vägar att skapa allmän AI att vara separata vetenskapliga stora utmaningar var värd betydande vetenskapliga investeringar. Men eftersom den nuvarande maskininlärning gemenskapen är mestadels engagerad i den manuella vägen, jag förespråkar att vi bör flytta investeringar till AI-GA vägen för att driva båda lovande vägar till allmän AI. 1.6 Vilken väg är mer sannolikt att producera allmän AI först? Det finns goda skäl till varför någon av de två vägar kan vara det snabbaste sättet att producera allmän AI. Men på det hela taget, efter att ha vägt alla argument som presenteras i detta manuskript, tror jag att det är mer sannolikt att AI-GA vägen kommer att producera allmän AI först. Med detta sagt, jag har stor osäkerhet om detta predikering och tror att antingen kan komma dit först. Det finns några huvudorsaker till varför jag tror att AI-GA vägen är mer sannolikt. Inledningsvis skalar den väl med den exponentiella beräkning vi kan förvänta oss under de kommande åren och årtiondena. Medan AI-GAs kommer att kräva extraordinära mängder av beräkningar enligt dagens standarder, de har den trevliga egenskap som de kommer att kunna konsumera den beräkna lätt när den är tillgänglig. Som Richard Sutton nyligen påpekade har historien visat att de algoritmer som tenderar att vinna över det långa loppet är enkla algoritmer som kan dra nytta av enorma mängder datorer [175]. Dessutom lär historien oss, som nämnts ovan, att lärda rörledningar till slut överträffar sådana som helt eller delvis är handskapade. Dessutom gör AI-GA vägen det möjligt för små team att börja arbeta på algoritmer som kan producera allmän AI just nu. Däremot, som nämnts ovan, kräver den manuella vägen så småningom en övergång till Herkule fas 2 uppgift att sätta samman alla byggstenar av intelligens. Om en sådan kombination kräver ett mycket stort team tillägnat i åratal (något liknande Apolloprogrammet), då stora förändringar i den sociala organisationen av vetenskapliga insatser måste ske innan arbetet kan börja på något som har en chans att producera en intelligent maskin via den manuella vägen. Detta arbete måste också utföras efter, eller samtidigt med, upptäcka alla byggstenar av intelligens (fas 1 av den manuella vägen). Ytterligare skäl till varför AI-GA-banan kan vinna anges i avsnitten 1.1 och 1.2. Sammantaget är det troligt att på nära till medellång sikt, den manuella vägen kommer att producera högre prestanda AI-system som är mer användbara för samhället, precis som HOG och SIFT producerade bättre datorseende system i tiden före 2012. Men precis som med datorseende, är det troligt att fullt inlärda system så småningom kommer att överträffa och sedan snabbt överträffa de funktioner som produceras av den manuella vägen. Att forska om hur man skapar en AI-GA är en helt annan forskningsagenda än den manuella vägen. Istället för att försöka identifiera och skapa de enskilda byggstenarna i en intelligent maskin (t.ex. bättre minnesmoduler, hierarkiska styrenheter, optimerare och transformatorer), AI-GAs försöker lära sig alla dessa typer av byggstenar. Det betyder inte att det inte är utan egna utmanande forskningsproblem. Det är bara det att forskningsproblemen är olika och kräver fokus på olika frågor. Detta avsnitt beskriver var och en av AI-GA:s tre pelare, inklusive tidigare arbete i dem och en skiss över hur framtida forskning i dem kan se ut. Den första pelaren är den mest studerade och välkända, och av den anledningen kommer jag att spendera lite tid med att kartlägga den. Arkitekturen av ett neuralt nätverk spelar en nyckelroll i både funktionen ett utbildat neuralt nätverk kan utföra och hur lätt det är att träna det nätverket [59, 66, 178, 50]. Som nämnts ovan har majoriteten av arbetet med att utbilda neurala nätverk med backpropagation involverat människor handdesigning arkitekturer, inklusive innovationer såsom konvolution [88], LSTMs eller andra 6 gated återkommande enheter [63, 21, 22], motorvägsnätverk och resterande nätverk [59, 161], etc. Men det finns också en lång historia i AI att skapa algoritmer för att söka efter högpresterande neurala nätverk arkitekturer [87, 166, 53, 195, 57]. Med början nyligen testas sådana arkitektursökningsalgoritmer med storskaliga beräkningar för djupa neurala nätverksarkitekturer, där de ibland hittar bättre arkitekturer än de som människor har konstruerat. Till exempel upptäckte arkitekturer automatiskt förbättrad prestanda även på det klassiska riktmärket för CIFAR och det utmanande riktmärket för ImageNET [79, 137, 134, 111, 200], som båda redan hade optimerats högt av arméer av mänskliga forskare. Vi kan därför rimligen anta att trenden kommer att fortsätta och att sökandet efter arkitekturer kommer att ersätta handdesignen av arkitekturer under de kommande åren och årtiondena. Arkitektursökning är dyrt, men så var backpropagation i djupa neurala nätverk i år 2010. Så småningom kommer beräkningen att existera för att göra det rutin och sannolikt det bästa alternativet. Dessutom finns det tekniker som kan påskynda det, såsom surrogatmodeller [100, 81, 9, 134] eller Generativa undervisningsnätverk [126], och nya tekniker kommer att uppfinnas för att göra det snabbare fortfarande. Det är tydligt att djurhjärnor, inklusive våra egna, inte är stora, homogena, helt sammankopplade neurala nätverk. I stället består deras arkitekturer av många heterogena moduler sammankopplade på ett visst sätt, med hela designen omsorgsfullt skulpterad av evolutionen [172]. Det är skrämmande att överväga att skapa sådana komplexa arkitekturer för hand. Med exponentiellt mer beräkna, kan vi istället söka efter dem med en yttre loop lärande algoritm som producerar kraftfulla, sample-effektiva arkitekturer primed för lärande. Eftersom den yttre kretsen algoritm producerar arkitekturer som är bättre på att lära, människor ofta kallar arkitektur söka algoritmer "meta-learning algoritmer", eftersom de lär sig att producera bättre elever. Ett annat begrepp om meta-lärande (lärande av bättre inlärningsalgoritmer) beskrivs i nästa avsnitt. Mycket forskning måste göras för att möjliggöra en effektiv arkitektursökningsalgoritm. Det inkluderar forskning om kodning (aka representationer) [165, 168, 167, 200, 53], sökoperatörer, och produktionen av arkitekturer som är vanliga [168, 25, 67], modulära [26, 67], och hierarkiska [106]. Det finns möjlighet för sådana arkitektursökningsalgoritmer att upptäcka arkitektoniska innovationer som de färgade svarta i tabell 1. Forskning i detta utrymme tar fart för tillfället och kommer att vara användbart om sökningen är för en domän-specifik neural nätverk lösning eller för att producera en AI-GA. Eftersom historien lär oss bör vi lära oss så mycket som möjligt, att lektionen bör gälla för lärande algoritmer själva. Att göra så kan förbättra taket för vad neurala nätverk kan lära sig om varje uppgift, deras proveffektivitet, deras förmåga att generalisera, och deras förmåga att kontinuerligt lära sig många uppgifter. Arbetet inom detta område kallas ofta helt enkelt metalärande och går tillbaka årtionden [64, 29, 158, 145, 38, 184, 43, 188, 35, 149, 5, 133, 98]. Tanken är att "lära sig lära" så att en agent blir bättre på att lära sig en ny uppgift som provtas från en fördelning av uppgifter under hela utbildningen. Istället för att lära sig en specifik uppgift, är tanken att bli bättre på att lära sig om någon ny uppgift genom att bli en bättre inlärare. Intresset för detta område har på senare tid ökat och arbetet har rasat samman i ungefär två familjer. Den första familjen, görs känd av den modell-agnostiska Meta Learning (MAML) algoritm [43] innebär att para en elev (ett neuralt nätverk med en uppsättning av vikter) med en fördefinierad, fast lärande algoritm-såsom stokastisk lutning nedstigning (SGD)-för att lösa en uppgift som valts från en fördelning av uppgifter så snabbt som möjligt. Arbetet med inlärningsalgoritmen är att producera en första uppsättning vikter som snabbt kan lära sig vilken uppgift som helst från distributionen. För att göra det, MAML differentierar genom inlärningsprocessen för att hitta en uppsättning inledande vikter som snabbt kan lära sig en ny uppgift när du tar lutning steg via SGD i den nya uppgiften. Det har visat sig att teoretiskt detta paradigm kan koda alla lärande algoritm [42]. Den andra familjen innebär att träna en återkommande neurala nätverk (RNN) i ett sammanhang som kräver lärande och förlitar sig på aktiveringar med neurala nätverket för att genomföra en lärande algoritm. Eftersom en RNN är en Turing-komplett universell dator [152] kan den också koda alla möjliga inlärningsalgoritmer. Vikterna av RNN tränas via en yttre loop meta-lärande algoritm. Detta tillvägagångssätt har varit välstuderat i ett övervakat inlärningssammanhang [64, 29]. Som tillämpas för att förstärka lärandet, infördes det samtidigt av två papper [188, 35]. Det är intuitivt tilltalande eftersom det liknar det som hände på Jorden, där en yttre loopopoptimeringsalgoritm (evolution) skapade djurhjärnor, som är effektiva, proveffektiva elever. Observera dock att 7 evolution inte krävs: många algoritmer kan användas för den yttre loop lärande algoritm, såsom policy gradienter [188, 35]. Denna typ av meta-learning är också tilltalande eftersom det kan lära sig en bättre inre loop lärande algoritm än någon för närvarande tillgängliga maskininlärning algoritmer. När det gäller enkla förstärkta inlärningsuppgifter har det visat sig att detta tillvägagångssätt kan lära sig att utforska, utnyttja och balansera de två [188, 35]. Den kan också till synes bygga en intern modell av världen och planera inom den modellen för att bete sig som modellbaserade RL-metoder istället för modellfria RL-metoder, eller åtminstone de nätverk som den producerar godkända (tillåtet ofullkomliga [3] ) tester utformade för att skilja modellbaserade metoder från modellfria metoder [188]. Forskning om denna pelare kommer att innebära att antalet och svårigheterna med de uppgifter som kan lösas förbättras. Vi måste också identifiera vad "material" eleven (t.ex. RNN) bör göras av. Till exempel, arbetet i det andra meta-learning lägret som nämnts hittills gjordes med standard RNNs, där de enda saker som kan förändras under agentens livstid (dvs. under utbildning i innerslinga) är nätverkets aktiveringar. Nätverksvikterna ändras inte under dess livstid: de ändras i stället endast över "generationer" (även iterationer) via optimeringsstegen för ytterslingan. Vi introducerade nyligen ett tillvägagångssätt som kallas differentiable plasticity som möjliggör meta-learning med en annan typ av neurala nätverk [109]. Vikterna i dessa nätverk förändras inom livet genom hebbian inlärning (på ett sätt som liknar principen att "neuroner som brinner tillsammans, tråd tillsammans"). I detta fall består varje vikt av två parametrar: en är fast under hela agentens livstid och är direkt trimmad av den yttre loopoptimeringsalgoritmen. De andra förändringarna som en funktion av nätverksdynamiken, så nätverket har förmågan att lagra information i sina vikter, vilket kan förbättra prestanda på många uppgifter jämfört med traditionella RNN meta-learning metoder [109]. Vi visade att om några problem som kräver att komma ihåg massor av information över tid, RNNs som består av dessa Hebrian material överträffar LSTMs som består av traditionella neuroner. Medan arbetet med hebreiska lärande i neurala nätverk har en lång historia, vår senaste introduktion av förmågan att träna sådana nätverk via lutning nedstigning erbjuder möjligheten att utnyttja detta alternativ till SGD i skala när meta-lärande stora, djupa neurala nätverk. En annan typ av lärnätverk inkluderar neuromodulering, där produktionen av en neuron i ett nätverk kan ändra inlärningsfrekvensen för andra anslutningar i nätverket [38, 184, 122, 158, 138, 157]. Som med hebreiska lärande, det finns en lång historia av neuromodulering arbete utan att använda lutning nedstigning, men vi har nyligen infört förmågan att träna nätverk med neuromodulering på ett helt olika, end-to-end mode [110]. Ett exempel typ av problem som i teorin skulle kunna lösas med meta-lärande och neuromodulering är katastrofal glömska, ett fenomen där neurala nätverk är oförmögna att kontinuerligt lära eftersom de lär sig varje nyligen stött uppgift genom att skriva över sin kunskap om hur man löser alla tidigare inlärda uppgifter [45, 108, 46]. Neuromodulering kan hjälpa till eftersom vissa neuroner i nätverket kan upptäcka vilken uppgift som för närvarande utförs, och dessa neuroner kan slå på inlärningen i den del av nätverket som utför den uppgiften och stänga av inlärningen överallt i nätverket. Det kan göra det möjligt för ett neuralt nätverk att lära sig nya färdigheter utan att kannibalisera gamla färdigheter. Vi har visat att meta-lärande med neuromodulering kan skapa nätverk som perfekt löser katastrofal glömska, vilket innebär att de har lärt sig att lära sig utan att glömma, om än i små nätverk och på enkla problem [38, 184]. Detta är bara några exempel på hur den typ av elev som används, inklusive de material den är gjord av, kan ha en meningsfull effekt på den kvalitet och typ av lösning som resulterar. Valet av material är en hyperparameter av meta-lärande algoritm. Naturligtvis kan de också (och troligen i slutändan kommer att) sökas efter. Meta-learning är för närvarande kostnadskrävande. Det kräver utbildning över en fördelning av olika uppgifter och ofta innebär differentiering genom hela inlärningsprocessen. Beräkningsbegränsningar, minnesgränser och optimeringsutmaningar är stora hinder för detta arbete. De begränsar för närvarande komplexiteten i uppgifter som vi kan träna på, hur länge dessa uppgifter kan pågå (t.ex. hur många tidssteg), och hur många ytterloop (meta) optimeringssteg vi kan utföra. Forskning för att förbättra vår förmåga att utbilda sådana nätverk och göra det på fler och svårare uppgifter kommer att vara avgörande för att frigöra kraften i meta-lärande. En fråga som ställs av metalärande algoritmer är vad fördelningen av uppgifter bör vara för meta-lärande. Hur trångt bör det vara? Bör den vidgas med tiden? Som har påpekats förändrar övergången från normalt lärande till metalärande bördan för forskaren från att utforma inlärningsalgoritmer till att utforma miljöer [54]. Men varför stanna där? Jag menar att vi åtta i stället bör lära oss den lämpliga uppgiftsfördelning som inlärningsagenter bör meta-lära sig på. Det är AI-GA: s tredje pelare, som jag diskuterar härnäst. Det är osannolikt att vi någonsin kommer att veta hur man direkt programmera en allmänt intelligent agent. I stället kommer vi nästan säkert att behöva utbilda en inlärningsagent på rätt träningsdata och/eller i rätt uppsättning utbildningsmiljöer. Det väcker frågan om vilka de rätta träningsmiljöerna är. Även om vi visste vad den rätta uppsättningen av träningsmiljöer var, skulle vi sannolikt inte komma undan med provtagning från dem slumpmässigt för utbildning (det skulle vara för ineffektivt, om det fungerade alls). I stället måste vi också veta i vilken ordning vi ska presentera uppgifterna, som i sig kan vara en funktion av inlärningsagentens nuvarande inlärningsförmåga. På samma sätt som mänskliga utbildningssystem har utvecklat läroplaner för hur man lär människor en mängd olika ämnen, kommer vi sannolikt att behöva ta fram effektiva läroplaner för att kunna producera allmänt intelligenta medel för artificiell inlärning. Att manuellt identifiera och skapa varje utbildningsmiljö som krävs och deras order skulle vara ett mycket utmanande, långsamt och dyrt företag. Det skulle begränsas av vår tid, intelligens och vår förmåga att förstå varje AI-student tillräckligt för att designa optimala lärmiljöer för dem. Men vi vet från historien om maskininlärning att data är raketbränsle för framgång, och vi kommer därför att behöva massor av det. AI-GA-filosofin är att vi ska ha inlärningsalgoritmer som lär oss att automatiskt generera effektiva inlärningsmiljöer (dvs. Skapa egna utbildningsdata, bland annat genom att skapa en effektiv läroplan som kan utbilda en till en början ointelligent agent (motsvarande en människas nyfödda) till en allmänt intelligent agent (motsvarande en människas vuxen, eller något smartare). En del av att skapa en lärande miljö genererar den belöningsfunktion som definierar framgång i den miljön. Man kan föreställa sig generation av märkta träningsdata (bilder och deras etiketter), virtuella världar som fokuserar på att bemästra en viss skicklighet (t.ex. som en hockeyspelare övar passerar, skytte, och skridskoåkning), och även hela virtuella världar där agenter lär sig att kommunicera, samordna för att utföra komplexa uppgifter, och lära sig en mängd allt svårare begrepp, från matematik och fysik till skrivande, filosofi och maskininlärning. Ett tillvägagångssätt kan vara att skapa en uppsättning olika träningsmiljöer och exponera en inlärningsagent för dem i någon ordning (eventuellt beroende på deras tidigare prestanda). En annan metod skulle kunna vara att skapa en enda utbildningsmiljö, som i sig själv utgör en kursplan för en agent. Som på Jorden kan skillnaden i slutändan vara semantisk: under din livstid har du upplevt en uppsättning olika inlärningsmiljöer, eller en enda komplex en? Det har gjorts lite forskning om den tredje pelaren. Det är den minst studerade, minst underförstådda, och troligen den svåraste av de tre pelarna. Det gör det också till en intressant ny forskningsfront. Många grundläggande genombrott väntar på detta nya fält, vilket gör det till en mogen fruktträdgård där forskare kan jaga efter effektfulla upptäckter. Därefter skisserar jag en skiss över hur vi kan göra framsteg inom denna pelare, inklusive en del av vårt tidiga arbete i denna riktning. Naturligtvis är de mest spännande idéer och riktningar de vi inte kan föreställa oss ännu, vilket gör följande skiss mer av en övning för att kickstarta framsteg snarare än en spelbok för framtida forskning. Mycket arbete har skett inom områdena beräkningsbiologi, artificiellt liv och neuroevolution som försöker undersöka hur man kan skapa en öppen och komplex explosion som den som inträffade med levande djur på jorden [96, 169, 12, 85, 135, 16, 159, 2, 180, 68, 83, 82, 164, 24]. Det dominerande temat är att försöka skapa förutsättningar i en virtuell värld där agenter utvecklas och hoppas att en komplexitetsexplosion kommer att inträffa. I praktiskt taget allt detta arbete skapas miljön själv manuellt av mänskliga forskare, inklusive de regler genom vilka agenter interagerar om det finns flera agenter. Förhoppningen är ofta att samverkan mellan sådana agenter kommer att starta en koevolutionär kapprustning som kommer att producera öppen innovation. En specifik version av denna idé, kallad koevolution, är att ha två populationer av inlärningsagenter som konkurrerar eller samarbetar med varandra [33, 41, 77, 131, 191]. En relaterad idé som kallas självspel är att ha en agent lära sig genom att spela sig själv, eller ett arkiv av tidigare versioner av sig själv [10, 154, 153]. Betydande vinster har gjorts, mest kända när det gäller att lära sig spela spelen Go och Dota [154, 153], vilket bekräftar båda idéerna om att skapa effektiva inlärningsmiljöer (dvs. generera utbildningsdata) och låta agenter spela mot automatiskt inlärda kursplaner. Dessa tillvägagångssätt har dock misslyckats med att skapa något som liknar en öppen komplexitetsexplosion eftersom den icke-agens (abiotiska) komponenten i den miljö de verkar i är fast. Till exempel, medan självspel har automatiskt producerat agenter 9 som är kapabla att sparka fotboll bollar i ett mål och spela spel Go och Dota, ingen mängd självspel i virtuell fotboll, Go, eller Dota kommer att producera agenter som kan köra, skriva poesi, uppfinna flygande maskiner, och bedriva vetenskap för att förstå den värld de befinner sig i. En annan metod är att automatiskt generera olika belöningsfunktioner i en miljö [54]. Även lovande, som självspel, i slutändan sådana agenter är begränsade till en fördefinierad miljö som begränsar vad de kan lära sig. Enligt min mening är en mer lovande riktning att explicit optimera miljöer för att vara effektiva för lärande, istället för att hoppas att vi kan skapa miljöer som skapar dynamik som leder till koevolutionära kapprustningar som producerar allmänt intelligenta elever. Att bara tänka på miljöer som något som kan optimeras genom att lära sig algoritmer är intressant och öppnar många nya forskningsriktningar. Ett projekt i denna riktning är PowerPlay [148, 160]. En annan ven av forskning kommer från gemenskapen försöker automatiskt generera innehåll för videospel, inklusive utbildning AI agenter [78, 151]. Det första papper som fick mig att överväga att direkt optimera miljöer som en intressant möjlighet är Brant och Stanley [16], där en växande uppsättning av nya labyrinter skapades, som var och en kunde lösas av minst en agent. Vi följde upp den idén med Paired Open-Ended Trailblazer (POET) algoritm i Wang et al. [189], som diskuteras mer i detalj nedan. Frågan kvarstår dock om hur man på ett korrekt sätt kan genomföra en sådan optimering. Vad bör den inlärningsalgoritm som optimerar miljön försöka få miljön att åstadkomma? Vad är belöningsfunktionen (även förlustfunktion eller fitnessfunktion) för miljögeneratorn? Detta är en av de viktigaste frågorna för AI-GA forskning. Ett alternativ är följande: definiera intelligens, sedan optimera en miljö så att elever som utsätts för den miljön i allt högre grad är intelligenta. Detta alternativ förefaller orealistiskt av många olika skäl. De två första problemen är att det krävs en definition av vad intelligens är och hur man mäter den. Dessa problem har undvikit vetenskapsmän och filosofer i århundraden. Den andra är att även om vi hade en belöningsfunktion för allmän intelligens, skulle det nästan säkert vara mycket sparsamt och bedrägligt (non-convex). I likhet med evolutionär biologi, skulle dessa anses fitness landskap som är helt platt på många platser och extremt robust i andra. Belöningsfunktionen skulle vara sparsam eftersom för en stor del av utrymmet skulle det inte finnas någon signal eller lutning från belöningsfunktionen. Stanley och Lehman är ett färgstarkt exempel på att till exempel försöka välja för mänsklig intelligens genom att börja med bakterier och välja för dem som presterar bättre på IQ-tester [163]. Förutsatt för en sekund att IQ tester har något att säga om allmän intelligens, är det tydligt ohjälpligt att försöka vägleda ett sökande efter intelligens från bakterier genom att optimera för prestanda på IQ tester eftersom tills du redan har något med intelligens av ett mänskligt barn, testet ger ingen signal för att vägleda sökning. Problemet med bedrägeri är ännu mer fördärvligt. Den beskriver situationen där belöningsfunktionen inte bara ger nollsignal, utan fel signal, vilket gör att sökalgoritmer fastnar på lokala optima mycket lägre prestanda än det globala optimala. När du söker efter lösningar på extremt ambitiösa problem, även om du har ett sätt att kvantifierbart mäta hur framgång ser ut, optimerar för denna poäng är osannolikt att producera rätt väg genom sökområdet för att hitta den globala optimal, och istället resulterar i att bli fångad på en lokal optima [163, 89, 193, 120]. Med andra ord, trots våra bästa ansträngningar, kommer vi sannolikt att skapa vilseledande belöning funktioner som inte ger en lutning mot någon tillfredsställande optimal, och kommer i stället leda sökprocessen för att fastna på lågpresterande lokala optima. Alla dessa problem är orsaken till att grundforskningen är så viktig. Om vi gick tillbaka några hundra år och försökte skapa ren energi skulle det ha varit meningslöst att söka efter teknik som producerar allt färre koldioxidutsläpp per producerad energienhet. I stället upptäcktes den första effektiva rena energin (kärnkraft) av någon som passionerat tänkte på ljusstrålar som jagade dem på ett tåg som rörde sig i ljusets hastighet. På liknande sätt borde man, för att uppfinna mikrovågor, inte ha belönat ingenjörer för att göra apparater som är allt snabbare på att värma mat, utan istället den rätta vägen var att investera i radarteknik. Om man tittar på de flesta viktiga tekniska innovationer, är den väg av språngstenar som ledde till dem nästan alltid kretsande och skulle ha varit oförutsägbar i förväg [163]. Ändå är det bra att inse att det är möjligt att generera effektiva lärande uppgifter med en viss uppgift i åtanke, såsom att utföra bra på ett IQ-test, att ha en robot utföra en specifik färdighet, etc. Även om det är osannolikt att det kommer att bli fruktbart för mycket ambitiösa uppgifter (där eleven är långt ifrån har den önskade skickligheten), kan det vara praktiskt taget användbart om den mängd som ska läras är mindre. Jag kallar detta för tillvägagångssätt för att skapa effektiva inlärningsmiljöer för måluppfyllelse. Även om det är bra att forska om hur man skapar lärande algoritmer som kan producera inlärare som löser en fördefinierad uppgift av intresse-ett ämne vi arbetar på [126]-för ambitiösa mål som att producera allmän AI vi sannolikt kommer att behöva en annan strategi. En andra metod, som jag tror är mer benägna att arbeta för ambitiösa ändamål som att producera allmän AI, är att bedriva öppen sökning algoritmer, vilket innebär algoritmer som oändligt genererar nya saker [169]. I AI-GA-sammanhang skulle det innebära algoritmer som i oändlighet genererar en växande uppsättning utmanande miljöer och lösningar till var och en av dessa utmaningar. Förväntningen är att så småningom allmän AI kommer att uppstå som en lösning till en eller en uppsättning av de genererade miljöer. Jag kallar detta det öppna tillvägagångssättet för att skapa effektiva inlärningsmiljöer. Denna väg är vad som hände på Jorden. Den naturliga evolutionen började inte med målet att producera allmän intelligens. Istället började en anmärkningsvärt enkel algoritm (Darwinian evolution) att producera lösningar till relativt enkla miljöer. "Lösningarna" till dessa miljöer var organismer som kunde överleva i dem. Dessa organismer skapade ofta nya nischer (dvs. miljöer eller möjligheter) som skulle kunna utnyttjas. Till exempel skapar existensen av gaseller en nisch för geparder, vilket i sin tur skapar en nisch för mikroorganismer som lever inuti geparder, etc. Trädens existens möjliggör vinrankor, epifyter och takfjärilar, som var och en skapar nischer för andra organismer. Resultatet är en ständigt expanderande, öppen samling av nya nischer (utmaningar) och lösningar till dessa nischer (agenter med en mängd olika färdigheter). I slutändan framkallade denna process alla ingenjörskonstens underverk på planeten, till exempel jaguarer, hökar och det mänskliga sinnet. Observera att detta tillvägagångssätt undviker behovet av att skapa en definition och mätning av allmän AI. Det gör att vi kan lita på det faktum att vi kommer att veta det när vi ser det. Det som hände i den naturliga evolutionen var oerhört kostsamt. AI-GA-paradigmet motiverar forskning kring följande fråga: Kan vi skapa beräkningssystem som effektivt abstrakterar de viktigaste ingredienserna som skapar komplexa explosioner som de som produceras av evolutionen på jorden? I så fall kanske vi kan skapa algoritmer som effektivt oupphörligt förnyar och som i slutändan kan producera allmän AI. Med andra ord är målet att skapa en AI-GA utan att kräva en planetstor dator. Vi vet naturligtvis inte alla nyckelingredienser som gjorde den naturliga evolutionen så effektiv, inte heller vet vi det bästa sättet att abstraktera dem. Vi har dock gjort framsteg när det gäller att identifiera några av dessa nyckelingredienser och hur de kan abstrakteras. Jag ska försöka sammanfatta det arbete som jag anser lovande i denna riktning. En viktig ingrediens i den komplexa explosion som inträffade på jorden är skapandet av en mängd olika nischer och organismer som kan leva i dessa nischer. En abstrakt egendom som nästan säkert kommer att vara nyckeln är alltså mångfald. I årtionden har forskare vetat att mångfald kan bidra till att söka algoritmer komma bort från lokala optima. Men de allra flesta tillvägagångssätt har uppmuntrat mångfald i det ursprungliga sökrummet, såsom vikterna i ett neuralt nätverk som styr en robot. Sådana sökytor är högdimensionella och ofta är mångfald i tyngderna av neurala nätverk inte intressant mångfald. [18, 125, 123, 144, 40, 54, 124, 147] Medan fascinerande, givande nyhet ensam är osannolikt att reproducera den komplexitet explosion som inträffade på jorden. En ingrediens som saknas är att på Jorden, medan skapandet av nischer skapar nya miljöer (som indirekt skapar ett tryck för att producera olika beteenden), inom varje nisch finns det ett tryck för att vara högpresterande. Sådan intra-niche konkurrens är det vanligaste sättet människor tänker på "överlevnad av de starkaste", där snabbare geparder ersätter långsammare, starkare elefantsälar konkurrens svagare rivaler för kontroll av harem, etc. Det enklaste sättet att kombinera ett tryck för nya beteenden och hög prestanda är att optimera för båda. Många har visat en sådan kombination är effektiv, vare sig i en viktad kombination av nyhet och belöning [28], multi-objektive algoritmer [112, 114], eller algoritmer som intelligent balanserar mellan nyhet och prestanda som en funktion av lärande framsteg [28]. Men även om nyhetstrycket hjälper till att undvika lokala optima, sådana algoritmer fortfarande tenderar att producera en eller några variationer på det enda temat som sökningen konvergerar på. De producerar inte ett brett utbud av olika, men ändå högkvalitativa lösningar. I slutändan, vad vi vill ha är algoritmer som skapar en mängd olika lösningar där var och en av dessa lösningar är så högpresterande som möjligt för den typen. Den allmänna idén är att definiera (eller lära) en lågdimensionell beteende (eller fenotypisk) utrymme och sedan uttryckligen söka efter den högsta prestandan lösning i varje region i det utrymmet. Till exempel, om man sökte i utrymmet för vikter i ett djupt neuralt nätverk som kodar morfologi en robot kropp, prestandakriteriet kan vara gånghastighet och utrymmet vi vill uppmuntra mångfald i kan vara höjden och vikten av roboten. QD-algoritmen skulle därmed söka efter och returnera den snabbaste långa, smala roboten, den snabbaste långa, feta roboten, den fastade korta, smala roboten, etc. QD-algoritmer har redan utnyttjats för att lösa mycket svåra maskininlärningsproblem. Till exempel i ett papper i Nature [30] utnyttjade vi QD för att få toppmodern robotskada återhämtning, där en robot kan anpassa sig till betydande skador på 1-2 minuter. Vi visade också att med tillgång till en deterministisk simulator för träning, en förbättrad version MAP-Elites som kallas Go-Explore kan lösa de hårdexploration riktmärke utmaningar Atari spel Montezuma s Revenge och Pitfall, dramatiskt förbättra state of the art [36]. En viktig komponent i QD algoritmer som ger bränsle för deras framgång är målbyte [120]. Tanken är att en parametervektor inom en nisch är optimerad för att prestera bra, men om det visar sig att en perturbed version av den parametervektorn tillhör en annan nisch och är bättre än dess nuvarande mästare, att perturbed parametervektor blir eliten i den andra nischen. Det gör det möjligt för en typ av lösningar i en nisch (som kan fastna på en lokal optima) att störas av en annan typ av lösning som upptäcktes genom optimering på en annan nisch. Detta fångar upp en dynamik som liknar vetenskaplig och teknisk innovation (t.ex. hur mikrovågsugnar invaderade köket nisch trots att deras underliggande teknik utvecklas för radar, ett mycket annorlunda syfte). Den fångar också dynamiken i naturlig evolution där en art optimerad för en nisch kan invadera en ny nisch om den är överlägsen. Forskning har visat att en sådan målkoppling avsevärt förbättrar prestandan hos QD algoritmer [120, 113, 68]. Till exempel visade vi hur det kan göra det möjligt att skapa och kombinera olika färdigheter för att producera multimodala robotar som kan hoppa, huka, springa och vrida [68]. QD-algoritmer kan användas i många typer av problemdomäner, såsom att lösa olika typer av matematiska, skrivande eller musikaliska utmaningar. I vårt arbete med Innovation Engines [120] visade vi till exempel att samma idéer som ligger till grund för QD-algoritmer kunde användas för att generera olika typer av högkvalitativa, igenkännliga bilder. Målbyte visade sig vara nödvändigt för att undvika lokala optima och var en katalysator för innovation. I detta arbete lade vi också märke till ett annat kännetecken på explosioner av biologisk komplexitet: adaptiv strålning. Innovationer i en nisch spred sig snabbt till många andra nischer, vilket gör det möjligt för viktiga innovationer att sprida sig och bli grunden för ytterligare innovationer som är specifika för olika nischer. Detta fenomen påminner om Cambrian Explosion, där innovationen av den fyrbenta kroppsplanen ledde till en snabb utstrålning av detta motiv till ett stort antal olika nischer för att slutligen producera alla de olika fyrbenta varelserna på Jorden. En annan fördel med mål-switching i QD algoritmer är skapandet av bättre underliggande representationer för sökning. Om en struktur upprepade gånger optimeras (eller väljs) för att röra sig i vissa dimensioner och inte i andra, kan den omstrukturera sig själv för att göra det mer sannolikt att gå över de föredragna dimensionerna av variation än att gå genom icke-förutsedda dimensioner. I litteraturen om biologisk och beräkningsmässig evolution kallas detta fenomen för utvecklingsförmåga [82, 83, 187, 27, 127, 186, 107]. Lehman och Stanley [89] visade att Novelty Search ger mer flexibilitet än objektiv-baserad sökning. Anledningen är intuitiv. Med objektiv-baserad sökning, den optimeringsalgoritm myopically lägger någon hacka till representationen som förbättrar prestanda. Liksom teknisk skuld i mjukvaruteknik, lägga till hacks på hacks utan att betala kostnaden för refaktoring (som tillfälligt gör saker värre innan de slutligen blir mycket bättre) leder till kod som är svårt att anpassa sig till nya användningsfall. I kontrast, Novelty Search uppmuntrar produktionen av nya beteenden, och därmed störningar som gör större förändringar är mindre sannolikt att omedelbart avvisas [91]. Särskilt, Lehman och Stanley visade att neurala nätverk som utsatts för nyhetssökning var mer kompakt än objektiv-baserad sökning [89, 92], till förmån för hypotesen att de är mer utvecklade. Novelty sökning visades också leda till representationer som producerar mer beteendemässig mångfald när perturbed, ett mått på utvecklighet [92]. Men vi fann att de inte var snabbare i att anpassa sig till en ny uppgift [183], vilket strider mot denna hypotes, även om mer forskning behöver göras i denna fråga. Dessutom upptäckte vi att när något som liknar ett neuralt nätverk kodar bilder och dessa nätverk är föremål för ständigt föränderliga, mänskliga-definierade mål, de resulterande representationer är betydligt mindre (en proxy för exvolvability), mer modulära, och mer hierarkiska [69]. Dessutom fann vi att de är mycket mer benägna att producera förnuftiga variationer än meningslösa, och gör det på ett hierarkiskt sätt. Till exempel kan en bild av ett ansikte ändras för att förstora eller krympa hela ansiktet, eller båda ögonen, eller bara ett öga. Eller ett leende kan lätt omvandlas till en rynka, etc. Mindre sannolikt var förändringar som förvandlade ett ansikte till en örn eller en rörig röra av pixlar. När vi automatiskt genererade bilder med Innovation Engines, fann vi också att målväxling ledde till betydligt mer kompakta, anpassningsbara representationer [120]. QD algoritmer som ursprungligen utformades kunde skapa en högkvalitativ uppsättning av olika beteenden inom en enda, fördefinierad miljö endast. Men för AI-GA:s tredje pelare måste vi generera olika typer av miljöer och deras lösningar. Denna önskan motiv vår nyligen parade OpenEnded Trailblazer (POET) algoritm [189]. I den anger en parametervektor (E) en miljö. I vår demonstrationsdomän var miljöer hinderbanor som kunde ha olika grader av att vara kuperad, luckor i marken av varierande bredd, och trädstammar av varierande höjd. En ytterligare parametervektor (A) innehåller vikterna för en DNN som styr en agent, som i detta fall är en robot som måste korsa hinderbanan så snabbt som möjligt. En initial agent är optimerad för att lösa den initiala, enkla miljön, E 1. När prestandan för A 1 är tillräckligt bra, kopierar vi  på E 1 och ändrar den något för att skapa E 2, som nu representerar en annan miljö. En kopia av A 1 görs för att skapa A 2, som sedan optimeras för att lösa den nya miljön  och E 2. Viktigt är att optimeringen av A 1 på E 1 fortsätter parallellt. Med tiden genereras miljöer med jämna mellanrum genom att kopiera någon av de nuvarande miljöer för vilka dess agent utför över någon tröskel. Alla eller en delmängd av de aktuella agenserna utvärderas på varje ny miljö. Miljöer hålls bara om de inte är för svåra för alla agenter i befolkningen, eller inte är alltför lätt för någon av agenterna. En kopia av den högst presterande agenten överförs till den nya miljön, där den börjar optimera för att försöka lösa den. POET uppvisar många önskvärda egenskaper. För det första skapar det en växande uppsättning miljöutmaningar, som var och en i viss mån kan lösas av den nuvarande befolkningen av agenter. I de flesta fall blir agenter bättre på att lösa sin särskilda utmaning, vilket innebär att de får färdigheter. Dessutom kan agenter mål-växling mellan utmaningar. Vi observerar att i många fall är den nuvarande agenten i en miljö fast på en lokal optima, men så småningom en agent från en annan miljö överföring i, i slutändan leder till mycket högre prestanda. Man kan föreställa sig att POET skulle kunna skapa helt olika typer av lösningar inom ett enda kör, men vår ursprungliga demonstrationsdomän var för enkel för att producera enorm mångfald eftersom miljökodningen endast tillät produktion av miljöer med olika mängder av landskapshärdighet och olika storlekar av luckor och hinder. Men om POET kombinerades med ett flexibelt sätt att koda miljöer, skulle en av dess körningar kunna skapa vattenvärldar, ökenvärldar och bergsvärldar, var och en med sina egna typer av agenter anpassade för att prestera bra i dessa världar. Sådan specialisering är särskilt lätt att föreställa sig om kropparna av virtuella robotar samtidigt optimeras, vilket är ett subfält med en 13 lång historia [155, 19, 20, 65, 6, 55]. Förmodligen skulle målförskjutning ske mycket oftare inom vissa typer av vattenvärldar, mindre så bland fler olika typer av vattenvärldar, och aldrig mellan vattenvärldar och bergsvärldar (åtminstone inte direkt). Således skulle sådana algoritmer naturligt säkra sina satsningar på den bästa vägen till att skapa någon typ av intressant lösning, inklusive allmän AI, genom att samtidigt sträva efter en mångfald av högkvalitativa lösningar. I själva verket skapar POET flera, samtidiga, överlappande läroplaner för att lära sig en ständigt växande uppsättning färdigheter. Många av läroplanerna kan vara ineffektiva återvändsgränder, men så länge som några av dem är fruktbara, kan algoritmen lyckas. En nackdel med POET arbetet är att det antar en särskild typ av värld, såsom hinder kurser i en viss fysik simulator, och ett specifikt sätt att parameterisera denna typ av värld (t.ex. En vektor med siffror som definierar hålens bredd, stubbens höjd osv.). Men i slutändan är en sådan strategi begränsad till att bara kunna producera miljöutmaningar som tillåts av den parameteriseringen av den fysiksimulatorn. Till exempel tillåter vår hinder kurssimulator inte skapandet av många typer av utmaningar, såsom dörrar, däck gungor, simvärldar, spela schack, eller behöver lära sig olika typer av matematik. Den kan inte heller generera ljud, lukt och andra sinnesförnimmelser. Kort sagt, den ursprungliga POET hade inte en tillräckligt uttrycksfull miljökodning. eftersom vi uttryckligen utbildar dem att vara optimala lärare för en annan student djupa neurala nätverk som lär sig på data (eller i miljön) GTNs skapa. Eftersom återkommande neurala nätverk är Turing Complete [152] kan GTN producera alla typer av data, och kan därför i teorin skapa allt från bildklassificeringsuppgifter till hela virtuella 3D-världar komplett med ljud, beröring och lukt. De kan också skapa motståndare agenter att spela mot, och därmed är strikt mer uttrycksfulla än självspel tekniker (även om de är sannolikt mycket svårare att optimera). Med det sagt, det kan vara lättare att ha utbildade agenter interagera inom GTN-producerade världar, snarare än att tvinga GTN att lära sig att producera politik av ett godtyckligt antal agenter. I det alternativet skulle det finnas en hel population agenter i varje genererad miljö. Detta skulle kunna göra det lättare att skapa multiagentiska interaktioner, inklusive framväxten av språk och kultur (inklusive den katalyserande kraften hos agenter som lär sig via kulturell överföring och den kulturella ratcheten, vilket innebär att allt större mängder kunskap över tid samlas in som varje agent kan lära sig av [181]. Eftersom DNN är olika, kan vi ha GTNs producera träningsdata eller miljöer för en inlärare DNN, sedan testa den utbildade eleven på en måluppgift, och differentiera tillbaka genom hela inlärningsprocessen för att uppdatera parametrarna i GTN för att förbättra sin förmåga att producera effektiva träningsdata. Eftersom GTN försöker göra eleven bra på en fördefinierad uppgift, detta användningsfall är ett exempel på "mål-task" version av att generera effektiva inlärningsmiljöer. I våra experiment hittills har vi visat att ett GTN kan tränas att producera data som gör det möjligt för ett studentnätverk att lära sig klassificera MNIST. Intressant nog är GTN inte begränsat till att producera realistiska träningsdata (t.ex. bilder en människa skulle känna igen som handskrivna siffror). I själva verket fann vi att den data den genererar ser helt oigenkännlig och främmande, men ändå lär sig studentnätverket att känna igen riktiga handskrivna siffror. Dessutom lär sig studentnätverket fyra gånger snabbare än när man tränar på riktiga MNIST träningsdata! Resultatet att oigenkännliga bilder är meningsfulla för DNNs påminner om insikten att djupa neurala nätverk lätt luras och kommer att förklara att oigenkännliga bilder är vardagliga objekt (t.ex. gitarrer och sjöstjärnor) med nästan visshet [117]. Det är en intressant, öppen fråga om huruvida naturliga hjärnor, inklusive människor, snabbt skulle kunna tränas att utföra någon skicklighet via sådana främmande data (a la the new Snow Crash). Intressant nog har forskare nyligen visat att de kunde generera lurande bilder ('super-stimuli', i likhet med biologer) för nervceller hos riktiga apor [130]; de gjorde det genom att generera bilder via DGN-AM-tekniken [118] för att syntetiskt generera data som aktiverar neuroner i en 14 levande apas hjärna. Många av de syntetiserade bilderna var oigenkännliga, men aktiverade nervcellerna i apornas hjärnor mer än någon av de verkliga bilderna från den naturliga världen. Som nämnts ovan finns det två alternativ för att skapa effektiva inlärningsmiljöer. I föregående stycke beskrivs hur vi redan har experimenterat med GTN i paradigmet mål-task. Förvånansvärt nog kan GTN (eller någon tillräckligt uttrycksfull miljögenerator) också användas i det öppna paradigmet för att skapa effektiva inlärningsmiljöer. Detta är en lovande väg till framsteg när det gäller AI-GA:s tredje pelare. Tanken är att utnyttja GTN för att producera en växande uppsättning inlärningsutmaningar för agenter. Till exempel kunde man koppla GTN-kodningen med POET för att skapa en växande uppsättning GTN som var och en anger en miljö. Alternativt skulle en enda, kraftfull GTN kunna skapas som är beroende av en ljudspridare (och möjligen en agents tidigare erfarenhet och inlärningsframsteg) för att oändligt producera nya, effektiva inlärningsutmaningar. Naturligtvis, bara för att GTN kan göra det i teorin betyder det inte att det kommer att vara lätt att få det att fungera i praktiken, och mycket arbete återstår för att uppnå detta höga mål. GTN är dessutom bara ett sätt att skapa inlärningsmiljöer. De kan visa sig alltför uttrycksfulla och på så sätt göra sökandet efter deras vidsträckta sökområde oåtkomligt. Vi kanske vill baka i mer förkunskaper genom att begränsa alla miljöer till att vara i en fysiksimulator (baserat på våra fysiklagar), som både begränsar sökområdet avsevärt och ökar chansen att de färdigheter vi lär oss kommer att vara relevanta för vår värld och mer begripliga för oss. Vad jag anser vara den mest lovande riktningen för potentiella belöningsfunktioner för miljögeneratorer är att definiera miljöer som användbara (och därmed belöna deras skapande) om miljöerna är sådana att agenter som förflyttar sig från andra, tidigare genererade miljöer (1) presterar bra i de nya miljöerna snabbare än om de tränades på dem från grunden, och (2) lär sig i de nya miljöerna (dvs. Miljöerna är inte alltför enkla och inte alltför hårda, så att agenten upplever "inlärningsframsteg" [146]. Det första villkoret uppmuntrar till en gemensam struktur mellan problemen (t.ex. Liknande lagar i fysik, eller matematiska regler), sådana att efter att ha lärt sig i någon delmängd av problem får agenter att kunna överföra denna kunskap till andra miljöer. Detta skulle kunna förhindra uppkomsten av godtyckligt olika problem som är utmanande, men på ointressanta sätt. Det andra villkoret förhindrar skapandet av världar som inte kräver och uppmuntrar lärande. Det tvingar också miljöer att bli nya på något sätt. Denna idé behöver utvecklas, förbättras och undersökas experimentellt, men den ger en antydan om hur vi kan börja göra framsteg med att producera mycket allmänna principer för att föredra skapandet av vissa miljöer jämfört med andra. En annan idé som kan hjälpa är ett uttryckligt tryck på att producera generalister, kanske genom att uppmuntra agenter att kunna lösa så många nischer som möjligt. Vi har andra idéer för hur man belönar generationen av intressanta miljöer, men jag kan inte dela dem eftersom vi aktivt undersöker dem. Det är troligt att ingen av dessa idéer bara kommer att fungera. I stället behöver vi mycket forskning från samhällets sida om dessa frågor för att göra framsteg på den här fronten. En stor öppen fråga som återstår är hur vi kan begränsa generationen av miljöer till att vara de vi finner intressanta och/eller som producerar intelligens som hjälper oss att lösa verkliga problem. Med andra ord, hur jordar vi miljögeneratorn för att göra saker och ting relevanta för oss och vårt universum? Man kan till exempel hävda att ett sådant system skulle kunna frambringa intelligens som är främmande för oss och som vi inte kan kommunicera med. Men om det verkligen är allmän intelligens, förmodligen genom sina inlärningsansträngningar och våra egna skulle vi kunna lära oss att kommunicera med den. Dessutom skulle det vara fascinerande att skapa främmande former av intelligens, eftersom det skulle lära oss om gränserna och möjligheterna inom de intelligenta varelsernas rymd. Hypotesen bakom den tredje pelaren är att det är lättare att komma fram till allmänna principer för hur man skapar effektiva inlärningsmiljöer än att skapa en läroplan för utbildningsmiljöer för hand. Som med den övergripande AI-GA-filosofin, är satsningen att med tillräcklig beräkning, låta lärande algoritmer lösa problemet i slutändan kommer att vara lättare än att försöka lösa det själva. Naturligtvis kan detta kräva storleksordningar mer beräkna än vi har för närvarande, och om vi kommer att ha tillräcklig beräkning för att se denna pelare lyckas innan allmän AI produceras av den manuella vägen är en öppen fråga. Men jag förutspår att vi kommer att abstrakt den roll miljöer spelar i skapandet av komplexitet och intelligens, och att göra så kommer att raka storleksordningar av den totala mängden beräkning som krävs, så att vi inte behöver den beräkning som krävdes på Jorden för att producera människor för att skapa allmän AI via en AI-GA. En sak till förmån för den tredje pelaren, och AI-GA-metoden i allmänhet, är att vi vet att det kan fungera. Darwins evolution på Jorden är det enda beviset vi har på hur man bygger upp allmän intelligens, och AI-GAs är modellerade utifrån det fenomenet. Det är en fascinerande forskningsutmaning att ta reda på om vi kan extrahera de principer som gjorde Jordens intelligensgenererande algoritm så framgångsrik på ett sätt som gör det möjligt för oss att skapa en AI-GA med den beräkning som är tillgänglig för oss. Observera att AI-GA stor utmaning (skapa en algoritm som genererar allmän AI) är relaterad till, men skiljer sig från, den stora utmaningen att skapa öppen sökning algoritmer [169]. Man kan skapa en AI-GA utan att den är öppen. Till exempel, man kunde starta en AI-GA med målet uppgiften att klara Turing Test, och algoritmen skulle sedan stoppa när den producerar allmän AI eftersom det inte skulle ha något annat mål att optimera för. Man kunde också skapa en öppen algoritm som aldrig skulle producera en AI-GA (t.ex. en som genererar oändliga musikinnovationer). Med detta sagt, dessa två stora utmaningar är djupt besläktade och kommer att katalysera varandras framsteg. AI-GA-metoden väcker många frågor. Detta avsnitt försöker snabbt ta itu med en mängd olika frågor. Traditionellt maskininlärning innebär hand-designa en miljö, hand-välja en arkitektur, och sedan hand-designa en lärande algoritm som lär sig att lösa den miljön. Metalearning är ett steg mot en mer helt automatiserad pipeline. Ett forskningsområde inom metalearning fokuserar på inlärningsarkitekturer. Ett annat område för meta-lärande är att lära sig inlärningsalgoritmen. Men i båda fallen krävs det fortfarande en forskare för att utforma fördelningen av uppgifter för metaträning. AI-GAs tar nästa steg i denna naturliga progression genom att automatiskt lära sig alla tre sakerna: arkitekturen, inlärningsalgoritmen och träningsmiljöerna. Med detta sagt, AI-GA-metoden är inte fri från byggstenar. Det börjar inte från grunden, försöker skapa intelligens från ingenting annat än fysikens lagar och en soppa av atomer. Det kan till exempel börja med antagandet att vi vill ha neurala nätverk med regelbundna och neuromodulerande neuroner, nischer och explicita mål-switching, och populationer av agenter inom varje miljö nisch. Forskning om AI-GA kommer att innebära att man identifierar det minsta antalet tillräckligt många och katalyserar byggstenar för att skapa en AI-GA. Men uppsättningen av byggstenar AI-GA forskare kommer att leta efter kommer att vara mycket annorlunda från dem för manuella engineering tillvägagångssätt. Till exempel, AI-GA kommer sannolikt att försöka att automatiskt lära sig allt i tabell 1. Istället för att upptäcka dessa byggstenar manuellt, AI-GA forskare kommer att försöka räkna ut vilka byggstenar som gör det möjligt för oss att abstrakta öppna komplexa explosioner på ett beräkningsbart sätt. Jag antar att färre byggstenar behöver identifieras för att producera en AI-GA än att producera intelligens via manuell AI-strategi. Av den anledningen, Jag ytterligare hypotes att identifiera dem och hur man kombinerar dem kommer att vara lättare, och därmed att AI-GA är mer sannolikt att producera allmän AI snabbare. Som sagt, en öppen fråga är hur mycket beräkning krävs för att göra en AI-GA. Om vi magiskt hade betydligt mer beräkna tillgängliga från och med i morgon, mitt förtroende för AI-GAs producerar allmän AI innan den manuella vägen skulle öka kraftigt. Vad som är mindre tydligt är om AI-GAs kan slå den manuella vägen med tanke på att beräkningen AI-GAs behöver ännu inte är tillgänglig. Bristen på compu-16-tation ger den manuella vägen en fördel eftersom den är mer beräkningseffektiv. Å andra sidan, som Rich Sutton har hävdat, gynnar historien ofta algoritmer som bättre dra nytta av de exponentiella ökningar i beräkningar framtiden ger [175]. Det kan visa sig att den manuella vägen kan lyckas utan att behöva identifiera hundratals byggstenar. Det kan visa sig att det bara krävs några få. Vid olika tidpunkter i fysikens historia ansågs många teoretiska maskiner vara nödvändiga, först senare förenade till mindre, enklare och mer eleganta ramar. Ett sådant enande kan också ske inom den manuella AI vägen. Men vid något tillfälle om allt lär sig från några grundläggande principer, det verkar mer som en AI-GA strategi i stället för en manuell identifiera-då-kombinerad ingenjörsstrategi. Med andra ord, AI-GA tillvägagångssätt är sökandet efter en uppsättning enkla byggstenar som kan kombineras för att producera allmän AI, så sann enande skulle validera det. Ett intressant sätt att katalysera den tredje pelaren är att utnyttja data från naturen när man skapar effektiva inlärningsmiljöer. Denna idé skulle kunna påskynda framstegen både när det gäller måluppfyllelse och/eller öppna versioner av den tredje pelaren. Till exempel skulle miljögeneratorn kunna få tillgång till Internet. Det kan sedan lära sig att generera uppgifter som innebär att klassificera verkliga bilder, imitera färdigheter djur och / eller människor utför (t.ex. i online videoarkiv som Youtube), lösa problem i befintliga läroböcker eller lösa befintliga riktmärken för maskininlärning i språk, logik, förstärka lärande, etc. Det finns en lång historia av fruktbar forskning i imitation lärande och lärande via observation som visar fördelarna med att utnyttja sådana data [37, 13, 162, 7, 142, 36, 182, 129, 116, 1]. Även AI-GAs skulle kunna dra nytta av denna skatt på information. Att införliva sådana uppgifter kan också ha fördelen att göra AI som resulterar mer kapabla att lösa problem i vår värld och bättre kunna kommunicera med och förstå oss (och vice versa). Det finns en tredje väg till allmän AI. Jag kallar det den "mimiska vägen". Det handlar om neuroforskare som studerar djurhjärnor, särskilt den mänskliga hjärnan, i ett försök att omvända ingenjören hur intelligens fungerar hos djur och återuppbygga den beräkningsmässigt. I motsats till att abstraktera de allmänna principer som finns via neurovetenskap och bygga dem i någon fungerande momentiation (som är den manuella vägens inriktning), försöker den härma vägen återskapa djurhjärnor i så mycket trofast detalj som möjligt. Det mest kända exemplet på denna strategi är arbetet i Henry Markram och hans projekt Blue Brain och European Human Brain. Denna väg är också av oberoende värde och bör följas oberoende av om de andra två vägarna redan har lyckats. Det beror på att om manualen eller AI-GA vägar bygga allmänna AI som inte liknar mänskliga hjärnor, skulle vi fortfarande vara intresserade av specifikt hur mänsklig intelligens fungerar. Om imiteringen vinner, skulle vi fortfarande vara intresserade av de andra två vägarna av de skäl som beskrivits tidigare. Den härma vägen är osannolikt att vara den snabbaste vägen till att producera allmän AI eftersom det inte försöker dra nytta av effektiviteten av abstraktion. Till exempel, om en hel neokortikal kolonn skulle kunna funktionellt ersättas av en flerskikts återkommande neurala nätverk med hoppa anslutningar, ande av den härma vägen skulle vara att undvika det alternativet till förmån för att troget replikera den faktiska mänskliga neokortikala kolonnen med alla dess dyra-att-simulera komplexitet. Dessutom bromsas imiteringen av svårigheten att skapa den teknik som krävs för att identifiera vad som händer inuti fungerande naturliga hjärnor. Sammantaget, Jag ser inte imitera vägen det som en av de stora vägar till att producera allmän AI eftersom målet för dem som åtagit sig att det är inte bara att producera allmän AI. Jag nämner det alltså bara så här sent i denna uppsats, och betraktar fortfarande de manuella och AI-GA-vägarna som de två huvudvägarna. För det mesta har denna artikel antagit att neurala nätverk har en stor roll att spela i skapandet av AI-GAs. Det återspeglar min optimism när det gäller djupa neurala nätverk, liksom min erfarenhet och passioner. Som sagt, det är naturligtvis möjligt att andra tekniker kan producera allmän AI. Man skulle kunna ersätta andra tekniker med pelarna i AI-GA-ramverket. Till exempel kan man ersätta pelare ett och pelare två med Solomonoff induktion via AIXI [71, 70] eller liknande idéer. För att göra detta skulle det krävas stora framsteg för att göra dessa metoder tillgängliga för beräkning, som med DNN. Man skulle dock fortfarande behöva arbeta på AI-GA: s tredje pelare eftersom Solomonoff induktion och AIXI ta som ett inledande antagande en enda miljö för att lösas. Det belyser återigen att skapandet av effektiva inlärningsmiljöer är det nyaste, minst utforskade forskningsområdet för de tre pelarna, även i vitt skilda områden av AI-forskning. Framsteg i det kan således gynna många olika delfält av AI. Jag vill också betona att AI-GAs inte är en "evolutionär strategi", trots att människor dras till att kalla det att trots att jag säger något annat. Det finns några skäl att undvika denna termi-17-nologi. En första orsak är att många metoder kan fungera som optimizer för ytterslingan. Till exempel kunde man använda gradientbaserad meta-lärande via meta-gradienter [126, 43, 103] eller policygradienter [188, 35]. Dessutom kan man potentiellt använda Bayesian Optimization som den yttre-loop sök algoritm, även om innovationer skulle behövas för att hjälpa dem att söka i högdimensionella söklandskap. Naturligtvis är evolutionära algoritmer också ett alternativ. Det finns för- och nackdelar med att använda evolutionära metoder [173, 93, 143, 192, 164], och fördelar med hybrida tillvägagångssätt som kombinerar evolutionära begrepp (sökning i parameterrymden) med policy-gradient begrepp (sökning i aktionsrymden) [128, 44]. Eftersom de bara är ett av många val, kallar AI-GAs en evolutionär strategi är felaktig. Ett andra skäl till att undvika att kalla detta ett evolutionärt synsätt är att många människor i maskininlärningsgemenskapen tycks ha kommit fram till att evolutionära metoder inte är värda att begrunda. Det finns således en risk att om AI-GA-idén är förknippad med evolutionen så kommer den inte att utvärderas med ett klart, objektivt, öppet sinne, utan istället skrivas av av skäl som inte hänför sig till dess förtjänster. I praktiken kommer naturligtvis de tre olika vägarna inte att existera isolerade från varandra. De manuella, härma, och AI-GA vägar kommer alla att informera varandra som upptäckter i en katalys och inspirera arbete i de andra två. Dessutom kommer människor att följa hybrida metoder (t.ex. Den vision som beskrivs i Botvinick et al. [15] ) och det kommer i många fall att bli svårt att avgöra vilken väg en viss grupp eller ett visst projekt tillhör. Med detta sagt är det lärorikt att ge dessa olika metoder sina egna namn och tala om dem separat trots den oundvikliga korspollinering och hybridisering som kommer att ske. AI-GAs är en satsning på lärande i simulerade världar. Hypotesen är att vi kan skapa allmän AI helt i sådana virtuella världar (även om de kan behöva vara komplexa världar). Men när allmän AI produceras, att AI skulle vara en prov-effektiv inlärare som effektivt kan lära sig i vår värld. Till exempel kan en sådan agent överföras till en robot som kan lära sig att manövrera i vår värld, inklusive att hjälpa och på annat sätt interagera med människor. Därför, snarare än att specifikt utforma tekniker för överföring från simulering till verkligheten, skulle metoden inte kräva en sådan anpassning eftersom den allmänna AI skulle utföra det effektivt själv. Många forskare kommer att njuta av forskning om att skapa AI-GAs. Det finns många fördelar med AI-GA forskning kontra den manuella vägen. Inledningsvis finns det för närvarande tiotusentals forskare som följer den manuella vägen. Det finns mycket få forskare som för närvarande bedriver AI-GA. För många kommer det att göra AI-GA forskning mer spännande. Det minskar också risken för att bli scoopad. Dessutom, för att följa den manuella vägen, kan man känna (som jag har historiskt) behovet av att hålla sig à jour med utvecklingen på varje byggsten man anser potentiellt viktigt för att skapa en stor, komplicerad allmän AI-maskin. Man kan alltså känna en önskan att läsa alla nya, viktiga papper på var och en av byggstenarna i tabell 1, samt byggstenar det inte listar och nya som de upptäcks. Detta är naturligtvis omöjligt med tanke på det antal sådana dokument som publiceras varje år. Eftersom AI-GAs har färre forskare och, om min hypotes är korrekt, färre byggstenar som krävs för att göra dem, hålla sig à jour med AI-GA-litteraturen bör visa sig vara mer hanterbar. Dessutom, om den storskaliga trenden inom maskininlärning fortsätter, där handkodade komponenter ersätts av lärande, är arbetet med AI-GAs ett sätt att framtidssäkra sin forskning. För att uttrycka det fräckt, att veta vad du vet nu, om du kunde gå tillbaka 15 år sedan, skulle du vilja ägna din karriär till att förbättra HOG och SIFT? Eller skulle du hellre investera i inlärningsbaserade metoder som i slutändan skulle göra HOG och SIFT onödiga, och visa sig vara mycket mer allmänna och kraftfulla? Som AI-GA forskning framsteg, kommer det sannolikt att generera många innovationer som kan anpassas till den manuella vägen. Det kommer också att skapa tekniker och smala AIs av ekonomisk betydelse som kommer att gynna samhället långt innan det ambitiösa målet att producera allmän AI uppnås. Till exempel, att skapa algoritmer som automatiskt söker efter arkitekturer, lärande algoritmer, och utbildningsmiljöer som löser uppgifter kommer att vara mycket användbart, även för uppgifter långt mindre ambitiösa än att skapa allmän AI. Därför, även om det visar sig omöjligt att skapa en AI-GA, forskning i det kommer att vara värdefullt. Det har varit en lång debatt i den artificiella intelligensen och maskininlärning gemenskapen om var vi bör vara på spektrumet mellan att lära sig allt från grunden och handdesigna allt. Vissa hävdar att vi behöver injicera massor av mänskliga tidigare i ett system för att det ska vara prov-effektiv och / eller generalisera väl. Andra anser att vi bör lära oss så mycket som möjligt av data, genom att ta bort människans tidigare erfarenheter, eftersom inlärda lösningar i slutändan är bättre när det finns tillräckliga beräkningar och data. Var passar AI-GA-paradigmet in i denna debatt? För det första, var vi bör vara på spektrumet beror naturligtvis på våra mål och hur mycket tid vi har för att uppnå dem. Om 18 vi redan vet hur man bygger en lösning som fungerar tillräckligt bra och prestanda är allt vi bryr oss om, bör vi tydligt göra det. Dessutom, om vi vill bygga en lösning på kort tid, är det troligt att den snabbaste vägen till en anständig lösning kommer att omfatta massor av mänsklig förhandsinformation (såvida vi inte redan vet hur man skapar inlärningsbaserade lösningar, som är fallet på de många områden där djupt lärande för närvarande är den dominerande tekniken). Men för mer ambitiösa mål över längre tidshorisonter är det ofta så att satsning på en inlärningsbaserad lösning är en bra strategi. Ett engagemang för lärande är dock inte ett åtagande att ta prover på ineffektiva inlärare som bara presterar bra med extrema datanivåer och som generaliserar dåligt. AI-GA-filosofin är att vi genom en compute-intensiv, prov-ineffektiv yttre loopopoptimeringsprocess kan producera inlärningsagenter som är extremt proveffektiva och som generaliserar väl. Precis som evolutionen (en långsam, beräkna-intensiv, prov-ineffektiv process) producerade mänsklig intelligens, som AI-GAs avancerar de kommer att producera individuella inlärare som alltmer närmar sig mänskliga inlärare i proveffektivitet och generalisering förmågor. Man kan hävda att det innebär att systemet i sig inte är prov effektiv, eftersom det kräver så mycket data. Detta är på sätt och vis sant, men inte på andra viktiga sätt. En viktig betydelse av proveffektivitet är hur många prover som behövs på ett nytt problem. Till exempel, en ny sjukdom kan dyka upp på Jorden och vi kanske vill att läkare eller AI att kunna identifiera det och göra förutsägelser om det från mycket få märkta exempel. Om en AI-GA producerar något som liknar intelligens på mänsklig nivå, skulle den elev som produceras, som människor är, kunna ta prover effektivt med avseende på detta nya problem. Tanken bakom AI-GAs är att när beräkning blir billigare och vår förmåga att generera tillräckligt komplexa inlärningsmiljöer växer, har vi råd att prov ineffektivt i den yttre loopen i tjänsten att producera en inlärare som är på eller bortom mänsklig intelligens i att vara prov effektiv när de används på problem som vi bryr oss om. Genom att bortse från sina beräkningskostnader representerar AI-GAs alltså i någon mening det bästa av båda ändarna av spektrumet: det kan lära sig från data och inte begränsas av mänskliga tidigare, men kan producera något som, liksom människor själva, innehåller kraftfulla tidigare och sätt att effektivt uppdatera dem för att snabbt lösa problem. Alla diskussioner om att producera allmän AI väcker den etiska frågan om vi bör sträva efter detta mål. Frågan om huruvida och varför vi ska skapa allmän AI är komplicerad och står i fokus för många artiklar [140, 39, 4, 17, 14]. Jag kommer inte att gå in på den frågan här eftersom den är bättre serverad när den är den enda fokusfrågan. Men AI-GA-vägen introducerar sin egen unika uppsättning etiska frågor som jag vill nämna här. Jag anser att den största etiska oron som är unik för AI-GA-banan är att den per definition försöker skapa en flyktig process som leder till skapandet av intelligens som är överlägsen vår egen. Många AI forskare har sagt att de inte tror att AI plötsligt kommer att visas, men istället att framsteg kommer att vara förutsägbara och långsamma. I AI-GA-metoden är det dock möjligt att vid någon tidpunkt sätta ihop och koppla ihop en uppsättning viktiga byggstenar med tillräcklig beräkning. Det skulle kunna vara så att samma mängd beräkningar tidigare hade varit otillräcklig för att göra mycket av intresse, men plötsligt släpper kombinationen av sådana byggstenar äntligen loss en öppen process. Jag anser att det inte kommer att ske någon gång inom kort, och jag tror också att det kommer att finnas tecken på stora framsteg innan ett sådant ögonblick. Med detta sagt, jag tror också att det är möjligt att en stor steg-förändring sker så att vi innan det inte trodde att en AI-GA var i sikte. Således, berättelserna om science fiction av en vetenskapsman som startar ett experiment, går till sömns, och vakna upp för att upptäcka att de har skapat kännande liv är mycket mer tänkbart i AI-GA forskning paradigm än i den manuella vägen. Som nämnts ovan, ingen mängd beräkna på utbildning en dator för att känna igen bilder, spela Gå, eller generera text kommer plötsligt att känna igen. Men ett AI-GA forskningsprojekt med rätt ingredienser kan, och den första forskaren att skapa en AI-GA kanske inte vet att de äntligen har snubblat på de viktigaste ingredienserna tills efteråt. Det gör AI-GA-forskning farligare. Relaterat, en stor oro med AI-GA vägen är att värdena av en AI som produceras av systemet är mindre sannolikt att vara i linje med vår egen. Man har mindre kontroll när man skapar AI-GAs än när man manuellt bygger en AI maskin bit för bit. Ännu värre, man kan föreställa sig att vissa sätt att konfigurera AI-GAs (dvs. sätt att uppmuntra framsteg) som skulle göra AI-GAs mer sannolikt att lyckas med att producera allmän AI också göra deras värdesystem farligare. Några forskare kan till exempel försöka återskapa en grundläggande princip i Darwins evolution: att den är "röd i tand och klor". Om en forskare försökte katalysera skapandet av en AI-GA genom att skapa 19 förhållanden liknande dem på Jorden, resultaten kan vara liknande. Vi kan alltså producera en AI med mänskliga laster, såsom våld, hat, svartsjuka, bedrägeri, list, eller värre, helt enkelt för att dessa attribut gör en AI mer benägna att överleva och lyckas i en viss typ av konkurrens simulerad värld. Observera att man kan skapa en sådan motbjudande AI oavsiktligt genom att inte inse att den incitamentsstruktur de definierade uppmuntrar ett sådant beteende. I själva verket är det rutin för forskare att bli överraskad av de strategier AI kommer med för att optimera de mål det ges, och ofta de strategier och beteenden det skapar är inte alls vad forskaren avsåg [94]. Detta fenomen kommer bara att öka när AI-GA-system blir mer kraftfulla, komplexa, och kan göra betydande framsteg på egen hand. Om ett system baserat på red-in-tooth-and-claw konkurrens är en snabbare väg till en framgångsrik AI-GA, eller även om det tros vara, då vissa organisationer eller individer på Jorden kan vara incitament att skapa sådana system trots deras potentiella risker. Dessutom är det sannolikt säkrare att skapa AI när man vet hur man gör det bit för bit. För att parafrasera Feynman igen, förstår man bättre något när man kan bygga det. Via det manuella tillvägagångssättet skulle vi sannolikt förstå relativt mer om vad systemet lär sig i varje modul och varför. AI-GA-systemet är mer sannolikt att producera en mycket stor svart låda som kommer att vara svårt att förstå. Som sagt, även nuvarande neurala nätverk, som är små och enkla jämfört med dem som sannolikt kommer att krävas för AGI, är outgrundliga svarta lådor som är mycket svåra att förstå den inre fungerar [117, 119, 121, 118, 197, 99, 196, 177, 104, 198, 97, 52]. När dessa nätverk är större och har mer komplexa, interagerar bitar, resultatet kan vara tillräckligt outgrundlig att det inte slutar med att det spelar någon roll om inkränkbarheten är ännu högre med AI-GAs. Även om vi till slut förmodligen kommer att lära oss mycket om hur dessa komplexa hjärnor fungerar, kan det ta många år. Ur AI säkerhetsperspektiv, dock, vad är sannolikt mest kritisk är vår förmåga att förstå AI vi skapar precis runt den tid som vi äntligen producerar mycket kraftfull AI. Av alla dessa skäl är det viktigt att investera i AI-GA-specifik AI-säkerhetsforskning. AI-GA-forskare måste vara i ständig kommunikation med AI-säkerhetsforskare för att hjälpa till att informera dem. Helst bör AI-GA-forskare själva bedriva säkerhetsforskning förutom att göra AI-GA-framsteg. Varje AI-GA forskare måste vidta försiktighetsåtgärder för att försöka se till att AI-GA forskning är säker och, om det lyckas, att det producerar AI vars värden är i linje med våra egna. Det är rimligt att fråga varför jag ska skriva denna uppsats om jag tycker att AI-GA forskning är farligare, eftersom jag försöker informera människor om att det potentiellt är en snabbare väg till allmän AI och förespråkar att fler människor arbetar på denna väg. En anledning är att jag anser att tekniska framsteg på det hela taget ger mer nytta än skada. Med detta sagt, denna teknik är mycket annorlunda och kan visa sig vara ett undantag från regeln. En annan orsak är att jag tycker att samhället är bättre på att veta om denna väg och dess potential, inklusive dess risker och nackdelar. Vi kan därför vara bättre förberedda på att maximera de positiva konsekvenserna av tekniken samtidigt som vi arbetar hårt för att minimera riskerna och de negativa resultaten. Dessutom har jag svårt att föreställa mig att om detta är den snabbaste vägen till AI, då samhället inte kommer att fullfölja det. Jag kämpar för att tänka på kraftfulla teknologier som mänskligheten inte har uppfunnit strax efter det att den hade förmågan att göra det. Om det är oundvikligt, då bör vi vara medvetna om riskerna och börja organisera oss på ett sätt som minimerar dessa risker. Mycket intelligenta människor håller inte med om min slutsats att göra kunskapen om denna teknik offentlig. Jag respekterar deras åsikter och har diskuterat denna fråga utförligt med dem. Det var inget lätt beslut för mig att fatta. Men i slutändan anser jag att det är en tjänst för samhället att göra dessa frågor offentliga snarare än att hålla dem hemliga kunskap av några experter. Det finns en annan etisk oro, även om många kommer att finna det otroligt och avfärda det som en värld av fantasi eller science fiction. Vi vet inte hur fysisk materia som atomer kan framkalla känslor och förnimmelser som smärta, njutning eller smaken av choklad, som filosofer kallar qualia. Vissa håller inte med, men jag tror inte att vi har goda skäl att tro att Qualia inte kommer att dyka upp någon gång i artificiellt intelligenta agenter när de väl är tillräckligt komplicerade. Ett enkelt tankeexperiment visar: föreställ dig om den imiterade vägen gjorde det möjligt för oss att simulera en hel mänsklig hjärna och kropp, ner till varje subatomär partikel. Det verkar troligt att en sådan simulering skulle känna samma förnimmelser som dess verkliga motsvarighet. Att inse om och när konstgjorda agenser känner smärta, glädje och andra kvalia som är värdiga våra etiska överväganden är ett viktigt ämne som vi måste komma till rätta med i framtiden. Denna fråga är dock inte specifik för den metod där AI produceras, och är därför inte unik för AI-GA vägen. Det finns dock ett AI-GA-specifikt övervägande på denna front. På 20 Jorden, har det förekommit otaliga mängder lidande som produceras i djur på väg till produktionen av allmän AI. Är det etiskt att skapa algoritmer där sådant lidande uppstår om det är nödvändigt eller användbart att producera AI? Bör vi förbjuda forskning om algoritmer som skapar sådant lidande för att fokusera energi på att skapa AI-GAs som inte innebär lidande? Hur balanserar vi fördelarna för människor och planeten med att ha allmän AI mot lidandet av virtuella agenter? Allt detta är frågor som vi måste ta itu med i takt med att forskningen om AI-GA fortskrider. De är relaterade till den allmänna frågan om etik för artificiella agenser, men har unika dimensioner värda särskild hänsyn. En del av dessa idéer kommer att verka fantastiska för många forskare. Det är faktiskt riskabelt för min karriär att uppfostra dem. Men jag känner mig förpliktad att låta samhället och vårt samhälle veta att jag anser att några av dessa till synes fantastiska resultat är möjliga nog att överväga. Till exempel, även om det finns en liten chans att vi skapar farliga AI eller outsägligt lidande, kostnaderna är så stora att vi bör diskutera den möjligheten. Som en analogi, om det fanns en 1-procentig chans att en civilisationsenande asteroid skulle kunna träffa Jorden om tio eller tio år, skulle vi vara dumma om vi inte började diskutera hur vi skulle spåra den och förhindra den katastrofen. Vi bör komma ihåg storheten i den uppgift som vi diskuterar, vilket inte är något kort än skapandet av en artificiell intelligens smartare än människor. Om vi lyckas, har vi utan tvekan också skapat själva livet, genom vissa definitioner. Vi vet inte om den intelligensen kommer att kännas. Vi vet inte vilka dess värderingar kan vara. Vi vet inte vad dess avsikter gentemot oss kan vara. Vi kan ha en utbildad gissning, men alla studenter i historien skulle erkänna att det skulle vara höjden av hybris att anta att vi med säkerhet vet exakt hur allmän AI kommer att vara. Därför är det viktigt att i stället för tystnad uppmuntra en diskussion om riskerna och de etiska konsekvenserna av att skapa allmän artificiell intelligens. I denna uppsats beskrev jag tre vägar till att producera allmän artificiell intelligens. Den "mimiska vägen" bygger så många biologiska detaljer av mänskliga hjärnor som möjligt in i beräkningsmodeller, och bedrivs till stor del av neuroforskare, beräkningsneuroforskare och kognitiva forskare. Den härma vägen är osannolikt att vara den snabbaste vägen till allmän AI eftersom den försöker simulera alla detaljer i biologiska hjärnor oavsett om de kan ignoreras eller abstrakteras av olika, mer effektiva, maskiner. Den "manuella vägen" är vad det mesta av maskininlärningsgemenskapen för närvarande är engagerad i. Det handlar om två faser. I fas 1 identifierar vi var och en av de byggstenar som behövs för att skapa en komplex tankemaskin. Detta är den fas vi för närvarande befinner oss i: i de flesta dokument införs antingen nya byggstenar för kandidater eller förbättringar av tidigare föreslagna byggstenar. Det är oklart hur lång tid det kan ta att identifiera alla de rätta byggstenarna, inklusive de rätta varianterna av var och en. Den manuella vägen antar implicit en fas 2, där vi kommer att utföra den herkuleiska uppgiften att räkna ut hur man kan kombinera alla de rätta varianterna av dessa byggstenar till en komplex tankemaskin. Ett av syftena med denna uppsats är helt enkelt att göra tydligt den väg som det mesta av maskininlärning är engagerad i och att det innebär en andra fas som sällan diskuteras. Dessa faser kommer naturligtvis i praktiken att överlappa varandra. Det kommer att finnas team som i allt högre grad försöker kombinera befintliga byggstenar medan andra team fortsätter att skapa nya byggstenar och förbättra befintliga. Jag diskuterade vetenskapliga, ingenjörskonst och sociologiska för- och nackdelar med denna manuella väg till att skapa allmän AI. Jag beskrev också en alternativ väg till AI: skapa allmänna AI-genererande algoritmer, eller AI-GAs. Denna väg omfattar tre pelare: meta-lärande arkitekturer, meta-lärande algoritmer, och automatiskt generera effektiva inlärningsmiljöer. I likhet med andra vägar finns det fördelar och nackdelar med detta tillvägagångssätt. En stor bluff är att AI-GAs kommer att kräva en hel del beräkning, och därför kanske inte vara praktiskt i tid för att vara den första vägen för att producera allmän AI. Emellertid AI-GA förmåga att dra mer lätt från exponentiella förbättringar i tillgängligheten av beräkning kan innebära att det överträffar den manuella vägen innan den manuella vägen lyckas. En anledning att tro att AI-GA vägen kan vara den snabbaste att producera allmän AI är i linje med den långvariga trenden i maskininlärning att handkodade lösningar slutligen överträffas av lärande-baserade lösningar som tillgängligheten av beräkningar och data ökar över tid. Dessutom kan AI-GA vägen vinna eftersom det inte kräver Herkule fas 2 av den manuella vägen och alla dess vetenskapliga, en-21 ginering, och sociologiska utmaningar. Ytterligare fördelar med AI-GA forskning är att färre människor arbetar på det, vilket gör det till en spännande, outforskad forskningsfront. Alla tre vägar är värdefulla vetenskapliga stora utmaningar. Med detta sagt, samhället bör öka sina investeringar i AI-GA vägen. Det finns hela fält och miljarder dollar som ägnas åt den härmande vägen. På liknande sätt, de flesta av maskininlärning gemenskapen följer den manuella vägen, inklusive miljarder dollar i statliga och industriella finansiering. I förhållande till dessa investeringsnivåer finns det inte mycket forskning och investeringar i AI-GA-banan. Även om den fortfarande är liten i förhållande till den manuella vägen har intresset för pelare 1 (meta-learning arkitekturer) och pelare 2 (metalearning algoritmer) ökat på senare tid. Det finns dock lite arbete med pelare 3, och inget arbete hittills för att försöka kombinera de tre pelarna. Eftersom AI-GA vägen kan vara den snabbaste vägen till att producera allmän AI, då samhället bör avsevärt öka sina investeringar i AI-GA forskning. Även om man tror att AI-GA vägen har en 1%-5% av att vara den första att producera allmän AI, då bör vi fördela motsvarande resurser i fältet för att katalysera dess framsteg. Att, naturligtvis, förutsätter att vi drar slutsatsen att fördelarna med att potentiellt producera allmän AI snabbare uppväger riskerna med att producera den via AI-GAs, vilket jag i slutändan gör. Jag hoppas att detta dokument åtminstone motiverar en diskussion om dessa frågor. Även om det finns stor osäkerhet om vilken väg som i slutändan kommer att producera allmän AI först, Jag tror att det finns lite osäkerhet att vi underinvesterar i ett lovande område för maskininlärning forskning. Slutligen har denna uppsats diskuterat många av de intressanta konsekvenserna av att bygga general AI som är unika för att producera allmän AI via AI-GAs. En fördel är att kunna producera en stor mångfald av olika typer av intelligenta varelser, och därmed öka vår förmåga att förstå intelligens i allmänhet och alla dess potentiella manifestationer. Om vi gör det, kan det också hjälpa oss att förstå vårt eget enda fall av intelligens, på samma sätt som det är nödvändigt att resa runt i världen för att verkligen förstå sin hemstad. Varje enskild intelligens som produceras av en AI-GA kan också skapa hela utomjordiska historier och kulturer som vi kan lära oss av. Nackdelar som är unika för AI-GAs diskuterades också, inklusive att det kan göra den plötsliga, oförutsedd produktion av AI mer sannolikt, att det kan göra produktionen av farliga former av AI mer sannolikt, och att det kan skapa outsägligt lidande i virtuella agenter. Samtidigt som jag framförde mina egna åsikter i dessa frågor och hur jag väger de positiva och negativa sidorna av denna teknik i syfte att avgöra om vi ska fullfölja den, är ett av mina främsta mål att motivera andra att diskutera dessa viktiga frågor. Mitt övergripande mål i denna uppsats är inte att hävda att en väg till allmän AI är sannolikt att vara bättre eller snabbare. Istället är det för att belysa att det finns en helt annan väg till att producera allmän AI som sällan diskuteras. Eftersom forskningen på den vägen är mindre känd, sammanfattade jag kortfattat en del av den forskning som vi och andra har gjort för att ta steg mot att skapa AI-GAs. Jag vill också uppmuntra reflektion på (1) vilken väg eller vägar var och en av oss är engagerad i och varför, (2) de antaganden som ligger till grund för varje väg (3) skälen till varför varje väg kan visa sig snabbare eller långsammare i produktionen av allmän AI, (4) om samhället och vårt samhälle bör balansera vår investering i de olika vägarna, och (5) de unika fördelarna och nackdelarna med varje strategi, inklusive AI säkerhet och etiska överväganden. Det är min förhoppning att denna uppsats kommer att förbättra vår kollektiva förståelse av utrymmet för möjliga vägar till att producera allmän AI, vilket är värt för alla oavsett vilken väg vi väljer att arbeta på. Jag hoppas också att denna uppsats belyser att det finns en relativt outforskad väg som kan visa sig vara den snabbaste vägen i den största vetenskapliga strävan i människans historia. Det tycker jag är oerhört spännande, och jag hoppas kunna inspirera andra i samhället att ansluta sig till dem som arbetar med det.
Eftersom GTNs kan generera praktiskt taget alla inlärningsmiljöer, de kan också en dag vara en nyckel till att skapa AI-genererande algoritmer, som försöker att bootstrap sig från enkla ursprungliga förhållanden till kraftfulla former av AI genom att skapa en öppen ström av utmaningar (lärande möjligheter) samtidigt lära sig att lösa dem REF.
AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}