"Utbildning och drift av ett integrerat neuromorfiskt nätverk baserat på metalloxidmätare" av M. Prezioso et al. Det praktiska genomförandet av sådana nätverk är dock fortfarande mycket utmanande, på grund av den specifika fysiska mekanismen för resistensförändring i de flesta prospektiva, metalloxidbaserade memristor-reversibel modulering av koncentrationsprofilen för syre lediga 11, 20, 21. På den positiva sidan innebär den atomära skalan av ledig tjänst modulering möjligheten att memristor skala ner till några få-nanometer dimensioner, bekräftas av nyligen gjorda experiment. 26,27 På den negativa sidan, skalan gör enheten-till-enhet reproducerbarheten av enhetsparametrar, viktigast av spänningen som krävs för memristor elektriska formning 20, 21, svårt att uppnå med nuvarande använda tillverkningstekniker. Variabiliteten i apparaten är den främsta orsaken till att de enda demonstrationer av memristiva neuromorfiska nätverk vi är medvetna om var baserade på frånkoppling av varje memristor från tvärstången för individuell formning, med antingen en crossbar med externa (off-chip) ledningar, 18 eller en individuell switch transistor vid varje korspunkt. 19 Båda dessa tillvägagångssätt är oförenliga med målet att nå den extremt höga densiteten av neuromorfiska nätverk, diskuteras ovan. Huvudsyftet med detta arbete var den första experimentella demonstrationen av ett fullt fungerande neuralt nätverk baserat på en transistor-fri metalloxid memristive crossbar. "Utbildning och drift av ett integrerat neuromorphic nätverk baserat på metalloxid memristorer" av M. Prezioso et al., December 2014 3 Nyckeln till framgång av detta arbete var en betydande minskning av memristorvariabilitet med hjälp av binär-oxid Al2O3/TiO2-x stackar (se Inset i bild. 1b)................................................................................................ Fabrikeringsförfarandet var i allmänhet nära det som beskrivs i Ref. 27, med en betydande skillnad i användning av låg temperatur (<300 °C) reaktiv sputtering för filmdeposition, vilket möjliggör monolitisk 3D-integration. Stacken optimerades först genom att utföra en omfattande experimentell sökning över en rad titandioxidsammansättningar och lagertjocklekar (från 5 nm till 100 nm) för att hitta parameterområdet som ger de lägsta formningsspänningarna. Inom detta område optimerades enhetens prestanda, framför allt inklusive memristor enhetlighet och I-V-kurvan icke-linjäritet, ytterligare genom att aluminiumoxidtjockleken varierade från 1 till 5 nm. Huvuddragen i sådana optimerade korsningar är deras låga variabilitet (Fig. S3-S4). Dessutom, andra viktiga egenskaper hos de bildade 200×200 nm 2 enheter är också mycket anständiga: ON / OFF strömförhållanden över 4 storleksordningar (vid 0, 1 V), en hög icke-linjäritet av I- V kurvorna (med mer än 10 gånger förhållandet mellan strömmar vid omkopplingsspänningen och hälften av den), en omkoppling uthållighet på minst 5000 cykler, en uppskattad retention på minst 10 år vid rumstemperatur, låg formning (< 2V) och omkoppling (~ 1,5V) spänningar, och relativt låga driftströmmar: mellan ~100 nA och ~ 100 μA -se bild. S1............................................................................................................ Den optimerade tekniken användes sedan för tillverkning av en integrerad 12×12 memristive crossbar (Fig. 1), Med några tekniska modifieringar för att öka metallelektrodtjocklek så att trådmotståndet minskas till ca 800 en för de översta linjerna och 600 en för de nedre linjerna i crossbaren. Stabilisatorerna behöll den utmärkta enhetligheten hos nyutvecklade (förformade) crossbar-integrerade anordningar (se figurer. S3-S4 ), tillåter individuell elektrisk formning och inställning av varje memristor. Bildningen utfördes genom att slipa motsvarande bottentråd och tillämpa en strömstyrd ramp-up av den övre tråden, samtidigt som alla andra wire potentials flytande (Fig. S1a)................................................................................................ För att minimera strömläckage under bildandet av nästa utrustning, byttes varje formad memristor omedelbart till sitt lågströmstillstånd ("OFF"). De uppmätta individuella egenskaperna hos de formade memristorerna liknade i huvudsak dem hos fristående enheter, förutom ett något mindre (< 100) ON/ OFF strömförhållande. Denna skillnad kan delvis förklaras av strömläckage genom andra korspunkter vid "Utbildning och drift av ett integrerat neuromorfiskt nätverk baserat på metalloxidmätare" av M. Prezioso et al., December 2014 4 mätningar, och delvis av de något mindre kopplingsspänningar som används för tvärstången för att minska risken för skador på anordningen. Dessutom kan vissa avvikelser från den optimala anordningen prestanda orsakas av e-beam avdunstningen av tjockare elektroder, som krävde att bryta vakuum, i motsats till helt in-situ sputtering av enskilda enhet lager, och efterföljande glödgning -se Metoder Sammanfattning. Den tillverkade memristiva crossbaren användes för att implementera ett enkelt artificiellt neuralt nätverk med det högsta (funktionella) systemet som visas i Bild. Detta beslut träder i kraft dagen efter det att det har offentliggjorts i Europeiska unionens officiella tidning. Detta är en enskikts perceptron 22 med 10 ingångar och 3 utgångar, fullt ansluten med 10 till 3 = 30 synapsvikter (Fig.   Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. Som schemat visar, perceptron utgångar fi (med i = 1, 2, 3) beräknas som "aktivering" funktioner, av vektor-by-matris produktkomponenter Här Vj med j = 1,...9 är ingångssignaler, V0 är en konstant skevhet, och koefficienter Wij är justerbara (trainable) synaptiska vikter. Ett sådant nätverk är tillräckligt för att exempelvis utföra en klassificering av svartvita bilder på 3×3-pixel i 3 klasser, med 9 nätverksingångar (V1,...,V9) som motsvarar pixelvärden. Vi har testat nätverket på en uppsättning av N = 30 mönster inklusive 3 stiliserade bokstäver ("z", "v", och "n") och 3 uppsättningar av 9 bullriga versioner av varje bokstav, bildas genom att vända en av pixlarna i den ursprungliga bilden -se bild. Detta beslut träder i kraft den tjugonde dagen efter det att det har offentliggjorts i Europeiska unionens officiella tidning. På grund av en mycket begränsad storlek på setet, användes det för både träning och testning. Fysiskt representerades varje ingångssignal av spänningen Vj som var lika med antingen +0,1 V respektive -0,1 V motsvarande den svarta respektive vita pixel, medan den sneda insignalen V0 var lika med -0,1 V. Sådan kodning gör referensingången balanserad, med noll genomsnitt av alla ingångssignaler. För att upprätthålla sådan balansering vid nätverkets utgång också, var varje synaps implementerad med 2 memristors, så att det totala antalet memristors i crossbar var 30 till2 "Utbildning och drift av ett integrerat neuromorphic nätverk baserat på metalloxid memristors" av M. Prezioso et al., December 2014 5 = 60. Genom att använda extern elektronik för att genomdriva de virtuella markförhållandena på varje kolonntråd, och för att subtrahera strömmar som flödar i de angränsande halvkolumnerna för att bilda en differentialutsignal Ii, såg vi till att Ohms lag tillämpas på varje kolumn i tvärstången gav resultatet identiskt med Eq. (2) med differentialvikter där ij G är en effektiv ledning av varje memristor, nämligen förhållandet I/V vid spänning 0,1 V. För våra enheter, dessa effektiva ledningar var i intervallet 10 till 100 μS, så att strömmar Ii var i storleksordningen några μA. Aktiveringsfunktioner (1) implementerades också med hjälp av extern elektronik, med lutningen β = 2×10 4 A -1 vald enligt rekommendationen i Ref. Nätverket utbildades på plats, dvs. utan att använda sin externa dator modell, genom den så kallade Manhattan Update regel 29, som i huvudsak är en grov-korn, batch-läge variation av den vanliga delta regeln övervakad utbildning 22. Vid varje iteration ("epoch") av detta förfarande (sketed in Bild. 2d ), mönster från träningsset tillämpas, en efter en, för nätverkets ingång, och dess utgångar fi(n), där n är mönstrets nummer, används för att beräkna delta-regeln viktökningar är proportionella mot i-th output fel. Här är målvärdet för i-th utdata för n-th indatamönster. (I vårt system accepterades dessa värden till lika med +0,85 för den utgång som motsvarar den korrekta mönsterklassen, och -0,85 för den utgång som motsvarar fel klass.) När alla N-mönster i träningssetet hade applicerats, och alla beräkningar gjordes, modifierades synapsvikterna med hjälp av följande Manhattan Update-regel: där  till är en konstant som skalar träningshastigheten. Fysiskt, i vårt system anpassades vikterna parallellt för varje halvkolumn av tvärstången (motsvarande ett visst värde av index i i ovanstående formler), med hjälp av två sekventiella spänningspulser. Nämligen, först en "set" puls med amplitud Vw + = 1,3 V applicerades på "Tränning och drift av ett integrerat neuromorphic nätverk baserat på metalloxid memristorer" av M. Prezioso et al., December 2014 6 öka ledningar av synapser vars G beräknas från Eq. (5) hade varit positivt; sedan applicerades en "reset" puls VW -= -1,3V på de återstående synapserna av den halvkolonnen -se bild. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. Denna fasta amplitud puls procedur följde Manhattan Update regeln bara ungefär, eftersom den faktiska träningshastigheten  på G beror på den ursprungliga ledning G av memristor -se bild. Detta beslut träder i kraft dagen efter det att det har offentliggjorts i Europeiska unionens officiella tidning. (För G = 20 μS, var G nära +60 μS för den inställda pulsen och -5 μS för återställningspulsen, medan förändringarna för G = 65 μS var nära, respektive till +24 μS och -55 μS.) På grund av denna specifika (även om ganska representativa 11 ) växlingsdynamik av våra enheter, den bästa klassificeringen prestanda uppnåddes när memristorerna hade initierats någonstans i mitten av deras ledningsområde, runt 35 μS (Fig. S7b)........................................................................................................... Vid en sådan initiering nåddes den perfekta klassificeringen, i genomsnitt, efter 15 träningsperioder -se bild. 4........................................... Sammanfattningsvis har vi experimentellt demonstrerat, för första gången, ett artificiellt neuralt nätverk med hjälp av memristorer integrerade i en tät, transistorfri crossbarkrets. Denna crossbar utförde, på den fysiska (Ohm's-law) nivå analog vektor-by-matris multiplikation (2)- (3), som är den överlägset mest beräkningsintensiva delen av driften av något neuromorphic nätverk. Övriga verksamheter, beskrivna av EKG. (1), (4) och (5) utfördes av extern elektronik, men de är mycket mindre kritiska för nätprestanda, och i framtiden skulle större CrossNets delegeras till mindre CMOS-delsystem. Vi anser att denna demonstration är ett viktigt steg mot en effektiv analog-hårdvara implementation av mycket mer komplexa neuromorphic nätverk - först av allt, multilager-perceptron klassificerare med djup inlärning 30, och så småningom också mycket mer avancerade CrossNet-baserade kognitiva system. Crossbar linjer, 200 nm breda och åtskilda av 400 nm mellanrum, bildades på 4" kisel plattor som omfattas av 200 nm termiska SiO2. Efter standardrengöring och sköljning började tillverkningen med en avdunstning av E-strålen av Ta (5 nm)/Pt (60 nm) tvåskikt över en mönstrad fotoresist (PR) för att bilda bottentrådarna. Efter start, wafer var descum av aktiv syre torr etsning vid 200 till C för 10 minuter. Därefter avsattes en filtfilm bestående av en 4-nm sputterad Al2O3-barriär och ett 30-nm TiO2-bytesskikt från ett helt oxiderat mål respektive delvis oxiderat mål. Detta tvåskikt togs sedan bort genom etsning i en ICP-kammare med hjälp av CHF3-plasma, samtidigt som det bevarades i det framtida crossbarområdet genom fördeponerad negativ fotoresist. "Träning och drift av ett integrerat neuromorfiskt nätverk baserat på metalloxidmätare" av M. Prezioso et al., december 2014 7 Efter att ha strippat fotoresisten i 1165-lösningsmedel för 3 timmar vid 80 ̊C, rengjordes wafern med hjälp av en mild descum procedur utförs i en RIE-kammare i 15 minuter med 10 mTorr syreplasma vid 300 W. Nästa, den översta elektroden som består av 15 nm Ti och 60 nm Pt avsattes genom e-beam avdunstning; sedan topptrådarna mönstrades med lyftprocess. Slutligen bildades trådbindningsplattorna genom e-strålnedsättning av Cr (10 nm) /Ni (30 nm) /Au (500nm). Alla litografiska steg utfördes med hjälp av en DUV-stepper med hjälp av en 248 nm laser. Efter tillverkning och dikning glödgades de i en reducerande atmosfär (10% H2, 90% N2) i 30 minuter vid 300C och trådbundet till ett DIP40-paket. Den slutliga crossbarlayouten visas i bild. 1a och 2S. Alla elektriska karakteriseringar utfördes med hjälp av Agilent B1500A parameteranalysator. Dessutom användes växelmatrisen Agilent B5250A för att testa förpackade tvärstångskretsar och utföra försöket för mönsterklassificering. Parameteranalysatorn och kopplingsmatrisen kontrollerades av en persondator via ett GPIB-gränssnitt med hjälp av en anpassad C-kod. Alla skriv- och läspulser var 500 μs långa. För memortorjustering använde vi "V/2-schemat", där de valda rad- och kolumntrådarna är spänningsjusterade vid ±V/2. För enhetstillståndet avläste vi den valda kolonntråden, kopplade den valda radtråden till en virtuell mark och jordade alla andra linjer fysiskt.
Prezioso m.fl. föreslog den första transistor fri design av en metalloxid-baserad memristor crossbar som stödde fullt operativa neurala nätverk REF.
Training and Operation of an Integrated Neuromorphic Network Based on Metal-Oxide Memristors
{'venue': 'Nature, vol. 521, pp. 61-64, 2015', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Medicine']}