Abstract-I diskuterar anslutning mellan neuromorphic chips, som använder tidpunkten för fast höjd, fast bredd, pulser för att koda information. Adress-händelser-log 2 (N )-bitar paket som unikt identifierar en av N neurons-används för att överföra dessa pulser i realtid på en slumpmässig-åtkomst, tid-multiplex, kommunikationskanal. Aktivitet antas bestå av neuronala ensembler-spikar klungade i rymden och i tiden. Jag kvantifierar kompromisser inför att fördela bandbredd, bevilja tillgång, och köa, samt genomströmningskrav, och dra slutsatsen att en skiljedomad kanal design är det bästa valet. Jag implementerar den bitna kanalen med en formell designmetodik för asynkrona digitala VLSI CMOS-system, efter att ha introducerat läsaren till denna top-down syntesteknik. Efter utvecklingen av tre generationer av mönster, Jag visar hur overhead av arbitrering, och kodning och avkodning, kan minskas i området (från N till ε N ) genom att organisera neuroner i rader och kolumner, och minskas i tid (från log 2 (N ) till 2) genom att utnyttja lokalitet i arbiterträdet och i radkolumn arkitektur, och kluster verksamhet. Genomströmningen ökas genom rördragning och genom att man läser spikar parallellt. Enkla tekniker som minskar korstalk i dessa blandade analoga-digitala system beskrivs. Nyckelord-Spiking Neuroner, Interchip Kommunikation, Asynkron Logic Synthesis, Virtual Wiring. E NGINEERS är långt ifrån att matcha antingen effekten av neural beräkning eller effektiviteten av neural kodning. Datorer använder en miljon gånger mer energi per operation än hjärnor gör [1]. Videokameror använder tusen gånger mer bandbredd per bit information än näthinnan gör (se avsnitt II-A). Vi kan inte ersätta skadade delar av nervsystemet på grund av dessa brister. För att matcha naturens beräkningsprestanda och kommunikationseffektivitet måste vi samoptimera informationsbearbetning och energiförbrukning. En liten men växande gemenskap av ingenjörer försöker bygga autonoma sensorimotoriska system som matchar effektiviteten och effektiviteten hos deras biologiska motsvarigheter genom att återskapa funktionen och strukturen av neurala system i kisel. Med en struktur-till-funktion metod, dessa neuromorfa system går utöver bioinspiration [2], kopiera biologisk organisation samt funktion [3], [4], [5]. Neuromorphic ingenjörer använder trädgård-variety VLSI CMOS-teknik för att uppnå sitt mål [6]. Denna ansträngning underlättas av likheter mellan VLSI hårdvara och neural wetware. Båda teknikerna: • Tillhandahålla miljontals billiga, dåligt matchade enheter. • Arbeta i informationsmaximering lågsignaltonoise/högbandsbredd regim. Och utmanas av dessa grundläggande skillnader: • Fan-ins och fläkt-outs är cirka tio i VLSI kretsar jämfört med flera tusen i neurala kretsar. • De flesta digitala VLSI kretsar synkroniseras med en extern klocka, medan neuroner använder graden av tillfälligheter i sina bränningstider för att koda information. Neuromorphic ingenjörer har antagit tidsdelning multiplexing för att uppnå massiv anslutning, inspirerad av dess framgång inom telekommunikation [7] och datornät [8]. Antalet lager och stift som erbjuds genom kommersiell mikrofabrikation och chippackningsteknik är starkt begränsat. Multiplexing utnyttjar den 5-decade skillnaden i bandbredd mellan en neuron (hundratals Hz) och en digital buss (tiotals megahertz), vilket gör att vi kan ersätta tusentals dedikerade punkt-till-punkt-anslutningar med en handfull snabba metalltrådar och tusentals växlar (transistorer). Det lönar sig eftersom transistorer upptar mindre yta än ledningar, och blir relativt mer kompakt i djupa submikron processer. Genom att anpassa befintliga nätverkslösningar utmanas neuromorfiska arkitekter av stora skillnader mellan kraven på datornätverk och kraven på neuromorfiska system. Medan datornätverk kopplar samman tusentals datorer på byggnads- eller campusnivå, behöver neuromorfa system ansluta miljontals neuroner på chip-eller kretskortsnivå. Därför måste de förbättra effektiviteten hos traditionella datorkommunikationsarkitekturer, och protokoll, av flera storleksordningar. Mahowald och Sivilotti föreslog att använda en adress-event representation för att överföra pulser, eller spikar, från en rad neuroner på ett chip till motsvarande plats i en matris på ett andra chip [9], [4], [10]. I deras schema, avbildas i Figur 1, en adress kodare genererar en unik binär adress för varje neuron när den spikar. En buss överför dessa adresser till det mottagande chipet, där en adressdekoder väljer motsvarande plats. Åtta I denna uppsats, mitt mål är att ge en handledning introduktion till utformningen av AER-baserade interchip kommunikationskanaler. Resten av tidningen är organiserad enligt följande. Jag introducerar en enkel modell av neural populationsaktivitet i avsnitt II, som jag använder för att kvantifiera kompromisser i kommunikationskanaldesign i avsnitt III. Detta avsnitt är indelat i fyra underavsnitt som omfattar bandbreddstilldelning (avsnitt III-A), kanalaccessprotokoll (avsnitt III-B), köning (avsnitt III-C) och krav på genomströmning (avsnitt III-D). Efter att ha motiverat en strategi för interchipkommunikation introducerar jag läsaren till en formell designmetod för asynkrona digitala VLSI CMOS-system, och beskriver en AER-kommunikationskanal som implementeras med hjälp av denna metod i avsnitt IV. Detta avsnitt är indelat i fyra underavdelningar som omfattar rörledning (avsnitt IV-A), skiljeförfarande (avsnitt IV-B), radkolonnorganisation (avsnitt IV-C) och analoga digitala gränssnitt (avsnitt IV-D). Jag går igenom tre generationers konstruktioner i avsnitt V och sammanfattar dokumentet i avsnitt VI. Delar av detta arbete har beskrivits tidigare i konferensförfaranden [21], [13], i en tidskriftsartikel [22], och i en bok kapitel [14]. Neuromorfiska system använder samma valuta av informationsutbyte som nervsystemet-fixed-höjd, fast bredd, pulser som kodar information i deras tid av förekomst. Tidsprecisionen mäts med latens och tidsspridning. Neuronal latens är tidsintervallet mellan stimuli och spikning; det är omvänt proportionellt mot styrkan i stimulus. Neuronal temporal dispersion beror på variabilitet mellan enskilda neuroner; den är också omvänt proportionell mot styrkan av stimulansen. När meddelanden överförs för att avslöja platser-eller identiteter-av neuroner som spikar, kommunikationskanalens ändliga latens och tidsspridning lägga till systematiska och stokastiska förskjutningar till spiktider som minskar timing precision. Även om ett ganska allmänt syfte genomförande söktes, vår främsta motivation för att utveckla en kommunikationskanal är att läsa spik tränar utanför neuromorphic chips med tusentals spikande neuroner, organiserade i tvådimensionella matriser-såsom kisel näthinnor [23], [24] eller kisel cochlears [25], [26]. Neuronisk aktivitet formas av förbehandling som sker i det sensoriska epitelet, som är utformad för att eliminera redundans och koda information effektivt [27], [28]. Vi optimerade kanaldesignen för den resulterande neuronala befolkningsaktiviteten och sökte en effektiv och robust implementering som stöder adaptiv pixelparallellquantization. Denna utformning bör vara väl anpassad till neuromorfa processorer på högre nivå i den mån de använder kodinformation på ett effektivt sätt. Näthinnan omvandlar spatiotemporala mönster av infallande ljus till spiktåg. Överförd över synnerven omvandlas dessa diskreta spikar tillbaka till kontinuerliga signaler genom dendritisk integration i postsynaptiska mål. Retinal bearbetning maximerar informationen som bärs av dessa spikar. Vid provtagning med Nyquisthastigheten kräver konventionella bilder 40 Gb/s för att matcha ögonens fotospektrum (17 bitar), rumslig upplösning (60 cykler/ • ), tidsupplösning (10 Hz) och synfält (2 × 90 • × 90 • ). I kontrast, kodning 2bits av information per spik [29], den miljon-axoniska synnerven överför bara 40Mb/s-tusen gånger mindre! Näthinnan har utvecklats utsökt adaptiv filtrering och provtagningsmekanismer för att förbättra kodning effektivitet, varav sex är markerade nedan: 1. Lokal automatisk förstärkningskontroll vid fotoreceptorn- [30] och nätverksnivå [24], [31] eliminerar beroendet av belysning-receptorerna svarar på kontrast i stället. Anpassning lokalt utökar näthinnans dynamiska indataintervall utan att öka dess utdataområde. 2. Utgångspunkten är följande: Bandpass spatiotemporal filtrering i det yttre plexiformskiktet (eller OPL, näthinnans första steg) [24] passerar ett mellanintervall av rumsliga frekvenser eller tidsfrekvenser. Att avvisa låga frekvenser minskar redundansen och stöter bort höga frekvenser minskar bullret. 3. Vad är det som händer? Högpass tids- och rumslig filtrering i det inre plexiformskiktet (eller IPL, näthinnans andra steg) [31] undertrycker OPL:s starka låga tidsbundna respons vid dess maximala rumsliga frekvens (dvs. ihållande respons på statiska kanter) och dess starka låga rumsliga-frekvenssvar vid dess maximala tidsfrekvens (dvs. suddiga rörliga kanter). 4. Vad är det som händer? Halvvågsupprätande i på- och av-utgångscellstyper [31] eliminerar de förhöjda frekvenserna av signaltransmittorfrisättning och spikeldning som krävs för att signalera både positiva och negativa signalutflykter med hjälp av en enda kanal. På/av-kodning används i bipolära celler (reläceller från OPL till IPL) samt i ganglionceller (näthinnans utgående celler). Membranspänningen återpolariseras snabbt eftersom integratorns utgång tillfälligt stängs av när neuronen återställs och modellerar spänningsberoende kaliumkanaler. På så sätt alstras ett tätt utbrott av spikar och anpassning sker snabbt. Dantprovtagning genom överföring av långsamma fluktuationer med hjälp av en låg ihållande bränningshastighet. Figur 2 visar svar från kiselanaloger av ganglionceller. 6. Vad är det som händer? Foveated arkitektur, och exakt, snabb, ögonrörelser, ger illusionen av hög rumslig och temporal upplösning överallt, medan provtagning grovt i tiden centralt och grovt i rymden perifert [33]. Eftersom näthinneneuroner drivs av mellanliggande rumsliga och temporal frekvenser-och är okänsliga för låga rumsliga och temporal frekvenser-små subpopulationer tenderar att skjuta tillsammans. Sådan korrelerad, men sparsam, aktivitet uppstår eftersom neuronerna svarar på väldefinierade objekt funktioner-och anpassa sig till bakgrunden. Det finns också bevis för att gap-korsning koppling mellan ganglion celler gör angränsande celler mer benägna att avfyra i synkroni [34], [35], och dessa sammanfallande spikar driver nedströms neuroner mer effektivt [36]. Jag introducerar begreppet neuronal ensemble i nästa avsnitt för att fånga denna stimulans-driven, fin, spatiotemporal struktur. Vi kan beskriva aktiviteten hos en neural population genom en ordnad lista över platser i rymdtid, där varje koordinat anger förekomsten av en spik på en viss plats, vid en viss tidpunkt. Samma plats kan förekomma i listan flera gånger men en viss tid kan inträffa endast en gång-förutsatt tid mäts med oändlig upplösning. Bilda. 3............................................................... Adaptive Silicon Neurons Latency Distribution Den tid det tog att svara på en 15% steg ökning av ingångsströmmen mättes 1000 gånger. (a) Spike-Frekvensanpassning: Den första spiken fördelas mer eller mindre jämnt, med en liten tendens till kortare latenser. Medianvärdet är 1,3 ms och bränningshastigheten omedelbart efter steget (från den längsta latensen på 2,63 ms) är 380 Hz, jämfört med en bränningshastighet vid steady-state på 38,4 Hz. Burstorleken var 33,3 μs. b) Tidskontinuerlig anpassning: Fördelningen är kraftigt skev mot kortare latenser. Medianvärdet är 40μs och den maximala bränningshastigheten är 28,1KHz, jämfört med en bränningshastighet omedelbart efter steget på 714,3Hz och en bränningshastighet vid steady state på 62,5Hz. Binstorleken var 2 μs. Det finns ingen anledning att registrera tid explicit om systemet som loggar denna aktivitet fungerar på det i realtid endast platsen registreras och tiden representerar sig själv. I så fall är representationen helt enkelt: Denna realtidskod kallas adress-event representation (AER) [9], [10]. E har en hel del underliggande struktur som uppstår från händelser som inträffar i den verkliga världen, som neuronerna reagerar på. E-elementen samlas på tidsmässiga platser där dessa händelser inträffar och samlas på rumsliga platser som bestäms av stimulansmönstret. Information om stimulans timing och mönster kan därför erhållas genom att utvinna dessa kluster. Dessutom har E en ostrukturerad komponent som uppstår från buller i signalen och i systemet, och från skillnader i vinst och tillstånd bland neuronerna. Denna stokastiska komponent begränsar den precision med vilken neuronerna kan koda information om stimulansen. Jag kallar dessa statistiskt definierade kluster neuronala ensembler. Sannolikheten fördelningar som beskriver dessa neuronal ensembler kan bestämmas genom att karakterisera en enskild neuron-förutsatt dess tillstånd randomiseras från försök till försök, precis som staten randomiseras över hela befolkningen. Jag mätte hur lång tid det tar för adaptiv kiselneuron att skjuta efter att jag gjort en stegändring i dess ingångsström, upprepad under flera försök (beskrivs i [5], [32] ). De resultat som erhållits med spikfrekvensanpassning och tidskonstant anpassning-genomförs genom modellering av kalcium och spänningsberoende jonkanaler i verkliga neuroner- visas i Figur 3. Medianvärdet för distributionen kan fungera som ett mått på neuronal latens. Det ger den förväntade latensen om målneuronens tröskel motsvarar 50% av spikarna i ensemblen. Till skillnad från den enkla integrera-och-eld neuron, vars 103 latens är halva dess interspike intervall, adaptiva neuroner har latenser som är mycket kortare än deras steady-state interspike intervall, som visas i Figur 2. Jag definierar förhållandet mellan bränningshastigheten omedelbart efter steget och bränningshastigheten i stabilt tillstånd som frekvensanpassningen, γ [5]. De mätningar som visas i figur 2a och figur 3a ger γ = 9.9 för en kiselneuron som modellerar kalciumberoende kaliumkanaler. Och jag definierar förhållandet mellan höjden på toppen i fördelningen och höjden av den enhetliga fördelningen under samma intervall som synkronicitet,  och [5]. Mätningarna som visas i figur 3b ger en kiselneuron som modellerar spänningsberoende kaliumkanaler samt kalciumberoende. Förutom att karakterisera neuronens spets-timing precision i förhållande till dess steady-state bränningshastighet, frekvensanpassning och synkronicitet kan vi beräkna dess genomströmningskrav. Frekvensanpassning ger spikhastigheten för neuroner som inte är en del av den neuronala ensemble-förutsättning att dessa neuroner har anpassat sig. Synkronicitet ger den maximala topphastigheten för neuroner i ensemblen. Genomströmningen måste överstiga den totala topphastigheten för dessa två segment av befolkningen. Jag här formel för computing kanal kapacitetskrav, som en funktion av tolerabla procentuella fel i spikhastighet och neuronal latens, i nästa avsnitt. Fyra viktiga prestandakriterier för en kommunikationskanal som tillhandahåller virtuella punkt-till-punkt-anslutningar mellan neuronala matriser är: Kapacitet: Den maximala hastighet med vilken spikar kan överföras. Den är lika med den ömsesidiga minsta kommunikationscykeltiden. Latency: Medianvärdet för fördelningen av tidsintervall mellan spikgenerering i den sändande populationen och spikmottagning i den mottagande populationen. Temporal dispersion: Standardavvikelsen för latensfördelningen. Integritet: Fraktionen av spikar som levereras till rätt destination. Alla fyra kriterier tillsammans bestämmer genomströmningen, som definieras som den användbara fraktionen av kanalkapaciteten. Därför att den belastning som erbjuds kanalen måste minskas för att uppnå strängare specifikationer för latens, tidsspridning och integritet. Kanalens prestanda påverkas av den informationskodningsstrategi som används. Vissa alternativ till fast höjd, fast bredd, pulser listas i tabell I, tillsammans med deras för- och nackdelar. De val som görs i detta arbete är satta i djärvt ansikte. Murray och Tarassenko utforska användningen av olika puls-ström representationer för att genomföra abstrakta modeller av neurala nätverk [37], och Reyneri har analyserat och jämfört prestandan av olika pulskodning strategier [38]. Dock har föga uppmärksamhet ägnats åt att använda exakt spik timing och neuronala ensembler för att koda information-trots ökande neurobiologiska bevis till stöd för sådana kodningsprogram [39], [40]. Med tanke på en strategi för informationskodning står kommunikationskanaldesignern inför flera kompromisser. Bör han förhandsallokera kanalkapaciteten, ge ett fast belopp till varje användare, eller fördela kapacitet dynamiskt, som motsvarar varje användares tilldelning till dess nuvarande behov? Ska hon tillåta användare att överföra när de vill, eller införa genomtänkta mekanismer för att reglera tillgången till kanalen? Och hur påverkar fördelningen av aktivitet över tid och över rymden dessa val? Kan han anta att användarna agerar slumpmässigt, eller finns det betydande samband mellan deras aktiviteter? Jag kastar ljus över dessa frågor i detta avsnitt och ger några definitiva svar. Vi kan använda adaptiva neuroner som tar prov vid f Nyq när signalen förändras, och prov vid f Nyq /Z när signalen är statisk, där Z är en förspecificerad dämpningsfaktor. Låt sannolikheten att en given neuron prover vid f Nyq vara en. Det vill säga, a är den aktiva delen av befolkningen. Sedan genererar varje kvantizer bitar i takt eftersom en procent av tiden, det tar prov på f Nyq ; den återstående (1 - a) procent av tiden, det tar prov på f Nyq / Z. Dessutom används log 2 N bitar för att koda neuronen position, med hjälp av AER, där N är antalet neuroner. Å andra sidan kan vi använda konventionella kvantizers som provar varje plats på f Nyq, och inte lokalt anpassa sin provtagningsfrekvens. I så fall finns det ingen anledning att koda platsen explicit. Vi undersöker helt enkelt alla N platser, enligt en fast sekvens, och härleder ursprunget för varje prov från dess temporal plats. Eftersom provtagningsfrekvensen är konstant, bithastigheten per kvantizer är helt enkelt f Nyq. De flera bitar som krävs för att koda identiteten uppvägs av den minskade provtagningsfrekvens som produceras genom lokal anpassning när aktiviteten är sparsam. I själva verket ger adaptiv provtagning en lägre bithastighet än den fasta provtagningen om en < (Z/(Z − 1))(1/ log 2 N −1/Z). Till exempel, i en 64 × 64 uppsättning neuroner med provtagningshastighetsdämpning Z = 40, måste den aktiva fraktionen, a, vara mindre än 6,1 procent. Det kan vara viktigare att minimera antalet prov som produceras per sekund istället för att minimera bithastigheten eftersom det vanligtvis finns tillräckligt med I/O-stift för att överföra alla adressbitar parallellt. I så fall är det antalet prover per sekund som bestäms av kanalkapaciteten. Med tanke på en viss fast genomströmning, F ch, i prover per sekund, kan vi jämföra de effektiva provtagningshastigheter, f Nyq, uppnås genom olika provtagningsstrategier. Adaptiva neuroner fördelar kanalgenomströmning dynamiskt i förhållandet a: (1 − a)/Z mellan aktiva och passiva fraktioner av populationen. Därav var f ch  på F ch /N är genomströmningen per neuron. Den genomsnittliga neuronala ensemblestorleken bestämmer den aktiva fraktionen, a, och frekvensanpassningen och synkroniciteten bestämmer dämpningsfaktorn, Z, förutsatt att neuroner som inte ingår i ensemblen har anpassats. Figur 4 visar hur provtagningshastigheten ändras med den aktiva fraktionen för olika frekvensanpassningsfaktorer, Z = γ. För små a och Z > 1/a kan provtagningshastigheten ökas med en faktor på minst 1/2a. I ett retinomorphiskt system, spatiotemporal bandpass filtrering och halvvåg upprätande gör utdataaktivitet sparsamt [32], vilket ger aktiva fraktioner av några procent. Om man antar att a = 0,05, Z = 1 ger f Nyq = f ch för den integrerande nervcellen; Z = γ = 10 ger f Nyq = 6,9f lm för nervcellen med frekvensanpassning; och Z = γ till 450 ger f Nyq = 19,1f lm när membranets tidskonstant anpassar sig också. Innehållet uppstår om två eller flera neuroner försöker överföra samtidigt när vi ger slumpmässig åtkomst till den delade kommunikationskanalen. Vi kan helt enkelt upptäcka och kassera prover som korrumperats genom kollision [41]. Eller så kan vi införa en skiljedomare för att lösa tvister och en kö för att hålla väntande neuroner [9], [10]. Obehindrad åtkomst förkortar cykeltiden, men kollisioner ökar snabbt som
I hårdvaran SNNs, en punkt-till-punkt anslutningsmetod mellan neuromorfa chips med hjälp av adress händelser föreslogs i tillvägagångssätt Boahen REF.
Point-to-point connectivity between neuromorphic chips using address-events
{'venue': 'IEEE Trans. Circuits Syst. II', 'journal': None, 'mag_field_of_study': ['Computer Science']}