Abstract-Associative minnen lagrar innehåll på ett sådant sätt att innehållet senare kan hämtas genom att presentera minnet med en liten del av innehållet, snarare än att presentera minnet med en adress som i mer traditionella minnen. Associativa minnen används som byggstenar för algoritmer inom databasmotorer, anomalidetekteringssystem, komprimeringsalgoritmer och ansiktsigenkänningssystem. Ett klassiskt exempel på ett associativt minne är Hopfield neurala nätverket. Nyligen har Gripon och Berrou infört en alternativ konstruktion som bygger på idéer från teorin om felkorrigering koder och som i hög grad överträffar Hopfield nätverket i mångfald, kapacitet och effektivitet. I detta dokument implementerar vi en variation av Gripon-Berrou associative memory på en allmän grafisk bearbetningsenhet (GPU). Gripon och Berrou föreslår två hämtningsregler, SUM-OF-SUM och SUM-OF-MAX. SUM-OF-SUM-regeln använder endast matris-vektor multiplikation och är lätt implementerad på GPU. SUM-OF-MAX regeln är mycket mindre enkel att genomföra eftersom det innebär icke-linjära operationer. SUM-OF-MAX regeln ger dock betydligt bättre hämtning felfrekvenser. Vi föreslår en hybridregel anpassad för genomförande på en GPU som uppnår en 880-faldig upptrappning utan att offra någon noggrannhet.
Efter att ha analyserat konvergens- och beräkningsegenskaperna hos både SUM-OF-SUM och SUM-OF-MAX, Yao et al. I REF föreslås ett hybridsystem och nätverket genomförs framgångsrikt med hjälp av en GPU.
A Massively Parallel Associative Memory Based on Sparse Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}