Abstract-Memory åtkomsteffektivitet är en nyckelfaktor för att fullt ut utnyttja den beräkningskraft grafik bearbetningsenheter (GPU). Många detaljer i GPU-minneshierarkin släpps dock inte av GPU-leverantörer. I detta dokument föreslår vi en ny finkornig mikrobenchmarkingsmetod och tillämpar den på tre generationer NVIDIA GPU:er, nämligen Fermi, Kepler och Maxwell, för att avslöja de tidigare okända egenskaperna hos deras minneshierarkier. Vi undersöker särskilt strukturerna i olika GPU-cachesystem, såsom datacachen, texturcachen och översättningslook-aside-bufferten (TLB). Vi undersöker också genomströmning och åtkomst latency för GPU globala minne och delat minne. Våra resultat från mikrobenchmark erbjuder en bättre förståelse för den mystiska GPU-minneshierarkin, som kommer att underlätta programvaruoptimering och modellering av GPU-arkitekturer. Såvitt vi vet är detta den första studien som avslöjar Keplers och Maxwell GPU:s cacheegenskaper och Maxwells överlägsenhet i delad minnesprestanda under bankkonflikter.
Mei och Chu använde mikrobenchmarks för att analysera strukturen av cacher, delat minne samt latens och genomströmning av DRAM i nyare NVidia GPUs REF.
Dissecting GPU Memory Hierarchy Through Microbenchmarking
{'venue': 'IEEE Transactions on Parallel and Distributed Systems', 'journal': 'IEEE Transactions on Parallel and Distributed Systems', 'mag_field_of_study': ['Computer Science']}