Etnografya Müzesi Ankara’nın Namazgâh semtinde, Vakıflar Genel Müdürlüğü’nce Millî Eğitim Bakanlığı’na müze yapılmak üzere bağışlanan bir tepe üzerinde kurulmuştur. Binanın mimarı Arif Hikmet (Koyunoğlu) Cumhuriyet Dönemi mimarlarının en değerlilerindendir. Bina dikdörtgen plânlı olup tek kubbelidir. Yapının taş duvarları küfeki taşı ile kaplanmıştır. Alınlık kısmı mermer olup üzeri oyma süslüdür.
1924’te İstanbul’da Prof. Celal Esad (Arseven) başkanlığında, daha sonra 1925 yılında İstanbul Müzeleri Müdürü Halil Ethem başkanlığında, eser toplamak ve satın almak üzere özel bir komisyon kurulmuştur. Satın alınan 1250 adet eser, 1927 yılında inşası tamamlanan müzede teşhir edilmiştir. Müze Müdürlüğü’ne de Hamit Zübeyr Koşay atanmıştır. Müze önünde at üstünde duran Atatürk heykeli 1927 yılında Millî Eğitim Bakanlığı tarafından İtalyan sanatkârı B. Conanica’ya yaptırılmıştır.
15 Nisan 1928 yılında müzeyi ziyaret eden Gazi Mustafa Kemal Paşa (Atatürk)’nın isteği üzerine Afgan Kralı Amanullah Han’ın Türkiye’yi ziyaretleri nedeniyle müze, 18.7.1930 da halka açılmış ve 1938 Kasım ayında müzenin iç avlusu, geçici kabir olarak ayrılıncaya kadar açık kalmıştır. Atatürk’ün naaşı, 1953’te Anıtkabir’e nakline kadar burada kalmıştır. Bu kısım halen Atatürk’ün anısına hürmeten sembolik bir kabir şeklinde korunmaktadır. 1953-56 yılları arasında elden geçirilen müze, 1956 yılı Uluslararası Müzeler Haftası nedeniyle tekrar halkın ziyaretine açılmıştır.