He was known to like Japanese gardens, since he had selected Jihei OGAWA VII and instructed him to create Burin-an in Kyoto and Chinzan-so, Tokyo.
また日本庭園好きとしても知られ、京都の無鄰庵、東京の椿山荘は、山縣が7代目小川治兵衛を抜擢して築かせたものである。