Файловая система для кеша nginx?
В reiserfs было много оптимизаций по поводу большой кучи мелочи, посмотрите reiser4
ext2 обязательно с dir_index(Use hashed b-trees to speed up lookups in large directories) или XFS(думаю будет более производительный)