Sachverhalt: A. A.a Im Konkurs über die Y._ AG in Liquidation legte das Konkursamt Enge-Zürich vom 29. April bis 23. Mai 2011 den Kollokationsplan auf. Als Drittklassgläubiger sind u.a. X._ mit einer Forderung aus Auftrag von Fr. 11'098.-- und die Z._ Limited mit einer Forderung aus Darlehen von Fr. 9'682'357.81 (reduziert vom Konkursamt gemäss Schreiben der Gläubigerin vom 20. Mai 2011) zugelassen. A.b Am 19. Mai 2011 erhob X._ beim Bezirksgericht Zürich Kollokationsklage gegen die Z._ Limited und beantragte, die Forderung der Mitgläubigerin sei zu reduzieren und lediglich im Betrag von Fr. 8'031'060.-- zu kollozieren. A.c Mit Verfügung vom 26. September 2011 setzte das Bezirksgericht X._ Frist zur Leistung eines Kostenvorschusses von Fr. 34'075.-- an. B. Gegen diese Verfügung erhob X._ Beschwerde und verlangte, dass der Kostenvorschuss auf höchstens Fr. 1'903.85 festzulegen sei. Das Obergericht des Kantons Zürich, II. Zivilkammer, hiess die Beschwerde mit Urteil vom 7. Dezember 2011 teilweise gut und reduzierte den Kostenvorschuss auf Fr. 25'000.--. Im Übrigen wurde die Beschwerde abgewiesen. C. Mit Eingabe vom 27. Januar 2012 hat X._ Beschwerde in Zivilsachen erhoben. Der Beschwerdeführer beantragt, das angefochtene Urteil aufzuheben und den Kostenvorschuss für die Kollokationsklage auf höchstens Fr. 1'903.85 festzulegen. Eventualiter sei die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen. Weiter ersucht der Beschwerdeführer um aufschiebende Wirkung. Mit Präsidialverfügung vom 7. Februar 2012 wurde der Beschwerde aufschiebende Wirkung zuerkannt. In der Sache haben die Z._ Limited (Beschwerdegegnerin) und das Obergericht auf eine Vernehmlassung verzichtet. 