Faits: A. A.a Le 28 août 2006, Mme B.A._ a déposé une demande unilatérale en divorce contre M. A.A._ auprès du Tribunal civil du district de Neuchâtel. Par jugement du 9 mars 2010, ce tribunal a notamment condamné l'époux à verser à Mme B.A._ 310'075 fr. 35 plus intérêts à 5% l'an dès le jour du jugement à titre de soulte dans la liquidation du régime matrimonial. A.b Le 19 avril 2010, M. A.A._, représenté par un avocat, a déposé un appel contre ce jugement, auprès de la Cour civile du Tribunal cantonal de Neuchâtel. Le 19 janvier 2012, la IIe Cour civile du Tribunal cantonal a rendu son jugement. Quant à la recevabilité de l'appel, elle a jugé que l'entrée en vigueur du Code de procédure civile fédéral "n'[avait] pas d'incidence sur la présente procédure", dès lors que les recours alors pendants étaient régis par l'ancien droit et que les anciennes autorités judiciaires restaient compétentes dans la mesure nécessaire à l'application du droit fédéral, conformément à l'art. 85 OJN. Quant au fond de la cause, elle a partiellement admis l'appel et condamné M. A.A._ à payer à son épouse 251'075 fr. 35 plus intérêts à 5% l'an dès le 9 mars 2010 à titre de soulte dans la liquidation du régime matrimonial. Quant aux voies de recours, elle a indiqué que "[l]e présent jugement peut faire l'objet d'un appel, dans les 30 jours dès sa notification (art. 311 CPC), auprès de la Cour civile du Tribunal cantonal (art. 84 al. 2 OJN). Le mémoire d'appel doit être motivé et accompagné du jugement entrepris". A.c Le 24 février 2012, M. A.A._, représenté par un avocat, a interjeté contre ce jugement un appel auprès du Tribunal cantonal neuchâtelois, Cour civile. Par arrêt du 22 juin 2012, la Cour d'appel civile du Tribunal cantonal a déclaré cet appel irrecevable. B. Par mémoire posté le 24 juillet 2012, M. A.A._ interjette un recours en matière civile au Tribunal fédéral contre cet arrêt. Il conclut principalement à ce qu'il soit statué au sens des considérants de son appel du 24 février 2012, en donnant droit à ses conclusions et, subsidiairement, à ce que la cause soit renvoyée à l'autorité cantonale pour qu'elle statue au sens des considérants. Il se plaint de la violation des art. 5 al. 3 et 9 Cst. Des observations n'ont pas été requises. 