Faits: A. A.a Le 5 juillet 2002, le Conseil communal de la Ville de Neuchâtel (ci-après: le Conseil communal) a accordé à X._ la sanction définitive des plans et le permis de construire pour trois bâtiments d'habitation (A, B et C) et un garage collectif dans le quartier du centre-ville. Ces bâtiments ont été construits. Ultérieurement, X._ a soumis pour pré-consultation à la Commission d'urbanisme de la Ville de Neuchâtel (ci-après: la Commission d'urbanisme) un projet de démolition des bâtiments sis sur les articles *** et *** du cadastre de Neuchâtel et de construction de deux nouveaux bâtiments d'habitation (D et E) devant être implantés à proximité, sur le côté ouest, des bâtiments A, B et C. Le 17 octobre 2003, la Commission d'urbanisme a requis l'établissement d'un plan de quartier pour ce secteur, préalablement à toute nouvelle réalisation. L'autorité considérait en substance que si les terrains concernés par le projet n'atteignaient pas la surface légale minimale de 3'000 m2 autorisant une commune à ordonner l'élaboration d'un plan de quartier, il convenait néanmoins de prendre en compte les terrains adjacents comprenant des parcelles déjà construites ou en cours de construction ou franches de toute construction "jusqu'à ce que la limite légale soit atteinte". X._ a refusé d'établir un tel plan de quartier, arguant que la surface des terrains à bâtir des articles *** et *** n'était que de 708 m2 et que, par ailleurs, les terrains déjà bâtis (bâtiments A, B et C) et ceux pour lesquels aucune construction n'était concrètement envisagée (notamment articles ***, ***, ***, ***, ***, ***), ne pouvaient pas être pris en compte dans le calcul, car ils ne constituaient pas des projets architecturaux ou urbanistiques. Le 28 janvier 2004, après avoir reçu l'autorisation de démolir les anciens immeubles, l'intéressé a formellement demandé l'autorisation de construire deux nouveaux bâtiments d'habitation sur les articles *** et ***. Par décision du 23 août 2006, le Conseil communal a refusé d'accorder la sanction préalable aux plans déposés. D'une part, il a estimé que le projet contrevenait aux clauses d'esthétisme en vigueur. D'autre part, il a exigé, conformément au préavis de la Commission d'urbanisme, la réalisation d'un plan de quartier avant toute nouvelle construction, en considérant que ce processus était le seul à même de garantir l'intérêt public quant à la qualité, l'intégration et la protection du caractère historique et urbanistique du quartier concerné. A.b X._ a recouru contre la décision précitée du Conseil communal. Par décision du 4 avril 2007, le Conseil d'Etat du canton de Neuchâtel (ci-après: le Conseil d'Etat) a admis le recours et annulé la décision attaquée. En bref, il a jugé que la réalisation d'un plan de quartier ne pouvait pas être exigée du requérant au vu de la jurisprudence et que le Conseil communal avait abusé de son pouvoir d'appréciation en refusant le projet pour des motifs esthétiques. A.c A la suite de cette décision, le Conseil communal a accordé aux plans litigieux les sanctions préalable et définitive respectivement le 18 juin et le 18 octobre 2007. B. Le 20 mars 2008, X._ a déposé une demande d'indemnisation au Conseil communal pour le dommage qu'il estimait avoir subi du fait de la décision communale précitée du 23 août 2006. Il estimait en effet que cette décision avait rejeté de manière arbitraire sa requête de sanction préalable pour son projet de construction, ce qui engageait la responsabilité du Conseil communal. Le 30 juin 2008, ce dernier a refusé d'entrer en matière sur cette demande. Par écriture du 7 juillet 2008, X._ a saisi la Cour de droit public du Tribunal administratif du canton de Neuchâtel (ci-après: le Tribunal administratif) d'une action de droit administratif à l'encontre de la Commune de Neuchâtel, en concluant, sous suite de frais et dépens, à ce qu'elle soit condamnée à lui verser un montant de 2'765'154 fr. 30, avec intérêts à 5% dès le 15 septembre 2005. Par arrêt du 13 janvier 2010 le Tribunal administratif a rejeté l'action. En bref, il a considéré que la décision communale litigieuse du 23 août 2006, bien qu'illégale, ne revêtait néanmoins pas le caractère d'un acte illicite susceptible d'engager la responsabilité de son auteur, car elle ne pouvait pas être qualifiée d'arbitraire. C. X._ forme un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt précité du Tribunal administratif dont il requiert l'annulation, sous suite de frais et dépens. Il conclut à la condamnation de la commune à lui payer un montant en capital de 2'765'154 fr. 30 avec intérêts à 5% l'an dès le 15 septembre 2005 ou au renvoi de la cause à l'autorité judiciaire cantonale pour nouveau jugement dans le sens des considérants. En substance, il soutient que le Tribunal administratif a refusé de manière contraire à l'art. 9 Cst. de qualifier d'arbitraire la décision du Conseil communal (du 23 août 2006) refusant son projet de construction. La Ville de Neuchâtel, représentée par un avocat, conclut au rejet du recours, sous suite de frais. Le Tribunal administratif se réfère aux motifs de l'arrêt attaqué et conclut au rejet du recours. 