Faits: A. A.a Le Conseil général de la Ville de Neuchâtel a adopté le 1er octobre 1979 un arrêté fixant les pensions en faveur des membres du Conseil communal et de leurs familles. Cet arrêté a été modifié le 1er janvier 1988. A son article premier, il prévoit ceci : 1Les membres du Conseil communal sortant de charge ont droit aux prestations suivantes : 1. En cas de démission : a) avec effet avant l'expiration de la 5e année de fonctions : à la créance de libre passage égale à l'avoir de vieillesse accumulé en faveur de l'intéressé, au jour de l'extinction de ses fonctions, dans le cadre de l'institution de prévoyance enregistrée selon l'article 1bis, mais au moins à la somme des cotisations personnellement versées en application de l'article 9, sans addition d'intérêt, b) avec effet au-delà de la 5e année de fonctions : au versement d'une pension. 2. En cas de non-réélection : a) avec effet avant l'expiration de la 4e année de fonctions : à la créance de libre passage égale à l'avoir de vieillesse accumulé en faveur de l'intéressé, au jour de l'extinction de ses fonctions, dans le cadre de l'institution de prévoyance enregistrée selon l'article 1bis, mais au moins à la somme des cotisations personnellement versées en application de l'article 9, sans addition d'intérêt, avec effet au-delà de la 4e année de fonctions : au versement d'une pension. Selon l'art. 3, la pension est calculée sur la base du dernier traitement acquis par l'intéressé, allocations de renchérissement incluses (al. 1). Elle est au maximum de 50 % de ce traitement (al. 2). Si les fonctions ont cessé avant que l'intéressé ne les ait exercées durant douze années pleines, le taux de la pension est réduit de 3 % par année manquante (al. 3). Si elles ont cessé avant que l'intéressé ait atteint l'âge de 50 ans révolus, le taux de la pension est réduit de 1 % par année manquante (al. 4). Quant à l'art. 4, il a la teneur suivante: 1La pension d'un conseiller communal sorti de charge avant d'avoir atteint l'âge de 40 ans révolus lui est servie durant un nombre de mois égal à celui de ses mois de fonctions. 2Dans les autres cas, la pension est servie à titre viager. A.b B._, né le 17 juin 1965, a été élu conseiller communal de la Ville de Neuchâtel le 5 juin 2000. Il est entré en fonction le lendemain. Il n'a pas été réélu lors du scrutin populaire du 6 juin 2004. Il a quitté ses fonctions le 28 juin 2004. Par arrêté du 29 juin 2004, le Conseil communal de la Ville l'a mis au bénéfice d'une pension de retraite pour une activité de quatre ans et un mois. La pension correspondait à 15 % du traitement de base (augmenté des allocations de renchérissement) de 186'563 fr., soit 27'985 fr. par année. La pension était payable mensuellement, la première fois le 24 juillet 2004. A la fin du mois de septembre 2008, B._ a constaté qu'il n'avait pas reçu sa rente pour le mois de septembre 2008. Il s'en est étonné auprès de la Caisse de pensions de la Ville de Neuchâtel, qui lui a signalé que, conformément à l'arrêté du 1er octobre 1979, sa rente prenait fin après 49 mois équivalant au nombre de mois durant lesquels l'intéressé avait exercé ses fonctions de conseiller communal. B. Par écriture du 2 juin 2010, B._ a introduit devant le Tribunal administratif du canton de Neuchâtel (actuellement Cour de droit public du Tribunal cantonal) une action dirigée contre la Ville de Neuchâtel en concluant au paiement par celle-ci d'une rente viagère et, en conséquence, à la condamnation de la Ville au versement, pour la période d'août 2008 au 31 mai 2010, d'un montant de 49'614 fr. 40, avec intérêts à 5 %, ses droits futurs étant réservés. Statuant le 18 mai 2011, la Cour de droit public a rejeté la demande dans toutes ses conclusions. C. Contre ce jugement, B._ exerce un recours en matière de droit public dans lequel il reprend ses précédentes conclusions. La Ville de Neuchâtel conclut au rejet du recours. 