Faits: A. X._, né le *** 1947, est entré au service de l'Etat de Vaud le 1er septembre 1974, en qualité d'inspecteur auprès du Service Y._ (ci-après: le Service Y._). Le 3 juillet 2002, X._ a été interpellé par deux agents de la gendarmerie vaudoise, qui le suivaient au volant d'une voiture banalisée, alors qu'il circulait au volant de son véhicule sur la route des Paysans, près de Lausanne. Le rapport de police établi par les gendarmes à la suite de son interpellation mentionne de ce qui suit : "Dès le lieu-dit "Prés de Bressone", nous avons enclenché l'appareil Multigraph T21-4.1B N° 272 équipant notre véhicule et suivi cet usager à une distance constante, sur 686 mètres, conformément aux prescriptions en vigueur. Les données suivantes ont été relevées: - vitesse maximale autorisée, généralisée 80 km/h - vitesse moyenne étalonnée la plus élevée (510 mètres entre les jalons O - A) 135 km/h - vitesse prise en considération (marge de sécurité déduite selon instructions DETEC, - 15%) 114 km/h X._ a donc dépassé la vitesse prescrite de 34 km/h : [...] Lors du contrôle, nous avons constaté que sa machine ne répondait plus aux prescriptions. En effet, les modifications suivantes ont été relevées : - un des deux catalyseurs et le pot d'échappement intermédiaire équipant cette automobile à l'origine avaient été supprimés et remplacés par un simple tube métallique. De toute évidence, elle ne devait plus répondre aux prescriptions relatives à l'émission des gaz d'échappement. De plus, le moteur produisait un volume sonore nettement plus élevé que lorsque ce véhicule se trouve dans sa configuration initiale. Ces modifications n'avaient pas été soumises à l'approbation de l'autorité compétente. Par contre, elles étaient visiblement destinées à augmenter la puissance du véhicule, ainsi que le niveau sonore." Sous rubrique "Déposition (s) - participant (s)", ledit rapport contient, en outre, la déclaration suivante : "M. X._ : «Je venais de Lausanne et me rendais à mon domicile à A._, par la route de Berne, puis celle des Paysans. Lors du trajet, j'ai roulé à une vitesse supérieure à 80 km/h, notamment sur le tronçon rectiligne de la route des Paysans. Toutefois, je ne peux pas vous préciser à quelle vitesse. Je suis pressé car j'ai rendez-vous avec une personne à 17h00. En ce qui concerne le catalyseur de ma Subaru, c'est moi qui l'ai supprimé. Sur la route des Paysans, je pense avoir dépassé 3 véhicules." A la suite de ce contrôle, X._ a été dénoncé au Juge d'instruction de l'arrondissement de Lausanne pour vitesse excessive et absence de conformité de son véhicule. Dans le cadre de l'enquête menée par ce magistrat, X._ a soutenu que la mesure de vitesse effectuée par les agents ne correspondait pas aux normes techniques en vigueur et que les relevés ainsi obtenus n'étaient pas valables. En outre, il a contesté avoir admis un dépassement de la vitesse autorisée. A propos de la non-conformité de son véhicule, il a expliqué que le tube métallique remplaçant le catalyseur constituait une solution provisoire en attendant que son garagiste remplace le catalyseur défectueux. Par ordonnance du 5 avril 2004, le juge d'instruction a renvoyé X._ devant le Tribunal de police d'arrondissement de Lausanne pour violation grave des règles de la circulation routière et pour conduite d'un véhicule ne répondant pas aux prescriptions légales. A la suite du recours interjeté par X._ contre cette décision, le Tribunal d'accusation du canton de Vaud (ci-après: le Tribunal d'accusation) a, par arrêt du 26 avril 2004, rejeté le recours et confirmé l'ordonnance de renvoi. Il a notamment considéré que l'enquête, suffisamment instruite, avait révélé des indices de culpabilité justifiant que l'inculpé soit renvoyé devant la juridiction de jugement désignée, sous les charges retenues. Par jugement du 9 février 2005, le Tribunal de police d'arrondissement de Lausanne a libéré X._ de l'ensemble des chefs d'accusation retenus contre lui et mis fin à l'action pénale. Il a observé que les agents avaient effectué leur contrôle sur une distance de 686 mètres seulement, au lieu des 1'000 mètres prescrits par les normes DETEC en vigueur, et que les mesures ainsi obtenues n'étaient pas valables. Par ailleurs, il a relevé que la contravention était prescrite. Enfin, il a considéré que le remplacement du catalyseur par un "tube métallique" était un simple dépannage de fortune et que l'infraction reprochée à cet égard à l'intéressé n'était pas réalisée. B. A réception du rapport de police susmentionné, le Service Y._ a suspendu X._ de ses fonctions à titre provisoire. A cette époque, celui-ci était déjà sous le coup d'une procédure d'avertissement pour des faits remontant à 2001. En date du 4 juin 2003, le Conseil d'Etat a prononcé son licenciement immédiat pour justes motifs. Le 28 septembre 2005, la Chambre des recours du Tribunal cantonal a annulé ce licenciement, ce qui a conduit à la réintégration de l'intéressé. Le 10 août 2006, X._ a signé avec l'Etat de Vaud une convention mettant un terme à leurs rapports de travail pour le 31 août 2006, les parties se donnant réciproquement quittance pour solde de tout compte et de toute prétention de ce chef. Selon cette convention, l'Etat de Vaud devait un solde de salaire à X._, des intérêts moratoires et des allocations familiales pour solde de tout compte. C. Le 4 avril 2008, X._ a ouvert action devant le Tribunal civil d'arrondissement de Lausanne en paiement par le canton de Vaud d'un montant en capital de 50'000 fr. en réparation de l'atteinte subie du fait des procédures qui avaient été engagées à tort, selon lui, contre sa personne. Par jugement du 25 mai 2010, ledit Tribunal a rejeté les prétentions de X._. D. Le 12 janvier 2011, la Chambre des recours du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours déposé par X._ contre le jugement du 25 mai 2010; entre-temps, l'intéressé avait réduit ses prétentions à 35'000 fr. E. X._ forme un recours en matière civile contre l'arrêt du Tribunal cantonal. Il conclut à l'admission du recours et au renvoi de la cause au Tribunal cantonal pour nouveau jugement, subsidiairement à la réforme de cet arrêt et à l'adjudication de la somme de 35'000 fr. plus intérêts à 5% dès le 25 juillet 2002. Le Tribunal cantonal se réfère aux considérants de son arrêt, alors que le canton de Vaud, représenté par un avocat, conclut au rejet du recours. X._ a déposé des observations complémentaires le 22 septembre 2010. 