Faits: A. Le 15 janvier 1996, X._ est entré au service de la Banque cantonale vaudoise (ci-après: la Banque) en qualité de Directeur général, responsable de la Division internationale. Les conditions de son engagement étaient fixées dans un «contrat de travail» conclu en novembre 1995 avec la Banque «sous réserve de l'accord définitif du Conseil d'Etat». A la suite de lourdes pertes commerciales qui ont nécessité une importante augmentation du capital social souscrite par l'Etat de Vaud, la Banque et le Conseil d'Etat ont commandé un rapport d'expertise afin d'identifier les causes et d'établir les éventuelles responsabilités pénales et administratives à l'origine de ces difficultés. Déposé le 28 janvier 2003, le rapport dressé par Me Paolo Bernasconi (ci-après: le rapport Bernasconi) révèle certains dysfonctionnements internes ainsi que l'existence de «manipulations comptables» commises en 1997 par des organes de la Banque, dont trois membres sont nommément désignés; X._ n'en fait pas partie. L'expert précise que seule une enquête judiciaire sera à même d'établir d'autres possibles responsabilités au sein du Conseil d'administration ou de la Direction générale. Le lendemain de la remise du rapport Bernasconi, soit le 29 janvier 2003, la Banque a signifié par écrit à X._ la «résiliation immédiate pour justes motifs de (son) contrat de travail». Le même jour, l'expert Bernasconi, des organes de la Banque, ainsi qu'un membre du Conseil d'Etat ont participé à une conférence de presse détaillant le contenu du rapport et annonçant, entre autres mesures, le licenciement immédiat de X._ et de deux autres responsables de la Banque. Le lendemain de la remise du rapport Bernasconi, soit le 29 janvier 2003, la Banque a signifié par écrit à X._ la «résiliation immédiate pour justes motifs de (son) contrat de travail». Le même jour, l'expert Bernasconi, des organes de la Banque, ainsi qu'un membre du Conseil d'Etat ont participé à une conférence de presse détaillant le contenu du rapport et annonçant, entre autres mesures, le licenciement immédiat de X._ et de deux autres responsables de la Banque. B. Le 7 février 2003, le Conseil d'Etat a adressé au prénommé une lettre ainsi libellée: «Par la présente, nous vous informons que dans sa séance du 5 février 2003, le Conseil d'Etat a révoqué votre nomination au poste de membre de la Direction générale de la BCV, avec effet au 29 janvier 2003. Les motifs justifiant cette révocation vous ont déjà été communiqués par le Conseil d'administration de la banque, qui nous en a fait part. Nous nous y référons.» Le 17 février 2003, en réponse à une lettre de X._ dans laquelle ce dernier contestait les faits qui lui étaient reprochés, la Banque lui a fait savoir qu'elle maintenait sa position et qu'elle refusait de revenir sur son licenciement. Dans une lettre du 10 mars 2003 adressée en copie au Conseil d'Etat, X._ a derechef réfuté les manquements reprochés. Le Conseil d'Etat lui a répondu qu'il ne pouvait que confirmer sa décision du 5 février 2003 et le relever de ses fonctions dans la Banque à compter du 29 janvier 2003 (lettre du mandataire du Conseil d'Etat du 28 mars 2003). Le 17 février 2003, en réponse à une lettre de X._ dans laquelle ce dernier contestait les faits qui lui étaient reprochés, la Banque lui a fait savoir qu'elle maintenait sa position et qu'elle refusait de revenir sur son licenciement. Dans une lettre du 10 mars 2003 adressée en copie au Conseil d'Etat, X._ a derechef réfuté les manquements reprochés. Le Conseil d'Etat lui a répondu qu'il ne pouvait que confirmer sa décision du 5 février 2003 et le relever de ses fonctions dans la Banque à compter du 29 janvier 2003 (lettre du mandataire du Conseil d'Etat du 28 mars 2003). C. Parallèlement à la lettre précitée du 10 mars 2003 remise en copie au Conseil d'Etat, X._ a interjeté le même jour un recours de droit public auprès du Tribunal fédéral. Invoquant la violation de son droit d'être entendu (art. 29 al. 2 Cst.), il demande, sous suite de frais et dépens, l'annulation de la décision de révocation prise à son encontre le 5 février 2003 par le Conseil d'Etat. Le Conseil d'Etat conclut au rejet du recours dans la mesure où il est recevable. Pour l'essentiel, il soutient qu'en vertu de la loi vaudoise du 20 juin 1995 organisant la Banque Cantonale Vaudoise (ci-après citée: LBCV ou loi organisant la BCV), il n'avait aucune emprise sur la décision du Conseil d'administration de licencier X._ et ne pouvait que ratifier cette décision; aussi bien renvoie-t-il l'intéressé à agir contre la Banque par la voie du droit civil. 