Faits: A. Le 11 décembre 2007, le Tribunal d'arrondissement de Lausanne a désigné X._ comme défenseur d'office de Y._. Le 15 décembre 2008, le Tribunal d'arrondissement de l'Est vaudois a condamné ce dernier à une peine privative de liberté de trois ans, sous déduction de la détention préventive. Il a mis les frais, par 26'941 fr. 85, à la charge du condamné, lesquels incluaient une indemnité de 3'646 fr. 25 pour son conseil d'office. Le 18 décembre 2008, X._ a déposé une déclaration de recours contre le jugement rendu à l'encontre de son client d'office. Le 21 janvier 2009, il a demandé à être relevé de sa mission, car son client avait consulté un avocat de choix. Le 22 janvier 2009, le Président de la Cour de cassation pénale vaudoise a fait droit à sa requête. Par courrier du 28 janvier 2009 adressé à ce dernier, X._ a sollicité la fixation d'une indemnité d'office pour diverses opérations effectuées depuis la lecture du jugement, telles que tenir des entretiens téléphoniques, adresser des correspondances et visiter son client au Bois-Mermet. Il arrêtait à 2,5 heures le temps de travail consacré aux actes précités et à 10 fr. les frais. Par arrêt du 4 février 2009, le Président de la Cour de cassation pénale vaudoise a fixé à 50 fr., plus TVA, l'indemnité due à X._ pour l'activité qu'il a déployée entre le 18 décembre 2008 et le 22 janvier 2009 à titre de conseil d'office de Y._ Il a considéré qu'une telle indemnité était adéquate compte tenu de l'ensemble des circonstances, en particulier du fait que l'activité du défenseur d'office s'était essentiellement limitée au dépôt de la déclaration de recours. B. Contre cet arrêt cantonal, X._ dépose un recours en matière pénale devant le Tribunal fédéral. Se plaignant d'avoir été insuffisamment rémunéré pour les opérations effectuées du 18 décembre 2008 au 22 janvier 2009, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale pour nouvelle instruction et nouvelle décision. C. Le Ministère public a renoncé à des observations, alors que le Tribunal cantonal s'est référé à son jugement. 