Faits: A. Par jugement du 3 avril 2008, le Tribunal correctionnel de l'arrondissement de l'Est vaudois a reconnu X._ coupable de vol, voies de fait, injure, contrainte, contrainte sexuelle, tentative de viol et infraction à la loi fédérale sur les stupéfiants. Il a condamné l'intéressé à une peine privative de liberté d'un an avec sursis pendant deux ans ainsi qu'à une amende de 1000 francs, arrêtant à 25 jours la peine de substitution. B. Le 6 mai 2008, la Cour de cassation du Tribunal cantonal vaudois a rejeté le recours de X._. En bref, cet arrêt retient ce qui suit: X._ s'est montré violent physiquement et sexuellement envers deux prostituées, Y._ et Z._, lors d'ébats qui se sont déroulés à son domicile. Il a exercé des sévices physiques sur elles et les a injuriées. Il a introduit brutalement un vibromasseur dans le vagin de Y._ et retiré subrepticement le préservatif que celle-ci exigeait. Il a repris aux prostituées une partie de l'argent qu'il leur avait donné en contrepartie de leurs prestations sexuelles. Enfin, il a consommé occasionnellement de la cocaïne et du haschich. C. Contre cet arrêt, X._ forme un recours en matière pénale devant le Tribunal fédéral. Il se plaint de l'établissement arbitraire des faits (art. 9 Cst.). Il conclut à la réforme du jugement attaqué en ce sens qu'il soit acquitté du chef de l'infraction de tentative de viol et frappé d'une peine très sensiblement inférieure et, subsidiairement, à l'annulation de l'arrêt dont est recours et au renvoi de la cause aux autorités cantonales. Le Ministère public vaudois a conclu au rejet du recours. 