Faits: Faits: A. B._, propriétaire d'un immeuble à Peseux (NE) a chargé A._, au cours de l'année 1998, d'effectuer des travaux de réfection dans un appartement de trois pièces, une cage d'escalier et sur les façades de cet immeuble et d'aménager huit places de parc à l'Est de celui-ci. Le 5 novembre 1998, A._ a adressé à B._ sa facture s'élevant à 73'955 fr., dont le solde, sous déduction des acomptes versés, se montait à 6'955 fr. Celui-ci lui a remis le 9 novembre 1998 une liste des "problèmes en suspens" et le 24 mars 1999 une liste de défauts et dégâts. L'expert judiciaire nommé par le Tribunal civil du district de Boudry dans une procédure de preuve à futur a conclu que les défauts et les dégâts causés lors des travaux s'élevaient, au total, à 4'893 fr. 30. A. B._, propriétaire d'un immeuble à Peseux (NE) a chargé A._, au cours de l'année 1998, d'effectuer des travaux de réfection dans un appartement de trois pièces, une cage d'escalier et sur les façades de cet immeuble et d'aménager huit places de parc à l'Est de celui-ci. Le 5 novembre 1998, A._ a adressé à B._ sa facture s'élevant à 73'955 fr., dont le solde, sous déduction des acomptes versés, se montait à 6'955 fr. Celui-ci lui a remis le 9 novembre 1998 une liste des "problèmes en suspens" et le 24 mars 1999 une liste de défauts et dégâts. L'expert judiciaire nommé par le Tribunal civil du district de Boudry dans une procédure de preuve à futur a conclu que les défauts et les dégâts causés lors des travaux s'élevaient, au total, à 4'893 fr. 30. B. B._ a saisi le 23 août 2001 le Tribunal civil du district de Boudry d'une demande tendant à condamner A._ à lui verser 1'560 fr. avec intérêts à 5% dès le 1er décembre 1998, à procéder à l'élimination des défauts constatés par l'expert, à la réfection des places de parc et à terminer les travaux. Celui-ci a conclu reconven-tionellement à ce que B._ lui verse le montant de 1'911 fr. 70, correspondant au solde de sa facture après déduction du montant retenu par l'expert comme indemnité globale pour la remise en état. Le 10 octobre 2003, le Tribunal de district a condamné A._ à verser à B._ une indemnité de 1'560 fr. et à procéder, au sens du considérant 13, à la réfection des places de parc et des défauts retenus par l'expert. B._ était tenu de verser à A._ les montants de 1'911 fr. 70 avec intérêts à 5% dès le 6 novembre 1998 et de 3'480 fr. 30 dès que les défauts étaient réparés. Par arrêt du 30 janvier 2004, la Cour de cassation civile du Tribunal cantonal du canton de Neuchâtel a rejeté le recours formé par A._. Par arrêt du 30 janvier 2004, la Cour de cassation civile du Tribunal cantonal du canton de Neuchâtel a rejeté le recours formé par A._. C. Se plaignant d'arbitraire dans la constatation des faits, ce dernier a interjeté un recours de droit public contre cet arrêt, dont il demande la cassation. B._ a conclu au rejet du recours dans la mesure de sa recevabilité. Par ordonnance du 1er avril 2004, le Président de la Cour de céans a accordé l'effet suspensif au recours. 