Faits: A. Par jugement du 11 mars 1993, le Président du Tribunal civil du district de Rolle a prononcé le divorce des époux X._. Il a en particulier ratifié, pour faire partie intégrante du dispositif du jugement, la convention signée par les parties les 13 et 14 mai 1992 prévoyant que l'autorité parentale et la garde sur les enfants A._, né en 1981, et B._, née en 1986, sont attribuées à la mère et fixant la contribution due par le père pour l'entretien de chacun d'eux à 700 fr. par mois jusqu'à l'âge de douze ans révolus, 750 fr. dès lors et jusqu'à l'âge de quinze ans révolus et 800 fr. dès lors et jusqu'à la majorité; cette convention précisait que le versement de la pension serait poursuivi au-delà si, la majorité atteinte, l'enfant n'avait pas terminé ses études ou sa formation professionnelle, moyennant qu'il les effectue normalement. B. B.a Le 24 novembre 2004, le père a ouvert action en modification du jugement de divorce, concluant à ce qu'il soit libéré de toute contribution en faveur de ses enfants; il a fait valoir que ceux-ci avaient atteint leur majorité, terminé leurs études et refusaient de le rencontrer depuis 1997. B.b Lors d'une audience qui s'est déroulée le 1er décembre 2005, le père et ses enfants ont signé une convention qui prévoit notamment ce qui suit: I. Dès et y compris le 1er décembre 2005, X._ contribuera à l'entretien de A._ par un versement mensuel de Fr. 500.--, tous les premiers de chaque mois, ce jusqu'au 1er août 2006 y compris. II. Dès et y compris le 1er septembre 2006, X._ contribuera à l'entretien de B._ par un versement mensuel de Fr. 500.--, tous les premiers de chaque mois, jusqu'au 1er août 2012 y compris, date de fin d'études prévues, stage compris. (...) III. (...) IV. Parties mettront tout en oeuvre pour rétablir des relations entre elles. Le jugement ratifiant cette convention a été envoyé le 12 décembre 2005 pour notification aux parties. C. Considérant que ses enfants n'avaient pas respecté le chiffre IV de cette convention, le père a ouvert, le 23 février 2006, une nouvelle action en modification du jugement de divorce devant le Président du Tribunal civil de l'arrondissement de La Côte; il a conclu à ce que la contribution allouée à son fils soit supprimée dès et y compris le 1er décembre 2004, et celle allouée à sa fille dès et y compris le 1er août 2005, ses enfants étant condamnés à lui rembourser les contributions versées en trop. A l'audience du 7 mai 2007, le père a modifié ses conclusions en ce sens qu'il est libéré de la contribution en faveur de son fils dès et y compris le 1er août 2005, et de celle en faveur de sa fille dès et y compris le 1er février 2005. D. Par jugement du 8 octobre 2007, le Président du Tribunal civil de l'arrondissement de La Côte a rejeté la demande. Par arrêt du 11 février 2008, la Chambre des recours du Tribunal cantonal vaudois a confirmé ce jugement. E. Le 9 juillet 2008, le père a interjeté un recours en matière civile contre cet arrêt, concluant à sa réforme en ce sens que sa demande de modification du jugement de divorce est admise, ses enfants étant respectivement condamnés à lui verser les contributions d'entretien perçues indûment, valeur à la date du jugement à intervenir; à titre subsidiaire, il a conclu à l'annulation de l'arrêt entrepris, la cause étant renvoyée à l'autorité cantonale. Il se plaint d'une violation des art. 134 al. 2, 277 et 286 al. 2 CC. Les intimés proposent le rejet du recours. 