Faits: A. A.a. X._, né le *** 1970, et Dame X._, le *** 1969, se sont mariés en 1999 à St-Aubin (NE). Deux enfants sont issus de cette union: A._, né le *** 2000 et B._, née le *** 2006. Les conjoints vivent séparés depuis février 2010. Leur situation a été réglée par une convention, ratifiée le 11 février 2010 pour valoir mesures protectrices de l'union conjugale, prévoyant notamment que la garde des enfants est confiée à la mère, le père bénéficiant d'un libre et très large droit de visite à exercer selon les modalités définies par le schéma de prise en charge des enfants produit par celui-ci à l'audience et annexé au procès-verbal, ainsi que durant la moitié des vacances scolaires, alternativement à Pâques ou Pentecôte, Noël ou Nouvel-An. Le schéma de prise en charge des enfants prévoyait que le père aurait ses enfants auprès de lui du mardi à 20h00 au mercredi à 13h00, le jeudi de 7h00 à 10h00 et, alternativement, du jeudi à 20h00 au vendredi à 10h00 et du dimanche à 19h00 au lundi à 10h00, ou le vendredi de 7h00 à 10h00 et du samedi à 13h00 au lundi à 10h00. A.b. Le 1er mai 2012, l'épouse a ouvert action en divorce. Par requête de mesures provisionnelles du 10 mai 2012, elle a notamment conclu à ce que l'autorité parentale et la garde des enfants lui soient attribuées, le droit de visite du père étant fixé à dire de justice. Par ordonnance de mesures provisionnelles du 19 septembre 2012, la Présidente du Tribunal civil de l'arrondissement de La Broye et du Nord vaudois a, notamment, dit que le père pourrait avoir ses enfants auprès de lui, transports à sa charge, un week-end sur deux, du vendredi à 18h00 au dimanche à 18h00, du jeudi après-midi à la fin de l'école au vendredi matin au début de l'école les semaines où il n'exerce pas son droit de visite le week-end, la moitié des vacances scolaires, alternativement à Pâques ou Pentecôte, Noël ou Nouvel-An, confié un mandat d'évaluation au SPJ afin qu'il évalue la constellation familiale et fasse toute proposition utile concernant l'attribution de l'autorité parentale, la garde et la fixation du droit de visite, dit que la convention de mesures protectrices de l'union conjugale du 11 février 2010 est maintenue pour le surplus et refusé d'instaurer une curatelle de représentation en faveur du fils des parties. B. Par arrêt du 16 janvier 2013, le Juge délégué de la Cour d'appel civile du Tribunal cantonal du canton de Vaud a rejeté l'appel interjeté par le mari contre l'ordonnance du 19 septembre 2012 et confirmé celle-ci. C. Par acte du 22 février 2013, le mari exerce un recours au Tribunal fédéral contre l'arrêt du 16 janvier 2013 en ce qui concerne la réglementation du droit de visite et le refus d'instaurer une curatelle de représentation en faveur de son fils. Il conclut à l'annulation de la décision de première instance et au renvoi du dossier à l'instance inférieure pour qu'elle applique la loi sans arbitraire. Sur le second point, il demande en outre la réforme de l'arrêt attaqué en ce sens qu'un curateur de représentation est désigné pour son fils. Des observations n'ont pas été requises. 