Faits : A. A.X._, né en 1968, et B.X._, née en 1964, se sont mariés le 25 août 2007 à Vevey. Aucun enfant n'est issu de leur union. Le mari est le père de trois enfants issus d'un précédent mariage, avec lesquels il fait ménage commun: C._, né en 1995, D._, né en 1997 et E._, née en 2003. L'épouse est quant à elle mère de deux enfants majeurs, issus d'une première union. Son fils est indépendant et sa fille vit avec elle le week-end. Le mari a quitté le domicile conjugal le 1er octobre 2012 et a emménagé dans un appartement avec ses enfants. B. Par prononcé de mesures protectrices de l'union conjugale du 25 juillet 2013, la Présidente du Tribunal civil de l'arrondissement de l'Est vaudois a rappelé la convention signée par les époux le 1er février 2013 et ratifiée le même jour pour valoir prononcé partiel de mesures protectrices, prévoyant que les parties conviennent de vivre séparées pour une durée indéterminée, que la jouissance du domicile conjugal est attribuée à l'épouse, à charge pour elle d'en payer le loyer et les charges, et que les conjoints s'engagent mutuellement à ne plus s'importuner de quelque façon que ce soit. La Présidente du Tribunal a en outre dit qu'aucune contribution d'entretien n'était due entre les époux. Par arrêt du 4 novembre 2013, notifié le 18 décembre suivant, la Juge déléguée de la Cour d'appel civile du Tribunal cantonal du canton de Vaud a admis l'appel interjeté par l'épouse contre ce prononcé, en ce sens qu'une contribution d'entretien en faveur de celle-ci, d'un montant de 700 fr. par mois, est mise à la charge du mari dès le 19 novembre 2012. C. Par acte du 15 janvier 2014, le mari exerce un recours en matière civile contre l'arrêt précité. Il conclut, principalement, à sa réforme en ce sens que l'appel de l'épouse est rejeté et le prononcé de mesures protectrices du 25 juillet 2013 confirmé. Subsidiairement, il demande l'annulation de l'arrêt attaqué et le renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants. Le recourant sollicite par ailleurs le bénéfice de l'assistance judiciaire. Des réponses n'ont pas été requises. D. Par ordonnance du 30 janvier 2014, le Président de la cour de céans a admis la requête d'effet suspensif pour les contributions d'entretien dues jusqu'à la fin du mois de décembre 2013 et l'a rejetée pour le surplus. 