Faits: A. Le 23 mars 2011, la Cour civile vaudoise a notamment condamné H.X._ et F.X._, solidairement entre eux, à payer à la Banque A._ 20'720 fr. à titre de dépens. Par arrêt du 23 septembre 2011, rendu sous forme motivée le 19 décembre suivant, la Chambre des recours civile du Tribunal cantonal vaudois a rejeté le recours formé par les prénommés contre ce jugement dont elle a dit qu'il était exécutoire. Statuant le 24 février 2012, le Tribunal fédéral a refusé d'entrer en matière sur le recours interjeté par H.X._ et F.X._ contre cet arrêt (arrêt 4A_67/2012). B. B.a. Dans l'intervalle, soit le 2 février 2012, la Banque A._ avait fait notifier à H.X._ un commandement de payer (poursuite n o xxx) la somme de 20'720 fr., plus intérêts à 5 % l'an dès le 24 décembre 2011, 103 fr. de frais de commandement de payer, 104 fr. 25 de frais d'encaissement et 9 fr. de frais de nouvelle notification. Elle indiquait comme cause de l'obligation: " Indemnité allouée à la Banque A._ à titre de dépens, selon prononcé motivé rendu le 13 mai 2011 par la Cour civile du Tribunal cantonal, devenu exécutoire selon arrêt motivé du 19 décembre 2011 de la Chambre des recours du Tribunal cantonal. POURSUITE CON-JOINTE ET SOLIDAIRE AVEC F.X._, [...] ". Le poursuivi ayant fait opposition totale, la Banque A._ avait requis la mainlevée définitive de l'opposition le 17 février 2012. B.b. Dans ce cadre, le 21 mars 2012, le poursuivi s'est vu impartir par le Juge de paix du district de B._ un délai au 20 avril suivant pour se déterminer. A cette dernière date, il a sollicité une prolongation de ce délai, laquelle lui a été refusée le 23 avril 2012. B.c. Par prononcé du 24 avril 2012, dont les motifs ont été communiqués le 2 juillet suivant, ce même magistrat a levé définitivement l'opposition, sous suite de frais et dépens. Il a jugé en bref que le débiteur avait utilisé toutes les voies de droit qui étaient ouvertes contre l'arrêt du 23 septembre 2011, qui était un jugement définitif et exécutoire valant titre de mainlevée, le Tribunal fédéral ayant refusé d'entrer en matière sur le recours formé devant lui; il n'avait par ailleurs pas justifié de sa libération. Le 19 juillet 2012, H.X._ a recouru contre cette décision, concluant à son annulation et au renvoi de la cause " devant l'instance compétente ". Il a reproché au premier juge d'avoir rejeté sa demande de prolongation et d'avoir statué sur la mainlevée le lendemain du refus de prolonger le délai de réponse alors même qu'il ne l'avait pas encore reçu. Il a allégué une violation de son droit d'être entendu. Le 10 décembre 2012, la Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud a rejeté le recours et confirmé le prononcé attaqué. L'assistance judiciaire, sous la forme d'une exonération des avances et des frais judiciaires, ayant été accordée au recourant, elle a laissé les frais à la charge de l'Etat, réservant leur remboursement ultérieur conformément à l'art. 123 CPC. Elle n'a pas alloué de dépens, l'intimée ayant procédé sans l'assistance d'un mandataire professionnel. C. Par écriture du 16 janvier 2013, H.X._ exerce, en son " nom propre, et assisté par Me C._ ", un recours constitutionnel subsidiaire au Tribunal fédéral. Il conclut à l'annulation tant du prononcé du Juge de Paix du district de B._ du 24 avril 2012 que de l'arrêt de la Cour des poursuites et faillites du 10 décembre 2012 et au renvoi de la cause au juge de paix pour qu'il lui impartisse un délai supplémentaire de détermination avant de rendre la décision sur la requête de mainlevée. Il demande que les frais judiciaires soient mis à la charge du fisc et qu'une équitable indemnité lui soit allouée à titre de dépens. Il sollicite en outre l'assistance judiciaire totale, Me C._ lui étant désigné en qualité d'avocat d'office. Des réponses n'ont pas été requises. D. Par ordonnance du 28 janvier 2013, le Président de la II e Cour de droit civil du Tribunal fédéral a accordé l'effet suspensif au recours. 