Faits: A. A.a A.X._ a été incarcéré le 15 mars 2009 en vue de l'exécution en semi-détention de plusieurs peines privatives de liberté d'une durée globale de 12 mois et 15 jours prononcées pour divers chefs de condamnation (vol d'importance mineure, abus de confiance, escroquerie, escroquerie d'importance mineure, utilisation frauduleuse d'un ordinateur, faux dans les titres, circulation malgré retrait du permis de conduire), dont 60 jours pour violation d'une obligation d'entretien. A.b Par décision du 24 novembre 2009, le Juge de l'application des peines et mesures du Bas-Valais a accordé la libération conditionnelle du prénommé à partir du 27 novembre 2009. Il a assorti celle-ci d'un délai d'épreuve d'une année et d'une règle de conduite aux termes de laquelle A.X._ était tenu de restituer 800 francs par mois au Bureau de recouvrement et d'avances de pensions alimentaires du canton de Vaud (BRAPA) pour essuyer les arriérés de contributions d'entretien dues en faveur de ses enfants B.X._ et C.X._. Le 7 septembre 2010, le juge a révoqué la libération conditionnelle et ordonné la réintégration de A.X._ dans l'exécution des peines précitées, pour le motif qu'il ne s'était pas acquitté des versements de mars, avril, juin, juillet 2010 et qu'il avait ainsi violé la règle de conduite qui lui avait été assignée. B. Saisi d'un recours formé par A.X._, la Cour pénale du Tribunal cantonal valaisan l'a rejeté par jugement du 14 mars 2011. C. A.X._ interjette un recours en matière pénale contre le jugement cantonal, en concluant au renvoi de la cause à l'autorité intimée en vue du maintien de sa libération conditionnelle. Par ailleurs, il requiert le bénéfice de l'assistance judiciaire gratuite totale. Invités à se déterminer, le Juge de l'application des peines et mesures ainsi que l'autorité intimée ont renoncé à déposer des observations. 