Faits: A. Le 7 septembre 2010, la Police de sûreté valaisanne a interpellé B._, requérant d'asile débouté, sans domicile fixe, soupçonné d'être impliqué dans un trafic de drogue, alors qu'il quittait l'immeuble sis au n° 36 de la rue des Finettes, à Martigny. Dans le studio qu'il occupait dans ce bâtiment, les enquêteurs ont appréhendé A._ et C._, requérants d'asile déboutés. Ils ont également saisi 23 boulettes de cocaïne, du matériel de conditionnement ainsi que 3'000 francs et 295 euros en espèces. A._ a reconnu que les 14 boulettes de cocaïne trouvées dans son sac à dos lui appartenaient, affirmant qu'elles étaient destinées à sa consommation personnelle et qu'il les avait acquises pour la somme de 300 francs. Il a en revanche nié toute participation à un quelconque trafic de drogue. Le 8 septembre 2010, l'Office du Juge d'instruction du Bas-Valais a ouvert une instruction pénale d'office contre A._ pour infraction à l'art. 19 ch. 1 de loi fédérale sur les stupéfiants (LStup). Par décision du 10 septembre 2010, approuvée par le Président de l'Autorité de plainte du Tribunal cantonal du canton du Valais le 14 septembre 2010, il a ordonné la surveillance rétroactive, pour la période du 8 mars au 8 septembre 2010, du numéro d'appel xxx, correspondant à un téléphone portable trouvé sur A._ au moment de son arrestation. Par décision du 20 septembre 2010, approuvée le 22 septembre 2010, il a ordonné la surveillance rétroactive, pour la même période, du numéro d'appel yyy, correspondant à un téléphone portable également utilisé par l'intéressé. La Chambre pénale du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a rejeté le recours formé par A._ contre la mesure de surveillance ordonnée le 10 septembre 2010 au terme d'une décision prise le 22 novembre 2010. B. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral de constater l'illicéité de la décision du juge d'instruction du 10 septembre 2010 et l'illégalité des preuves qui en sont issues, de retirer du dossier et de détruire toutes les pièces provenant de la surveillance ordonnée en tant qu'elles le concernent ainsi que toutes les pièces établies sur la base des informations provenant de cette mesure, et de faire interdiction aux enquêteurs, respectivement à l'autorité judiciaire d'utiliser, sous quelque forme que ce soit, les documents et les informations non écrites obtenues par le biais de la surveillance ou issues, même indirectement de cette source. Il requiert l'assistance judiciaire. Le Tribunal cantonal se réfère aux considérants de sa décision. L'Office régional du Ministère public du Bas-Valais n'a pas déposé d'observations. 