A.- X._, prétendument originaire de Guinée- Bissau, a présenté le 21 décembre 1998 une demande d'asile. Le 14 avril 1999, l'Office fédéral des réfugiés a rejeté cette demande et invité le prénommé à quitter la Suisse, sous peine de refoulement. Statuant sur recours le 9 novembre 1999, la Commission suisse de recours en matière d'asile a confirmé le renvoi de X._. Celui-ci a été annoncé disparu le 25 janvier 2000. Le 2 août 2000, X._ a déposé une nouvelle demande d'asile sur laquelle l'Office fédéral des réfugiés n'est pas entré en matière selon décision du 27 septembre 2000. Cette autorité a de nouveau ordonné le renvoi immédiat de l'intéressé et retiré l'effet suspensif à un éventuel recours. Le canton du Valais a été chargé de l'exécution du renvoi. Le 23 novembre 2000, la Commission suisse de recours en matière d'asile n'est pas entrée en matière sur le recours formé par l'intéressé faute de paiement de l'avance de frais. Le 31 octobre 2000, le Service de l'état civil et des étrangers du canton du Valais (ci-après: le Service des étrangers) a présenté à la Division "rapatriements" de l'Office fédéral des réfugiés une demande de soutien à l'exécution du renvoi de X._, en application de l'ordonnance du 11 août 1999 sur l'exécution du renvoi et de l'expulsion d'étrangers (OERE; RS 142. 281). L'office en question a adressé ensuite des demandes de comparaisons dactyloscopiques aux autorités belges et françaises. Les renseignements (négatifs) ont été reçus par l'office en cause les 2 février et 11 mai 2001. Le Service des étrangers a de son côté soumis l'intéressé à un test linguistique. Selon un rapport du 14 février 2001, X._ ne serait probablement pas originaire de Guinée Bissau, mais plutôt de Guinée. Soupçonné d'avoir enfreint la loi fédérale sur les stupéfiants, X._ a été mis en détention préventive du 13 octobre au 13 décembre 2000, à Lausanne, et du 9 avril au 11 octobre 2001, à Orbe. Par jugement du 11 octobre 2001, le Tribunal correctionnel d'arrondissement de Lausanne a condamné X._ pour infraction à la loi fédérale sur les stupéfiants à la peine de six mois d'emprisonnement, peine entièrement compensée par la détention préventive, et à une expulsion de Suisse pour une durée de trois ans. Le tribunal a ordonné la libération immédiate de X._, à moins que celui-ci ne soit détenu pour une autre cause. B.- Le 10 octobre 2001, la Police cantonale du Valais a interrogé X._ à la prison d'Orbe en vue d'organiser son départ de Suisse. Le même jour, le Service des étrangers a ordonné la mise en détention de l'intéressé pour une durée maximale de trois mois en vue du refoulement, cette décision prenant effet dès que X._ aurait satisfait aux exigences de la justice vaudoise et serait libéré. Par arrêt du 12 octobre 2001, le Juge unique de la Cour de droit public du Tribunal cantonal du canton du Valais (ci-après: le Juge de la détention) a examiné et confirmé l'ordre de mise en détention, après avoir entendu oralement X._ et une représentante du Service des étrangers. En revanche, l'avocat-stagiaire, qui avait assisté l'intéressé dans la procédure pénale qui s'était déroulée dans le canton de Vaud, n'avait pas été averti de la tenue de cette audience. Le Juge de la détention lui a toutefois notifié son arrêt du 12 octobre 2001, tout en l'invitant à l'informer sur la façon dont il entendait s'acquitter du mandat qu'il disait avoir reçu de X._ et dont l'existence ne ressortait pas du dossier. Par lettre du 18 octobre 2001 adressée au Juge de la détention, le conseil de X._ a sollicité la reconsidération de l'arrêt du 12 octobre 2001, l'annulation de l'ordre de mise en détention du 10 octobre 2001 et, enfin, la mise en liberté immédiate de X._. Il a alors renoncé à une nouvelle audience avec débats oraux. Par arrêt du 2 novembre 2001, le Juge de la détention a rejeté la demande en reconsidération ainsi que la demande de libération. C.- Agissant seul par la voie du recours de droit administratif, X._ demande au Tribunal fédéral d'annuler l'arrêt du Juge de la détention du 2 novembre 2001, tout en sollicitant un délai supplémentaire pour déposer un mémoire complémentaire rédigé par son avocat. Le Service des étrangers conclut au rejet du recours. Le Juge de la détention s'est exprimé sur la question du principe de diligence mais n'a pas pris de conclusions expresses. Ayant été informé de l'ouverture d'une procédure de recours fédérale, l'avocat-stagiaire, qui était intervenu comme mandataire de l'intéressé dans la procédure cantonale en matière de mesures de contrainte, s'est déterminé sur les observations du Service des étrangers le 24 novembre 2001. Par ordonnance du 23 novembre 2001, le Président de la IIe Cour de droit public a invité l'Office fédéral des étrangers, d'entente avec l'Office fédéral des réfugiés, à déposer un rapport sur la question du principe de célérité. Le 28 novembre 2001, l'Office fédéral des étrangers a fait parvenir sa réponse avec un rapport de l'Office fédéral des réfugiés daté du 26 novembre 2001. L'avocat-stagiaire, qui avait assisté l'intéressé dans la procédure cantonale, a été invité à déposer ses éventuelles observations sur les rapports en question, dans la mesure où il entendait intervenir formellement comme mandataire du recourant, ce qu'il a fait par acte du 3 décembre 2001 en y joignant une procuration justifiant de ses pouvoirs. 