Faits: A. Le 13 juillet 2009, Y._, société anonyme de droit français, de siège social à Z._, a fait notifier à X._ SA un commandement de payer la somme de 5'098'609 fr., avec intérêts à 10 % dès le 19 mai 2009. Elle a invoqué en particulier, comme titre de la créance, l'ordonnance de référé prononcée le 1er juillet 2009 par le Tribunal de Commerce de Paris dans la cause l'opposant à la prénommée. La poursuivie a fait opposition totale. Y._ a requis la mainlevée de l'opposition le 28 septembre 2009. Statuant le 26 octobre suivant, le Juge suppléant des districts de Martigny et St-Maurice a rejeté, dans la mesure de sa recevabilité, la requête de suspension de la procédure formée par X._ SA, déclaré exécutoire l'ordonnance de référé du 1er juillet 2009 et levé définitivement l'opposition à concurrence de 5'098'609 fr., plus intérêts à 3,79 % dès le 19 mai 2009 jusqu'au 31 août 2009, puis à 8,79 % dès le 1er septembre 2009. Le 8 janvier 2010, la Juge de la IIe Cour civile du Tribunal cantonal valaisan a déclaré irrecevable l'appel interjeté par X._ SA contre ce prononcé. B. X._ SA exerce un recours en matière civile au Tribunal fédéral. Elle conclut à l'annulation de la décision cantonale et au renvoi de la cause afin que l'autorité cantonale statue sur les conclusions prises le 4 décembre 2009 dans l'appel, subsidiairement qu'elle en connaisse à titre de pourvoi en nullité. L'intimée propose, principalement, l'irrecevabilité du recours et, subsidiairement, son rejet. L'autorité cantonale ne formule pas d'observations et se réfère à ses considérants. C. Par ordonnance du 26 février 2010, la Présidente de la IIe Cour de droit civil du Tribunal fédéral a accordé l'effet suspensif au recours. 