Sachverhalt: A. Am 17. Mai 2005 verkauften drei Grossaktionäre der X._ AG -alt insgesamt 12'412 Inhaberaktien zu einem Preis von Fr. 1'200.-- pro Aktie an die M._ AG, die danach über 44.3 % des Aktienkapitals der X._ AG-alt verfügte. Am 4. Juli 2005 unterbreitete die M._ AG allen Aktionären der X._ AG-alt ein öffentliches Kauf/Tauschangebot, gemäss welchem eine sich im Publikum befindende Inhaberaktie der X._ AG-alt mit Fr. 300.-- Nennwert zum Bezug von drei Namenaktien der M._ AG mit einem Nennwert von Fr. 100.-- zuzüglich Fr. 250.-- in bar berechtige. Nach Vollzug des Angebots hielt die M._ AG insgesamt 95 % des Aktienkapitals und der Stimmrechte der X._ AG-alt. Am 9. September 2005 schlossen die M._ AG, ihre 100-prozentige Tochtergesellschaft N._ AG und die X._ AGalt einen Fusionsvertrag. Darin wurde vereinbart, dass die N._ AG die X._ AG-alt im Rahmen einer Absorptionsfusion im Sinne von Art. 3 Abs. 1 lit. a FusG rückwirkend auf den 1. Juli 2005 übernimmt. Die M._ AG verpflichtet sich, zur Abfindung der Minderheitsaktionäre für eine Inhaberaktie der X._ AG-alt drei Namenaktien der M._ AG und Fr. 250.-- in bar auszugeben. Die übernehmende Gesellschaft N._ AG sollte nach der vorgängigen Löschung der X._ AG-alt die Firma "X._ AG" tragen. Gleichentags erstatteten die Verwaltungsräte der beteiligten Unternehmen ihren gemeinsamen Fusionsbericht und die O._ AG den Bericht des gemeinsamen Prüfers. Nachdem die Generalversammlungen der Vertragsparteien der Fusion am 20. Oktober 2005 zugestimmt hatten, wurde diese sowie die Löschung der X._ AG-alt am 26. Oktober 2005 im Schweizerischen Handelsamtsblatt veröffentlicht. B. Am 22. Dezember 2005 reichten A._ und B._ beim Bezirksgericht Visp gegen die X._ AG, eine Klage mit folgenden Begehren ein: "1. Die Beklagte sei zu verpflichten, den Klägern und allen übrigen ehemaligen Minderheitsaktionären der X._ AG-alt, die ihre Stellung als Aktionär dieser Gesellschaft aufgrund deren Fusion mit den Beklagten verloren haben, eine vom Gericht festzulegende angemessene Ausgleichszahlung gemäss Art. 105 FusG zu zahlen. 2. Eventualiter sei die Beklagte zu verpflichten, an den Kläger A._ für 416 Aktien der X._ AG-alt insgesamt eine Ausgleichszahlung von CHF 166 400 und an den Kläger B._ für 124 Aktien der X._ AG-alt insgesamt eine Ausgleichszahlung von CHF 49 600 zu leisten." Nach Durchführung der von den Parteien verlangten Partei- und Zeugeneinvernahmen ernannte der Bezirksrichter zwei Gerichtsexperten und beauftragte sie gemäss den Begehren der Parteien, ein gemeinsames Gutachten zur Bewertung der M._ Holding AG und der X._ AG-alt zu erstellen. Die Experten stellten ihr 154 Seiten umfassendes Gutachten dem Bezirksgericht am 2. April 2008 zu. Mit Ergänzungsbericht vom 23. Dezember 2008 beantworteten die Experten Ergänzungsfragen der Parteien. Am 13. März 2009 beantragten die Kläger die Einholung einer Oberexpertise und legten beim Bezirksgericht neue Belege ein. Mit Zwischenentscheid vom 1. April 2009 lehnte der Bezirksrichter die Einholung einer Oberexpertise ab und wies die von den Klägern am 13. März 2009 eingereichten Unterlagen aus den Akten. Eine Nichtigkeitsklage gegen diesen Entscheid wies das Kantonsgericht des Kantons Wallis als Kassationsbehörde mit Urteil vom 6. Mai 2010 ab. Am 6. April 2009 sandte der Bezirksrichter die Akten zur Beurteilung an das Kantonsgericht. Die Beschwerdeführer stellten in der Schlussdenkschrift die bereits am 13. März 2009 gestellten Beweisanträge nochmals. Das Kantonsgericht wies diese erneut ab. Mit Urteil vom 23. Dezember 2010, zugestellt am 31. Dezember 2010, wies das Kantonsgericht die Klage ab, auferlegte die Gerichtskosten von Fr. 148'000.-- der Beklagten und verpflichtete diese, den Klägern eine Parteientschädigung von Fr. 12'000.-- zu entrichten. C. Die Kläger (Beschwerdeführer) erheben beim Bundesgericht Beschwerde in Zivilsachen mit den Anträgen, das Urteil des Kantonsgerichts vom 23. Dezember 2010 aufzuheben und die Klage gutzuheissen. Eventuell sei die Sache zur Sachverhaltsberichtigung und -ergänzung an das Kantonsgericht bzw. an das Bezirksgericht Visp zurückzuweisen. Der Zwischenentscheid des Bezirksgerichts Visp vom 1. April 2009 sowie das dazu ergangene Urteil der Kassationsbehörde des Kantons Wallis vom 6. Mai 2010 seien aufzuheben, und es sei dem Antrag auf Einholung einer Oberexpertise und Zulassung der aus dem Recht gewiesenen Urkunden stattzugeben. Die vom Kantonsgericht den Beschwerdeführern zugesprochene Parteientschädigung sei auf Fr. 15'000.-- zu erhöhen. Die Beklagte (Beschwerdegegnerin) beantragt, auf die Beschwerde nicht einzutreten, eventuell sie abzuweisen. Das Kantonsgericht verzichtet auf eine Vernehmlassung. Das Bundesgericht hat den Fall an einer öffentlichen Sitzung beraten. 