Sachverhalt: A. Die A._ AG richtete Y._ und X._ per 15. Dezember 2002 eine Dividende von Fr. 200'000.--, abzüglich Verrechnungssteuer von Fr. 70'000.-- aus. Mit Sacheinlagevertrag vom 13. Dezember 2002 überführte X._ sämtliche Aktien der A._ AG in die ebenfalls zu 100 % von ihm gehaltene B._ AG. In der Steuererklärung 2002 haben die Steuerpflichtigen nur noch die Aktien der B._ AG im Verrechnungssteuerantrag deklariert; die Dividende von Fr. 200'000.-- bzw. das Verrechnungssteuerguthaben von Fr. 70'000.-- wurde nicht aufgeführt. Mit Verfügung vom 22. März 2007 wurden die Steuerpflichtigen von der Steuerkommission Schlossrued für die Kantons- und Gemeindesteuern 2002 mit einem steuerbaren Einkommen von Fr. 810'900.-- und einem steuerbaren Vermögen von Fr. 5'769'000.-- veranlagt. Beim Wertschriftenertrag wurde u.a. die Dividende von Fr. 200'000.-- berücksichtigt. Dagegen erhobenen die Steuerpflichtigen am 20. April 2007 Einsprache, mit welcher sie um Anrechnung bzw. Auszahlung der Verrechnungssteuer von Fr. 70'000.-- ersuchten. Das kantonale Steueramt teilte darauf hin mit, der Rückerstattungsanspruch 2002 sei mit Entscheid vom 14. Juli 2004 auf Fr. 2'381.75 (ausgehend von einem Bruttoertrag von Fr. 6'804.95, entsprechend dem Antrag der Steuerpflichtigen zuzüglich einer Aufrechnung von Fr. 1'330.--) festgesetzt worden; dieser Entscheid sei nicht angefochten worden und in Rechtskraft erwachsen. Am 1. Oktober 2007 ersuchten die Steuerpflichtigen das kantonale Steueramt um Zustellung eines neuen Entscheides; der Entscheid vom 14. Juli 2004 sei ihnen nicht bekannt. Mit Entscheid vom 22. Oktober 2007 setzte das kantonale Steueramt den Rückerstattungsanspruch wiederum auf Fr. 2'381.75 fest. Dies unter Hinweis darauf, dass der Antrag auf Rückerstattung erst mit Einsprache vom 20. April 2007 gestellt worden sei; zu diesem Zeitpunkt sei die Frist gemäss Art. 32 Abs. 1 des Bundesgesetzes vom 13. Oktober 1965 über die Verrechnungssteuer (VStG; SR 642.21) abgelaufen gewesen. Dagegen erhoben die Steuerpflichtigen erfolglos Einsprache. Ihre gegen den Einspracheentscheid gerichtete Beschwerde wurde vom kantonalen Steuerrekursgericht am 16. Dezember 2010 abgewiesen. B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen X._ und Y._ dem Bundesgericht, ihnen die am 27. Dezember 2002 entrichtete Verrechnungssteuer von Fr. 70'000.-- zurückzuerstatten. Das kantonale Steuerrekursgericht hat auf eine Vernehmlassung verzichtet. Das Kantonale Steueramt und die Eidgenössische Steuerverwaltung beantragen die Abweisung der Beschwerde. 