Sachverhalt: A. Am 29. Mai 1998 erteilte die Eidgenössische Kommunikationskommission (ComCom) der Orange Communications SA eine Konzession zur Erbringung von Mobilfunkdiensten in der Schweiz (Konzession Nr. 25100003). Diese wurde am 21. Dezember 2000, mit Wirkung ab dem 1. Januar 2001, durch eine neue Konzession abgelöst (neue Konzession Nr. 25100003). Die Konzession umfasst die Befugnis zur Erbringung von Mobilfunkdiensten über ein landesweites digitales zellulares Netz unter Nutzung des Frequenzspektrums in den Frequenzbändern 900 MHz und 1'800 MHz auf der Grundlage des GSM-Standards (GSM = Global System for Mobile Communications). B. Im Jahr 2003 kündigte das Bundesamt für Kommunikation an, künftig die Verwaltungsgebühren für Mobilfunkdienste (GSM und UMTS) um 85 % zu senken und gleichzeitig die Funkkonzessionsgebühren im Bereich GSM um 108 % zu erhöhen. Mit Schreiben vom 11. Juli 2003 teilte die Orange Communications SA dem Bundesamt mit, die geplante Erhöhung der GSM-Konzessionsgebühr verstosse ihrer Ansicht nach gegen das Legalitätsprinzip. Am 18. März 2004 verfügte das Bundesamt, gestützt auf die in der Zwischenzeit per 1. Januar 2004 geänderten Verordnungsbestimmungen, den jährlichen technischen Netzbeschrieb (Anhang III zur GSM-Konzession der Orange Communications SA). Darin legte es die Gebühren für das Jahr 2004 auf Fr. 3'586'560.-- fest, wobei sich dieser Betrag aus einer Konzessionsgebühr von Fr. 3'369'600.-- und einer Verwaltungsgebühr von Fr. 216'960.-- zusammensetzte. C. Dagegen führte die Orange Communications SA im Hinblick auf die festgesetzten Konzessionsgebühren Beschwerde bei der Rekurskommission für Infrastruktur und Umwelt (REKO INUM, nachfolgend: Rekurskommission INUM). Diese hiess die Beschwerde am 10. Februar 2005 gut, änderte die angefochtene Verfügung in den einschlägigen Dispositivteilen im Sinne der Erwägungen ab und setzte die Konzessionsgebühren auf Fr. 1'620'000.-- fest. Zur Begründung wurde im Wesentlichen ausgeführt, die neue Verordnungsbestimmung, auf welche sich die Erhöhung der Konzessionsgebühr stütze, verfüge im Gesetz über keine genügende Grundlage, da die neue Berechnung der Gebührenhöhe massgeblich auf dem Marktwert der GSM-Konzession beruhe, was im Gesetz als Kriterium nicht vorgesehen sei; überdies zähle die Höhe der Gebühr zu den mit der Konzession eingeräumten wohlerworbenen Rechten und lasse die Konzessionsurkunde die strittige Erhöhung nicht zu. Die Konzessionsgebühr sei daher weiterhin auf der Grundlage der alten Verordnungsbestimmung zu berechnen. D. Mit Verwaltungsgerichtsbeschwerde vom 14. März 2005 beantragt das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation die Aufhebung des Entscheides der Rekurskommission INUM vom 10. Februar 2005, wobei es sich insbesondere darauf beruft, die fragliche Verordnungsrevision finde im Gesetz eine genügende Grundlage und die Konzessionsurkunde behalte Änderungen der einschlägigen Rechtsnormen ausdrücklich vor. Die Orange Communications SA und die Rekurskommission INUM schliessen auf Abweisung der Beschwerde. 