Sachverhalt: A. Im Gebiet Grosswiyer in Goldau, Gemeinde Arth, wurden bis 1996 Jagdschiessanlagen und eine 300 m-Schiessanlage betrieben. Der Natur- und Tierparkverein Goldau, respektive die Stiftung Natur- und Tierpark Goldau als dessen Rechtsnachfolgerin und neue Eigentümerin des fraglichen Areals, plant eine Erweiterung des Tierparks im Gebiet Grosswiyer (GB Nr. 695). Da in einem Nachbarkanton Rinder beim Beweiden eines Kugelfangs eine tödliche Bleivergiftung erlitten hatten, veranlasste das Amt für Umwelt des Kantons Schwyz (nachfolgend AfU) Untersuchungen über die Bodenbeschaffenheit im Bereich des Kugelfangs und vor dem Schützenhaus. Dabei zeigte sich, dass die Belastung von Boden und Vegetation mit Blei zum Teil erheblich, im Bereich des Kugelfanges sogar massiv ist. Der vom AfU bei der Eidgenössischen Anstalt für Wasserversorgung, Abwasserreinigung und Gewässerschutz (EAWAG) und dem Büro Dr. F. Schenker eingeholte Bericht vom 31. Juli 1998 geht davon aus, dass die Kugelfänge in Bezug auf den Boden sanierungsbedürftig sind und hinsichtlich des Oberflächengewässers (Schuttbach) und des Grundwassers ein Überwachungsbedarf besteht. B. Am 24. März 1998 ersuchte der Natur- und Tierparkverein Goldau das AfU, einen Verteilschlüssel für die Kosten der Detailuntersuchungen, der Erarbeitung eines Sanierungskonzeptes sowie der eigentlichen Sanierung der Liegenschaft Grosswiyer zu erlassen. Dabei seien die Kosten, inklusive deren Bevorschussung, der jeweiligen Verursachung entsprechend zu verteilen. C. Mit Verfügung vom 10. April 2003 verteilte das AfU die Kosten im Sinne des erwähnten Gesuches. Davon ausgenommen wurden die Untersuchungskosten der EAWAG, des AfU und des BUWAL in der Höhe von insgesamt Fr. 224'000.--: Da es sich um ein Pilotprojekt handle, sei diese Summe ohne Beteiligung der eigentlichen Verursacher finanziert worden. Die verbleibenden, bisher aufgelaufenen Untersuchungskosten wurden je hälftig (je Fr. 35'279.--) auf die beiden Sanierungsprojekte (jeweils die Kugelfänge bei der 300 m- und den Jagdschiessanlagen) aufgeteilt. Für die Sanierung der Kugelfänge bei der 300 m-Schiessanlage ging das AfU von einem Kostenaufwand von insgesamt Fr. 246'390.-- aus, welcher durch die Verursacher zu tragen sei. In einem ersten Schritt auferlegte das AfU 25% dieser Kosten der Grundeigentümerin als Zustandsstörerin (also dem Natur- und Tierparkverein Goldau, respektive dessen Rechtsnachfolgerin, der Stiftung Natur- und Tierpark Goldau). Die Verhaltensstörer wurden zur Tragung der restlichen 75% der Kosten verpflichtet. Dabei wurden der Schweizerischen Eidgenossenschaft 45.5% der Gesamtkosten (Fr. 112'108.--) auferlegt, unter Vorbehalt der definitiven Schlussabrechnung. D. Gegen diese Verfügung erhob das Eidgenössische Departement für Verteidigung, Bevölkerungsschutz und Sport (VBS) am 16. Mai 2003 Verwaltungsbeschwerde beim Regierungsrat des Kantons Schwyz. Es beantragte, es sei festzustellen, dass das VBS in Bezug auf die ausserdienstliche Schiesspflicht nicht als unmittelbarer Verursacher der Altlast gelte und somit für den entsprechenden Anteil keine Sanierungskosten zu tragen habe. Die angefochtene Verfügung sei zum Neuentscheid in diesem Sinne an die Vorinstanz zurückzuweisen. Allenfalls entstehende Ausfallkosten seien durch das Gemeinwesen (Kanton beziehungsweise Gemeinde) zu decken, respektive von diesem gestützt auf die Verordnung über die Abgabe zur Sanierung von Altlasten vom 5. April 2000 (VASA; SR 814.681) beim Bund geltend zu machen. Den letztzitierten Antrag zog das VBS im Verlaufe des Verfahrens zurück. Der Regierungsrat vereinigte hierauf die Beschwerde des VBS mit zwei weiteren Beschwerdeverfahren, welche die Jagdschiessanlagen betrafen, und wies sie mit Entscheid vom 24. August 2004 ab, soweit sie nicht gegenstandslos geworden war. E. Gegen den Regierungsratsbeschluss gelangte die Schweizerische Eidgenossenschaft, vertreten durch das VBS, an das kantonale Verwaltungsgericht. Sie forderte sinngemäss die Aufhebung des angefochtenen Entscheids und eine Neuberechnung ihres Kostenanteils, davon ausgehend, dass ihr Anteil an der Bleifracht 29.2% betrage. Das Verwaltungsgericht des Kantons Schwyz wies die Beschwerde mit Urteil vom 28. April 2005 ab und bestätigte sowohl die Verfügung des AfU vom 10. April 2003, wie auch den regierungsrätlichen Entscheid vom 24. August 2004. F. Mit Eingabe vom 7. Juni 2005 erhebt die Schweizerische Eidgenossenschaft, vertreten durch das VBS, Verwaltungsgerichtsbeschwerde beim Bundesgericht. Sie beantragt, den angefochtenen Entscheid des Verwaltungsgerichtes vom 28. April 2005 aufzuheben und ihren Kostenanteil "auf der Basis Anteil Bleifracht 29.2 %" festzulegen. Das Verwaltungsgericht, das Amt für Umwelt und der Regierungsrat des Kantons Schwyz schliessen auf Abweisung der Beschwerde. Die Gemeinde Arth, der Natur- und Tierparkverein Goldau sowie die Stiftung Natur- und Tierpark Goldau beantragen die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Schweizerischen Bundesbahnen (SBB) verzichten auf eine Stellungnahme. 