Nichteintreten auf ein Wiedererwägungsgesuch, hat sich ergeben: A.- A._, aus der Bundesrepublik Jugoslawien stammend, reiste 1984 in die Schweiz ein. Seine Ehefrau folgte ihm 1986 nach; die Kinder B._ (geboren 1985) und C._ (geboren 1981) blieben bei den Grosseltern in Jugoslawien zurück. Im Jahre 1991 erhielt A._ die Niederlassungsbewilligung. Am 26. April 1999 reisten C._ und B._ (im Besitz eines Touristenvisums) zu ihren Eltern in die Schweiz. Einige Wochen vorher, am 17. März 1999, hatte A._ bei der Fremdenpolizei des Kantons Luzern ein Familiennachzugsgesuch für seine beiden Söhne gestellt und dieses auf Aufforderung der Fremdenpolizei mit Eingaben vom 23. April 1999 bzw. 31. Mai 1999 ergänzt. Am 17. Juni 1999 wies die Fremdenpolizei dieses Gesuch mit begründeter Verfügung ab. Auf die dagegen erhobene Beschwerde trat das Verwaltungsgericht des Kantons Luzern wegen Nichtleistung des Kostenvorschusses am 20. September 1999 nicht ein. Die Verfügung der Fremdenpolizei vom 17. Juni 1999 erwuchs damit in Rechtskraft. B.- Mit einem kurz darauf durch einen anderen Rechtsvertreter gestellten neuen Gesuch vom 4. Oktober 1999 verlangte A._ wiederum die Bewilligung des Familiennachzugs. Er berief sich auf eine "neue Tatsache" und machte geltend, dass die Grossmutter aus gesundheitlichen Gründen nicht mehr in der Lage sei, die beiden Kinder zu betreuen. Mit Schreiben vom 23. November 1999 beantwortete die Fremdenpolizei das Gesuch dahingehend, es werde auf das Wiedererwägungsgesuch nicht eingetreten. A._ mache keine neuen Gründe geltend, welche ein Zurückkommen auf den ablehnenden Entscheid vom 17. Juni 1999 rechtfertigen würden. A._ ergriff gegen diesen Bescheid kein Rechtsmittel, sondern wandte sich mit Eingabe vom 22. Dezember 1999 erneut an die Fremdenpolizei mit dem Ersuchen, eine förmliche Verfügung zu erlassen. Kurz darauf bestellte er wiederum einen neuen Rechtsvertreter, der sich umgehend bei der Fremdenpolizei meldete und dem diese mit Schreiben vom 18. Januar 2000 mitteilte, dass sie auf das erneute Wiedererwägungsgesuch vom 22. Dezember 1999 mangels neuer Gründe nicht eintreten könne. C.- Hiergegen erhoben A._, B._ und C._ Beschwerde beim Verwaltungsgericht, mit dem sie die Weigerung der Fremdenpolizei rügten, auf das Wiedererwägungsgesuch einzutreten und dieses durch eine anfechtbare Verfügung zu beantworten. Das Verwaltungsgericht betrachtete diese Eingabe als Aufsichtsbeschwerde gemäss §§ 180 ff. des Gesetzes vom 3. Juli 1972 über die Verwaltungsrechtspflege (VRG), mit der das ungerechtfertigte Verweigern oder Verzögern einer Amtshandlung (§ 180 Abs. 2 lit. b VRG) gerügt werde, und überwies sie zuständigkeitshalber zur Behandlung an das Militär-, Polizei- und Umweltschutzdepartement (heute Sicherheitsdepartement) in dessen Eigenschaft als vorgesetzte Behörde der Fremdenpolizei. Dieser Entscheid vom 15. Mai 2000 blieb unangefochten. Das Militär-, Polizei- und Umweltschutzdepartement wies die Aufsichtsbeschwerde ab, soweit es darauf eintrat. Es verneinte in seinem Entscheid vom 9. Oktober 2000 das Vorliegen einer Rechtsverweigerung. Zur Begründung führte das Departement im Wesentlichen aus, die Fremdenpolizei sei mangels Geltendmachung neuer Gründe zu Recht nicht auf das Wiedererwägungsgesuch eingetreten, und zur Fällung eines förmlichen Entscheides sei sie nicht verpflichtet gewesen. Auf eine gegen diesen Entscheid gerichtete Beschwerde trat das Verwaltungsgericht mit Urteil vom 3. Juli 2001 nicht ein (Ziff. 1 des Urteilsdispositivs) und auferlegte den Beschwerdeführern amtliche Kosten von Fr. 1'000.-- (Ziff. 2 des Urteilsdispositivs). D.- A._, B._ und C._ führen mit Eingabe vom 10. September 2001 "Verwaltungsgerichtsbeschwerde (eventuell staatsrechtliche Beschwerde)" beim Bundesgericht mit den Anträgen, Ziff. 1 und 2 des verwaltungsgerichtlichen Entscheides aufzuheben und die Sache zu neuem Entscheid an die Vorinstanz (eventuell an den Regierungsrat oder an das beteiligte Departement bzw. Amt) zurückzuweisen. Gleichzeitig beantragen sie, der Beschwerde aufschiebende Wirkung zuzuerkennen. Das Sicherheitsdepartement des Kantons Luzern beantragt, die Verwaltungsgerichtsbeschwerde (eventuell staatsrechtliche Beschwerde) abzuweisen, soweit darauf einzutreten sei. Das Verwaltungsgericht des Kantons Luzern schliesst auf Abweisung der Beschwerde. Das Bundesamt für Ausländerfragen beantragt, die Beschwerde abzuweisen, soweit darauf eingetreten werden könne. E.- Mit Verfügung vom 27. September 2001 hat der Abteilungspräsident das gestellte Gesuch um aufschiebende Wirkung in ein Begehren um Anordnung einer vorsorglichen Massnahme umgedeutet und dieses gutgeheissen. B._ und C._ wurde gestattet, den Ausgang des vorliegenden Verfahrens bei ihren Eltern in der Schweiz abzuwarten. 