Ausweisung, hat sich ergeben: A.- Der aus der Bundesrepublik Jugoslawien (Kosovo) stammende A._ (geb. 1952) arbeitete in den Jahren 1981-1985 als Saisonnier bei einer Bauunternehmung im Kanton Aargau. Per 11. Dezember 1985 erhielt er die Jahresaufenthaltsbewilligung. Seine Ehefrau, B._ und die fünf Kinder kamen im November 1989 bzw. Dezember 1991 in die Schweiz. Seit dem 20. Juli 1992 hat die ganze Familie die Niederlassungsbewilligung. B.- Das Bezirksamt Zurzach verurteilte A._ am 16. August 1988 wegen Gebrauchs eines gefälschten Führerausweises sowie wegen versuchter Erschleichung eines schweizerischen Führerausweises zu 4 Tagen Gefängnis unter Gewährung des bedingten Strafvollzugs bei 2 Jahren Probezeit sowie zu einer Busse von Fr. 300.-- und am 24. September 1993 wegen wiederholten Führens eines Motorfahrzeuges trotz Entzugs des Lernfahrausweises sowie Mitverschuldens einer Kollision infolge Nichtanpassens der Geschwindigkeit auf einer Strassenverzweigung zu 14 Tagen Haft und Fr. 150.-- Busse. Mit Urteil vom 9. Juli 1996 erkannte das Bezirksgericht Baden A._ schuldig der qualifizierten Widerhandlung (Art. 19 Ziff. 2 lit. a und b) gegen das Bundesgesetz vom 3. Oktober 1951 über die Betäubungsmittel und die psychotropen Stoffe (Betäubungsmittelgesetz, BetmG; SR 812. 121), begangen im Jahre 1993, und verurteilte ihn zu 21⁄2 Jahren Zuchthaus sowie zu 7 Jahren unbedingter Landesverweisung. Die vom Verurteilten hiegegen erhobene Beschwerde wies das Obergericht des Kantons Aargau am 27. August 1998 ab. A._ trat die Strafe am 25. April 2000 an. Am 19. April 2001 wurde er bedingt aus dem Strafvollzug entlassen und gleichzeitig die Landesverweisung von 7 Jahren probeweise aufgeschoben unter Ansetzung einer Probezeit von 2 Jahren. C.- Die Fremdenpolizei des Kantons Aargau wies A._ mit Verfügung vom 9. Juni 1999 für unbestimmte Zeit aus der Schweiz aus. Die dagegen erhobene Einsprache wies sie am 10. August 1999 ab. Das Rekursgericht im Ausländerrecht des Kantons Aargau (im Folgenden: Rekursgericht) bestätigte diesen Entscheid mit Urteil vom 6. April 2001. D.- Hiegegen hat A._ am 9. Mai 2001 beim Bundesgericht Verwaltungsgerichtsbeschwerde eingereicht. Er stellt die folgenden Begehren: "1. Das Urteil des Rekursgerichts im Ausländerrecht des Kantons Aargau vom 6. April 2001 sei aufzuheben. 2. Es sei neu wie folgt zu entscheiden: a.) Von einer Ausweisung des Beschwerdeführers sei abzusehen. b.) Der Beschwerdeführer sei zu verwarnen, und es sei ihm die Ausweisung anzudrohen. Unter Kosten- und Entschädigungsfolgen.. " E.- Das Rekursgericht und die Fremdenpolizei des Kantons Aargau sowie das Bundesamt für Ausländerfragen schliessen auf Abweisung der Beschwerde. 