Sachverhalt: A. Der kosovarische Staatsangehörige X._, geb. 1986, heiratete am 6. Januar 2005 im Kosovo seine in der Schweiz niederlassungsberechtigte Landsfrau Y._. Gestützt auf diese Eheschliessung durfte X._ am 8. April 2005 in die Schweiz einreisen. Er erhielt hier eine Aufenthaltsbewilligung, welche letztmals bis 8. April 2008 verlängert wurde. Am 25. Februar 2008 ersuchte X._ erneut um Verlängerung seiner Aufenthaltsbewilligung. Auf dem entsprechenden Formular deklarierte er erstmals, dass seine Ehefrau und er mittlerweile in separaten Haushalten wohnten. Aufgrund dieser Deklaration lehnte das Amt für Migration des Kantons Luzern das Verlängerungsgesuch mit Verfügung vom 3. Juli 2008 ab. Die Behörde hielt fest, dass X._ nach Aufgabe des gemeinsamen ehelichen Wohnsitzes kein Aufenthaltsrecht in der Schweiz mehr zustehe. B. Hiergegen beschwerte sich X._ beim Justiz- und Sicherheitsdepartement des Kantons Luzern, welches die Angelegenheit zuständigkeitshalber an das kantonale Verwaltungsgericht weiterleitete. Dieses wies die Beschwerde in seinem Urteil vom 8. April 2009 ab. C. Mit Eingabe vom 12. Mai 2009 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt, die Entscheide der Vorinstanzen seien aufzuheben und es sei seine Aufenthaltsbewilligung angemessen zu verlängern. Eventualiter sei die Angelegenheit zur Neubeurteilung ans Verwaltungsgericht des Kantons Luzern zurückzuweisen. Unabhängig vom Verfahrensausgang seien sämtliche Kosten den Vorinstanzen zu überbinden. Das Amt für Migration und das Verwaltungsgericht des Kantons Luzern sowie das Bundesamt für Migration (BFM) schliessen auf Abweisung der Beschwerde. 