Sachverhalt: A. Der aus dem Kosovo stammende X._, geb. 1981, gelangte am 19. November 1994 im Rahmen des Familiennachzugs in die Schweiz, wo er in die Niederlassungsbewilligung seines Vaters einbezogen wurde. Mit Urteil vom 13. Dezember 2007 verurteilte das Kriminalgericht des Kantons Luzern X._ wegen mehrfacher Widerhandlung gegen das Betäubungsmittelgesetz, Verstoss gegen ausländerrechtliche Bestimmungen, Widerhandlung gegen das Waffengesetz und Hehlerei zu einer Freiheitsstrafe von zwei Jahren und neun Monaten, wovon zwölf Monate unbedingt und 21 Monate bedingt vollziehbar bei einer Probezeit von zwei Jahren. In der Folge verbüsste X._ die unbedingt ausgesprochene Haftdauer in Halbgefangenschaft. Am 22. März 2008 kam das Kind Y._ zur Welt, das X._ als seinen Sohn anerkannte. Am 28. Mai 2009 heiratete er dessen ebenfalls aus dem Kosovo stammende Mutter Z._, geb. 1987, die im Alter von vier Jahren in die Schweiz gelangt war und auch über die Niederlassungsbewilligung verfügt. B. Mit Verfügung vom 30. Juli 2009 widerrief das Amt für Migration des Kantons Luzern die Niederlassungsbewilligung von X._ und wies ihn aus der Schweiz weg. Am 25. Januar 2010 wies das Justiz- und Sicherheitsdepartement (JSD) des Kantons Luzern eine dagegen erhobene Verwaltungsbeschwerde ab. Mit Urteil vom 2. November 2010 wies auch das Verwaltungsgericht des Kantons Luzern eine bei ihm erhobene Verwaltungsgerichtsbeschwerde ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 7. Dezember 2010 an das Bundesgericht beantragt X._, das Urteil des Verwaltungsgerichts vom 2. November 2010 aufzuheben. Zur Begründung beruft er sich im Wesentlichen darauf, der Ausweisungsentscheid sei unverhältnismässig und verstosse gegen Art. 8 EMRK bzw. Art. 13 BV. Überdies ersuchte X._ um Erteilung der aufschiebenden Wirkung D. Das Verwaltungsgericht und das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. Das Amt für Migration und das Justiz- und Sicherheitsdepartement des Kantons Luzern haben dem Bundesgericht innert Frist keine Vernehmlassung eingereicht. E. Mit Verfügung vom 14. Dezember 2010 erteilte der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung. 