Sachverhalt: A. Der türkische Staatsangehörige X._ (geb. 1972) war in seiner Heimat mit einer Landsfrau verheiratet, mit welcher er drei Töchter hat (A._, geb. 1996, B._, geb. 1999, und C._, geb. 2004). Die Ehe wurde am 26. Dezember 2005 geschieden und das Sorgerecht über die Töchter dem Vater zugesprochen. Dieser reiste am 1. März 2006 zwecks Eheschliessung mit der Schweizer Bürgerin Y._ (geb. 1985) ohne die Kinder in die Schweiz ein. Die Heirat fand am 3. März 2006 statt, worauf X._ eine Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau erhielt. Am 4. Juli 2008 wurde um den Nachzug der Töchter ersucht. Das Migrationsamt des Kantons Basel-Stadt wies das Gesuch am 23. Februar 2009 ab. Während des dagegen eingeleiteten Rekursverfahrens ersuchte das kantonale Migrationsamt um dessen Sistierung, weil aufgrund eines gegen X._ angehobenen Strafverfahrens und des Verdachts auf Scheinehe Abklärungen betreffend den Widerruf seiner Aufenthaltsbewilligung getroffen würden. X._ wurde am 17. September 2009 wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz zu einer bedingten Freiheitsstrafe von zwei Jahren, bei einer Probezeit von ebenfalls zwei Jahren, verurteilt. In der Folge wurde seine Aufenthaltsbewilligung jedoch weiterhin verlängert bzw. nicht widerrufen. Am 24. März 2010 lehnte das Justiz- und Sicherheitsdepartement des Kantons Basel-Stadt den Rekurs gegen die Verweigerung des Nachzugs der Töchter ab. Das Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht wies das dagegen erhobene Rechtsmittel mit Urteil vom 23. März 2011 ab. B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 8. Mai 2011 beantragen die Eheleute X._ und Y._ dem Bundesgericht, das Urteil des Appellationsgerichts vom 23. März 2011 aufzuheben und den Nachzug der drei Töchter zu bewilligen. Das kantonale Justiz- und Sicherheitsdepartement sowie das Bundesamt für Migration beantragen die Abweisung der Beschwerde. Das Appellationsgericht stellt den Antrag, die Beschwerde abzuweisen, soweit auf sie einzutreten sei. Das kantonale Migrationsamt hat sich nicht vernehmen lassen. C. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat das Gesuch um vorsorgliche Massnahmen, mit welchem die Eheleute X._ und Y._ die einstweilige oder besuchsweise Einreise der Kinder erreichen wollten, mit Verfügung vom 7. Juni 2011 abgewiesen. D. Am 23. August 2011 hat die Verfahrensbevollmächtigte der Eheleute X._ und Y._ dem Bundesgericht ihre Honorarnote eingereicht. 