Sachverhalt: A. Der serbische Staatsangehörige X._ (geb. 1973) reiste Ende 2001 illegal in die Schweiz ein und stellte ein Asylgesuch, das am 24. Mai 2002 vom Bundesamt für Flüchtlinge abgewiesen wurde. Am 12. Mai 2003 heiratete X._ eine Schweizer Bürgerin (geb. 1951), die ursprünglich ebenfalls aus Serbien stammt. Gestützt auf die Heirat wurde X._ eine Aufenthaltsbewilligung erteilt. Mit Urteil vom 5. September 2005 wies die Asylrekurskommission die Beschwerde gegen die Asylverweigerung ab, soweit sie die Beschwerde nicht als gegenstandslos abschrieb. X._ wurde wiederholt straffällig: Mit Strafbefehl der Bezirksanwaltschaft Hinwil vom 2. Januar 2002 wurde er wegen Vergehens gegen das Bundesgesetz über Aufenthalt und Niederlassung der Ausländer zu 45 Tagen Gefängnis, bei einer Probezeit von zwei Jahren, verurteilt. Das Bezirksgericht Zürich verurteilte ihn am 11. Januar 2008 wegen Widerhandlung gegen das Betäubungsmittelgesetz, Widerhandlung gegen das Waffengesetz sowie grober und einfacher Verletzung der Verkehrsregeln zu 15 Monaten Freiheitsstrafe, bei einer Probezeit von zwei Jahren. Die Sicherheitsdirektion des Kantons Zürich verwarnte ihn darauf mit Verfügung vom 8. April 2008 und stellte ihm für den Fall einer erneuten Verurteilung schwerwiegende ausländerrechtliche Massnahmen in Aussicht. Mit Urteil des Obergerichts des Kantons Zürich vom 3. Juli 2009 wurde X._ zweitinstanzlich wegen Verbrechens gegen das Betäubungsmittelgesetz und mehrfacher Übertretung des Betäubungsmittelgesetzes mit einer unbedingten Freiheitsstrafe von 21 Monaten und einer Busse von Fr. 500.-- bestraft. Zudem wurde die mit Urteil vom 11. Januar 2008 angesetzte Probezeit um ein Jahr verlängert. B. Mit Verfügung vom 18. Dezember 2009 verweigerte die Sicherheitsdirektion (Migrationsamt) des Kantons Zürich die Verlängerung der Aufenthaltsbewilligung von X._ und setzte ihm eine Frist zum Verlassen der Schweiz an. Dagegen erhoben Ehegatten X._ und Y._ ohne Erfolg Rekurs an den Regierungsrat und sodann Beschwerde an das Verwaltungsgericht des Kantons Zürich. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 2. September 2010 beantragen X._ (Beschwerdeführer 1) und Y._ (Beschwerdeführerin 2), den Entscheid des Verwaltungsgerichts des Kantons Zürich vom 6. August 2010 aufzuheben und die Sicherheitsdirektion anzuweisen, die Aufenthaltsbewilligung zu verlängern. Das Verwaltungsgericht des Kantons Zürich hat auf Vernehmlassung verzichtet. Der Regierungsrat und die Sicherheitsdirektion des Kantons Zürich liessen sich nicht vernehmen. Die Vernehmlassung des Bundesamtes für Migration erfolgte verspätet. D. Mit Verfügung vom 6. Dezember 2010 hat der Präsident der II. öffentlich-rechtlichen Abteilung der Beschwerde aufschiebende Wirkung zuerkannt. 