Sachverhalt: A. Med. pract. A._ verfügte seit dem 11. Mai 2006 über eine Bewilligung zur selbstständigen ärztlichen Tätigkeit des Kantons Aargau. Am 11. April 2009 beantragte er beim Kantonsärztlichen Dienst des Kantons Zürich (nachfolgend: KAD) die Erteilung einer Bewilligung zur selbstständigen ärztlichen Tätigkeit. Aufgrund eines im Kanton Aargau hängigen Disziplinarverfahrens erteilte der KAD die Bewilligung am 18. Januar 2010 und am 6. Januar 2011 jeweils befristet bis zum rechtskräftigen Entscheid des Kantons Aargau, längstens jedoch für 12 Monate. Am 27. Juli 2011 informierte A._ den KAD schriftlich über den Ausgang des Disziplinarverfahrens im Kanton Aargau und beantragte die Erteilung einer unbefristeten Bewilligung zur selbstständigen ärztlichen Tätigkeit. Gemäss dem Beschwerdeentscheid des Regierungsrates des Kantons Aargau vom 19. Januar 2011 waren gegen A._ ein Verweis und eine Busse von Fr. 2'500.-- wegen Verletzung von Berufspflichten ausgesprochen worden. Mit Verfügung vom 3. August 2011 erteilte der KAD A._ die Bewilligung zur selbstständigen ärztlichen Tätigkeit befristet auf zehn Jahre. Das Departement Gesundheit und Soziales des Kantons Aargau (nachfolgend: DGS/AG) teilte dem KAD am 21. November 2011 mit, es habe am 8. November 2011 ein neues Disziplinarverfahren gegen A._ eröffnet. Dieses sollte am 4. Mai 2012 mit dem Entzug der Bewilligung zur selbstständigen ärztlichen Tätigkeit im Kanton Aargau und der Auferlegung einer Busse von Fr. 5'000.-- wegen Verletzung von Berufspflichten enden. Die Anordnungen sind nicht rechtskräftig; eine entsprechende Beschwerde ist beim Bundesgericht unter der Verfahrensnummer 2C_879/2013 hängig. B. Am 9. März 2012 teilte der KAD A._ mit, er beabsichtige, ihm die Bewilligung zur selbstständigen ärztlichen Tätigkeit im Kanton Zürich zu entziehen, weil die Bewilligungsvoraussetzung der Vertrauenswürdigkeit nicht mehr gegeben sei. A._ nahm am 3. Mai 2012 schriftlich zum vorgesehenen Bewilligungsentzug Stellung. Am 8. Mai 2012 ordnete der KAD den Entzug der Bewilligung zur selbstständigen ärztlichen Tätigkeit im Kanton Zürich an und entzog einem allfälligen Rekurs die aufschiebende Wirkung. Nach Abweisung des Gesuchs um Wiederherstellung der aufschiebenden Wirkung wies die Gesundheitsdirektion des Kantons Zürich (nachfolgend: Gesundheitsdirektion) den Rekurs in der Sache am 23. April 2013 ab und entzog einer allfälligen Beschwerde die aufschiebende Wirkung. Das Verwaltungsgericht des Kantons Zürich (nachfolgend: Verwaltungsgericht) bestätigte den Entscheid in der Sache mit Urteil vom 10. Juli 2013. C. A._ erhebt am 16. September 2013 Beschwerde beim Bundesgericht mit den Anträgen, das angefochtene Urteil aufzuheben; eventualiter sei das Verfahren zur Durchführung einer mündlichen Anhörung an das Verwaltungsgericht zurückzuweisen. In verfahrensrechtlicher Hinsicht beantragt A._, es sei eine mündliche Parteiverhandlung anzuordnen. Das Verwaltungsgericht schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Gesundheitsdirektion beantragt die Abweisung der Beschwerde. 