Sachverhalt: A. X._ (geb. 1986) stammt aus dem heutigen Kosovo. Im Jahre 1995 reiste er mit seiner Mutter und mehreren Geschwistern im Rahmen des Familiennachzugs in die Schweiz ein, wo sein Vater seit 1991 lebte. Am 3. Oktober 1998 wurde er in die Niederlassungsbewilligung seines Vaters einbezogen. Ein halbes Jahr vor Schulabschluss musste er die Schule wegen seines Verhaltens und Tätlichkeiten verlassen. In der Folge fand er keine Lehrstelle und war als Hilfsarbeiter auf dem Bau und als Produktionsmitarbeiter in einer Schokoladenfabrik tätig. Seit Dezember 2005 war X._ arbeitslos. B. Am 8. Juni 2005 befand das Bezirksgericht Horgen X._ des mehrfachen, teilweise bandenmässigen, teilweise versuchten Diebstahls, der mehrfachen Sachbeschädigung sowie des mehrfachen Hausfriedensbruchs für schuldig und bestrafte ihn mit zwölf Monaten Gefängnis, wobei der Vollzug unter Ansetzung einer Probezeit von vier Jahren bedingt ausgesetzt worden war. In der Folge verwarnte ihn das Migrationsamt mit Verfügung vom 31. August 2005 und drohte ihm schwerer wiegende fremdenpolizeiliche Massnahmen an für den Fall, dass er erneut zu Klagen Anlass geben sollte. Die Staatsanwaltschaft Limmattal/Albis verurteilte X._ mit Strafbefehl vom 25. November 2005 wegen Diebstahls, Hausfriedensbruchs sowie wegen des mehrfachen versuchten betrügerischen Missbrauchs einer Datenverarbeitungsanlage zu drei Monaten Gefängnis bedingt als Zusatzstrafe zum Urteil des Bezirksgerichts Horgen vom 5. Juni 2005, unter Ansetzung einer Probezeit von vier Jahren. Am 20. März 2006 wurde X._ in Haft gesetzt. Mit Urteil des Bezirksgerichts Horgen vom 24. Januar 2007 wurde er des gewerbs- und bandenmässigen Diebstahls, der mehrfachen Sachbeschädigung, des mehrfachen Hausfriedensbruchs, des Betrugs sowie des Vergehens gegen das Betäubungsmittelgesetz schuldig gesprochen. Die früher bedingt ausgefällten Gefängnisstrafen von zwölf und drei Monaten erklärte das Gericht als vollstreckbar und verurteilte X._ zu einer Gesamtstrafe von 39 Monaten Gefängnis. Die bedingte Entlassung aus dem Strafvollzug war frühestens am 2. April 2008 möglich. C. Nachdem X._ das rechtliche Gehör bezüglich einer fremdenpolizeilichen Massnahme gewährt worden war, verfügte der Regierungsrat mit Beschluss vom 7. November 2007 die Ausweisung von X._ aus der Schweiz für die Dauer von zehn Jahren. Dagegen beschwerte sich X._ erfolglos beim Verwaltungsgericht des Kantons Zürich. D. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 10. Juli 2008 beantragt X._, den Entscheid des Verwaltungsgerichts des Kantons Zürich vom 14. Mai 2008 aufzuheben und von der Ausweisung von X._ aus der Schweiz für die Dauer von 10 Jahren abzusehen, stattdessen eine Ausweisung anzudrohen, eventualiter die Dauer der Ausweisung auf zwei Jahre herabzusetzen. Das Verwaltungsgericht des Kantons Zürich beantragt, die Beschwerde abzuweisen, und verzichtet auf Vernehmlassung. Das Bundesamt für Migration schliesst ebenfalls auf Abweisung der Beschwerde. Der Regierungsrat des Kantons Zürich liess sich nicht vernehmen. 