Sachverhalt: A. Der 1981 geborene kosovarische Staatsangehörige X._ ist 1998 mit einem Besuchervisum in die Schweiz eingereist und beantragte hier eine Aufenthaltsbewilligung. Nach Ablehnung seines Antrags stellte er ein Asylgesuch, welches ebenfalls rechtskräftig abgewiesen wurde. Am 4. Januar 2001 heiratete er seine 1980 geborene Landsfrau Y._, welche zu jener Zeit über eine Aufenthaltsbewilligung verfügte. Aus dieser Beziehung ging der Sohn Z._ (geb. 2001) hervor. Y._ und Z._ wurden im Jahr 2007 eingebürgert. X._ erhielt aufgrund seiner Ehe eine Aufenthaltsbewilligung, welche mehrmals verlängert wurde. X._ wurde in der Schweiz wiederholt straffällig: Am 2. Juni 2000 wurde er von der Bezirksanwaltschaft Uster wegen mehrfachen Diebstahls sowie Hausfriedensbruchs zu einer bedingt vollziehbaren Gefängnisstrafe von drei Monaten verurteilt; Das Kantonsgericht Glarus verurteilte ihn am 19. Februar 2003 zu einer bedingt vollziehbaren Gefängnisstrafe von 15 Monaten wegen gewerbs- und bandenmässigen Diebstahls; Mit Strafbefehl vom 26. Januar 2004 sprach ihn die Bezirksanwaltschaft Uster der mehrfachen Entwendung eines Motorfahrzeugs zum Gebrauch, des mehrfachen Fahrens ohne Führerausweis und der Verletzung von Verkehrsregeln schuldig und verurteilte ihn zu einer bedingt vollziehbaren Gefängnisstrafe von 10 Tagen sowie zu einer Busse von Fr. 500.--; Das Bezirksgericht Dielsdorf verurteilte ihn am 29. Januar 2007 wegen mehrfachen Diebstahls, teilweise Versuch dazu, mehrfacher Sachbeschädigung, mehrfachen Hausfriedensbruchs, mehrfacher Entwendung eines Motorfahrzeugs zum Gebrauch, mehrfachen Führens eines Motorfahrzeugs trotz Entzug des Lernfahrausweises und Vergehen gegen das Betäubungsmittelgesetz zu einer bedingt vollziehbaren Freiheitsstrafe von 15 Monaten. B. Nachdem X._ bereits am 8. August 2002 vom Migrationsamt des Kantons Zürich verwarnt worden war, lehnte dieses mit Verfügung vom 5. September 2007 die Verlängerung der Aufenthaltsbewilligung von X._ unter Hinweis auf dessen Delinquenz ab. Hiergegen rekurrierte dieser erfolglos beim Regierungsrat des Kantons Zürich. Eine beim Verwaltungsgericht des Kantons Zürich eingereichte Beschwerde wurde mit Urteil vom 3. September 2008 abgewiesen. C. Mit Eingabe vom 10. November 2008 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt im Wesentlichen die Gutheissung seines Gesuchs um Verlängerung der Aufenthaltsbewilligung und mithin die Aufhebung des vorinstanzlichen Urteils. Das Bundesamt für Migration und der Regierungsrat des Kantons Zürich schliessen auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Zürich beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Mit Verfügung vom 18. November 2008 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung zuerkannt. 