Sachverhalt: A. Der aus Serbien stammende X._ (geb. 1975) reiste am 10. Februar 1998 in die Schweiz ein und ersuchte um Asyl. Am 10. Januar 2000 heiratete er die in der Schweiz niedergelassene Landsfrau A._ (geb. 1976), worauf ihm im Rahmen des Familiennachzugs die Aufenthaltsbewilligung erteilt wurde. Am 4. Juli 2000 kam der Sohn B._ und am 29. November 2003 die Tochter C._ zur Welt. Seit dem 18. April 2005 verfügt X._ über die Niederlassungsbewilligung. X._ erwirkte während seines Aufenthalts in der Schweiz die folgenden Verurteilungen: - mit Urteil des Richteramts Solothurn-Lebern vom 14. September 2004 zu einer Busse von Fr. 600.--, bedingt vollziehbar bei einer Probezeit von einem Jahr, wegen Entwendung zum Gebrauch sowie Fahrens ohne Führerausweis; - mit Urteil des Untersuchungsrichteramts I Berner Jura-Seeland vom 4. Mai 2007 zu 15 Tagessätzen Geldstrafe zu je Fr. 70.--, bedingt vollziehbar bei einer Probezeit von zwei Jahren, wegen Fahrens ohne Führerausweis, Entwendung zum Gebrauch sowie Übertretung der Nationalstrassenabgabeverordnung; - mit Urteil des Obergerichts des Kantons Zürich vom 4. November 2011 zu drei Jahren Freiheitsstrafe, davon bedingt vollziehbar 24 Monate bei einer Probezeit von drei Jahren, wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz. Gegen X._ lagen gemäss Betreibungsregisterauszug vom 18. Mai 2012 sieben offene Verlustscheine in der Höhe von Fr. 11'259.25 sowie offene Betreibungen im Betrag von rund Fr. 27'000.-- vor. B. Nach Gewährung des rechtlichen Gehörs widerrief das Departement des Innern des Kantons Solothurn, vertreten durch Migration und Schweizer Ausweise, mit Verfügung vom 20. November 2012 die Niederlassungsbewilligung von X._ und ordnete dessen Wegweisung auf den Termin seiner Haftentlassung aus der Schweiz an. Zur Begründung verwies das Departement im Wesentlichen auf die verübten Straftaten. Eine gegen diese Verfügung erhobene Beschwerde wies das Verwaltungsgericht des Kantons Solothurn mit Urteil vom 26. Februar 2013 ab; zudem wurde X._ angewiesen, die Schweiz bis zum 31. März 2013 zu verlassen. C. Mit Eingabe vom 17. April 2013 erhebt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten sowie subsidiäre Verfassungsbeschwerde an das Bundesgericht. Er beantragt, das Urteil des Verwaltungsgerichts des Kantons Solothurn vom 26. Februar 2013 sei aufzuheben, ihm sei die Niederlassungsbewilligung zu belassen und er sei nicht aus der Schweiz wegzuweisen. Eventualiter sei ihm die Aufenthaltsbewilligung zu erteilen, subeventualiter sei die Wegweisung auf maximal fünf Jahre zu beschränken. D. Das Verwaltungsgericht und das Departement des Innern des Kantons Solothurn beantragen, die Beschwerde sei abzuweisen, soweit darauf eingetreten werden könne. Das Bundesamt für Migration schliesst auf Abweisung der Beschwerde. Mit Verfügung vom 24. April 2013 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt. 