Faits: A. X._, né en 1980, ressortissant libanais, est arrivé en Suisse le 16 avril 2003. La demande d'asile qu'il a déposée le 18 avril 2003 a été définitivement rejetée par décision de l'ancienne Commission de recours en matière d'asile du 5 février 2004. Celle-ci ordonnait également le renvoi de l'intéressé. Le 31 janvier 2005, cette même autorité a en outre confirmé le refus de l'instance inférieure d'entrer en matière sur une demande de réexamen de la requête d'asile. Le 18 octobre 2005, l'intéressé s'est marié avec une ressortissante turque titulaire d'un permis d'établissement en Suisse. De ce fait, il a été mis au bénéfice d'une autorisation de séjour. B. Les époux s'étant séparés dans le courant de l'année 2008, le Service de la population de la ville de Berne a refusé, le 13 juillet 2009, de prolonger le permis de séjour de X._ et lui a imparti un délai au 30 septembre 2009 pour quitter le territoire suisse. L'intéressé a contesté cette décision auprès de la Direction de la police et des affaires militaires du canton de Berne (ci-après: la Direction), en concluant en substance à ce que cette instance procède à des mesures d'instruction, prolonge son permis de séjour jusqu'à l'issue de la procédure et suspende le renvoi jusqu'au prononcé d'une nouvelle décision. Le 13 juillet 2010, la Direction a rejeté le recours et imparti à X._ un nouveau délai au 27 août 2010 pour quitter le territoire suisse. Le 10 août 2010, X._ a recouru contre cette décision auprès du Tribunal administratif du canton de Berne, en concluant à son annulation et à la prolongation de son autorisation de séjour, subsidiairement au renvoi du dossier à la Direction pour nouvelle instruction et à la mise en oeuvre de l'art. 13 let. f de l'ordonnance fédérale du 6 octobre 1986 limitant le nombre des étrangers (OLE; RO 1986 1791 et les modifications ultérieures). Le 25 mai 2011, le Tribunal administratif a rejeté le recours. En substance, il a retenu que les conclusions nouvelles (en réforme) tendant à l'octroi d'une autorisation de séjour étaient irrecevables, car elles sortaient de l'objet du litige porté devant la Direction. Il s'est donc contenté de traiter la question de la violation du droit d'être entendu et celle de l'arbitraire dans l'établissement des faits. Il a rejeté le recours dans la mesure de sa recevabilité et fixé un nouveau délai de départ au 11 juillet 2011. C. X._ forme un recours en matière de droit public et un recours constitutionnel subsidiaire auprès du Tribunal fédéral. Il conclut en substance à l'annulation de l'arrêt du 25 mai 2011 et au renouvellement de son autorisation de séjour, sous suite de frais et dépens. Il requiert en outre que son recours soit doté de l'effet suspensif, ce qui lui a été accordé par ordonnance présidentielle du 6 juillet 2011. La requête d'assistance judiciaire formée séparément a été rejetée par ordonnance de la IIème Cour de droit public de la même date. L'Office fédéral des migrations, le Service de la population de la ville de Berne et la Direction proposent le rejet du recours, alors que l'autorité précédente renonce à se déterminer sur cette écriture en se référant à son jugement du 25 mai 2011. 