Faits: A. Né le 1er novembre 1982, ressortissant moldave, X._, alias Y._, est venu à Genève en 2006 et a été depuis lors condamné à six reprises par les autorités pénales pour dommages à la propriété, faux dans les certificats, vol, vol en bande, actes préparatoires délictueux de brigandage, recel et infractions aux législations fédérales sur les stupéfiants et sur les étrangers. Sur le plan administratif, X._ a fait l'objet en novembre 2008 d'une interdiction d'entrée en Suisse valable jusqu'au 2 septembre 2013 et de plusieurs décisions de renvoi, à savoir: le 6 novembre 2008, avec mandat d'exécution à la police; le 3 mars 2009, renvoi exécuté vers la France; le 4 mars 2010, renvoi exécuté vers la Moldavie; la dernière décision rendue par l'Office cantonale genevois de la population date du 4 août 2010, la police ayant été chargée de l'exécuter dès la remise en liberté de l'intéressé alors détenu pénalement. B. Libéré le 27 juin 2011, X._ a refusé de monter dans l'avion à destination de Chisinau le 28 juin 2011. L'Officier de police a ordonné le jour-même sa mise en détention administrative pour une durée de 3 mois, soit jusqu'au 27 septembre 2011. Cette décision a été confirmée le 30 juin 2011 par le Tribunal administratif de première instance du canton de Genève. Le recours interjeté par X._ contre ce jugement a été rejeté, le 20 juillet 2011, par la Chambre administrative de la Cour de justice du canton de Genève. C. A l'encontre de l'arrêt du 20 juillet 2011, X._ forme un recours en matière de droit public au Tribunal fédéral, dans lequel il conclut principalement à l'annulation de la décision entreprise et à ce que sa libération immédiate soit ordonnée, subsidiairement à ce que la cause soit renvoyée à la Cour de justice au sens des considérants. Il demande par ailleurs le bénéfice de l'assistance judiciaire. La requête de mesures provisionnelles tendant à bloquer l'exécution du renvoi formée par X._ a été rejetée par ordonnance du Tribunal fédéral du 22 août 2011. L'Office cantonal genevois de la population n'a pas présenté d'observations, à l'instar de la Cour de justice. L'Officier de police propose de confirmer l'arrêt attaqué. L'Office fédéral des migrations n'a pas répondu dans le délai imparti à cet effet. Au terme de sa prise de position finale, X._ déclare persister dans les conclusions et la motivation de son recours. 