Faits: A. A.a. X._ est domicilié à A._, en France. Il exerce la profession de médecin dans son cabinet sis à B._ (Suisse). Il n'est pas inscrit au Registre du commerce. A.b. En juillet 2012, un acte de défaut de biens portant sur la somme de 623'306 fr. 40 a été délivré en Suisse à l'encontre de X._. B. B.a. Par requête du 20 mars 2013, X._, agissant par l'intermédiaire de son avocat, a requis sa mise en faillite personnelle, en indiquant qu'il avait un établissement stable à B._, à la Rue C._. Dans la déclaration d'insolvabilité préimprimée, du 18 avril 2013, qui a fait suite à cette requête, il a indiqué, à titre d'adresse privée, son domicile en France, et, à titre d'adresse professionnelle, son cabinet à B._. Se fondant sur la requête et les pièces précitées, le Tribunal de première instance de Genève a, par jugement du 23 mai 2013, déclaré X._ " domicilié Rue C._ à B._ " en état de faillite le même jour à 14 heures 15. B.b. Par courrier du 4 juin 2013, l'Office des faillites de Genève a informé X._ qu'il refusait d'exécuter le jugement de faillite du 23 mai 2013 qu'il considérait comme nul au motif que le débiteur n'était pas domicilié en Suisse mais en France et qu'une faillite ne pouvait être prononcée que contre un débiteur domicilié en Suisse. B.c. Par acte expédié le 13 juin 2013, X._ a formé une plainte contre cette décision, concluant à ce que l'office soit enjoint d'exécuter sans délai le jugement de faillite. Par décision du 22 août 2013, la Cour de justice du canton de Genève, Chambre de surveillance, a rejeté la plainte et constaté la nullité du jugement prononçant la faillite personnelle de X._ à B._. C. Par acte posté le 9 septembre 2013, X._ exerce un recours en matière civile et un recours constitutionnel subsidiaire auprès du Tribunal fédéral contre cette décision. Il conclut à son annulation et à ce que l'office soit enjoint de procéder immédiatement à la liquidation de sa faillite. Il invoque la violation des art. 50 al. 1 LP, 5 al. 3, 9 et 29 al. 1 et 2 Cst. Par écritures du 17 septembre 2013, le recourant a requis d'être mis au bénéfice de l'assistance judiciaire. Invités à répondre, l'office a conclu au rejet du recours en matière civile et à l'irrecevabilité du recours constitutionnel subsidiaire, l'autorité de surveillance s'est référée à son arrêt, et le juge de la faillite a indiqué qu'il n'avait pas d'observations à formuler. 