Faits: A. B._ et A._, divorcés depuis le 17 mai 2011, ont été inscrits au rôle des contribuables à C._ pendant les années 2001 à 2003; ils ont quitté cette ville en 2003 à destination de la Grande-Bretagne. Ils se sont réinstallés en Suisse le 9 mars 2004, à D._ (VS). Par courrier du 1er mars 2005, communiqué à l'adresse de leur chalet à D._, l'Administration fiscale cantonale du canton de Genève (ci-après: l'Administration fiscale cantonale ou le fisc) a informé les intéressés de l'ouverture d'une procédure en rappel d'impôts portant sur les périodes fiscales 2001B à 2003 concernant l'impôt cantonal et communal et l'impôt fédéral direct et a sollicité de leur part la production de divers documents et renseignements. Ce courrier a fait l'objet d'un rappel recommandé du 6 avril 2005, expédié à la même adresse, avec menace de taxation d'office et d'amende à défaut de production des documents requis. Le 14 avril 2005, Me E._, avocat au sein de l'étude F._ (ci-après: l'étude F._), à C._, a indiqué à l'Administration fiscale cantonale que deux des trois pièces requises, soit l'attestation relative à la situation d'un compte ouvert auprès de "G._ Ltd" au 31 décembre 2001 et la déclaration d'impôt 2003 des époux A._ et B._ seraient transmises par Mme H._, collaboratrice auprès de la société I._ SA (ci-après: la fiduciaire I._), à C._. Celle-ci, sous la signature de H._ et de K._, a remis les documents requis le 6 mai 2005, en précisant que la déclaration d'impôt 2003 n'était pas encore signée par les contribuables. La version signée a été produite le 24 mai 2005. Le 1er juin 2005, Me E._, répondant à une demande de renseignements complémentaires de l'Administration fiscale cantonale du 23 mai 2005, a indiqué : " Nous vous remercions de bien vouloir prendre note que Mme H._ de I._ Ltd à C._ donnera suite à vos demandes de renseignements complémentaires et vous remercions en conséquence de bien vouloir adresser toute correspondance en relation avec les affaires fiscales des époux A._ et B._ concernant les années et impôts visés sous rubrique directement à Mme H._, I._ Ltd ". Du 20 mai 2005 au 24 novembre 2008, l'Administration fiscale cantonale et la fiduciaire I._ ont échangé plusieurs courriers relatifs à diverses requêtes de renseignements complémentaires formulées par le fisc. B. Le 19 juin 2009, l'Administration fiscale cantonale, par pli recommandé adressé à la fiduciaire I._, a relevé que la procédure en rappel d'impôts et la procédure pénale en soustraction d'impôts, pour les années fiscales 2001B à 2002, étaient achevées et qu'elle avait procédé à la taxation 2003. Elle a transmis différents bordereaux de rappels d'impôts (périodes fiscales 2001B et 2002), d'impôts (période fiscale 2003) et d'amendes (périodes fiscales 2001B à 2003) concernant les époux A._ et B._. Le 22 juin 2010, l'Office des poursuites du district d'Entremont (VS) a notifié aux contribuables, à la requête de l'Administration fiscale cantonale, neuf commandements de payer portant sur les créances fiscales résultat des bordereaux mentionnés ci-dessus. Le 23 juin 2010, Me L._, avocat au sein de l'étude F._, a requis de l'Office des poursuites la transmission des moyens de preuve afférents aux créances faisant l'objet des poursuites notifiées à son client, A._. L'Office les lui a faits parvenir par courrier du 1er juillet 2010, après les avoir réclamés auprès de l'Administration fiscale cantonale. En date du 2 août 2010, A._, agissant par l'intermédiaire de Mes L._ et M._, de l'étude F._, a élevé réclamation, par trois actes distincts, à l'encontre des bordereaux de rappels d'impôts, d'impôts et d'amendes pour les périodes fiscales 2001B à 2003. Il a conclu au constat de la nullité de leur notification, à la recevabilité des réclamations et à la rectification des taxations après instruction. A teneur de deux décisions du 10 septembre 2010 de même contenu, l'une relative à l'impôt cantonal et communal, l'autre à l'impôt fédéral direct, l'Administration fiscale cantonale a rejeté les réclamations, qu'elle a considérées comme tardives. C. Par deux actes séparés du 15 octobre 2010, A._ a recouru contre les décisions sur réclamation de l'Administration fiscale cantonale auprès de la Commission cantonale de recours administrative du canton de Genève, dont les compétences ont été reprises dès le 1er janvier 2011 par le Tribunal administratif de première instance du canton de Genève (ci-après: le Tribunal administratif de première instance) en concluant à l'annulation des dites décisions et au renvoi de la cause à l'Administration fiscale cantonale pour qu'elle se prononce sur le fond. Le recours a été rejeté par le Tribunal administratif de première instance le 24 septembre 2012. D. Saisie d'un recours dirigé par A._ contre le jugement précité du Tribunal administratif de première instance, la Cour de justice du canton de Genève, Chambre administrative, 2ème section (ci-après: la Cour de justice) l'a rejeté, par arrêt du 30 avril 2013. Elle a considéré, en substance, que la décision du 19 juin 2009, accompagnée des bordereaux litigieux, avait dûment été notifiée aux contribuables par l'intermédiaire de leur fiduciaire, la fiduciaire I._, que le pouvoir de représentation de celle-ci existait toujours le 19 juin 2009 et que la constitution d'un avocat ou d'un autre mandataire qualifié entraînait la création d'un domicile de notification à leur adresse, sauf indication contraire du contribuable, de l'avocat ou du mandataire. E. A l'encontre de l'arrêt de la Cour de justice du 30 avril 2013, A._ forme auprès du Tribunal fédéral deux recours en matière de droit public, l'un en matière d'impôts cantonal et communal (affaire 2C_577/2013), l'autre en matière d'impôt fédéral direct (affaire 2C_578/2013). Il conclut, avec suite de frais et dépens, à l'annulation de l'arrêt attaqué, au constat du dépôt en temps utile des réclamations du 2 août 2010 et au renvoi de la cause à l'Administration fiscale cantonale pour qu'elle se prononce sur le fond de l'affaire, ainsi qu'à l'octroi de l'effet suspensif à titre préalable. Il invoque la violation du droit d'être entendu et du principe de l'interdiction de l'arbitraire dans l'établissement des faits, l'appréciation des preuves et l'application du droit cantonal, ainsi que la violation des garanties constitutionnelles propres à la procédure pénale et des dispositions fédérales en matière de représentation et de notification des décisions fiscales. La Cour de justice s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif et de son arrêt du 30 avril 2013. L'Administration fiscale cantonale et l'Administration fédérale des contributions concluent au rejet du recours. Dans ses observations sur les déterminations des autres participants à la procédure, A._ a maintenu ses conclusions. F. Par ordonnance du 27 juin 2013, le Président de la IIe Cour de droit public du Tribunal fédéral a rejeté la requête d'effet suspensif. 