Faits: A. A._ perçoit depuis le 1er avril 1991 une rente de l'assurance-invalidité ainsi qu'une rente complémentaire pour son fils B._, né en 1986. Le 9 mai 2007, l'assuré a prévenu la Caisse de compensation du canton du Valais (ci-après: la caisse de compensation) que son fils avait débuté son école de recrues le 19 mars 2007. Par courrier du 14 mai 2007, la caisse de compensation a informé l'assuré qu'elle suspendait immédiatement le versement de la rente complémentaire pour enfant à compter du 31 mars 2007, exigé le remboursement des rentes versées pour les mois d'avril et mai 2007 et précisé que, si au terme du service militaire, B._ devait poursuivre une formation, le paiement de la rente serait repris rétroactivement. B._ a achevé ses obligations militaires initiales le 3 avril 2008, après avoir effectué d'une seule traite son école de recrues, puis l'école de sous-officiers et l'école d'officiers. Il a débuté des études de médecine durant l'automne 2008. Par décision du 11 juillet 2008, l'Office cantonal AI du Valais (ci-après: l'office AI) a repris le versement de la rente complémentaire pour enfant à compter du 1er avril 2008. Il a considéré qu'il n'était pas possible d'allouer une rente pour la période de la formation militaire (du 1er avril 2007 au 31 mars 2008), car celle-ci ne s'était pas déroulée de manière fractionnée, comme l'exigeaient les Directives concernant les rentes (DR) de l'assurance-vieillesse, survivants et invalidité fédérale. B. Par jugement du 11 mars 2010, la Cour des assurances sociales du Tribunal cantonal du canton du Valais a rejeté le recours formé par l'assuré contre cette décision. C. A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut au versement rétroactif d'une rente complémentaire pour enfant pour la période courant du 1er avril 2007 au 31 mars 2008. L'office AI conclut au rejet du recours. Après avoir renoncé dans un premier temps à prendre position, l'Office fédéral des assurances sociales (OFAS) a, sur l'interpellation du Juge instructeur, déposé des observations. 