Faits: A. A.a A._ a fait son école de recrue en 1990 dans l'infanterie. Le 20 août 2001, il est entré en cours de répétition. Le 30 août 2001, le docteur M._, spécialiste en psychiatrie, a constaté un trouble psychotique aigu polymorphe à prédominance paranoïaque. Sur recommandation de ce médecin, le prénommé a été licencié avec effet immédiat. Par décision du 26 juin 2002, confirmée sur recours le 2 septembre 2002, la Commission de visite sanitaire l'a déclaré inapte au service en raison de son comportement inadéquat. Du 26 novembre au 3 décembre 2001, A._ a été hospitalisé à l'Hôpital psychiatrique X._. Les médecins de la clinique ont posé le diagnostic de personnalité à traits paranoïaques et d'épisode dépressif moyen. L'assuré a été suivi pendant une année environ par le docteur U._, ancien médecin-chef de cet établissement, puis par le docteur H._. Dans un rapport du 9 décembre 2002, le docteur U._ a exposé que la responsabilité de l'assurance militaire devait faire l'objet d'une investigation approfondie, éventuellement sur la base d'une expertise psychiatrique. Par lettre du 30 mai 2003, l'Office fédéral de l'assurance militaire (OFAM) a informé A._ qu'il remplissait les conditions légales pour être mis au bénéfice des prestations de l'assurance militaire; ce droit devait cependant être réexaminé au terme d'une procédure d'enquête ou suivant l'évolution de l'affection. A.b Mandaté par l'OFAM, le docteur E._, spécialiste en psychiatrie et psychothérapie, a rendu son rapport d'expertise le 9 décembre 2004. Fondée sur les conclusions de l'expert, l'assurance militaire a mis fin à ses prestations à partir du 1er mars 2005 par décision du 29 avril 2005, confirmée sur opposition le 3 octobre 2005. Statuant par jugement du 30 avril 2007, le Tribunal des assurances du canton du Valais a rejeté le recours formé contre cette décision par l'assuré. Saisi à son tour d'un recours de A._, le Tribunal fédéral a annulé ce jugement et renvoyé la cause à la CNA division assurance militaire pour qu'elle statue à nouveau sur le droit aux prestations à partir du 1er mars 2005, ainsi que sur une éventuelle réduction, au besoin après une instruction complémentaire (arrêt 8C_283/2007 du 7 mars 2008). Le Tribunal fédéral a retenu que la conclusion du docteur E._ selon laquelle la durée de la responsabilité de l'assurance était limitée à six mois n'était pas convaincante. Il a considéré que l'intimée n'avait pas rapporté la preuve que l'aggravation n'était plus due - en partie tout au moins - à des influences militaires. Ainsi, la responsabilité de l'assurance militaire devait être reconnue au-delà du 1er mars 2005. A.c A la suite de cet arrêt, la CNA division assurance militaire a alloué à l'intéressé une rente d'invalidité de 100 %, dès le 1er mars 2005, pour une durée indéterminée. Le 14 octobre 2008, A._ a réclamé le versement d'intérêts moratoires sur les montants dus. Par décision du 3 mars 2009, confirmée sur opposition le 10 août 2010, l'assurance a rejeté cette demande. B. Saisie d'un recours contre cette décision, la Cour des assurances sociales du Tribunal cantonal valaisan l'a rejeté par jugement du 26 septembre 2011. C. A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant à ce l'assurance militaire soit tenue de verser "des intérêts moratoires calculés à 5 % l'an sur toutes les prestations arriérées versées tardivement (...) selon un calcul à effectuer dès l'arrêt du versement des prestations en mars 2005 et jusqu'à leur reprise en 2008". La CNA division assurance militaire a conclu au rejet du recours. Le 7 décembre 2011, A._ a produit une communication complémentaire à laquelle a répondu l'assurance (lettre du 14 décembre 2011). 