Faits: A. O._ travaille au service de X._ en qualité de directeur de l'établissement de Y._. A ce titre, il est assuré obligatoirement contre le risque d'accident auprès de la Caisse Vaudoise (ci-après: la caisse). Le 13 octobre 2008, il est tombé en transportant de lourdes pierres dans son jardin et il a ressenti une vive douleur sur le côté droit au niveau de la hanche. Du 10 novembre au 8 décembre 2008, il a suivi cinq séances de physiothérapie et d'ostéopathie en raison de troubles fonctionnels du rachis. Le 13 décembre suivant, il a consulté le docteur R._, spécialiste en médecine générale, en raison d'un blocage lombaire. Le 23 décembre 2008, l'employeur a annoncé le cas à la caisse au moyen d'une déclaration d'accident-bagatelle. Dans un rapport du 9 janvier 2009, le docteur R._ a fait état de lombo-sciatalgies de topographie L5 sur hernie discale et il a prescrit du repos, un traitement d'ostéothérapie générale et d'antalgie, ainsi qu'une infiltration par un radiologue. Il n'a pas attesté d'incapacité de travail. Après avoir effectué une IRM lombaire, le docteur S._, spécialiste en radiologie et neuroradiologie, a posé le diagnostic de hernie discale L4-L5 paramédiane et latérale droite avec fragment luxé le long du récessus latéral jusqu'à la mi-hauteur de L5, créant un conflit radiculaire L5. Ce médecin a pratiqué en outre une infiltration foraminale L4-L5 et L5-S1 droites. La caisse a soumis le cas à son médecin-conseil, le docteur A._, spécialiste en chirurgie orthopédique. Se fondant sur l'avis de ce médecin, elle a rendu une décision le 20 mars 2009, confirmée sur opposition le 7 août suivant, par laquelle elle a supprimé le droit à la prise en charge des frais de traitement à partir du 19 décembre 2008, date à laquelle elle a considéré le statu quo sine comme atteint. B. Saisie d'un recours contre la décision sur opposition, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud l'a rejeté par jugement du 23 mars 2010. C. O._ interjette un recours contre ce jugement dont il demande l'annulation, en concluant, sous suite de frais et dépens, à la prise en charge des suites de l'événement du 13 octobre 2008. La caisse intimée conclut au rejet du recours dans la mesure où il est recevable. La juridiction cantonale et l'Office fédéral de la santé publique ont renoncé à présenter des déterminations. 