Faits: A. J._, né en 1946, a fondé, en 1994, la société X._ SA. Le 30 novembre 2001, la société a été dissoute par suite de faillite. J._ a fondé ensuite la société Y._ Sàrl, qui a été inscrite au registre du commerce en décembre 2001. Il en était associé-gérant, avec signature individuelle, et il disposait d'une part sociale de 19'000 fr. Au début de l'année 2007, la société a été restructurée et les personnes suivantes ont été inscrites au registre du commerce: P._, pour une part de 2'000 fr. en qualité d'associé-gérant avec droit de signature individuelle, O._ avec une part de 12'000 fr. en qualité d'associée sans droit de signature, M._ pour une part de 4'000 fr. en qualité d'associé sans droit de signature et J._ pour une part de 2'000 fr. en qualité d'associé sans droit de signature. En 2007, J._ a perçu un salaire mensuel brut de 3'000 fr. (soit 2'556 fr. 90 net). Durant la période du mois de février 2008 au mois de mai 2009, ce revenu est passé à 1'500 fr. brut par mois (soit 1'278 fr. 45 net). Par lettre du 18 mai 2009, P._ a demandé à J._ de bien vouloir revenir travailler en tant que directeur de la société, afin que lui-même puisse se consacrer à la représentation. Il a précisé que la situation financière de l'entreprise était difficile et lui a proposé de verser son salaire sur un compte "prêt entreprise" qui serait remboursé selon les possibilités de la société. Par contrat de travail du 29 mai 2009, Y._ Sàrl a engagé J._ dès le 1er juin 2009 et pour une durée indéterminée, en qualité de sous-directeur à raison d'un horaire de travail de 70 % pour un salaire mensuel brut de 5'950 fr. (soit 5'071 fr. 18 net). Selon un certificat de salaire pour l'année 2009, J._ a perçu un montant brut de 49'150 fr., à savoir cinq mois à 1'500 fr. et sept mois à 5'950 fr. Par lettre recommandée du 25 mars 2010, Y._ Sàrl a résilié le contrat de travail de J._ avec effet au 31 mai suivant et l'intéressé a requis l'octroi d'une indemnité de chômage à partir du 1er juin 2010 en indiquant rechercher une activité à plein temps. Par décision du 22 octobre 2010, confirmée sur opposition le 7 janvier 2011, la Caisse cantonale de chômage du canton du Valais a nié le droit de l'assuré à l'indemnité de chômage, motif pris que l'intéressé avait conservé le pouvoir d'influencer considérablement les décisions de l'employeur. B. Saisie d'un recours contre la décision sur opposition, la Cour des assurances sociales du Tribunal cantonal du canton du Valais l'a rejeté par jugement du 19 septembre 2011. C. J._ forme un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant, sous suite de frais et dépens, à l'octroi d'une indemnité de chômage pour la période du 1er juin 2010 au 30 septembre 2011, date de sa mise à la retraite. L'intimée et la juridiction cantonale ont renoncé à se déterminer sur le recours. Par écriture du 9 janvier 2012, le recourant a présenté une détermination sur le jugement attaqué. 