Faits : A. Par décision du 16 juillet 2010, la Caisse nationale suisse d'assurance en cas d'accidents (CNA) a supprimé avec effet au 17 mai 2010 les prestations (indemnité journalière et frais de traitement) qu'elle versait à A._ pour les suites d'un accident survenu le 26 février 2009. A._ a formé opposition contre cette décision le 13 septembre 2010, complétée les 15 novembre 2010, 3 décembre 2010 et 9 février 2011. A l'appui de ses écritures, il a versé plusieurs rapports médicaux établis entre septembre 2010 et février 2011. Par lettre du 29 mars 2011, la CNA l'a informé qu'après examen approfondi du dossier et des documents médicaux complémentaires fournis, un nouvel avis médical était nécessaire en l'état. Elle a mandaté le docteur B._ (spécialiste FMH en chirurgie) de sa division Médecine des assurances en lui demandant de répondre à un certain nombre de questions. Par lettre du 13 mai 2011, la CNA a fait parvenir à l'assuré une copie du rapport établi par le docteur B._ le 28 avril 2011, lequel était rédigé en allemand. Elle a par ailleurs informé l'assuré qu'elle renonçait à mettre en oeuvre une expertise. Par requête du 19 mai 2011, renouvelée le 28 juin 2011, l'assuré a requis de la CNA une traduction en français dudit rapport, ce qui lui a été refusé. Par une nouvelle décision du 15 septembre 2011, la CNA a rejeté l'opposition formée par l'assuré. B. Se plaignant notamment d'une violation de son droit à obtenir la traduction d'une pièce essentielle du dossier, A._ a formé recours contre la décision sur opposition du 15 septembre 2011 devant la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg. Statuant le 11 décembre 2013, la juridiction cantonale a rejeté le recours. Elle a notamment considéré que l'avis du docteur B._ n'était pas à lui seul déterminant pour fonder ou non le droit à prestations. Par ailleurs, les conclusions de cette expertise étaient libellées en termes clairs et facilement compréhensibles au recourant représenté par un avocat sans qu'il soit nécessaire de les faire traduire. C. A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant au renvoi de la cause à la juridiction cantonale afin qu'elle mette en oeuvre une expertise pluridisciplinaire. A titre subsidiaire, il demande que la CNA lui verse des indemnités journalières et rembourse ses frais de traitement postérieurement au 17 mai 2010, le tout sous suite de frais et dépens. La CNA conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer. 