Faits: A. A.a M._, né en 1963, a travaillé en qualité de chef de rayon au service de l'entreprise X._. Dès le 5 mai 1995, il a été mis à l'arrêt de travail par son médecin traitant, le docteur C._. Le 3 novembre 1995, il a présenté une demande de prestations de l'assurance-invalidité, que l'Office de l'assurance-invalidité pour le canton de Vaud a rejetée par décision du 19 décembre 2001. Sur recours, le Tribunal des assurances du canton de Vaud, par jugement du 26 février 2003, a confirmé cette décision. Par arrêt du 30 septembre 2003, le Tribunal fédéral des assurances a rejeté le recours que l'assuré a formé contre ce jugement. A.b Le 6 avril 2004, M._ a présenté derechef une demande de prestations de l'assurance-invalidité, sur laquelle l'Office de l'assurance-invalidité pour le canton de Vaud, par décision du 3 février 2005, a refusé d'entrer en matière. Celui-ci a formé opposition contre cette décision. Le 30 janvier 2006, l'office AI, relevant qu'il était en fait entré en matière sur la nouvelle demande et qu'il convenait dès lors de se prononcer sur le droit de l'assuré à une rente d'invalidité, a annulé la décision du 3 février 2005 et rendu en lieu et place de celle-ci une décision de refus de rente. M._ a formé un recours contre cette décision, que le Tribunal des assurances du canton de Vaud a rejeté par jugement du 18 mai 2006, et un recours contre ce jugement, que le Tribunal fédéral a rejeté par arrêt du 29 août 2007. A.c Le 23 janvier 2008, M._ a présenté une nouvelle demande de prestations de l'assurance-invalidité. Le 29 janvier 2008, l'Office de l'assurance-invalidité pour le canton de Vaud lui a imparti un délai de trente jours pour produire un rapport médical, en l'invitant à établir de façon plausible que son invalidité s'était modifiée de manière à influencer ses droits. Dans un préavis du 11 mars 2008, il a informé l'assuré qu'il refusait d'entrer en matière sur la nouvelle demande, lequel, par lettre du 22 avril 2008 où il faisait part à l'office AI de ses observations, a produit un rapport du 21 avril 2008 du docteur F._, spécialiste FMH en médecine physique et réhabilitation et spécialiste de la colonne vertébrale. Le 13 mai 2008, l'office AI a avisé M._ qu'il entrait en matière sur la nouvelle demande. Dans un rapport du 21 mai 2008, le docteur C._ a fait état d'une péjoration des lombosciatalgies et de l'apparition de céphalées en casque. Le 14 octobre 2008, il a produit un rapport du 19 octobre 2007 du docteur R._, spécialiste FMH en neurologie, qui indiquait que le patient souffrait de céphalées tensionnelles et que le kyste arachnoïdien de la fosse postérieure gauche mis en évidence par une IRM cérébrale n'entraînait pas de modification de la perméabilité du système ventriculaire (examen du 6 septembre 2007) et qu'il s'agissait d'une découverte banale et fortuite ne jouant aucun rôle dans la genèse de la symptomatologie douloureuse. Dans un rapport du 10 août 2008, le docteur F._ a posé les diagnostics avec effet sur la capacité de travail de céphalées en casque [dans un contexte de kyste arachnoïdien de la fosse postérieure gauche, acouphènes et cervico-scapulalgies sur souffrances algodysfonctionnelles et tensionnelles], de lombosciatalgie bilatérale chronique, sans signe irritatif neurogène [dans un contexte de status après fracture du plateau supérieur L1-L2, séquelle de maladie de Scheuermann et spondylodiscarthroses L4-L5 et L5-S1] et de réaction anxio-dépressive réactionnelle. Relevant que le pronostic restait sombre vu l'apparition de céphalées dans un contexte d'altération structurelle neuroradiologique et qu'une réinsertion professionnelle n'entrait pas en ligne de compte, il concluait à une incapacité de travail de 100 % depuis 2000 dans l'activité exercée jusque-là, laquelle n'était plus exigible. Dans un avis du 23 octobre 2008, le docteur O._, médecin SMR, a conclu qu'il n'y avait en fait pas d'aggravation qui puisse entrer dans le cadre d'affection médicale incapacitante au sens de l'assurance-invalidité, qu'il s'agissait de douleurs (céphalées de tension, cervico-dorsalgies de tension) qui entraient dans le cadre du trouble somatoforme connu de longue date et que l'aspect dépressif réactionnel n'était également pas incapacitant car il était réactionnel, ne faisait l'objet ni d'un traitement médicamenteux spécifique ni de prise en charge spécialisée. Dans un préavis du 17 août 2009, l'office AI a informé M._ qu'une capacité de travail entière pouvait raisonnablement être exigée de lui dans n'importe quelle activité tant sur le plan somatique que psychiatrique et qu'il n'avait pas droit à des prestations de l'assurance-invalidité. Par lettre du 11 septembre 2009, l'assuré, produisant un certificat médical du docteur C._ du 4 septembre 2009 qui indiquait que l'intensité des douleurs avait plutôt tendance à augmenter et que le patient avait développé un diabète insulinodépendant, a fait part à l'office AI de ses observations. Dans un avis du 21 décembre 2009, le docteur O._ a relevé que ce document n'apportait pas d'élément médical nouveau susceptible de modifier l'exigibilité retenue en 2008. Par décision du 15 janvier 2010, l'office AI, tout en s'exprimant dans un courrier séparé daté du même jour sur les observations de M._, a rejeté la demande pour les motifs exposés dans son préavis du 17 août 2009. B. Le 10 février 2010, M._ a formé recours contre cette décision devant la Cour des assurances sociales du Tribunal cantonal du canton de Vaud, en concluant, sous suite de dépens, à ce que la décision entreprise du 15 janvier 2010 soit annulée et à ce que son droit à des prestations de l'assurance-invalidité soit reconnu, le dossier étant renvoyé à l'office AI en vue de prendre les mesures adéquates. Il sollicitait la mise en oeuvre d'une expertise médicale. Par arrêt du 24 novembre 2010, la juridiction cantonale a rejeté le recours. C. M._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de dépens, à ce que le dossier soit retourné à la juridiction cantonale pour qu'elle statue dans le sens des considérants. 