Faits: A. Y._ s'est annoncé à l'assurance-invalidité le 3 juin 2008 en invoquant une dépression nerveuse chronique et de la fibromyalgie. L'Office de l'assurance-invalidité pour le canton de Vaud (l'office AI) a recueilli un rapport médical bidisciplinaire (rhumatologique et psychiatrique) du SMR établi par les docteurs R._ et V._ (du 1er septembre 2008), dont il ressortait en bref que l'assuré conservait une capacité de travail entière dans son activité habituelle (technicien supérieur ou laborant en biologie). De son côté, le docteur M._, spécialiste en psychiatrie et psychothérapie, médecin traitant, a attesté que son patient n'était pas en mesure d'assumer et de supporter psychiquement une activité professionnelle, en raison d'un trouble dépressif récurrent, d'une personnalité à traits paranoïaques et de troubles somatoformes douloureux (rapport du 3 mars 2009). Le docteur C._, du SMR, a estimé que ces diagnostics ne justifiaient pas une incapacité de travail de longue durée au sens de l'AI (avis du 9 avril 2009). Par décision du 20 octobre 2009, faisant suite à un projet de décision du 20 janvier 2009, l'office AI a rejeté la demande. B. Y._ a déféré cette décision à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud, en concluant au préalable à la mise en oeuvre d'une expertise psychiatrique, sur le fond au versement d'une rente entière d'invalidité dès le 1er septembre 2008. L'office AI a conclu au rejet du recours. L'assuré a répliqué. Par jugement du 3 juin 2010, la juridiction cantonale a rejeté le recours. C. Y._ interjette un recours en matière de droit public contre ce jugement dont il demande principalement l'annulation, avec suite de frais et dépens, en concluant au renvoi de la cause au tribunal cantonal ou à l'office intimé pour nouvelle expertise, subsidiairement au renvoi de la cause aux premiers juges afin qu'il rendent un jugement motivé après la mise en oeuvre d'un second échange d'écritures. L'office intimé conclut implicitement au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer. 