Faits: Faits: A. P._, né en 1963, est au bénéfice d'une prestation complémentaire à l'AVS/AI. Au cours d'une procédure de révision périodique mise en oeuvre au mois de juin 2005, la Caisse cantonale vaudoise de compensation (ci-après : la caisse) a constaté qu'à la suite du décès de son père survenu le 6 juin 2000, l'intéressé avait hérité d'un capital dont il n'avait pas indiqué l'existence aux organes compétents en matière de prestations complémentaires. Aussi, par décision du 15 septembre 2005, la caisse a-t-elle réduit le montant de la prestation complémentaire allouée à l'intéressé à partir du 1er octobre suivant. Le 31 octobre 2005, elle a rendu une autre décision par laquelle elle a réclamé la restitution d'un montant de 31'428 fr. représentant les prestations allouées à tort durant la période du 1er octobre 2000 au 30 septembre 2005. Par écriture du 21 novembre 2005, P._ a fait opposition à cette décision de restitution, en contestant le montant fixé par la caisse au titre de la part de fortune dont il s'était dessaisi. Cette opposition a été rejetée par décision du 21 décembre 2005. Cette opposition a été rejetée par décision du 21 décembre 2005. B. Saisi d'un recours contre cette décision, le Tribunal des assurances du canton de Vaud l'a rejeté par jugement du 3 juillet 2006. B. Saisi d'un recours contre cette décision, le Tribunal des assurances du canton de Vaud l'a rejeté par jugement du 3 juillet 2006. C. P._ interjette recours de droit administratif en concluant à l'annulation du jugement cantonal, ainsi que de la décision de la caisse intimée du 15 septembre 2005, et demande « l'application de l'art. 25 al. 1, 2ème phrase (LPGA), de l'art. 27 al. 1 (LPGA) et de l'art. 37 al. 4 de la LPGA ». La caisse intimée conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer sur celui-ci. 