Faits: Faits: A. Rentier de l'assurance-invalidité dans le canton de Vaud, B._, né en 1963, s'est vu octroyer des prestations complémentaires jus-qu'au 31 mai 2002 par les autorités compétentes vaudoises. A cette date, il a transféré son domicile à A._, dans le canton de Fribourg. Le 1er mai 2002, la Caisse cantonale vaudoise de compensation AVS a communiqué le changement de domicile à la caisse cantonale de compensation du canton de Fribourg (ci-après: la Caisse). Le 13 mai 2002, la Caisse a envoyé à la commune d'A._, avec copie à B._, la formule officielle de demande de prestations en invitant la Commune à la faire remplir par l'intéressé et à la retourner attestée et accompagnée des pièces justificatives. Sans réponse de la part de la Commune et de l'intéressé, elle s'est adressée directement à ce dernier le 27 juin 2002. Elle lui a imparti un délai pour s'exécuter jusqu'au 25 juillet 2002 en l'avertissant que le dossier serait classé s'il ne donnait pas suite à cette invitation. Le 25 mai 2005, B._ a déposé une nouvelle demande de prestations complémentaires. Par décision du 23 juin 2005, la Caisse a accordé au prénommé des prestations d'un montant mensuel de 1'317 fr. avec effet au 1er mai 2005. Par acte du 28 juillet 2005, B._ a fait opposition à cette décision en revendiquant les prestations à partir du 1er juin 2002, date à laquelle il a cessé de bénéficier des prestations dans le canton de Vaud. La Caisse a confirmé sa position dans une nouvelle décision du 3 novembre 2005. Le 25 mai 2005, B._ a déposé une nouvelle demande de prestations complémentaires. Par décision du 23 juin 2005, la Caisse a accordé au prénommé des prestations d'un montant mensuel de 1'317 fr. avec effet au 1er mai 2005. Par acte du 28 juillet 2005, B._ a fait opposition à cette décision en revendiquant les prestations à partir du 1er juin 2002, date à laquelle il a cessé de bénéficier des prestations dans le canton de Vaud. La Caisse a confirmé sa position dans une nouvelle décision du 3 novembre 2005. B. Par jugement du 21 décembre 2006, le Tribunal administratif du canton de Fribourg a rejeté le recours formé par B._ contre cette décision« pour autant que recevable ». B. Par jugement du 21 décembre 2006, le Tribunal administratif du canton de Fribourg a rejeté le recours formé par B._ contre cette décision« pour autant que recevable ». C. B._ a interjeté un recours de droit administratif contre ce jugement dont il a demandé l'annulation, en concluant à l'octroi de prestations complémentaires d'un montant de 46'095 fr. (1'317 fr. x 35 mois « d'arriérés impayés »), ainsi que d'intérêts de retard et d'une indemnité de dépens pour ses frais. La caisse n'a pas répondu au recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer. 