Faits: Faits: A. Par décision du 14 août 2002, la Caisse de compensation du canton de Fribourg a refusé d'allouer des prestations complémentaires à P._ dès le 1er janvier 2002, ses ressources étant supérieures aux dépenses admises. A. Par décision du 14 août 2002, la Caisse de compensation du canton de Fribourg a refusé d'allouer des prestations complémentaires à P._ dès le 1er janvier 2002, ses ressources étant supérieures aux dépenses admises. B. P._ a formé recours contre cette décision devant la Cour des assurances sociales du Tribunal administratif du canton de Fribourg, en concluant, sous suite de dépens, à l'annulation de celle-ci et à l'allocation de prestations complémentaires dès le 1er janvier 2002, le dossier étant retourné à la caisse pour qu'elle en détermine la quotité. Le 14 septembre 2002, P._ est décédée. Dans un préavis du 24 décembre 2002, la caisse a établi une nouvelle feuille de calcul, où le total des dépenses était de 86'047 fr. et le total des ressources de 61'863 fr., et proposé l'admission du recours en ce sens que la défunte avait droit à une prestation complémentaire de 2'016 fr. par mois, du 1er janvier au 30 septembre 2002. Par décision du 28 janvier 2003, le Président-suppléant de la Cour des assurances sociales du Tribunal administratif a classé la procédure, le recours étant devenu sans objet. Il a condamné la caisse à verser à feue P._ une indemnité de partie de 1'075 fr. (TVA y comprise). Par décision du 28 janvier 2003, le Président-suppléant de la Cour des assurances sociales du Tribunal administratif a classé la procédure, le recours étant devenu sans objet. Il a condamné la caisse à verser à feue P._ une indemnité de partie de 1'075 fr. (TVA y comprise). C. Les hoirs de la défunte interjettent recours de droit administratif contre cette décision. Ils demandent, sous suite de frais et dépens, que celle-ci soit annulée et que la cause soit renvoyée au Tribunal administratif du canton de Fribourg pour qu'il fixe derechef l'indemnité de partie de la procédure cantonale conformément aux nouveaux considérants, à titre subsidiaire qu'une indemnité de partie de 5'106 fr. 60 (TVA et débours compris) soit allouée à feue P._ et mise à la charge de la caisse. La Caisse de compensation du canton de Fribourg renonce à se déterminer sur le recours. L'Office fédéral des assurances sociales a renoncé à se déterminer. 