Faits: A. La commune d'Avry a déposé, le 19 mai 2009, une demande de permis de construire (implantation et agrandissement) un sentier public, avec aménagement sommaire, reliant l'impasse des Agges à l'impasse du Bois, sur les parcelles 33, 428, 510, 547, 82, 78 et 916 du registre foncier. Auparavant, en 2003 et 2009, la commune avait conclu un contrat de servitude avec chacun des propriétaires de ces bien-fonds en vue de l'aménagement d'un sentier et s'était réservé le droit de le réaménager ainsi que de l'asphalter. Les travaux envisagés consistent, après réglage de la surface du chemin existant, dans la pose d'un revêtement bitumeux de 60 mm d'épaisseur. La largeur du revêtement projeté est de 2.50 m pour la partie carrossable et de 1.50 m pour le sentier piétonnier. Aucune modification significative des niveaux du chemin ou de son implantation n'est prévue. L'objectif visé est d'offrir un sentier convenable aux piétons, en particulier aux écoliers. B. L'hoirie A._ est propriétaire des terrains 221 et 224 attenants aux parcelles 33, 428, 510, 547, 82 et 78, par lesquelles passe le chemin existant et sur lesquelles elle a un droit de passage depuis 2003 en faveur de ses fonds. Le sentier public projeté par la commune suivrait en partie ce chemin. Le 11 juin 2008, l'hoirie A._ a assisté à la présentation du projet in situ. A cette occasion, 4 points d'axe et 3 points limites ont été piquetés par un géomètre officiel. Une séance de conciliation, à laquelle des représentants de ladite hoirie ont participé, a en outre été diligentée par la commune d'Avry le 6 mai 2009. L'hoirie A._ s'est opposée à l'octroi du permis de construire le sentier public, considérant que le projet était inutile, qu'il ne garantissait pas la sécurité des piétons et qu'il était en conflit avec les droits de passage dont elle bénéficie. Dans sa prise de position, la commune a avancé que le projet ne portait pas atteinte aux droits de l'opposante, mais améliorait au contraire sa situation. Le service cantonal archéologique, le service des ponts et chaussées ainsi que le service des constructions et de l'aménagement ont rendu un préavis favorable. Le 12 mai 2010, le Préfet du district de la Sarine (ci-après: le Préfet) a reconnu que le projet litigieux était d'utilité publique, rejeté l'opposition de l'hoirie A._ et accordé l'autorisation de construire sollicitée. Par arrêt du 8 février 2012, la IIe Cour administrative du Tribunal cantonal du canton de Fribourg (ci-après: le Tribunal cantonal) a rejeté le recours interjeté par l'hoirie A._ et confirmé la décision du 12 mai 2010 de la Préfecture de la Sarine. Les juges cantonaux ont considéré pour l'essentiel qu'il s'agissait d'un projet de peu d'importance, ne requérant qu'un simple aménagement sommaire. Par ailleurs, la réalisation de l'ouvrage correspondait à un intérêt public pertinent et prépondérant et aucun obstacle ne s'opposait au permis de construire sous l'angle du droit public de la construction. C. Agissant par la voie du recours en matière de droit public, l'hoirie A._ et ses membres demandent au Tribunal fédéral d'annuler ou déclarer nul l'arrêt du Tribunal cantonal du 8 février 2012 et de retourner le dossier à "l'autorité cantonale" pour qu'elle annule le permis de construire ou suspende la procédure jusqu'à droit connu. Les recourants concluent également à ce que "l'autorité cantonale prononce une nouvelle expertise voire une nouvelle procédure de permis de construire" et "constate la non utilité publique du projet communal et la non [conformité] au droit applicable". Le Tribunal cantonal renvoie aux considérants de son arrêt et conclut au rejet du recours. Le Préfet s'en remet à dire de justice. La commune d'Avry n'a pas d'observation complémentaire ni d'élément nouveau à formuler. Le 6 juin 2012, les recourants modifient les conclusions de leur recours. Ils demandent à ce qu'il soit pris acte que leur recours du 22 mai 2012 est devenu sans objet, le permis de construire litigieux étant périmé. Le 15 juin 2012, les recourants informent le Tribunal fédéral que la commune d'Avry a mis à l'enquête publique la réactualisation du permis de construire pour le sentier et l'aménagement sommaire de l'impasse des Agges. La commune et la Préfecture se sont exprimées sur cette écriture. Les recourants ont encore déposé des observations les 13 juillet et 6 septembre 2012. 