Faits: Faits: A. X._ est enseignant au Cycle d'orientation de Z._ (ci-après: le Cycle). Père de quatre enfants d'un premier mariage, il a épousé, le 28 mars 2001, une veuve, Y._, mère de quatre enfants qui étaient donc orphelins de père. X._ a annoncé son changement d'état civil à l'administrateur du Cycle (ci-après: l'Administrateur), en précisant que sa nouvelle femme était mère de quatre enfants. Il s'est alors enquis de son droit à des allocations familiales pour ses beaux-enfants auprès de l'Administrateur qui, prétend-il, lui a répondu qu'un tel droit n'existait pas, dès lors que ses beaux-enfants touchaient des rentes d'orphelins. L'Administrateur a transmis le dossier au Service du personnel et d'organisation du canton de Fribourg (ci-après: le Service cantonal). Le 24 janvier 2005, X._ a adressé au Service cantonal une demande d'allocations pour ses beaux-enfants à compter du 1er mars 2001; il disait avoir appris fortuitement, au début de ce même mois, qu'il pouvait y prétendre. Le 18 février 2005, le Service cantonal a reconnu à l'intéressé le droit à l'allocation d'employeur pour enfants avec effet rétroactif au mois de mars 2001. Puis, il a transmis la demande de X._ à la Caisse de compensation du canton de Fribourg (ci-après: la Caisse) pour décision en matière d'allocations familiales, selon la loi fribourgeoise du 26 septembre 1990 sur les allocations familiales (ci-après: LAF). Par décisions du 6 avril 2005, confirmées sur réclamation le 15 juin 2005, la Caisse a admis de verser rétroactivement, mais à partir du 1er janvier 2003 seulement, des allocations familiales pour les beaux-enfants dont X._ assumait la charge. Par décisions du 6 avril 2005, confirmées sur réclamation le 15 juin 2005, la Caisse a admis de verser rétroactivement, mais à partir du 1er janvier 2003 seulement, des allocations familiales pour les beaux-enfants dont X._ assumait la charge. B. X._ a alors porté sa cause devant le Tribunal administratif du canton de Fribourg (ci-après: le Tribunal administratif) qui a rejeté le recours par arrêt du 18 mai 2006. Le Tribunal administratif a considéré en substance que, selon les dispositions topiques de la législation fribourgeoise, les allocations familiales arriérées ne pouvaient être réclamées que pour les vingt-quatre mois précédant le dépôt de la demande, à moins que l'ayant droit n'ait pas pu connaître les faits ouvrant droit à prestations. Or, X._ ne s'était pas trouvé dans l'ignorance d'un fait ouvrant droit aux allocations familiales, mais bien dans l'ignorance du droit à celles-ci. Par ailleurs, il ne pouvait pas se prévaloir du principe de protection de la bonne foi en invoquant avoir été induit en erreur par l'Administrateur, car ce dernier ne pouvait engager la responsabilité de la Caisse; X._ n'était pas fondé à croire que l'Administrateur pouvait lui donner une assurance valable dans un domaine relevant exclusivement de la compétence de la Caisse et il était en mesure de s'apercevoir de l'inexactitude des indications que lui avait fournies l'Administrateur, en contactant simplement la Caisse. B. X._ a alors porté sa cause devant le Tribunal administratif du canton de Fribourg (ci-après: le Tribunal administratif) qui a rejeté le recours par arrêt du 18 mai 2006. Le Tribunal administratif a considéré en substance que, selon les dispositions topiques de la législation fribourgeoise, les allocations familiales arriérées ne pouvaient être réclamées que pour les vingt-quatre mois précédant le dépôt de la demande, à moins que l'ayant droit n'ait pas pu connaître les faits ouvrant droit à prestations. Or, X._ ne s'était pas trouvé dans l'ignorance d'un fait ouvrant droit aux allocations familiales, mais bien dans l'ignorance du droit à celles-ci. Par ailleurs, il ne pouvait pas se prévaloir du principe de protection de la bonne foi en invoquant avoir été induit en erreur par l'Administrateur, car ce dernier ne pouvait engager la responsabilité de la Caisse; X._ n'était pas fondé à croire que l'Administrateur pouvait lui donner une assurance valable dans un domaine relevant exclusivement de la compétence de la Caisse et il était en mesure de s'apercevoir de l'inexactitude des indications que lui avait fournies l'Administrateur, en contactant simplement la Caisse. C. Agissant par la voie du recours de droit public, X._ demande au Tribunal fédéral, sous suite de dépens, d'annuler l'arrêt du Tribunal administratif du 18 mai 2006. Il invoque l'art. 9 Cst., se plaignant en substance d'arbitraire. Le Tribunal administratif et la Caisse ont renoncé à présenter des observations sur le recours. 