A.- Le Juge d'instruction cantonal jurassien (ci-après, le Juge d'instruction) conduit une instruction contre les organes de gestion de fait et de droit de la Coopérative agricole "X._", pour gestion déloyale, faux dans les titres, complicité d'escroquerie fiscale et obtention frauduleuse d'une constatation fausse. Dans le cadre de cette procédure, il a inculpé R._ et O._ du chef d'obtention frauduleuse d'une constatation fausse. Il leur est reproché d'avoir, en leur qualité de président, respectivement de vice-président puis président de la Coopérative agricole "X._", induit en erreur le notaire en lui faisant constater faussement, dans un acte authentique, un prix de vente inférieur au prix réel lors de ventes immobilières conclues entre la société coopérative et des privés, entre le 21 juin 1990 et le 25 février 1993, pour R._, et le 14 mai et le 21 décembre 1997, pour O._. B.- A la demande du Service cantonal des contributions, qui s'est constitué partie plaignante le 14 octobre 1999, le Juge d'instruction a requis, le 5 novembre 1999, de divers établissements bancaires de Chevenez et de Porrentruy la production d'une attestation d'intégralité concernant O._ et R._ ainsi que des extraits détaillés complets relatifs à l'ensemble des comptes bancaires figurant sur ces attestations pour la période du 1er janvier 1989 au 31 octobre 1999. Le 15 décembre 1999, ces derniers ont demandé sans succès au Juge d'instruction de circonscrire ces réquisitions aux mouvements de fonds effectués entre eux et la Coopérative agricole "X._" durant la période concernée. Le 28 janvier 2000, ils ont saisi la Chambre d'accusation du Tribunal cantonal du canton du Jura (ci-après: la Chambre d'accusation) d'une prise à partie contre le Juge d'instruction, en concluant à l'annulation des demandes de renseignements adressées aux établissements bancaires, respectivement à ce qu'elles soient limitées à la production des mouvements de fonds intervenus avec la Coopérative agricole "X._". Statuant par arrêt du 5 avril 2000, cette autorité a très partiellement admis la prise à partie, limitant la demande de renseignements bancaires concernant R._ à la période allant du 1er janvier 1989 au 30 juin 1996. Elle a considéré en substance qu'il existait des présomptions graves et précises de culpabilité à l'encontre des prévenus en relation avec les faits qui leur étaient reprochés et qu'il se justifiait de vérifier s'ils avaient perçu des avantages illicites. Elle a également estimé la demande de renseignements conforme au principe de la proportionnalité, sous réserve de la production des extraits de comptes bancaires de R._ postérieurs au 30 juin 1996, date à laquelle il a quitté ses fonctions de président du conseil d'administration de la Coopérative agricole "X._". C.- Agissant par la voie du recours de droit public pour violation de l'art. 9 Cst. , O._ et R._ demandent au Tribunal fédéral d'annuler cet arrêt. Ils se plaignent d'une application arbitraire des art. 189 et 190 du Code de procédure pénale jurassien (CPP jur.), de l'art. 47 ch. 4 de la loi fédérale du 8 novembre 1934 sur les banques et les caisses d'épargne (LB; RS 952. 0) ainsi que des principes jurisprudentiels régissant la levée du secret bancaire. Selon eux, les préventions dont ils font l'objet ne nécessiteraient en aucune manière la levée du secret bancaire de leurs comptes privés; la demande de renseignements litigieuse revêtirait un caractère exploratoire incompatible avec le principe de la proportionnalité. Invités à répondre, le Juge d'instruction et la Chambre d'accusation concluent au rejet du recours. Le Procureur général du canton du Jura propose également de le rejeter dans la mesure où il est recevable. D.- Par ordonnance du 31 mai 2000, le Président de la Ie Cour de droit public a accordé l'effet suspensif au recours. 