A.- a) Le 30 octobre 1996, P._ - à l'époque manoeuvre au service de C._ SA - a été victime d'un accident de travail sur un chantier : alors qu'il se trouvait sur une dalle en pente, il a perdu l'équilibre et roulé quelques mètres plus bas où il a été arrêté par un amas d'échafaudages. A l'hôpital de X._, les médecins ont constaté une dermabrasion de la fesse gauche, des contusions abdominales, rachidiennes et lombaires, mais n'ont décelé aucune fracture à la colonne vertébrale (rapport médical initial LAA du docteur B._). La Caisse nationale suisse en cas d'accidents (CNA) a pris en charge le cas qui a nécessité un traitement médical et entraîné une incapacité de travail jusqu'au 17 février 1997. b) Le 8 décembre 1997, le nouvel employeur de P._ (l'entreprise Y._ SA) a annoncé une rechute de l'accident du 30 octobre 1996. Après avoir examiné l'assuré, le docteur S._, médecin d'arrondissement de la CNA, a suggéré la mise en oeuvre d'une expertise auprès du docteur F._, neurologue, pour vérifier si les douleurs dont l'assuré se plaignait procédaient d'une affection maladive ou si elles s'inscrivaient dans une relation de causalité avec l'accident en cause. Dans son rapport du 21 avril 1998, le docteur F._ a fait état d'un «syndrome lombaire avec sciatalgies bilatérales sans déficit radiculaire mais avec des signes irritatifs pouvant faire suspecter une compression radiculaire en L5»; relevant d'une part, que l'assuré n'avait jamais eu mal au dos auparavant et d'autre part, que l'état radiologique de la colonne dorso-lombaire ne présentait pas de signes dégénératifs importants, l'expert en conclut que l'incapacité de travail de P._ avait pour origine l'événement accidentel survenu en 1996. Sur la base de cette appréciation, la CNA a accepté de répondre du cas et octroyé ses prestations en conséquence. c) Un scanner pratiqué le 7 juillet 1998 a révélé l'existence d'une hernie discale L5-S1 ainsi que d'une hernie intra-spongieuse sur le plateau inférieur de L3 (rapport du docteur Z._ du 24 août 1998). Appelé à se prononcer sur ces nouveaux éléments, le docteur S._ a estimé que l'apparition des hernies ne pouvait, au degré de vraisemblance requis, être attribuée au traumatisme survenu en 1996, si bien que les prestations versées initialement à l'assuré l'avaient été à tort. Par décision du 30 octobre 1998, la CNA a alors revu sa position antérieure en ce sens qu'elle a refusé de prendre en charge les suites de la rechute; elle a toutefois renoncé à exiger le remboursement des sommes déjà allouées. A la suite à l'opposition formée par l'assuré, le cas été soumis au docteur T._, de l'équipe médicale de médecine des accidents de la CNA à Lucerne. Selon ce médecin, le déroulement de l'accident ne pouvait pas avoir provoqué une blessure aux disques vertébraux car le torse avait été touché latéralement au moment du choc et n'avait pas subi de pression dans une direction axiale; par ailleurs, l'assuré avait pu reprendre son travail pendant plus de 10 mois après l'accident, si bien que la relation causale entre ce dernier et les affections diagnostiquées était hautement invraisemblable (rapport du 20 mai 1999). Par décision sur opposition du 31 mai 1999, la CNA a dès lors confirmé son point de vue. B.- L'assuré a recouru contre cette dernière décision devant la Chambre des assurances du Tribunal cantonal jurassien, qui l'a débouté par jugement du 17 avril 2000. C.- P._ interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation. Il conclut, sous suite de frais et dépens, à la prise en charge, par la CNA, des conséquences de sa rechute. La CNA et l'Office fédéral des assurances sociales n'ont pas présenté de détermination. 