A.- M._, dessinateur-architecte de formation, a travaillé au service du bureau d'architecture X._ SA, société dont il fut l'administrateur, de 1978 à 1983. Le 2 septembre 1978, il a été victime d'un accident de la circulation, qui a provoqué des dorsalgies. A partir du 15 novembre 1984, au terme de mesures de réadaptation d'ordre professionnel mises en oeuvre par l'assurance-invalidité, il a été engagé par l'entreprise Y._, en qualité de technicien et selon un horaire de travail de 50 pour cent. Il a été licencié pour le 31 décembre 1993. Il s'est ensuite annoncé à l'assurance-chômage et a bénéficié de prestations de cette assurance. La Caisse nationale suisse d'assurance en cas d'accidents a alloué à M._, pour l'indemnisation des suites de l'accident du 2 septembre 1978, une rente d'invalidité fondée sur un degré d'incapacité de gain de 40 pour cent. De son côté, l'assurance-invalidité lui a tout d'abord alloué une demi-rente dès le 1er septembre 1983, puis un quart de rente dès le 1er novembre 1991. Par la suite, elle lui a de nouveau accordé une demi-rente, avec effet au 1er octobre 1994, avant de lui reconnaître, dès le 1er octobre 1995, le droit à une rente entière. B.- Le 21 janvier 1980, X._ SA avait conclu avec la Société suisse Grutli un contrat collectif (n° 2632) pour le personnel de l'entreprise et les membres de la famille de celui-ci. En vertu de ce contrat, M._ était notamment assuré pour une indemnité journalière de 140 fr. dès le 721ème jour d'incapacité de travail. Le 31 janvier 1984, M._ a rempli à l'intention de la Société suisse Grutli une "proposition d'assurance" tendant à ce que l'indemnité journalière assurée de 140 fr. fût désormais versée dès le 31ème jour d'incapacité de travail. Il a indiqué à cette occasion qu'il se trouvait au chômage. La modification demandée a pris effet le 1er février 1984. En vertu de ce contrat, M._ a bénéficié des indemnités journalières assurées à partir de 1982, en fonction d'une incapacité de travail de 50 pour cent, puis de 75 pour cent et, enfin, dès le mois de janvier 1997, de 100 pour cent. Les indemnités furent toutefois réduites pour cause de surindemnisation. C.- Visana a repris l'ensemble des droits et obligations de la Société suisse Grutli à partir du 1er janvier 1996. Le 9 avril 1997, à la suite de divers échanges de correspondance entre les parties, elle a notifié à M._ une décision par laquelle elle reconnaissait lui devoir encore le montant de 14 414 fr. 60 pour les mois de février 1994 à décembre 1996. L'assuré a formé opposition. Par une nouvelle décision, du 15 septembre 1997, Visana admit partiellement l'opposition en reconnaissant devoir à l'assuré un montant supplémentaire de 956 fr. 50, en plus du montant précité de 14 414 fr. 60. D.- M._ a recouru devant le Tribunal des assurances du canton de Vaud. Entre-temps, la caisse a continué de verser à l'assuré des indemnités journalières, jusqu'au 3 novembre 1997. Selon un décompte de la caisse, celui-ci a reçu à cette date un montant total de 100 800 fr. représentant l'équivalent de 720 indemnités pleines de 140 fr. Aussi bien la caisse a-t-elle fait valoir que le droit aux indemnités journalières de l'assuré était épuisé. A la suite d'une audience d'instruction, qui s'est tenue le 12 octobre 1998, les partiesontpasséuneconventiondeprocédure, datéedes7et9décembre1998, dontlateneuressentielleestlasuivante : "Lors de l'audience d'instruction du 12 octobre 1998, les parties ont convenu que leur litige portait sur le problème de l'épuisement du droit aux indemnités journalières à partir du 4 novembre 1997. Plus précisément, il s'agit de savoir si Visana doit encore à M._ un montant de 32 044 fr. correspondant à 228, 8 indemnités journalière à 140 fr. par jour à partir du 4 novembre 1997. Visana le conteste en faisant valoir qu'elle a versé un montant équivalent pour la période se terminant le 31 janvier 1994. Pour sa part, M._ fait valoir que, à partir du 1er février 1994, un nouveau contrat a été conclu et que la Grutli, respectivement Visana, ne sont pas en droit d'imputer leurs prestations antérieures au 31 janvier 1994 sur les indemnités journalières dues à partir du 1er février 1994. Celaétant, lespartiesconviennentdecequisuit : 1. M._ renonce à réclamer à Visana le paiement d'autres prestations jusqu'au 3 novembre 1997 compris. 2. Les parties conviennent d'étendre l'objet de la présente procédure aux indemnités dues éventuellement après le 4 novembre 1997 par Visana à M._. 3. La présente convention de procédure est soumise au tribunal cantonal des assurances pour ratification". Statuant le 3 mai 1999, le tribunal des assurances, après avoir ratifié cette convention, a rejeté le recours, considérant que le droit aux indemnités journalières de l'assuré était épuisé le 3 novembre 1997. E.- M._ interjette un recours de droit administratif en concluant, sous suite de frais et dépens, à la réforme du jugement attaqué en ce sens que Visana lui doit encore un montant de 32 044 fr. plus intérêts à 5 pour cent l'an dès le 1er avril 1998. Subsidiairement, il conclut au renvoi de la cause au tribunal des assurances pour nouveau jugement au sens des motifs. Visana conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé à son sujet. 