A.- C._ a travaillé en qualité d'employée d'administration auprès de l'Office des oeuvres sociales de X._. Souffrant de douleurs dorsales et de troubles dépressifs, elle a requis l'octroi d'une rente d'invalidité au mois de juillet 1994. Après avoir recueilli divers renseignements médicaux, l'Office AI du canton de Berne a accordé à l'assurée, à partir du 1er septembre 1994, une demi-rente d'invalidité fondée sur un degré d'incapacité de gain de 55 % (décision du 5 septembre 1995). Dans le cadre d'une procédure de révision de cette prestation, l'administration a recueilli de nouveaux renseignements médicaux, en particulier des rapports des docteurs P._, médecin traitant et spécialiste en médecine interne (du 10 septembre 1996), K._, spécialiste en médecine interne et médecin-conseil de la Caisse d'assurance du personnel de X._ (du 25 avril 1996) et H._, spécialiste en psychiatrie et psychothérapie (du 9 janvier 1997). Par décision du 11 juin 1997, l'office AI a maintenu le droit de l'assurée à une demi-rente d'invalidité, motif pris que l'invalidité ne s'était pas modifiée au point d'influencer le droit à la rente. B.- C._ a recouru contre cette décision devant le Tribunal administratif du canton de Berne. En cours d'instance, elle a produit un nouveau rapport du docteur P._, du 12 août 1997. Dans son mémoire de réponse au recours, l'office AI a indiqué avoir annulé la décision entreprise et confié une expertise aux médecins de la Clinique et Policlinique de rhumatologie de l'Hôpital Z._. La juridiction cantonale a pris acte de l'annulation de la décision litigieuse et a radié l'affaire du rôle. Les experts ont déposé leur rapport le 22 décembre 1997. Par une nouvelle décision, du 10 septembre 1998, l'office AI a derechef maintenu le droit de l'assurée à une demi-rente d'invalidité. Saisi d'un recours contre cette décision, le tribunal administratif l'a rejeté par jugement du 4 mai 1999. C.- C._ interjette recours de droit administratif contre ce jugement, dont elle requiert l'annulation, en concluant, sous suite de dépens, à l'octroi d'une rente entière d'invalidité dès le 8 février 1996. A l'appui de ses conclusions, elle produit un rapport du docteur W._, spécialiste en médecine interne, du 9 juin 1999. L'office intimé conclut au rejet du recours. De son côté, l'Office fédéral des assurances sociales n'a pas présenté de détermination. 