Faits: A. C._, née en 1975, physiothérapeute, a été affiliée en qualité de personne exerçant une activité indépendante à la Caisse cantonale neuchâteloise de compensation (ci-après: la caisse de compensation). Elle a accouché d'un fils le 25 septembre 2005. Le 9 novembre 2005, elle a présenté à la caisse de compensation une demande d'allocation de maternité. Elle a indiqué avoir travaillé comme physiothérapeute indépendante jusqu'au 31 juillet 2005 et que la reprise du travail était prévue pour le 1er février 2006, à raison de 20 %. Elle a répondu par la négative à la question : «Avez-vous, au moment de l'accouchement ou dans les neuf mois qui ont précédé l'accouchement, été empêchée de travailler, totalement ou partiellement, pour cause de maladie ou d'accident?». Par décision du 10 novembre 2005, la caisse de compensation a refusé d'allouer l'allocation prétendue, au motif que la requérante n'exerçait pas une activité indépendante à la date de l'accouchement, attendu qu'elle avait travaillé comme physiothérapeute indépendante jusqu'au 31 juillet 2005 seulement. C._ a formé opposition le 5 décembre 2005. Elle a exposé qu'à partir du septième mois de sa grossesse, elle avait souffert d'importantes douleurs dans la région lombosacrée. Ces problèmes l'avaient d'abord obligée à réduire l'exercice de sa profession au cours du mois de juillet 2005 puis de la suspendre à partir du 1er août suivant. La douleur était devenue «invalidante» au point qu'elle devait utiliser une canne anglaise pour se déplacer. Son état ne lui avait pas permis de suivre un traitement médicamenteux avec des anti-inflammatoires pendant toute la période de la grossesse, en raison d'un risque de malformation cardiaque chez le foetus. Elle n'était pas en possession d'une attestation d'arrêt de travail de son médecin traitant, car elle avait estimé que les troubles de ce genre, accompagnant souvent les derniers mois de grossesse, disparaissaient la plupart du temps spontanément à l'accouchement. De plus, elle était au bénéfice d'une assurance perte de gain en cas de maladie ou d'accident avec un délai d'attente de 90 jours, raison pour laquelle elle n'avait pas demandé à son médecin d'attester une incapacité de travail à l'intention de l'assureur. Elle a produit une attestation du 30 novembre 2005 du docteur O._, spécialiste FMH en gynécologie et obstétrique, dans laquelle celui-ci signalait d'importantes lombalgies en cours de grossesse dès le mois de juillet 2005. Elle a également déposé une déclaration par laquelle un physiothérapeute certifiait l'avoir traitée pour des douleurs de la région lombosacrée durant la période du 30 juin au 21 septembre 2005. Par décision du 21 décembre 2005, la caisse de compensation a rejeté l'opposition au motif qu'à la date de l'accouchement l'intéressée n'exerçait plus une activité lucrative indépendante, qu'elle n'était ni en arrêt de maladie (les certificats déposés ne faisant pas mention d'un arrêt de travail) ni au bénéfice d'une indemnité journalière en cas de maladie. La caisse indiquait par ailleurs qu'elle avait procédé à la radiation de l'intéressée du rôle de ses affiliés indépendants. B. Statuant le 4 juillet 2006, le Tribunal administratif de la République et canton de Neuchâtel a rejeté le recours formé contre cette décision par C._. C. C._ interjette un recours de droit administratif dans lequel elle conclut à l'annulation du jugement cantonal et de la décision sur opposition, à la constatation qu'elle était toujours affiliée à la caisse de compensation en qualité d'indépendante à la date de son accouchement et à la reconnaissance de son droit à une allocation de maternité. Elle demande que le dossier soit renvoyé à la caisse de compensation pour qu'elle fixe le montant de l'allocation et procède à sa réaffiliation à partir du 1er août 2005. La caisse de compensation renonce à présenter des observations sur le recours. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé. 