Sachverhalt: A. Am 26. März 1998 schloss A._ (Beklagte) mit der X._ AG (Klägerin), einem Kreditkartenunternehmen, einen Kreditkartenvertrag. Gestützt darauf erhielt die Beklagte eine persönliche Kreditkarte, mit der sie Waren und Dienstleistungen von Dritten beziehen kann. Nach den allgemeinen Geschäftsbedingungen stellt die Klägerin der Kundin monatlich über die erfolgten Bezüge eine Rechnung zu, welche mit Erhalt fällig wird. Auf Wunsch der Beklagten wurden die Rechnungen im Lastschriftverfahren über ein Konto bei der damaligen SBG ausgeglichen. Am 25. Juli 2000 betrug die Forderung der Klägerin gegenüber der Beklagten Fr. 34'182.20. Da das Guthaben der Beklagten auf dem erwähnten Konto bei der SBG zur Deckung dieses Betrages nicht ausreichte, ersuchte die Klägerin die Beklagte schriftlich um Zahlung per Einzahlungsschein. Die Beklagte überwies der Klägerin am 18. Oktober 2000 Fr. 30'182.20 zur Begleichung des Ausstandes. Den Abzug von Fr. 4'000.-- vom Rechnungsbetrag begründete sie nicht. Am 27. Dezember 2000 bezahlte die Klägerin der Beklagten die Fr. 30'182.20 ohne Erklärung zurück. Auf telefonische Anfrage der Beklagten vom 3. Januar 2001 antwortete ihr eine Angestellte der Klägerin, zum Zeitpunkt der Einzahlung sei keine Schuld mehr offen gewesen. Noch am selben Tag bestätigte die Beklagte den Inhalt dieses Telefongesprächs gegenüber der Klägerin schriftlich. Sie hielt fest: "... que pour une raison inconnue vous avez crédité mon compte (...) vous m'avez avisé [que] je vous devais aucune somme et qu'il n'y avait aucune erreur". Am 19. Dezember 2002 teilte die Klägerin der Beklagten mit, die Rücküberweisung habe auf einem Irrtum beruht. Es seien nach wie vor Fr. 34'182.20 offen. Hierauf bezahlte die Beklagte nach einem Schriftenwechsel Fr. 4'000.--. Die Klägerin verzichtete ihrerseits auf rund Fr. 350.-- für Zinsen und Gebühren und setzte mit Zahlungsbefehl vom 17. März 2004 Fr. 29'830.15 in Betreibung. B. Mit Weisung vom 29. November 2004 machte die Klägerin am 8. März 2005 beim Bezirksgericht Zürich eine Klage hängig und beantragte, die Beklagte zu verpflichten, ihr Fr. 29'830.15 nebst Fr. 100.-- Betreibungskosten zu bezahlen, und den Rechtsvorschlag in der von der Klägerin angestrengten Betreibung aufzuheben. Die Beklagte nahm den Standpunkt ein, die Klägerin habe ihr die Schuld erlassen. Überdies beruhe eine allfällige klägerische Forderung auf ungerechtfertigter Bereicherung und sei verjährt. C. Das Bezirksgericht hiess die Klage am 27. Februar 2006 gut. Gleich entschied am 31. Oktober 2006 das von der Beklagten angerufene Obergericht des Kantons Zürich, ausser mit Bezug auf die Betreibungskosten, welche es der Klägerin nicht zusprach, da diese nicht Bestandteil der materiellen Forderung bildeten. Es kam, wie schon das Bezirksgericht, zum Ergebnis, die eingeklagte Forderung sei eine solche aus Vertrag. Das Obergericht ging in "lückenfüllender" Ergänzung des Vertrages davon aus, nach dem mutmasslichen Willen der Parteien seien irrtümliche Zahlungen zurückzuerstatten, weshalb ein entsprechender Anspruch den vertraglichen Verjährungsfristen unterstehe. Zudem erkannte das Obergericht, selbst wenn keine vertragliche Rückgabepflicht bestehe und eine ungerechtfertigte Bereicherung im Sinne von Art. 62 OR vorläge, sei der Rückforderungsanspruch der Klägerin angesichts der besonderen Nähe zum bestehenden Vertrag analog der Rückabwicklung eines Vertrags bei Vertragsrücktritt (BGE 126 III 122) der zehnjährigen Verjährungsfrist zu unterstellen. Diese sei bei Klageeinleitung keinesfalls abgelaufen gewesen. Wie das Bezirksgericht und entgegen der Auffassung der Beklagten schloss das Obergericht aus der Rückzahlung des einbezahlten Betrages an die Beklagte und der telefonischen Erklärung vom 3. Januar 2001 auch nicht auf einen Forderungsverzicht im betreffenden Umfang, weshalb es die Klage (mit Ausnahme der Betreibungskosten) guthiess. D. Die Beklagte beantragt dem Bundesgericht mit eidgenössischer Berufung, das Urteil des Obergerichts aufzuheben und die Klage abzuweisen. Eventuell sei die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Die Klägerin schliesst auf Abweisung der Berufung und Bestätigung des angefochtenen Urteils. Demzufolge sei die Beklagte zu verpflichten, ihr Fr. 29'830.15 zuzüglich Fr. 100.-- Betreibungskosten zu bezahlen und der Rechtsvorschlag der Beklagten in der dafür eingeleiteten Betreibung aufzuheben. 