Sachverhalt: A. A.a X._ (geb. 1936) und Y._ (geb. 1942) heirateten am 10. Oktober 1987. Die Ehe blieb kinderlos. Mit Verfügung vom 19. November 2003 bewilligte der Einzelrichter des Bezirkes Schwyz die Aufhebung des gemeinsamen Haushaltes und genehmigte einen gleichentags geschlossenen Vergleich. Danach verpflichtete sich X._ zu einem monatlichen, bis 30. Mai 2004 befristeten Unterhaltsbeitrag an Y._ von Fr. 1'000.--. Zudem erklärten sich die Parteien mit der Bezahlung von Fr. 10'000.-- des Ehemannes an die Ehefrau per 30. November 2003 als güterrechtlich per Saldo aller Ansprüche auseinandergesetzt. A.b Am 8. Juni 2006 reichte X._ beim Einzelrichter des Bezirkes Schwyz die Scheidungsklage ein. Soweit für das vorliegende Verfahren relevant, beantragte er die Feststellung, dass er ab Rechtshängigkeit der Scheidungsklage keinen nachehelichen Unterhalt mehr schulde. In ihrer Klageantwort beantragte Y._ u.a., X._ sei zu verpflichten, ihr eine unterhaltsrechtliche Abfindung von Fr. 233'000.-- zu bezahlen. An der Hauptverhandlung vom 4. Oktober 2007 hielt X._ prinzipaliter daran fest, Y._ keinen nachehelichen Unterhalt zu schulden, eventualiter sei er rückwirkend auf den Zeitpunkt der Rechtshängigkeit der Scheidungsklage zu monatlichen, auf fünf Jahre befristeten Unterhaltsbeiträgen von maximal Fr. 319.-- zu verpflichten. A.c Anlässlich einer Gerichtsverhandlung vom 23. Juni 2006 über den Erlass von vorsorglichen Massnahmen schlossen die Parteien einen weiteren Vergleich. Danach verpflichtete sich X._, Y._ rückwirkend ab 1. Dezember 2005 bis zur Rechtskraft des Ehescheidungsurteils monatlich Fr. 800.-- zu bezahlen. A.d Mit Urteil vom 15. Juli 2008 schied der Einzelrichter des Bezirkes Schwyz die Ehe der Parteien und verurteilte X._, Y._ eine monatlich vorauszahlbare Unterhaltsrente von Fr. 715.-- sowie eine einmalige Kapitalabfindung von Fr. 91'540.-- zu bezahlen. B. B.a Gegen dieses Urteil erklärte X._ am 4. August 2008 beim Kantonsgericht Schwyz Berufung und beantragte, es sei Y._ ein reduzierter, unkapitalisierter nachehelicher Unterhalt zuzusprechen. Innert der noch laufenden Rechtsmittelfrist präzisierte X._ sein Begehren dahingehend, dass der Unterhaltsbeitrag auf Fr. 319.-- zu reduzieren und auf fünf Jahre zu befristen sei. In der Berufungsbegründung erachtete er alsdann einen Unterhaltsbeitrag von Fr. 458.-- als richtig. B.b Y._ ergriff ihrerseits am 4. September 2008 das Rechtsmittel der Berufung. Sie hielt an dem im erstinstanzlichen Verfahren gestellten Begehren fest. In seiner Berufungsantwort vom 2. März 2009 bestätigte X._ die in seiner Berufung gestellten Begehren. B.c In teilweiser Gutheissung beider Berufungen verpflichtete das Kantonsgericht Schwyz X._, Y._ rückwirkend ab 1. Juli 2006, monatlich vorauszahlbar eine Unterhaltsrente von Fr. 1'400.-- und eine einmalige Kapitalabfindung von Fr. 51'211.-- zu bezahlen; soweit weitergehend, wies es die Berufungen ab bzw. bestätigte es das erstinstanzliche Urteil im angefochtenen Umfang (Urteil vom 30. Juni 2009). C. Mit Beschwerde in Zivilsachen vom 8. September 2009 gelangt X._ (nachfolgend Beschwerdeführer) an das Bundesgericht und beantragt, es sei festzustellen, dass er Y._ (nachfolgend Beschwerdegegnerin) keinen nachehelichen Unterhalt schulde; eventuell sei der Beschwerdegegnerin ein monatlicher und im Voraus zahlbarer, unkapitalisierter nachehelicher Unterhalt von höchstens Fr. 601.-- befristet auf fünf Jahre ab Rechtskraft des Scheidungsurteils zuzusprechen, alles unter Aufhebung der vorinstanzlichen Kostenregelungen sowie unter Kosten- und Entschädigungsfolgen zulasten der Beschwerdegegnerin. Beschwerdegegnerin und Vorinstanz beantragen Abweisung der Beschwerde, soweit darauf eingetreten werden kann. 