Sachverhalt: A. Die X._ AG (Vermittlerin, Klägerin, Beschwerdegegnerin) wurde durch die Y._ AG beauftragt, die im Eigentum der Z._ AG (Verkäuferin) stehende Liegenschaft Q._ in R._ zu verkaufen. Bezüglich der Vermittlungsprovision wurde vereinbart, dass diese käuferseitig zu generieren sei und maximal 3 % des Kaufpreises betragen dürfe. Mit Kaufvertrag vom 17. Juni 2009 wurde die Liegenschaft zu einem Preis von Fr. 5'300'000.-- an A._ (Käufer, Beklagter, Beschwerdeführer), dessen Ehefrau sowie deren Kinder verkauft. In Ziffer 6 des Kaufvertrages wurde festgehalten, dass die Vermittlungsprovision in der Höhe von 3 % des vereinbarten Kaufpreises vom Käufer, aufgrund separater Vereinbarung vom 4. Mai 2009 mit der X._ AG, direkt an die Vermittlerin zu bezahlen ist. In der Folge stellte die Vermittlerin dem Käufer für die vereinbarte Vermittlungsprovision Rechnung; dieser verweigerte die Zahlung wegen angeblicher Wasser- und Feuchtigkeitsprobleme an der Liegenschaft. B. B.a Mit Klage vom 28. September 2010 beantragte die Vermittlerin dem Bezirksgericht Höfe, der Käufer sei zu verurteilen, ihr Fr. 159'000.-- zuzüglich Zins zu 5 % seit dem 7. August 2009 zu bezahlen und es sei der Rechtsvorschlag in der Betreibung Nr. sss._ des Betreibungsamtes Höfe zu beseitigen. Am 20. Januar 2011 reichte der Käufer dem Bezirksgericht Höfe seine Klageantwort ein, woraufhin er mit Verfügung des Vizegerichtspräsidenten vom 16. Februar 2011 aufgefordert wurde, seine weitschweifige und stellenweise unverständliche Eingabe zu verbessern, mit der Androhung, dass die Eingabe sonst unbeachtet bleibe. Am 24. März 2011 reichte der Käufer eine überarbeitete Klageantwort ein. Mit Verfügung vom 30. März 2011 wies der Vizegerichtspräsident die Klageantwort vom 20. Januar bzw. 24. März 2011 aus dem Recht und stellte fest, dass der Käufer innert Frist keine genügende Klageantwort eingereicht habe und folglich säumig geblieben sei. Androhungsgemäss galten die tatsächlichen Klagegründe als anerkannt und der Käufer wurde mit seinen Einreden ausgeschlossen. B.b Mit Urteil vom 5. Mai 2011 verpflichtete das Bezirksgericht Höfe den Beklagten, der Klägerin Fr. 159'000.-- nebst Zins zu 5 % seit dem 18. August 2009 zu bezahlen und erteilte der Klägerin in der Betreibung Nr. sss._ des Betreibungsamtes Höfe die Rechtsöffnung. In der Folge berichtigte das Bezirksgericht Höfe die Dispositivziffer 4 seines Urteils dahin gehend, dass der Beklagte verpflichtet werde, die Klägerin mit einer ausserrechtlichen Parteientschädigung in der Höhe von Fr. 3'500.-- (anstelle von Fr. 1'500.--) zu entschädigen. Die Berichtigung wurde den Parteien am 12. Mai 2011 verschickt. B.c Gegen das Urteil des Bezirksgerichts Höfe vom 5. Mai 2011 erhob der Beklagte Berufung beim Kantonsgericht Schwyz. Er beantragte die Aufhebung des Urteils vom 5. Mai 2011, der Verfügung vom 30. März 2011 sowie der Berichtigung zum Urteil vom 5. Mai 2011 und stellte zudem zahlreiche weitere Anträge. Mit Urteil vom 19. Oktober 2011 wies das Kantonsgericht Schwyz die Berufung ab, soweit es darauf eintrat und bestätigte das angefochtene Urteil des Bezirksgerichts Höfe vom 5. Mai 2011. C. Mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde beantragt der Beklagte dem Bundesgericht, das Urteil des Kantonsgerichts Schwyz vom 19. Oktober 2011, und damit indirekt auch das Urteil des Bezirksgerichts Höfe vom 5. Mai 2011, sei aufzuheben. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Zudem stellt der Beklagte zahlreiche weitere Anträge. Die Beschwerdegegnerin und die Vorinstanz beantragen die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Parteien reichten unaufgefordert Replik und Duplik ein. 