Sachverhalt: A. Im Rahmen eines Zwangsvollstreckungsverfahrens sind die Grundstücke Nr. xx._ und Nr. xxx._ sowie weitere Grundstücke von der B._ als Grundpfandgläubigerin ersteigert worden. Am 3. Dezember 2008 wurden die ersteigerten Grundstücke an den vormaligen Eigentümer, X._ (Beklagter, Beschwerdeführer), zu einem Pauschalpreis von Fr. 650'000.-- zurückübertragen. Mit öffentlich beurkundetem Kaufvertrag vom gleichen Tag verkaufte X._ die Grundstücke Nr. xx._ und Nr. xxx._ zu einem Preis von Fr. 400'000.-- an seinen Sohn Y._ (Kläger, Beschwerdegegner). Dem Kaufvertrag ist zu entnehmen, dass die Grundstücke frei von Miet- und Pachtverträgen übertragen wurden. Sodann wurde vereinbart, dass X._ weiterhin im Wohnhaus auf dem Grundstück Nr. xx._ wohnen darf und dass die Parteien diesbezüglich ausserhalb des Kaufvertrages einen separaten Mietvertrag abschliessen werden. B. B.a Mit Eingabe vom 4. Januar 2011 stellte Y._ beim Einzelrichter am Bezirksgericht A._ das Begehren, es sei X._ zu verpflichten, die Liegenschaften Nr. xx._ sowie Nr. xxx._ bis spätestens am 30. April 2011 auf eigene Kosten zu räumen, zu verlassen und ihm zu übergeben. Sollte X._ dem nicht fristgerecht nachkommen, sei Y._ dazu zu berechtigen, auf Kosten von X._ und nötigenfalls mit Hilfe der Polizei, selbst oder durch fachmännische Hilfe Dritter, die genannten Liegenschaften zu räumen oder räumen zu lassen. B.b Mit Entscheid vom 12. September 2011 hiess der Einzelrichter am Bezirksgericht A._ das Räumungsbegehren gut und verfügte im gleichen Entscheid die Abweisung des Gesuchs des Beklagten um unentgeltliche Rechtspflege. B.c Gegen diesen Entscheid vom 12. September 2011 erhob der Beklagte beim Kantonsgericht des Kantons Schwyz gleichzeitig Berufung und Beschwerde. Er beantragte im Wesentlichen, es sei der Entscheid des Einzelrichters am Bezirksgericht A._ betreffend die Räumung der Grundstücke Nr. xx._ und Nr. xxx._ sowie der Entscheid betreffend die Verweigerung der unentgeltlichen Rechtspflege aufzuheben, auf das Räumungsgesuch des Klägers sei nicht einzutreten und es sei ihm für das Berufungsverfahren und für das Verfahren vor der Vorinstanz die unentgeltliche Rechtspflege zu gewähren. Das Kantonsgericht des Kantons Schwyz vereinigte die beiden Verfahren und wies mit Beschluss vom 7. Mai 2012 die Berufung und die Beschwerde ab, soweit es darauf eintrat und bestätigte den Entscheid des Einzelrichters am Bezirksgericht A._ vom 12. September 2011. Ebenso wies das Kantonsgericht das Gesuch des Beklagten um unentgeltliche Rechtspflege ab. C. Mit Beschwerde in Zivilsachen beantragt der Beklagte dem Bundesgericht, es sei der Beschluss des Kantonsgerichts des Kantons Schwyz vom 7. Mai 2012 und das Urteil des Einzelrichters am Bezirksgericht A._ vom 12. September 2011 aufzuheben, auf das Räumungsgesuch des Klägers sei nicht einzutreten, eventuell sei es abzuweisen, subeventuell sei die Sache zur Neubeurteilung an die Vorinstanz oder an die erste Instanz zurückzuweisen. Ferner sei ihm für das bundesgerichtliche wie auch für die beiden kantonalen Verfahren die unentgeltliche Prozessführung und die unentgeltliche Rechtsverbeiständung durch Rechtsanwalt Dr. Bruno Beeler zu gewähren. Auf die Einholung von Vernehmlassungen wurde verzichtet. D. Mit Präsidialverfügung vom 16. Juli 2012 wurde der Beschwerde die aufschiebende Wirkung erteilt. Mit Verfügung vom 8. August 2012 wies das Bundesgericht das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege ab. Der Kostenvorschuss wurde am 21. August 2012 fristgerecht geleistet. 