Sachverhalt: A. Der 1959 geborene G._, als Linienbusschauffeur tätig, wurde 1980 erstmals am rechten Knie operiert. Nach einer Kreuzbandruptur 1985 und einem Distorsionstrauma beim Skifahren im Februar 2001 wurde im Oktober 2001 eine Tibiavalgisations-Osteotomie durchgeführt. Am linken Knie wurde dreimal eine Arthroskopie durchgeführt, zudem erfolgte im Mai 2008 eine Osteotomie mit entsprechender Metallentfernung im Jahre 2009. Am 25. Februar 2009 meldete sich G._ unter Hinweis auf "Knie- und Rückenprobleme" bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen in medizinischer und erwerblicher Hinsicht sowie nach durchgeführtem Vorbescheidverfahren wies die IV-Stelle des Kantons Luzern mit Verfügung vom 3. Dezember 2010 einen Anspruch auf Leistungen der Invalidenversicherung (berufliche Massnahmen und Rente) ab. B. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 29. August 2011 ab. C. G._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben und beantragen, die IV-Stelle sei zu verpflichten, den medizinischen Sachverhalt sowie die Leistungsfähigkeit in einer zumutbaren Tätigkeit unter Beizug der SUVA-Akten abzuklären. Eventualiter sei die Vorinstanz zu verpflichten, mittels spezialärztlichem Gutachten die Leistungsfähigkeit abzuklären. Subeventualiter sei ihm eine halbe IV-Rente zuzusprechen. Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen (BSV) verzichtet auf eine Vernehmlassung. 