Sachverhalt: A. Der 1974 geborene M._, verheiratet und Vater von vier Kindern, arbeitete seit 1995 als Bodenleger bei der C._ AG. Am 5. Mai 2001 erlitt er einen Unfall. Am 20. Dezember 2001 meldete er sich unter Hinweis auf Knieschmerzen links bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 12. September 2002 sprach ihm die Schweizerische Unfallversicherungsanstalt (SUVA), bei welcher M._ obligatorisch gegen Unfälle versichert war, für die wirtschaftlichen Folgen des Unfalls ab 1. Juli 2002 eine Invalidenrente auf der Grundlage einer Erwerbsunfähigkeit von 10 % zu. Auf Ende März 2003 wurde der Versicherte von der Arbeitgeberfirma entlassen. In der Folge traf die IV-Stelle des Kantons Aargau Abklärungen in medizinischer und erwerblicher Hinsicht, worauf sie am 16. Januar 2008 einen Anspruch auf berufliche Massnahmen ablehnte. Nach durchgeführtem Vorbescheidverfahren sprach sie M._ mit Verfügung vom 17. März 2008 rückwirkend ab 1. Mai 2002 bei einem Invaliditätsgrad von 50 % eine bis 30. Juni 2002 befristete halbe Invalidenrente zu. B. Die hiegegen eingereichte Beschwerde, mit welcher M._ die Aufhebung der Verfügung und die Zusprechung der gesetzlichen Leistungen beantragen liess, wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 2. Juli 2008 ab. C. M._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, unter Aufhebung des vorinstanzlichen Entscheides sei ihm eine Invalidenrente zuzusprechen und die Sache sei zur Ergänzung der medizinischen Akten und zu neuer Beurteilung zurückzuweisen. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. 