Sachverhalt: A. Mit Verfügung vom 23. Oktober 2003, bestätigt mit Einspracheentscheid vom 21. Juli 2004, lehnte die IV-Stelle Basel-Stadt das Gesuch des 1954 geborenen A._ um Zusprechung einer Invalidenrente ab. Die hiegegen eingereichte Beschwerde wies das Sozialversicherungsgericht Basel-Stadt mit Entscheid vom 16. März 2005 ab. Die vom Versicherten erhobene Verwaltungsgerichtsbeschwerde hiess das Eidgenössische Versicherungsgericht mit Urteil vom 28. Dezember 2005 in dem Sinne gut, dass es den kantonalen Gerichts- und den Einspracheentscheid aufhob und die Sache an die IV-Stelle zurückwies, damit sie gestützt auf eine polydisziplinäre Begutachtung unter Beteiligung der fachärztlichen Bereiche Orthopädie, Neurologie, Rheumatologie und Psychiatrie über das Leistungsgesuch des Versicherten vom 31. Januar 2001 neu verfüge. Gestützt auf ein Gutachten der Akademie X._ vom 6. Juni 2007 verfügte die IV-Stelle nach Durchführung des Vorbescheidverfahrens am 22. Oktober 2007 wiederum die Ablehnung des Rentengesuchs. B. Die hiegegen eingereichte Beschwerde, mit welcher A._ die Aufhebung der Verfügung und die Gewährung einer Invalidenrente hatte beantragen lassen, wies das Sozialversicherungsgericht Basel-Stadt mit Entscheid vom 25. September 2008 ab. C. Der Versicherte lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem sinngemässen Rechtsbegehren um Zusprechung einer Invalidenrente. Ferner ersucht er um die Bewilligung der unentgeltlichen Prozessführung. Die IV-Stelle und das Bundesamt für Sozialversicherungen schliessen auf Abweisung der Beschwerde. 