Sachverhalt: A. Der 1958 geborene H._ ist gelernter Strassenbauer und übte verschiedene Tätigkeiten, unter anderem die eines Gemeindearbeiters, eines LKW-Chauffeurs, eines Lagerchefs und eines Bad-/Eismeisters, aus. Nachdem ihm wegen eines - mehrfach operierten - Rückenleidens bereits berufliche Massnahmen der Invalidenversicherung gewährt worden waren, meldete er sich im Februar 2003 bei der IV-Stelle des Kantons Solothurn zum Rentenbezug an. Die IV-Stelle sprach ihm mit Verfügung vom 6. April 2004 rückwirkend ab 1. August 2003 eine ganze Invalidenrente zu. Am 19. April 2004 verfügte sie eine ganze Rente auch für den Zeitraum vom 1. Januar bis 31. Juli 2003. Im Rahmen des im April 2005 eingeleiteten Rentenrevisionsverfahrens holte die IV-Stelle einen Verlaufsbericht des Dr. med. R._, Allgemeine Medizin FMH, vom 9. August 2005 und ein rheumatologisches Gutachten des Dr. med. L._ vom 14. August 2006 ein. Die Aussagen des Experten veranlassten sie, die Rechtmässigkeit der erfolgten Rentenzusprechung ab 1. August 2003 zu überprüfen. Mit Verfügung vom 7. September 2007 eröffnete die IV-Stelle dem Versicherten nach Durchführung des Vorbescheidverfahrens, die Verfügung vom 6. April 2004 werde wiedererwägungsweise aufgehoben; die damals ab 1. August 2003 zugesprochene Invalidenrente werde auf das Ende des der Zustellung der Wiedererwägungsverfügung folgenden Monats aufgehoben; eine Rückforderung bereits erbrachter Rentenleistungen erfolge nicht. Zur Begründung wurde angegeben, die Verfügung vom 6. April 2004 sei offensichtlich unrichtig. B. Die von H._ gegen die Verfügung vom 7. September 2007 erhobene Beschwerde wies das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 27. November 2008 ab. C. H._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheids und der Verfügung vom 7. September 2007 sei auch über den Zeitpunkt der Renteneinstellung gemäss besagter Verfügung hinaus eine Rente nach Massgabe eines Invaliditätsgrades von mindestens 70 % zuzusprechen. Weiter wird um unentgeltliche Rechtspflege für das letztinstanzliche Verfahren ersucht. Die IV-Stelle beantragt die Abweisung der Beschwerde, ohne sich weiter zur Sache zu äussern. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung. 