Sachverhalt: A. Der 1966 geborene K._ war seit 1994 als Betriebsmitarbeiter bei der Firma X._ angestellt. Ab 15. Mai 2004 musste er seiner Tätigkeit aus gesundheitlichen Gründen fern bleiben. Am 21. Februar 2005 meldete er sich unter Hinweis auf Wirbelsäulenprobleme bei der Invalidenversicherung zum Leistungsbezug an. Gestützt auf die beigezogenen medizinischen Unterlagen lehnte die IV-Stelle des Kantons St. Gallen das Leistungsgesuch am 30. Oktober 2006 verfügungsweise ab, widerrief diese Verfügung nach Eingang einer Beschwerde jedoch am 8. März 2007, um weitere Abklärungen vorzunehmen. Aufgrund eines Gutachtens der Klinik Y._ vom 20. November 2007 eröffnete die IV-Stelle K._ nach durchgeführtem Vorbescheidverfahren mit Verfügung vom 19. Februar 2008, dass er keinen Anspruch auf eine Invalidenrente oder Integrationsmassnahmen habe. Der Invaliditätsgrad betrage 11 %, und eine leidensangepasste Tätigkeit wäre ihm vollumfänglich zumutbar. B. K._ liess Beschwerde führen mit dem Rechtsbegehren, unter Aufhebung der Verfügung vom 19. Februar 2008 sei die IV-Stelle zu verpflichten, berufliche Massnahmen zu treffen und gegebenenfalls eine Invalidenrente auszurichten. Mit Entscheid vom 9. März 2009 wies das Versicherungsgericht des Kantons St. Gallen die Beschwerde ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt K._ beantragen, unter Aufhebung des vorinstanzlichen Entscheides sei die IV-Stelle zu verpflichten, berufliche Massnahmen zu treffen und hernach eine neue Rentenprüfung vorzunehmen. Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 