Sachverhalt: A. Beim 1985 geborenen R._ trat rund drei Monate vor Abschluss der Lehre als Bäcker/Konditor (am 11. August 2005) eine Allergie gegen Roggenmehl auf. Am 11. Januar 2006 meldete er sich unter Hinweis auf dieses Leiden bei der Invalidenversicherung für eine Umschulung auf eine neue Tätigkeit an. Die von der IV-Stelle des Kantons St. Gallen veranlasste Untersuchung ergab gemäss Bericht des Dr. med. O._, Spezialarzt u.a. für Allergologie und klinische Immunologie, vom 28. März 2007 die Diagnose einer Mehlstauballergie mit dem klinischen Krankheitsbild einer Rhinokonjunktivitis und eines Asthma bronchiale. Nachdem der Versicherte die Absicht geäussert hatte, im Sommer 2009 eine Lehre als Lebensmitteltechnologe zu beginnen, er aber noch keine Lehrstelle gefunden habe, wurde die Berufsberatung am 8. Mai 2008 abgeschlossen. Mit Schreiben vom 5. Februar 2009 ersuchte R._ die Invalidenversicherung um Übernahme der Weiterbildung zum Technischen Kaufmann. In der neuen Anmeldung zum Leistungsbezug vom 17. März 2009 hielt er fest, seit August 2005 an verschiedenen Stellen erwerbstätig gewesen zu sein. Gemäss Bericht der Eingliederungsverantwortlichen der IV-Stelle vom 15. Juli 2009 konnte der Versicherte einen Ausbildungsplatz als Lastwagenführer mit Beginn der zweijährigen Ausbildung am 1. August 2009 finden. Am 27. Juli 2009 eröffnete die IV-Stelle R._, sie übernehme die Mehrkosten der erstmaligen beruflichen Ausbildung zum Lastwagenführer ab 1. August 2009 bis 31. Juli 2011. Mit Verfügung vom 4. August 2009 sprach sie dem Versicherten sodann für den Zeitraum vom 1. August 2009 bis 31. Juli 2010 ein "kleines Taggeld" von Fr. 73.10 (Fr. 103.80 minus Fr. 30.70), ab 1. August 2010 bis 31. Juli 2011 ein solches von Fr. 65.90 (Fr. 103.80 minus Fr. 37.90), zu. B. R._ liess Beschwerde führen mit dem Rechtsbegehren, unter Aufhebung der Verfügung vom 4. August 2009 sei ihm ein grosses Taggeld auszurichten. Mit Entscheid vom 8. November 2011 hiess das Versicherungsgericht des Kantons St. Gallen die Beschwerde gut, hob die angefochtene Verfügung auf und sprach dem Versicherten im Sinne der Erwägungen ein "grosses Taggeld" zu, das die IV-Stelle noch zu ermitteln haben werde. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die IV-Stelle, der vorinstanzliche Entscheid sei aufzuheben. Während R._ auf Abweisung der Beschwerde schliessen lässt, soweit darauf einzutreten sei, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. 