A.- Der 1955 geborene B._ meldete sich am 29. Juli 1992 erstmals zum Bezug von Leistungen der Invalidenversicherung an. Seit dem 16. Juli 1986 als Schaler bei der Firma X._ AG, Hoch- und Tiefbau, tätig, litt er ab Ende Mai 1991 an Status nach Kompressionsfraktur 11. und 12. Brustwirbel mit residuellem therapieresistentem invalidisierendem Schmerzsyndrom (Arztbericht von Dr. med. W._ vom 4. Januar 1993). Am 25. November 1993 verfügte die Ausgleichskasse des Kantons St. Gallen die Zusprechung einer ab 1. Mai bis 30. September 1992 befristeten ganzen Rente. Der Versicherte hatte am 2. August 1993 erneut eine Anmeldung eingereicht und Leistungen im Sinne von Berufsberatung, Umschulung auf eine neue Tätigkeit, Arbeitsvermittlung und eine Rente beansprucht, was zum Rückzug der Beschwerde gegen die Verfügung vom 25. November 1993 führte. Der Anspruch des Versicherten auf berufliche Abklärung (vom 25. April bis zum 22. Juli 1994), Arbeitstraining als Umschulungsmassnahme im Hinblick auf die Ausbildung zum Metallbearbeiter (vom 22. August 1994 bis zum 10. März 1995) sowie Umschulung zu diesem Beruf (vom 12. Februar 1996 bis zum 10. März 1997) wurde gutgeheissen. Mit Verfügung vom 22. August 1997 verneinte die IV- Stelle jeglichen Leistungsanspruch, da gemäss einem Einkommensvergleich, welchem ein Arztzeugnis von Dr. med. R._ (vom 27. Juni 1997) zu Grunde lag, der Invaliditätsgrad lediglich 11 % betrug, weshalb die Anspruchsvoraussetzungen für weitere berufliche Massnahmen sowie für Rentenleistungen nicht mehr erfüllt waren. B.- Die hiegegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 17. September 1999 in dem Sinne teilweise gut, dass die angefochtene Verfügung aufgehoben und die Sache an die IV-Stelle zurückgewiesen wurde, damit diese das Verwaltungsverfahren im Sinne der Erwägungen fortführe. Es wurde hauptsächlich festgehalten, ein schuldhafter Abbruch beruflicher Massnahmen könne in jedem Fall erst dann Platz greifen, wenn die versicherte Person sich nach Durchführung eines Mahn- und Bedenkzeitverfahrens einer zumutbaren Eingliederung widersetze. C.- Die IV-Stelle führt Verwaltungsgerichtsbeschwerde mit dem Rechtsbegehren, der vorinstanzliche Entscheid sei aufzuheben. B._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen, während sich das Bundesamt für Sozialversicherung nicht vernehmen lässt. 