A.- Die 1951 geborene B._ meldete sich am 25. März 1991 wegen eines bestehenden Lymphödems nach Mammakarzinom ein erstes Mal bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 11. März 1993 wies die Ausgleichskasse Schweizer Wirteverband den Rentenanspruch gestützt auf einen Invaliditätsgrad von 6 % ab. Diesen ermittelte sie nach der gemischten Methode, wobei der Anteil der Erwerbstätigkeit 80 %, die dortige Einschränkung 0 % und die Einschränkung im Haushalt 30 % betrug. Die hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 28. Oktober 1993 ab. B._ ist gelernte Servicefachangestellte und im Besitz des Wirtepatents. Zuletzt war sie von September 1994 bis März 1996 als Service-Fachangestellte im Restaurant M._ tätig. Am 2. Oktober 1996 meldete sich B._ erneut zum Bezug einer Invalidenrente an. Die IV-Stelle des Kantons St. Gallen holte Arztberichte des Dr. med. R._, Spezialarzt FMH für Orthopädische Chirurgie, ein (Berichte vom 25. September und 16. Oktober 1996), zog Berichte des Dr. med. F._, Klinik für Orthopädische Chirurgie, Spital X._, vom 22. April 1997, und des Dr. med. M._, Orthopädische Klinik Y._, vom 23. August 1996 bei und veranlasste eine Abklärung durch das Zentrum für Medizinische Begutachtung (ZMB; Gutachten vom 22. August 1997). Im Weiteren führte sie am 30. Oktober 1997 eine Haushaltabklärung durch (Bericht vom 11. November 1997) und holte einen Arbeitgeberbericht bei der I._ AG, Restaurant M._, ein. Gestützt darauf ermittelte sie einen Invaliditätsgrad von 32 %. Auf die zum entsprechenden Vorbescheid vom 9. Januar 1997 (recte: 1998) erhobenen Einwendungen holte die IV-Stelle eine Stellungnahme des ZMB und des mit der Haushaltabklärung betrauten Sachbearbeiters ein. Daraufhin reichte die Versicherte drei weitere Arztberichte ein (Berichte des Dr. med. F._ vom 24. März 1998, der Dres. med. V._ und W._, Rheumatologie und Rehabilitation, Spital X._, vom 24. April 1998 und des Dr. med. A._ vom 16. Juli 1998). Mit Verfügung vom 9. September 1998 hielt die IV-Stelle am rentenausschliessenden Invaliditätsgrad von 32 % fest. B.- Die hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 15. Februar 2001 ab. C.- Mit Verwaltungsgerichtsbeschwerde lässt B._ beantragen, es sei ihr nach Massgabe ihres Invaliditätsgrades eine Invalidenrente zuzusprechen; eventualiter sei die Sache zur weiteren Abklärung an die IV-Stelle zurückzuweisen. Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während sich das Bundesamt für Sozialversicherung nicht vernehmen lässt. 