Aufenthaltsbewilligung, hat sich ergeben: A.- Die im Jahre 1970 geborene, aus Bosnien-Herzegowina stammende A.X._ reiste am 28. September 1992 illegal in die Schweiz ein. Am 8. Oktober 1992 stellte sie der Fremdenpolizei des Kantons St. Gallen ein Gesuch um Erteilung einer Aufenthaltsbewilligung zwecks späterer Heirat. Als Unterkunft gab sie die Adresse von B.X._ an, den sie am 16. Dezember 1992 heiratete. In der Folge wurde ihr eine bis zum 27. September 1993 gültige Aufenthaltsbewilligung erteilt, welche bis zum 27. September 1994 verlängert wurde. B.- Am 11. April 1995 wies die Fremdenpolizei des Kantons St. Gallen das Gesuch von A.X._ um Verlängerung der Aufenthaltsbewilligung ab, da sie zum Schluss gekommen war, dass B.X._ mit A.X._ eine Scheinehe eingegangen war. Dagegen erhob diese Rekurs bei der Regierung des Kantons St. Gallen. Nachdem die Fremdenpolizei ihre Verfügung vom 11. April 1995 am 2. Januar 1996 wiedererwägungsweise aufgehoben hatte, schrieb das Justiz- und Polizeidepartement des Kantons St. Gallen das Rekursverfahren als gegenstandslos ab. Mit Verfügung vom 23. April 1996 wies die Fremdenpolizei erneut das Gesuch um Verlängerung der Aufenthaltsbewilligung ab. Dagegen rekurrierte A.X._ an das Justiz- und Polizeidepartement des Kantons St. Gallen. Dieses hob die Verfügung der Fremdenpolizei mit Entscheid vom 25. Juni 1997 auf mit der Begründung, dass die Fremdenpolizei das rechtliche Gehör von A.X._ verletzt hatte. Am 9. Oktober 1998 wies die Fremdenpolizei das Gesuch um Verlängerung der Aufenthaltsbewilligung erneut ab. Dagegen erhob A.X._ Rekurs beim Justiz- und Polizeidepartement des Kantons St. Gallen. Sie beantragte nunmehr die Erteilung der Niederlassungsbewilligung. Das Justiz- und Polizeidepartement wies den Rekurs am 13. Juli 2000 ab. Gegen diesen Entscheid gelangte A.X._ erfolglos an das Verwaltungsgericht des Kantons St. Gallen. C.- Mit Eingabe vom 29. November (Postaufgabe: 30. November) 2000 hat A.X._ beim Bundesgericht Verwaltungsgerichtsbeschwerde erhoben. Sie beantragt, den Entscheid des Verwaltungsgerichts vom 25. Oktober 2000 aufzuheben und ihr die Niederlassungsbewilligung zu erteilen; eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz oder eine der früheren Rechtsmittelinstanzen zurückzuweisen. Sie ersucht zudem um unentgeltliche Rechtspflege. Das Justiz- und Polizeidepartement des Kantons St. Gallen schliesst auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons St. Gallen beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Das Bundesamt für Ausländerfragen beantragt sinngemäss die Abweisung der Beschwerde. D.- Mit Verfügung vom 8. Januar 2001 hat der Abteilungspräsident der Verwaltungsgerichtsbeschwerde die aufschiebende Wirkung zuerkannt. 