Sachverhalt: A. X._ befand sich vom 8. September 2006 bis am 8. Dezember 2006 wegen Verdachts der Gewalt und Drohung gegen Behörden und Beamte in Untersuchungshaft. Am 16. Juli 2009 wurde er erneut festgenommen, nachdem er auf dem Sozialamt Grenchen eine Angestellte bedroht haben soll. Mit Entscheid vom 20. Juli 2009 ordnete das Haftgericht des Kantons Solothurn Untersuchungshaft an. Zwei während der Untersuchungshaft gestellte Haftentlassungsgesuche wies es ab. B. Am 2. September 2009 erhob die Staatsanwaltschaft des Kantons Solothurn gegen X._ Anklage beim Richteramt Solothurn-Lebern und beantragte gleichentags die Anordnung von Sicherheitshaft. Am 7. September 2009 ordnete das Haftgericht Sicherheitshaft an. Seit dem 9. November 2009 wird die Sicherheitshaft in der Psychiatrischen Klinik Königsfelden vollzogen. C. Mit Urteil vom 3. Dezember 2009 verurteilte das Amtsgericht Solothurn-Lebern X._ wegen mehrfacher Gewalt und Drohung gegen Behörden und Beamte, einfacher Körperverletzung, Drohung, Entziehens von Unmündigen, mehrfacher Beschimpfung, Tätlichkeiten, mehrfachen Ungehorsams gegen amtliche Verfügungen sowie Übertretung des Bundesgesetzes über den Transport im öffentlichen Verkehr zu einer Freiheitsstrafe von drei Jahren sowie einer Busse von Fr. 500.--. Es ordnete weiter eine stationäre therapeutische Massnahme an und beschloss, X._ sei zur Sicherung des Massnahmevollzugs in Sicherheitshaft zu belassen. X._ erhob gegen das Urteil des Amtsgerichts Appellation. D. Am 5. Januar 2010 stellte X._ bei der Beschwerdekammer des Obergerichts des Kantons Solothurn ein Haftentlassungsgesuch, allenfalls unter Anordnung einer ambulanten Therapie. Am 11. Januar 2010 wies der Vizepräsident der Beschwerdekammer des Obergerichts das Haftentlassungsgesuch ab, weil der Haftzweck sich angesichts der hohen Rückfallgefahr des Gesuchstellers nicht durch eine ambulante Therapie erreichen lasse. E. Mit Beschwerde in Strafsachen an das Bundesgericht vom 11. Februar 2010 beantragt X._, das Urteil des Vizepräsidenten der Beschwerdekammer des Obergerichts sei aufzuheben und die kantonalen Behörden seien anzuweisen, den Beschwerdeführer zugunsten einer ambulanten therapeutischen Massnahme aus der Sicherheitshaft zu entlassen. F. Die Vorinstanz beantragt die Abweisung der Beschwerde. Die Staatsanwaltschaft des Kantons Solothurn beantragt die Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Das Amtsgericht Solothurn-Lebern verzichtet auf eine Vernehmlassung. G. Mit Stellungnahme vom 5. März 2010 hält X._ an seiner Beschwerde fest. 