Sachverhalt: A. Die Regionale Staatsanwaltschaft Bern-Mittelland führt gegen X._ eine Strafuntersuchung wegen sexueller Handlungen mit Kindern, sexueller Nötigung sowie Widerhandlungen gegen das Strassenverkehrsgesetz. X._ befindet sich seit dem 1. Juni 2012 in Untersuchungshaft. Eine von X._ gegen eine erste Verlängerung der Untersuchungshaft bis zum 30. November 2012 erhobene Beschwerde wies das Obergericht des Kantons Bern am 17. September 2012 ab. Am 8. November 2012 bewilligte die Staatsanwaltschaft ein Gesuch von X._ um vorzeitigen Massnahmeantritt. Am 4. Dezember 2012 verlängerte das Kantonale Zwangsmassnahmengericht die Untersuchungshaft von X._ bis zum 28. Februar 2013. B. Eine von X._ gegen den Entscheid des Zwangsmassnahmengerichts vom 4. Dezember 2012 erhobene Beschwerde wies das Obergericht am 3. Januar 2013 ab. C. Gegen den Entscheid des Obergerichts vom 3. Januar 2013 hat X._ am 4. Februar 2013 Beschwerde in Strafsachen ans Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid sei aufzuheben und er, allenfalls unter Anordnung geeigneter Ersatzmassnahmen, aus der Untersuchungshaft zu entlassen. Die Vorinstanz und die Staatsanwaltschaft haben auf eine Vernehmlassung verzichtet. 