Sachverhalt: A. Die Staatsanwaltschaft Zürich-Sihl führt gegen X._ eine Strafuntersuchung wegen Veruntreuung und Urkundenfälschung. Sie verdächtigt diese, als Angestellte des Bordells "A._" in Zürich knapp 20'000 Franken veruntreut zu haben. Am 12. April 2012 wies die Oberstaatsanwaltschaft des Kantons Zürich das Gesuch von X._ um amtliche Verteidigung ab. Sie erwog, der Fall sei zurzeit in tatsächlicher und rechtlicher Hinsicht wenig komplex. Die Vorwürfe seien für einen Durchschnittsmenschen ebenso überschaubar wie für die beschuldigte 36-jährige Schweizerin. In rechtlicher Hinsicht stelle das Strafverfahren keine besonderen Schwierigkeiten, zumal über die rechtlich komplexeren Fragen im hängigen Zivilverfahren befunden werde. Die Voraussetzung für die Anordnung einer amtlichen Verteidigung nach Art. 132 StPO seien damit nicht erfüllt. Am 26. Juni 2012 wies das Obergericht des Kantons Zürich die Beschwerde von X._ gegen diese Abweisungsverfügung der Oberstaatsanwaltschaft ab. B. Mit Beschwerde ans Bundesgericht beantragt X._, Rechtsanwältin Z._ als amtliche Verteidigerin einzusetzen und ihr für das bundesgerichtliche Verfahren eine Parteientschädigung zu bezahlen und unentgeltliche Rechtspflege zu gewähren. C. Das Obergericht beantragt in seiner Vernehmlassung sinngemäss, die Beschwerde abzuweisen. Die Oberstaatsanwaltschaft verzichtet auf Vernehmlassung und regt an, die Vertretungsbefugnis von Y._ zu prüfen. Rechtsanwältin Z._ teilt mit, sie sei in dieser Sache nicht mandatiert und verzichte auf Vernehmlassung. X._ hält an der Beschwerde fest und reicht ein von ihr persönlich, nicht nur von ihrem Vertreter Y._ unterzeichnetes Exemplar der Beschwerdeschrift nach. 