Entsiegelung im Rechtshilfeverfahren; Art. 29 Abs. 1 und 30 Abs. 1 BV (Ablehnung; Nichteintreten), hat sich ergeben: A.- Die Staatsanwaltschaft II bei dem Landgericht Berlin führt gegen verschiedene Personen ein Ermittlungsverfahren wegen Betrugsverdachtes. Nach den bisherigen Erkenntnissen habe die Täterschaft im Zuge der deutschen Wiedervereinigung über verschiedene Firmen Lieferungen nach Ungarn vorgetäuscht und dafür zu Unrecht die Konvertierung transferabler Rubel in Deutsche Mark erreicht. Dadurch sei der Bundesrepublik Deutschland ein Schaden von rund 115 Mio. DM entstanden. Am Schluss einer längeren Kette von Zahlun- gen sei es zu Überweisungen der "F._ AG" an die "U._ AG" gekommen, deren wirtschaftliche Eigentümer die Nutzniesser der Scheingeschäfte gewesen seien. Repräsentant der "U._ AG" sei Rechtsanwalt Dr. Y._ gewesen, dessen Aufgaben aber inzwischen von seinem Sohn X._ wahrgenommen würden. Die deutsche Staatsanwaltschaft war in diesem Zusammenhang mit einem ersten Rechtshilfeersuchen an die schweizerischen Behörden gelangt. Bei dessen Vollzug beschlagnahmte die Bezirksanwaltschaft IV für den Kanton Zürich unter anderem bei X._ eine Hängemappe, die auf dessen Begehren versiegelt wurde. Am 7. April 1998 gab die III. Strafkammer des Obergerichts des Kantons Zürich, zusammengesetzt aus den Oberrichtern Schmid, Mathys, Brunner und Obergerichtssekretär Stricker, einem Entsiegelungsbegehren statt. Auf eine dagegen gerichtete Verwaltungsgerichtsbeschwerde von X._ trat das Bundesgericht mit Urteil vom 15. Juli 1998 nicht ein, weil eine solche gegen Zwischenentscheide in Rechtshilfesachen unzulässig sei, wenn diese keinen unmittelbaren und nicht wieder gutzumachenden Nachteil bewirken würden (Verfahren 1A.98/1998). Das Kassationsgericht des Kantons Zürich hiess jedoch eine Nichtigkeitsbeschwerde von X._ gegen den Entsiegelungsbeschluss gut, weil nach Zürcher Strafprozessrecht das Bezirksgericht für solche Beschlüsse zuständig sei und dies auch in Rechtshilfeverfahren gelte. B.- Am 31. März 1998 ersuchten die deutschen Behörden im Zusammenhang mit derselben Strafuntersuchung um die Sicherstellung von Unterlagen über die "U._" bei X._. In dessen Anwaltspraxis führte die Bezirksanwaltschaft daraufhin eine Hausdurchsuchung durch, beschlagnahmte in der Folge ein Datenband ("Streamerband") samt dazugehörigem Inhaltsinventar und versiegelte dieses sogleich. Im Entsiegelungsverfahren forderte die 2. Abteilung des Bezirksgerichts Zürich X._ am 19. März 1999 auf, das EDV-System zu bezeichnen, das die gespeicherten Daten sichtbar machen könne. Da X._ dieser Aufforderung nicht nachkam, verhängte das Bezirksgericht gegen ihn eine Ordnungsbusse. Auf Rekurs des Gebüssten hin hob die III. Strafkammer des Obergerichts, zusammengesetzt aus den Oberrichtern Schmid und Schätzle, Oberrichterin Kneubühler Dienst sowie Obergerichtssekretär Weibel, diese Ordnungsbusse am 25. Juni 1999 auf. X._ reichte daraufhin ein Ablehnungsbegehren gegen die 2. Abteilung des Bezirksgerichts Zürich ein, welches die Verwaltungskommission des Obergerichts am 24. August 1999 abwies, soweit darauf einzutreten war. Eine dagegen gerichtete staatsrechtliche Beschwerde von X._ hiess das Bundesgericht am 25. November 1999 gut, soweit darauf eingetreten werden konnte (Verfahren 1P.581/1999). Es erwog, die 2. Abteilung des Bezirksgerichts habe mit ihrer Aufforderung um Bekanntgabe der technischen Gegebenheiten sinngemäss zum Ausdruck gebracht, dass sie die Entsiegelung vornehmen und den Inhalt - hinsichtlich des Amtsgeheimnisses - selber prüfen werde. Davon gehe auch die III. Strafkammer des Obergerichts im Beschluss vom 25. Juni 1999 aus. Damit könne im Hinblick auf den noch ausstehenden Entsiegelungsentscheid in objektiver Weise befürchtet werden, dass sich die 2. Abteilung des Bezirksgerichts in Anbetracht ihres Beschlusses vom 19. März 1999 festgelegt habe und ihr Entscheid daher nicht mehr offen sei. Auf Anweisung der Verwaltungskommission wurde daraufhin das Entsiegelungsverfahren der 3. Abteilung des Bezirksgerichts zugeteilt. Diese erachtete die Sache ohne weitere prozessuale Schritte als spruchreif und ordnete am 11. Januar 2000 die Entsiegelung sowie die Durchsuchung der Unterlagen durch die Bezirksanwaltschaft an. Hiergegen erhob X._ am 14. Februar 2000 Rekurs an das Obergericht des Kantons Zürich. Er beantragte eine Rückweisung der Sache an das Bezirksgericht (jedoch weder dessen 2. noch dessen 3. Abteilung) zur Durchführung eines ordnungsgemässen Verfahrens. Eventuell sei das Entsiegelungsbegehren abzuweisen, subeventuell die Entsiegelung einem anderen Bezirksgericht anzuvertrauen und die Bezirksanwaltschaft IV davon auszuschliessen. Ausserdem stellte X._ ein Ablehnungsbegehren gegen die III. Strafkammer des Obergerichts. Er verlangte eine Beurteilung durch eine andere Kammer, "wobei keine Mitglieder der III. Strafkammer, insbesondere nicht die Herren Oberrichter Dr. Schmid, Dr. Schätzle, Frau Dr. Kneubühler Dienst sowie ganz besonders nicht Herr Obergerichtssekretär Dr. Weibel an der Beurteilung" teilnehmen dürften. Das Ablehnungsbegehren wurde, da es gegen eine ganze Kammer gerichtet war, an das Gesamtobergericht überwiesen. Dieses trat mit Beschluss vom 12. April 2000 darauf nicht ein. X._ habe weder konkret behauptet noch belegt, dass die Kammer in anderer Besetzung als derjenigen vom 25. Juni 1999 (mit den namentlich abgelehnten Justizpersonen) irgendwelche Entscheide in der zu beurteilenden Sache gefällt habe. Das Ablehnungsbegehren gegen die namentlich genannten Justizpersonen schrieb das Gesamtobergericht ab, da diese erklärt hatten, den Ausstand beachten zu wollen. Der Entscheid des Gesamtobergerichts wurde am 18. April 2000 irrtümlicherweise X._, nicht aber seinem Rechtsvertreter zugestellt. Mit Beschluss vom 16. Juni 2000 trat die III. Strafkammer des Obergerichts, zusammengesetzt aus den Oberrichtern Keller und Brunner, Ersatzrichter Bussmann und Obergerichtssekretär Stricker, nicht auf den Rekurs von X._ vom 14. Februar 2000 ein. Sie erwog, der angefochtene Entsiegelungsentscheid sei ein Zwischenentscheid im Rechtshilfeverfahren, gegen welchen das Bundesrecht kantonale Rechtsmittel ausschliesse. Eventualiter begründete die III. Strafkammer, warum der Rekurs hätte abgewiesen werden müssen, wenn auf ihn hätte eingetreten werden können. C.- Am 3. Juli 2000 führt X._ gegen den Beschluss der III. Strafkammer Verwaltungsgerichtsbeschwerde ans Bundesgericht. Er beantragt die Aufhebung des Entscheids und eine Rückweisung der Sache an das Obergericht zur materiellen Beurteilung. Eventuell beantragt er eine Abweisung des Entsiegelungsbegehrens. Er macht in erster Linie geltend, der angefochtene Entscheid sei kein Zwischenentscheid in einem Rechtshilfeverfahren, sondern ein Entscheid in einem selbstständigen kantonalen Verfahren, gegen den im kantonalen Recht vorgesehene Rechtsmittel zur Verfügung stünden. Eventualiter bringt er vor, nach Bundesrecht hätte auf seinen kantonalen Rekurs eingetreten werden müssen, da ihm ein nicht wieder gutzumachender Nachteil gedroht habe. In diesem Rahmen nimmt er zu den Ausführungen des angefochtenen Entscheids zur materiellen Berechtigung der Entsiegelung Stellung. Das Bezirksgericht, die Bezirksanwaltschaft sowie die Staatsanwaltschaft und die III. Strafkammer des Obergerichts des Kantons Zürich verzichten auf eine Stellungnahme zur Verwaltungsgerichtsbeschwerde. Das Bundesamt für Justiz beantragt, auf die Beschwerde nicht einzutreten. D.- Am 14. Juli 2000 führt X._ gegen den Beschluss des Gesamtobergerichts und denjenigen der III. Strafkammer staatsrechtliche Beschwerde im Zusammenhang mit seinem Ablehnungsbegehren. Er beantragt eine Aufhebung der beiden Entscheide und die Feststellung, dass das Verhalten und die Entscheidungen der Mitglieder der III. Strafkammer im Entsiegelungsverfahren gegen Art. 30 Abs. 1 BV und Art. 6 Ziff. 1 EMRK verstossen würden und dass sämtliche Mitglieder der Kammer im Entsiegelungsverfahren befangen seien. Die Bezirksanwaltschaft sowie die Staatsanwaltschaft und das Obergericht des Kantons Zürich verzichten auf eine Stellungnahme zur staatsrechtlichen Beschwerde. E.- Mit Verfügungen vom 28. Juli und vom 28. August 2000 hat der Präsident der I. öffentlichrechtlichen Abteilung des Bundesgerichts der staatsrechtlichen Beschwerde bzw. der Verwaltungsgerichtsbeschwerde aufschiebende Wirkung zuerkannt. Mit Verfügung vom 30. September 2000 hat der Präsident des Kassationsgerichts des Kantons Zürich das Verfahren zur Beurteilung einer bei ihm hängigen Nichtigkeitsbeschwerde von X._ gegen den Entscheid der III. Strafkammer vom 16. Juni 2000 bis zu einem Entscheid des Bundesgerichts über die eidgenössischen Rechtsmittel sistiert. 