Sachverhalt: A. A.a X._ verkaufte am 22. Juni 2001 der damals 69-jährigen Y._ 25 der insgesamt 100 Inhaberaktien der Firma A._ AG à nominal Fr. 1'000.-- zum Preis von über Fr. 50 Mio. Der Kaufpreis wurde beglichen durch die Überweisung von Fr. 35 Mio. auf ein Konto von X._ bei der B._ Bank sowie durch Übereignung von zwei Liegenschaften. Im Vertrag wurde ferner ein Rückkaufsrecht des Verkäufers für die Dauer von vorerst 25 Jahren vereinbart, welches ihn berechtigte, im Falle einer geplanten Veräusserung einzelner oder aller Aktien durch die Käuferin die Aktien zum Nominalwert von Fr. 1'000.-- je Aktie zurückzukaufen. Nach dem X._ der B._ Bank angekündigt hatte, auf sein Konto würde demnächst ein Betrag von Fr. 35 Mio. überwiesen, erstattete die Bank am 5. Juli 2001 eine Verdachtsmeldung gemäss Art. 9 des Geldwäschereigesetzes. X._ erklärte gegenüber der Bank den hohen Kaufpreis damit, die Aktiengesellschaft verfüge u.a. über ein Patent betreffend eine von ihm entwickelte Solarzelle mit einem Wirkungsgrad bis zu 70 %. Gestützt auf die Verdachtsmeldung der Bank eröffnete die Bezirksanwaltschaft III für den Kanton Zürich am 11. Juli 2001 gegen X._ eine Strafuntersuchung wegen Betruges. Am 13. Juli 2001 beschlagnahmte sie den auf dessen Konto bei der B._ Bank überwiesenen Betrag von Fr. 35 Mio. Auf Initiative der Anwälte von Y._ erklärte sich X._ am 16. Juli 2001 bereit, die erhaltene Zahlung im Hinblick auf eine Überprüfung des Geschäfts auf ein Konto der Käuferin zurückzuüberweisen. Die Parteien hatten allerdings bereits am 12. Juli 2001 einen neuen, leicht abgeänderten Vertrag über den Kauf der 25 Aktien abgeschlossen. Gestützt auf diesen zweiten Vertrag überwies Y._ am 19. Juli 2001 einen Betrag von über Fr. 33 Mio. auf ein Konto von X._ bei einer anderen Bank. Das Rückkaufsrecht wurde in einem separaten Vertrag erneut verabredet. Mit Schreiben vom 5. September 2001 erklärte der damalige Rechtsvertreter von Y._ gegenüber der Staatsanwaltschaft, diese sei an einer Weiterführung der Strafuntersuchung gegen X._ nicht interessiert. Aufgrund dieser Desinteresseerklärung stellte die Bezirksanwaltschaft III die Untersuchung mit Verfügung vom 3. Oktober 2001 ein. A.b Mit Strafanzeige vom 5. Juni 2003, ergänzt durch eine Eingabe vom 14. Januar 2004, beantragte Y._ die Durchführung eines Strafverfahrens bzw. die Wiederaufnahme des eingestellten Verfahrens gegen X._ wegen Betruges, eventualiter wegen Wuchers. Mit Verfügung vom 18. Juni 2004 wies die Bezirksanwaltschaft III für den Kanton Zürich den Antrag auf Wiederaufnahme des Verfahrens wegen Betruges gestützt auf die Desinteresseerklärung ab und stellte das Verfahren wegen Wuchers ein. Der Einzelrichter in Strafsachen des Bezirksgerichts Zürich trat mit Verfügung vom 9. Januar 2006 auf einen von Y._ gegen diese Verfügung geführten Rekurs nicht ein. Hiegegen erhob Y._ kantonale Nichtigkeitsbeschwerde, auf welche das Kassationsgericht des Kantons Zürich mit Beschluss vom 16. Juni 2006 und das Obergericht des Kantons Zürich mit Beschluss vom 30. Mai 2006 nicht eintraten. Das Bundesgericht hiess am 1. Februar 2007 eine von Y._ gegen die Verfügung des Einzelrichters in Strafsachen des Bezirksgerichts Zürich vom 9. Januar 2006 geführte staatsrechtliche Beschwerde teilweise gut, soweit es darauf eintrat. Auf die gleichzeitig erhobene eidgenössische Nichtigkeitsbeschwerde trat es nicht ein (Verfahren 6P.88/2006 und 6S.185/2006). A.c Mit Verfügung vom 30. Mai 2007 hiess der Einzelrichter in Strafsachen des Bezirks Zürich den Rekurs von Y._ gut und wies das Verfahren an die Staatsanwaltschaft zurück. Nach weiteren Untersuchungshandlungen stellte die Staatsanwaltschaft III des Kantons Zürich die Untersuchung gegen X._ mit Verfügung vom 9. Juli 2008 erneut ein. Die Kosten des Verfahrens in der Höhe von Fr. 21'640.-- auferlegte sie der Anzeigeerstatterin Y._. X._ sprach sie eine Umtriebsentschädigung in der Höhe von Fr. 129'000.-- aus der Staatskasse zu. Y._ wurde zum Ersatz dieser Entschädigungszahlung verpflichtet. Gegen diese Einstellungsverfügung erhob Y._ Rekurs, welchen das Obergericht des Kantons Zürich mit Beschluss vom 2. Juni 2009 abwies, soweit es darauf eintrat. Auf eine hiegegen geführte Beschwerde in Strafsachen trat das Bundesgericht am 20. August 2009 nicht ein (Verfahren 6B_588/2009; zur Verfahrensgeschichte vgl. Untersuchungsakten Urk. 5/271 ff., Urk. 5/3, S. 2 bis 6). B. Am 19. Oktober 2009 stellte Y._ beim Einzelrichter in Strafsachen des Bezirksgerichts Zürich das Gesuch um gerichtliche Beurteilung der Kosten- und Entschädigungsfolgen gemäss Einstellungsverfügung der Staatsanwaltschaft III des Kantons Zürich vom 9. Juli 2008. Mit Verfügung vom 10. März 2010 auferlegte der Einzelrichter die Kosten der eingestellten Untersuchung im Betrag von Fr. 21'640.-- X._. Von der Zusprechung von Prozessentschädigungen für das Untersuchungsverfahren sah er ab. Einen gegen diese Verfügung von X._ erhobenen Rekurs wies das Obergericht des Kantons Zürich mit Beschluss vom 21. Oktober 2010 ab. C. X._ führt Beschwerde beim Bundesgericht, mit der er beantragt, der angefochtene Entscheid sei aufzuheben, es seien die Kosten für die eingestellte Strafuntersuchung von der Staatskasse zu tragen, und es sei ihm eine Entschädigung in der Höhe von Fr. 129'000.-- aus der Staatskasse auszurichten. Eventualiter sei der angefochtene Entscheid aufzuheben und zur neuen Entscheidung an die Vorinstanz zurückzuweisen. Ferner beantragt er, es sei seiner Beschwerde die aufschiebende Wirkung zu erteilen. D. Es wurden keine Vernehmlassungen eingeholt. 