Sachverhalt: A. Y._, geboren 1966, ist Mutter zweier 1992 und 1999 geborener Kinder. Ab März 2003 war sie als selbstständig erwerbende Coiffeuse tätig. Unter Hinweis auf "Krankheit" meldete Sie sich am 23. Dezember 2005 bei der Invalidenversicherung zum Leistungsbezug an (Berufsberatung, Umschulung auf eine neue Tätigkeit). Die IV-Stelle des Kantons Zürich führte erwerbliche Abklärungen durch und holte Berichte ein des Dr. med. B._, Innere Medizin FMH, vom 11. Januar 2006, sowie der Rheumaklinik und Institut für Physikalische Medizin am Spital X._ vom 14. Februar 2006. Am 27. Januar 2006 war Y._ in einen Auffahrunfall verwickelt worden, bei welchem sie sich eine einfache Distorsion der Halswirbelsäule (HWS) ohne neurologische Ausfälle zuzog (Bericht des Dr. med. C._, praktischer Arzt FMH, vom 18. August 2006). Die IV zog die Akten der Unfallversicherung bei (Helsana Versicherungen AG, Zürich; im Folgenden: Helsana). Nach durchgeführtem Vorbescheidverfahren und Eingang eines Berichtes der Psychologin H._, vom 17. Januar 2007, sowie des Dr. med. G._, FMH Innere Medizin und Rheumatologie, vom 19./23. Januar 2007, teilte die IV-Stelle der Rechtsvertreterin von Y._ am 16. Mai 2007 mit, sie verzichte auf eine zunächst in Aussicht genommene Medas-Begutachtung und schliesse sich mit Zusatzfragen dem durch die Helsana veranlassten Gutachten an. Am 8. Oktober 2007 erging das interdisziplinäre Gutachten des Instituts Z._ (mit Ergänzung vom 13. Juni 2008), welches u.a. ein psychiatrisches Teilgutachten der Frau Dr. med. E._, Fachärztin FMH für Psychiatrie und Psychotherapie, vom 3. September 2007 enthielt. Am 10. Juli 2008 teilte die IV-Stelle Y._ mit, es sei eine erneute medizinische Abklärung durch Dr. med. O._, FMH für Psychiatrie und Psychotherapie, notwendig und hielt daran in der Folge fest (Brief vom 14. August 2008; Verfügung vom 16. September 2008). Das Gutachten des Dr. med. O._ erging am 23. Februar 2009. Y._ liess hiezu eine Zweitmeinung des Fachpsychologen R._, vom 21. April 2009 einholen. Die IV-Stelle ersuchte den Regionalen Ärztlichen Dienst (RAD; Dr. med. T._, FMH Allgemeinmedizin) um Beurteilung vom 12. Mai 2009 und verfügte am 28. Mai 2009, es bestehe kein Anspruch auf eine Invalidenrente. B. Die hiegegen erhobene Beschwerde der Y._ wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 24. Januar 2011 ab. C. Y._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und unter Aufhebung des angefochtenen Entscheides die Zusprechung einer ganzen Invalidenrente ab 1. Dezember 2005 beantragen. Eventualiter sei der vorinstanzliche Entscheid aufzuheben und die IV zu verpflichten, eine neue Begutachtung zu veranlassen und hernach über den Rentenanspruch neu zu verfügen. In prozessualer Hinsicht ersucht Y._ um Gewährung der unentgeltlichen Prozessführung und Verbeiständung. Das Bundesgericht weist das Gesuch um unentgeltliche Rechtspflege mit Verfügung vom 12. April 2011 ab. 