Faits: A. A.a La société Y._ SA, de siège à ..., a pour but l'achat et la vente d'instruments pour laboratoires analytiques, de même que l'installation et l'équipement de laboratoires analytiques. Par contrat du 13 janvier 2004 prenant effet le 26 du même mois, X._, docteur en chimie, a été engagé par Y._ SA en qualité de délégué technico-commercial. Dans le cadre de cette activité, qui consistait à visiter la clientèle de la Suisse romande, X._ était en particulier chargé du conseil technique et de la promotion des ventes des produits de la gamme chromatographie. Le salaire, composé d'une part fixe et d'une part variable en fonction des objectifs atteints, a passé progressivement de 54'000 fr. à 108'000 fr. brut l'an dès le 1er janvier 2007. Par avenant du 18 avril 2007, prenant effet le 1er janvier 2007, des changements de statut et de salaire de l'employé ont été convenus entre les parties. L'employé s'est ainsi vu confier la tâche de "Business Development Manager" et son salaire a été porté à 120'000 fr. brut l'an, versé en douze mensualités. A ce salaire fixe s'ajoutait un "bonus/commission" qui correspondait au 15% de la part dépassant la marge budgétée. L'employé était désormais chargé de la vente du secteur de la chromatographie pour la Suisse entière, tout en devant développer la gamme de produits de ce secteur proposés et distribués par l'employeur. Le contrat de travail prévoyait également le paiement envisageable d'une gratification en fin d'année, avec la précision que cette prestation était à bien plaire et n'avait aucun caractère obligatoire. Le jour de l'engagement de X._, une clause de confidentialité et de non-concurrence a été signée, de même qu'un document concernant les conditions d'utilisation du courrier électronique et d'internet. Par la clause de confidentialité, l'employé s'engageait à garder strictement secrets et à ne montrer ni révéler à des tiers tous documents ou informations liés à l'activité de l'employeur, ou d'une société soeur ou filiale, dont il a eu connaissance par son travail. Quant à la clause de non-concurrence, elle interdisait tout acte de concurrence, sur tout le territoire suisse, durant deux ans dès la fin des rapports de travail et prévoyait une peine conventionnelle de 200'000 francs; la clause n'était pas applicable si l'employé était licencié pour des raisons économiques. A.b Le 21 avril 2008, l'employé a été congédié pour le 30 juin 2008 et libéré avec effet immédiat de son obligation de travailler. Les motifs invoqués à l'appui du licenciement étaient un net manque de collaboration avec l'équipe dirigeante de la société, un problème de communication et de relation avec l'ensemble des collaborateurs rattachés à la vente, ainsi que d'autres collègues de travail, un manque dans le développement des gammes de chromatographie et un manque de croissance des ventes chromatographies en Suisse allemande. Des griefs supplémentaires ont été invoqués par courrier du 23 avril 2008. Le 15 mai 2008, X._ a formé opposition à ce congé qu'il a qualifié d'abusif au sens de l'art. 336 CO. Il n'a par ailleurs pas accepté le libellé du certificat de travail délivré le 1er juillet 2008 par l'employeur. A.c Par contrat de travail signé le 2 juillet 2008, X._ a été engagé par la société M._ AG, active dans le même domaine que Y._ SA et seule distributrice avec cette dernière des produits de la marque xxx en Suisse. Par courrier du 18 juillet 2008, Y._ SA faisait valoir la clause de non-concurrence et sommait son ancien employé de lui donner l'engagement de ne pas développer la distribution de la marque xxx chez son nouvel employeur. B. Le 27 août 2008, Y._ SA a ouvert action contre X._ devant le Tribunal de prud'hommes du canton de Genève; l'employé devait être condamné à payer le montant de 200'000 fr., avec intérêts dès le 1er juillet 2008, à titre de peine conventionnelle pour la violation de la clause de non-concurrence. Le 29 août 2008, X._ a également ouvert action contre Y._ SA, concluant au paiement par l'employeur d'une somme de 96'483 fr.70, plus intérêts, à titre de solde de bonus/commission 2007 (12'452 fr.25) et de bonus/commission 2008 (23'721 fr.90), à titre de gratification 2007 (10'000 fr.), à titre de jours de vacances non prises en nature (5'948 fr.55) et à titre d'indemnité pour licenciement abusif (44'361 fr.). Par jugement du 26 janvier 2010, le tribunal a condamné l'employé à payer à l'employeur la somme nette de 200'000 fr., avec intérêts moratoires à 5% l'an dès le 1er juillet 2008, et pris acte du fait que l'employeur s'engageait à modifier le certificat de travail délivré, tout en l'y condamnant en tant que de besoin. Les parties ont été déboutées de toutes autres conclusions. Statuant le 30 novembre 2010 sur appel de l'employé, la Cour d'appel de la juridiction des prud'hommes du canton de Genève a annulé le jugement de première instance. Elle a donné acte aux parties de leur accord concernant le libellé du certificat de travail et condamné, en tant que de besoin, l'employeur à délivrer ledit certificat; elle a par ailleurs condamné l'employeur à verser à l'employé la somme de 12'452 fr.25 à titre de solde de bonus/commission pour l'exercice 2007, avec intérêts, et condamné celui-ci à verser à celui-là la somme de 40'000 fr., avec intérêts, à titre de violation de la clause de non-concurrence, en autorisant la compensation des montants précités. Les parties ont enfin été déboutées de toutes autres conclusions. C. L'employé exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal. Invoquant l'arbitraire dans la constatation des faits et une violation des art. 340c al. 2, 336 al. 1 let. d et 322a CO, il conclut, sous suite de dépens, à l'annulation de l'arrêt entrepris et à la condamnation de l'employeur à lui verser la somme de 44'361 fr., avec intérêts dès le 30 juin 2008, à titre d'indemnité pour licenciement abusif, et la somme de 23'721 fr.90, avec intérêts dès le 31 juillet 2008, à titre de bonus/commission pour l'année 2008. Il conclut également au déboutement de l'employeur, "ainsi que de tout opposant", de toutes autres ou contraires conclusions. Le recourant requiert par ailleurs que l'effet suspensif soit octroyé à son recours. L'intimée sollicite le rejet du recours, sous suite de dépens. 