Faits: A. B._, née en 1957, et A._, né en 1941, tous deux de nationalité canadienne, se sont mariés le 7 décembre 1990 à Ottawa (Canada). Deux enfants désormais majeurs sont issus de leur union: C._, né le 19 mai 1992, et D._, née le 26 avril 1994. B. B.a Par jugement du 27 septembre 2007, le Tribunal de première instance du canton de Genève a notamment prononcé le divorce des époux; maintenu l'autorité parentale conjointe sur les enfants D._ et C._ alors encore mineurs (ch. 3); instauré une garde alternée sur ces enfants (ch. 4); donné acte aux parties de leur engagement de payer chacune par moitié tous les frais liés à l'entretien de D._ et C._ (ch. 5) et dit que les parents se partageraient par moitié tant les allocations familiales ou d'études versées en mains de B._ que les rentes AVS et LPP perçues par A._ en faveur de leurs enfants (ch. 6). B.b Les chiffres 5 et 6 du jugement de première instance ont été partiellement modifiés par arrêt du 19 septembre 2008 de la Cour de justice du canton de Genève en ce sens que A._ et B._ ont été condamnés à se verser réciproquement, par mois et d'avance, la moitié des allocations familiales et des rentes complémentaires AVS et LPP perçues par chacun d'eux (ch. 5) et que A._ et B._ se partageraient, à raison de 10% à la charge du premier et de 90% à charge de la seconde, tous frais d'entretien des enfants décidés conjointement par eux, qui excéderaient les rentes et allocations précitées (ch. 6). B.c Par arrêt du 6 août 2009 rendu sur recours des deux parties, le Tribunal fédéral a confirmé la teneur du chiffre 5 de l'arrêt de la Cour de justice et arrêté la prise en charge des frais des mineurs dépassant les rentes et allocations perçues - visées au chiffre 6 de l'arrêt de la Cour de justice - à raison de 35% pour A._ et de 65% pour B._. C. C.a Par acte déposé le 11 décembre 2009 auprès du Tribunal de première instance du canton de Genève, A._ a intenté une action en modification du jugement de divorce, concluant à ce que la garde sur ses enfants lui soit attribuée, à ce qu'il soit dit qu'il était désormais "le seul bénéficiaire" des rentes complémentaires AVS et LPP destinées à C._ et D._, à ce que B._ soit condamnée à lui reverser l'entier des allocations familiales ou d'études perçues en faveur des enfants, à ce que l'arrêt rendu par le Tribunal fédéral soit confirmé pour le surplus et à ce que son ex-épouse soit condamnée à lui verser une somme de 1'895 fr. par mois au titre de contribution à l'entretien de chacun des enfants, de 15 ans jusqu'à leur majorité, voire au-delà en cas d'études ou de formation suivies de façon régulière et sérieuse. Cette demande intervenait suite au désir exprimé par les enfants, respectivement les 13 octobre et 3 novembre 2009, de vivre désormais auprès de leur père uniquement, alors qu'ils logeaient précédemment alternativement chez chacun de leurs parents. A._ soutenait à cet égard que le changement de lieu de vie des enfants avait entraîné une augmentation correspondante de ses charges personnelles, respectivement une diminution des dépenses de son ex-épouse, qui justifiaient les modifications requises. B._ a partiellement adhéré aux conclusions formulées par son ex-époux, notamment en acceptant de lui reverser l'intégralité des allocations familiales qu'elle percevait et en admettant qu'il conserve l'entier des rentes complémentaires AVS et LPP destinées à l'entretien des enfants. Elle s'est en revanche opposée au versement d'une contribution supplémentaire au motif que les besoins des enfants demeuraient largement couverts par les diverses rentes et allocations que percevait désormais intégralement son ex-époux et qu'elle continuait par ailleurs à assumer à concurrence de 65 % les éventuelles dépenses excédentaires de C._ et D._. C.b Par jugement du 3 février 2011, le Tribunal de première instance du canton de Genève a notamment attribué la garde sur D._, alors encore mineure, à son père (ch. 2), dit qu'à compter du 11 décembre 2009, A._ n'était plus tenu de verser à B._ la moitié des rentes complémentaires AVS et LPP perçues pour les enfants (ch. 6) et condamné B._ à verser à son ex-époux à compter de la même date, la totalité des allocations familiales ou d'études qu'elle percevait pour C._ et D._ (ch. 7). L'autorité de première instance a toutefois refusé d'allouer une contribution d'entretien à charge de la mère au motif qu'à défaut pour les parties d'avoir allégué que les besoins de leurs enfants se seraient substantiellement modifiés depuis la décision rendue par le Tribunal fédéral le 6 août 2009, il y avait lieu d'admettre, comme l'avait fait la haute Cour, que les besoins des enfants étaient d'ores et déjà entièrement couverts par les rentes et allocations perçues par leurs parents. C.c Statuant le 26 janvier 2012 sur appel de A._, lequel contestait la décision de l'autorité de première instance de ne pas mettre une contribution à l'entretien des enfants à charge de son ex-épouse, la Cour de justice du canton de Genève a entièrement confirmé la décision de première instance. D. Le 5 mars 2012, A._ a formé un recours en matière civile auprès du Tribunal fédéral contre cette décision. Il conclut principalement à son annulation et à ce que B._ soit condamnée à contribuer à l'entretien de ses enfants par le versement mensuel de 1'230 fr. à chacun d'eux dès le 1er novembre 2009 et jusqu'à leur majorité ou leur indépendance financière, allocations familiales en sus; subsidiairement, il conclut à l'annulation dudit arrêt, au renvoi de la cause à l'autorité cantonale pour complément d'instruction et, cela fait, à ce que B._ soit condamnée à contribuer à l'entretien de ses enfants par le versement mensuel de 1'230 fr. à chacun d'eux dès le 1er novembre 2009 et jusqu'à leur majorité ou leur indépendance financière, allocations familiales en sus. A l'appui de ses conclusions, il invoque l'arbitraire dans l'appréciation des preuves, à savoir la violation de l'art. 9 Cst., ainsi que la violation du droit fédéral et de l'art. 285 al. 1 CC en particulier. Des déterminations n'ont pas été requises. 