Faits: A. A.a A._, né en 1966, et dame A._, née en 1971, tous deux originaires de Meyrin, se sont mariés à Genève le 15 février 1990, sans conclure de contrat de mariage. Trois enfants sont issus de cette union: B._, C._ et D._, nés respectivement les 19 juin 1990, 1er juin 1995 et 30 août 2003. Dès 2002-2003, des difficultés ont surgi entre les conjoints. L'épouse a une première fois quitté le domicile conjugal, qu'elle a réintégré deux mois et demi plus tard. Après être à nouveau partie, en emmenant sa fille D._, elle a requis des mesures protectrices de l'union conjugale avec demande de mesures préprovisoires urgentes. Par ordonnance de mesures préprovisoires du 4 juillet 2007, le Tribunal de première instance du canton de Genève a attribué la garde de la cadette à la mère, réservé un droit de visite usuel au père et instauré une curatelle d'organisation et de surveillance du droit de visite. Cette même juridiction a notamment, par jugement sur mesures protectrices de l'union conjugale du 8 janvier 2009, autorisé les époux à vivre séparés, attribué la garde des enfants C._ et D._ au père, réservé un large droit de visite à la mère, constaté qu'il n'avait pas lieu de mettre à la charge de celle-ci une contribution à l'entretien de la famille, instauré une curatelle d'assistance éducative et maintenu celle d'organisation et de surveillance du droit de visite. A.b Par ordonnance du 30 juillet 2009, le Tribunal tutélaire du canton de Genève a prononcé l'interdiction volontaire de l'épouse en se fondant sur le diagnostic posé par son psychiatre le 5 juillet 2009, à savoir que la patiente, qui était analphabète, présentait un trouble dépressif récurrent et des incapacités cognitives majeures, ce qui la rendait influençable et vulnérable et l'avait amenée, par le passé, à être victime d'abus financiers. Par ordonnance du 20 septembre 2011, le Tribunal tutélaire a prononcé la mainlevée de la mesure d'interdiction et institué une curatelle volontaire de gestion en faveur de l'intéressée. En substance, cette autorité a constaté que l'état de santé de celle-ci s'était nettement amélioré: elle ne souffrait plus de dépression, avait gagné en autonomie et était dorénavant à même de se prendre en charge au quotidien. Toutefois, vu son analphabétisme, elle n'était pas en mesure de gérer tout ou partie de ses affaires. Elle restait ainsi vulnérable et influençable face à son entourage. B. Par jugement de divorce du 9 juin 2011, rendu sur requête commune avec accord partiel des époux, le Tribunal de première instance a, entre autres points, prononcé le divorce, attribué au mari l'autorité parentale et la garde des deux enfants mineurs, réservé à la mère un droit de visite restreint, maintenu uniquement la curatelle de surveillance des relations personnelles entre celle-ci et sa fille cadette, donné acte au mari de ce qu'il assumerait seul l'entretien de ses enfants mineurs jusqu'à leur majorité, voire au-delà mais jusqu'à 25 ans au plus, et dit que l'épouse ne recevrait pas de contribution d'entretien. Par arrêt du 9 décembre 2011, la Cour de justice du canton de Genève a, notamment, réformé le jugement de première instance en ce sens que la mari est condamné à payer à l'épouse, jusqu'à l'âge de la retraite de celle-ci, la somme de 500 fr. par mois à titre de contribution d'entretien. C. Par acte du 30 janvier 2012, le mari exerce un recours en matière civile contre l'arrêt du 9 décembre 2011. Il conclut, principalement, à son annulation en tant qu'il le condamne à verser mensuellement à l'intimée une contribution d'entretien d'un montant de 500 fr. jusqu'à ce que celle-ci soit à la retraite, et sollicite le renvoi de la cause à la cour cantonale pour nouvelle décision dans le sens des considérants. Subsidiairement, il demande au Tribunal fédéral de dire qu'il ne doit aucune contribution d'entretien après divorce. Plus subsidiairement, il requiert que le versement de la contribution d'entretien mise à sa charge, d'un montant de 500 fr. par mois, soit limité au 31 décembre 2013. A l'appui de ses conclusions, le recourant se plaint de la violation de son droit d'être entendu (art. 29 al. 2 Cst.) et de celle de l'art. 125 CC. L'intimée propose principalement le rejet du recours dans la mesure de sa recevabilité et, en tant que de besoin, la confirmation de l'arrêt entrepris. Subsidiairement, elle demande à être acheminée à apporter par toutes voies de droit utiles la preuve de l'entier des faits allégués dans ses écritures. Les deux parties sollicitent par ailleurs le bénéfice de l'assistance judiciaire. L'autorité cantonale s'est référée aux considérants de son arrêt. 