Faits: Faits: A. U._, mariée et mère d'un enfant né le 18 janvier 2000, a présenté, le 15 mai 2001, une demande tendant à l'octroi d'une rente de l'assurance-invalidité. Elle alléguait souffrir d'une dépression chronique ensuite de son accouchement. L'Office de l'assurance-invalidité du canton de Neuchâtel a requis les avis du docteur Z._, médecin traitant de l'assurée (rapport du 14 juillet 2001), ainsi que des médecins du Centre X._ (rapport du 23 mai 2001). Par ailleurs, il a versé au dossier un rapport d'expertise (du 18 janvier 2001) rédigé par le docteur I._, spécialiste en psychiatrie et psychothérapie, à la demande de l'assureur-maladie de l'intéressée. Par décision du 21 février 2002, l'office AI a rejeté la demande dont il était saisi, motif pris que l'assurée ne souffrait pas d'une maladie invalidante au sens de la loi. Par décision du 21 février 2002, l'office AI a rejeté la demande dont il était saisi, motif pris que l'assurée ne souffrait pas d'une maladie invalidante au sens de la loi. B. U._ a recouru contre cette décision devant le Tribunal administratif du canton de Neuchâtel, en concluant à l'octroi d'une rente d'invalidité. Par jugement du 28 avril 2004, la juridiction cantonale a admis partiellement le recours. Elle a annulé la décision attaquée et renvoyé la cause à l'office AI pour nouvelle décision, après complément d'instruction au sujet de la capacité de travail sur le plan psychiatrique et des empêchements éventuels dans l'accomplissement des tâches ménagères. Par jugement du 28 avril 2004, la juridiction cantonale a admis partiellement le recours. Elle a annulé la décision attaquée et renvoyé la cause à l'office AI pour nouvelle décision, après complément d'instruction au sujet de la capacité de travail sur le plan psychiatrique et des empêchements éventuels dans l'accomplissement des tâches ménagères. C. L'office AI interjette recours de droit administratif en concluant à l'annulation du jugement cantonal. L'intimée n'a pas répondu au recours. De son côté, l'Office fédéral des assurances sociales (OFAS) propose l'admission de celui-ci. 