Faits : A. A.a. A._ (maître de l'ouvrage) est propriétaire d'une parcelle dans la commune de X._ (GE) sur laquelle est construit un ancien hôtel d'une surface d'environ 800 m2. Ayant le projet de transformer cet hôtel en maison d'habitation, A._ a signé en juillet 2006 avec deux architectes un contrat prévoyant que C._ SA - société sise à Y._ (VD) ayant pour but la réalisation, la gestion, la technique du bâtiment, l'architecture et l'ingénierie - assurerait en sous-traitance la gestion du projet et la direction des travaux. Le budget prévu pour les seules transformations était d'environ 4 millions de francs. Dès le début de l'année 2007, C._ SA a confié, au nom et pour le compte du propriétaire, différents travaux de gypserie et de peinture à D._ SA, société domiciliée à Genève active dans la commercialisation et la pose de cloisons et de plafonds. Cinq contrats ont été signés dans ce cadre avec cette dernière entreprise entre le 9 février 2007 et le 30 août 2007 selon les travaux concernés. D'après les conditions générales de ces accords, le prix des travaux, qui dépassait 500'000 fr., était exigible à 80% en cours de chantier et à 100% dès leur réception définitive. Les travaux devaient se terminer au mois de septembre 2007. Le 16 novembre 2007, C._ SA a déploré auprès de D._ SA le retard pris dans la réalisation des travaux. A.b. B._ SA, à Z._ (VD), a pour but social l'exécution de travaux liés à la construction. Jusqu'au printemps 2008, B._ SA et D._ SA avaient toutes deux pour actionnaires et administrateurs E._ et F._. Par une convention signée à une date inconnue, qui a pris effet au 1er janvier 2008, E._ est devenu actionnaire unique et administrateur de B._ SA, alors que F._ devenait actionnaire unique et administrateur de D._ SA. Dans le cadre de cette convention, B._ SA et D._ SA se sont partagé les chantiers sur lesquels elles intervenaient. Ainsi, B._ SA a en particulier repris, à ses risques et profits, les travaux en cours sur la propriété de A._, avec effet au 1er janvier 2008, et, partant, tous les droits et obligations afférents aux cinq contrats conclus entre le maître de l'ouvrage et D._ SA, à la décharge de celle-ci. Depuis lors, la qualité des travaux de gypserie et de peinture menés sur la parcelle du maître s'est dégradée, ce qui s'est traduit par des absences répétées de B._ SA aux réunions de chantier, par la délégation d'employés sur le chantier sans que C._ SA en soit avisée et par l'envoi de personnel non qualifié par rapport aux exigences requises. Il a été retenu que le travail exécuté par B._ SA a été bâclé et que l'avancement du chantier en a été entravé. A de nombreuses reprises, entre le 7 janvier 2008 et le 2 juin 2008, le maître de l'ouvrage et C._ SA ont reproché à D._ SA ou à B._ SA un avancement insuffisant du chantier, en violation du planning prévu, ainsi que divers manquements dans l'exécution des travaux. Par courrier du 19 juillet 2008, le maître de l'ouvrage a informé C._ SA qu'il avait demandé à D._ SA de retirer tous ses ouvriers du chantier au vu de la succession de problèmes rencontrés avec ces derniers (saleté du chantier, équipe défaillante) et en particulier des retards causés par cette entreprise. Il a mentionné à C._ SA avoir souhaité à réitérées reprises confier les travaux de gypserie/peinture à une autre entreprise, mais en avoir été dissuadé jusque-là par le destinataire du pli, qui s'«acharn (ait) à défendre l'indéfendable ». Le 21 juillet 2008, D._ SA et B._ SA ont cessé toute activité sur le chantier. Les travaux de gypserie et de peinture n'étaient alors pas terminés. Le 28 juillet 2008, le maître de l'ouvrage a écrit à D._ SA qu'il lui avait demandé de quitter le chantier en raison du manque de diligence dont elle avait constamment fait preuve et de l'insuffisance à tous égards de ses ouvriers, qui s'étaient disputés entre eux et s'étaient montrés grossiers. D._ SA avait exécuté les travaux confiés dans un désordre et une approximation qui avaient déréglé considérablement les travaux menés par les autres entreprises. Pour le maître, ces manquements avaient entraîné des conséquences financières qui seraient ultérieurement précisées à D._ SA. Toujours le 28 juillet 2008, B._ SA a adressé au maître six factures concernant les travaux de gypserie et de peinture initialement adjugés, dont le total s'élevait à 639'644 fr.50; compte tenu des acomptes déjà versés par le maître, ascendant à 369'898 fr., le solde dû par ce dernier se montait à 269'746 fr.50. Le 30 juillet 2008, cette société a contesté les reproches que lui avait adressés le maître, faisant valoir que le retard dans l'exécution des travaux résultait des mauvaises conditions du chantier, de la désorganisation des autres entreprises et du changement constant des instructions reçues du maître de l'ouvrage. Le solde de ses factures n'ayant pas été honoré, B._ SA a obtenu du Tribunal de première instance de Genève, par ordonnance de mesures préprovisionnelles du 17 octobre 2008, l'inscription provisoire au Registre foncier de Genève d'une hypothèque légale des artisans et entrepreneurs sur l'immeuble de A._, à concurrence de 269'746 fr.50 avec intérêts à 5% l'an dès le 28 août 2008. Après audition des parties, cette autorité a confirmé cette décision par une ordonnance de mesures provisoires du 10 décembre 2008 et imparti un délai de 30 jours à B._ SA pour déposer une demande au fond. Sollicité par C._ SA pour examiner les travaux réalisés par B._ SA, l'expert privé G._, membre du groupe d'experts FMB, a relevé, dans un rapport du 10 novembre 2008, diverses malfaçons entachant les travaux de gypserie, qui concernaient l'enduisage appliqué sur les murs, l'enduisage des faux-plafonds, l'existence de fers d'angles et de faux alignements ainsi que la qualité des arrêtes. Les frais d'expertise se sont montés à 1'086 fr.75. Egalement mandatée par C._ SA, l'experte privée H._ SA, dans un rapport du 14 novembre 2008, a constaté des malfaçons affectant la peinture des plafonds, le revêtement et la peinture des murs ainsi que le réchampissage auxquelles s'ajoutait la présence de taches de peinture. Les honoraires de H._ SA pour cette expertise privée ont atteint la somme de 2'087 fr.45. A.c. Le 5 décembre 2008, A._ a déposé une requête d'expertise provisionnelle devant le Tribunal de première instance, lequel y a fait droit par ordonnance du 17 février 2009, désignant en qualité d'expert I._, architecte à Genève, avec pour mission d'examiner les travaux de cloisons, plafonds, enduits et peinture réalisés par B._ SA, de déterminer si ces travaux ont occasionné des dégâts et, le cas échéant, d'évaluer le coût de la remise en état. Dans son rapport du 23 juin 2009, l'expert judiciaire a mentionné que les travaux sur les cloisons, plafonds et revêtements muraux laissaient apparaître de nombreux défauts touchant tous les locaux (à l'exception du sous-sol et des plafonds de quelques chambres), que l'exécution défaillante des travaux avait eu un fort impact sur la fonctionnalité et l'esthétique du projet, que les travaux relatifs aux fonds et surfaces des murs, plafonds et plinthes devaient être refaits, des travaux de correction de planéité devant en outre être opérés. Il a été retenu qu'après la rupture des relations contractuelles nouées avec B._ SA, le maître a mandaté différentes entreprises afin de procéder à une remise en état des défauts constatés, respectivement de deviser le coût de ces remises en état. B. B.a. Agissant dans le délai de 30 jours fixé par le juge des mesures provisionnelles, B._ SA (demanderesse) a déposé, le 12 janvier 2009, une demande contre C._ SA et A._ devant le Tribunal de première instance, concluant au paiement de 269'746 fr.50 avec intérêts à 5% l'an dès le 28 août 2008 et à l'inscription définitive d'une hypothèque légale des artisans et entrepreneurs pour le même montant sur l'immeuble propriété du maître de l'ouvrage. Le 12 avril 2011, la demanderesse a retiré ses conclusions contre C._ SA, de sorte que celle-ci a été mise hors de cause par jugement du 2 mai 2011 rendu par ledit tribunal. A._ (défendeur) s'est opposé à la demande. Il a formé une reconvention, requérant en dernier lieu paiement par la demanderesse de la somme totale de 1'050'073 fr.30, qui incluait tant les réparations devisées que les réparations effectuées par les diverses entreprises qu'il avait mandatées après juillet 2008, ainsi que les frais générés par les deux experts privés. La demanderesse a conclu à sa libération des fins de la reconvention. Auditionné par le Tribunal de première instance, l'expert I._, qui avait été commis par ordonnance provisionnelle du 17 février 2009, a confirmé son rapport du 23 juin 2009. Soulignant la complexité du chantier, il a déclaré qu'il n'avait pas pu procéder à l'estimation de la valeur des travaux de réfection, car cela aurait nécessité un très gros travail de métrés. Un complément d'expertise aurait été nécessaire sur cette question. Si les malfaçons constatées étaient essentiellement visuelles, il y avait également des problèmes d'ossature, qui nécessitaient des travaux de démolition et de reconstruction. Les travaux de réfection risquaient ainsi de coûter plus cher que les travaux initialement adjugés. Entendus comme témoins, les représentants des entreprises intervenues sur le chantier ont déclaré notamment que l'immeuble était affecté de différents défauts de plâtrerie, ce qui nécessitait de démolir et de remonter certaines parties de l'ouvrage. Le parqueteur a déploré le mépris des ouvriers de l'entreprise de plâtrerie à l'égard des autres corps de métier, affirmant n'avoir jamais vu un tel chantier en 35 ans de métier. Ils ont estimé approximativement le coût des travaux de réfection de la peinture et des plâtres dans une fourchette oscillant entre 700'000 fr. et 1'000'000 fr. Le directeur de H._ SA a évalué le coût des seuls travaux de peinture à refaire (sans les travaux de plâtrerie) à un montant oscillant entre 150'000 fr. et 200'000 fr. Il a été retenu que le 20 mai 2011 C._ SA et H._ SA ont offert au défendeur de procéder à un devis complet des travaux de réfection à effectuer afférents à la plâtrerie et à la peinture. Par jugement du 30 mai 2013, le Tribunal de première instance a entièrement rejeté la demande et ordonné la radiation de l'hypothèque légale des artisans en entrepreneurs inscrite provisoirement en faveur de la demanderesse sur le bien-fonds du défendeur; statuant sur la reconvention, il a condamné la demanderesse à verser au défendeur le montant de 484'200 fr. plus intérêts à 5% dès le 1er septembre 2009. En résumé, le Tribunal de première instance a considéré que les enquêtes ont établi l'importance quantitative et qualitative des défauts affectant les travaux réalisés par la demanderesse, de sorte que le maître était fondé à obtenir une réduction du prix de l'ouvrage en application de l'art. 368 al. 2 CO. Le solde du prix des travaux réclamé par la demanderesse étant très largement absorbé par les frais de remise en état, déterminés à 700'000 fr., les conclusions de celle-ci en paiement et en validation de l'inscription de l'hypothèque légale étaient infondées. Le défendeur était fondé à exiger la réparation des dommages consécutifs aux défauts, qui sont clairement imputables à la demanderesse. Faisant application de l'art. 42 al. 2 CO, le tribunal, prenant en compte un devis de réparation de 753'200 fr. (TVA de 7,6% comprise), a accordé au défendeur, demandeur reconventionnel, la somme de 484'200 fr., représentant la différence entre le montant de ce devis et le solde restant dû sur les factures de la demanderesse (269'000 fr. après arrondissement). B.b. Saisie de l'appel de la demanderesse, la Chambre civile de la Cour de justice du canton de Genève, par arrêt du 20 décembre 2013, a annulé le jugement précité; statuant à nouveau, elle a condamné le défendeur à payer à la demanderesse la somme de 269'746 fr.50 avec intérêts à 5% dès le 28 août 2008, ordonné l'inscription définitive au registre foncier, au profit de cette dernière, de l'hypothèque légale provisoirement inscrite sur la parcelle propriété du défendeur à due concurrence, imparti à la demanderesse un délai d'un mois pour requérir l'inscription définitive à compter de la date de l'arrêt entré en force de chose jugée et enfin condamné la demanderesse à payer au défendeur la somme de 3'174 fr.20 avec intérêts à 5% dès le 1er septembre 2009. En substance, la cour cantonale a considéré les cinq accords conclus entre les parties comme un seul et unique contrat d'entreprise. Elle a retenu que le maître n'a jamais déclaré avoir eu l'intention de résoudre le contrat avec effet ex tunc conformément à l'art. 366 al. 1 CO et que l'art. 366 al. 2 CO n'était pas applicable, car le défendeur n'avait pas mis l'entreprise en demeure de réparer l'ouvrage, à défaut de quoi la réfection serait opérée par une entreprise tierce. Pour les magistrats genevois, le contrat a été résilié avec effet ex nunc sur la base de l'art. 377 CO. La partie livrée de l'ouvrage inachevé est assimilable à un ouvrage complet, de sorte que la demanderesse, dont les factures n'ont pas été contestées en tant que telles, a droit au paiement des travaux adjugés à hauteur du solde resté impayé, soit 269'746 fr.50. L'autorité cantonale a considéré que les art. 367 ss CO concernant la garantie des défauts de l'ouvrage s'appliquaient même si ce dernier n'avait pas été intégralement livré. Toutefois, le maître n'a manifesté aucune volonté d'exercer l'action minutoire ou celle en réfection de l'ouvrage avant ou durant la procédure, la résolution du contrat n'entrant pas en ligne de compte. Or, le premier juge a violé le droit en admettant qu'il fallait suppléer à ce défaut en appliquant malgré tout une réduction du prix. Partant, le maître ne peut obtenir, au titre de dommages-intérêts, que le remboursement du montant des frais d'expertise privée, par 3'174 fr.20. A supposer même que le défendeur ait manifesté son intention d'exiger la diminution du prix de l'ouvrage, il n'a pas apporté la preuve du coût des travaux de réfection nécessaires à la réparation. Et, comme la preuve du dommage concret était possible, le premier juge n'était pas en droit de le déterminer équitablement sur la base de l'art. 42 al. 2 CO. Le maître n'était pas fondé à refuser de payer le solde du prix de l'ouvrage ni d'exiger le remboursement des montants déjà versés, de sorte que la demanderesse avait droit au versement de ce reliquat et à l'inscription définitive de l'hypothèque légale inscrite provisoirement sur la parcelle du maître. C. A._ exerce un recours en matière civile au Tribunal fédéral contre cet arrêt. Principalement il conclut à l'annulation de cet arrêt, à ce que la demanderesse soit condamnée à lui verser la somme de 484'200 fr. plus intérêts à 5% dès le 1er septembre 2009 et à ce que l'hypothèque légale inscrite provisoirement en faveur de celle-ci soit radiée; subsidiairement, il requiert que la demanderesse soit déclarée sa débitrice du montant de 753'200 fr. sous déduction de 269'000 fr., avec intérêts à 5% dès le 1er septembre 2009, la radiation de l'hypothèque légale inscrite provisoirement étant ordonnée; plus subsidiairement, il sollicite le renvoi de la cause à la Cour de justice pour nouvelle décision dans le sens des considérants; encore plus subsidiairement, il conclut au renvoi du litige au Tribunal de première instance pour nouvelle décision au sens des considérants. L'intimée propose le rejet du recours en tant qu'il est recevable. Le recourant a répliqué et l'intimée a dupliqué. L'effet suspensif sollicité par le recourant lui a été accordé par ordonnance présidentielle du 28 mars 2014. 