Faits: A. A.a O._ a acquis une formation d'instructeur de plongée sous-marine. Du 1er avril 2000 au 31 juillet 2002, il a bénéficié d'un contrat de travail conclu avec la société X._, A._, qui l'a engagé en tant que responsable de base et moniteur de plongée sous-marine. Du 25 avril au 3 mai 2002 et du 21 mai au 23 juin 2002, il a été à l'arrêt de travail à 100 % (certificat médical du 28 juin 2002 et questionnaire du 9 août 2002 du docteur E._, spécialiste en médecine générale). Le 15 août 2002, le Président du Tribunal de l'arrondissement de Lausanne a prononcé la faillite du titulaire de la société X._. Du 25 mars au 27 novembre 2002, O._ a effectué des missions en qualité de magasinier pour le compte de Y._ SA, qui a résilié les rapports de travail pour le 29 décembre 2002. Dans un certificat médical du 8 janvier 2003, le docteur G._, spécialiste en médecine générale, a attesté une incapacité de travail de 100 % survenue dès le 28 novembre 2002, date à partir de laquelle la Zurich Compagnie d'Assurances SA a versé des indemnités journalières à O._. Celui-ci a émargé à l'assurance-chômage. A.b Le 9 novembre 2004, O._ a présenté une demande de prestations de l'assurance-invalidité. Le docteur R._, spécialiste FMH en médecine générale, a conclu dans un rapport médical détaillé E 213 du 28 novembre 2004 à une incapacité de travail depuis le 1er novembre 2003. Le docteur G._, dans un rapport du 7 janvier 2005, a indiqué que le patient avait présenté une incapacité de travail de 100 % du 21 au 24 novembre 2002 et du 28 novembre 2002 au 16 mars 2003 et de 50 % du 17 mars au 23 juillet 2003. Les docteurs I._ et S._, tous deux spécialistes FMH en psychiatrie et psychothérapie, ont conclu le premier dans une expertise psychiatrique du 10 juin 2005 à une capacité de travail exigible d'au moins 50 % à partir du début de l'année 2005 et la seconde dans un rapport du 11 janvier 2007 à une capacité de travail de 50 % dès le 12 janvier 2006 (date de la première consultation), d'une durée indéterminée. Dans un avis du 8 février 2007, le docteur B._, médecin SMR, a conclu à une capacité de travail d'au moins 50 % dans une profession commerciale. Sur cette base, l'Office de l'assurance-invalidité du canton de Fribourg, dans un préavis du 8 février 2007, a informé O._ que sa capacité de travail était restreinte depuis le 20 octobre 2003 (début du délai d'attente d'un an) et qu'il présentait une capacité de travail de 50 % dans une activité adaptée (par exemple en tant que vendeur/représentant) et une invalidité de 15 % (compte tenu d'un revenu sans invalidité de 29'980 fr. [soit la somme de 28'800 fr. figurant dans le compte individuel sous l'année 2001, indexée à 4.1 % selon l'indice suisse des prix à la consommation] et d'un revenu d'invalide de 25'464 fr. par année - valeur 2004 -), taux ne donnant pas droit à une rente. Le 5 mars 2007, l'assuré a fait part à l'office AI de ses observations. Il a produit copie du contrat de travail conclu avec A._ et des feuilles de paye de X._ pour les périodes de mars 2000 à janvier 2003. Par lettre du 26 juin 2007, l'office AI a avisé O._ qu'il existait des divergences entre les relevés de salaire et l'extrait de son compte individuel (CI) et l'a invité à clarifier sa situation auprès de l'employeur, faute de quoi il statuerait sur la base des CI. Par décision de refus de rente d'invalidité du 7 août 2007, il a rejeté la demande pour les motifs exposés dans son préavis. B. Le 10 octobre 2007, O._ a formé recours contre cette décision devant le Tribunal administratif, Cour des assurances sociales du canton de Fribourg (aujourd'hui: Tribunal cantonal du canton de Fribourg, Cour des assurances sociales), en concluant, sous suite de frais et dépens, à son annulation et à l'octroi à partir du 1er octobre 2003 d'une rente entière d'invalidité; il a ensuite produit plusieurs documents avec un mémoire complémentaire du 8 novembre 2007. Alléguant que le revenu sans invalidité devait être fixé à 86'240 fr. sur la base des revenus de l'année 2002, soit le revenu réalisé de mars à décembre 2002 auprès de Y._ SA de 20'105 fr. et le salaire auquel il avait droit de la part de A._ de 66'135 fr. pour l'ensemble de l'année, il faisait valoir que pendant la période où il a travaillé à titre temporaire auprès de Y._ SA, il avait continué à travailler à plein temps pour A._ en effectuant son travail "le week-end" et avait perçu son salaire normalement, ainsi que l'attestaient les feuilles de paye. Sur requête de la juridiction cantonale, le fisc a versé au dossier les documents en sa possession. Le dossier d'assurance-chômage a également été produit. Le 24 novembre 2010, O._ a déposé des observations, qu'il a complétées le 19 janvier 2011 en déposant copie d'une déclaration de sinistre datée du 25 juin 2002 pour la Zurich Compagnie d'Assurances SA. Par arrêt du 28 avril 2011, la juridiction cantonale a rejeté le recours. C. O._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et dépens, à sa réforme en ce sens que le revenu sans invalidité est fixé à 86'240 fr. sur la base d'un revenu principal de "62'501 francs 70" et d'un revenu accessoire de "20'100 francs", la cause étant renvoyée à la juridiction cantonale pour complément d'instruction conformément aux considérants. Il sollicite l'octroi de l'assistance judiciaire gratuite. L'Office de l'assurance-invalidité du canton de Fribourg déclare qu'il n'a pas de remarques particulières à formuler différentes des considérants du jugement rendu par l'autorité de première instance. L'Office fédéral des assurances sociales a renoncé à se déterminer. 