Faits: A. T._, né en 1946, a travaillé au service de X._ dès le 1er septembre 1988 comme ouvrier puis comme chef d'équipe. Depuis le 17 septembre 2002, il a été en incapacité de travail totale en raison notamment d'un état dépressif, d'une insuffisance cardiaque et d'un diabète et a touché à ce titre des indemnités journalières pour perte de gain de la part de la Winterthur Assurances. Le 25 février 2004, l'intéressé a déposé une demande de rente auprès de l'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'OAI). Dans le cadre de l'instruction, l'OAI a confié la réalisation d'une expertise pluridisciplinaire au Centre d'observation médicale de l'assurance-invalidité (COMAI). Dans leur rapport du 19 octobre 2004, le docteur L._, rhumatologue, le docteur B._, psychiatre, et le docteur D._, cardiologue, n'ont retenu aucun diagnostic ayant une répercussion sur la capacité de travail. En revanche, ils ont posé comme diagnostics sans répercussion sur la capacité de travail, un trouble somatoforme douloureux sans comorbidité psychiatrique, ni perte de l'intégration sociale, une hypertension artérielle (HTA) traitée et un diabète non insulino-dépendant traité. Dans un rapport du 12 octobre 2005, le docteur R._ a fait état d'une aggravation de la dyspnée avec réapparition des opacités pulmonaires ainsi que d'une aggravation de l'atrophie neurologique du membre inférieur droit. Selon ce médecin, l'incapacité de travail restait totale. Dans un rapport du 21 janvier 2006, le docteur P._, spécialiste FMH en psychiatrie et psychothérapie, a indiqué que l'assuré présentait un état dépressif, "associé à un sentiment d'injustice à son égard et d'un échec existentiel". Tout traitement jusqu'alors s'étant montré inefficace, l'état était resté le même. Au vu des problèmes somatiques annexes et de l'âge du patient, une intégration dans le monde du travail lui paraissait illusoire. Il a conclu à une incapacité de travail de 80%. L'OAI a soumis les rapports médicaux des docteurs R._ et P._ à son Service médical régional (SMR), lequel a conclu, le 17 février 2006, qu'aucun élément médical nouveau n'était apparu depuis l'expertise du COMAI. Par décision du 16 février 2005, confirmée sur opposition le 7 mars 2006, l'OAI a nié le droit de l'assuré à une rente d'invalidité. B. T._ a formé recours contre la décision sur opposition du 7 mars 2006 devant le Tribunal administratif du canton de Fribourg en concluant, sous suite de frais et dépens, principalement au renvoi de la cause à l'OAI pour instruction complémentaire sous la forme d'une nouvelle expertise médicale pluridisciplinaire et, subsidiairement, à l'octroi d'une rente entière d'invalidité. A l'appui de ses conclusions, il a fait valoir que son état de santé avait continué à se dégrader postérieurement à l'établissement du rapport du COMAI, ce qu'attestait son médecin traitant dans ses rapports des 12 octobre et 12 décembre 2005. Par jugement du 26 juillet 2007, le Tribunal administratif a rejeté le recours. C. T._ interjette un recours en matière de droit public contre ce jugement en concluant, principalement, à l'octroi d'une rente entière d'invalidité et, subsidiairement, au renvoi de la cause à l'instance cantonale pour instruction complémentaire et nouveau jugement. L'OAI conclut au rejet du recours tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé. 