Faits: A. A.a Par décision du 16 avril 2008, l'Office de l'assurance-invalidité du canton de Berne (ci-après: l'office AI) a alloué, avec effet au 1er mai 2006, une rente entière d'invalidité à K._. A l'époque, l'office AI s'était notamment fondé sur le rapport du 19 novembre 2007 du docteur T._, spécialiste FMH en psychiatrie et psychothérapie et médecin du Service médical régional de l'office AI du canton de Berne (SMR), selon lequel l'assuré souffrait des séquelles d'une chute sur son épaule gauche et de troubles psychiatriques entraînant une incapacité de travail de 100 %. A.b En février 2009, l'office AI a entamé une révision du droit à la rente et soumis l'assuré à une expertise pluridisciplinaire auprès du docteur A._, spécialiste FMH en psychiatrie et psychothérapie, et du docteur H._, spécialiste FMH en rhumatologie. Ceux-ci ont retenu le 2 mars 2010 une capacité de travail à hauteur de 6,5 heures par jour dans une activité adaptée. Par décision du 28 janvier 2011, l'office AI a supprimé le droit de K._ à sa rente d'invalidité à partir du 1er mars 2011. B. L'assuré a déféré cette décision au Tribunal administratif du canton de Berne, Cour des affaires de langue française, qui l'a débouté par jugement du 11 novembre 2011. C. K._ interjette un recours en matière de droit public contre ce jugement dont il requiert l'annulation ainsi que celle de la décision administrative, sous suite de frais et dépens. Dans leurs déterminations, la juridiction cantonale et l'office AI proposent le rejet du recours, tandis que l'Office fédéral des assurances sociales renonce à se déterminer. 