Faits: A. A.a. C._ sans formation, a travaillé comme responsable dans une menuiserie jusqu'en janvier 2002. Le 6 mars suivant, il s'est annoncé auprès de l'office AI Berne (l'office AI), invoquant des hernies discales. Par décision sur opposition du 28 avril 2004, confirmée le 15 octobre suivant par le Tribunal administratif du canton de Berne, Cour des affaires de langue françaises, l'administration lui a dénié le droit à une rente. A.b. Le 3 novembre 2004, l'assuré a déposé une nouvelle demande auprès de l'office AI. Dans le cadre de l'instruction de celle-ci, l'administration a confié la réalisation d'une expertise bidisciplinaire aux docteurs H._, spécialiste FMH en psychiatrie, et psychothérapie et M._, spécialiste FMH en neurologie. Ces médecins ont considéré au terme d'un consilium que la capacité résiduelle de travail était de 70 % (rapports des 21 et 24 juin 2005). Par décision sur opposition du 20 septembre 2006, l'office AI a octroyé à l'assuré un quart de rente à partir du 1er octobre 2005. Le 3 avril 2007, le Tribunal administratif du canton de Berne, Cour des affaires de langue française, a rejeté le recours formé par l'intéressé contre cette décision. A.c. L'administration a initié en décembre 2008 une procédure de révision du droit à la rente. Il a notamment recueilli l'avis du docteur L._, spécialiste FMH en psychiatrie et psychothérapie et médecin traitant (rapport du 16 janvier 2009), et chargé les docteurs H._ et M._ de la réalisation d'une nouvelle expertise. Ceux-ci ont estimé que la capacité de travail était du point de vue somatique entière dans une activité légère permettant l'alternance des positions debout et assise mais réduite à 50 % en raison des troubles psychiques de l'assuré (rapport du 20 décembre 2010). L'office AI a supprimé par décision du 1er mars 2013 le droit au quart de rente à partir du premier jour du deuxième mois suivant la notification de la décision, au motif que C._ était capable de surmonter les répercussions de son atteinte à la santé psychique et, partant, présentait une capacité de travail entière. B. Par jugement du 28 octobre 2013, le Tribunal administratif du canton de Berne, Cour des affaires de langue française, a partiellement admis le recours formé par C._ contre cette décision et lui a reconnu le droit à une demi-rente à partir du 1er mars 2011. C. C._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut à l'octroi d'un trois quarts de rente à compter du 1er mars 2011, éventuellement au renvoi de la cause au Tribunal administratif du canton de Berne, Cour des affaires de langue française, pour mise en oeuvre d'une instruction complémentaire puis nouveau jugement. 