Faits: A. R._ a travaillé dès 1988 dans le domaine de la restauration, puis comme employé dans une boucherie et une laiterie. A partir de septembre 2002, il a exploité à titre d'indépendant un commerce alimentaire à l'enseigne "X._" à Y._. A la suite d'un accident de la circulation (survenu le 11 décembre 2003), R._ a souffert de maux de tête et de cervicalgies. Incapable de travailler jusqu'au 24 mars 2004, il a repris son activité à mi-temps à partir de cette date. Le 15 juin 2005, il a présenté une demande de prestations de l'assurance-invalidité. L'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'office AI) a pris des renseignements économiques et médicaux, notamment auprès du docteur U._, spécialiste FMH en médecine interne. Il a également soumis l'assuré à un examen interdisciplinaire au Centre d'observation médicale de l'assurance-invalidité (COMAI). Dans leur rapport du 16 novembre 2007, les docteurs G._, spécialiste FMH en rhumatologie, médecine interne et médecine du sport, et B._, spécialiste FMH en psychiatrie et psychothérapie, ont diagnostiqué, avec répercussion sur la capacité de travail, des troubles statiques et dégénératifs modérés du rachis cervical, ainsi que, sans répercussion sur la capacité de travail, des cervico-brachialgies et douleurs ubiquitaires de la musculature et du squelette dans un contexte de syndrome douloureux, des séquelles de maladie de Scheuermann, un trouble somatoforme indifférencié et une majoration de symptômes physiques pour des raisons psychologiques. Ils ont conclu que l'assuré avait conservé une capacité de travail et un rendement à 100 % dans son activité professionnelle. Après avoir requis l'avis de son Service médical régional et du docteur K._, spécialiste FMH en psychiatrie et psychothérapie, consulté par l'assuré en février 2008, l'office AI a rejeté la demande de prestations, par décision du 15 avril 2009. B. R._ a déféré cette décision au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, en produisant des nouveaux rapports et certificats médicaux des docteurs U._ et K._. Par jugement du 22 décembre 2011, le Tribunal cantonal a rejeté son recours. C. R._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais et dépens, il conclut principalement à l'octroi d'une rente entière d'invalidité "mais au minimum une demi-rente" et, subsidiairement, au renvoi de la cause à l'office AI pour qu'il "réactualise le dossier médical" et mette en oeuvre une nouvelle expertise psychiatrique, voire un stage d'évaluation professionnelle. A titre plus subsidiaire encore, il conclut au renvoi de la cause à la Cour des assurances sociales du Tribunal cantonal fribourgeois pour qu'elle statue au sens des considérants et des conclusions énoncées ci-avant. Le Tribunal fédéral a renoncé à procéder à un échange d'écritures. 