Sachverhalt: A. Der eritreische Staatsangehörige X._ (geb. 1978) gelangte am 30. April 2007 in die Schweiz und stellte hier ein Asylgesuch. Nachdem diesem entsprochen wurde, erhielt er eine vom Kanton Freiburg ausgestellte, bis am 30. April 2012 gültige Aufenthaltsbewilligung. Am 30. Oktober 2010 verheiratete er sich in Khartum mit der am 8. November 1985 geborenen Y._. Am 3. November 2010 stellte Y._ bei der Schweizer Botschaft in Khartum ein Gesuch um Einreise in die Schweiz im Rahmen des Familiennachzuges. Mit Verfügung vom 12. Mai 2011 wies das Amt für Bevölkerung und Migration des Kantons Freiburg das Begehren ab. Zur Begründung führte es aus, es bestehe kein Anrecht auf Einreise in die Schweiz. Überdies habe Y._ weder einen Eheschein noch andere Identitätsausweise, die von der Schweizer Botschaft beglaubigt worden wären, vorlegen können. Die von X._ und Y._ gegen diesen Entscheid erhobene Beschwerde wies das Verwaltungsgericht des Kantons Freiburg am 2. Februar 2012 ab. B. Mit Eingabe vom 12. März 2012 führt X._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, das letztgenannte Urteil aufzuheben und das Amt für Bevölkerung und Migration des Kantons Freiburg anzuweisen, der Ehefrau des Beschwerdeführers die Einreise in die Schweiz und den Aufenthalt im Kanton Freiburg zwecks Verbleib beim Ehegatten zu bewilligen. Eventualiter sei die Sache zur Neubeurteilung und ergänzenden Begründung an die Vorinstanz zurückzuweisen. Gleichzeitig beantragt er unentgeltliche Rechtspflege. C. Das Verwaltungsgericht des Kantons Freiburg und das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. Das Amt für Bevölkerung und Migration des Kantons Freiburg verweist auf den vorinstanzlichen Entscheid und führt ergänzend an, die Eheschliessung der betroffenen Personen sei rein religiöser Natur. Mit Eingabe vom 22. Juni 2012 nimmt X._ zu diesem Vorbringen Stellung und hält an seiner Beschwerde fest. 