Sachverhalt: A. A.a Der 1960 geborene M._ meldete sich am 13. Juni 2000 zum Leistungsbezug bei der Invalidenversicherung an. Mit Verfügung vom 12. Dezember 2000 verneinte die IV-Stelle des Kantons Bern einen Anspruch auf berufliche Eingliederungsmassnahmen (Berufsberatung, Umschulung auf eine neue Tätigkeit) sowie auf eine Rente der Invalidenversicherung. Die von M._ hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 1. November 2001 ab. Das daraufhin angerufene Eidgenössische Versicherungsgericht hiess die Verwaltungsgerichtsbeschwerde in dem Sinne gut, dass es den angefochtenen Entscheid aufhob und die Sache an die Vorinstanz zurückwies, damit sie nach erfolgten Abklärungen im Sinne der Erwägungen über den Anspruch des Versicherten auf Leistungen der Invalidenversicherung neu zu entscheiden hatte (Urteil I 771/01 vom 27. Mai 2003). Hinsichtlich der das Prozessthema bildenden Frage nach der Erfüllung der versicherungsmässigen Voraussetzungen für die entsprechenden Versicherungsleistungen (berufliche Eingliederungsmassnahmen, Rente) gelangte das kantonale Gericht nach den getätigten Abklärungen zum Schuss, dass diese gegeben seien, da eine allfällige Invalidität erst eingetreten sei, nachdem sich der Versicherte ein Jahr in der Schweiz aufgehalten und Beiträge bezahlt habe. In Gutheissung der Beschwerde wies das Verwaltungsgericht des Kantons Bern die Sache zur Abklärung der weiteren Anspruchsvoraussetzungen in Form eines polydisziplinären Gutachtens an die IV-Stelle zurück (Entscheid vom 4. Mai 2007). A.b In der Folge beauftragte die IV-Stelle das Institut X._ mit der Erarbeitung eines polydisziplinären Gutachtens, welches am 1. Oktober 2008 erstattet wurde. Auf dieser Grundlage gelangte die Verwaltung, ausgehend von einer zumutbaren leichten bis mittelschweren, wechselbelastenden Tätigkeit von 80 %, zu einem - wiederum keinen Anspruch auf Invalidenrente begründenden - Invaliditätsgrad von 28 % (Vorbescheid vom 25. November 2008). Auf Intervention des Versicherten hin bekräftigte die IV-Stelle ihren Standpunkt mit Verfügung vom 21. Januar 2009). B. Die hiegegen eingereichte Beschwerde wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 31. Juli 2009 ab. C. M._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des vorinstanzlichen Entscheids sei "die Arbeitsfähigkeit psychiatrisch näher abzuklären. Sodann sei über den Rentenanspruch zu befinden". Ausserdem ersucht er um unentgeltliche Prozessführung. IV-Stelle und Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. D. Mit Begleitbrief vom 23. Juni 2010 reicht die IV-Stelle ein an sie gerichtetes Schreiben des behandelnden Psychiaters Dr. med. S._, Facharzt FMH für Psychiatrie und Psychotherapie, vom 18. Juni 2010 ein. 