Sachverhalt: A. Der 1966 geborene X._, der sich vom 1. bis zum 5. März 2008 freiwillig zur stationären Behandlung in der Klinik K._ aufgehalten hatte, wurde durch Dr. med. Y._ am 6. März 2008 im Sinne eines fürsorgerischen Freiheitsentzugs in die genannte Klinik eingewiesen. Mit einem beim Obergericht des Kantons Bern (kantonale Rekurskommission für fürsorgerische Freiheitsentziehungen) am 13. März 2008 eingegangenen Schreiben vom 11. März 2008 erhob X._ Rekurs. Am 19. März 2008 beauftragte er den Verein Psychex mit seiner Vertretung, worauf dieser noch mit Eingabe vom gleichen Tag die sofortige Entlassung und die Gewährung der unentgeltlichen Rechtspflege mit der Ernennung von Fürsprecher Beat Zürcher als unentgeltlichen Rechtsbeistand verlangte. Mit Eingabe vom 25. März 2008 erneuerte X._ das Armenrechtsgesuch. In der am 26. März 2008 vor Obergericht durchgeführten Verhandlung wurde der persönlich anwesende X._ durch den von Fürsprecher Beat Zürcher bevollmächtigten P._, vertreten. B. Das Obergericht wies den Rekurs mit Urteil vom 26. März 2008 ab (Dispositiv-Ziffer 1). Gleichzeitig stellte es fest, dass die gesetzliche 6-Wochen-Frist am 16. April 2008 ablaufe (Dispositiv-Ziffer 2), und wies es auch das Armenrechtsgesuch ab (Dispositiv-Ziffer 3). Kosten erhob es keine (Dispositiv-Ziffer 4). C. Mit Beschwerde in Zivilsachen vom 8. April 2008 verlangt X._, es seien Dispositiv-Ziffer 1 und Dispositiv-Ziffer 2 (gemeint wohl Ziffer 3) aufzuheben, die ärztliche Leitung der Klinik K._ anzuweisen, ihn unverzüglich zu entlassen, und die Sache zur Ernennung eines unentgeltlichen Rechtsbeistandes und zur Festsetzung einer entsprechenden Entschädigung an die Vorinstanz zurückzuweisen. Ausserdem ersucht er darum, ihm für das bundesgerichtliche Verfahren die unentgeltliche Rechtspflege zu gewähren. Zur Begründung in der Sache macht der Beschwerdeführer geltend, seine Zurückbehaltung in der Klinik stelle einen unverhältnismässigen Eingriff in seine persönliche Freiheit dar. Das Obergericht schliesst auf Abweisung der Beschwerde. 