Sachverhalt: A. Gegen X._ wurde im Mai 1995 ein Strafverfahren wegen Betrugs, Irreführung der Rechtspflege und zahlreicher weiterer Delikte eröffnet. Von Mai bis Juni 1995 befand er sich in Untersuchungshaft. Aufgrund des Verdachts der Begehung weiterer Delikte wurde er im August 1998 erneut in Untersuchungshaft versetzt. Mit Verfügung vom 31. Januar 2011 stellte die Regionale Staatsanwaltschaft Berner Jura-Seeland das Verfahren wegen Verjährung, fehlenden Strafantrags und nicht erhärteten Tatverdachts teilweise ein. Die Verfahrenskosten auferlegte sie dem Kanton Bern. Dem Beschuldigten sprach sie keine Entschädigung oder Genugtuung zu. In Bezug auf die von dieser Einstellung nicht erfassten Tatbestände, nämlich diverser Konkursdelikte und Widerhandlungen gegen die Ausländergesetzgebung, stellte die Staatsanwaltschaft am 1. Februar 2011 einen Strafbefehl aus. X._ wurde zu einer Geldstrafe von 180 Tagessätzen zu Fr. 150.-- verurteilt, unter Anrechnung der ausgestandenen Untersuchungshaft von 147 Tagen, womit eine Geldstrafe von 33 Tagessätzen zu Fr. 150.-- verblieb. Deren Vollzug wurde unter Ansetzung einer Probezeit von zwei Jahren aufgeschoben. Gegen die Einstellungsverfügung vom 31. Januar 2011 erhob X._ am 14. Februar 2011 Beschwerde an das Obergericht des Kantons Bern. Mit Schreiben vom 4. Februar 2011 hatte er zudem Einsprache gegen den ergangenen Strafbefehl erhoben, wobei er den Antrag stellte, das Einspracheverfahren zu sistieren, bis das Beschwerdeverfahren abgeschlossen sei. Mit Beschluss vom 10. März 2011 wies das Obergericht die Beschwerde gegen die Einstellungsverfügung ab, soweit es darauf eintrat. B. Mit einer als "Beschwerde in Strafsachen und öffentlich-rechtlichen Sachen" betitelten Eingabe vom 13. April 2011 an das Bundesgericht verlangt X._, der Beschluss des Obergerichts vom 10. März 2011 sei aufzuheben. Das Obergericht des Kantons Bern und die Regionale Staatsanwaltschaft Berner Jura-Seeland haben auf eine Vernehmlassung verzichtet. Die Generalstaatsanwaltschaft des Kantons Bern hat sich nicht vernehmen lassen. 