Faits: A. A._ est prévenu de brigandage qualifié ainsi que d'infractions à la législation sur les armes, à la législation sur les étrangers et à la LStup. Il est soupçonné d'avoir participé à un brigandage à main armée commis au préjudice de la bijouterie X._ à Lausanne le 20 avril 2011, d'avoir favorisé le séjour en Suisse de plusieurs ressortissants étrangers en situation irrégulière en leur fournissant un hébergement dans le but de se procurer un enrichissement illégitime et d'avoir participé au trafic de stupéfiants de B._, notamment en agissant en qualité d'intermédiaire pour des transactions portant sur d'importantes quantités de cocaïne. Le prévenu a été appréhendé et placé en détention provisoire le 6 décembre 2011. Sa détention a été prolongée jusqu'au 6 septembre 2012 par ordonnance du Tribunal des mesures de contrainte du 28 février 2012. B. Le 3 mai 2012, le procureur a rejeté la demande de A._ tendant à l'exécution anticipée de sa peine. Cette décision a été confirmée par la Chambre des recours pénale du Tribunal cantonal (ci-après: la Chambre des recours), dans un arrêt du 1er juin 2012. La Chambre des recours a considéré en substance que le risque de collusion était concret, qu'il était difficile d'y parer même en détention provisoire et qu'à ce stade de l'instruction, le placement du prévenu dans un établissement d'exécution de peine offrirait des inconvénients d'ordre pratique, puisque sa présence à l'administration des preuves était encore nécessaire. C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral de réformer l'arrêt de la Chambre des recours du 1er juin 2012 en ce sens qu'il est autorisé avec effet immédiat à exécuter sa peine de façon anticipée dans la mesure des disponibilités des établissements pénitentiaires idoines, exécution assortie le cas échéant des restrictions que justice dira. Subsidiairement, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale pour nouvelle instruction et nouveau jugement. Il requiert en outre l'assistance judiciaire. Le recourant se plaint pour l'essentiel d'une violation de l'art. 236 CPP. La Chambre des recours a renoncé à se déterminer et se réfère aux considérants de sa décision. Le procureur se réfère à l'arrêt attaqué. 