Как по нажатию на кнопку открыть окно на весь браузер или на весь родительский элемент?
Ну а в чем проблема реализовать данное на jquery которую вы указали в тегах?
Так и делаете =) Сначала по клику рассчитываете высоту и ширину окна браузера пользователя, далее создаете два div, один кладет тень на весь сайт другой под контент. Дивам даете ширину и высоту окна браузера, позицианируете как fixed и показываете preloader ajax gif картинку, а когда контент загружен, отвалидирован и распихан по Html тегам, убираете preloader и вставляете контент к див =)
Могу сделать вам за час, но не бесплатно)
Если вам самостоятельно реализовать подобный функционал сложно, то почему бы не воспользоваться fancybox. Останется только добавить на страницу скрытый див с width 100%, height 100% и добавить Js для обработки клика кнопки.