Как с помощью boost можно проверить файл на видимость/невидимость?
Никак. Для Windows используйте это.
Для *nix - проверяйте наличие точки в начале имени файла.
Что значит видимость/невидимость?
Вы хотите проверить существует ли файл? Тогда вам boost::filesystem::exists() в помощь.
А если хотите проверить установлен ли признак "скрытый", тогда boost вам не поможет, потому что в винде это признак в файле, а в nix это точка в начале имени файла.