Из-за чего вылетает «Invalid length for a Base-64 char array or string»?
Потому что это мусор, а не Base64String. Если уж собрался тестировать, то сначала надо мусор закодировать, а уже потом раскодировать и сравнить с исходным.

А то с таким же успехом можно сохранить в файл эту страничку html и сменить расширение файла на .exe, а потом удивляться, почему файл не запускается.
У Base64 есть определённые требования на длину, тк один байт кодируется несколькими символами + должно быть выравнивание в конце.
Передавай туда корректный base64 и ошибки не будет.