Как посчитать этот пример (суммы ряда)*(произведение ряда)+почему выводит такой результат?
Никак. Код весь не читал, но там и должно получиться NaN (знаменатель дроби обращается в ноль). Задачу давал какой-то идиот.
У вас ошибка в том, что вы считаете произведение один раз после цикла по k. На тот момент k после цикла равно n. Т.е. как будто у вас вместо k в формуле стоит n как граница для произведения.

Вам надо считать proizr внутри цикла по k  и домножать на него каждое слагаемое. (не забудьте инициализировать proizr единицей).