Как поcчитать количество итераций в цикле?
Определяете целочисленную переменную перед внешним циклом, делаете ей ++ во внутреннем:int iteration_count = 0;

for (int i = 0; i < N - 1; i++) {
    for (int j = 0; j < N - i - 1; j++) {
        iteration_count++;
    }
}

System.out.println(iteration_count);
Если надо суммарное количество итераций обоих циклов - тогда и во внешнем тоже ++.
Определяете целочисленную переменную перед внешним циклом, делаете ей ++ во внутреннем:int iteration_count = 0;

for (int i = 0; i < N - 1; i++) {
    for (int j = 0; j < N - i - 1; j++) {
        iteration_count++;
    }
}

System.out.println(iteration_count);
Если надо суммарное количество итераций обоих циклов - тогда и во внешнем тоже ++.