Как работает return в фукции?
Как раз в функции ты и объявил массив.
new Array()
Эквиволентно
[]

Твой код выглядит так:
let res = [];
res.push(a + b); 
res.push(a - b);
res.push(a * b);
res.push(a / b);
return res;

параметры , которые у тебя в скобках -- быстрое добавление в массив
А что по вашему означает "объявить" массив?
В данном случае создаётся массив и сразу же возвращается через return.