Что такое сложная функция?
Да, производная вашей сложной функции f(g(x)) равна нулю. Просто потому что ваша «сложная» функция на самом деле вырождается в константу f(5)
Если g(x) = 5(константа), то f(g(x)) = f(5) - это тоже константа, покуда f(x) - функция одного аргумента. Очевидно, производная f(g(x))' = 0 в таком случае.