Как проверить в данной задаче можно ли делить чисто на 3 последнюю цифру?
Формулировка задания, я бы сказал очень неточная, но отвечаю так как я её понял.
"Нужно найти разбиение стоимости на пяти- и трёхкопеечные монеты без остатка"
Для стоимости более 15 копеек такое разбиение всегда можно найти. Для цены до 15 копеек возможность разбиения находится перебором.
Для определения минимального количества трёхкопеечных монет смотрим на остаток деления на 5:
остаток 0 - 0 (или 5) трёхкопеечных монет
остаток 1 - 2 трёхкопеечных монеты
остаток 2 - 4 трёхкопеечные монеты
остаток 3 - 1 трёхкопеечная монета
остаток 4 - 3 трёхкопеечные монеты
Количество пятикопеечных монет считаем исходя из количества трёхкопеечных.
NB: трёхкопеечные, а также пятикопеечные монеты пишутся вместе. Если вы пишите количество монет и не хотите склонять их названия, пишите количество после наименования:   трёхкопеечных монет - 5.
y = (n - 5 * x) / 3
y = кол - во трех копеечных монет 
x = кол - во пяти копеечных монет 
n = цена товара 
потом мы подставляем нужные нам числа а вместо всей этой байды. но вместо X мы подставляем от 0 до 4 пока получится Y.
Ну в проге просто if делаем проверяем останется ли остаток после применения 0-4  если не то правильно если да то неправильно.