Как взять последние 5 строк у которых category равен 1 в Mysql?
В SQL понятия "первые" и "последние" строки появляются только после того, как вы явно зададите порядок сортировки. Для того, чтобы последние стали первыми достаточно этот порядок поменять (ASC/DESC). Ну а взять первые пять строк - это вообще не проблема.
Выбираем все из результатов подзапроса с условием по категории, где сортируем по ID в обратном порядке, при выводе результатов сортируем в обычном порядке по ID 
SELECT id, title FROM (
    SELECT * FROM tableName WHERE category = 1 ORDER BY id DESC LIMIT 5
) sub
ORDER BY id ASC