Функция UPDATE в PostgreSQL не принимает вложенный запрос?
А чего спрашивать-то? Прочитайте документацию postgresql про update - есть там подобный синтаксис или нет? Уже понятно, что нет. Возможно, Вам подойдёт with?
А что касается Степиков и подобных, то в курсах по SQL обязательно должна быть указана версия/стандарт sql на которых курс основан, чтобы подобные казусы выявлять.
Это скорее всего неправильно.
SELECT  name, number_plate, violation
FROM fine
GROUP BY name, number_plate, violation
HAVING count(*) > 1
если используется GROUP BY то в выражении SELECT должна стоять функция агрегации (count в данном случае)