Когда лучше хранить изображения в файловой системе а когда в БД?
Не нужно хранить файлы в БД, если файл лежит на диске можно использовать sendfile (например в nginx).
для того чтоб повысить скорость отдачи ответов, результаты запросов хранятся все вместе в одном документе, например в профиле человека часто хранят, списки групп на которые он подписан,  также например фото его аватарки, что позволяет формировать профиль пользователя сразу со всеми требуемыми данными, с одного запроса. 
П. С. 
файловая система и есть БД!!!111111 поэтому думаю тут особо нечего обсуждать, только сравнивать скорость работы разных бд, и удобство с ними работы. 
например для файловой системы у вас в ос уже есть разные удобные инструменты для CRUD, а для монги нужно программистов пинать чтоб с фоточками работать)