На файловом сервер Debian 8 всегда забита оперативная память. Что можно сделать?
увеличить оперативную память
Ну 512 мб мало как бы вообще для всего, поэтому добавить. Как вариант посмотрите:
ps aux --sort=-%mem
Отфильтруйте процессы, которые отожрали память, а дальше смотрите кому они принадлежат и как можно с оптимизировать.