Что будет если SWAP файл переполнится?
При высоком потреблении памяти, нужно увеличивать доступную память, или оптимизировать её потребление в самом приложении.Что будет, если он переполнится? 
Тоже самое, что и при отсутствии файла подкачки: приложение, запросившее больше памяти, чем доступно, будет завершено OOM killer'ом для того, чтобы система могла продолжать функционирование. Причём может быть принудительно завершено как оно само, так и любое другое, активно потребляющее RAM.
Файл подкачки нужен исключительно для избежания OOM при превышении потребления физической RAM.как очищать файл подкачки?
Никак. Это невозможно делать вручную, как и очищать RAM.
Только завершая приложения, потребляющие память.
Для начала стоит понять чем занята память
Чаще всего ето дисковый кешman free
man top
man atop
Допустим, что никаких кастомных настроек потребления памяти (lxc) нет
Допустим одно или несколько приложений начинают увеличивать потребления памяти
Постепенно из памяти вытеснится весь кеш
В процессе часть аллоцированной памяти из RAM переметится в swap
В етот момент сервер начнет вести себя странно, тк он не знает на самом деле какие приложения действительно необходимы, а у каких просто протекла память
и тут в дело вступает ООМ
unix.stackexchange.com/questions/153585/how-oom-ki...
https://linux-mm.org/OOM_Killer