Как автоматически очищать ОЗУ если она полная?
отключите swap, тогда oom-killer будет убивать процессы, если нехватит памяти.
https://bbs.archlinux.org/viewtopic.php?id=158774
но лучше запереть программу, которая жрет оперативку