Можно ли в Linux запустить процесс при OOM?
1. Да, память. Если процесс жив, но долго отвечает - чаще всего проблема в дисковом io, а потом уже цпу. 
Или сеть, или хитрый ддос
Но у вас может быть свой кейс
2. https://www.google.com.ua/search?q=oom+killer+excl...
https://backdrift.org/oom-killer-how-to-create-oom...
3. cgroups 
https://superuser.com/questions/1026708/is-there-a...
2 Запускать sshd с nice -19 ?
Вроде по умолчанию там 20.Может быть (как извращенный трюк) сразу запускать bash (при запуске сервера) а при логине только коннектить как-то юзера и bash?
man screen