Как организовать несколько сайтов (веб-приложений) с Java бэкендом на одном VPS?
Понимаете правильно. Искать ничего не надо, просто почитайте документацию Nginx. В частности про директивы server_name и proxy_pass.
В старом Апаче это называлось - виртуальный хостинг. Один Ip - и много имён в dns.