Как использовать нейросеть в приложении?
Существуют несколько подходов:Вы создаете питоновский скрипт, который будет загружать сохраненную модель и делать предсказания. А из java запускаете этот питоновский скрипт. 
Из недостатков - работает медленно. Каждый раз происходит инициализация всех питоновских библиотек и загрузка самой модели. Подходит, когда делаете предсказания редко на каком-нибудь батче.Используете, например,  Flask и создаете REST API, которая, используя сохраненную модель, делает предсказания.
Из недостатков, нужно хостить отдельный сервис.
Про pytorch не скажу, не использовал, но в других фреймворках можно сохранить обученную модель, уверен что в pytorch тоже можно.
То есть вам нужно сначала обучить свою сеть, сохранить, потом в своем приложении просто загружать эту модель и делать предикт по нужным данным, результат отдавать куда-то дальше в приложение.
upd вот погуглил