Как сделать так, чтобы письма из собственной почты на своем домене не попадали в спам?
SPF, DKIM, DMARC. Ну и не рассылать спам со своего сервера.
Проверить можно на https://www.mail-tester.com/
По незнанию задал вопрос. Но с гуглом и вашими подсказками я изучил вопрос и проблемы были в разных моментах. Подключил ssl и настроил DNS нормально. Подправил письма, добавил в заголовках возможность отписки. Это вполне хватило, чтобы избавится от проблемы.