Внутренний центр сертифтикации для документов и 1С?
1. 1С ДО, можно подцепить бесплатные сертификаты. Смотрите на ИТС описание подключения.
https://infostart.ru/public/449016/

2. Почему именно сертификат, вход по пароль уже есть верификация пользователя. Остальное упирается во внутренние регламенты ЭДО, что там расписано.

https://forum.mista.ru/topic.php?id=784359
https://habr.com/ru/company/cybersafe/blog/247019/
Начать надо с самого босяцкого вопроса - а на сервере 1С корневой сертификат СA установлен в качестве корневого? У винды - у нее все связано насквозь друг с другом и вполне возможно, что она валидность проверяет тупо запросом в систему, а система не видит корневого и возвращает "сертификат не валиден".

Использовать собственный CA - это еще тот киберсекс, особенно тема валидности сертификатов :)