В каком формате обычно делают CRM системы?
От многопользовательского приложения в формате программы для десктопа уже отказались даже такие динозавры, как 1С.
Не хочешь класть данные в интернет - положи в интранет. Потом, когда одумаешься, перенесешь на хостинг.
"CRM-система с клиентской базой, с учетом приходов и расходов, c учетом товаров на складе и с архивом заказов" - это 90% систем, внедряемых в бизнесе. Писать что-то свое с нуля тут имеет смысл только в том случае, если вы собираетесь развивать и поддерживать его самостоятельно же, постоянно копаясь и выделяя на это ресурсы. В формате "один раз заплатил и работаешь" - только готовые решения.
Я сделал так, дома дополнительный комп сервер, который всегда включён. На нем запустил open source CRM систему ( я пробовал odoo, но наверное лучше взять ERPNext или ещё какую нить по вкусу) . После покупаем самый дешёвый vps с хорошим каналом, ставим туда nginx и через ssh туннель или vpn пробрасываем порт себе на локальный компухтер.

Тут можно и домен привязать и lets encrypt сертификат получить и будет работать как будто система находится там, а на самом деле вы всего лишь настроили проброс порта.

P. S. Писать новое с нуля не надо, возьмите готовое, а если функционала не хватит допилите плагин/дополнение