Как организовать php приложение работающее с двумя базами данных?
1. В чём проблема? Вы разве не можете установить два соединения?
2. Можно узнать почему была выбрана именно такая схема хранения, а не в одной БД?
Но из-за некоторых ограничений (не технических), эти сервисы не могут быть расположены на одном сервере.
При таком ограничении это единственный рабочий вариант:можно сделать один запрос, получить id всех товаров, а потом делать второй запрос через where in, но это тяжелый запрос будет. 
Т.е. либо снимайте ограничение, либо миритесь с более сложными (и долгими) запросами к двум серверам.