Как стабилизировать ток/напряжение от нестабильного источника питания?
Приятно отвечать на такой простой вопрос! Ну, во-первых, питать простые устройства с ЖК-индикацией от солнечных элементов научились много лет назад, это были настольные калькуляторы. Никаких ионисторов тогда не было, питали напрямую, и чтобы не допустить превышение напряжения, ставили параллельно нагрузке простейший диодный ограничитель. 

Принцип работы его в том, что на кремниевом диоде в прямом направлении фиксируется напряжение около 0,55...0,7 вольт. Если мы хотим зафиксировать напряжение вдвое больше (вот как у вас), то надо включить два кремниевых диода последовательно - напряжение ограничения увеличится тогда до 1,1...1,5 вольт. Что касается тока, то диод поглощает весь ток, даваемый батареей, сверх того, который нужен для питаемой схемы и зарядки ионистора (кстати, наличие ионистора, подключенного параллельно диоду, ничего не меняет в принципе работы этой схемы). Поскольку токи от солнца в таких миниатюрных аппаратах мизерные, то никакой опасности для этого ограничителя не возникает.
(Кстати, поэтому мне кажется, что ваша оценка максимального тока от солнечной батареи 50 мА сильно завышена - раз этак в сто. 50 мА можно было бы получить от батареи величиной не с почтовую марку, какие обычно ставят в миниатюрные аппараты, а с ладонь, да и то под прямым ярким солнцем. И тем не менее микроамперных токов для питания таких аппаратов обычно бывает достаточно.)
Вместо обычных кремниевых диодов в этой схеме можно применить различные светодиоды. Вот их вольт-амперные характеристики:

Из них видно, что один инфракрасный светодиод ограничивает прямое напряжение на уровне около 1,1 вольт (т.е. он способен заменить цепочку из двух кремниевых), красный и оранжевый - около 1,5 вольт, зелёный - около 1,7 вольт, а синий, ультрафиолетовый (и белый, кстати) - от 2,5 вольт и выше. Последовательное включение, как и с кремниевыми, увеличивет ограничиваемое напряжение пропорционально числу включённых диодов.
Итак, ещё раз: напряжение вы выбираете сами, а ток пусть вас не беспокоит, пока ваша солнечная батарея не превысила размерами спичечный коробок.
В наличии под разбор есть БП от компьютера, видеокарта, различные резисторы и светодиоды и пара диодов...Теперь о том, где их взять. Разумеется, не надо покупать. Кремниевые диоды найдутся на любой электронной плате с вероятностью 99,9...%. Инфракрасный светодиод вы можете выпаять из старого пульта ДУ от любого бытового прибора. А прочие цветные светодиоды - тоже не дефицит в домашнем хламовнике, ими набит любой бытовой прибор начиная от электрочайника.
Ну по логике терм надо питать от акума, который уже заряжать солн панелью