Кроссплатформенное приложение-сервис. На чем писать?
Посоветую Java. Если знаете Си, то с синтаксисом Явы проблем не будет. Многопоточность, SQLite, все дела.
Для примера можно глянуть на торрент-клиент Vuze ( www.vuze.com/ ), исходники его открыты — можно изучать сколько угодно. 

Сам сейчас пишу кроссплатформенное GUI приложение на JavaSE
Какая-то непонятная формулировка задачи. 
Если говорить о сервисах (службах) в Windows и демонах в Linux, то можно использовать либо QtService, либо mono-service на C#. Но что-то мне подсказывает, что эти решения не будут работать на iOS и Android (хотя ручаться не могу). 
Вообще, службы винды — достаточно специфичная штука, и если вдруг вы потом захотите через нее как-то обращаться к GUI, то ничего не выйдет. 

Можно взять какую-нибудь библиотеку (POCO, например) и написать на ней обычное приложение, которое будет работать в фоне.