Что лучше в плане стабильности работы Linux — Raspberry Pi 3 или Banana Pro?
Зависит от возлагаемых на железо задач. 
В Raspberry - хорошо сделано упавление питанием usb: при подключении слишком ресурсоемкого устройства >500mAh никак не влияет на работоспособность платы (от OS получаем сообщение в dmesg, но продолжаем работать), а в Banana - у меня отключилась вся плата по перегрузке. Поддержка видеоускорителя так же лучше реализована в Rasberry. 
В Banana - понравилась сетевая карта (не завязана на usb) и наличие sata.
Потому использую Banana - в качестве сервера, который пишет бэкапы на внешние диски (rsync), а raspberry - как тонкие клиенты (но с нативными sip-softphone).
Опишите задачу, тогда смогу подсказать больше.
Rasperry. Чем больше аудитория, тем больше багов будет найдено - тем больше стабильность. Практических данных у меня нет.