Подойдёт ли мини-ПК на Arduino/Raspberry pi для обучения программированию?
Arduino не подойдет.

Raspberry Pi - вполне. Только желательно брать от 4GB RAM, что бы можно было запустить браузер, если нет другого ПК. 
Но в любом случае, для первоначальной настройки понадобиться другой ПК, чтобы записать Линукс на SD карту.

Можно попробовать аналогичные альтернативные SBC, например Orange Pi или Rock Pi. Получится дешевле и в некоторых конфигурациях производительнее, но поддержка и комьюнити у Raspberry лучше.
нет конечно же

какой бюджет?

за 10 тр можно взять прекрасный комп

https://www.avito.ru/all/nastolnye_kompyutery?cd=1...
