Какие курсы и какую литературу посоветуете для начинающего системного администратора?
Если хотите развиваться и прокачиваться обязательно пробуйте linux
Я программист. Английский пока прокачиваю с помощью двух программ на андроиде - duolingo и LinguaLeo. Хотя мне кажется, что без курсов не обойтись, но для начала  будет более-менее (или можно сразу пойти на хорошие курсы).
По поводу литературу и прочего: вот можете глянуть ссылку с хабра. В мою недолгую бытность сисадмином, я себе её сохранял, да так и никак не воспользовался. Посмотрите. Если сама статья мало что даст, то там у неё ещё есть несколько частей-продолжений + на самом хабре дофига инфы, так что читайте, смотрите, пользуйтесь.