Почитал про различные компиляторы и остановился на gcc, но не понимаю, как им пользоваться?
А я думаю, что начать лучше все-таки с IDE, во-всяком случае, если работаете на Windows.
Конечно, разбираться в инструменте, который используешь, - это хорошо, правильно и полезно. Но для старта этого просто не нужно. Вы потратите достаточно много усилий на то, чтобы разобраться в процессе компиляции, даже не начав собственно программирования.
Поэтому я думаю, что для начала можно поставить Visual С++ Express и начинать писать код через 20 минут :)
На Linux, действительно, можно начинать без IDE, тем более что никаких IDE для плюсов там и нет.
Сперва нужно понять как собираются программы на С+ в базовом варианте.
Для этого стоит использовать блокнот для кода и компилятор с консольным интерфейсом.
Так-же понять что же делает директива #include и зачем нужен линкер.
Как только поймешь (пару дней поковыряешься и поймешь хоть что-то), переходи к использованию IDE.
Для C++ лучшим выбором будет microsoft visual studio
Удачи!
P.S. документация по gcc есть где-то в интернете на ангийском естественно. ищи