Как решаются задачи на вероятность?
Конкретно для этой задачи алгоритм простой. На каждом шаге:
Выигрыш (выход из леса) - одна дорога из трёх:
W = 1/3
Проигрыш (разбойники)- две дороги из трёх * вероятность встретить разбойников:
L = 2p/3 
Остался в игре - две дороги из трёх * вероятность не встретить разбойников:
G = 2(1-p)/3
Соответственно, для i-го шага:
Wi = 1/3*G(i-1)
Li = 2p/3*G(i-1)
Соотношение 
Wi/Li = (1/3)/(2p/3) = 1/(2p)
не зависит от i, а значит для 
SUMi=1..N(Wi)/SUMi=0..N(Li) = 1/(2p)
для любого N
Таким образом, общая вероятность выигрыша 
PW = W/(W+L) = 1/(1+2p)
Ну а читать - теорию вероятности и комбинаторику.
Книги по теории вероятностей, очевидно.