Macdonald blev født i Dornoch, Sutherland. Hans far, Donald John MacDonald fra North Uist på de Ydre Hebrider, kæmpede under anden verdenskrig. Familien flyttede til North Uist, da Rory var omkring 4 år gammel. Da de kom til Lochmaddy blev hans yngre bror Calum født. Unden anden verdenskrig blev Macdonalds far, Donald, angrebet i Normandiet, hvor hans bedste ven, Sandy MacIntyre, døde. MacDonalds besøgte fortsat MacIntyres familie, og da Rory var omkring 8 gav Sandys forældre ham hans gamle harmonika. Han begyndte at øve sig på den og spillede til skolekoncerter. Han skrev sin første melodi på dette instrument, der var en skotsk dansemarch kaldet "Sandy MacIntyre". Denne oplevelse inspirerede ham til sangen "The Everlasting Gun" fra 1985, som er med på albummet Heartland, samt nyhederne om falklandskrigen.