According to "Yakuyoke Kannon Raiyuki" (the origin of a apotropaic deity of mercy) written in 1606 and "Matsuo-dera Engi" (the origin of the Matsuo-dera Temple) written in 1676, Imperial Prince Toneri, Emperor Tenmu's son, built the temple in 718 to drive away evil spirits at his critical age of 42, and to pray for the successful completion of 'Nihonshoki' (Chronicles of Japan).
慶長11年（1606年）成立の『厄攘（やくよけ）観音来由記』、延宝4年（1676年）成立の『松尾寺縁起』等によると、当寺は天武天皇の皇子・舎人親王が養老2年（718年）に42歳の厄除けと「日本書紀」編纂の完成を祈願して建立したと伝わる。