Какой инструмент используется для генерации такой api документации?
емнип, у stripe свое.
но есть опенсорсный клон, который обладает таким же функционалом. 
также похожий функционал есть у mashape.com
Вам в ответе выше посоветовали slate, но как по мне - писать всю документацию руками в markdown это какое-то садо-мазо.
Есть apiDoc, который генерирует документацию из специальным образом размеченных комментариев в вашем коде.