In 1890, in Maebashi in Gunma Prefecture, Joe collapsed while working to found Doshisha, and passed away while recuperating at the Mukade-ya, a Japanese-style inn in Oiso, Kanagawa Prefecture; he entrusted his ten-item will to Soho TOKUTOMI and Hiromichi KOZAKI.
明治23年（1890年）、同志社設立運動中に群馬県の前橋で倒れ、静養先の神奈川県大磯の旅館・百足屋で徳富蘇峰、小崎弘道らに10か条の遺言を託して死去する。