Byen er grundlagt i 1791 og hed oprindeligt Cowford. I 1822 omdøbtes byen til Jacksonville efter Floridas guvernør og USA's 7. præsident, Andrew Jackson.  Flådeby Byens placering ved det store flodudløb har gjort, at Jacksonville har hele to U.S. Navy-baser ved byens havn, der er Floridas tredje største.