A área ocupada pola actual cidade estivo orixinariamente habitada polo pobo Timucua, ata que no 1564 pasou a formar parte da colonia francesa de Fort Caroline, un dos primeiros asentamentos europeos no que hoxe son os Estados Unidos continentais. Máis tarde foi ocupada polos británicos que lle deron o nome de Cowford (Vao das Vacas) a partir do nome indíxena Wacca Pilatka. No 1822, un ano despois de que os Estados Unidos adquirisen Florida a España, foi renomeada coa súa denominación actual, Jacksonville.
As melloras no seu porto efectuadas dende o século XIX fixeron de Jacksonville un importante porto civil e militar, existindo actualmente dúas bases da Armada dos Estados Unidos.
