Sousa je rođen u Washingtonu, D.C., 1854. Počeo je studirati glazbu u ranoj dobi i pokazao je veliki talent. Pridružio se Mornaričkom orkestru Sjedinjenih Država 1872. i brzo se popeo u ljestvici. Do 1880. bio je dirigent orkestra.
Sousa je vodio Marine Band 35 godina, tijekom kojih je skladao mnoge od svojih najpoznatijih marševa, uključujući "The Stars and Stripes Forever" i "Semper Fidelis". Napisao je i nekoliko opereta i drugih djela.
Sousa se povukao iz Marine Banda 1929., ali je nastavio skladati glazbu do svoje smrti 1932. Njegovu glazbu još uvijek izvode bendovi i orkestri diljem svijeta, a on se smatra jednim od najvećih kapelmajstora svih vremena.