Refren ponavlja rečenicu "Smoke on the water" kako bi stvorio živopisnu sliku dima koji se diže iznad jezera, a to je Ženevsko jezero. U pjesmi se također spominje kockarnica Montreux Casina i kako je "goreo kao pas". Ostali značajni stihovi uključuju "Svi smo došli u Montreux na obali Ženevskog jezera", "Funky Claude je trčao unutra i van, izvlačeći djecu iz zemlje", misleći na vlasnika mjesta Claudea Nobsa koji je pomagao u spašavanju i "Kad je ušao tišina sjećamo se svega, davno prošlog vremena koje smo nazivali domom", razmišljajući o posljedicama i sjećanjima na tu noć.
Pjesma je postala jedan od najuspješnijih i najpoznatijih hitova Deep Purplea i obradili su je brojni drugi izvođači tijekom godina.