Bolin je rođen u Sioux Cityju, Iowa. Počeo je svirati gitaru sa šest godina, a sa 17 je profesionalno svirao u lokalnim bendovima. Godine 1969. pridružio se bendu Zephyr, koji je izdao dva albuma prije nego što se raspao 1971. Bolin se zatim pridružio James Gangu, zamijenivši Joea Walsha. S bendom je snimio tri albuma prije odlaska 1973. godine.
Godine 1975. Bolin se pridružio Deep Purpleu, zamijenivši Ritchieja Blackmorea. Snimio je jedan album s bendom, Come Taste the Band, prije nego što je otišao 1976. Bolin je umro od predoziranja drogom u Miami Beachu, Florida, 4. prosinca 1976., u dobi od 25 godina.
Bolin je bio vrlo vješt gitarist na kojeg je utjecao širok raspon glazbenika, uključujući Jimija Hendrixa, Erica Claptona i Jeffa Becka. Bio je poznat po svom fluidnom stilu sviranja i sposobnosti stvaranja složenih melodija i sola. Također je bio talentirani tekstopisac i pjevač.
Bolinova smrt bila je veliki gubitak za svijet glazbe. Bio je nadaren glazbenik koji je imao potencijal postati jedan od najvećih gitarista svoje generacije.