Wilson je rođen 23. lipnja 1947. u rezervatu Sioux Indijanaca u Južnoj Dakoti. Bio je sin čistokrvne Sijuks žene i oca Irca. Wilson je odrastao u rezervatu, a gitaru je počeo svirati u ranoj dobi. Bio je pod utjecajem tradicionalne glazbe svoga naroda, kao i rock and rolla 1950-ih i 1960-ih.
Nakon srednje škole, Wilson se preselio u Minneapolis, Minnesota. gdje je osnovao bend pod nazivom Sugarloaf sa svojim šogorom Craigom Fullerom i kolegom pjevačem i tekstopiscem Michaelom Omartianom.
Grupa je imala određeni uspjeh i snimila je dva albuma za RCA Records, prije nego što se raspala 1971.
Nakon raspada grupe Sugarloaf , Wilson se preselio u Los Angeles, Kalifornija, gdje je osnovao Pure Prairie League 1972. godine.
Bend je brzo stekao sljedbenike i izdali su niz uspješnih albuma tijekom 1970-ih.
Neke od njihovih najpopularnijih pjesama uključuju " Amie" , "Pali anđeli" i " Let Me Love You Tonight ".
Godine 1979. Wilson je napustio Pure Prairie League kako bi započeo solo karijeru.
Izdao je dva solo albuma, "Jeff Wilson" (1981) i "Never Be the Same" (1983.), ali nisu bili tako uspješni kao njegov rad s Pure Prairie League.
Wilson je nastavio s turnejama i nastupima tijekom 1980-ih i 1990-ih, ali njegovo zdravlje počelo se pogoršavati u kasnim 1980-ima. Dijagnosticiran mu je rak grla i prošao je nekoliko ciklusa liječenja.
12. prosinca 1991. Jeff Wilson umro je od raka grla u dobi od 44 godine .
Iza njega su ostali supruga, dvije kćeri i dva sina.