Najraniji dokazi karnatske glazbe mogu se pronaći u glazbenim tradicijama drevnog tamilskog naroda. Drevni Tamili razvili su sustav glazbe nazvan Tamizh Isai, koji se temeljio na ljestvici od sedam nota (Saptha Swaras) i koristio je razne glazbene instrumente, uključujući yazh (žičani instrument) i kudam (udaraljke). Tamizh Isai korišten je za vjerske obrede i kulturne priredbe.
Karnatska glazba kasnije se razvila pod utjecajem hinduističke religije i pokroviteljstvom vladajućih dinastija južne Indije. U 14. stoljeću, Vijayanagara Carstvo se pojavilo kao moćno kraljevstvo u Južnoj Indiji i postalo glavno središte za razvoj karnatske glazbe. Vladari Vijayanagare bili su veliki pokrovitelji glazbe i plesa i poticali su razvoj glazbenih škola i institucija. Također su naručili skladbu mnogih novih glazbenih djela, uključujući kriti, swaras i jathi.
Tijekom 17. i 18. stoljeća, karnatska glazba je cvjetala pod vladavinom Carstva Maratha i Kraljevstva Mysore. Vladari Maratha bili su veliki poznavatelji glazbe i plesa i poticali su razvoj karnatske glazbe na svojim dvorovima. Vladar Mysorea Krishnaraja Wodeyar III. bio je veliki pokrovitelj glazbe i plesa, te je naručio skladanje mnogih novih glazbenih djela.
U 19. stoljeću karnatska glazba dolazi u dodir sa zapadnom glazbom zbog britanske kolonizacije Indije. Neki karnatski glazbenici počeli su uključivati zapadnjačke elemente u svoju glazbu, poput upotrebe klavira i violine. Međutim, karnatska je glazba zadržala svoj tradicionalni karakter i nastavila se temeljiti na ljestvici od sedam nota i upotrebi raga i talasa.
Danas je karnatska glazba uspješan oblik umjetnosti i izvode je glazbenici diljem svijeta. Smatra se jednim od najsofisticiranijih i najsloženijih glazbenih sustava na svijetu, a cijenjen je zbog svoje ljepote, emocionalne dubine i duhovnog značaja.