春秋時期為百越地，戰(zhàn)國時期屬楚國。
秦屬南海郡。
兩漢為南野縣，屬豫章郡。
東漢順帝建康時屬桂陽郡之曲江縣。
吳景帝永安六年（263），分南野置始興縣，南雄地屬之。
晉代廢斜階復(fù)南野，改屬廬陵郡。
隋大業(yè)三年（607），屬南�？�。
唐武德四年（621），屬番州，不久更名為東衡州。
貞觀元年（627），改為韶州。
南漢乾亨四年（920），在湞昌縣置雄州，轄湞昌、始興兩縣。
宋開寶四年（971），改雄州為南雄州，與河北雄州別，屬廣南東路。
元至元十五年（1278），改南雄州為南雄路，領(lǐng)保昌、始興兩縣。
明洪武元年（1368），改路為府，轄保昌、始興兩縣，屬廣東道。
清嘉慶十二年（1807），改府為直隸南雄州。
民國時期，改南雄州為南雄縣，隸屬廣東省。
1958年12月，南雄縣與始興縣合并稱南雄縣，1960年10月復(fù)分為南雄縣、始興縣，隸屬廣東省韶關(guān)專署。
1982年6月實行市管縣體制后，隸屬韶關(guān)市。
1996年6月，撤縣設(shè)市（縣級），由韶關(guān)市代管。