1953年建鎮(zhèn)。
1958年復改云中公社。
1968年更名東方紅公社。
1977年改牯嶺鎮(zhèn)公社。
1981年改牯嶺鎮(zhèn)街道。
1987年改牯嶺鎮(zhèn)。
1997年，面積53平方千米，人口1.5萬，轄蘆林、長沖、日照、正街、窯洼、橄欖、大林、花徑8個居委會和朝陽、勝利2個行政村。
鎮(zhèn)屬九江市廬山區(qū)。
2016年3月，根據《國務院關于同意江西省調整九江市部分行政區(qū)劃的批復》（國函〔2016〕58號）精神，江西省政府經研究，撤銷星子縣，設立縣級廬山市，將九江市廬山區(qū)牯嶺鎮(zhèn)劃歸廬山市管轄。
以原星子縣和九江市廬山區(qū)牯嶺鎮(zhèn)的行政區(qū)域為廬山市的行政區(qū)域。
將九江市廬山區(qū)更名為濂溪區(qū)。
將駐九江市濂溪區(qū)賽陽鎮(zhèn)的廬山云霧茶場（含剪刀峽景區(qū)入口）、廬山茶科所，駐蓮花鎮(zhèn)的蓮花林場，駐海會鎮(zhèn)廬山茶場管理范圍劃入廬山市牯嶺鎮(zhèn)管轄。