1955年始建;1955-1960年,屬于陳家灣街道管轄;1960-1962年,屬于冶鋼人民公社管轄;1962-1972年,屬于陳家灣人民公社管轄;1962-1979年,屬于陳家灣區(qū)管轄;1979-2001年,屬于石灰窯區(qū)石料山街道管轄;2001-2012年,屬于西塞山區(qū)澄月街道管轄;2012年,西塞山區(qū)落實(shí)大部制改革,撤銷澄月街道辦事處,石料山社區(qū)居民委員會(huì)重新整合,由原來的龔家巷社區(qū)居民委員會(huì)整體和石料山社區(qū)居民委員會(huì)整體合并組建;2012年,石料山社區(qū)直接歸西塞山區(qū)管轄。
2015年10月,設(shè)置牧羊湖片區(qū),石料山社區(qū)居民委員會(huì)屬于牧羊湖片區(qū);2019年1月,撤銷片區(qū),設(shè)置牧羊湖街道辦事處,屬于牧羊湖街道至今。