解放前屬于城南鄉(xiāng)第3保,1950年建政為城南鄉(xiāng)大山村,1958年成立城南人民公社連豐管理區(qū),1961年改為連豐大隊,1981年地名普查因重名,經渠府辦〔1982〕2號文件更名為大山大隊。
1984年體改,改為大山村。
2004年將原光明村所屬的3、4、5、6、13、14、15、16村民小組并入大山村,2018年村發(fā)展壯大將大山村調整為大山社區(qū),2019年5月渠南鄉(xiāng)調整變更為渠南鎮(zhèn),2019年12月行政區(qū)劃調整改革渠南鎮(zhèn)調整為渠南街道,現(xiàn)隸屬渠南街道,至今。