明朝嘉靖年間屬仁義鄉(xiāng)；清朝康熙年間屬遵義鄉(xiāng)；民國時期屬蔡河鄉(xiāng)；1949年5月屬蔡河區(qū)；1956年為幸福社，屬蔡河區(qū)監(jiān)生店鄉(xiāng)；1958年成立人民公社，為幸福大隊，屬上游公社監(jiān)生管理區(qū)；1959年為幸福大隊，屬郝店公社監(jiān)生管理區(qū)；1961年4月恢復(fù)區(qū)（鎮(zhèn)）建制，為幸福大隊，屬蔡河區(qū)監(jiān)生公社；1975年2月撤區(qū)并社，為幸福大隊，屬蔡河公社；1980年更名為三山大隊，屬蔡河公社監(jiān)生管理區(qū)；1983年底設(shè)區(qū)建鄉(xiāng)，為三山村，屬蔡河區(qū)監(jiān)生店鄉(xiāng)；1987年9月撤區(qū)并鄉(xiāng)，為三山村，屬蔡河鎮(zhèn)至今。