江南街道明代全境皆屬義豐鄉(xiāng)，清代沿屬。
民國時期城中片先后曾屬下麗鎮(zhèn)、松石鎮(zhèn)、古麗鎮(zhèn)、城南片一直稱崇道鄉(xiāng)。
白云片曾屬三才鄉(xiāng)、崇道鄉(xiāng)、永祥片曾稱三祥鄉(xiāng)后稱歷山鄉(xiāng)。
解放初城中片歸屬解放鎮(zhèn)，城南片仍稱崇道鄉(xiāng)，白云片設(shè)云山鄉(xiāng)，永祥片改稱永祥鄉(xiāng)，統(tǒng)歸歷山區(qū)人民政府管轄；后邑南鄉(xiāng)、石溪鄉(xiāng)從崇道鄉(xiāng)劃出單列建制。
1956年3月崇道、云山、石溪、邑南四鄉(xiāng)合并稱為崇道鄉(xiāng)；永祥鄉(xiāng)與歷山鄉(xiāng)合稱富山鄉(xiāng)。
1958年，城中片歸屬城關(guān)鎮(zhèn)，崇道、白云合并改稱崇道公社。
同年劃分為崇道、云山兩個管理區(qū)。
永祥片改稱富山管理區(qū)。
1961年城中片歸屬城關(guān)鎮(zhèn)人民公社，崇道、白云片合稱崇道人民公社，永祥片改稱富山公社。
1963年劃出建立云山公社管委會，崇道公社為縣直屬公社。
1966年崇道公社改稱東方紅公社。
1973年復(fù)稱崇道公社。
1981年恢復(fù)鎮(zhèn)建制、城中片屬城關(guān)鎮(zhèn)管轄。
1983年5月，崇道、云山、永祥分別改稱鄉(xiāng)人民政府。
1992年4月撤區(qū)擴鎮(zhèn)并鄉(xiāng)，將城關(guān)鎮(zhèn)和環(huán)城區(qū)所屬長城、崇道、云山、李店、蘇川5個鄉(xiāng)合并成立古麗鎮(zhèn)。
同年5月，建立城東、城南、城西、城北、城中5個街道辦事處。
1993年8月從城南街道劃出，設(shè)立白云街道辦事處；2001年7月行政區(qū)劃調(diào)整，撤銷古麗鎮(zhèn)。
成立東城、西城、江南三個街道辦事處，江南街道管轄原古麗鎮(zhèn)永康江以南部分、城中街道部分、城南街道、白云街道和原永祥鄉(xiāng)區(qū)域。
2009年4月部分行政區(qū)劃調(diào)整，將臨溪、翁埠2個行政村劃歸西城街道管轄，江南街道現(xiàn)共轄5個社區(qū)居委會，5個經(jīng)濟合作社、47個行政村，名稱沿用至今。
1956年3月崇道、云山、石溪、邑南四鄉(xiāng)合并為崇道鄉(xiāng)；永祥與歷山鄉(xiāng)合稱富山鄉(xiāng)。
1958年，城中片歸屬城關(guān)鎮(zhèn)，崇道、白云改稱崇道公社。
同年劃分為崇道、云山兩個管理區(qū)。
永祥片改稱富山管理區(qū)。
1961年城中片歸城關(guān)鎮(zhèn)人民公社。
崇道、白云片合稱崇道人民公社，永祥片改稱富山公社。
1963年白云片劃建為云山公社管委會，崇道公社為縣直屬公社。
1966年崇道公社改稱東方紅公社。
1973年復(fù)稱崇道公社。
1981年恢復(fù)鎮(zhèn)建制、城中片歸屬城關(guān)鎮(zhèn)人民政府管轄。
1983年5月，城南、云山、永祥分別改稱鄉(xiāng)人民政府、1992年4月撤區(qū)擴鎮(zhèn)并鄉(xiāng)，城關(guān)鎮(zhèn)并入古麗鎮(zhèn)，改設(shè)城中街道辦事處，屬城中片；同時崇道、白云、永祥也并入古麗鎮(zhèn)改設(shè)城南、永祥街道辦事處。
1993年8月，白云片從城南街道劃出，設(shè)立白云街道辦事處。
2001年7月行政區(qū)劃調(diào)整，原古麗鎮(zhèn)永康江以南部分：城中街道一部分、城南街道、白云街道和原永祥鄉(xiāng)區(qū)域并成一大片，設(shè)立直屬的江南街道辦事處，沿用至今。