原名“二站”。
清雍正十年（1732)，黑龍江將軍開辟齊齊哈爾城至呼倫貝爾城的驛道——龍海路，于此地設(shè)立驛站。
從齊齊哈爾城開始，排序為第二站，故名“二站”。
屬齊齊哈爾副都統(tǒng)轄區(qū)。
清光緒三十二年（1906)，甘井子荒務(wù)行局于二站附采定城址，勘建“三里三城基”，翌年街基落成，荒務(wù)行局自甘井子屯遷至二站。
清光緒三十四年（1908）撤銷荒務(wù)行局，設(shè)置甘井子巡防局，二站為巡防局所在地。
中華民國成立后，1914年7月，劃歸龍江縣，改設(shè)縣屬甘井子佐治局。
1916年劃歸布西設(shè)治局管轄。
1921年隸屬第一保。
1926年2月，將甘井子佐治局正式改設(shè)甘南設(shè)治局，二站改名為“甘南鎮(zhèn)”，成為治城。
1928年劃為設(shè)治局第一區(qū)。
東北淪陷后，1933年將設(shè)治局改為甘南縣，甘南鎮(zhèn)初為第一保。
1938年改為甘南村。
1945年“九三”抗日戰(zhàn)爭勝利后，1946年3月劃歸第一區(qū)管轄。
1951年11月將甘南鎮(zhèn)劃為區(qū)屬鎮(zhèn)。
1955年12月，改為區(qū)級鎮(zhèn)，由縣直轄。
1958年9月，與附近鄉(xiāng)村合并成立紅旗人民公社。
1960年3月，從紅旗公社劃出，改稱甘南鎮(zhèn)公社。
1980年9月，改稱甘南鎮(zhèn)，名稱沿用至今。