最早將軍隊稱為長城的,是一千五百多年前南朝時期的檀道濟。《宋書》和《資治通鑒》記載,檀道濟一生征戰,所率軍隊常使敵軍聞風喪膽。元嘉八年(公元431年),他率兵攻魏國,糧盡退兵,敵軍竟不敢追來。因他功勛顯赫,官至司空、都督、刺史等職,卻引起宋文帝之寵臣劉湛和司徒劉義康的妒忌。他們力勸文帝召道濟入朝,爾后又矯詔把他扣禁起來。昏庸的文帝偏信讒言,于元嘉十三年(公元436年)殺死了道濟和他的兒子。道濟臨刑時憤怒地說:“乃壞汝萬里長城!”后來,北魏人得悉幾位能征善戰的名將被殺,便毫無顧忌地派兵伐宋。北魏太武帝親率兵騎十萬人直逼宋都建康。宋君在岌岌可危之際,才后悔殺了檀道濟等軍隊將領,意識到軍隊確實猶如萬里長城般的重要了。