古代的芒砀山地区是一片泽国，薛湖、滦湖南绕，丰西泽、沛泽北环，西边是孟渚泽，东边有沙泽、余泽，砀水、获水、谷水、睢水、泡水等河流纵横其间，芒砀山周边全部是原始森林，郁郁葱葱，芒砀山也因此显得更为清秀与峻拔，也成为农业、渔业相对发达的地区，《水经注》记载“山有梁孝王墓，或（获）水又东，谷水注之。水上呈砀坡，坡中有香城，城在四水之中，承诸坡流散，为零水、澴水、清水也，即而成潭，谓之砀水。” [5] 因距离黄河较近，历史上屡受其泛滥之害，黄河数次大决口，泥沙汹涌而下，最终将芒砀山周边的河流湖泊连同芒砀古城淤积于地下。
古“芒县”与“砀县”之合称。“芒”是“芒县”，“砀”是“砀县”。《汉书》与《史记》中均是此说。砀山县原称为“下邑县”、“下治县”，元至元二年（1265年），保安镇地区（芒砀山区域）属永城，砀北并入单父县，至元三年，砀北复置砀山县（治今砀山县城），为区别安徽“砀山”，就以“芒山”称呼原砀山县治所所在地——芒砀山周边。芒砀山是“山不在高，有仙则名”的代表，自古为华夏名山，和中国历史上的许多名人紧密地联系在一起，犹如一幅历史的画卷展现在世人面前。
秦置砀县、砀郡，治所均在今芒山镇山城集。汉代砀县属梁国之沛郡。三国魏仍隶属梁国。西晋，砀县并人豫州梁国下邑县（治所在今砀山县东）。南北朝魏孝昌二年（公元526年）复置砀县、砀郡，治所在下邑。下邑县治迁至栗（今夏邑县治）。北齐废砀郡、砀县，新设安阳县（治所在今保安山南）属彭城郡。隋更名砀山，属宋州，即今安徽省砀山县治，芒砀山隶属之。唐朝将山城集命名为保安镇。宋理宗绍定年间（1228—1233年）砀山县为洪水荡没，迁治所至芒砀山南麓保安镇。元至元二年（1265年）属永城县。明朝易名兴隆集，后改名为山城集。清初改为清努镇，但当地群众拒不易名仍称山城集。1940年4月，为纪念鲁雨亭烈士为国捐躯更名为雨亭集。抗日战争时期曾一度划属夏永砀县，解放战争时期1947年11月始，先后划属砀南县和砀山县。1952年初重新划回永城县，雨亭集又恢复原名，以山城集称之。1958年改建芒山人民公社，1983年改称芒山乡，1985年提升为芒山镇。 [1]
