阜阳旧城分南北二城，北城北起泉河南抵鼓楼，长850米，宽450米；南城南北长1200米，宽950米。元以前为土城，明洪武初年重修颍州，将北城土垣改为砖垣，高1丈8，周长4里，开四门。

城门的变迁

宋朝时，阜阳古城池中的北门叫“承恩门”——在今天北关北端的路口；东门叫“达淮门”——也就是今天的小东门；西门叫“通汴门”——今天清颍路西端路口，从西门出去是通往当时首都东京汴梁的必经之路。

南门为老阜阳城的大正门，也叫“镇颍楼”——位置为今天的鼓楼，后来随着历朝历代城市扩容、人口的增加，镇颍楼渐渐地位于城市的中心位置了，后来改为鼓楼。据记载后又改为道观，同时兼为火警台， 民国时期的平射炮台。

那时，门外有护城河——即后来十二连塘，河上有座桥叫“玉环桥”。 据记载桥边有座土地庙 。

明朝初年，阜阳城在老阜阳城墙的西门旁，又开一个偏门，叫“望湖门”，俗称“小西门”。

明朝万历二年，添筑南城，北门不动，东门“宜阳门”为今天的东门。西门“宜秋门”即今天的西门。

南门“迎熏门”——也叫云亭，“颍州八景”云亭山影就是指此处的美景 。

西城新增开一偏门叫“五门楼”。 后有堪舆者说：“开此五门于颍城不利”，随即封闭 ，又新建角楼四座 。

西南方向为“克敌楼”。 东南为“望霍楼”——就是今天的奎星楼。西北“凯歌楼”。东北角是“向蒙楼”。很可惜的是民国28年全部拆除，只留下望霍楼。

2万人拆除城墙

据《阜阳县志续编》（民国）一书记载：1939年7月抗战期间，局势日趋严重，当时国民政府安徽省府委派驻扎在安徽的副师长赖刚来阜阳慰问，当时正赶上国民政府全国通令撤城，为避免阜阳被日军占领后不易收复。便以拆城防敌之名，征集了民工2万人四面动工。

先拆除城墙砖，继而拆除城上建筑，“城墙土隍平其过半”。城上建筑仅存鼓楼和奎星楼，刘锜祠拆后于次年重建数间，砖石城基仅存刘锜祠后和北城西面两段约百米上下。

当时的阜阳地方绅士豪绅名流，以阜阳距离交通线较远，且非日军必经之地和战略要地，加之黄河连年泛滥，恳请保留城垣以防止水患为由，纠集众人请愿至赖刚之处。

要求采取变通的措施：一者只拆去城垛，应对中央之撤拆城垣的命令；二者保留城基，以便日后应对匪患和水患之忧。

当时的专员郭造勋和县长王和均极力赞成。想能够保留文昌阁、白衣楼和刘武穆公祠等几处历史古迹。无奈赖刚拒不应允，于是全部予以彻底拆除。