铁塔原建于夷山之上，后来由于黄河泥沙沉积，将夷山及塔基淤没。据《如梦录》载，基座辟有南北二门，向南一门匾曰：“天下第一塔”。基座下有一八棱方池；北面有小桥跨池而过，由小桥进北门入塔。由此可以想见，当年铁塔如同一株破水而出的芙蓉，亭亭玉立，更使塔身外观出落得挺拔灵秀，瑞丽舒展。