古南塔是古时吉安城的标志性建筑。由当时坊间流传的“船至古南塔而知庐陵到”的说法,便可知此塔在庐陵境内的显赫地位。北宋诗人黄庭坚任泰和知县时,有游览南塔寺诗:“炉烟茗盛暂来同,寒日鸦啼柿叶风。万事尽归杯酒里,百年都在大槐中”。相传早年塔顶有三支铁箭,为三国周瑜所射。