山阳故城遗址位于山阳区新城办事处墙南村，城墙周长约5000米，面积近 300 万平方米。该遗址始建于战国时期，是以汉代遗存为主的古城址。从汉代到东魏一直为山阳县冶所，东汉为山阳城鼎盛时期，至魏王曹丕废汉献帝封其为山阳公，山阳城为食邑面闻名。

      山阳城遗址平面呈不规则长方形，周长约5000米，现存城墙大部分高出地面，目前西城墙、北城墙、东城墙保存较好，南城墙破坏严重，基本不存，故城遗址的平面形状呈不规则方形，北城墙长1850米，时断时续，遗址明显，东城墙长1350米，西城墙长1000米，南城墙遗址残缺成都较大，西城墙段保存最好。城墙高出地面4—6米，为层层夯土夯筑而成，每次厚10—15公分，夯窝明显。根据勘探，山阳故城城垣底部宽在60—65米之间，为我国县级最宽底部古城墙。城墙东、西、北面多为汉代墓群，出土有汉代“山阳”铭文陶罐、陶仓楼等珍贵文物。

       2006年山阳故城被国务院公布为第六批全国重点文物保护单位。