从中山纪念碑后边，折向西行，可见一段约200多米的古城墙，逶迤伸展，隐没在丛林深处。但是，这一堵古城墙，远不止200多米长，它东起小北门（今小北花园），西迄大北门（今解放北路与盘福路交会处），共长约1100多米，断断续续，横跨越秀山。它是广州保存的惟—一段明代城墙，也是广川现存的最古老城墙，迄今已有600年的历史。

　　广州筑城的历史，起源很早。比较真实可靠的是秦统一岭南后，首任南海尉任嚣始筑的番禺城。后来 赵佗建南越国，称霸岭南，将番禹城扩展为都城。以后历代均有修建。

　　越秀山古城墙始建于明代，它和镇海楼以及五仙观中的岭南第一楼被誉为“广州明初三大古迹”，又是广州仅存的一段古城墙。这段古城墙分西、中、东三部分：从大北门到镇海楼为西段，环镇海楼所在的小盘龙岗山头为中段，从广州美术馆到小北门为东段，共1000余米。城墙上的雉堞敌楼等早已荡然无存，保存较完好的是镇海楼附近的一段，长达200米。从山腰抬头仰望，还依稀可见巍峨高耸的城头上那锯齿状城碟和一块块红砂岩石镶嵌的斑驳的古城墙面。古城墙上芳草萋萋，如此苍凉凝重，给游人一种“念天地之悠悠”的怀古凭吊的情怀。

　　越秀山古城墙是广州北门的制高点，历来为兵家必争之地。据记载，第二次鸦片战争期间，英法侵略军进攻广州城，用大炮轰城墙，又在洋枪掩护下向广州北城发起进攻，守北城的中国官兵利用古城墙做掩护，奋起反击，用土枪土炮、长弓弓箭等集中向敌军反击，侵略者狼狈逃窜，在城墙下丢弃一批尸体。1923年，孙中山在广州任大元帅。同年4月，桂军将领沈鸿英等在花县发动叛乱，进犯广州，前锋窜至越秀山北。孙中山临危不惧，亲自坐镇五层楼，指挥军队在古城墙布防。孙中山用望远镜眺望敌军阵地，发现敌军正向城墙进犯，立即命令侍从副官马湘率领卫士将三挺轻机枪和两挺重机枪架在城垛上准备反击。而守卫在越秀山的士兵，被大元帅孙中山身先士卒、亲临前线的精神所感动，个个精神抖擞，在孙中山指挥下，奋发神威，英勇战斗，叛军被打得落花流水，节节败退。孙中山又指挥队伍乘胜追击，收复新市、石井等地，狠狠地打击了叛军的气焰。因此，这段古城墙又是广州这座英雄城市的历史见证。