东线魏军的进攻暂告一段落，而西线战事依然没有停止。梁武帝派遣平西将军曹景宗、后军将军王僧炳等人率领三万步骑北上解救义阳。王僧炳率领两万部队进驻凿岘（河南省信阳市南曹店），曹景宗率领一万人马为后援。元英命令冠军将军元逞等人率军固守樊城（今地不详，疑为楚城之误，在今河南省信阳市西北苏楼村西）抵御，三月二十五日，魏军大破南梁军队，俘虏斩杀了四千多人。
此时的义阳已经被魏军包围了数月之久，城中守军不满五千人，存粮只够吃半年。魏军不分昼夜连续对义阳发起猛攻，魏军用大车满载泥土，从四面八方蜂拥向城下扑来，想填埋城外的壕沟，南梁司州刺史蔡道恭在壕沟内布满蒙着牛皮的战舰，魏军无法接近壕沟。一计不成，魏军又暗中开挖暗道，意欲将义阳壕沟内的水泄掉。这又被蔡道恭即使发现，运土填埋。梁军与敌人相持一百多天，杀伤魏军不计其数。魏军无奈，索性又建造了大量冲车、云梯，对义阳实施强攻。蔡道恭命令部队在城墙上布置四石的乌漆大弓，弩箭所到之处能洞穿敌人甲胄，有时竟能贯穿两人身体，魏军远远望见无不魂飞魄散，四散躲避。蔡道恭还在城内堆积了很多土山，让壮士站在土山之上，手持两丈五尺那么长的长矛，矛尖捆绑利刃，以此猛刺敌人，魏军非常害怕，将要撤退。恰在这时，蔡道恭的病情突然加重，他将侄儿尚书郎蔡僧勰、堂弟骁骑将军蔡灵恩以及诸位将领们召到自己的病榻前，嘱咐大家说：“我受朝廷厚恩，却未能摧破强敌，如今，我自知将不久于人世，你们要以死固守臣节，不要让我留下遗憾！”他又将自己的符节交给蔡僧勰，说道：“我受命出镇，既然无法拿着符节回朝，就带着它一起离去，可将符节与我同葬。”听了蔡道恭的临终嘱托，众人无不掩面而泣。天监三年（公元504年）五月，蔡道恭病逝。众将推举蔡灵恩代行司州刺史，继续坚守。
魏军听说蔡道恭去世的消息，又打消了撤退的想法，转而开始对义阳发起更为猛烈的进攻，魏军肉搏攻城，攻守双方短兵相接，战斗异常惨烈。面对岌岌可危的义阳城，梁朝增援部队曹景宗所部却顿军凿岘，迟迟不进，只敢派兵打猎、阅兵而已。曹景宗虽在萧衍夺取建康之战中立下战功，但此人却利欲熏心，自从担任郢州刺史以后，只懂得聚敛财货，手下的士兵们也是非常骄横。
见曹景宗毫无作为，梁武帝萧衍心急如焚，又派遣豫州刺史、宁朔将军马仙琕率军北上，解救义阳之围。马仙琕率领一万人马转斗而前，兵锋甚盛。北魏统军傅永对主将元英说：“梁军远来，意在与我决战，士雅山（河南省信阳市南）地势险要，应当提前占领。”元英犹豫不决，傅永又说：“机不可失，今日不去，等敌人占领后，后悔就来不及了。”于是，元英分别连夜在士雅山构筑堡垒，并派遣统军张怀等人在山下列阵防守，并命令众将在周围的山中埋伏，示弱于敌。第二天拂晓，马仙琕所部果然进抵山下，一战即击败了张怀等人，在士雅山上筑城的魏军也都狼狈而逃。
马仙琕乘胜率领一万余众直扑魏军围困义阳的长墙之下，掩袭元英大营，义阳城内也派军出城挑战。元英假装不敌，率军撤往平地，引诱梁军进入了伏击圈。傅永将一部兵力留给长史贾思祖率领，令其防守营垒，他自己则亲自率领一千多人南下迎战。等到梁军进入平地后，魏军傅永等三支伏兵突然杀出，时年七十的老将傅永身披铠甲，手持长矛，单人匹马，杀入梁军军中，只有军主蔡三虎紧随其后，横扫梁军军阵。梁军张弓搭箭，一箭洞穿傅永左腿，傅永拔出羽箭，再次返身杀入梁军，遂大破梁军。梁军被斩首两千三百级，梁羽林监军邓终年及马仙琕的一个儿子被杀。元英对傅永说：“大人受伤了，暂时回营养伤。”但傅永却说：“昔日汉高祖刘邦在战斗中受伤，握着脚谎称被敌人射中了脚，是不想让敌人知道自己受了重伤。在下虽然官位低微，但毕竟是帝国的一员战将，为何要让敌人得到射伤了我国战将的美名！”与众将一起继续率军追杀梁军，一直杀到夜幕降临，才回到大营。马仙琕又率领一万人前来挑战，元英又将其击破，阵斩梁将陈秀之。魏统军王买奴又击破梁军东岭之军，斩杀了五百余人。曹景宗、马仙琕知道义阳行将陷落，于是，集中全军的精锐对魏军发起了猛攻，一天之内大战了三次，但梁军均大败而还。义阳城内的蔡灵恩势穷力竭，自知已无力回天，八月十一日，他放弃抵抗，下令打开了城门投降。义阳南面三关守将听说义阳陷落的消息，也都弃城而逃。义阳三关即义阳西南的平靖关（河南省信阳市西南）、黄岘关（河南省罗山县西南）、武阳关（即河南与湖北交界处的武胜关）。
魏军占领义阳及义阳三关后，元英命司马陆希道撰写公开报捷的文书，文书写成后，元英嫌其写得太罗嗦了，又命傅永修改。傅永仅仅将文书中的华丽文辞删掉，只留下作战部署、战役经过的内容，元英看了，非常赞赏，他说道：“看了这些部署，即使是金城汤池，也难以守住。”当初，元英的父亲元贞参与了穆泰平城阴谋而被削去了南安王的封爵，义阳大捷后，宣武帝大喜，改封元英为中山王，食邑一千户。元英将蔡灵恩、尚书郎蔡僧勰、前军将军义阳太守冯道要、游击将军鲍怀慎、天门太守王承伯、平北府司马宗象、平北府谘议参军伏粲、给事中宁朔将军蔡道基、中兵参军庞修等数十人。元英回京后，宣武帝亲自接见，又给其增封食邑一千户。
义阳之战对于梁魏双方意义都非常重大。顾祖禹在《读史方舆纪要》中谈及义阳及其三关的重要性时说道：“六朝保淮南，常争义阳者，义阳，淮西屏蔽也。义阳不守，则寿春、合肥不得安枕。魏高闾言：‘寿春、盱眙、淮阴，淮南本原’者，就淮南言也。由上流言，则重在义阳。”魏军得到义阳之后，就将淮河下游与南阳盆地连为一体，整个北魏国境整体南移到淮南，而对于梁国而言，失去了义阳，等于彻底失去了淮河防线。
战后，御史中丞任昉弹劾曹景宗逗留不进，梁武帝以其是功臣，没有追究。卫尉郑绍叔对梁武帝非常忠心，在宫外听到的消息，总是和盘托出，向梁武帝汇报，梁武帝对他非常信任，义阳陷落后，梁武帝下诏在鹿城关（湖北省孝感市）设立南义阳郡，又在关南（三关之南）设立司州，任命郑绍叔担任司州刺史。郑绍叔到任后，修缮城墙，打造兵器，鼓励屯田，招抚流民，百姓慢慢安定了下来。