辅公祏据江东自立的消息传到长安，杜伏威一下子如坐针毡，不知道该怎么向皇帝解释。出人意料的是，唐高祖不但没剥夺他的爵位，将他下狱，甚至连一句责怪都没有，依然待之如初。唐高祖的政治手腕有目共睹，他越是这样，杜伏威心中越是不安，不久后竟自服毒药，在唐高祖赐给他的府宅中凄惨的死去。
杜伏威有两个义子，一个即是王雄诞，之前奉命留守江东，已被辅公祏所杀；另一个名叫阚棱，因跟随杜伏威入朝，得以免遭辅公祏毒手。阚棱在杜伏威死后，上表朝廷为义父陈述冤情，并请缨担任行军向导，助大唐平定辅公祏之乱。公元623年八月，唐高祖如之前讨伐萧铣时一样，再次派出了李孝恭、李靖这对黄金搭档，让他俩分别以正副统帅的身份前往讨伐辅公祏。由于李靖此时仍滞留在岭南未归，唐高祖诏令李孝恭带着李勣、黄君汉等七位行军总管先前往江州，等候李靖前来会师。
到了第二年春季，李靖终于从南方归来，且带来了从交州等地招募的军队上万人。辅公祏没想到唐军对自己竟如此郑重其事，甚至不惜把李靖从岭南请回来，这下着了慌。他自知和唐军正面作战，肯定打不过；若选择投降，就凭他称帝，连国号都定了这一罪名，投降也铁定是个死。辅公祏别无他计，只好征发大量工匠，拼命加固大本营石头城；又派出四位心腹大将，屯兵于石头城上游，企图拦截唐军东进。奉他的命令，宋将冯惠亮、陈当世二人率三万水军，驻军于博望山（在今安徽省当涂县西南）；宋将陈正通、徐绍宗二人率三万步骑，驻军于青林山（在在今安徽省当涂县东南），与之同时，辅公祏还另组建了几支千余人的小分队，在长江两岸沿途修筑了大量的营垒和城栅，并用铁索拦住江面。
李孝恭侦查过宋军的布防情况，与众将商议该怎么破解辅公祏设计的防御体系，众将皆认为：强攻博望山、青林山等守备严密的宋军阵地，太过耗费时日，不如强行斩断铁索，径自前往攻打石头城，只要攻占了辅公祏的老巢，冯惠亮、陈正通等人自然会投降。李孝恭又问李靖怎么看，李靖不着急回答，反问李孝恭道：“赵郡王此战是想在一个月内取胜呢，还是想在一年内取胜？”李孝恭道：“当然是越快取胜越好。”李靖这才答道：“用众将的提议，即是一年内取胜之策；依下官之见，不如循序渐进，先攻打博望山、青林山以及附近的敌军营垒，然后再从容解除江面上的铁索，发兵前往石头城。这样做的话，一个月都不用，即能平定江东。”
此言一出，不止李孝恭觉得狐疑，连李勣这等名将也大为不解—显而易见，直接攻打石头城，要比逐一拔除宋军的许多据点快得多，为何照李靖的说法，结果却恰恰相反？面对众将的质疑，李靖解释道：“诸位的分析原本没错，但有两件事你等却没有考虑在内。第一，博望山、青林山等地，敌军驻守的人数多达六七万人，这些人刚仓促筑起营垒和城栅，又用铁索横断江面，双方的水军都无法通行，他们仅靠马车、牛车从陆地上运输，一时间根本无法备齐足够的粮食，所以我军只要派出一支奇兵截断他们的粮道，用不了几日，他们便会轻率离开阵地。石头城则不然，我军如果直接前往攻打他们的国都，一年之内，只要辅公祏手中尚有粮食，他绝不可能冒险出战。第二，你们忘了我军阵中还有一位特殊的人物—杜伏威的义子阚棱。辅公祏的军队，大多原先效忠于杜伏威，因此辅公祏称帝后，为了让将士们顺服他，一定会谎称杜伏威是被朝廷加害，他称帝、起兵是为了替义弟报仇。我等只要让阚棱在交战时向敌军将士解释清楚真相，敌军一定会迅速崩溃，冯慧亮、陈正通的两路大军一败，辅公祏守住石头城的决心必将大为动摇。哪怕他城防修筑得再坚固，存粮再多，那时也不敢再继续坚守，定会弃城向东南方向逃窜，要擒获他就非常容易了。”
李孝恭听取李靖的建议，一面派出奇兵截断对方粮道，一面派出数千老弱残兵前往博望山、青林山等地搦战，冯慧亮、陈正通虽得辅公祏再三叮嘱，让他们坚守勿出，然而因粮食告急，他们急于求胜，皆亲率部下离开山上的营地，奋力追赶唐军派出的诱饵。追赶了一程，阚棱突然拍马上前，当着数万叛军的面解除头盔，问他们道：“各位难道不认识我吗，我的义父是因辅伯而死，你等为何听信他的蛊惑，愚蠢的背叛朝廷？”当下便将杜伏威因为辅公祏称帝而羞愤自杀的来龙去脉向叛军作了解释，并且着重申明，朝廷并未怪罪杜伏威，他义父的死是辅公祏一手造成的。宋军听后，集体放下了手中的武器，甚至有一些人还向阚棱行礼，均丧失了战斗的欲望，冯慧亮、陈正通见士兵们临阵倒戈，急忙放弃各自的阵地，逃回丹阳向辅公祏汇报此事。辅公祏大吃一惊，带着数万兵马连夜放弃石头城向东南方向逃窜，由于“辅伯设计害死吴王”的消息已经传至江东，一路上跟随他的人越来越少，到最后仅剩下数十人。辅公祏逃到武康县（在今浙江省德清县）后，因一行人走得匆忙，缺衣少食，辅公祏让随行的官员去民间强征衣物和粮食，当地百姓大怒，聚集了数百人手持农具围攻辅公祏，竟将之生擒，献给随后抵达石头城的唐军。—此时距离李孝恭用李靖的策略出战，仅仅过去十三日。李孝恭下令：将辅公祏枭首示众，并派李勣等人分头追捕那些宋国的王侯将相，但凡接受辅公祏任命的官员，悉数斩之，并抄没其家产。