为了保卫浮山堰，梁武帝下诏命令左卫将军昌义之率领太仆卿鱼弘文、直阁将军曹世宗、徐元和等人北上增援康绚，昌义之率领的梁军尚未到达钟离，康绚已经率军将魏军击退，于是，梁武帝又命令昌义之与直阁将军王神念一起沿着淮河逆流而上，前去解救硖石的赵祖悦。魏军镇南将军崔亮命令安南将军崔延伯驻守在下蔡（安徽省凤台县），阻挡梁军增援部队。崔延伯也是一员猛将，他原为梁将，在孝文帝时期投降了北魏，后为后将军、幽州刺史，这次，胡太后也命其率军南下，隶属崔亮指挥。崔延伯与伊甕生在淮河两岸扎下大营，他还下令将军中的车轮去掉框子，把车辐削尖，两两相对，又将竹条揉搓成绳索，相互贯穿，在淮河之上拉了十余条这样的绳索，两岸各建一个巨大的人工辘轳，可以随时拉起绳索，让削尖的轮辐浮出水面，阻挡往来战舰，又可以将绳索沉入水中，避免被人为破坏，既切断了赵祖悦所部的逃路，又阻挡住了下游昌义之、王神念的援军。
昌义之和王神念的梁军被阻挡在梁城（寿阳东南），无法突破魏军的封锁。而李平则加紧了对硖石的进攻，他命令崔亮指挥步兵进攻硖石城西，他自己则率领水军进攻城东，然后，一起从南北方向蜂拥而上。在魏军的猛烈进攻下，硖石外城被突破，二月二十八日，赵祖悦出城投降，后被魏军斩杀，硖石梁军全部被俘虏。
魏军取得硖石之战的胜利后，胡太后即命令乘胜进攻浮山堰，李平即部署各路魏军，准备水陆并进，直扑钟离，但是，崔亮却拒不服从李平的指挥，他自称得了重病，请求回朝，送上奏表之后，即擅自离开大军回朝。李平上书胡太后说：“臣因为梁将湛僧珍、田道龙所部尚在寿阳附近，昌义之和王神念也在梁城，因此，我命令崔亮暂时驻扎在下蔡，伊甕生就驻扎在淮河东岸，与崔亮相互呼应，防御那里的浮桥。臣将率军向浮山堰进发，中书舍人曹道来后，传达了圣旨，此时崔亮已经擅自离去。崔亮率军南下，刚至汝阴就停军不进；抵达战场，又盘桓八十多天；他采用的以土山进攻之法，全然没有奏效；大军即将攻下硖石北门，可崔亮却迟疑不上，是在臣的严令之下，他才发起了总攻。攻克硖石后，他反而肆意妄为，擅自脱离军队回朝。根据法律：‘临军征讨而故留不赴者死’、‘军还先归者流’。因此，请求将其处以死刑。”胡太后下令说：“崔亮为臣不忠，去留自专，既令帝国丧失国威，又违反了我命令。虽然在硖石之战中有功，但岂能免罪！但是，我自从临朝称制以来，不愿杀人，暂时命其将功补过。”崔亮这一搅合，魏军试图对浮山堰发起的第二次进攻行动也夭折了。北魏朝廷以硖石之功，晋封李崇为骠骑将军、开府仪同三司，以李平为尚书右仆射，崔亮进号为镇北将军。崔亮与李平在大殿之上争功，胡太后任命其为殿中尚书，不久又晋升为吏部尚书。
天监十五年四月，经过一年多的紧张施工，浮山堰终于竣工了。建成后的浮山堰，长九里，大坝基座宽一百四十丈，上面宽四十五丈，高二十丈，非常雄伟壮观。大坝两侧种植杨柳，大坝之上驻扎着军队。按魏晋南北朝时期1里约合今0.4158千米、1丈约合今2.412米推算，该坝长约3742.2米，下宽约337.7米，上宽约108.5米，高约48.2米。潘家铮的《千秋功罪话水坝》中这样写道：（浮山堰）“是我国古代最大的一座大坝，蓄水量可超过100亿立方米，淹没面积达数千平方公里，堪称大观。……在堰顶上有两侧各筑了一道子堤，子堤上还种了杞柳，对于特别长的子堤来说，设子堤可以节省大量土方，栽杞柳可以防护堤岸，上游子堤还有防浪作用。这是我国坝工建设中关于防浪墙的最早记载。”
随着浮山堰内水位的不断上升，向西而去的大水逐渐淹没了淮河两岸数百里的土地，但是，修筑大坝本身就是一面双刃剑：要想倒灌寿阳，必须有足够多的蓄水量，而太多的蓄水又对大坝带来巨大的压力，时刻有溃坝的危险，一旦溃坝，不仅淹不了敌人，反而会淹没了处于下游的自己。有人对康绚说：“长江、黄河、淮河、济水这四条大河，是上天用来宣泄天地之气的通道，不能长久堵塞。如果能在大坝的上游再开挖一条泄洪道，就可以减少对大坝的压力，水流抵达大坝时就变得平缓，大坝就不容易决口。”康绚听了就下令又在上游开挖了一条泄洪道，让淮河一部分水从泄洪道里流走。并在魏国散布谣言说：“梁国人最怕在上游开挖泄洪道，他们并不害怕与魏军野战。”齐王萧宝寅信以为真，命令魏军也开挖了一条泄洪道，将淮河水引向北面，浮山堰内的积水从北面（魏军的泄洪道）和东面（梁军的泄洪道）分流，但水位仍然没有下降，魏军只好退去。
寿阳逐渐感到了威胁。北魏扬州刺史李崇命令在硖石附近修建了一座浮桥以备不时之需，另外，他还下令在八公山上另行修筑了一座城池，一旦寿阳被淹没后，就转移到新城固守。随着淮河大水泛滥，寿阳居民纷纷移居到高地，河水清澈见底，移居高处的居民俯视水中，昔日的住宅历历在目。
在梁武帝决定修筑浮山堰时，徐州刺史张豹子自以为肯定会让自己负责此事，然而，梁武帝却让康绚在自己的地盘上负责，这让张豹子非常羞愧。不久，梁武帝又命令张豹子受康绚的指挥，这更是让他深感不满，于是，就制造康绚与北魏勾结的谣言，梁武帝虽然没有相信，但还是将康绚召回了。康绚离任后，张豹子却一直没有再整修过浮山堰。九月十三日，淮河水位暴涨，浮山堰经受不住巨大的水压，终于在建成四个月后第二次溃坝了！这次溃坝是非常可怕的，史称：“其声如雷，闻三百里，缘淮城戍村落十余万皆漂入海”随着浮山堰的溃坝，梁武帝异想天开的倒灌寿阳的计划也付之东流，成为一桩千载的笑柄。梁朝军民为梁武帝的这次异想天开付出了惨重的代价：使用二十万军民，耗时一年七个月，冻死、累死约十五万人，淮河下游十余万人又被水冲入大海！对于这样一件大事、惨事，善于粉饰太平的《南梁书》却只字未提，因此，我们也无法相见一向自以为是的梁武帝萧衍得知以后是一种什么样的反应，我们只知道，他却将修筑浮山堰之前就提出反对意见的祖暅下狱，并在十五天之后，实施了大赦……
北魏郦道元在《水经注》中这样评价此事：“梁天监中，立堰于二山之间，逆天地之心，乖民神之望，自然水溃坏矣。”梁武帝修筑浮山堰也一直被后人所诟骂。王夫之在《读通鉴论》中把他与春秋时企图水淹晋阳的智伯并论，他说：“壅水以灌人之国邑，未闻其能胜者也。幸而自败，不幸而即以自亡。自亡者智伯，败者梁武也。智伯曰：‘吾今而知水可以亡人之国。’前乎智伯者，未之有也，而赵卒不亡，智自亡耳；后乎智伯者，梁人十余万，漂入于海，寿阳如故。”