就在刘湛与殷景仁势同水火之时，从元嘉十二年下半年开始，宋文帝的病情又逐渐加重起来，病中的宋文帝开始考虑自己的后事，最让他担心的就是江州刺史檀道济了。檀道济威名很大，他身边的亲信将佐个个都是身经百战，檀道济的儿子们也都很有才能，刘宋王室一直对檀道济的江州集团心存顾忌。刘湛企图把持朝政，担心檀道济会有不同意见，他对司徒刘义康说：“一旦皇上驾崩，檀道济就无法控制了。”刘义康也担心檀道济不听自己的，对刘湛的话深以为然，他借口北魏在边境制造事端，请求宋文帝下诏将檀道济征召到京师。到了元嘉十三年年初，眼看宋文帝就有可能性命不保，宋文帝就同意了。接到皇帝的诏书，檀道济的妻子向氏说：“功高震主，自古以来都会受到猜忌，如今朝廷无事却征召你进京，看来大祸将要临头了。”等到檀道济抵京后，在京师逗留了一个多月，到了二月份，宋文帝的病情稍有好转，就打算将檀道济仍然返回江州。
檀道济奉命还镇，已经登上了船只，尚未出发，一群奇异的鸟儿围绕着檀道济的船悲鸣。正巧这时，宋文帝的病情又出现了反复，一直于心不甘的刘义康假传圣旨，谎称让檀道济回城参加为他举办的盛大践行宴会，檀道济回城以后，却立即被逮捕，同时被逮捕的还有他的儿子、给事黄门侍郎檀植，司徒从事中郎檀粲、太子舍人檀隰、征北主簿檀承伯、秘书郎檀遵等八人，又逮捕了司空参军薛彤。给檀道济所加的罪名是：一、“元嘉以来，猜阻滋结，不义不昵之心，附下罔上之事，”大家都知道；二、“谢灵运志凶辞丑，不臣显著，”檀道济却予以容忍；三、偷偷散去金钱，招徕不法之徒，阴谋作乱，证据是镇军将军王仲德往年入朝的时候就曾说过，上述罪行，前南蛮行参军庞延祖已经秘密向朝廷揭发了。又派遣尚书库部郎顾仲文、建武将军茅亨前往浔阳，逮捕檀道济的儿子檀夷、檀邕、檀演及司空参军高进之，到三月八日，刘宋朝廷将这13人全部诛杀。薛彤和高进之都是檀道济的心腹爱将，非常骁勇，被当时的人们比作是关羽张飞。
檀道济被逮捕的时候，他愤怒已极，目光如炬，不一会儿就喝下了一斛酒，然后，狠狠地将头巾扔到地上，说道：“你竟然毁掉你自己的万里长城！”北魏人听说宋文帝杀了檀道济，都非常高兴说：“檀道济死了！吴国的那帮小儿们再也不用担心啦！”《宋史》记载，檀道济被杀当天，建康发生了一场地震，地面还生出白毛。
当时的人们编出歌谣悼念这位被冤杀的名将：“可怜白浮鸠，枉杀檀江州！”
毫无疑问，名将檀道济是被冤杀的，因为，刘宋王朝并不能拿出檀道济谋反的任何确凿的证据，而檀道济被杀的根本原因，还在于他功高震主，引起了刘宋最高层的恐惧。一般来说，一位君主能力的大小会决定他臣子的能力大小，只有能力强的上司才能有效地驾驭能力较弱的下属，在这里，君主的能力不仅仅是本人谋略或者处理军政事务的实际能力，更重要的是驾驭下属的能力，比如刘邦本人实际作战能力不强，但他嬉笑怒骂，剑走偏锋，让汉初群雄对他俯首帖耳，韩信就评价他是善于统领将领；刘备也是如此，他采取各种笼络手段让诸葛亮等人对他尽心竭力。在刘裕时代，刘裕本人的综合能力都非常强，他自信能够驾驭住檀道济等人，所以并没有对他下手，但对于难以驾驭的人，刘裕也不是没有逐一剪灭或排挤：刘毅、诸葛长民、檀祗等等，其实，当君主感到自己的能力极限已无法很好地驾驭一个功臣的时候，这位臣子的下场就已经决定了。
除此之外，檀道济被杀还与当时刘宋的朝局有着密切的关系：元嘉八年以后，北魏与刘宋恢复了和平，双方每年都要相互派遣使者，从外部环境上看刘宋王朝暂时没有了外患，但内乱的阴影却始终不能散去，宋文帝朝不保夕，刘湛与殷景仁撕咬正酣，刘义康大权独揽，失去权力的门阀士族们也是蠢蠢欲动，妄图夺回昔日的权势，谢灵运就是一个例子，在这种情况下，提前消弭内乱的隐患是刘宋最高层的首选。再者，从檀道济本人的经历来看，并非没有任何污点：大凡万事万物都有因有果，檀道济本人军事能力超强，这毫无争议，他自诩为刘宋王朝的万里长城也不过分，但政治就是一条不归之路，檀道济本性谨慎小心，不愿惹是生非，这当然不错，但在风云激荡的岁月里，你不惹事，事情会主动找上门来惹你，一味地想避祸全身反而会葬送了自己。也就是说，你自己必须要有自己的主见和起码的立场，但檀道济基于不惹事的心态，在该坚持的时候不坚持，随波逐流，成为别人利用的工具。徐羡之要废黜庐陵王刘义真，檀道济口头表述反对，徐羡之不听，他也不再坚持；徐羡之要废黜少帝，召回京师的檀道济还充当了急先锋。性格决定命运。其实，即便是徐羡之等人当政，也未必会信任檀道济，更何况是从容诛杀人家两个哥哥的宋文帝刘义隆、彭城王刘义康呢？假如他只是一个能力平平的人也还罢了，任何一方都将他作为一颗无足轻重的墙头草而已，不会对他过于在意，不幸的是，这个没有定见的墙头草却是一位威名赫赫的名将！这必然会让任何一方都会对他心存疑忌，关键是任何当权者都难以相信檀道济会在何时、何地与何人结伙，或者被何人逼迫而突然将矛头对准自己！
檀道济自己说自己是万里长城，旨在表明自己是无辜的，但对于宋少帝而言，檀道济还是万里长城么？据《宋书·沈庆之传》记载，十四年后，当宋文帝再度实施北伐，沈庆之反对之时，宋文帝曾说过元嘉初年北伐失利是因为“道济养寇自资，彦之中途疾动。”宋文帝这样说也许是基于偏见，也许并非空穴来风，但总之对檀道济是十分怀疑的。
后世的我们说檀道济是刘宋的万里长城，是基于后来发生了魏宋之间的两次战争所做的逆推，但假如檀道济还活着，这个万里长城就一定不会自愿活着不自愿地再次成为祸首吗？答案是：未必。
檀道济是宋少帝的万里长城么？不是；是徐羡之的万里长城？不是；是宋文帝的？未必；是宋文帝年幼的皇太子刘劭的？希望更不大。诛杀檀道济并非简单意义上的“狡兔尽良弓藏”，其本质是宋文帝清除旧顾命大臣的余绪，檀道济投靠王弘，出卖徐羡之等人，想赢得宋文帝谅解，以保全自己性命，至此彻底失败，只是他的死比徐羡之等人晚了整整十年…