元嘉二十五年二月庾炳之被罢免后，宋文帝以领军将军沈演之接替了吏部尚书一职，沈演之在吏部尚书任上不足一年，即病死了，元嘉二十六年三月，宋文帝又以萧思话接任，第二年，他又将萧思话晋升为护军将军，而以侍中、左卫将军江湛接任吏部尚书。经过两三年来的人事变迁，截止元嘉二十七年，刘宋朝廷的重臣分别为：太尉刘义恭、司空刘义宣、尚书左仆射何尚之、吏部尚书江湛、侍中徐湛之、何攸之等、领军将军刘遵考、护军将军萧思话。江湛，字徽渊，江夷的儿子，江湛为官清廉，他充任吏部尚书后，宾客盈门，但他一点财物都不收取，家中没有多余的衣服和食物，有一次，遇到宋文帝征召他入宫，可江湛的衣服却拿去干洗去了，没有穿的，只好对皇上称病多日；家中的一头牛没吃的，养牛人问他要草料，江湛等了许久才说了句：“拿水给牛饮。”江湛的清廉在刘宋群臣中非常引人注目，是元嘉末期一道亮色，因此，他深得宋文帝的信任，他与徐湛之二人被人称为“江徐”。
二是失意集团仍然蠢蠢欲动，寄希望于刘义康能够东山再起。
元嘉二十四年的十月，胡藩的儿子胡诞世、胡茂世率领二百多人袭杀了豫章太守桓隆之、县令诸葛和之，占据豫章发动叛乱，意欲奉戴彭城王刘义康为主。胡藩一共有60个庶子，大多不遵法度，在地方上为非作歹，他的第十四子胡遵世曾参与到孔熙先的阴谋之中，宋文帝忌惮胡家势力，在范晔一案中并没有处理胡遵世，而是在随后借口他事将其诛杀。即便如此，也让胡氏兄弟怀恨在心，这次胡诞世兄弟叛乱就与此有直接的关系。正巧，前交州刺史檀和之卸任，路过豫章，率众将这次叛乱平定。胡诞世、胡茂世之乱持续时间很短，但他们以奉戴刘义康为名，却让宋文帝深感不安，在一定程度上决定了刘义康行将到来的命运。
三是帝国内部的山蛮依然猖獗。
自元嘉十九年雍州刺史刘道产去世后，荆州地区的山蛮就发生了骚乱，继任的萧思话和刘骏两位雍州刺史都将讨伐山蛮作为首要任务，连年征伐，在这场与山蛮的拉锯战中，刘宋帝国冉冉升起了两颗将星——沈庆之和柳元景。沈庆之仕宦之初任赵伯符的中兵参军，就开始与山蛮较量，后被选调为禁卫军将领，刘道产去世后，荆州山蛮发动大规模叛乱，宋文帝命令从北魏逃归的名将朱修之担任征西将军司马，前去讨伐，派沈庆之为建威将军，辅佐朱修之。朱修之战败下狱，沈庆之单独负责讨伐事宜，大破汉水沿岸山蛮，生擒七千多人，又进军湖阳（今在河南省唐河县），再次大获全胜，生擒一万多人。元嘉二十二年武陵王刘骏担任雍州刺史后，沈庆之随刘骏北上。柳元景，本为河东人，曾祖柳卓迁居襄阳，柳元景长大后，即随父亲冯翊太守柳凭与山蛮作战，此时，柳元景也被任命为广威将军、随郡太守，随刘骏北上。当时，山蛮阻断交通，刘骏被迫停留在大堤（湖北省襄阳市南），无法前进。沈庆之、柳元景二人率军进击，又大破山蛮，俘虏两万多人，刘骏这才进入襄阳城内，而山蛮又切断了驿道，将要进攻襄阳城，城内缺乏粮食、武器，柳元景挑选了六七百人，分出五百人去驻守驿道。有人说：“山蛮将要攻城，不宜分兵。”柳元景却说：“山蛮只知道郡内兵多，岂知城内兵少，我们内外夹击，这是良策。”山蛮进至驿道，杀宋将深式，柳元景命令部队偷偷迂回到山蛮的背后，约定：“以举火为号，一起行动。”驿道驻军与城内突出的部队前后夹击，山蛮一片大乱，投河而死的有一千多人，斩首数百人，刘骏这次渡过了最初的危机。随后，王玄谟率领荆州军队，王方回率领京师部队又讨伐各山，俘获七万多人，郧山蛮最为强盛，鲁宗之时期就曾屡屡讨伐，无法取胜，沈庆之彻底将其平定，生擒三万多人。王玄谟多次向宋文帝上书陈述北伐之意，他对宋文帝说：“彭城是水陆交通要道，应当以皇子到此镇守。” 元嘉二十五年，宋文帝即以雍州刺史刘骏为安北将军、徐州刺史，镇守彭城，到第二年，又以六子随王刘诞为雍州刺史。雍州为江南势力北上的左路，地理位置非常重要，为了加强雍州的力量，宋文帝将江州建制撤销，把江州的文武全部划归雍州，而以湘州的赋税收入也全部交给雍州。不过，要想让北伐进行的顺利，就必须先解除内患，因此，刘诞到任以后，即立即着手对残存的山蛮进行大规模的扫荡。他命令沈庆之率领后军中兵参军柳元景、随郡太守宗悫、振威将军刘颙、司空参军鲁尚期、安北参军顾彬、马文恭、左军中兵参军萧景嗣、前青州别驾崔目连、安蛮参军刘雍之、奋威将军王景式等，统帅二万余人讨伐沔北诸山蛮，宗悫从新安道入太洪山，元景从均水据五水岭，马文恭出蔡阳口取赤系邬，王景式由延山下向赤圻阪，崔目连、鲁尚期等诸军八路一齐挺进，沈庆之攻占了五渠，驻军破邬，作为大本营，指挥各路大军。过去宋军讨伐山蛮总是驻军山下，山蛮得以盘踞山上，居高临下攻击宋军，宋军伤亡很大。
这次，沈庆之在茹丘山下召集众将，他对大家说：“如今如果继续采取正面进攻的办法，将士伤亡肯定很大。去年，山蛮地区粮食丰收，山上粮食充裕，以围困之法仍然难以奏效。我们这次进攻要出其不意，不与敌人过多纠缠，命令各军一味从山下向山上冲击，占领制高点，一旦占据了各山的制高点后，敌人肯定会人心大乱，可不战而胜。”于是，宋军不与山蛮作战，而是开山劈路，鼓噪上山，一直冲上山去，占领了山中的各处险要，突破了山蛮的防线，缴获了大量山蛮的粮食物资，山蛮纷纷溃逃。
从元嘉二十六年冬天到第二年春天，宋军就驻扎在山中，吃山蛮的粮食越冬。
发现宋军主力全部深入山中，南新郡蛮帅田彦生率领六千余人进攻郡县，陈庆之命令柳元景回救。援军未到，山蛮已经攻破城池，焚烧城内仓库、衙门，掳掠居民，还屯白杨山。柳元景追到山下，宋军各路大军也都前来，将白杨山重重包围。宗悫率领所部最先冲上山去，各军齐心协力，一举将田彦生所部全歼，威震群蛮。沈庆之总是头痛，经常戴一顶狐皮帽，群蛮给他起了外号叫 “苍头公”。每当看见沈见庆的部队，就惶恐地高叫：“苍头公又来啦！”
沈庆之又从茹丘山进攻检城，大破诸山山蛮，斩首三千级，俘获从未投降过的山蛮二万八千余口，曾投降过的山蛮二万五千口，牛马七百余头，米粟九万余斛。随王刘诞在白楚修筑了纳降、受俘二城，以纪念这次胜利。
接着，沈庆之又率领各军讨伐幸诸山犬羊蛮。他下令在山道险要之地构筑层层堡垒，架设滚木礌石，设置四通八达的营垒，命令士兵们在营中开挖水井，一方面防备营外水源被山蛮下毒，另一方面预防山蛮用火攻击。果然，天上刮起大风，山蛮每人手持一把火炬，从山上下来烧营。宋营中很多大帐，一旦被火点燃，士兵们赶紧用水扑灭，沈庆之早已设下很多弓弩，一时俱发，山蛮败退而去。由于山高路险，宋军一时难以攻下，沈庆之设置了东冈、蜀山、宜民、西柴、黄徼、上夌六个堡垒，大军暂时撤离。山蛮被围困了很长时间，逐渐开始从山中出来投降，沈庆之俘获的山蛮全都送往京师，作为营户。按：该节地名均不详。
元嘉二十七年，沈庆之因功被征召为太子步兵校尉。