虽然魏军撤出了青州冀州地面，但并没有从刘宋国土中撤离，相反，魏军避实击虚，转而南下朝兖州扑来。
大明三年一月一日，魏征西将军皮豹子改变了攻城策略，长驱直入，打算掳掠些财物，以弥补战败的损失。他率领魏军朝兖州治所瑕丘（山东省兖州市）扑来。兖州刺史沈僧荣原命殷孝祖率领五千步兵前往协防两城，这支部队刚刚离城八里，就与魏军侦查骑兵遭遇，双方当即即发生战斗，很快，皮豹子的主力大军也随后赶到。在野战中占据优势的魏军骑兵大败宋军，宋军被斩杀五千人，魏军纵兵砍杀，一直追杀到瑕丘城下，宋军仅仅有十余人侥幸逃归城内。瑕丘城内守军不足，固守不战，魏军大肆劫掠一番后，这才撤离宋境，宋魏这场持续了三个多月的战斗就此结束了。
大明二年年底到三年年初的这场战役，在南北两朝的史书中均没有引起足够的重视，且宋魏两国的史书均对各自战胜大加渲染，而对战败的细节语焉不详。比如，《宋书·殷孝祖传》就对瑕丘战败只字不提，《宋书·颜师伯传》则对前期宋军战斗细节予以了详细的叙述，而《魏书》则对前期战败也是仅仅在封敕文的传记中说了一句话：“高宗时，与新平公周盆等击刘骏将殷孝祖于清东，不克。”相反，在《魏书·岛夷刘裕传》中还说“（太安）四年，骏遣其将殷孝祖寇济州，高宗遣清水公封敕文等击走之，又诏征西将军支豹子击孝祖于清东。五年，豹子还，遂掠地至高平，大获而还。”总体上来看，这次刘宋战争，宋军获得了胜利，《魏书》讳言这场战争本身，也恰恰说明了这一点，那么，为什么《宋书》在孝武帝本纪里也仅仅提及一句话“是冬，索虏寇青州，师伯频大破之”呢？这大约是因为，孝武帝一系在其死后，就被明帝斩杀殆尽了，孝武帝刘骏一直是作为一个反面人物被后世诟骂，而恰恰是在明帝刘彧手中，青州、兖州等淮北之地被北魏夺得，如果大肆宣扬孝武帝的战功，刘彧的脸将置于何地？
比较而言，《宋书·颜师伯传》的记载还是比较全面的，是了解这次战斗的很好史料。但由于南北史料对人物的称谓不同，造成了理解上的难度，比如，在《宋书》中，明确记载在前期大战中，宋军斩杀了魏军河南公树兰，那么，这个树兰究竟是谁？并且斩杀了五军公、窟环公等人，他们分别都是何人？《魏书·高宗本纪》记载，在大明二年“十有二月，征东将军、中山王托真薨”。第二年的“二月己酉，侍中、司空、河南公伊馛薨。三月庚寅，曲赦京师死罪已下。”透过这段记载，并结合其他史料，我们似乎能够得到以下判断：一是，宋魏这次冲突远非想象的那么简单，更象是孝武帝策划很久的一次有组织的诱歼魏军的计划。1、早在孝建三年五月，孝武帝即下诏荆州、徐州、兖州、豫州、雍州、青州、冀州七州辖区内，百姓家中养一匹马的，就可以免除一人的赋税，鼓励百姓养马，结合宋魏两国已经建立了互市这一具体情况，这一措施产生的效果显而易见，孝武帝之所以重视骑兵建设，就是亲眼看到拓跋焘魏军铁骑南下的威力，吸取了其父宋文帝的北伐教训。2、据《魏书》记载，当宋魏两国在青州打得如火如荼之时，北魏文成帝却并没有率领大军出现在青州前线，而是北巡阴山，《资治通鉴》更是明确记载，当时，文成帝率领十万骑兵、十五万辆大车北击柔然，魏军渡过沙漠，旌旗绵延千里，柔然处罗可汗远远遁逃，文成帝拓跋濬停留在车轮山（今地不详），魏军并没有取得太大的战绩，只有柔然别部朱驾颓等率领数千帐篷投降了北魏。魏主为何要大举北伐？其原因很可能是受到了孝武帝的欺骗，或者风闻柔然将与刘宋夹击北魏吧？3、《宋书·天文志》记载：“后二年，虏寇青、冀州，遣羽林军卒讨伐。”从青州战场上宋军的表现看，这的确如此，宋军投入战斗的大多是禁卫精兵，士兵的战斗力很强；在宋军的作战方式上，也一改不敢与敌人野战的传统，当魏军进攻城池时，宋军在大多数情况下，是在魏军刚刚抵达城下时突然从城内杀出，这让魏军大惊失色，顿时被打得落花流水，宋军之所以敢于与魏军野战、对攻，当与孝武帝重视和发展骑兵有关；孝武帝在部署战役上，也一改其父宋文帝作战之前先与魏主通信的做法，从魏军的前期表现看，魏军对宋军的战斗力估计不足，这也从反面说明，孝武帝派出的禁卫精兵魏军并未觉察。4、在战略上，孝武帝也改变了过去多路出击的策略，而是将战役局限于青州及其周边地区，这是基于集中兵力于一点和刘宋国力尚未完全恢复的现实考虑，而做出的正确决策；在战术层面上，则采取诱敌深入之法；在战斗层面上，则采取出敌不意、主动出击的办法，与敌人展开面对面的对攻，可以说，这些都是经过了精心策划的。二是这场战争的规模远非我们想象的那么小。从《宋书》记载的宋军斩杀的魏军诸多名王上来看，这场战斗规模并不小。正如我们前面的疑问说的那样，假如《宋书》记载无误的话，河南公树兰应该是《魏书》记载的死于二月己酉日的北魏侍中、司空、河南公伊馛，因为在一般情况下，同一时期河南公只有一人，假如真是伊馛，以伊馛之尊被当场斩杀，其战役规模当不会小了。另外，《魏书》还记载了征东将军、中山王托真在此期间也死去了，托真不知何人，从他的军号和爵位来看，他极有可能是在与宋军交战中被杀的。三是魏军损失惨重。《魏书·天象志三》称，此战宋军大败，但他的前提只是说的皮豹子与殷孝祖之间的那场战斗，而对前期魏军频频失利只字未提。《魏书·高宗本纪》还记载，战后不足一个月，文成帝即下令“曲赦京师死罪已下。”既然魏军在北伐柔然中取得了胜利，为何要曲赦京师呢？这也许说明了在宋魏之战中魏军惨败，已经造成了社会的动荡了。
总之，这次青州之战，是自刘裕死后近三十年来刘宋帝国在对北魏战争中取得的唯一一次单方面的胜利，一扫宋少帝、宋文帝以来宋军在与魏军作战中一直长期处于劣势的历史，也为一年以后北魏主动结好刘宋奠定了基础。