玉壁之战结束后，韦孝宽之所以在战场上销声匿迹多年，一是因为他官拜北周勋州（北周建立以后，以玉壁为中心，在河东新设了勋州）刺史，主要的职责是镇守玉壁重地；二是与宇文护掌权之初逼杀独孤信一事大有关联，因为韦孝宽和独孤信早年曾在荆襄共事，二人关系非常好，合称“联璧”（即成语：珠联璧合，指两位非常杰出的人在一起共事）。独孤信死后，韦孝宽就与宇文护划清了界限。宇文护掌权北周时期，韦孝宽长期备受冷落，他曾上书朝廷，提议在玉壁以北的汾北地区（即汾水北岸）新建两座城塞，此举不但能保障玉壁的安全，且能进一步扩大周国在河东地区控制的疆域，为周国增加方圆数百里的土地。宇文护对此一口回绝，原因很简单：不是说玉壁不重要，也不是周国无心扩大疆域，而是如果听从韦孝宽的提议，在河东修筑新的城塞，就得授予韦孝宽更多的士兵—不增兵前线，光修筑两座空城有什么用。之前，韦孝宽手中的兵力一直只有万人左右，宇文护因此自信能压制得住他；如果让韦孝宽再平添数万兵马，万一哪日他想起老朋友独孤信，心情不爽，来个带兵入京，“诛宇文护，清君侧”，谁能拦得住他？
宇文护一死，韦孝宽终于有了大展拳脚的机会，周武帝用人不疑，给了他所需的援军，示意他可以按照当初的计划，以玉壁城为中心，放心大胆的向北方扩张。不过韦孝宽仍是开心不起来，因为此时的河东，形势已与之前不同，别忘了，北齐三杰也不是浪得虚名的，其中“落雕部督“斛律光早在几年前，就清晰地察觉了韦孝宽的战略意图。趁着他和宇文护争论是否该在汾水以北加筑新城的当口，斛律光带着数万齐军来到这里，在汾北地区修筑了一排城塞，数量多达十数个。通过这些城塞，齐军不等韦孝宽动手，已提前封锁了周军经玉壁北上的所有途径。
对此，韦孝宽也只好硬着头皮上阵，周武帝不同于宇文护，对他信任备至，援兵、粮草也如数拨给他了，若迟疑不前，如何向国君交代，就算打不赢，试探下齐军的实力也是好的。齐军方面，斛律光得知周军援兵抵达，早就在汾北防线严阵以待。这一战，齐、周两国出战的将领俱是各自国内的第一名将（北齐大都督段韶已去世），是名副其实的王牌对决。经过数次交锋，以逸待劳的齐军在斛律光的指挥下，逐渐占了上风，周军多次冲击，先后折损了许多士兵，齐军的汾北防线巍然不动。数月之后，周武帝见汾北战场韦孝宽进展艰难，知其与斛律光棋逢对手，一时难以取胜；遂另遣一军，经河南东进，有心教齐国于河东、河南两地同时受敌，南北不能兼顾。斛律光得知此讯，留下万余士兵镇守汾北，决定亲率五万齐军前往河南支援。其他将领畏惧韦孝宽的显赫威名，认为斛律光此举过于托大，他如果带着齐军主力走了，辛苦修筑的汾北防线只怕要落入敌手。斛律光听后自信笑道：”诸位大可放心，韦孝宽虽负有盛名，周国其他将帅无人能出其右。但是别忘了，他最大的长处是在于防守，而不是进攻。本将军此去河南，定能迅速告捷，至多一个月，便能带着主力军队返回。“
斛律光去后，与进攻河南的周军在宜阳（在今河南宜阳）附近展开激战，如他所言，齐军又轻松取得了河南战场的胜利，不但打退了周军的进攻，俘虏了千余人，还反过来从周军手中夺取了四座城池。经过汾北、宜阳两场交锋，斛律光证明了他完全能够像段韶一样，肩负起守卫齐国的重担。即使他的对手换成了北周王牌将领韦孝宽，齐军也无所畏惧。
周武帝试探北齐的实力，没想到竟试探出了这个结果，一个斛律光就这么难对付，如果再加上高长恭…他忧心忡忡，派人带话给仍在汾北战场困顿不前的韦孝宽，让他停止与齐军作无谓的纠缠，尽早率军退回玉壁。韦孝宽不同意撤退，他答复朝廷特使道：”请陛下放心，微臣已想到了打败斛律光之策，但这事不能操之过急，请容许我军继续留在汾北，徐徐图之。“特使将韦孝宽的原话带给周武帝，周武帝颇感惊讶，他想了又想，摇头道：”斛律光兵强马壮，将士同心，齐军又在汾北地区提前建成了十余座城塞，处处铜墙铁壁。韦将军再是厉害，这一次要打败斛律光只怕是他痴心妄想了。“特使见状，便要返回前线，再一次催促韦孝宽退兵。周武帝叫住他道：”任由韦将军去吧，岂不闻‘将在外君命有所不受’，他既然自信满满，一心求战，朕就算损失个数千兵马，相助他赌一把又如何。再说了，像他和斛律光这样的世之名将，其用兵之策本非一般人可以揣度—或许他真的能创造奇迹也说不定，我等可拭目以待。”
周武帝虽未召回韦孝宽，终究挂念前线战况，此后又陆续派遣了数批使者前往汾北一带视察。使者去后，分批返回，向皇帝复命时说法不约而同：“韦将军最近几个月，再也没有亲自上过战场。斛律光回汾北后，见他不率军进攻，也不敢轻离营地，两军长期相安无事。“周武帝问他们道：“那韦将军向你等提起过如何打败斛律光的事儿了吗？”那些使者的回答仍是不约而同：”韦将军近来很少和他帐下的将领们在一起，也从未见他和其他将军们讨论过作战的策略，他大多时候都和一群孩子在一起，日夜教他们唱两句童谣。“
唱童谣？靠这个能打败风头正盛的斛律光？周武帝这下兴致来了，哎呦，韦孝宽这招有点意思。他问使者们道：”诸位之中，谁把这两首童谣记住了，唱给朕也听一听。“
其中一位使者记性较好，他得令后上前几步，清了清嗓子，面对周武帝开口唱道：
”百升飞上天，明月照长安。“
”高山不推自崩，槲树不扶自竖。“
周武帝听了这两句童谣，琢磨了好一阵子，叹息道：”朕明白韦将军的策略了。“