1860年曾国藩代理两江总督的时候与江西巡抚毓科商定，将江西的主要筹饷源地丁银、漕折银以及厘金一分为二，共同享用。地丁银、漕折银的一半归江西巡抚支配，充作全省行政费用。厘金、漕折银的另一半归曾国藩支配，充作军饷。为了节约军饷，江西本省不养军队。如果遭遇太平军攻击，由曾国藩负责驱逐。
然而，随着战争规模的日益扩大，曾国藩的嫡系部队越来越多，军饷需求也日益增大，曾国藩不得不突破当初的约定，向本属于江西巡抚支配的那一部分税收伸手。
江西巡抚毓科、江西布政使张集馨面对曾国藩日益凶狠的搜刮，被迫起来反抗。张集馨警告曾国藩说，江西每年都入不敷出，如果不提前想办法，就会耽误军需。他要求曾国藩裁撤部分湘军，以减少军饷的供给。他还在私下里指责曾国藩，说他不顾百姓承受能力，一味横征暴敛，是个十足的伪君子、假道学。
张集馨的上述言论使曾国藩意识到，必须通过朝廷罢免毓科、张集馨两人，换上自己的人，后方才能稳固。清廷答应了曾国藩的请求，罢免了毓科、张集馨，并任命曾国藩的亲信沈葆桢为江西巡抚，李桓为江西布政使。
曾国藩以为，换上了自己的人，江西的事就会好办起来。然而，就是沈葆桢、李桓这两个人，后来令曾国藩伤透了脑筋。
李桓的主要问题是渎职、贪污。他纵容手下敲诈勒索商人，商人被迫反击，闹卡之风盛行。部分商人因此停止了货物贩卖。于是，江西的厘金收入大为减少。曾国藩得知后，将李桓革退，又将负责厘金征收的机构大加整顿，在其中安插了更多的亲信成员，以防再出现渎职、贪污现象。厘金征收情况才逐渐有了起色。
相对于李桓来说，沈葆桢更加令曾国藩头疼。沈葆桢和左宗棠、李鸿章一样，心气比较高，离开曾国藩之后就想自立门户。
当时，曾国藩将主要的注意力放在了安徽、江苏两省，对于身后的江西，他很少顾及。太平军趁机袭扰江西，给江西带来毁灭性的灾难。
沈葆桢非常不满曾国藩的作为，为了使江西不遭受更大的损失，他断然下令新招和扩充赣军。这显然违背了当初曾国藩与江西巡抚毓科达成的约定，是对曾国藩的直接挑战。
沈葆桢虽然不满曾国藩，对曾国藩的朋友左宗棠却很友好。当时，左宗棠率军进入浙江，阻挡了太平军进入江西的通道，是江西的一道天然屏障。左宗棠还多次率军进入江西剿杀太平军。曾国藩用着江西的饷银却不为江西办事，左宗棠不用江西的饷银却经常为江西办事，这种滑稽的局面使得沈葆桢终于迈出了背叛曾国藩而与左宗棠联合的第一步。
左宗棠和曾国藩的关系在经过一段蜜月期后，又逐渐恶化。在基本上脱离曾国藩的直接指挥，主持浙江军事之后，左宗棠越来越不把曾国藩放在眼里。曾国藩给他写的信，他经常不回。
就在曾国藩为了各种事情和沈葆桢吵得不可开交的时候，左宗棠却和沈葆桢迅速地联合在了一起，他们组成了一个反曾联盟。日后沈葆桢与曾国藩的斗争，左宗棠是重要的推动力量。
曾国藩和沈葆桢之间的矛盾因为沈葆桢不断截留本该运往曾国藩大营的厘金收入而日益激化。当时，在江西境内的勇丁有三万人之多，需要不少饷银才能养活，在这种情况下，沈葆桢不得不冒着被曾国藩弹劾的危险，一再截留本属于曾国藩的厘金收入。
当时，曾国荃正率领吉字营在江宁城下与太平军苦战。吉字营一直缺饷，饷银拖欠几个月，甚至一两年都是很常见的事。饷银不能按时发放已经严重影响到了士兵的士气。当他得知沈葆桢截留军饷后，非常气愤。眼看就要大功告成，曾国荃可不想因为饷银的事而功亏一篑。他一再写信给曾国藩，请求他严厉责备沈葆桢。
此时的曾国藩，已经不是当年的愣头青了。他知道，越是在这种关键时候，越需要忍耐，小不忍则乱大谋。他选择沉默。为了安慰曾国荃，他通过其他途径筹集到了少量军饷，派人火速送往前线。
曾国藩忍耐，沈葆桢则得寸进尺。1863年，曾国藩给管理九江关税务的官员蔡锦青写了一封信，命他将九江关洋税三万两解送至曾国荃大营。
蔡锦青解送到一半的时候，被沈葆桢发现。沈葆桢将他痛骂了一顿，并且扬言说，如果蔡锦青不将已经解送出去的一万五千两收回的话，就撤他的官。
沈葆桢如此不讲情面，令曾国藩感到非常愤慨。曾国藩想：这个沈葆桢真是太不像话了！他是因为我的保荐才从一个小小的道台直升巡抚的，怎么可以恩将仇报？再说了，即便是普通的上下级关系，他一个江西巡抚也该听从我两江总督的指挥吧！
按照曾国藩以往的性格，碰到这种情况，他早就上奏参劾沈葆桢了。然而，曾国藩这次仍然决定忍耐。他将已经收到的一万五千两白银悉数还给了蔡锦青。
曾国荃得知后，破口大骂沈葆桢，甚至责备大哥太窝囊。曾国藩得知后，只是苦笑而已，并不分辩。
沈葆桢对曾国藩的凌辱还没有结束。在1864年初，也就是曾国荃吉字营与太平天国进行最后决战的时候，沈葆桢再次导演后院失火的好戏，把曾国藩、曾国荃兄弟吓出了一身冷汗。
这年初，沈葆桢并未和曾国藩商量，就擅自奏请扣留原本属于曾国藩的江西厘金收入，用来支付本省军队的军饷，使得曾国藩骤然失去每月数万两的饷源。
更为严重的是，户部不仅批准了沈葆桢的这一奏请，还在复奏中列出几笔事实上并不存在的外省协饷，指责曾国藩广揽利权、贪得无厌。清廷之所以这样做，主要是为了借沈葆桢这个事打压一下曾国藩的气焰。
这件事对曾国藩的打击很大。他和曾国荃辛辛苦苦为了大清江山奋战了十几年，现在终于要大功告成了，清廷却如此的猜忌他。
当时，吉字营欠饷的情况非常严重。如果真的失去江西的厘金收入的话，吉字营很可能会崩溃，攻陷江宁的大业很可能功亏一篑。所以，这次曾国藩不能再忍让了。他必须反击，向朝廷申诉，争取属于自己的权利。
清廷也只是想打压一下曾国藩，他们并不希望因此生出事端，致使垂成之功毁于一旦。最终，清廷做出了裁决，江西厘金一半归两江总督，一半归江西巡抚。
曾国藩虽然失去了江西厘金一半的收入，但却因此获得另外一笔巨款。海关总税务司英国人李泰国背着清政府建立起来的阿思本舰队，被清廷勒令解散。李泰国需赔偿中国白银五十万两。清廷便将其中的二十一万两划给曾国藩。
早在1861年，代理海关总税务司英国人赫德就向恭亲王奕�6�0提出建议，应该向英国购买军舰，建立起一支强大的现代海军。赫德认为，当时中国的水师，包括湘军水师在内，都没有太大的战斗力。为了迅速镇压太平天国，同时抵御外国的侵略，必须向英国购买军舰，建立起强大的海军。赫德这样做的意图在于通过控制规划中的海军进一步控制中国，攫取更多的在华利益。