当然，朱同志早就看中这一片土地南靠芜湖，东北接集庆（今南京），地势开阔。又东倚丹阳湖，而湖周围的丹阳镇、高淳、宣城皆物产丰富。若是能够以此为跳板，那自然是再理想不过的；若仅仅是为粮草计而轻易放弃，未免有些本末倒置。
朱老大心知诸军多出自泥腿子，恋巢得紧，大多无什么进取之心，所以少不得拿些好言好语哄着他们。不过，他又转过头来对徐达等核心人员陈说利害道：“而今咱们举全军之力渡江，幸而初战告捷，不过这也算不得什么，咱们还当乘胜直取太平（今安徽当涂）。如若听任诸军抢取财物以归和阳，元军知咱实力，势必要加强防范，故再举必难，从此江东之地也终不为我有，大事去矣！”说着，他竟面露悲凄之色。
而他的意思再明白不过了，那便是“打铁要趁热”，幸好徐达等人是坚决支持老大的主张的。
既统一了思想后，为了防止有人中途动摇，朱老大索性就学着项羽的样儿来了个“破釜沉舟”——于是全军“悉断舟缆，推置急流中”，舟皆顺流东下。
诸军见后大惊失色，赶忙来问明缘故，只听朱老大又哄着他们说道：“成大事者，不被小利蒙蔽了眼睛。这里距离富庶的太平不远，舍此不取岂不要亏得慌？”既有这般诱惑，诸军也就无不领命。
第二天，犒劳了一番将士后，大军便又启程，朱老大仍旧亲自带队，由观渡经太平桥乃直趋城下。元平章（官名）完者不花、万户（官名）万钧、达鲁花赤（官名）普里罕忽里等，闭城拒守。朱老大纵兵急攻，终于一举破城而入。结果完者不花与签事（官名）张旭等弃城逃走，万户纳哈出①则被俘虏。
另有太平路总管靳义见大势已去，遂出东门赴水而死，朱老大听闻后便赞叹此人为“义士”，于是厚葬了此人。其实，他这也是邀揽人心的一个法子罢了，表明自己也是讲忠义的，绝非寻常的草寇可比。
① 纳哈出系成吉思汗麾下“四杰”之一木华黎的后裔，后来朱元璋把他放归元朝。元亡后他却一路升为丞相，继封太尉，成为割据辽东的一大势力。及至洪武二十年，明大军来攻，顽抗了多年的纳哈出才不得不再次缴械投降。
朱同志既想要个好名声，后来也倒让他得了好名声，这苦心总算是没有白费。
就在将要入太平城时，著名的老儒士李习及他的得意弟子陶安等，率领着一干父老纷纷出城来迎接朱老大。这陶安是有些见识的，他后来还被朱老大誉之为“国朝谋略无双士，翰苑文章第一家”；陶安是相当服膺朱老大的，只是他乍一见朱老大那般相貌，着实吓一跳倒是真的：见过丑的，真见过这么丑的。可是待他回过神儿来时，便都化成了一肚子的恭维，他对朱老大道：“您真是龙姿、凤质，非常人也，我辈今有主矣！”
“龙姿、凤质”，这是夸人有帝王之相，想那魏晋之时，名士嵇康便如此被人夸赞，结果反因此招了祸事。
话说朱老大先前本是哄着众将士打下太平之后要好好地搜刮一番的，可是他心里却是有底的，绝不能因莽撞、放纵而失了人心，尤其这江南本文明荟萃之地，一旦有所疏失，更容易惹来儒士们的谤议。因此，还在采石将出发时，他就已先令李善长拟出了一张约束军士的榜文（《戒戢军士榜》），及至一入太平城，老李就赶快将此榜张出。
只说这边将士们兴奋地一涌而入了城，才跟打了鸡血一样，又忽见各处的墙上贴满了禁抢的告示，如触犯者一律处死，大伙一时竟都“愕然不敢动”了，正面面相觑着。偏偏就有一个不知轻重的愣头青，刚动手开抢便被人拿住，将他砍头示众之后，城中也越发肃然起来。
好在有富民陈迪献上了一干金帛财物，当下朱老大便分之与诸将士，这才稍稍让将士们安慰了一下。
几天后，朱老大召集了陶安、李习等人与谈时事，一来集思广益，二来也可见见这几位的真才。只听席间陶安献言道：“方今四海鼎沸，豪杰并争，攻城屠邑，互相雄长。然而考察他们的志向，无非都是贪图些子女玉帛之类，以取一时之快，却并非有拨乱救民、安定天下之心。而今明公您率众渡江，神武不杀，人心无不悦服，以此顺天应人，而行吊（民）伐（罪），则天下不足平也！”
陶参谋说的一则是一种谋取天下的方略，二则也正代表了广大儒士们的心声，朱老大自然觉得他说的很是在理。于是又问他道：“足下之言甚好，如今咱欲取金陵，足下以为如何？”
陶参谋停顿了片刻，便答道：“金陵，古帝王之都，龙蟠虎踞，限以长江之险。若明公取而有之，据其形胜，然后出兵以临四方，则何向不克？”
这还是印证了那句“英雄所见略同”的话，尤其这陶参谋身居太平，此地去金陵不远，比较熟悉情况，故而他的见解更具说服力。陶参谋之言甚合朱老大的心意，由此他便相当礼遇陶安，遇到一些棘手的事也多找他来商议。
不久之后，就将太平路改为了太平府，并任命李习为知府；又设置了太平兴国翼元帅府，诸将皆恭奉朱老大为大元帅。这“大元帅”就算是个前敌总指挥的衔，当此进取之秋，谁让他的能力比较强呢。
火车跑得快，全凭车头带。这个道理大家不是不懂。
过了一阵，朱老大又任命了李善长为帅府都事，潘庭坚为帅府教授，汪广洋为帅府令使，并以陶安参幕府事；又命诸将分守各门，修城浚濠以加强城池的守备。
几天之后便传来消息说，元右丞相阿鲁厌、副枢密使绊住马、中丞蛮子海牙等，以巨舟封缩住了采石江面，封闭了姑孰口，从而也就阻断了南渡将士们的归路。虽然士兵们不免有些恐惧，但朱老大反而似吃了一颗定心丸似的，这回可不用发愁士兵们再有所动摇了。
几天后，方山寨民兵元帅陈野先以数万之众来攻打太平城，其锋甚锐。
朱老大先是上城观察了一番，细察之下方知道这陈野先用兵平庸得很，于是便派出了徐达、邓愈、汤和等引兵出姑孰东以迎战；又派遣了别将率领一支偏师悄悄地绕到陈野先后面去，见机行事。
当徐达等一路转战至太平城北时，忽然只见天空中出现了一番奇异的怪象，陈野先的兵士们只顾着好奇了，没想到被徐达等人打了个措手不及。这时又见那支偏师从敌人的背后杀出，陈野先腹背受敌，不仅被打得大败，连他本人也被生擒。
朱老大于是命人把陈野先提了来，亲解去其绳索，对他一番语重心长道：“而今天下大乱，豪杰并起，假号令据城邑者，不知得有多少人。若是打胜了就有人来归附，如是打败了就只好去归附别人。您既然以豪杰自负，必能识达事机，那么您知道咱为什么要留下您的性命吗？”
“莫不是，想要招我的队伍投降？”
“呵呵，然也！”
“这个容易，我的这般兄弟，为将做校的，都是我的亲戚故人，只要我跟他们打声招呼，便没有不来的道理。”
于是这陈野先便写好了书信发往各处，叫他的那帮留守的兄弟们都赶来投降朱老大。果然，第二天就降众盈门了。
那阿鲁厌、蛮子海牙等，既见陈野先兵败投降，自然不敢轻易来进攻了，只率领着他们的兵众在峪溪口驻扎。
又过了些日子，前方传来了徐达率部攻克溧水州（今江苏溧水县，时属集庆路）的好消息，眼看外围已经扫清，金陵也就越发得近在眼前了。于是这年的七月间，朱老大将陈野先留在了太平，而派出元帅张天祐率诸军及陈部降军前往攻打集庆路。可是由于这老张统兵不力，军队最终不克而还。
八月，朱老大又把大家召集到了一起，商量再次攻打金陵的事。