在朱元璋闯业的初期，差点儿在和州突然发生的军中内哄事件中掉了性命，幸而得到徐达豁出性命的解救，才安然无恙。

原来，濠州红巾军首领孙德崖由于缺粮于1355年初带领部队转移到和州，与朱元璋同处一城驻扎。不料偏偏在这个时候，与孙德崖有过节的郭子兴（朱元璋的顶头上司）也从滁州来到了和州。仇人相见分外眼红，为了避免冲突，孙德崖决意辞别朱元璋马上离开和州，他让主力先走，自己殿后。

朱元璋亲自送孙军主力出城时却意外听到了一个坏消息，说是殿后的孙德崖被郭子兴乘机抓了起来。他心知不妙，立即与两个随从掉转马头往回狂奔。孙军那里肯放人，一大群人紧跟在后面策马追赶。双方你追我逐，在城外跑十几里路。最后人困马乏的朱元璋成了追兵的俘虏。

孙军与城内的郭子兴达成协议，双方同意交换俘虏，但大家都不肯先放人。徐达临危受命，单骑来到孙军营中，情愿成为对方的人质，以换回朱元璋。朱元璋回城里，再放出孙德崖 。孙德崖获得自由后，也释放了徐达。这件事最终得到和平的解决。

徐达又立了一功，他舍命救朱元璋可不是为了什么君臣大义，因为那时候朱元璋还不是众望所归的领袖人物，他这么干是出自私人感情，是为朋友两肋插刀，是义薄云天的行为。经此一役，证明朱元璋与徐达由童年时的玩伴升级到了壮年时的生死之交，彼此之间的交情是经得起时间的考验的。

1355年三月，郭子兴病逝。徐达跟从朱元璋南渡长江，攻克采石、太平、溧阳、溧水等地，直至占领集庆（改名为应天）。朱元璋经过一系列的战事，确立了统帅的地位，而全军在战斗中表现最出色的将领则是徐达与常遇春。在这两员战将之中，朱元璋特别重视徐达，有意培养他，让他参与战略决策，以便在适当时机放手让他独立统兵出战，成为独当一面的将领。

其后，朱元璋以应天为大本营，调兵遣将四处扩张，命徐达为大将带领诸军进攻镇江。徐达不辱使命，他的部属军纪严明，打下镇江后秋毫无犯，很快因功升为淮兴翼统军元帅。

卧榻之侧，岂容他人鼾睡。盘据江浙沿海地区的张士诚已经察觉到朱元璋日益扩张所造成的威胁，岂可甘心束手待毙，派兵与徐达展开拉锯战。两军先后在龙潭、常州、宁国、宜兴、常熟等地激战，结果都是徐达获胜，甚至连张士诚的弟弟张士德也成为了俘虏。在此期间，徐达因功升为佥枢密院事。

朱元璋亲征婺州，命令徐达留守应天。徐达指挥军队于1360年上半年连接攻击长江上游的南方红巾军势力，收复池州、安庆、潜山等地，他屡战屡捷，升迁为奉国上将军、同知枢密院事。

最值得一提的是九华山之战，那是徐达所部在打下潜山后回师镇守池州时，与另一路军队的统帅常遇春合兵一起在九华山伏击了陈友谅的军队，斩首万余级，俘虏三千人。然而，这两人却因俘虏问题产生了矛盾。

徐达与常遇春是两个作风完全不同的人。常遇春的特点是剽悍敢战，但有时攻城掠地时会大开杀戒。而徐达长于谋略，所到之处不骚扰百姓，遇到俘获敌军的勇士，必施以恩义，以为己用，故草莽豪杰多乐于归附。现在，如何处置这三千俘虏成为了军中争论的焦点，常遇春认为这些人是陈军之中的劲旅，应该立即除掉，决不能心慈手软，以免留下后患。 徐达则坚决反对屠杀俘虏的野蛮行为，这种做法传出去只会让敌军以后宁可战死也不敢再投降。他将两种不同的意见上报，由朱元璋做出最后的仲裁。

谁知，常遇春先下手为强，在当天夜里挖坑活埋了一半俘虏。打着拨乱反正旗号的朱元璋对滥杀行为非常讨厌，他公开支持徐达，批评了常遇春，并下令即刻释放剩下的俘虏。

为了避免类似的事重复发生，朱元璋做出了一个重要的决定，即时下令常遇春与徐达联合作战时，常遇春一定要服从徐达的命令。朱元璋这样做可不是任人为亲，故意照顾自己的同乡，虽然常遇春骁勇善战，但是徐达的确比常遇春有更高的战略眼光，有更强的大局观念。

常遇春始终是大大咧咧的一位粗人。而徐达则不同，他虽然读书不多，但却求贤若渴，经常向那些有文化知识的人请教疑难。特别是当徐达了解到朱元璋存在推崇儒教的思想后，也马上紧跟领袖的步伐，在战斗的间隙常常拜访儒士，与这些人谈天说地，研究古代兵法，努力充电，把自己打造成为一名儒将。 他始终保持着农民的朴实性格，又受到儒家理论的熏陶，使他为人处世益加严于律己，不贪慕虚荣，也不贪图财富与美色。他长期住在应天城里的一间狭小房子里，出外攻城掠地时从不搜括钱财与掳掠妇女。他乐意与士卒同甘共苦，故得到部属的衷心拥护。

古语有云：“仁义不施，而攻守之势异也”。儒教认为王者之师必然是仁义之师，而徐达也是按照这个思路来治军的，他的部队纪律严明，不许部队骚扰百姓，有胆敢违令者，定斩不饶。这样令行禁止的部队，势必会在战场上屡传捷报。

朱元章南下江南，最主要的劲敌是陈友谅。故此，徐达就不可避免地要与陈友谅多次交手了。1360年六月，陈友谅进犯应天，直抵龙江。徐达率部在应天城的南门之外与诸将一起力战破敌，并追至慈湖，焚烧了一大批陈军水师的船只，赢得了应天保卫战的胜利。

1361年七月，徐达随朱元璋讨伐陈友谅，攻陷江州，兵锋直逼武昌，因功升为中书右丞，次年，又以驻扎沌口之师平定了南昌降军发起的的叛乱，接着参加了名噪一时的鄱阳湖之战。战前，徐达跟随朱元璋出援被张士诚部属围困的安丰时，率领偏师攻打庐州。不料，汉军主力乘虚包围南昌。朱元璋及时从安丰等地撤军，带着徐达等二十万将士日夜兼程地赶向南昌，于同年七月与六十万汉军在鄱阳湖展开一场惊天动地的大决战。此战，汉军大败，陈友谅也战死，而朱元璋从此确立了在江南的霸主地位。然而，徐达却在这关键的一战中表现平平，因为他没有打完全场，仅仅在初战时击败汉军前锋（战绩是毙敌一千五百名，并缴获一艘巨舰），不久便奉命率部分兵力返回应天，以防止蠢蠢欲动的张士诚乘虚而入，因而在战略上起到掩护侧翼的作用。

朱元璋解决了陈友谅后，于1362年正月称吴王，为下一步称帝做准备，并建立百官，以徐达为左相国。现在徐达在朝中的地位仅次于右相国李善长，已经进入了核心领导层，他以忠臣事君之心报答朱元璋的知遇之恩，不久，便率兵连克庐州、江陵、辰州、衡州、宝庆诸路，平定了湖、湘地区；接着又与常遇春合兵拿下了泰州、宜兴、高邮、淮安、徐州等地，控制淮南、淮北地区，为下一步解决张士诚扫除了障碍。