丹杨是陶谦的老家，那里穷山恶水，民风彪悍，出来当兵的也是个个不要命，因此丹杨兵战力非凡，号称天下精锐，当初陶谦平定徐州黄巾军的时候，靠的就是丹杨兵，此后，陶谦也一直凭借丹杨兵稳固徐州。
除了陶谦，曹操也与丹杨兵有莫大关联。曹操在起家时，没有兵马，便从扬州刺史陈温那里征得两千庐江上甲军，又从丹杨太守周昕那里征得两千多丹杨兵，这些兵马可以说是曹操的根本。
此外，孙策能成就江东霸业，依靠的军队主要也是丹杨兵。孙坚死后，孙策在徐州发展受阻，转而向东南求生存，到历阳的时候，周瑜率精兵悍将迎接孙策，这部分将士最终成了孙策攻打东吴根据地曲阿的主力部队。而追根溯源，周瑜带来的这部分兵马是他叔叔周尚的，周尚当时正是丹杨太守，所以周瑜的兵也是丹杨兵。
丹杨兵如此彪悍，可谓是十分难得，但陶谦对刘备真心不错，一上来就是四千兵马的大手笔，刘备感动之余，立即脱离青州刺史部，转而归附徐州。
也就是说，从这时候起，刘备换老大了，他不再跟随公孙瓒、田楷，而是跟随陶谦。
陶谦给刘备的丹杨兵统帅是曹豹和许耽，这两人后来都成了刘备的部将，而这部分丹杨兵也成了刘备得徐州，又失徐州的关键性力量，当然，这是后话，暂且不提。
刘备得了陶谦资助，部众近万，立即屯兵郯城以东，备战曹操。
这年夏天，曹操让手下的参谋总长荀彧守卫甄城，然后自己率部二进徐州，曹军兵锋所指，连下五城，很快便迫近东海城，东海城与郯城相邻，刘备等曹操接近，立即出兵邀击。
丹杨兵虽然厉害，但青州兵也不是吃素的，刘军、曹军在郯城附近迎来了他们历史上的第一次大交锋！
刘备的兵虽然不少，但却是仓促间的乌合之众，甚至有一半是饥民，战斗力只能说是中等偏下。
反观曹操，不但人多军盛，而且作战多年，训练有素，再加上哀兵必胜，这一战，刘备大败而归。
可以说，郯城之战给刘备留下了十分深刻的印象，甚至说是心理阴影，以致于在今后的战争生涯中，只要遭遇曹操，结果必定是胜少败多。
曹操打败刘备以后，继续挥师屠城，陶谦扛不住了，准备丢下鸡飞狗跳、水深火热的徐州，逃回丹杨老家保住老命。
但就在这时候，好消息传来，曹操家后院起火，陈留太守张邈被陈宫策反，迎吕布入兖州，曹操火烧屁股，急忙回去救援，徐州第二次保住了。
刘备虽然没有干败曹操，但是苦劳还是有的，为了感谢刘备，陶谦表刘备为豫州刺史，使其屯兵于小沛，至此，刘备再次升官，在名义上正式成为天下十三州刺史部最高行政长官之一。
这一年是公元194年，刘备34岁。
但更好的事情还在后头。
被曹操两番攻杀的陶谦，看着自己经营多年的大根据地一夕之间毁于一旦，心情之郁闷可想而知，再加上他担心曹操会第三次杀来，积忧成疾，不久便一命归西。
弥留之际，陶谦考虑到自己的儿子太过平庸，德不能服众，才不堪大任，而放眼整个徐州，只有刘备可以接盘坐庄，于是陶谦吩咐徐州别驾糜竺说：“除了刘备，没人能安定徐州，我死之后，你们要拥护刘备为主！”
于是，历史上著名的陶谦让徐州就此发生。
初平四年秋，曹操率青州兵，外加袁绍的朱灵部友军，浩浩荡荡，杀奔徐州！
曹操跟陶谦是不共戴天之仇，青州兵与陶谦也是宿怨，所谓哀兵必胜，曹操和手下全都红着眼睛、穿着孝服，哭着喊杀，数月之间，连克十余城，陶谦东奔西逃，虽然没有被曹操捉着，但是徐州百姓遭了秧。曹操接连屠城，徐州有五郡都被曹军施以三光政策，死者数十万计，鸡犬不存，泗水断流。
虽然事出有因，陶谦也确实该打，但曹操这家伙做事也忒损，太过残暴。
这一仗一直打到兴平元年（即公元194年）二月，曹操因为粮草不济，疲软了，才率军撤退，陶谦因此得以保全性命，喘了一大口气，但他经营多年的富饶徐州，至此毁于一旦。
但曹军撤退并非是徐州大战终结，他们只是中场休息而已，两个月后，曹操再度来攻，兵锋所指，连克五城，陶谦一边跑，一边派人去找田楷、刘备，让他们来救命。
于是，刘备再次出现在众人的视野中。
就在这时候，孔融的大礼来了，孔融以北海相的官位、海内名士的身份，极力促成此事，巨星孔融的态度，让刘备稍稍心安。
而一直钦佩刘备有王霸之气的陈登最为出力，他亲自跑到小沛，劝说刘备：“现如今汉室衰微，天下大乱，大丈夫建功立业，就趁此时！徐州有百万人口，粮草殷实，兵马富裕，愿使君屈尊为主，抚临州事！”
陈登这话算是说到刘备的心坎上了，现在确实是成就大业的时候，而成就大业必须要有根基，摆在眼前的徐州正是不二之选！
但，刘备还是要再出言试探一下陈登的口风。
刘备说：“袁术近在寿春，家世显赫，四世五公，海内所归，您可以把徐州让给他来统领。”
陈登直截了当地说：“袁术是个什么东西？骄横奢侈，不自量力，根本不是治乱的主。如今我们想给使君您贡献十万军士，辅佐您上可以匡扶汉室，成就五霸之业，下可以割地守境，名垂青史后世！这事儿不用再商量了，就算您不答应也不行，陈登我不会让您拒绝的！”
一旁的孔融火上浇油：“元龙说的对极了！袁术岂是那种为国为民的人？说什么四世五公，不过是冢中枯骨而已，有什么可炫耀的！今天这件事，徐州百姓倾心拥护，可是上天垂降的好事，你要是不答应，以后后悔也来不及了！”
刘备至此才算彻底安心，正式笑纳徐州牧之官印。
从刺史，到州牧，刘备又进一级。