公元319年（东晋元帝太兴二年），祖逖与后赵兵在浚仪相持。晋兵屯兵东台，后赵兵屯据西台，双方紧张相持四十天，粮草都到了精光的境地。
祖逖派人用布囊盛满砂土，假装是食用的大米，派千余人运至晋兵据守的东台；然后，他又派数人挑着真正的大米（也是用同样的布袋盛装），佯作劳累坏了躺在道旁喘气歇息。西台的后赵兵望见，马上派精兵来袭，担夫都依据计谋，假装惊惧状弃担而逃。后赵将打开袋子，见里面全是上好的大米，推断晋军粮食充足，“以为（祖）逖士众丰饱，甚惧”。古代人打仗，拼得就是粮草，见敌方粮多士饱，自然心中泄气。
石勒遣大将以千头壮驴运粮，支持浚仪城西台的后赵兵。祖逖在汴水设伏，尽得其粮。后赵兵无粮，不支退走。此后，祖逖军将凭据封丘、雍丘，多次出兵邀打石勒的后赵军，使石勒的力量在河南一地迅速萎缩。
与此同时，祖逖还调和河南诸晋将和坞堡头目之间的矛盾，示以祸福，最终使这些人都听从他的节度。对于河南一带的坞堡堡主，祖逖对他们送质子于后赵的权宜之计也之示理解，灵活处理政治纷争，不仅常对他们施以德惠，还不时遣小股军队假装击扰这些坞堡，让后赵方面想当然的认为这些坞堡地主是忠于自己的队伍。
感激之余，坞堡堡主常常向祖逖暗通消息，把后赵军队的行军意图和路线一一提前报告。
“（祖）逖爱人下士，虽疏交贱隶，皆恩礼遇之，由是黄河以南尽为晋土”。河南父老乡亲感悦祖逖的恩仁德政，作歌咏叹其美。刘琨也对此位老友的文治武功很有感慨，在与亲旧的书信中感赞祖逖。东晋朝廷进祖逖为镇西将军。
由于有祖逖在，号称攻无不取、战无不胜的羯胡石勒再也不敢侵入河南之地，并派人在成皋县修茸祖逖母亲的坟墓。
石勒还写亲笔信给祖逖，要求“通使交市”。祖逖虽不回信，但却听任军民与河北的羯胡互市，交换各自所需，“收利十倍，于是公私丰赡，士马日滋”。
正当祖逖想“推锋越河、扫清冀朔”之际，东晋朝廷对他拥兵一方产生了疑忌，派江南士族出身的文人戴渊为都督，出镇合肥，以牵制祖逖。
前人栽树，后人乘凉，祖逖心中非常不舒服。当时，东晋朝中王敦与刘隗交恶，互相攻讦。祖逖深知内难一起，北伐大业会因之搁浅。忧愤如此，他仍然加紧一切军事准备工作，带病指挥营建武牢坚城。
公元321年10月，天文有变，“妖星见于豫州之分”。古人迷信，病入膏肓的祖逖也识天文，夜中他仰视星空，叹息道：“此星是应在我身！本想进军平定河北，而天欲杀我，这是对国家不利的征兆呵”。几天后，满怀遗憾，祖逖病亡，时年五十六。
宋人胡曾有首咏史诗，表达了对祖逖病亡的历史遗憾：“策马行行到豫州，祖生寂寞水空流。当时更有三年寿，石勒寻为阶下囚”。
毛泽东也有《七律•洪都》一篇叹美：“到得洪都又一年，祖生击楫至今传。闻鸡久听南天雨，立马曾挥北地鞭”。
祖逖死后，东晋朝中久怀逆乱的王敦大喜过望，他先前一直忌惮祖逖不敢有异谋，“至是始得肆意焉”。(《世说新语》中曾记载，“王大将军始欲下都更分树置，先遣参军告朝廷，讽旨时贤。祖车骑（祖逖）尚未镇寿春，嗔目厉声语使人曰：「卿语阿黑：何敢不逊！摧摄面去，须臾不尔，我将三千兵，槊
脚令上！」王闻之而止。）东晋派祖逖之弟祖约代替其兄统领其众，但节节失败，被祖逖收复的河南大片土地最终被后赵所攻陷。
史臣把刘琨与祖逖同编一传，并在赞语中有非常中肯的评价：
“刘琨年少之时，本无高节异操，终日走马贾谧门下，博饮石崇金谷园中，谈笑于司马伦幕府，实为轻佻幸进之徒！祖逖青年初期，义气散谷周济贫乏，半夜闻鸡昂然起舞，潜思中原烽火燎原，贪幸天下兵灾多艰，疑其本意，确乃贪乱乐祸之辈！然而，一俟国家有难，皇室沦亡，此二人各运奇才，并腾英气，疾风劲草，节操磊磊，捐身赴义，死所不辞，身虽丧亡，但成就万世千秋英名！”
羯族石氏后赵王朝的兴亡
山西民俗，除了老陈醋和为数达几百种的面食以外，还有不少地方曲种、杂戏和武术。在榆社县，每逢节假喜庆之日，就会看见城乡四处的男女，数十数百，身着红绸大衣，手执一种号为“霸王鞭”的道具，或舞或跳，左甩右敲，鞭杆上系有玲珑的铜玲和精细的绸穗，在复杂的“四点法”敲击声中，鞭随人舞，人借鞭势，脆响声声，红男绿女们憨厚、纯朴的脸上洋溢着小康的满足和平安世道的喜悦。殊不知，他们手中飞舞的“霸王鞭”，源自一千六百多年前一位本土英雄手中的指挥马鞭，唰唰脆响声中，那样不可一世的后赵王朝似乎就在瞬间的挥甩之中完全幻化为历史的烟尘。
一时英豪——后赵开国皇帝石勒
石勒，字世龙，原名（句，去口加背），上党武乡（山西榆社）出生的羯族人。石勒的祖父，根据《晋书》中记载，名字是耶奕于，与石勒的父亲“并为部落小率”。耶奕于，应该即是波斯语的eelkhany，现代一般译为伊儿汗尼，意思是游牧部落首领。所以，他们这一家很可能是西域胡人昭武九姓中的某一支属，可能是康居（羌渠，曾居于今新疆塔什干地区），语言应该是属于伊朗语系，为入塞匈奴十九种姓其中的一种，他们的样子“高鼻、深目、多须”，应该是欧罗巴人种之一。由于内迁日久，到石勒这辈，已经完全沦落为替当地汉族地主扛长活的佣工，可以说是真正的贫雇农无产阶级。
从七八岁起，石勒整日面朝黄土背朝天，赤脚在田里干苦力。当时这个苦孩子除相貌怪异外（羯人高鼻深目），没有什么特别过人之处，只是在累得贼死回家吃饭时，蹲在茅草房的炕角，端着大碗，常常向母亲抱怨说自己听到有战马嘶鸣、金鼓擂击之声。石母不以为然，劝他说：“你干活太累，耳鸣罢了，不是什么不祥的征兆。”当时，乡村相士们纷纷夸赞石勒相貌不俗，一般人皆嗤之以鼻，惟有同村的郭敬和阳曲县的宁驱认为石勒必非俗子。这两个人虽是财主，对石勒倒很照顾。
十四岁时，身骨壮健的石勒为人雇作脚夫，曾贩运东西到洛阳城内的上东门。大概是劳累数日，刚刚饱餐一堆胡饼，石勒腹圆肚饱之际，兴奋地大吼。恰值东晋高门贵族王衍乘轿经过，看见怪模怪样的一个大身板少年在那里乱叫，就对左右人讲：“刚才那个胡族小孩，观其音声相貌很奇特，恐怕将来会成为动乱天下的祸害。”于是，他命人快马返回，想抓住石勒。集市已散，往来人多，石勒早不知混到哪个沟陇地边去歇着，并很快被大清谈家王衍淡忘得无影无踪。
佣耕少年志叵测
晋惠帝太安年间（公元302—303），并州地区发生饥乱，石勒与当地为人佣佃的杂胡们纷纷逃亡，自雁门流落到阳曲，依附从前的雇主宁驱。当时，各地兵将趁乱，纷纷捆缚流散胡人，卖去外地赚几个小钱花花。当地的北泽都尉有一次率部伍“清户”，抓了好几百号人，又闯入宁驱的庄园。幸雇宁驱把石勒藏在米囤里，使这位羯胡逃过一劫。依石勒魁梧的身板，是上好的奴隶料子，肯定会被军爷们卖出双倍的价钱。眼见阳曲一带军人四处抓人，宁驱保他一回难保二次，石勒便想去纳降都尉李川那里投军，当兵虽苦，总是持枪抡刀抓人的主儿，不会被人当作奴隶卖掉。
走到半路，又饥又渴的石勒狼狈不堪。喘息间，遇见从前同村的财主郭敬，“（石勒）泣拜言饥寒”。郭敬见到小伙石勒不成人形的样子，对之流涕，忙把准备弄到城里卖好价钱的货物就地贱卖掉，为石勒买些吃食和衣物。数个胡饼落肚，身上又多了几件棉袄棉裤，石勒缓过心神，脑子转动得勤快起来，对郭敬说：“现在并州饥荒严重，守穷就肯定饿死。周围的诸族胡人没东西可吃，可以哄骗他们，说带领他们去冀州找饭吃，趁机卖掉他们，既能赚钱，也可为这些胡人找条活路。”