翟让原先是东郡的法曹，是这个郡主管司法的官员，也就是基层司法所所长之类的小职务。大业七年，翟让犯了法被判死罪，知法犯法罪加一等。他被关在东郡的监狱里等待执行，谁知道这监狱本是翟让的管辖范围，那些狱吏们都是熟人。老翟，你怎么进来了。哎，别提了。于是大家唏嘘感叹一番。有一个叫黄君汉的狱吏深夜时分悄悄来到关押翟让的牢房，他对翟让说，现在天下已经大乱，像你翟法司这样英雄骁勇的汉子怎么能心甘情愿的呆在牢房中等死呢。翟让听到这番话后欣喜万分，自己本已是关在圈中的猪豕等待着任人宰割，现在又看到了生的希望。黄君汉砸开枷锁把翟让放了出来，死里逢生的翟让双泪俱下跪倒在地感谢黄君汉的救命之恩。黄君汉却看不惯这种儿女情长，他对翟让说，我原来以为你老翟是条汉子，将来说不定能干成拯救天下黎民的大事，所以才冒着掉脑袋的危险前来相救，可是你却在这里像个婆娘似得哭哭啼啼，这太令人失望了。黄君汉这些话激发出了翟让的血性，他逃出郡城转身就跑到瓦岗寨去当大丈夫了。
第一次征讨高句丽惨败而归，一百万隋军兵士，逃回来的不到三千人。虽然惨败，可圣斗士隋炀帝仍不死心。大业九年(公元613年)，他又发动第二次对高丽的进攻。他亲自率领大军攻打辽东，派大臣杨玄感在后方黎阳督运粮草。杨玄感的父亲杨素，原是隋炀帝的亲信，帮助炀帝夺取皇位。因杨素功高盖主，杨广想除掉他，便设宴同杨素、太子杨昭一起喝酒。有一杯毒酒是给杨素准备的。但宫人弄错了，毒酒被太子喝了。三天之后，毒性发作，太子临死前说：“想不到我替杨素死了。”杨素知道后，郁郁不乐地死去。杨玄感恨透了隋炀帝，这一回看到局势混乱，就想利用这个时机推翻隋炀帝。
杨玄感用督运粮草的名义，征发了年轻力壮的民佚、船工八千多人，要他们运粮到辽东前线。那些年轻人怨透了劳役，听说叫他们远离家乡去干苦差使，更加气愤。有一天，杨玄感把农民工集合在一起，说：“当今皇上不顾百姓的死活，让成千上万的父老兄弟死在辽东，这种情况不能再忍受下去。我也是被逼来干这件事的。现在我决心跟大伙一起，推翻暴君。你们愿意跟我一块起兵造反吗?”
大伙儿一听有人带头反对朝廷，怎么不愿意，顿时响起一片欢呼声。杨玄感见状，深受鼓舞，当下同王仲伯、赵怀义一起商议整编队伍。
杨玄感把八千民侠编成队伍，发给武器，准备进攻隋军。他发现他身边缺少一个谋士帮他出谋划策，不禁想起了正在长安的好朋友李密。大业九年四月，他派自己亲信的家僮秘密潜回长安，请李密来当军师。杨玄感对李密说，你以前经常在我面前把解救天下黎民的话挂在嘴上，现在天下群雄并起，机会来了，正是你大显身手的时候，就看你的了。此时隋炀帝还在辽东前线，杨玄感的军队在洛阳以东黄河北岸的黎阳，扼守着北上的水路通道永济河。李密一看，这不成气的哥们都敢扯张虎皮做大旗。而我这等人物还在这里当个小小的下等军官，真是虚度了光阴。当时李密就学人家诸葛亮隆中对，为刘备指点江山。李密当时就给杨玄感指出了上、中、下三条道路，上策是出其不意率军北上攻战内地通往辽东的咽喉关口临渝关（今山海关），隋炀帝即不能回到内地又无法获得粮草，将会不战自溃。中策是大军西进，沿途不要恋战，直奔长安，占据关中。在那里进可攻退可守，又远离隋军的主力，可以从容的图谋霸业。下策则是突袭据黎阳不远的东都洛阳，这样做可以获得巨大的舆论效应，但最终的胜败却不可预测。
可是李密忘了这杨玄感不是大耳贼刘备，虽然杨玄感也是个又主见的人，我信任你，但不代表我听你的。在三策之中，他偏偏认为下策才是上策，上策是下策。因为东都洛阳这块肥肉对他来说太具有诱惑力了。杨玄感选择了下策。他认为：隋军家眷皆在东都，以此可以要挟，乱其军心 ；夺取东都后就可以称帝，号令天下 ；选择中策西进成为疲兵，自搓锐气，与其长久图谋不如一鼓作气 ；夺取咽喉要隘，途远时耗，舍近求远，这算什么上策。其中根本，还是这杨玄感一门心思想打下洛阳当皇帝。
然而事实情况却给了他当头一棒，杨玄感东进失利，东都洛阳久攻不下，最终队伍散了，人心散了。读此段史，其实分析李密所献三策基本上还是可圈可点：
上策之所以为上，根本在于：1.夺关隘扼咽喉，可借地利条件制敌；2.与高丽联军扰之，可借高丽一国之力制敌；3.炀帝东征军队，系敌之有生力量，是真正之敌，应当先图之。
中策之所以为中，根本在于：1.历史证明关中可以据，借史御敌；2.进取关中，有雄关可据，借地利制敌；3.关中人口富庶，可以久图大业，借时间制敌。
下策之所以为下，在于：1.以匹夫之勇，对敌人之毛皮，未见谋略制胜；2.隋兵据守洛阳，可以借地利而己不可借，一旦坚城不破，主客将易位。
李密的战略思想的精髓有三，一在于广借外力而削敌可以借之外力；二在于分清主次，认清消灭敌人最主要的有生力量是不可能绕过之战略任务，投机取巧搞不好就惹火上身；第三在于不取巧冒进，正确认识敌我力量对比，随时做好打持久战的准备，一千多年后，伟大的政治家、军事家毛泽东同志就用实践证明了这一点。
翟让到达瓦岗之后，单雄信和徐世勣也相继前来入伙，但徐世勣就是演义里摇着羽扇装神弄鬼的妖孽人物徐茂公，后来的李绩（名字多得让人迷惑）。他们可以说是瓦岗寨的开寨元老。山头占了，下一步怎么发展。既然大家选择了走这条不对路，那就要有一个如何发展的问题，徐世勣认为兔子不能吃窝边草。他建议翟让到东郡之外的荥阳和梁郡去打劫商船。荥阳和梁郡是南北水路的通道汴水流经之地，也是来往商旅的必经之路，翟让带领着手下在那里拦劫商船和官船，收获很大。手中有了粮和钱，底气就足腰杆就直，周围不少过一天算一天的小团伙都来投靠翟让，瓦岗的人马突破了万人。不过到这时候的瓦岗还只是满足于抢钱抢粮抢地盘的最低目标，真正要成为响当当的好缸，成为反隋的主要力量还是等到李密同志到来之后。
此时，又有外黄(今河南民权西北)的王当仁、济阳的王伯当、韦城周文举、雍丘李公逸等再各地起义反隋，遥相呼应。李密游说各股起义军联合反隋，只要他游说的人都纷纷来投，翟让欣喜，开始器重李密。大业十二年十月，瓦岗军攻占了金堤关(今河南荥阳东北)及荥阳附近地区，使隋东都洛阳受到严重威胁，隋炀帝令荥阳太守郇王杨庆进行征讨，杨庆不是起义军的对手。隋炀帝以悍将张须陀为荥阳通守，前往镇压。十月二十七日，张须陀率部向翟让军进击，由于以前翟让曾几次被张须陀击败，当他知道来的是张须陀，还没开打就想带着自己的队伍躲避。张须陀这几年在对付反隋的武装力量时屡战屡胜，隋炀帝杨广曾经让人将张须陀作战的情景画出来，挂在那里欣赏，估计还会即兴赋诗一首作为奖赏送给自己的爱将。这张须陀手下当时还有秦琼、罗士信（这小子就是演义里的俏罗成）等猛将，绝非等闲之辈。翟让在此之前多次与张须陀交手都吃了败仗，自然心中先怯了几分，就想到打不过就跑。
李密制止了这种逃跑战术，他认为张须陀有勇无谋，其队伍连续取得胜利后必定会产生骄傲情绪，以瓦岗军目前的实力，完全可以战胜张须陀。翟让按李密的建议，率军列阵而待，李密则率骁勇二十余骑为游军，另以千人埋伏于大海寺(今河南荥阳东北)北面的树林里。张须陀平时便不把翟让放在眼里，这时他以自己的两万军队组成方阵攻击前进，翟让迎战不久即佯败退走。张须陀军追击十余里，进入李密的伏击圈，李密令部众猛击张军，张须陀兵败。李密、翟让、徐世勋、王伯当等率军将张军团团包围，张须陀突破重围后，见左右的人尚未突出，又冲进包围圈回救其部众，反复数次，无法挽回败局，唉叹“兵败如此，何面见天子乎?”他翻身下马冲入阵中，生命不止，战斗不息，只到流干最后一滴血。时年五十二。所部官兵尽夜号哭，数日不止。张须陀死后，隋朝再无良将矣。可以说，此人是支撑隋朝的柱石之臣。