朔方军主力全都在河北与史思明交战，后方军队所剩无几，仅靠后方这点军队自守尚且不足，更不要说收复两京了，因此，唐肃宗即位后，就向各地派人调兵，还发布诏命将河北的朔方军调回灵武。唐肃宗命令河西节度副使李嗣业率领五千人马赶赴灵武护驾，当时，唐玄宗还不知李亨已经即位，李嗣业接到的还是唐玄宗七月十五日的诏书，该诏书明确河西属于新任武威都督、丰王李珙统领，李亨并非河西的直接上级，因此，李嗣业与节度使梁宰商议，还是暂时观望，不出兵为好。绥德府折冲段秀实责备李嗣业说：“哪里有君主告急而臣子袖手旁观的道理！大人经常自诩为大丈夫，以今日看来，你不过是个小儿女罢了！”李嗣业听后一阵羞愧，当即禀报梁宰，按照唐肃宗的要求发兵，并让段秀实充当自己的副将，赶赴灵武。唐肃宗又向安西征兵，行军司马李栖筠选调七千精锐部队，号召他们奔赴国难，将其送往灵武。郭子仪、李光弼接到唐肃宗的诏命后，即从河北折返灵武，不久，郭子仪率领五万朔方军主力就回到了灵武，这下唐肃宗才安下心来，也才有了与父皇讨价还价的砝码。八月一日，唐肃宗以郭子仪为武部尚书、灵武长史、同平章事，以李光弼为户部尚书、北都留守、同平章事，其余官职照旧。接到命令后，李光弼即率领五千景城（今河北省沧州市东南）、河间（今河北省河间市）的团练兵奔赴太原。原来的河东节度使王承业治军无方，军纪涣散，唐玄宗派侍御史崔众接管了太原军队，不久，又命人将王承业杀了。崔众平素对王承业很是轻视，李光弼早已看在眼里，内心很是反感，此时，唐肃宗下令崔众将兵权交给李光弼，但崔众拒不服从灵武方面的命令，拖延着不交，李光弼大怒，即将其逮捕杀掉。《南部新书》对此有过生动的记载，由此也可看出李光弼的个性：当时，唐肃宗已任命崔众为御史中丞，中使来到太原，怀揣诏书，问崔众在何处。李光弼回答：“有罪已被下狱。”中使把诏书拿出让李光弼看。李光弼却说：“今天，我只杀一个侍御史崔众。如果你宣布了诏命，我就杀御史中丞；如果其被拜为宰相，我就杀宰相！”中使害怕了，遂不敢宣布而还，第二天，李光弼下令将崔众拉至碑堂之下斩杀。除了向各地征兵之外，唐肃宗还向回纥、吐蕃派出使者，希望他们能出兵支援平叛，回纥和吐蕃出于不同目的分别派人前来洽谈，唐肃宗设宴款待，礼送回国。

除了在各地征兵之外，唐肃宗还初步构建了自己的军政班子。唐肃宗从马嵬驿北行之后，即派人召回了自己的心腹李泌。李泌，字长源，是西魏太保、八柱国司徒李弼的六代孙。其父李承休，吴房县令。李泌从小就很聪明，博览群书，擅长诗文，精通易经，张九龄、韦虚心（韦凑堂侄）、张廷珪对他都很器重。据《邺侯外传》记载，李泌生下来头发就长及眉毛。其母周氏生下其他儿子都折腾得疲惫不堪，唯独李泌降生时非常顺利，因此，就给他起了个小名叫顺。开元十六年，唐玄宗驾临御楼与民同乐，夜里在楼下设置高椅，命人讲论。李泌的表兄员俶仅九岁，也身穿儒生衣服，坐在高椅上侃侃而谈。唐玄宗看到后，就把员俶召入楼上询问其姓名出身，又问：“还有像你这样的神童吗？”员俶就说出了李泌。唐玄宗暗中记下李泌家的地址，派宦官偷偷将他抱入宫来。唐玄宗正与张说下棋，一见之下就说：“这孩子仪表真是国家的栋梁啊！”命张说出题考试。张说就让李泌诵方圆动静，李泌说：“方如行义，圆如用智，动如逞才，静如遂意。”唐玄宗大喜，把李泌抱在怀中，拿果品喂他，然后，又把李泌送到忠王院，两个月后才放回家去，并叮嘱道：“小儿年龄太小，怕伤了他，所以才没给他官职，好好看护，这可是国家的栋梁之材啊！”张说也把李泌请到家里做客，让两个儿子张洎、张均与其交友。又称，李泌年少时，身轻如燕，能站在屏风、熏笼之上。有道士说，此儿长到十五岁，定能白日升天。父母亲戚听说后，都非常担心，一旦听见空中有音乐之声或者香气传来，李家上下都对着天空谩骂，一年八月十五，李家正在欢宴，却见屋外一朵彩云停在庭院的树上，全家人赶忙捣了很多大蒜、韭菜，等香气飘来时，李家派人偷偷爬到屋顶，把捣碎的大蒜、韭菜向那团香云泼去，以后，就再也没有发生过这种事情了。过了两年，李泌做《长歌行》，自夸道：“天覆吾，地载吾，天地生吾有意无？不然绝粒升天衢，不然鸣珂游帝都。焉能不贵复不去，空作昂藏一丈夫。一丈夫兮一丈夫，平生志气是良图，请君看取百年事，业就扁舟泛五湖。”张九龄劝诫道：“早得美名，必有所折。藏器于身，古人所重，何况你一个儿童呢？以后写诗只用写一些风景，吟咏古代的贤人，切不可自我夸耀才是。”李泌含泪接受，后来，李泌也曾规劝过张九龄，张九龄将他视为小友。张九龄被贬至荆州后，李泌也随其来到了荆州，并在那里遇见神仙桓真人、羡门子、安期生，教授给他羽化登仙之术，并告诫他说：“太上老君有命，只因国运中危，朝廷多难，你要以文武之道辅佐圣人，然后再求真登仙。”天宝年间，李泌在嵩山上书谈论世事，受到唐玄宗的召见，被授予侍诏翰林，命其在东宫服务。杨国忠为了打击太子党，称其曾写了一首《感遇诗》，意在讽刺时政，唐玄宗遂下诏将其贬于蕲春郡安置。李泌接到唐肃宗的召唤后，即刻赶赴灵武，唐肃宗一见大喜，像太子那时出门二人并驾齐驱，入内对床休息，事无大小都征求他的意见，对他是言听计从。唐肃宗想任命李泌为右相，但李泌却坚决推辞道：“陛下把我当成宾客和朋友，这比宰相还尊贵，何必非让我委屈当个宰相呢！”唐肃宗遂将其拜为银青光禄大夫，执掌朝廷核心政务，实际权力比宰相还大。《南楚新闻》记载，一次，唐肃宗夜里召颖王等三个弟弟来饮宴，因李泌不吃粮食，唐肃宗总是亲自给他烧两个梨子让他吃。颖王自恃尊贵，故意要吃一个，唐肃宗不给，说道：“你们吃肉，先生绝粒，为何还要争这梨子？”颖王说：“我就是试一试皇上是不是偏心，要不然我们兄弟三个一起要这一个梨？”唐肃宗还是不给，让人赏赐给他们其他果实。三王又说：“我们之所以索要这个梨，就是因为这是皇上您亲自烧的，给我们其他果品又有什么意思呢？”遂建议大家联句。颖王先说：“先生年几许？颜色似童儿。”信王接道：“夜抱九仙骨，朝披一品衣。”益王接着说：“不食千钟粟，唯餐两颗梨。”唐肃宗最后说：“天生此见气，助我化无为。”