与此同时，唐代宗又以皇子奉节王（后改封鲁王、雍王）李适（kuo）为天下兵马元帅；义昌王李邈为郑王、李延为庆王、李迥为韩王；追尊生母吴氏为皇太后。代宗一生有二十个儿子、十八个女儿，儿子分别是：李适、李邈、李遐（早死）、李述、李逾、李连、李迥、李遘、李乃、李迅、李选（早死）、李遂、李造、李暹、李运、李遇、李遹、李通、李逵、李逸。按：据新旧唐书记载，无李延之名，且称宝应元年之所以将李迥封王，是因为李迥的母亲是代宗的宠妃独孤氏，所以才位居“郑王之亚”，此处存疑。女儿分别为：灵仙公主（早死）、真定公主（早死）、永清公主（下嫁裴仿）、齐国昭懿公主（崔贵妃【杨贵妃姐姐韩国夫人之女】所生，始封升平；下嫁郭暧）、华阳公主（独孤氏所生）、玉清公主（早死）、嘉丰公主（下嫁高怡）、长林公主（下嫁卫尉少卿沈明）、太和公主（早死）、赵国庄懿公主（始封武清、徙封嘉诚，下嫁魏博节度使田绪）、玉虚公主（早死）、普宁公主（下嫁吴士广）、晋阳公主（下嫁太常少卿裴液）、义清公主（下嫁秘书少监柳杲）、寿昌公主（下嫁光禄少卿窦克良）、新都公主（下嫁田华）、西平公主（早死）、章宁公主（早死）。李俶当广平王的时候，唐玄宗将韩国夫人的女儿崔氏嫁给了他做正妃，崔氏为李俶生下李邈、李偲和升平公主二子一女，期间，大约也是为了讨好杨氏家族，时任太子的李亨还将儿媳崔氏所生的次子李偲这个孙子，过继给自己当第十一子，应该说李邈、升平公主是唐代宗的嫡子女，然而，安史之乱爆发后，杨氏集团覆灭，成了打压的对象，这也牵连到了崔氏，在唐军收复两京之后，崔氏就莫名其妙地去世了。代宗即位后，一直也没有再立皇后，而李邈作为次子，也失去了竞争皇太子的本钱。
唐代宗在安抚李辅国的同时，也在秘密削弱李辅国的权力，他采取了分化瓦解的策略，把李辅国的同党飞龙副使程元振拉到了自己一边。程元振也想攫取李辅国的权力，就偷偷向唐代宗建议逐渐夺去李辅国的权力，六月十一日，唐代宗解除了李辅国天下兵马元帅行军司马及兵部尚书职务，其他职务不变，而以程元振担任行军司马，又命令李辅国迁出宫去。这一命令宣布后，城内军民一片欢腾，李辅国听说后这才恐惧起来，上书要求辞职退休。唐代宗顺水推舟，也不再挽留，十三日更是下令免去了李辅国兼任的中书令一职，只保留给他一个司空的空衔，但加封他为博陆王。李辅国入宫谢恩，愤愤不平，说道：“老奴侍奉不了郎君了，请求到地下侍奉先帝去了！”唐代宗也只是安慰他一番而已。实际上，唐代宗一直以来就对李辅国的专权跋扈不满，只是因为在即位之初李辅国有拥立之功，才不愿公开处决他，到了十月十七日夜，有刺客潜入李辅国的宅院，将李辅国杀死，取下他的人头和一条胳膊而去。唐代宗装模作样地下令捕捉刺客，派人前往李辅国家中吊唁，让人刻了一个木脑袋安在李辅国的尸体上，又追赠其为太傅。《杜阳杂编》称：李辅国死前，唐代宗梦见高力士率领数百铁骑，刺中李辅国的脑袋，而后欢呼着朝北而去。唐代宗让谒者询问缘故，高力士回答：“我们是奉了明皇之命。”李辅国被杀后，唐代宗才把这个梦说了出来。显然唐代宗这话是欲盖弥彰。《统记》记载：后来，杭州刺史杜济曾对人说，他认识一个武士就曾对他说过自己就是那个刺杀李辅国的人。
李辅国失势后，唐代宗开始依靠程元振。程元振猜忌郭子仪位高权重，屡屡在唐代宗面前进谗言，八月二十三日，郭子仪从河东回到长安，上书请求朝廷解除自己的副元帅、节度使等职，唐代宗安慰他一番，将其留在了京师，不久，唐代宗又加封程元振为骠骑大将军兼内侍监。
在粗定了朝廷之后，唐代宗又把目光转向了长安的后院益州。天下大乱后，益州各地山蛮也纷纷造反，唐朝在益州的统治受到了极大的威胁，到唐肃宗上元二年四月，更是出现梓州（今四川省三台县）刺史段子璋起兵造反的大事。当时江南刘展之乱刚刚平定，而李光弼等人却在邙山战败，蜀地又传来了段子璋的叛乱，真可谓是祸不单行。段子璋十分骁勇，曾经追随太上皇在蜀地作战，立下战功，东川节度使李奂上书唐肃宗要将段子璋撤职，段子璋遂起兵奔袭住在绵州（今四川省绵阳市）的李奂。途径遂州（今四川省遂宁市），遂州刺史虢王李巨出城相迎，结果被杀。李奂战败后，逃奔成都。段子璋自称梁王，改元黄龙，改绵州为龙安府，设置百官，又发兵攻克了剑州（今四川省剑阁县）。好在是，在西川节度使崔光远和东川节度使李奂的合力进攻下，不久唐军就扑灭了段子璋的叛乱。如今，在大战前夕，唐代宗要先想好退路，稳定后方，遂于六月任命兵部侍郎严武担任西川节度使。
严武，字季鹰，是前中书侍郎严挺之的儿子。《唐诗纪事》称，其母生他之前梦见有神人说：“我是诸葛亮，来给夫人当儿子。”严武生下后容貌端庄，自幼豪爽，其父严挺之不爱其母裴氏，而宠爱小妾玄英。严武八岁，很是奇怪，就问母亲：“父亲为何经常去看玄英，总不来安慰母亲您呢？”其母对他说：“你父亲薄情，嫌弃我长得丑，新婚几天就怀上了你，此后就再也不理睬我了。”严武听后顿时火冒三丈，趁父亲外出，拿起一把铁锤闯入玄英的寝室，将其脑袋打碎。严挺之回来后，仆人们惊慌失措向严挺之禀报：“小郎失手打死了英！”严武到了父亲面前却说道：“哪有身为大臣而薄待正妻而厚待小妾的？儿子是故意杀的，不是失手！”严挺之很是惊奇，说道：“这才真是我的儿子啊!”《逸史》称，严武家曾与一名军使是近邻，军使有一个美貌绝伦的女儿，严武看见后，就收买了军使女儿身边的丫鬟，将此女诱骗到自己家中。一个多月后，他就带着此女私奔，准备逃往江淮一带。军使发觉后向朝廷告发，朝廷派人追捕，此时严武带着此女已到巩县（今河南省巩义市），正雇船东下。眼看事情将要败露，严武顿生杀机，将此女灌醉后，用琵琶弓弦勒死，沉尸河中。唐玄宗入蜀，严武以殿中侍御史随玄宗入蜀，被提拔为谏议大夫，后前去灵武，被房琯推荐为给事中，收复长安后，严武被提拔为京兆少尹，因与房琯一党而被贬为巴州刺史，后晋升为东川节度使。太上皇将剑南合为一道，又提拔严武为成都尹、剑南节度使。严武虽然能文能武，但却果于杀戮。史称，他与杜甫关系最深，但有好几次差一点杀了杜甫。一次，杜甫在酒宴上趁着酒劲戏言道：“真没想到严挺之竟然有这么个儿子！”严武当即死死地瞪了杜甫很久，说道：“杜审言的孙子！你是想在虎口上拔虎须吗！”举座大笑，想缓和一下气氛，这时，严武才说：“与诸位喝酒，何必要提及父祖的名讳！”退休后的房琯也曾得罪过严武，竟然吓得生病。后来，正是担心严武会杀了杜甫，严武的母亲才置办小船让杜甫离开了成都。据说，李白写的《蜀道难》就是替房琯和杜甫的生命担忧。等到严武死后，其母哭完，却如释重负地说：“从今天往后，我这才不会（因为儿子犯法受到牵连而）沦为官家的奴婢了啊！”
听说严武来西川上任，七月十六日，剑南兵马使徐知道起兵造反，叛军把守入蜀要害之地，不让严武入川，但不到一个月，到了八月十三日，徐知道为其部下李忠勇所杀，剑南这才恢复了秩序。