来到洛阳后，因北齐、南梁、南陈灭国而宗庙祭祀断绝，隋文帝下诏命令北齐宗室高仁英（北齐武成帝高湛第六子）、后梁皇帝萧琮、南陈后主陈叔宝依礼祭祀宗庙，所需礼物由政府供应。陈叔宝随从隋文帝登上邙山饮宴，席间，献上一首应制诗：“日月光天德，山河壮帝居。太平无以报，愿上封禅书。”并上表请求隋文帝封禅泰山。隋文帝用措辞委婉的诏书答复了陈叔宝。又过了几天，陈叔宝侍奉隋文帝饮宴，宴会结束后，隋文帝目送陈叔宝离去，他望着陈叔宝的背影说道：“他的失败难道不是因为这酒吗？把写诗的工夫用到治理国家上面，岂不很好？当贺若弼南渡京口时，南陈将士向他告急，陈叔宝正在饮酒作乐，根本没看一眼。高颎进入陈朝宫中，发现那篇奏表还在陈叔宝的床下，连封口都没开启。这确实可笑，也是上天要令其灭亡啊！过去，前秦天王苻坚灭掉敌国之后，将那些亡国之君全都授予高官厚禄，这不过是他想博取一个美好的名声罢了，殊不知已经违背了天命，如今，假如我再授予陈叔宝一个官职，那也是违反了天意。”
在陈叔宝上书请求隋文帝封禅之后，晋王杨广也率领群臣上书，坚决请求封禅。隋文帝下令牛弘等人制定了封禅的仪式，修成后，隋文帝说道：“这是件大事，朕何德何能堪当此事？我只是打算去东方巡视一番，顺便祭拜一下泰山。”开皇十四年十二月六日，隋文帝从洛阳出发，开始东巡，到第二年一月三日，隋文帝来到齐州（今山东省济南市），二十二日，在泰山修筑祭坛，焚烧柴火，祭祀上天，将天旱的责任归咎于自己，请求上天惩罚。仪式比照在京师郊外祭祀上天一样。此后，隋文帝又祭祀了青帝（东方之神，春天之神），并下令大赦天下。二月二十一日，隋文帝下令收缴天下兵器，胆敢私下制造的判刑；关中、边疆地区除外。三月一日，隋文帝回到了长安。
中国历史上曾封禅泰山的皇帝有十三人，隋文帝是其中之一，其余十二人分别为：秦始皇，秦二世，西汉武帝，东汉光武帝，东汉章帝，东汉安帝，唐高宗，武则天，唐玄宗，宋真宗，清康熙帝，清乾隆帝。
15、平定南夷
隋文帝回到长安后，仁寿宫也建成了。
开皇十五年三月二十九日，隋文帝驾临仁寿宫。在修建仁寿宫过程中，天气炎热，工匠们一个接一个死在道路上，杨素生怕隋文帝知道，将尸体全部焚烧，然而，没有不透风的墙，此事终于传到了隋文帝的耳中，隋文帝很不高兴。等到他来到仁寿宫，看见建得非常华丽、雄伟，禁不住勃然大怒，说道：“杨素竭尽民力给我建造行宫，让百姓怨恨于我。”
杨素听了，非常恐慌，担心受到惩处，遂将此事告诉给了封德彝。封德彝回答：“大人不用担心。等到皇后到后，皇上一定会颁下感谢您的诏书。”第二天，隋文帝果然召见杨素，独孤皇后慰问道：“你知道我们夫妻年事已高，没有什么可以娱乐的，所以才精心建造、装饰了这座行宫，你真是忠孝两全啊！”遂赏赐给杨素一百万钱、三千段丝绸。封德彝思维敏捷，善于见风使舵，杨素素来自视甚高，经常凌辱群臣，唯独对封德彝非常赏识，还把自己的侄女嫁给了他。杨素经常与封德彝谈论宰相的工作，往往一谈就是一整天，忘记了疲倦，他拍着坐床说道：“封郎一定会坐上我这个座位的！”屡屡向隋文帝推荐，隋文帝遂任命其为内史舍人。
总体上来说，隋文帝还是知人善任的。齐州刺史卢贲因饥荒时禁止百姓出售粮食而被隋文帝免官，后来，隋文帝因卢贲是佐命功臣又想再给他任命一个刺史，但卢贲在觐见隋文帝时言辞却不合旨意，又口出怨言，致使隋文帝大怒，遂弃之不用。皇太子杨勇建议道：“这帮人都是陛下的佐命功臣，虽然他们阴险浮躁，但仍不该舍弃。”隋文帝回答：“我压制他们，其实是为了保全他们的性命。没有刘昉、郑译、卢贲、皇甫绩、柳裘等人，我不可能坐到这个位置。然而，这帮人都是反复无常之人，在周宣帝宇文赟时，都是靠着狡狯谄媚、没有道德底线而受到宠爱，等到周宣帝临终时，颜之仪等人请求以赵王宇文招辅政，这帮人使用奸计，让我来辅政。等到我辅政以后，他们又想作乱，因此，刘昉谋反，郑译巫蛊诅咒。就拿卢贲来说吧，他一直对自己的官职不满意。给他官做，他不知道谦恭；不给他官，他又满腹牢骚。这都是他自己难以让我信任，不是我弃之不用。大家见此情形，会误认为我对功臣没有情分，其实不是这样。”卢贲遂老死在家。
开皇十五年六月三日，相州刺史豆卢通进贡精美的白绢细布，隋文帝下令在朝廷之上公开焚毁。七月，纳言苏威因祭祀泰山不敬而被免官，不久，隋文帝又令其官复原职。隋文帝对群臣说：“人们都说苏威是假装廉洁，其实家中堆金累玉，这是胡说。然而，此人性格凶狠暴戾，做事不切实际，求名之心太重了，附和自己意见的，他就心花怒放，不顺着他，他就记恨人家，这是他最大的毛病。”十月三日，隋文帝任命吏部尚书韦世康为荆州总管。韦世康是韦洸的弟弟，他性格和顺谦虚，在吏部任职十余年，博得廉洁公道之名。他经常想退休，对子弟们说：“要那么多俸禄有什么用呢？为了避免心高气傲，该退休就要退休；不必非要等到年迈，只要生病，就提出退休。”遂上书请求退休，但隋文帝没有同意。当时，天下只有并州、扬州、益州、荆州四个总管，分别为晋王杨广、秦王杨俊、蜀王杨秀以及韦世康担任，时人认为这是隋文帝给予他的特殊荣耀。
在隋文帝封禅后的两年中，隋朝帝国相对十分平静。开皇十五年四月一日，隋文帝下诏大赦天下；六月一日，隋文帝下诏开凿险峻的黄河砥柱山；十二月四日，下诏：“凡是偷盗边防军粮一升以上的，一律斩首，并没收全部家产。”五日，隋文帝又下诏规定，全国文武官员任职满四年、考核合格的，才能平调或者升迁。开皇十六年（公元596年）一月，隋文帝加封皇太子杨勇的儿子皇孙杨裕为平原王、杨筠为安成王、杨嶷为安平王、杨恪为襄城王、杨该为高阳王、杨韶为建安王、杨煚（jiong）为颍川王。六月十三日，隋文帝下令，凡是工商业者一律不得进入仕途。八月六日，他又下诏规定，凡是死刑犯，要经过三次上报，才能行刑。该年，隋文帝将光化公主嫁给了吐谷浑可汗世伏，世伏上书请求称公主为天后，隋文帝没有答应。
北周大象二年（公元580年），当相州刺史尉迟迥举兵反对杨坚时，益州刺史王谦也发兵响应。时任北周丞相的杨坚派遣梁叡消灭了王谦，当时居住在今贵州、云南等地的少数民族也都归顺了北周，唯独南宁州（今云南省曲靖市）的少数民族头领爨（cuan）震自恃距离中国遥远，不肯臣服。当时，梁叡上书建议：“南宁州是西汉时期的牂牁之地，人口众多，物产富饶。南梁南宁州刺史徐文盛被湘东王萧绎调回荆州，当时南朝尚未臣服，无暇经营远方，当地百姓就推举爨瓒为主，割据一方，我朝授予其刺史一职，其子爨震沿袭至今。爨震不向朝廷缴纳税赋，不修臣礼，我请求率领平定益州的军队趁势平定南宁州。”但杨坚当时没有答应。不久，杨坚建立隋朝，一直没有精力处理西南地区，后来，南宁州的另一个少数民族头领爨玩归降，隋文帝拜其为昆州（今云南省昆明市）刺史，但爨玩很快又背叛了。在这种情况下，隋文帝决定发兵一举平定西南。