当时，隋朝群臣如杨素、贺若弼以及光州刺史高励、虢州刺史崔仲方等人都争相向隋文帝献计。崔仲方上书称：“如今只须在武昌以下的蕲州（今湖北省蕲春县）、和州（今安徽省和县）、滁州（今安徽省滁州市）、方州（今安徽省六合县）、吴州（今江苏省扬州市）、海州（今江苏省连云港市）等地，加派精锐部队，秘密进行渡江训练；在益州（今四川省成都市）、信州（今重庆市奉节县）、襄州（今湖北省襄阳市）、荆州（今湖北省荆州市）、基州（今湖北省钟祥市）、鄀州（今湖北省宜城市）等地，加速建造战舰。蜀水（长江上游）、汉水（汉江）是南陈的上游，是两国必争之地。虽然南陈在流头（今湖北省宜昌市附近）、荆门（今湖北省枝江市）、延洲（今湖北省枝江市长江小岛）、公丨安丨（今湖北省公丨安丨县）、巴陵（今湖北省岳阳市）、隐矶（今湖北省岳阳市东北）、夏首（今湖北省武汉市汉阳区）、蕲口（今湖北省蕲春县西）、湓城（今江西省九江市西北）等地都聚集了战舰，但一旦发生战斗，肯定要在峡口（西陵峡口）和汉口（今湖北省武汉市）两地进行决战。如果敌人命令精锐部队逆流而上的话，我下游各军就要趁虚渡江；如果敌人屯兵自守的话，我上游各军就要顺流而下，这样一来，敌人纵使有九江五湖之险，也无以自守，就是有三吴、百越之兵，也难以自存了。”隋文帝遂调任他为基州刺史。
晋州刺史皇甫绩上任前对隋文帝说南陈有三点必定灭亡的理由：“一是以大吃小；二是以有道伐无道；三是接纳叛臣萧岩，我方在理。陛下如果发兵，我愿意尽我微薄之力！”隋文帝安慰他一番后，让他上任去了。陈后主接纳萧岩，不过是给了隋文帝一个口实而已，即便不接纳萧岩，隋文帝依然能够找出其他的理由来。不过，陈后主接纳萧岩，加快了自己的灭亡，隋文帝得知陈后主接纳萧岩后，勃然大怒，他对高颎说：“我为天下百姓的父母，岂能因为一条长江的阻隔而不去拯救那里的人民呢！”下令各地大张旗鼓地建造战舰。有人建议秘密建造，隋文帝却说：“我正要大张旗鼓地替天行道，有什么密可保的！”让人把造船的木屑全部倒入长江，说道：“如果他能因害怕而改过自新，我还有什么可说的！”杨素在永安（今重庆市奉节县）建造一种叫做五牙的巨型战舰，高一百多尺，左右前后设置了六个拍杆，各高五十尺，战舰上有五层楼，可容纳八百名战士；小一点的叫做黄龙，可容纳一百名战士，更小的还有平乘、蚱蜢等名目。
看到隋朝将要大举入侵，祯明二年（隋文帝开皇八年，公元588年）一月，陈后主派遣散骑常侍袁雅等人出使隋朝；又派遣散骑常侍周罗睺率军驻扎在峡口，入侵隋朝的峡州（今湖北省宜昌市西北）。三月三日，隋文帝派遣兼散骑常侍陈尚贤等人来到陈国。九日，隋文帝下诏称：“陈叔宝占据手掌大一块地盘，却穷奢极欲，将百姓们搜刮一空，让百姓们日夜劳作；斩杀直言之臣，灭掉无罪之家；作恶多端，祭祀邪神；宫女出行，竟要净街；自古混乱之君，无人能比。君子远离，小人得志；天灾不断，妖孽丛生；百姓噤若寒蝉，道路以目。而且，他还违背盟约，扰乱边疆，昼伏夜出，鸡鸣狗盗。普天之下，都是我的臣子，每次听到他加诸百姓头上的恶行，我都痛心不已。如今，我命令发兵讨伐，一举荡平吴越！”又指责陈叔宝有二十条大罪，复制三十万份，派人到江南各地散发。
经过近一年的充分准备，到了这一年的十月二十三日，隋文帝下令在寿春设立淮南行省，以晋王杨广为尚书令，全面负责伐陈事宜。二十八日，隋文帝驾临太庙祭祀，祈求祖先保佑伐陈胜利，正式下达了进攻命令，以晋王杨广、秦王杨俊、清河公杨素为行军元帅。晋王杨广率军从六合（今江苏省六合县）出发，秦王杨俊从襄阳（今湖北省襄阳市）南下，杨素从永安（今重庆市奉节县）东下，荆州刺史刘仁恩率军从江陵（今湖北省荆州市）出击，蕲州刺史王世积从蕲春（今湖北省蕲春县）出击，庐州总管韩擒虎从庐江（今安徽省庐江县）出击，吴州总管贺若弼从广陵（今江苏省扬州市）渡江，青州总管燕荣从东海南下，参战的隋军共计有九十位行军总管，率领五十一万八千余人，全部由晋王杨广统一指挥，浩浩荡荡向南陈杀来。东到大海，西至巴蜀，隋军战旗绵延数千里。隋文帝任命尚书左仆射高颎为晋王元帅长史，尚书右仆射王韶为司马，具体负责处理军中事务。高颎问行台吏部郎中薛道衡：“这次出征，你看能否平定江东？”薛道衡回答：“一定能。东晋初年，郭璞曾说过：‘江东与中国分裂三百年以后，又将与中国合二为一。’如今时候已到（东晋司马睿公元316年立国至今已二百七十三年），这是其一；我们皇上勤俭辛劳，而陈叔宝骄奢淫逸，这是其二；国家的安危全靠宰相，南陈宰相江总整日饮酒写诗，提拔小人施文庆执掌朝廷，而武将们任忠、萧摩诃不过是匹夫之勇而已，这是其三；我们正义且国力强盛，而他们非正义又弱小，估算他们的兵力不过十万，西到巫峡，东至大海，如果他们分兵防守，就会兵力分散，毫无用处，如果他们集中兵力重点防御，就会顾此失彼，这是其四。我军这次出动将席卷江南，这一点你不用担心。”高颎回答：“听了你的分析，让我豁然开朗。我一直以为你是只是个饱学之士，谁料到您还有如此深刻的谋略！”
十一月二日，隋文帝亲自为出征将士践行，十日，他来到定城（今陕西省潼关县），检阅远征大军，并宣布军中纪律，目送大军奔赴前线。
一场结束中国南北朝分裂的终极之战就此打响了！