日军登陆后至占领台北，万国本、唐景崧先后离台，台南绅民欲推举刘二为民主国总统。刘二不受，但表示领军抗日，并进驻台南府城，整军备战。正好此时，张之洞发来封电报，说俄国人支持台湾自主独立，准备向日本施加压力，希望他们能支撑两个月时间。众人闻言，精神大振，誓“片土之剩，一线之延，亦应保全，不令倭得。”
日本人对这位声名在外的将军也有所了解，桦山资纪初来台，即向刘二寄来封劝降信：抵抗是无用的，赶紧放下武器投降，咱向天皇请示请示，还可以宽恕你跟咱日本帝国作对的罪过，将你们遣送回国，否则，将骨埋异乡矣。
刘二大刺刺地从鼻子里喷出一股不屑的哼声：洋人嘛，咱见多了！你要是能即刻撤回军队，不单台湾的老百姓感恩难忘，也能给后世一个好名声。如果不肯撤，那只好战场上见真章吧。
就在黎景嵩召集各路义军反攻新竹期间，刘二派吴彭年统黑旗军一部北上，支援北路的义军。由于动身太晚，吴彭年没能赶上新竹之战。
8月13日，黑旗军与日军在苗栗县城外围的争夺中首次接触。黑旗军由于兵力太少（300余人），打的又是自己不擅长的正面攻防战，遂被日军击败，管带袁锡清和帮带林鸿贵战死。吴彭年遂统部沿三叉河退往大甲，“时已申刻矣”。
8月18日，“吴彭年兼统新楚军，电请台南救援”。新楚军乃黎景嵩直统，由于粮饷两缺，“积欠楚军饷银二万余元，绅富军需不乐取出，各堡所收钱粮只有一二成”， 黎景嵩干脆把担子丢给吴彭年。吴彭年固然才高，却也变不出钱来，不说新楚军，连自已的部下的军饷也没得发。这位被钱难倒的汉子不得已之下，只得向刘二伸手，“并云鹿绅自苗栗破后，所约饷亦无着，刘帅甚怒。”
刘二怒归怒，却也知道随着日军的步步进迫，绅富们开始观风骑墙，军饷、军粮的筹措只会越来越困难。可除了摇头叹气外，又有什么办法呢？
8月22日，日军向大甲开进，并分兵一路取台湾县城。由于是时“大甲河川涨溢”，日是军渡河不易。黑旗军与徐骧所率的义军借此机会，奇兵突袭，一战打死了50余名日军。然由于李维义的再一次率部队后退，大甲防线崩溃，吴彭年退向彰化城。
由于在新竹之战中日军吃了兵民不分的义军的亏，北白川能久亲王此次下南，老羞成怒，实施无差别的屠杀，所以，“是役也，日军一至，业户头人皆望风迎接，人心战栗，各挂日本善良民白布条于胸间，家家户户插日旗，日军皆不加害，惟遇有带军装者杀之”。
大甲失陷，刘二知日军必攻彰化，遂下令各部择险据守。此时彰化城内不过黑旗军1营、新楚军4营和新苗军2营，单凭这些人马实难与日近卫师团相抗衡。刘二急令王得标、刘得胜、孔宪盈、李士炳等5营驰援，并指示“兵来御之，死守无恐！”
漫说增加5营人马，就算是增加15营，彰化也很难守得住。可吴彭年是条老实的汉子，上峰令自己死守，他就老老实实守到死为止。至于结果怎么样，听天由命，总之，不是日本人死，就是自己死吧。
8月25日，日近卫师团司令部到达距彰化城仅10里的大肚街妈祖宫。翌日，北白川能久亲王亲临前线观察敌方的部署。守军见日方有几个貌似大官的人在向自己的阵地指指点点，遂不经测量试谢，急袭数发炮弹。北白川能久此时运气还没用尽，只是受了点轻伤。
8月27日，日军趁夜色衔枚而走，偷偷从浅水渡过大肚溪，于五点三十分向彰义发动进攻。东路的八卦山一线的吴汤兴、徐骧的新苗军和李士炳、沈福山的黑旗军极力抵抗，死亡殆尽，终告失守。吴汤兴、李士炳、沈福山皆阵败，只有徐骧率数十人突围而走。
吴彭年见八卦山失守，急领300兵来援。在攻击的过程中，他身中数弹，不支而死。
不久后，据守中路大竹园一线的彰化知县罗树勋和其子云林知县罗汝泽也败退。
吴彭年东援后负责在西路指挥的王德标身中数弹，“望敌兵坚立不退”，待到吴彭年战死、敌人已进占彰化城的消息传来，部下见事已不可为，遂劝其撤退。王德标不肯，“左右强挟之行”。想想一个汉子死活不肯下战场，被人半挟干拉地从阵地上拉下来，其场面一定很滑稽。然而，若在当场，只怕更多的是泪水和心酸吧。
闯入彰化城的日军在城中屠杀抢掠，“逢人必杀之”，街面� 尸遍地，血流成河。仅据日本军方自己记载，在街道上的尸体就有250余具。当然，杀人者总是会做自己找理由，象什么兵民不分啥的。抄书者倒也纳闷，日本人也有犯罪的，为啥不为了避免罪案的发生，把老百姓全关到笼子里呢？
日军随后即以新占领的彰化了前进基地，派兵分攻鹿港、社头、云林。8月29日，云林县失陷，日前锋进至大莆林，嘉义县危急。
九月初，刘二命杨泗洪增援台中。杨泗洪是员悍将，作风勇猛，喜欢带头冲锋，每战必先。为此，刘二特别吩咐他要当心谨慎。他回答道：“我如驱饥羊，搏饱虎，利在速战，机在勇决。我苟不先，士气少沮，无勇为也。”刘二细思，其所说亦是实情，遂无言。
9月3日，杨泗洪与日军先峰交战，围住了驻扎大莆林的涩谷在明中佐的骑兵大队和千田贞千少佐的一个步兵大队。日军守得3天，因缺粮缺弹，放弃阵地突围而走。杨泗洪领兵追击，却被流弹击中，为抗暴而死。
刘二闻杨泗洪的死讯，既悲且痛，急令正在嘉义养伤的王德标带领本部人马去与杨部汇合并担任总指挥。王德标星夜启程，接手杨部，并收复了云林县，暂时缓解了嘉义之危。
黑旗军之所以能收复云林，并非攻城能力在数日间突飞猛进，而是日近卫师团的战力已达到极限。
清军和义兵能给其造成三数十人的阵亡的战斗屈指可数，所以近卫师团的战损率事实上并不高。但与二十年前初次侵台一样，日军同样要面对巨大的气候差异、陌生的环境和炎热的天气，卫生条件也极度恶劣，常常不得不以路边田头的污水为炊，由是疫病滋生，瘟疫流行。在占领彰义后，日军“设野战病院，初止患者二百余人，后数日疫症流行，忽千余人。患者多在市内铺户，病人呻*。至九月中旬，病势益烈，师团中健者约五分之一。山根少将、中冈大佐、绪方参谋及其他将校，多入鬼籍。”。情况严重至此，日军自是无心再守云林了。
桦山资纪知道以近卫师团的现状，独立进攻台湾实为力不从心，便重新制订了南攻计划，决定将乃木希典的第二师团全部调来，分击台南的左右两则；近卫师团则仍则陆路进击，克云林、嘉义再趋台南府。由于山口素臣的第三旅团此时在中国东北，要调来尚需时日，故此日军的全面进攻暂时停止了，仅在北斗一带与黑旗军终日不停的小规模接火。
如果说在乙未战争中民主国有可能赢得胜利的话，那么此时当是唯一的机会（抄书者对此其实并不乐观）。但是，台南这边的窘迫之状并不比日军的好得上多少，甚至可说更差。自开战以来，台湾未得到“祖国”的一兵一卒、一枪一弹、一两银子的支援。不仅如此，清政府为免给授予日人话柄，严令沿海各区，不得向台湾提供实际性的帮助。黑旗军、义军弹、药、浪、饷皆缺，自保尚且不暇，并无反攻的能力。受刘二之命内渡求援的幕僚吴桐林从广东跑到山东，又去到北京，先后拜会了谭钟麟、边宝泉、张之洞、王文韶、李秉衡、刘坤一、翁同龢等位真正的“大人”，竟无一人肯伸出援手，连张之洞当初密电的“俄人相助”的风声都没了。
吴桐林吃尽了白眼，手足冰冷，心底悲凉，无奈之下，只好向刘永福一一回报，并建议：台湾之事已不可为，公已尽力，无愧天地国人，可暂内渡归国，以图日后之举。
11月1日，第二师团的山口旅团从大连湾登船南下；翌日，伏见旅团自基隆登船；第三日，乃木希典领第二师团司令部本部亦从基隆登船。三部日军，拟于澎湖海面集中，组成南进军，分兵并进。
日第二师团司令部登船的同日，近卫师团亦开始行动，自彰义趋嘉义。黑旗军和义军节节抗击、肖三发、黄荣邦等人先后战死，兵力损失严重，却无法阻挡日军前进的步伐。10月8日，近卫师团包围了重镇嘉义。