由于吴汤兴和丘逢甲是远亲，后来丘逢甲在台北组织抗敌的时候，吴汤兴也受命在当地募集义军。当他听说台北被日军占领，于是便率队北上新竹城，正好和各路义军及清军诸营不期而会。由于吴汤兴在当地小有名气，后来就被公推为抗日义军总统领。
六月十一日，吴汤兴集合各军，召开祭旗誓师大会。当天，各军整队列营，在场地的中央，特搭建了一个三丈的高架，高架上设—面大鼓，吴汤兴命擂鼓三通后，万人齐呼“抗击倭寇”！声势直上云霄。随后，吴汤兴和其他统领歃血为盟，立约法数章，有事以鼓为号，各庄闻鼓音后立刻齐集公所，守望相助。大家约定齐心协力，打击日寇，保卫家园。由于这些义军大都来自新竹、苗栗二县，故常称之为新苗军。
新苗军的行动大大鼓舞了台湾民众的抗敌热情。台湾知府黎景嵩听说新苗军沿途截击日军，很受鼓舞，便也召集台湾、彰化、云林、苗栗四县的官绅一起商议，大家筹款招募兵勇，后组成一军，号称“新楚军”，副将杨载云（原籍湖北）被任命为统领。新楚军的营制和营规仿自湘军，虽然是新募兵勇，但也初具规模。
黎景嵩对新苗军也很支持，并发布告示为之筹集粮饷竭力维持。这样，新苗军与新楚军便开始联合行动，准备共同打击南下的日军。
再说日军这边。日军于六月二十二日攻占了新竹城后，但发现陷入了义军的包围之中，并遭到义军的数次反攻，双方在此僵持了近一个月。直到后来日军完成了对台北一带的大扫荡后，大部队开始进驻新竹，以准备更大规模的南侵。
得知日军即将南下后，刘永福派吴彭年率七百黑旗军北上支援新苗军与新楚军，吴彭年到达彰化后，当地民众欢欣鼓舞，纷纷出城迎接。吴彭年本是浙江余姚人，后定居广东顺德，其人颇具文韬武略，胆识过人，有湘军当年的儒将之风，吴本人也一直为刘永福所器重。
吴彭年的到来，对支援新苗军与新楚军共同作战起到了很大的鼓舞作用。不过，这次北上的黑旗军人数甚少，只有七百人，而且其副统领李维义和吴彭年意见不和，擅自拉走一半人去做了新楚军的副统领，很大程度上也削弱了黑旗军的战斗力。
八月十日，日军开始向头份发动进攻。头份一地，乃是新苗军和新楚军的大本营，当时有五千人左右。此地有一山名叫笔尖山，山势险峻，宜守不宜攻，新苗军和新楚军就驻在此地。此役日军借助开花大炮轰击，并用骑兵冲击抗日联军的大营，结果新楚军的副统领李维义的大营先被攻破，李维义心里慌张，竟带队首先逃脱，结果各军随着后退，最后一退而不可收拾。
这时，只有杨载云率部奋死抵抗，虽然当时他已经被撤去新楚军的统领之职，但仍旧不避枪弹，誓死搏斗，与阵地共存亡，最后身中数弹，英勇牺牲。
后来有诗赞曰：“公本血性奇男子，丹心捧日才不群。初寄专阃拜登坛，讵料金牌召孔殷？公愤奋臂冲前故，身冒炮火甘自焚。呜呼！新楚军，统将准？蓝翎游击杨载云。”
杨载云战死后，黎景嵩因无力支付饷银，只得将新楚军和新苗军都交给黑旗军的吴彭年来统领。但吴彭年当时从台南所带两月之饷早已用完，兵荒马乱中，兵饷难以筹集，幸好得到当地民众的热情支持，“城内外人民皆蒸饭到营，供给三餐”，各军才得以维持。
日军攻下苗栗之后，开始进攻台湾府城彰化的必经之地大甲溪。日军侦察前骑去探路的时候，遭到吴彭年和徐骧所部的伏击，死伤五十余人，狼狈逃回。次日，日军再次猛攻大甲溪。正当黑旗军和新苗军和日军正面交锋并打退日军进攻的时候，忽闻后路李维义大营枪声大作，一片混乱。
原来，日军知道李维义畏葸怯战，便收买了当地土匪带路，绕后路去袭击李维义大营，李维义果然再次弃营而逃。各军见后路被断，只得随之撤出阵地，大甲溪遂被日军攻占。
得知大甲溪失陷的消息后，刘永福令各军一定要死守彰化。吴彭年认为兵力太少，急电刘永福请求增派援军。刘永福复电说：“兵来御之，死守无恐！”吴彭年以为刘永福无军可派，长叹一声，说：“我本与台事毫无责守，在此奋死拼杀，实在是不忍心将自己国家的海疆重地，拱手让给日本人。如今刘帅谕我死守，算是知道我的一片心意了！”吴汤兴和徐骧在一旁也主张死守，说：“不战而退，我们怎么有脸去见刘帮办？”
幸好在二十七日，刘永福已派黑旗七星队王得标、刘得胜、孔宪盈、李士炳四营及旱雷营孔搏一营来到彰化，加上吴彭年率的黑旗七星队一营及新楚军四营，另有吴汤兴统领、徐骧分统新苗军两营，彰化守军兵力有所增强，达到三千多人。吴彭年欣慰的说，“刘帅总算没有抛弃我们！”士气为之一振。
由于彰化城小，无险可守，旁边的八卦山倒可以俯览全城，守卫八卦山即为守卫全城。八卦山上建有炮台，设置重炮一门、山炮一门及后装炮二门，并有军械、弹药库等，有利于防守。后来，日军以六个中队的兵力，将八卦山炮台三面包围，并发起了猛烈的冲锋。守卫炮台的将士们奋力抵抗，新苗军首领吴汤兴更是在枪林弹雨中来回指挥，最后不幸中弹，倒于血泊当中，英勇的牺牲在炮台之巅。
吴汤兴牺牲后，八卦山守军伤亡殆尽，渐渐不支，且弹药用尽，徐骧只得率余部走后山突围而去。督战的吴彭年见八卦山竖起日旗，知道八卦山已陷敌手，便亲率黑旗七星队三百人前去夺回。但日军居高临下，在山上猛放排炮，黑旗七星队伤亡惨重，吴彭年身中数弹，依旧奋力向前，最终牺牲于八卦山麓。
后有诗人作《哀季子歌》称颂吴彭年：“巨炮雷轰力劈山，榴弹雨下响甸甸，身中数枪靡完体，据鞍转战莫敢撄。血溅衣襟溘然逝，凛凛面色犹如生。身中数弹靡完体，据鞍转战莫敢撄。人居世上谁无死？泰山鸿毛权重轻。”
吴彭年战死疆场后，黑旗军猛将王德标仍旧率部和日军作殊死的战斗，尽管当时他已经身受多处创伤，但一直率部坚守不退，直到八卦山上火起，探哨报告说彰化城已经失陷，才被左右强行挟走撤退。
日军攻下八卦山后，便气势汹汹的列队入城。由于遭到当地抗日武装的顽强打击，日军进城后立刻满城搜索，只要见到路上有人就枪击，随意杀人，以示报复。正如日本人自己承认的：“彰化城内，尸体到处可见。”据估计，在整个彰化城中被杀的中国人数以千计。
彰化的失陷，意味着台北和台中地区都落入日军手中。攻下彰化的当日，北白川能久亲王兴致勃勃的登上八卦山炮台，见台湾府城一览无余，心中乐不可支，以为立刻挥师南进，一举攻下刘永福黑旗军所守卫的台南，不过是小菜一碟，不费吹灰之力，想到这里，北白川能久亲王得意的赋诗一首，说“旭光将被台南地，歼彼渠魁安万生”（《帅师将向台南有作》），其骄狂的样子，实可谓是惟妙惟肖。
不过，北白川能久亲王高兴得太早了点。进入台中后，日军因患病和抗日民众袭击而导致的伤亡人数迅速增加，光在九月份，就有四千二百七十四人得了霍乱、痢疾、脚气等各种乱七八糟的病，几乎占到整个近卫师团作战人员的三分之一。
日本有文献记载说：“彰城设野战医院，初止患者二百余人，后数日疫症流行，忽千余人。患者(多在)市内铺户，病人呻吟。至九月中旬，病势益烈，师团中健者约五分之一。山根少将、中冈大佐、绪方参谋及其他将校多入鬼籍。行军困难，于此可见一斑。”
“出征不归，客死千里。待彼门者，茕茕无倚，涉彼岵者，瞻望长跂。痛恨深憾，哀莫穷已！”