割让台湾的消息传来，引起了台湾士民的愤怒。台湾省举人汪春元等上书都察院，抗议清政府“弃地界仇”，表台湾人民“与其生为降虏，不如死为义民”。台湾百姓痛心疾首，“若午夜暴闻轰雷，惊骇无人色，奔走相告，案哭于市中”。彰化县绅民在县署门前张贴檄文，怒斥李鸿章等人无耻卖国，号召台湾军民对于卖国贼，“人人得而诛之”。台北人民鸣锣罢市，集会抗议清政府割台，宣布台湾饷银不得运出，制造局不准停工，各种税收全部留作抗日之用发布檄文，宣言“愿人人战死而失台，决不愿拱手而让台”。

清政府办理交割台湾事务的李经方不敢踏上台湾土地，在美国顾问科士达陪同下，于6月2日在泊于基隆海面的日本军舰上，向日本“台湾总督”桦山资出具了割让台湾及澎湖列岛的清单。1895年5月底，侵台日军分两路在台湾北部登陆，不久攻占台北。台湾巡抚唐景崧乘英轮逃往厦门。台湾人民和留台清军推黑旗军首领、帮办台湾军务的刘永福为领袖，组织各方面力量继续抗日。台湾爱国志士徐骧、吴汤兴、姜绍祖等在家乡组织起义军，积极配合清军抵御日军。
6月中旬，日军兵分两路自台北南犯新竹。清军副将杨紫云与徐骧等部义军分路迎战。激战旬日，后因军械粮饷不济，新竹失守。7月10日，各路义军配合清军反攻新竹。因有汉奸告密，日军预设埋伏，义军伤亡很大。姜绍祖被俘牺牲，徐骧等退守苗栗。8月中旬，日军进犯苗栗，杨紫云所部清军与徐骧所部义军冒着猛烈炮火与敌军奋战，杨紫云不幸中炮牺牲，苗栗失陷。8月下旬，日军涉水渡大甲溪，准备进攻台中。日军刚一登岸，即遭吴彭年所率黑旗军伏兵的突袭。日军大乱，仓皇渡河北退。但刚渡一半，徐所部北岸伏兵又突起奋勇截击，日军死伤惨重。后因日军收买汉奸引路偷袭，黑旗军及义军仓促应战失利，大甲溪一线陷于敌手，台中也告失守，吴彭年、徐骧等退守彰化。

8月底，黑旗军和义军在大肚溪、八卦山迎击来犯日军精锐近卫师团，双方激战一天，白刃相接，日军被歼一千余人。但吴彭年、吴汤兴等义军将领也壮烈牺牲，徐骧率部且战且退，彰化、云林等地相继失守。为阻止日军继续南侵，刘永福命部将王德标率军驻防嘉义，命杨泗洪率军反攻彰化。黑旗军在简精华、林义成等部义军的协攻下，收复了云林。日军败退彰化，龟缩城内待援。由于清政府封锁海口，严禁大陆人民支援台湾，黑旗军及义兵的兵力、财力、物力，特别是武器弹药严重缺乏，多次猛攻彰化不下。

10月上旬，日本从辽东调集两个师团，在“台湾副总督”高岛丙之助指挥下分三路大举进犯:一路在嘉义西部登陆，一路自彰化出动，全力反扑，企图内外来击黑旗军及义军主力，一路在台湾南部登陆，北攻台南。黑旗军及义军英勇阻击，重伤日第一旅团长、陆军少将山根信成，使之不久毙命，但苗栗、云林再度失守。10月11日，日军进攻嘉义，王德标、徐骧等率部在城外布设地雷，诱敌深入，炸死日军七百余人，日近卫师团长、陆军中将北白川能久亲王也受伤毙命。日军残部在溃逃途中，又遭伏兵袭击，伤亡惨重。翌日，日军在猛烈炮火掩护下全力反扑，嘉义失守。徐骧在曾文溪阻击日军时，不幸中炮牺牲。10月18日，日军三面包围台南。刘永福鉴于台湾各战略要地尽失，抗日义军首领相继牺牲，粮饷弹药无以为继的困难局面，乘英轮退至厦门。10月21日台南失守，台湾全部沦陷。