后，任大本营留守参谋长兼临时检疫部长，积极策划侵华战争，被称为“日清战争的萧何”。
日军攻陷平壤和黄海海战后，由于掌握制海权后，立即组编侵华日军第二军。
由于陆军大臣大山岩出任第二军司令官，他于是成为实际上的陆军大臣，对日本侵华战争，从兵力部署到物资辎重，无一不躬行实践。
1895年8月20日，日本天皇赐其金鸱勋章及旭日重光章，并授予男爵爵位。后擢任第3师团长、内务大臣。
甲午战争后，日本强迫清政府签订《马关条约》，台湾及澎湖列岛被割让于日本。
当时日本为了迅速平定台湾，采取了剿抚并用的手法。
但前三任台湾总督桦山资纪、桂太郎、乃木希典都没能控制住台湾，在乃木希典看来，日本统治者得台得不偿失，军费开支每年高达700万日元，除了台湾的税收之外，日本还从甲午战争中国的赔款中拿出1千2百万对台湾进行军费补助。
庞大的经费开支使日本不但没有从台湾的割让中得到实际利益，反而成了日本的沉重包袱，萌生出卖台湾的构想，并说动了当时的首相松方正义。
经过一系列幕后活动，初步决定以1500万法郎（一说一亿日元）