军改制，中央设立练兵处。朝廷计划编练新军三十六镇。要求湖北，设置新军两镇。一九零四年，张之洞奏明朝廷，湖北两镇的具体编制，每镇步兵两协（旅）炮兵三营，骑兵二营，工程、淄重各一营。每镇缺少步兵一协，留待军费充足后补充。
任命张彪为第一镇统制兼摄协统。任命黎元洪为第二镇统制。
这时候的黎元洪已经成为一名清廷的高级将领，成为湖北军界的二号人物。
一九零六年，由于资金匮乏，湖北两镇的军队编制缩编为一镇（师）一混成协（旅）。按着清廷练兵处的统一编制，湖北的第一镇改为第八镇，张标为统制。湖北的第二镇改为第二十一混成协，黎元洪任协统。
在这个位置，黎元洪一直做到了武昌起义。虽然是二号人物，但在湖北军界，黎元洪的威望比一号人物张彪要高很多。因为，无论是军事素质，还是治军有方，张彪都和黎元洪远不在一个档次上。黎元洪本身技术过硬，治军严格，又极“知兵”“爱兵”，得到各界广泛好评。
在一八九九年的四月，湖北刚开始练新军时，法国一高级军官罗勃尔利到湖北参观，张彪设宴款待，黎元洪出席作陪。
席间，罗勃尔利随口问一些军事业务。这时身居高位的张彪，已经很少