。同治元年，李公鸿章摄江苏巡抚，次上海，募淮勇，雅知公，檄为管带官；于是铭军立焉。降南汇贼首吴建瀛、刘玉林，复南汇。建瀛所部三千人、玉林所部千人皆属焉。别贼犯南汇，击却之。克川沙，擢都司，晋游击衔。攻奉贤、金山卫克之，擢参将，予「骠勇巴图鲁」名号。从浦东还援，破贼野鸡墩，又解四江口围。二年，常昭苦贼久，会诸别军攻福山克之，遂解常昭围；擢总兵。与水师提督黄翼升同攻杨库汛，六日克之。江阴贼复犯杨库，击却之。伪忠王李秀成渡江还救，合伪章王、护王、普王、潮王、侍王军水陆数十万，分道内犯。公与诸别将各迎击，大破之。七月，进攻江阴，克之。诏以提督记名。九月，攻无锡、金匮，克之；赏头品顶戴。十一月，进规常州，至奔牛镇，贼目邵小双乞降，受之。攻常州小北门大土城，克之。伪章王犯奔牛，欲以牵我常州之师，往援，大破之。伪忠王以小轮船济兵来争，并击毁之。六日，奔牛围解。三年，复规常州，划城外贼垒数十，环攻之。会禽伪护王陈昆书，遂克常州。赏穿黄马褂。六月，江宁残贼操伪幼主窜踞广德，公从建平往击，克之。复追北，大破之。
四年春，忠亲王战没曹州，捻大横。曾文正公奉命视师，赴山东，重公智略，奏设四镇重兵，以周家口重任付之。公于是属曾公，大破捻于瓦店，又破之南顿，解扶沟围。以公兵精，易为游击之师。冬，率师援鄂，克黄陂，追北至茅屋店。上褒美之。时公已授直隶提督，特命交部优叙。其明年，公念张、牛、任、赖四捻渠者，忽分忽合，驰马队于中原平旷之地，剽忽数千里，我师专主游击非策也。于是创扼守沙河之议，驱捻于沙河以南，以蹙其势。公任朱仙镇以下河防，分汛筑长墙。俄汴梁堤墙为捻毁，分军进击之，破之巨野。无何，捻渠牛老洪死，张总愚窜陕西，任柱、赖汶洸窜山东。于是有西捻、东捻。李公代曾公视师，公于是复属李公。督师逐东捻，东至郓城，西至京山，大小数十战皆捷。又与鲍超军追击之安陆。四月，破捻黄安东，又追北至宛郡，屯信阳。整军两月，复蹑捻逐之。东自应山、黄陂，西出安陆、襄、枣，又从南阳至郑州，日踔百里。捻望风奔，不得战。于是刱创防守运河、进扼胶、莱之议。六月，与潘鼎新相度胶、莱河道形势，乃合诸别军分筑长墙，北起夏店，南至柳林口。秋破捻沭阳，南解沭阳围，追北至诸城、日照，鎗殪任柱。赖汶洸图窜青、济，公从安邱间道驰潍迎击之，又夜击之潍东北，大破之。捻西走新城，截击之。东走寿光，薄之于洋河、弥河间，尽歼之，暴尸四十余里，河流尽赤。诸任殄绝，汶光寻自投扬州防军，东捻平。李公疏称是役为军兴罕有之奇捷，论功公当第一。诏赏三等轻车都尉世职。公自四年办捻以来，转战数省，略无一日休，病莫能骑，乃乞假旋南。
七年，西捻张总愚由陕窜河朔，诏旨促公。乃驰赴东昌会诸别军追击张总愚于盐山、沧州、德平，迭破之。捻图扑运河，与诸别将环遮之徒骇黄、运间，从横夹击，尽殪之。张总愚蹈水死。西捻平。晋爵一等男，诏次张秋。
九年，上命督办陕西军务，乃之陕。秋，屯干州，部署戏下诸将略定。未几，引疾归。自号大潜山人。莳花木竹石，筑盘亭以庋克常州时所得周虢盘，围棋赋诗，若将终身焉。
上即位之十年，法兰西扰海疆。命督办台湾军务，宠以巡抚衔。闰五月甲辰朔，丁卯抵基隆。行其炮台，仅有洋炮五，且仅守前面，不能应敌之旁攻，叹曰：『不足恃也』！七日，法来犯基隆，炮台果毁。公以台湾无兵舰，不可与海战，乃移军基隆山后以诱之，且以屏炮。顷之，法登陆，趋山巅而阵。命章高元、邓长安东西抄击之，鎗毙法酋三、法兵百余，夺纛旗二，洋鎗数十杆、账房十余架。余卒奔其舰。奏入，有诏褒美。皇太后为颁内帑银三千两以劳军。七月，法以偏师絓我基隆军，别以五舰犯沪尾。沪尾者，基隆后路也，台脆兵单，去台北府三十里，而器械军食悉萃台北府。沪尾失，则台北危，基隆之师将自溃。公乃夜率全师移驻淡水，立挥诸将赴沪尾援。内地闻公退基隆，则骇然。公曰：『兵事变化，恶有隔海可遥度者耶』？不为夺。已而法益增兵舰。我军肉薄而柱鎗炮。法舰别游弋沪尾口外，汇利、万利、华安三轮船又不克济师，其势岌岌。然公一呼劳，将士莫不奋激，卒大破法师于沪尾，斩馘千余人，坚持数月不懈。由是虽四夷亦詟公矣。
公为人果毅伉爽，貌威厉，眸子烁烁如岩下电，语音皇大，戏下见者毫毛竦树。用兵不主故常，多机变。躬冒烟弹为士卒先，故人乐为之死。幼不慧。十五、六岁，尝夜寝，见有虎搏己，遂敏达。喜读医药、壬奇、占侯、堪舆、五行之书，尤好兵家言。常以古兵家皆以治兵列奇零之数，其正者则在治国，故雅不以武功自震襮，尤殚精经世之务。
十一年春，和议成，台湾解严。台湾旧设府一、县四、厅二，隶台湾道，军事隶台湾镇。穆宗末年，沈公葆桢始增设恒春县。其明年，复增设台北府，领淡水、新竹、宜兰三县，规模草刱。上念台湾南洋门户，非改立行省不可。公既以是冬由福建巡抚改拜台湾巡抚，于是斟酌旧制，议增设府一