1858年（咸丰八年），杨岳斌与李续宾攻占九江，生擒太平军将领林启荣，获赐黄马褂。不久，杨岳斌上奏朝廷，要肃清湖北，于是移屯黄石矶，夺取安庆、枞阳、大通、建德，调任福建水师提督。后来，李续宾战死三河，太平军又欲进犯湖北。杨岳斌派兵扼守龙坪、邬穴、田家镇。[11] 1859年（咸丰九年），杨岳斌督剿长江两岸的太平军，收降池州韦志俊，并让他攻打芜湖。当时，韦志俊部下有将领叛去，夺回池州。杨岳斌见韦志俊没有异心，便让他率兵助战，自己移屯观音洲，防备逃入湖北、安徽的陈玉成、李侍贤。[12] 1860年（咸丰十年），杨岳斌在蟂矶击败太平军，夺取枞阳、青溪关。李秀成兵败而逃，在三山、光穴、子桥、白茅嘴、运漕镇多次被击败。杨岳斌又攻打神庙山、镇山，切断松林口浮桥。后来，杨岳斌解南陵之围，救出总兵陈大富及难民十馀万。[13] 1861年（咸丰十一年），杨岳斌配合陆路攻占安庆，又派总兵王明山、黄翼升攻克池州、桐城，被授予云骑尉世职。1862年（同治元年），杨岳斌移驻乌江，进攻金柱关、龙山桥，斩杀贼酋陈绪宾，大破太平军在护驾墩、石垝的营垒，巩固江宁大营后路。[14] 1863年（同治二年），杨岳斌随曾国藩到天京前线大胜关、雨花台察视，并与曾国荃一同制定合围天京之策。后来，杨岳斌率军扫清长江各处关隘，完全控制长江水面。同年十月，湘军各部围困天京。[15] 1864年（同治三年），朝廷命杨岳斌督办江西、皖南军务，节制各路援军。不久，杨岳斌被授为陕甘总督，并特命可在平定太平军后再赴任。天京城破后，杨岳斌加太子太保、一等轻车都尉世职。后来，杨岳斌先后攻克南昌、赣州，收降太平军残军十馀万，肃清防境