杨岳斌出身行伍，精通骑射。1846年（道光二十六年），补任湘阴外委。1849年（道光二十九年），杨岳斌参与镇压新宁李沅发起义。[2-3] 统领水师1852年（咸丰二年），太平军攻入湖南，进逼湘阴。杨岳斌在湘阴长官外逃之时，毅然率营兵抵抗，保住了湘阴城，被授为宜章营千总。1853年（咸丰三年），曾国藩创建湘军水师，命杨岳斌与彭玉麟辅佐其弟曾国葆。后来，杨岳斌在曾国葆的推荐下，统领水师右营。[4-5] 1854年（咸丰四年），杨岳斌击败太平军，焚毁战船数百，收复湘潭，被擢升为守备，赐花翎。后来，曾国藩率湘军东下，杨岳斌作为前锋杨岳斌画像，在雷公湖、擂鼓台、城陵矶、嘉鱼黄盖湖等地大战太平军，收复岳州、武昌、汉阳，由都司一直擢升至参将，授湖南常德营副将，赐号彪勇巴图鲁。[6] 后来，湘军进逼田家镇（今湖北武穴西北），杨岳斌克复黄州、武昌，击败蕲州援军，又与彭玉麟砍断太平军的横江铁锁，焚毁战船四千馀只，夺取田家镇。当时，杨岳斌因昼夜作战，积劳呕血，被加封总兵衔。[7] 1855年（咸丰五年），湘军水师在湖口被太平军堵截在鄱阳湖内，留守九江的军队也遭到攻击，武昌、汉口再次陷落。杨岳斌奉曾国藩之命返回岳州，重招兵勇，并驻军新堤，修理战船。当时，武汉陷落，长江商旅断绝。杨岳斌驻军新堤，使得武汉重新发展为重镇，升任郧阳镇总兵，兼署湖北提督。[8] 1856年（咸丰六年），杨岳斌进军沙口，招募勇士三百，在晚上驾船直逼太平军，并纵火焚烧敌船，又在十日之内转战数百里，击毁敌船六百余，夺取敌军粮草、火药，一直打到巴河、蕲州，在九江城下炫耀军威。十一月，杨岳斌配合陆路李续宾部，攻占武昌、汉阳，加提督衔。[9] 1857年（咸丰七年），曾国藩回乡丁忧，让杨岳斌总领水军。杨岳斌与彭玉麟内外夹攻湖口，使得原被隔于鄱阳湖的内湖水师与外江水师汇合，又趁胜夺取小孤山、彭泽、望江、铜陵等地。朝廷认为杨岳斌“转战千里，谋略过人”，任命他为福建陆路提督，并允许他“专摺奏事”。[10]