建安九年(204年)二月，张辽跟随曹操再次领兵攻邺，八月，破邺城。张辽另领一支军队去平定赵国(汉代国名，辖地相当于今河北南部)、常山(汉郡名，辖地相当于今河北正定到赵县一带)，招降了沿太行山一带的各部分农民起义军和黑山起义军首领孙轻。十一月，张辽跟随曹操攻讨袁谭。并于建安十年(205年)正月，击杀袁谭于南皮(故治在今河北南皮)。迫使袁尚和他的次兄袁熙逃奔辽西乌桓。张辽又独自率军平定辽东(汉郡名，辖地相当于今辽宁东南部)，又镇丄压了辽东一带柳毅等领导的农民起义军。回到邺城的时候，曹操亲自迎接张辽，与其共载，加封张辽为荡寇将军。接着，他又奉曹操之命向荆州的刘表发动进攻，平定了江夏(汉郡名，辖地相当于今湖北汉阳一带)诸县，还屯临颖，被封都亭侯。
建安十二年(207年)秋，曹操为统一北方，开始远征乌桓的作战。曹操挥师北上，亲率轻骑兵，昼夜兼程，疾速行军，并以主力攀崎岖小道，出卢龙寨，跋涉500余里，越白檀、平岗，进抵柳城(今辽宁朝阳西南)以东。八月，辽西单于楼班与袁尚、袁熙及蹋顿单于等，率骑兵数万迎击曹操。曹操登上白狼山(今辽宁喀喇沁左翼蒙古自治县东境白鹿山)，踞高远望，见敌军虽众，但阵容散乱，便欲攻敌。此时，张辽情绪激昂，也劝曹操与其相战，曹操于是不顾后续部队尚未集结，立即令将军张辽为先锋率兵发起突击，并将自己所持麾授于张辽。张辽出击，大破敌军，斩蹋顿单于及名王以下10余人，俘虏20余万人(参见白狼山之战)。
建安十三年(208年)，曹操派张辽屯兵长社(今河南长葛县东北)。时荆州尚未平定，临出发时，军中有人谋反，入夜，营中惊乱起火，全军骚动不安。张辽对身边的将领说：“勿动。是不一营尽反，必有造变者，欲以动丄乱人耳。”于是他向军营中发布命令：“其不反者安坐”(《三国志·魏书·张辽传》)！然后，张辽率亲兵数十人在军阵中央巍然站立。不一会，骚丄乱自然平息，张辽立即查出并处死了带头谋反的人。 `
时张辽屯兵长社、于禁屯兵颍阴、乐进屯兵阳翟，但三将性格相异，互不协作。曹操便派司空主簿赵俨并参三军，每事训谕，三将于是和睦。
建安十四年(209年)，庐江人陈兰、梅成占据氐(今安徽崔山县东北境)、六(今安徽六安县北)反叛，对合肥形成威胁。曹操派于禁、臧霸等人讨伐梅成，命张辽督率张郃、牛盖等人讨伐陈兰。梅成见大军到来，假意投降，于禁因此撤兵。于禁一走，梅成就带着部队投奔陈兰，二人合军丄，转入氐山。氐山中有座天柱山(今安徽岳西境)，山势陡峭，高二十多里，道路险要狭窄，步行仅能勉强通过。张辽欲进攻，诸将说：“兵少道险，难用深入。”张辽却说：“此所谓一与一，勇者得前耳”(《三国志·魏书·张辽传》)。于是，到山下安营，挥军攻敌，斩杀陈兰、梅成，尽俘其众，迅速稳定两地局势。事后，曹操评论众将的功劳，说：“登天山，履峻险，以取兰、成，荡寇功也”(《三国志·魏书·张辽传》)。下令增加张辽的封邑，并授给他可以用来代理自己调动和指挥某一地区军队的符节。
建安十八年(213年)，曹操进攻孙权，退兵后，派张辽和乐进、李典等率领七千余人驻守合肥。后来，曹操征讨张鲁，给合肥护军(主管武官选拔、考察的官)薛悌送来一封手札，信封边上写有“贼至乃发”(《三国志·魏书·张辽传》)的字样。
建安十九年(214年)，孙权率吕蒙等亲征皖城(今安徽潜山)，张辽闻迅，率援军而至，到夹石(今安徽桐城北)，闻皖城已失，只得退去。
建安二丄十年(215年)八月，孙权率十万大军围攻合肥，辽等将领一起打开手札，上面写着：“若孙权至者，张、李将军出战；乐将军守，护军匆得与战”(《三国志·魏书·张辽传》)。曹操此信，是根据众将的特点所写。他认为张辽、李典勇锐，便令出战；乐进持重，便令守卫；薛悌是文职官员，所以不令他参与战斗。
建安十二年(207年)秋，曹操为统一北方，开始远征乌桓的作战。曹操挥师北上，亲率轻骑兵，昼夜兼程，疾速行军，并以主力攀崎岖小道，出卢龙寨，跋涉500余里，越白檀、平岗，进抵柳城(今辽宁朝阳西南)以东。八月，辽西单于楼班与袁尚、袁熙及蹋顿单于等，率骑兵数万迎击曹操。曹操登上白狼山(今辽宁喀喇沁左翼蒙古自治县东境白鹿山)，踞高远望，见敌军虽众，但阵容散乱，便欲攻敌。此时，张辽情绪激昂，也劝曹操与其相战，曹操于是不顾后续部队尚未集结，立即令将军张辽为先锋率兵发起突击，并将自己所持麾授于张辽。张辽出击，大破敌军，斩蹋顿单于及名王以下10余人，俘虏20余万人(参见白狼山之战)。
建安十三年(208年)，曹操派张辽屯兵长社(今河南长葛县东北)。时荆州尚未平定，临出发时，军中有人谋反，入夜，营中惊乱起火，全军骚动不安。张辽对身边的将领说：“勿动。是不一营尽反，必有造变者，欲以动丄乱人耳。”于是他向军营中发布命令：“其不反者安坐”(《三国志·魏书·张辽传》)！然后，张辽率亲兵数十人在军阵中央巍然站立。不一会，骚丄乱自然平息，张辽立即查出并处死了带头谋反的人。 `
时张辽屯兵长社、于禁屯兵颍阴、乐进屯兵阳翟，但三将性格相异，互不协作。曹操便派司空主簿赵俨并参三军，每事训谕，三将于是和睦。
建安十四年(209年)，庐江人陈兰、梅成占据氐(今安徽崔山县东北境)、六(今安徽六安县北)反叛，对合肥形成威胁。曹操派于禁、臧霸等人讨伐梅成，命张辽督率张郃、牛盖等人讨伐陈兰。梅成见大军到来，假意投降，于禁因此撤兵。于禁一走，梅成就带着部队投奔陈兰，二人合军丄，转入氐山。氐山中有座天柱山(今安徽岳西境)，山势陡峭，高二十多里，道路险要狭窄，步行仅能勉强通过。张辽欲进攻，诸将说：“兵少道险，难用深入。”张辽却说：“此所谓一与一，勇者得前耳”(《三国志·魏书·张辽传》)。于是，到山下安营，挥军攻敌，斩杀陈兰、梅成，尽俘其众，迅速稳定两地局势。事后，曹操评论众将的功劳，说：“登天山，履峻险，以取兰、成，荡寇功也”(《三国志·魏书·张辽传》)。下令增加张辽的封邑，并授给他可以用来代理自己调动和指挥某一地区军队的符节。
建安十八年(213年)，曹操进攻孙权，退兵后，派张辽和乐进、李典等率领七千余人驻守合肥。后来，曹操征讨张鲁，给合肥护军(主管武官选拔、考察的官)薛悌送来一封手札，信封边上写有“贼至乃发”(《三国志·魏书·张辽传》)的字样。
建安十九年(214年)，孙权率吕蒙等亲征皖城(今安徽潜山)，张辽闻迅，率援军而至，到夹石(今安徽桐城北)，闻皖城已失，只得退去。
建安二丄十年(215年)八月，孙权率十万大军围攻合肥，辽等将领一起打开手札，上面写着：“若孙权至者，张、李将军出战；乐将军守，护军匆得与战”(《三国志·魏书·张辽传》)。曹操此信，是根据众将的特点所写。他认为张辽、李典勇锐，便令出战；乐进持重，便令守卫；薛悌是文职官员，所以不令他参与战斗。
