公昭著四海的威信，既奉旨以往，相信昌豨必不敢加害，所以才会这样做的。”
建安八年张辽跟随曹操讨伐袁谭、袁尚，破二袁于黎阳，立有功劳，行中坚将军。曹军攻袁尚于邺城，袁尚坚壁守叠，久攻不下。曹操纳郭嘉之计让二袁自行內斗而先还许都，使张辽与乐进攻拔阴安，迁徙其民至河南。
建安九年，曹军又再攻邺，这次终于攻破邺城，张辽奉命别巡赵国、常山，招降了缘山一带的贼众及黑山孙轻等。然后张辽又从攻袁谭。
建安十年，袁谭被斩于南皮后，张辽又受命安抚海滨一带，征破公孙度所遣越海掠地的柳毅、与长广太守何夔合兵讨允平贼从钱等。
曹操表汉帝，称张辽曰：“武力既弘，计略周备，质忠性一，守执节义，每临战攻，常为督率，奋强突固，无坚不陷，自援枹鼓，手不知倦。又遣别征，统御师旅，抚众则和，奉令无犯，当敌制决，靡有遗失。论功纪用，宜各显宠。”收复东莱诸县后张辽引军还邺城，曹操亲自出城迎接张辽，更与辽共载一车，封辽为荡寇将军，曹操对张辽的信任可见一斑。
其后张辽复又别击荆州，平定江夏诸县，率军还屯临颍，封都亭侯。
建安十二年，其后从征袁尚于柳城前，张辽谏曰：“许都是天