闻知臧霸军在舒城时，立即遁还。臧霸引军乘夜追赶，将及天明，行百余里，向孙权军前后夹击。孙权军窘急不堪，不得上船，蹈水而逃者甚众。
臧霸从讨孙权于濡须口，与张辽同为前锋，遇上大雨，前锋大军先至，见江水增涨，敌船稍进，将士皆不安。张辽便欲退走，臧霸阻止张辽道：“主公明于利钝，怎会牺牲我们呢？”
至明日，曹操果然发出撤军令。张辽以臧霸之言告诉曹操。曹操对臧霸加以赞扬，拜为扬威将军，假节。这是臧霸忠信的表现，他信任曹操不会胡乱做安排，曹操也就信任他。
建安二十二年，臧霸从讨孙权，先登入阵，以少敌众，破孙权，占居巢。可见臧霸之勇悍和无私，古来大将，刚开始从军的时候为了军功可以舍生忘死，血洒沙场。但有了一定地位，就不会亲身涉险。
曹操-死时，臧霸所部领的军众及青州兵，以为天下将乱，大都鸣鼓擅自离去。曹丕即位，以曹休都督青、徐，臧霸向曹休道：“国家不肯听从臧霸而已！若能借我步骑万人，我必能横行于江表。”曹休告诉曹丕，曹丕便疑说臧霸之军先前军心不稳，擅自离去，如今却竟意壮如此！
曹丕于是迁臧霸为镇东将军，进爵武安乡侯，都督徐州诸军事。曹丕践阼后，进封臧