有诸葛亮家族也是徐州的。但文士辈出之时，将领方面就不行了，基本上在陶谦时代，徐州没有什么能拿得出手的武将。
所以，在镇压复起的黄巾军的时候，成为刺史的陶谦在外有黄巾军压境、内有世家大族掣肘的情况下，毅然将泰山贼臧霸招到麾下，任命其为骑都尉。于是臧霸和他的那些兄弟，带着自己的山贼军，放弃了大汉仅有的两个巨型山寨之一的泰山寨（另一个是张燕黑山军的黑山寨），摇身一变成为了官军。
最终，臧霸没有让陶谦失望，屡战屡胜，最终将黄巾军从徐州驱逐出去，赶入兖州和青州境内。而陶谦为了防止黄巾军卷土重来，于是以臧霸为中郎将，带着泰山军镇守琅琊国，以防止黄巾军去而复返。
陶谦的选择是不错，但臧霸可不是一味服从的主。十八岁的时候，他的狱掾父亲因为坚持原则阻止太守杀人而被下狱，臧霸就敢召集十余食客一起去将父亲救出，自此亡命东海。后来他又成为泰山贼各部的首领，与孙观、吴敦、尹礼等人一起，成为泰山一带的强大势力。
这样的人，指望他老实是不可能的，尤其是他出身山贼，更是不服管束，除非有绝对的实力能压制住他。但显然，陶谦不是那种人，所以在琅琊国，很快臧霸就有了自立之心，对