此臧霸的孝烈勇名遍闻乡野。

中平五年十月，青徐两州黄巾复起，劫掠郡县，朝廷任命陶谦为徐州刺史，镇压黄巾，陶谦一到徐州便任用亡命东海的臧霸及其同乡孙观等人为将，一战便大破黄巾，随后将黄巾驱赶出徐州，陶谦上表拜臧霸、孙观为骑都尉，令其屯琅玡国开阳县，驻守徐州北面。

五年来，因为青州黄巾始终肆虐，是以臧霸屯驻开阳未曾移兵，加上臧霸为人勇猛而豪气，手下聚合同乡孙观、吴敦、尹礼、昌豨等泰