张燕本命褚燕，在张角兄弟死后，率领部分黄巾军进入了太行山打游击。与他同时啸聚太行的另外一个大头目叫做张牛角。两人聚集了数万黄巾余党，在冀、并两州交界的地方作乱，号称“黑山军”，朝廷数次围剿，难以奏功。

后来，张牛角误中刘流矢身亡，临死之前召集部下，命他们拜褚燕为主将，听从号令，重振黄巾雄风。大权独握，褚飞燕一跃成为黑山军说一不二的大头目，更名为张燕。因为张燕骑术出色，马上能左右驰射，剽悍过人，因此得了一个“飞燕”的雅号。

彼时，黄巾势微，各路诸侯纷纷讨伐地盘内的黄巾流寇，太行一带的孙轻、王当、眭固、杜长等人纷纷率部到太行山投靠张燕，加入了“黑山贼”的阵营。张燕势力大盛，精壮士卒达到了七八万，加上老弱妇幼，黑山贼的人数竟然有二十万之众。

汉灵帝无力征讨，听从太尉杨彪的建议，册封张燕为“平难中郎将”，本想将他招安。谁知张燕受封之后依然我行我素，不时的劫掠地方，所到之处，州郡苦不堪言。

张燕名声曰盛，天下各地的黄巾余党纷纷来投，时有左校、牛角、五鹿、羝根、苦蝤、刘石平汉、大洪、司隶、缘城、罗市、雷公、于毒等数十支小股部队来太行入伙，奉张燕为头领，以黑山军为称号，盘踞在太行山的各个山谷。

于是，黑山军的势力空前高涨，张燕能够调遣的精壮士卒人数达到了十几万，加上老弱妇幼，号称百万。天下诸侯无不震慑，将张燕视为张角之后的天下第一“大贼头”。

风雨飘摇的东汉王朝根本无力征伐，只好任凭黑山军为祸北方。灵帝死，董卓乱政。天下诸侯结盟，共伐董贼，更没人去管太行山中的张燕，使得黑山军继续盘踞在冀、并两州交界的地方。提起黑山大贼张燕的名号，各州郡无不战栗。

后来，韩馥被封为冀州刺史，能掌控的部队不过几万人，面对着十几万之众的“黑山军”，不敢开战，托人讲和，过了一段相安无事的曰子。