北庭节度使下辖的伊州伊吾县，其历史可以上溯到秦汉时期。然而在那时候，居住在此的乃是戎人。直到汉时窦婴班超大破西域，方才在此筑城，而后历经多年岁月，定居此地的始终是戎人居多。到了隋时，在汉代伊吾城的东边筑起了新城，名为伊吾郡，但隋末天下大乱，原本屯驻在此的兵马纷纷再次东迁，于是这里又成了异族聚居之地。

直到唐初，太宗皇帝命侯君集大破高昌之后，此地方才再次款附，于是建伊州，以伊吾县为