汾西是古代劳动人民发祥地之一,据“勍香遗址”、“古郡遗址”。考古发现,早在七千多年前的仰韶文化时期,汾西一带就有人类活动。
唐虞、夏属冀州,为纳总甸腹地。商仍属冀州。周初名彘。
春秋属晋国。战国属魏、后属赵。
秦属河东郡。西汉为彘县地,亦属河东郡。
三国属魏,属平阳郡。西晋也属平阳郡。北齐置临汾县,属临汾郡。
隋开皇十八年(598)改临汾县为汾西县,隋末废,属临汾郡。
唐武德元年(618)复置汾西县,属吕州。贞观十七年(643)属晋州。五代属晋州。
北宋属河东路平阳府。金初属汉东南路平阳府。贞祐三年(1215)属霍州。
元属晋宁路。明、清属平阳府。民国初属阳府。河东道。
1927年属山西省。
1946年8月29日汾西解放,属晋绥边区吕梁行署第九专署。
1949年10月属晋南专区。1950年1月属临汾专区。1954年9月,属晋南专。
1958年6月与霍县合区设霍汾县。
1958年10月撤销霍汾县,并入洪洞县。1959年9月复置霍汾县。
1961年5月,恢复汾西县建置,属晋南专区。
1971年5月属临汾地区。临汾地区改为临汾市后,汾西县隶属于临汾市。