蜀山區其前身是安徽省合肥市第三區、西市區。1949年1月21日合肥解放，2月1日合肥劃市區為第一、二、三區。1951年11月，中共合肥市西市區委、區政府成立。新成立的西市區，劃分為5個派出所，24個警區，136個行政小組，居民5310戶，人口22634。2002年3月，根據合肥市建設和發展的需要，對全市四個區重新進行了調整和劃分，將西市區更名為蜀山區。