北宋以前，这里是晋文公(重耳)庙。北宋太平兴国七年(982年)改建为潘美的帅府衙门，元为中书省，明清为抚署，至辛亥革命前，这里一直是明、清两代山西巡抚衙门所在地。辛亥革命以后，为山西都督府。山西督军府是在原清代衙门的基础上，从民国七年(1918年)开始陆续改建的。1916年阎锡山任山西省督军，以此作为督军衙门，故名督军府。现为山西省人民政府所在地。
旧址坐北朝南，占地约2.5万平方米。中轴线自南而北原排列有影壁、大门、仪门、东西二层廊楼、大堂(现渊谊堂)、二层砖石结构楼、二层木楼、“自省堂”(现梅山会议厅)、梅山。中轴线东侧为东花园、内北厅、勤远楼，西侧为西花园。除二层木楼，影壁、(含两侧便门)、仪门、勤远楼已毁外，其余基本保存原貌。