开封府文庙最早是元代至元年间(公元1264年~1294年)的汴梁路学,是利用北宋太学的旧址改建的。北宋太学的旧址原在内城朱雀门外附近,金代贞年间(公元1213年~1216年),为抵御蒙古,金人将内城扩大,太学刚好在拆迁的范围。金亡以后,元人即以其地改建为汴梁路学。明永乐五年(公元1407年),称开封府儒学,移建于丽景门(宋门)内西北。明末城淹,文庙及石碑均淤地下。清顺治九年(1652年),知府朱之瑶将府文庙移至今址(文庙街)所余残碑随同迁移。清代重建的开封府文庙前有棂星门3间,前临大街,街东西建“德配天地”“道冠古今”两牌坊。路南有泮池,成半圆弧形。泮池有石栏环绕,高约4尺,左右有“圣城”“贤关”两牌坊。1927年扩街,将四牌坊拆除,泮池并入街内。
