据清《黄冈县志》记载，黄州儒学始建于宋代，儒学宫址在黄州城东。由于战争及天灾等破坏，明、清时期陆续重修重建。清光绪初年，学宫移至清准大门内即今市实验小学处。当时，学宫大门为戟门，二门为棂星门，后为泮池，池上有石桥。过桥为大成门，再进为大成殿，正中央供“大成至圣先师孔子牌位，两侧供”，“亚圣颜回等七十二贤人”的牌位。大成殿后为崇圣殿，再为尊经阁。大成殿东西两庑，共列祀历代79位先贤和61位先儒。

现存的房屋实际是儒学宫建筑群中的一部分即大成殿，是清代建筑。因多经战乱，到清末，该殿也已破败。民国初年，黄冈县政府捐资进行了一次大的维修。（屋内大梁上有文字记载）。到1959年，政府部门在该处开办黄州第一所小学——黄师附小。2002年，大成殿使用单位黄冈市实验小学集资再次维修。维修的的大成殿（文庙）面貌焕然一新。

文庙，俗称“考棚”，为歇山顶古代宫殿式建筑，黄瓦红墙，木质结构，占地面积480平方米。学校在该殿内开办了图书室，成为师生们阅读的场所。殿前的泮池，经过校方维修，保存完好。