夫子庙始建于宋景祐元年(1034年),由东晋学宫旧址扩建而成,称文宣王庙。
南宋建炎时为兵火所毁,绍兴年间重建,为建康府学,同时建科举考场江南贡院;元朝为集庆路学,明初为国子监,后为应天府学;清朝成为江宁、上元两县县学,同治八年(1869年)重建之后,于1937年遭侵华日军焚烧而严重损毁。1984年,市、区人民政府为保护古都文化遗产,经有关专家科学论证和规划,几度拨专款,历数年的精心维修和复建。如今的夫子庙已焕然一新,再展辉煌。被誉为秦淮名胜而成为古城南京的特色景观区,也是蜚声中外的旅游胜地。1991年被国家评为“中国旅游胜地四十佳”之一。