宏觉寺所在的祖堂山，有着漫长的建寺历史，历代多有名僧名寺在此，唐以后尤盛。祖堂山在牛首山南。因南朝在山南建有幽栖寺，又名幽栖山。唐初，佛教禅宗支派传人法融禅师驻锡于此，开宗立派，史称“牛头禅宗”，幽栖山遂成牛头宗祖天下大造佛寺，所谓“南朝四百八十寺，多少楼台烟雨中”。上行下效，所以徐度不仅在牛首山建寺，“仍以余资集录佛经道书、内外诸史、医方图录，凡数千百卷，总之七藏奉之”。致使佛窟寺建筑堂皇，典籍众多。名声大振。此后历代均有增制，寺名亦经常更改。唐朝时曾名长乐寺、福昌院、资善院。大历九年(774年)，“代宗因感梦，敕修七级浮屠”，即命人在牛首山西峰建筑一座七级宝塔，高耸云霄，后人称为“唐塔”。南唐时，后主李煜改寺名为弘觉寺。宋朝太平兴国年间，改称崇教寺；不久，又建造一座五层高的方形辟支佛塔，后代称为“宋塔”。
新浪博客
洪武初年，仍名佛窟寺；正统年间，更名弘觉寺。当时的佛寺，规模宏伟，香火旺盛。据记载：人们进了山门，缘坡而上，即为金刚殿五槛；左右两座碑亭。相对而立；殿后有石阶百级。陡峭严整，称白云梯；白云梯上为天王殿三槛，再上为大雄宝殿七楹，前有石栏围护，下有银杏一株。围逾二丈，浓荫蔽日，郁郁葱葱。寺内其他主要建筑还有观音殿、轮藏殿、后佛殿、伽蓝殿、祖师殿、卧佛殿、文殊殿、辟支殿、弥勒殿等各三槛，方丈室十四槛，公学二大槛，斋堂五大楹，唐建舍利塔七级，宋建五级方塔一座及僧院五十四房，寺基周围共长二十一里三十步。明代盛时豢《牛首山志》更记述说：“寺之前后殿宇内，诸佛菩萨，庄严端好，皆前朝时雕塑。其缨络幢幡，炉瓶几杖，决非诸山可及。”在明代，弘觉寺“与西北之清凉，西南之峨嵋，并为圣道场地”。
佛窟寺，千百年来，一直是南京城内善男信女、达官显贵烧香礼佛的重要去处。历代不少文人墨客也游兴勃发，留下了不少优美的诗词华章。如唐代诗人韦庄《游牛首山》诗云：
牛首见鹤林，梯经绕幽岑。 春色浮山外，天河宿殿阴。 传灯无白日，布地有黄金。 休作狂歌老，回看不住心。
明初大臣胡广随同皇帝游览牛首山佛窟寺后，亦有《从游诗》云： 晓从凤辇出龙关，偶筑牛首其跻扳。
南唐古寺留碑在，西竺高僧振锡还。 百丈崖龛过鸟雀，半空钟鼓隔人间。 暂游已觉尘缘息，到此万知佛屈用。
宏觉寺塔，位于牛首山东峰的西南坡，海拔标高180.50米。宏觉寺塔始建于唐大历九年（774年），相传是唐代宗李豫为“感梦而筑”，后毁，现塔身是明初重建。
清时期
清代乾隆年间，因避乾隆皇帝名字弘历之讳，将弘觉寺改名宏觉寺。乾隆皇帝曾六下江南巡游，亲自为宏觉寺佛殿题写“万法皆如”匾额。宏觉寺在清代咸丰年间遭兵火焚毁，后虽稍加修葺，规模已大不如前，但七级宝塔及庙门外相传为法融和尚手植的一株银杏树犹存。民国时期
民国期间，宏觉寺又更名为普觉寺。著名学者朱楔先生在20世纪30年代两度探访佛窟寺旧迹，当时古寺“仅余大雄宝殿，佛龛尘封。荆榛塞途。寺右有杏花数十株，花事已闲，古寺无人，纷纷自开自落”。抗日战争期间，古寺又遭日本侵略军兵火焚掠，除宝塔孑然孤立外。其余寺庙建筑早已荡然无存。宏觉寺塔，位于牛首山东峰的西南坡，海拔标高180.50米。宏觉寺塔始建于唐大历九年（774年），相传是唐代宗李豫为“感梦而筑”，后毁，现塔身是明初重建。