三祖寺坐落在天柱山东南麓的谷口凤形山上，占地面积7.04平方公里。三祖禅寺为南朝国师宝志禅师开创，梁武帝赐名山谷寺。隋初，禅宗三祖僧璨来此弘法教学，并传衣钵给四祖道信，于公元年在此立化，故称三祖寺。凤形山亦称之为三祖山。三祖寺曾有林逋、王安石、苏东坡、黄庭坚、李公麟、陆宰等文人游寺题诗。有诗云“禅林谁第一，此地冠南州”。
三祖寺建筑依山势而建，前低后高，南北走向上，依次为山门殿、天王殿、大雄宝殿、千佛殿、祖师殿、觉寂塔。三祖寺山门是一座唐代风格的建筑，高大的鸱尾脊，重檐歇山顶，粗大的木柱构成前廊，三门并立：正门“般若门”意为“智慧”；东门“解脱”、西门“精进门”均为梵文意译。正门楣上方，悬挂着赵朴初先生题写的“三祖禅寺”匾额。山门前两侧建有钟鼓楼。
走进山门，正中高高的石阶上端坐着天王殿，这座纯砖无樑结构，重檐歇山顶，攒尖6角，内穹无樑，亦称“六角无樑殿”。正面上悬“天王殿”竖匾，下悬“传佛祖衣”横匾。天王殿内，居中供奉弥勒佛，四周是四大天王塑像。殿前有东西两厢房，分别为“金玉满堂”和”聚佛堂“。
走进第二进院落，东有“瑞石殿”、西有“伽蓝殿”，瑞石殿前有六波罗蜜童子分别为：布施、智慧、持戒、忍辱、精进、禅定童子，此六波罗蜜乃大乘佛教中菩萨欲成佛道所实践之六种德目。伽蓝殿前有“勿视，勿言，勿听”三个童子塑像，乃“非礼勿视,非礼勿听,非礼勿言,非礼勿动。”之意。
《三绝碑简介》：公元年，诗仙李白，与画圣吴道子，书法家颜真卿等人一起，来到了风景秀丽的天柱山。他们听说宝志大师曾在野人寨卓锡，画圣吴道子很兴奋，即兴创作了“志公像”一张；李白见了吴道子画的志公像，也很兴奋，写了《志公画赞》；当时的庐江郡太守李袛请书法家颜真卿将李白草书的《志公画赞》，很工整地抄写了一份。然后，专门请来石匠，选上等石材，将吴道子的志公像，刻在石碑最中间的位置，将颜真卿书写李白的《志公画赞》，刻在石碑的上部。于是，有了一块举世闻名的“三绝碑”。
三祖寺原“三绝碑”早已不在，但明代有文人雅士将潜山三祖寺“三绝碑”拓片带到扬州，并按照同样尺寸恢复了一块。年9月，作家徐而缓在扬州盛唐博物馆发现了这方与安徽天柱山--三祖寺密切相关的石碑，并促成该“三绝碑”在三祖涅槃周年法会日当天回家。
《信心铭》为隋僧璨大师著，明代著名书法家董其昌书。史学家认为《信心铭》是印度佛教传入中国后，佛教“汉化”的一个重要印记。它记载着禅宗发展历史上的一个重要转折。
