千佛寺位于县城北15千米的中张村村北，泜河南岸。据明崇祯十五年《内丘县志》记，千佛寺建于唐天宝年间，而据寺内明万历重修千佛皋上记载，千佛寺始建于汉明帝永平年间。从时间上县志记载晚于碑刻，另外，寺中另一块碑刻记载，千佛寺在唐天宝年间曾大修。所以说千佛寺始建年代应在汉代，且和洛阳白马寺同一时期。县志所记有出入不足为怪，把唐天宝年间千佛寺曾有的一次大修记成始建，这种情况在县志中对其它寺庙的记载亦有类似情况，将大的重修记成始建。如记载且停寺时把元朝那次大修记成了始建。
千佛寺堪称中国最早的佛寺之一，只因历史上几经兴衰，而没有洛阳白马寺那么名气大罢了。个中原因，既然叫千佛寺，就一定有寺宝千佛皋了，但由于千佛寺中早年的千佛皋已被毁，到了明朝又重修，这就很难与白马寺中的白马相媲美了。据推测，历史上很有可能是南有白马寺，北有千佛寺，形成两大佛教圣地的格局。
千佛寺中最为精彩的是千佛皋，又称千佛阁，现存为明代重建之物，高八尺，四面各九尺，里里外外雕刻着大大小小千尊佛像，故称千佛皋。中央为整块巨石四面雕刻而成的佛座，四面神像神态各异，形象逼真。四周由四块巨石组成石室四壁，东西南北各凿四个皋门，以瞻中间佛座。各皋门上雕刻双龙戏珠，两旁分立叱咤金刚。上用两块巨石封顶，组成完整石室。里外所有空白处均有次序地雕刻上小佛龛，千姿百态，栩栩如生。
据明万历年间《重修千佛寺碑记》中记：“内丘城北二十里曰张村，经此达柏仁，为京都孔道，道之左梵宇一区扁曰千佛……邑大夫祝圣寿地……佛之为教乃所谓西方之圣人也……”千佛寺历代作为邑大夫的祝圣寿地，足见其是个佛教和儒教融合的场所。
惜千佛寺在1938年时被拆毁一半，到1945年全部拆除，仅存遗物千佛皋和两根滚龙柱。今欣喜重建千佛大殿，保护千佛皋，不失为文化之盛举，甚得民心。千佛阁为千佛寺之遗存。据传：当年寺地周围低凹，寺建高处，占地5亩余，因寺中石阁雕佛千尊，故名。据明万历二十六年（1598年）《内丘县张村重建千佛寺记》载：“……其栋宇创自隋唐，历宋、元、屡毁屡建，莫可考记……”。《顺德府志》（清乾隆十五年）载：“千佛寺在张村，唐天宝年建”。从千佛阁题记可知：“汉明帝永平年间敕建殿阁造石佛千尊，大唐天宝元年（742年），重修殿阁，延祐七年（1320年）重修。嘉靖二十年（1541年）殿阁石佛颓坏，本年三月十六日，重修殿宇五间，重造石佛千尊”。原寺院有山门、中殿、正殿、寺两旁有偏院，阁居中殿，滚龙石柱立于两侧，布局严谨，古朴美观。可惜原建筑毁于1935、1945、1950三年当中，仅存千佛阁一座，滚龙石柱两根。1993年7月15日被河北省人民政府公布为河北省重点文物保护单位。
千佛阁平面呈方形，南北3米，东西3.1米，通高3.05米。用十六块青石分基座、阁身、顶盖及阁内方形佛柱四部分雕后筑成（盖4块、体8块、座3块、佛柱1块）。石阁四壁各设一门，内外壁排列有序，浮雕尖拱形佛龛，尺寸不一，共1003尊佛龛。佛均结跏趺坐式，可惜佛头大部被毁，面目全非。在佛龛与佛龛之间刻有供养人姓名及造佛的尊数等题记。阁四面外壁图案大体一致，个别部位略有变化，门居每面中下部，为内圆外尖拱形门，门高80、宽64厘米，里设门楣、门框、门槛等，门额上侧雕有二龙戏珠、边饰祥云，门两侧，金刚、力士守门，狮子门墩各一。阁内有一长方体立柱，通高1.95米，分座，身、首三部分，为一块巨石雕成。基座近似方形，南北1米，东西1.06米，座高24厘米，呈盝顶状，斜面周饰连续花纹；佛柱身南北0.7米、东西0.734米，高1.2米，四面帷幔平垂，上饰璎珞连续垂吊图案，四条棱抹角为圆形，呈竹节式界为龛墙，内凹成龛状，东西南三面雕有一佛两菩萨，主佛均结跏趺坐于须弥莲座上，二菩萨铣足于莲台；北面为一佛两弟子。滚龙石柱两根，东西并列阁前，通高3.75米，柱径1.58米，上雕有二龙戏珠，周边祥云烘托图案，龙体蟠曲，栩栩如生。柱顶部尚留有方形榫眼，备穿插而用，雕琢颇精。据调查在石阁顶上原有卧佛一尊，后丢失。1976年以前，东侧一根就埋于地下，另一根也相继埋于地下，避免破坏和丢失。2006年在原址上恢复重建，并将两根石柱照原样用上。
