据《蔡氏宗谱》记载，始建于唐贞观二年（628年）。后由宋代进士蔡诜，明代黄罔令、蔡文清、僧慧滨，清代蔡仲歧等人主持修葺。因修葺目的是保存古迹，恢复了原建筑的时代风格，乾隆皇帝巡游江州，经过此地，御笔亲题大唐极乐寺，得名大塘。清光绪二十七年（1901年）重建。该寺历来均为本地望族蔡姓管理，清末为蔡家启蒙馆，后改为小学，现仍当寺庙使用，平时常有香客前来敬香朝拜。

寺庙正前有半月塘和12棵古树。建筑坐北朝南，面阔16.13米，进深22.8米，占地面积369.05平方米。抬梁穿斗木架结构，前后一进，中设天井，天井两侧设厢房。由前堂、厢房、天井、后堂组成，泗水归堂式小青瓦屋面。前堂通面阔五间16.130米，明间面阔4.100米，次间面阔2.380米，梢间面阔2.635米；通进深五间8.740米，进深依次为0.950米、1.980米、1.955米、1.955米、1.900米；厢房对称于天井两侧，通面阔一间4.370米，通进深一间1.740米；后堂通面阔五间16.130米，明间面阔4.100米，次间面阔2.380米，梢间面阔2.635米；通进深六间9.770米，进深依次为1.600米、1.610米、1.640米、1.630米、1.630米、1.600米。后堂正殿，抬梁结构，两侧采用穿斗固定拼架，柱梁多为直径40厘米的粗大杉木，柱下有石础。与本地建筑风格略有不同的是不加封檐山墙围护，侧墙直接承重。

该寺庙的建筑特色鲜明，是研究清代建筑历史和宗教建筑不可多得的重要史料。

1985年，新建县博物馆调查发现。2011年，新建县人民政府公布其为第二批新建县文物保护单位。