大兴善寺建于晋武帝泰始两年(226年)，原名遵善寺。它有1700多年的历史。它是西安最古老的佛教寺庙之一。隋文帝开皇年间，西安城扩建为大兴城。寺庙占据了城内靖善坊的位置。取城名为大兴，取坊名为善。
大兴山寺占地约120亩，有243座寺庙和僧侣。总体规划突出了佛教寺庙的特点，以佛教建筑为中心，形成了南北平行的三个轴线。主要建筑沿南北方向排列在中轴线上，包括天王殿、大雄殿、观音殿、东西禅堂、法堂等。此外，在寺庙西侧修建一座塔，以纪念为大兴山寺的繁荣做出贡献的僧侣。
隋开皇年间，印度僧人加那多、达摩古多等先后来到长安，在大兴善寺翻译弘法。唐开元时期，印度僧人善良无畏，金刚智，不空先后驻扎在锡本寺，翻译经典，设坛传密，再经一行惠果传承弘扬，形成博大精深的佛教文化宝库――唐密后来通过空海和最澄清传播到日本和韩国，然后传播到马来西亚、印度尼西亚和其他地方。它广泛而有影响力。大兴山寺已成为世界公认的中国佛教唐密祖庭。
隋唐时期，长安佛教盛行。印度来长安传教留学的僧侣在寺庙里翻译佛经，传授密宗。因此，大兴山寺成为当时长安翻译佛经的三大翻译场所之一，也是中印文化交流史上难忘的地方。
隋朝扩建的大兴山寺位于大兴城靖山坊，与玄都观隔街相对，气势恢宏。《长安志》卷七年:(大兴山寺)寺庙崇拜北京最多。号称大兴佛殿，制度与太庙相同。《辩论》卷三详细描绘了大兴山寺的碧瓦飞舞，金殿巍峨。
1983年被国务院列为全国重点开放寺庙之一。1984年4月，陕西省佛教协会接管大兴山寺，花半年时间修复41座寺庙和僧侣，重塑破坏佛像，翻新20多亩荒地，修剪树篱1000多米，增加600多盆花，种植黄杨木、冬青、刺伯等3万美化环境，新建120平方米服务部，购买一批接待用品，大兴山寺外观大大改善。唐代现存的青石狮、纪念碑、香木千眼观音菩萨佛像、清康熙时期西藏喇嘛向朝廷贡献的21度母像、明代如来佛像和许多宗教艺术品是历史爱好者参观古代的好地方。
大兴善寺现位于西安小寨兴山寺西街（西安最繁华的地区）。然而，在这里，你总能找到一丝不同的宁静，感受到发自内心的平静。
沿正南正北方向，现存寺院建筑呈一字形排列在中轴线上，依次是天王殿，内供弥勒菩萨；大雄宝殿。
关于大兴于大兴善寺观音殿的故事：大兴善寺的著名僧侣苏和尚从不出院。他整年坐在屋里抄《法华经》，抄了3700部。浣熊经常在晚上来听他读经。吃饭时，喜鹊经常飞到桌子上啄食。
也许是因为这个原因，西安人口中流传着一句话，那就是大兴善寺求婚非常有效，每年都有无数人祈求婚姻。
