广济寺最初的名字是西刘村寺，建于辽代。据明成化20年(1484年)万安大学士撰写的《红慈广济寺纪念碑》记载，都城西大市街北有古刹废址，据说是西刘村寺。元朝(1271-1368年)，西刘村寺改名为报恩洪济寺，元末战火毁灭。
到明朝景泰时期（1450-1456年），村民们在耕地上发现了陶瓷佛像、供应商、石龟和石柱顶。天顺（1457-1464年）早年，山西僧侣曾辉、圆红等法师云游到这里筹集资金，在废址上重建寺庙。在负责皇帝皇冠服装的廖平的资助下，仅用了两年时间就完成了。
廖平还听说了宪宗皇帝的话，请给他起寺庙的名字。宪宗于成化二年(1466年)下令命名为弘慈霞济寺。此后，广济寺僧人不断修建，直到成化二十年(1484年)才全部完工，被称为京师宝坊，斯为第一。
清初，恒明法师将广济寺改为律宗道场，在这里设立戒坛，开坛传戒。康熙三十八年(1699年)，皇家碑文匾额和米菲的观音赞，释迦牟尼金佛像。寺庙里有一棵古树，旁边有一块石碑，上面刻着乾隆皇帝制作的《铁树歌》。
1924年正门匾额改为红慈广济寺。1934年1月8日，大殿突然起火，数十座延烧殿宇、古董字画、瓷铜玉等物品损失惨重。《法华经》的100多部电影都被烧毁了，铁树也受到了伤害。1935年，在吴佩孚等人的资助下，住持现明法师按照明朝格局重建，建筑规模比例·以前更壮观了。1952年，人民政府拨款进行全面维修，1972年和1976年又进行了两次整修。
中国佛教协会于1953年在北京成立，位于广济寺。中国佛教协会是中国各民族佛教徒的联合组织海、虚云、吕书、赵仆初、周叔迦等20位佛教知名人士联合组织成立的。中国佛教文化研究所和法音杂志编辑部也位于广济寺。《法音》杂志是中国佛教协会的机关期刊，成立于1953年，1966年停刊，1978年复刊。
今天的广济寺保存着许多珍贵的佛教文物。大雄宝殿有乾隆五十八年(1793年)铸造的铜鼎，高约两米，铸有佛教八供(轮、螺、伞、盖、花、瓶、鱼、结)等图案。造型简单大方，工艺精湛，是珍贵的艺术珍品。殿后壁挂着一幅《胜果妙因图》，是清乾隆九年(1744年)著名画家传雯用手指画的，高五米，宽十米。图中释迦牟尼端坐在莲花座上，亲切地向信徒讲经，身边有100多个弟子洗耳恭听。有趣的是，观众中还有关羽、关平、周仓、布袋和尚等中国历史人物。
广济寺收藏的佛教经典非常广泛。仅图书馆就有23种文字和17万多部佛教经典，仅收藏的《大藏经》就有12种版本。还有1721-1753年甘肃临潭县卓尼寺雕版印刷的藏文《大藏经》，共231包是佛教收藏中的珍贵文本。尤其是宋明血写佛经更珍贵。
