该寺始建于唐高宗显庆三年，即公元658年，始名护国寺。嘉佑八年（1063年），宋仁宗御赐“安国”寺石，并赐玉印一方，其阳篆字曰“敕赐唐代祖庭安国祥林之宝”，仍藏于寺内，为镇寺之宝，自此，安国寺声名远播，成为江淮乃至全国名刹。该寺历史上规模宏大，相传曾“骑马关山门、敲锣开斋饭”。