Богаты Грязи и памятниками церковного искусства. К ним относится здание храма Казанской иконы Божией Матери. Он была построен прихожанами в 1848 году в селении Таволжанка, которое впоследствии стало одним из районов города. По этой причине его часто называют Таволжанской церковью.
В то время храм был одно престольным - иконы Божьей Матери и в округе был главным. Штат состоял из священника, дьякона и двух псаломщиков. В 1911 году было сооружено дополнительно два престола: Николая Чудотворца и Пророка Илии. Храм стал крупнейшим в Липецком округе. В это время при нем действовало 3 школы.
Во время революции из церкви были изъяты многие материальные ценности, но она продолжала работать до 1935 года.
Следующие 50 лет здание находилось в плачевном состоянии и было сильно повреждено. С конца девяностых годов церковь начала возрождаться, а в 2003 году был произведен большой ремонт, отреставрирован фасад и внутренняя облицовка, проведены коммуникации.
Теперь храм Казанской иконы Божией Матери - одна из главных достопримечательностей г. Грязи Он радует посетителей первозданной белизной однокупольного храма и красотой двухъярусной колокольни, изысканностью внутренней отделки и является любимым местом паломничества прихожан.