Cerkev sv. Florijana stoji sredi travnikov na robu naselja, pogled pa se odpira proti sv. Vidu na Ljubnu.
V pisanih virih se cerkev na Cerovcu prvič omenja 1581, ko je vizitator oglejskega patriarha škof Pavel Bizancij napravil popis vseh cerkva na Kranjskem. Vizitator jo omenja kot cerkev sv. Ahaca. Valvasor o njej molči, znova se omenja kot cerkev sv. Florijana šele v popisu inventarja šmihelske župnije leta 1823.
Cerkev so temeljito obnovili 1931. leta. Med drugo svetovno vojno je bila močno poškodovana, zrušila se je polovica stropa v ladji, močno poškodovana pa sta bila tudi pevski kor in cerkvena oprema. Farani so cerkev temeljito popravili v šestdesetih letih po navodilih arhitekta Janeza Valentinčiča. Oltar je obnovil Hinko Podkrižnik iz Šentjurja pri Celju. Cerkev je bila ponovno blagoslovljena 21. novembra 1971.
Glavni oltar je nastal v 19. stoletju. V glavni niši stoji kip rimskega vojščaka, ki z eno roko neustrašno zliva golido vode na gorečo hišo, v drugi pa drži vihrajoč prapor.V atiki je dokolenski kip sv. Janeza Evangelista s kupo, iz katere se izvija kača.
V cerkvi sta dva stara bronasta zvonova. Starejšega iz leta 1479 je vlil potujoči zvonar Rosetus in je njegov edini izdelek na Slovenskem. Zvon je okrašen z reliefoma Križanja in Marijinega oznanjenja. Zaradi njegove zgodovinske vrednosti ga niso pobrali niti v prvi svetovni vojni, ko so številne zvonove naših cerkva prelili v topove. Večji zvon je iz leta 1693. Okrašen je z reliefoma svetega Antona Padovanskega in Marije Pomočnice kristjanov ter z bogato borduro.