Župnijska cerkev je posvečena nadangelu sv. Mihaelu. Cerkev se prvič omenja posredno z župnijo leta 1296 v seznamu papeških desetin oglejskega patriarhata. Leta 1300 je omenjen župnik Oton, cerkvena stavba pa šele leta 1495.
Ostanki romanske arhitekture pričajo, da je imela cerkev v srednjem veku podolžno, pravokotno, ravno krito ladjo. Njeno dolžino in širino določajo zidovi današnje ladje, ki skrivajo romansko stavbno zasnovo. Na prostoru sedanjega tristrano sklenjenega prezbiterija je bila polkrožna apsida. Posebnost šmihelske romanske cerkve pa je pod apsido urejen karner, v katerega so v srednjem veku skozi poševna jaška spuščali, ob prekopu grobov, najdene kosti pokopanih na pokopališču ob cerkvi. Kostnica pod apsido, razen obeh jaškov, ni imela drugih odprtin. Obokana je bila s kamnito polkupolo, ki so jo prebili šele v dobi baroka, ko so kostnico uporabljali za pokope pomembnejših pokojnikov.
Valvasor v Slavi vojvodine Kranjske piše, da je cerkev leta 1544 pogorela in je bila po tem letu na novo pozidana, bolj verjetno pa je, da je bila po požaru le temeljito popravljena. Leta 1653 je bil posvečen nov, tristrano sklenjen prezbiterij. Leta 1730 je bil pozidan zvonik, ki so ga leta 1857 in 1879 nekoliko povišali.
Predelave in povečave v 17. in 18. stoletju so cerkvi vtisnile neizbrisen pečat baročnega stavbnega stila. V 19. stoletju so razširili in povečali slavoločno odprtino, ki loči ladjo od prezbiterija. Leta 1870 so podrli star pevski kor in lopo, ki je bila prislonjena k vzhodni steni ladje, ter oblikovali sedanjo podobo cerkvenega pročelja. Ker je bila notranjščina nizka in temačna, so tega leta tudi znižali tlak v ladji in naredili nova okna.
Leta 1866 je cerkev dobila nov glavni oltar, ki ga je izdelal Matija Tomec iz Šentvida nad Ljubljano, oltarno podobo svetega Mihaela pa je naslikal Jakob Raspet iz Idrije.
Leta 1871 je trebanjski orglar Janez Mandlin izdelal nove orgle, pri tem pa porabil dele starih baročnih. Okoli leta 1900 je nove orgle izdelala delavnica bratov Mayer iz Feldkirchna v Avstriji.
Leta 1881 so postavili novo obhajilno mizo iz črnega marmorja. Njeni deli so danes vključeni v pokoncilsko opremo prezbiterija. Leto kasneje so nov tlak iz črno-belih plošč položili tudi v ladji in v obeh stranskih kapelah.
Leta 1886 je staro, vlažno zakristijo zamenjala nova. Ker so takrat v Šmihelu že bivale sestre notredamke, so zanje v nadstropju zakristije uredili oratorij (molilnico).
Leta 1891 je slikar Anton Cej na oboku ladje upodobil kreposti Sv. Frančiška Pavelskega, ki ga lahko prepoznamo v liku redovnika z napisom Charitas. V stranskih kapelah je Cej narisal petnajst skrivnosti rožnega venca. Njegovo delo je dopolnil Jožef Edgar Kleinert, ki je leta 1929 na oboku ladje nad pevskim korom naslikal podobo sv. Cecilije, nad slavoločno odprtino pa sv. Cirila in Metoda.
Do leta 1917 je imela cerkev štiri bronaste zvonove, ki pa so jih zaradi vojne odvzeli in pustili le enega. Leta 1923 je župnijska cerkev dobila štiri nove zvonove, bronasti zvon iz leta 1878, ki ga prva svetovna vojna ni pobrala, pa so preselili v Gotno vas. Nove zvonove je ulilo podjetje Ing. J. & H. Buhl iz Maribora. Največji, težak 1488 kg, je posvečen sv. Mihaelu, drugi (težak 740) Srcu Jezusovemu, tretji (418 kg) Srcu Marijinemu in četrti (300 kg) sv. Jožefu.