Cerkev na Črešnjevcu stoji za tabornim obzidjem. V južni in severni steni je vidna zidava prvotne cerkve iz marmornatih klesancev in rimskih spolij. Ko so cerkev prezidali, najprej iz romanske v gotsko in nato še v začetku 18. stoletja v baročno, so od temeljev do vrha kot gradbeni material uporabili antične napisne in reliefne kamne. Ti so najdeni tudi v tabornem obzidju. Cerkev je opremljena z baročnimi oltarji. Je ena izmed najstarejših cerkva na tem območju. Pred leti so bili iz Avstrije vrnjeni posamezni kosi rimskih kamnov, kamor so jih Nemci med vojno odpeljali. Danes so razstavljeni pod cerkvenim obzidjem in predstavljajo izvrstno zbirko fragmentov iz rimske dobe.