Nel 1994, gli scavi condotti in occasione del restauro della cripta hanno permesso di individuare all’esterno dell’abside l’angolo di un edificio pubblico di età romana, forse un tempio, come sembrano testimoniare i materiali di pregio rinvenuti negli strati di distruzione: frammenti architettonici e decorativi in marmo e bronzo, lastrine lapidee per il rivestimento di pareti, frantumi di mosaici.

L’edificio fu demolito nella seconda metà del V - inizi del VI secolo, forse in relazione con la costruzione della prima cattedrale a tre navate. Un piccolo capitello e un frammento di lastra dell’VIII secolo provano che l’arredo liturgico fu rinnovato ancora una volta, durante l’alto medioevo, prima che il vescovo Warmondo, verso il 1000, aggiungesse a ovest la straordinaria controabside circondata da deambulatori sovrapposti tra due campanili gemelli.