Au début des années 1920, les Pulliérans décident d’installer un chauffage dans l’église. Ces travaux d’aménagement permettent de mettre au jour plusieurs tombes, des murs, des dallages ainsi que des fragments d’enduits peints. Les archéologues de l’époque dateront ces découvertes entre l’époque romaine et le début du Moyen Âge. Quant à Albert Naef, premier archéologue cantonal vaudois, il sera le premier à voir dans ces vestiges les traces d’une villa romaine.
En 1943, la Ville de Pully entreprend la construction d’un abri de défense aérienne juste à côté du pavillon en hémicycle. Ces travaux détruiront plusieurs murs romains. Seul un croquis de l’entrepreneur en charge du chantier garde une maigre trace de ces vestiges.