Selon Baudiau , non loin de l'église au sud existait au 9e siècle une abbaye. le bourg de Saint Péreuse a été fondé au 5ème siècle par un moine évangélisateur du même nom (Pétrusius). Il mourut et fut enseveli dans le village et à l'emplacement de son tombeau, on éleva un oratoire, transformé ensuite en abbaye. Toujours d'après Baudiau: "Charles le Chauve donna ce monastère, au 9ème siècle à l'église de Nevers à laquelle Charles le Gros le confirma en 888. Il devint ensuite un chapitre de chanoines". Une mémoire locale nous indique une maison près de l'église où des pierres tombales auraient été mises au jour en sous sol. Elle pourrait se situer à la parcelle 144 du cadastre de 1838.
Nous n'avons pas d'autres informations et ne connaissons pas la date d'abandon/destruction de cette abbaye. Élément à étudier.