Vers 860, le comte Girart de Roussillon fonda deux monastères, l'un d'hommes à Pothières (au nord de Châtillon-sur-Seine) et l'autre de femmes à Saint-Père-les-Vézelay, mais celles-ci furent assez vite remplacées par des hommes. Lors des invasions normandes des années 880, les moines se réfugièrent sur la butte voisine, ancien oppidum celtique ; ainsi était né le premier monastère de Vézelay, dédié à Saint-Pierre, Saint-Paul et Sainte-Marie.

Au XIème siècle, les moines de l'abbaye annoncèrent qu'ils avaient rapporté de Provence les reliques de Marie-Madeleine, la pécheresse repentie de l'Evangile. La reconnaissance des reliques par le pape en 1050 entraîna l'afflux de pèlerins de toute la chrétienté romaine. Vézelay, centre de pèlerinage international, devint le lieu de départ du quatrième chemin qui menait les chrétiens d'Europe vers Saint-Jacques-de-Compostelle, en Espagne. Cette situation permit l'enrichissement de l'abbaye et les agrandissements de l'église des pèlerins.

Bernard, premier abbé de Clairvaux et fondateur de l'ordre cistercien vint prêcher au lieu-dit la Cordelle pour convaincre les nobles d'aller reconquérir les Lieux saints en 1146. Vézelay, à son apogée, reçut encore en 1190 le roi de France et celui d'Angleterre pour le rassemblement de la troisième croisade.

Au XIIIème siècle, commença pour l'abbaye une longue période de déclin. Le pèlerinage perdit de son prestige. A la Révolution, l'abbaye, vendue comme bien national, fut détruite. L'église abandonnée ne dut sa renaissance qu'aux travaux de l'architecte Viollet-le-Duc, au milieu du XIXème siècle.