Selon Roland Niaux l'ancienne église de Tavernay existait déjà en 1164, remaniée au 15e siècle et détruite dans les années 1868-69 au moment de la construction de la nouvelle église, un peu plus loin dans le bourg. Cette ancienne église apparaît sur le cadastre de 1827. La même source fournit un plan qui fut dressé en 1848 par l'architecte autunois Bonnet et une (rare) photo des années 1860. Cette église sur un plan rectangulaire comportait une nef, un chœur et une abside à fond plat sans transept, surmontée d'un fort clocher carré "coiffé d'un toit à quatre pentes supportant une pointe à base hexagonale, couverts d'essaumes". L'ensemble mesurait 25m par 9m à l'extérieur et était couvert de tuiles creuses. Le portail d'entrée présentait un intérêt de par son style roman, garni de deux voussures et encadré de deux colonnes à chapitaux, et surmonté d'une fenêtre plein-cintre. Le cimetière, toujours existant, se trouvait tout autour, et reste le seul témoin de l'emplacement de cette ancienne église.