En 950, l'évêque du Puy Godescalc est le premier pèlerin à faire le chemin de Saint Jacques de Compostelle. Après son retour, le Puy devient le point de départ de l'une des voies les plus importantes vers la Galice (via Podiensis).
En 1051, l'évêque reçoit le pallium (le Puy est élevé au rang d'archevêché). en 1077 commence un pèlerinage suivi. Le Puy bénéficie d'abord d'une ferveur populaire avant d'intéresser les puissants. Adhémar de Monteil, évêque du Puy, est nommé chef de la première croisade en 1095 par le pape Urbain II. Le culte se développe sous la protection des rois et des papes qui font du Puy un bastion anti-cathare. De nombreux conciles y sont tenus et les papes y effectuent plusieurs visites. Les jubilés attirent les foules et de nombreuses indulgences sont attachées au pèlerinage.

Saint Louis fait don d'une vierge reliquaire originaire du Soudan qui est détruite à la Révolution mais dont on a conservé une copie. Au XIXe siècle, on assiste à un engouement du culte marial qui aboutit à une reconnaissance du dogme de l'Immaculée Conception. La cité ponote profite grandement de cette vague qui persiste encore aujourd'hui.

La construction de la cathédrale actuelle commence à la fin du XIe siècle. L'essentiel des travaux est effectué au XIIe siècle. L'ancienne église est utilisée comme chevet. On lui ajoute un clocher, un transept puis une nef de deux travées. Lors d'une deuxième campagne de travaux, deux autres travées sont ajoutées avec un porche. Une troisième campagne permet la construction des dernières travées qui reposent sur des piliers dans le vide.