Tourné vers l’Orient, le sanctuaire se trouve à l’extrémité d’une esplanade arborée. La chapelle rectangulaire est terminée par un chœur demi-circulaire et au-dehors par une tour massive haute de 26m, le clocher, qui se dresse fièrement sur la pointe du rocher. Une statue blanche de 5m de haut a été installée tout au sommet, à une centaine de mètres au-dessus de la rivière, représentant la Vierge Immaculée, les mains tendues.
L’intérieur dallé possède une tribune à deux étages accessible de l’extérieur et qui soutient une galerie des statues des apôtres en bas-relief. La voûte à plein-cintre est ornée de gracieux cordons, de rosaces et de palmettes dorées. L’autel principal en marbre blanc relevé de bronze doré met en valeur la vierge noire miraculeuse, trésor du sanctuaire. La chapelle de St-Joseph se trouve à l’emplacement du premier oratoire marial ; elle est décorée de bannières utilisées durant les processions.
Les deux vitraux du chœur représentent à droite la bergère sauvée par Marie, et à gauche Jean-François-Régis priant Notre-Dame d’Ay. D’autres visiteurs prestigieux sont venus la prier comme le Curé d'Ars, Thérèse Couderc ou Teilhard de Chardin. Une rosace de facture moderne a été installée à l'occasion de l'an 2000, au-dessus de l’entrée principale
Deux dates importantes :
19 juillet 1968 : la vierge noire à l’enfant, du XVIIème siècle (bois de chêne) est classée monument historique.
14 mai 1982 : le site de Notre-Dame d’Ay est inscrit sur l’inventaire des sites pittoresques du département de l’Ardèche.
