L'edificio religioso, risalente con ogni probabilità al XII secolo, sorge dove, prima della disastrosa frana del 1616, era situato l'antico paese di Roccavivi (detto Roccavecchia), lungo il sentiero che conduce alla certosa di Trisulti, attraverso il "Vado di Rocca". Lo stile architettonico è tipico dell'arte romanica di quell'epoca[1].
La chiesa in origine aveva il titolo di San Silvestro e di Santa Maria, mentre stando ad un documento ecclesiastico del 1703 era dedicata anche alla Madonna delle Grazie. Presumibilmente questo culto ebbe origine dal 1616, anno della frana che provocò la distruzione del borgo vecchio. Nel corso del XVIII secolo il santuario fu riservato all'esclusivo culto della Madonna, mentre San Silvestro restò il patrono di Roccavivi.
Il santuario non subì danni irreparabili dal terremoto della Marsica del 1915 ma fu gravemente danneggiato dai bombardamenti aerei alleati della seconda guerra mondiale che colpirono il territorio il 24 marzo 1944. Le bombe causarono lesioni alla volta e danni al tetto e alle vetrate. Tra il 1953 e il 1959 furono eseguiti i lavori di restauro per l'importo di 1.800.000 lire ottenuti per i danni causati dalla guerra.
Nel 1990 ebbero inizio nuovi lavori di restauro conservativo e consolidamento architettonico. Durante questi lavori vennero riportati alla luce la vecchia facciata in pietra ed un arco posto all'interno ed alcuni particolari ed elementi della chiesa per molto tempo nascosti. Tra questi l'affresco dei Santi Pietro e Paolo, posti rispettivamente a destra e a sinistra della nicchia in cui è contenuta la statua della Madonna delle Grazie. Questi sono inseriti ai piedi di un vero e proprio altare dipinto, sorretto da due colonne e sormontato da due angeli oranti. San Pietro ha lo sguardo rivolto verso i fedeli, nella mano sinistra tiene un grande libro chiuso, mentre nella destra ha le chiavi del paradiso; San Paolo, invece, tiene nella mano sinistra un grande libro aperto e nell'altra una spada. Il suo sguardo è rivolto verso la Madonna. L'affresco potrebbe essere collocato tra il 1650 ed il 1700.