Der schöne Ausblick und die ruhige Lage auf dem Hügel der Kirche entschädigen für den etwas beschwerlichen Weg nach oben. Von außen erscheint die Kirche, die dem Heiligen Georg und Urban geweiht ist, im mittelalterlichem Gewand. An den Außenwänden der Kirche befinden sich alte Grabsteinplatten, sogar eine englische Lady ruht hier, eine Tochter des David Montague Lord Erskin, die einen einheimischen Grafen von Baumgarten geheiratet hatte. Teile der Kirche fielen einem Brand im Jahre 1740 zum Opfer, daher überrascht es so manchen, im Inneren der Kirche eine barocke Ausmalung und Ausstattung zu finden. Carl Johann Gasteiger malte im Jahr 1773 farbenfrohe Fresken vom letzten Abendmahl und das Martyrium des hl. Viktor. Die beiden großen Mittelbilder im Lagerhaus stellen die Aufnahmen des heiligen Georg und der heiligen Margareta in den Himmel dar. An den Seiten erscheinen die 12 Apostel in acht Gemälden. Ebenso eindrucksvoll sind die Deckengemälde in der zweijochigen Frauenkapelle, einer nördlichen Erweiterung des Langhauses nach 1740. Über dem Altar hat das Gnadenbild der Muttergottes mit Kind (um 1600) seinen Platz, was auf eine lange Wallfahrtsgeschichte von Stubenberg hinweist.
